Künstliche Intelligenz (KI) übernimmt in Unternehmen zunehmend komplexere Aufgaben. Während generative KI etwa Informationen analysiert, Texte oder Code erzeugt und bei Simulationen unterstützt, können sogenannte KI-Agenten innerhalb vorgegebener Grenzen mehrstufige Prozesse bearbeiten. Sie planen Teilaufgaben, greifen auf digitale Werkzeuge und Datenquellen zu, bewerten Ergebnisse und können diese gegebenenfalls korrigieren.
Damit verändert sich auch die Rolle der Beschäftigten. Statt Informationen ausschließlich selbst zu erstellen oder zu suchen, rücken Prüfung, Einordnung und Steuerung stärker in den Mittelpunkt. Menschen definieren Ziele und Handlungsspielräume, überwachen KI-Systeme und greifen bei Unsicherheiten, Zielkonflikten oder sicherheitskritischen Entscheidungen ein. Zu diesem Ergebnis kommt ein neues Whitepaper der Plattform Lernende Systeme.
Vom Prompt zum Prozess
Zwischen ersten Anwendungen und dem dauerhaften produktiven Einsatz generativer und agentischer KI bestehe allerdings weiterhin eine deutliche Lücke, heißt es in dem Papier. Viele Projekte verblieben im Pilotstadium. Als Hürden nennt die Plattform unter anderem mangelnde Zuverlässigkeit und Steuerbarkeit, Kosten sowie Defizite bei Integration, Governance und Verantwortlichkeiten.
Die möglichen Einsatzgebiete reichen laut Whitepaper über die gesamte Wertschöpfungskette. Generative KI könne beispielsweise Unternehmenswissen erschließen, Informationen analysieren sowie Simulationen und Ideenentwicklung unterstützen. KI-Agenten könnten darüber hinaus Experimente steuern, Geschäftsprozesse bearbeiten oder Fertigungsabläufe anpassen.
„Wenn KI im Unternehmen selbstständig Aufgaben übernimmt, verändern sich auch die Fähigkeiten, die Menschen benötigen“, sagt Rahild Neuburger von der Ludwig-Maximilians-Universität München und Mitglied der Arbeitsgruppe „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ der Plattform Lernende Systeme. Beschäftigte müssten fundiert entscheiden können, welche Aufgaben sie an KI übertragen, deren Ergebnisse kritisch prüfen und mit den Systemen kommunizieren. Fachwissen bleibe dabei unverzichtbar und werde um Erfahrung sowie Steuerungs- und Delegationskompetenz ergänzt.
Klare Regeln für autonome Systeme
Mit zunehmender Autonomie steigen nach Einschätzung der Autor*innen die Anforderungen an Regeln und Kontrollmechanismen. Fehler könnten sich entlang von Prozessketten verstärken. Gleichzeitig erschwerten nicht eindeutig definierte Lösungswege die Prüfung, Zertifizierung und Erklärbarkeit der Systeme.
Weitere Herausforderungen ergeben sich durch systemübergreifende Zugriffe und mögliche Langzeitgedächtnisse von KI-Agenten. Unternehmen müssten dabei unter anderem den Umgang mit Geschäftsgeheimnissen und personenbezogenen Daten sowie Zugriffsrechte und Löschkonzepte berücksichtigen.
Das Whitepaper empfiehlt deshalb, die Einführung von KI mit klaren Zielbildern für Prozesse, Kompetenzen und Arbeitsstrukturen zu verbinden. Dazu gehörten verbindliche Leitlinien, Qualitätsmanagement, geeignete Prüfstandards und ein systematischer Kompetenzaufbau bei den Mitarbeitenden. Begrenzte Zugriffsrechte und Schutzmechanismen sollen verhindern, dass KI-Agenten ihre vorgesehenen Handlungsspielräume überschreiten.
Mensch bleibt Letztentscheider
In Pilotphasen sollten Unternehmen laut Plattform Lernende Systeme insbesondere Einsatzfelder, Datenbasis und Prozessreife prüfen. Der Erfolg eines KI-Einsatzes sollte demnach nicht ausschließlich anhand von Zeitersparnissen bewertet werden. Auch Prozessstabilität, Ergebnisqualität, Innovationsgrad, Vertrauen und die tatsächliche Entlastung der Beschäftigten seien relevante Kriterien.
„Menschzentrierte Gestaltung von KI bedeutet, dass Automatisierung so in Arbeit integriert wird, dass sie Menschen entlastet, sie aber auch qualifiziert und ermächtigt – und zudem neue Arbeit schafft“, sagt Norbert Huchler vom Institut für Sozialwissenschaftliche Forschung und Mitglied der Arbeitsgruppe „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ der Plattform Lernende Systeme. Als Zielbild beschreibt das Whitepaper ein komplementäres Arbeitssystem zwischen Mensch und Technik. Menschen legen demnach Zweck, Ziele und Grenzen fest und behalten die Letztentscheidung. KI-Agenten übernehmen innerhalb dieses Rahmens die taktische Ausführung von Aufgaben.