Das Potenzial der neuen autonomen KI-Agenten ist immens, doch es kann nur dann voll ausgeschöpft werden, wenn es gelingt, eine vertrauenswürdige KI aufzubauen.
KI hat sich vom Experimentierfeld zu einer bedeutenden Business-Komponente in allen Branchen und Organisationen entwickelt. Dieser Prozess ist bereits so weit fortgeschritten, dass immer seltener über die technologischen Parameter diskutiert wird, sondern zunehmend übergeordnete Aspekte, wie Ethik, Governance und menschliche Werte in den Vordergrund rücken. Was unter anderem auch daran liegt, dass mit der zunehmenden Leistung der KI auch die Risiken überproportional ansteigen.
KI-Agenten: Mächtige Powertools, die gebändigt werden müssen
Die Debatte um KI hat sich in jüngster Zeit verschärft, denn mit dem Aufkommen der autonomen KI-Agenten wurde das Leistungspotenzial von KI deutlich gesteigert. Hier gilt jetzt der gleiche Grundsatz wie in allen anderen gesellschaftlichen Bereichen: Mit zunehmendem Einsatz und Leistung steigt auch die Verantwortung. Das zeigt sich vermehrt bei der KI-Akzeptanz. So fordern Kunden und Mitarbeiter mehr Transparenz, Kontrolle und klare Leitplanken bei allen KI-Prozessen. Hier muss das Vertrauen in die KI deutlich verbessert werden, damit eine breite Unterstützung erreicht werden kann.
Das betrifft vor allem die zunehmende Personalisierung im Marketing, im Vertrieb und im Kundendienst, wo die Kunden dank KI immer persönlicher angesprochen werden. Die aber haben das Gefühl, dass sie dabei übervorteilt werden, weil sie im Gegenzug ihre wertvollen Daten zur Verfügung stellen. In einer weltweiten Umfrage1 von Salesforce gaben 73 Prozent der befragten Kunden an, dass sie zwar als Individuen behandelt werden, doch nur 49 Prozent meinten, dass ihre Informationen in einer für sie vorteilhaften Weise genutzt werden. Und 72 Prozent wollten wissen, wann sie gerade mit einem KI-Agenten und wann mit einer echten Person kommunizieren.
Nicht nur Kunden, auch Mitarbeiter fordern mehr Transparenz
Jede neue Technologie ist wertlos, wenn sie von den Mitarbeitern nicht zielgerichtet genutzt wird. Das ist gerade bei den autonomen KI-Agenten besonders wichtig, da deren Training und Implementierung aufwändig ist und der Nutzen sich nur in enger Kollaboration mit den Mitarbeitern ergibt. Doch damit die Agenten von den Mitarbeitern akzeptiert werden, müssen sich diese erst qualifizieren. Und das ist noch ein weiter Weg.
Bislang delegieren nur sehr wenige Mitarbeiter ihre Aufgaben an die KI. Salesforce kommt in seiner Umfrage zu dem Ergebnis, dass nur sieben Prozent der Angestellten KI für so vertrauenswürdig halten, dass man ihr wichtige Teilaufgaben übertragen kann. Somit konzentriert sich ihr Einsatz von KI auf wenige, gut kontrollierbare Bereiche, wie Code-Generierung, Datenanalysen und Kommunikationsunterstützung.
Die Lösung: Vertrauenswürdige KI
Unter KI-Experten ist „vertrauenswürdige KI“ bereits zu einem feststehenden Begriff geworden. Die EU hat hierzu eine Richtlinie2 erarbeitet, wonach sich eine solche KI durch drei Komponenten auszeichnet:
- Rechtmäßigkeit, das heißt, sie muss alle anwendbaren Gesetze und Bestimmungen einhalten.
- Ethik – sie gewährleistet die Einhaltung aller ethischen Grundsätze und Werte
- Robustheit, und zwar sowohl in technischer als auch in sozialer Hinsicht.
Aber auch ein so angelegtes System nützt wenig, wenn die Mitarbeiter ihm misstrauen. Hier kommt der Weiterbildung eine entscheidende Bedeutung zu. Laut der Salesforce-Studie meinen 54 Prozent aller Arbeitnehmer, dass sie nicht wissen, wie die KI an ihrem Arbeitsplatz implementiert wurde oder gesteuert wird. Das hat Folgen, denn diejenigen, die wissen, wie die KI an ihrem Arbeitsplatz implementiert und gesteuert wird, sind optimistischer und zuversichtlicher. Sie meinen, dass ihre KI schon innerhalb der nächsten zwei Jahre völlig autonom arbeiten kann.
KI ersetzt keine Mitarbeiter, sondern verbessert sie
Ein besonderes Problem der Mitarbeiterakzeptanz ist die Angst um den Arbeitsplatz. „Das ist völlig unbegründet“, sagt Philip Vospeter, Partner für Customer & Services bei MHP3, der Management- und IT-Beratung der Porsche AG. „Viele Produkte im Manufacturing-Umfeld sind so komplex, dass sich der Mensch damit gar nicht mehr im Detail auskennen kann“, führt er hierzu aus. „Da ist KI eine wunderbare Hilfe und ein Enablement, mit dem der Außendienst viel besser auf die Bedürfnisse des Kunden eingehen kann“, lautet seine Einschätzung.
Vospeter weiß allerdings auch um die zugehörigen Einführungsprobleme. „Das erforderliche Change-Management ist zeitintensiv. Zwar ist jeder begeistert, wenn es darum geht, neue Technologien einzuführen, doch diese Euphorie endet schlagartig, sobald die eigene Komfortzone betroffen ist.“