Wo die Wertschöpfung durch GenAI wirklich zu suchen ist

Der Hype um GenAI verfliegt langsam und an seiner Stelle tritt eine nüchterne Betrachtung der Möglichkeiten, die Vorteile von GenAI kurzfristig zu nutzen.

Der Hype um generative KI (GenAI) ist sehr gut nachvollziehbar, wenn man sich die Vorteile für Unternehmen genauer ansieht. BP konnte zum Beispiel bei seinem Customer Service fast 4.000 Arbeitsstunden dadurch einsparen, dass die Service-Agents auf Knopfdruck eine Zusammenfassung des jeweiligen Vorfalls aufrufen können. Der britische Gesundheitsdienstleister Simplyhealth konnte durch den Einsatz von GenAI die Produktivität seiner Service-Agents um 90 Prozent steigern und der Wissenschaftsverlag Wiley erzielte dabei einen ROI von mehr als 200 Prozent.

Kein Wunder, dass aufgrund solcher Ergebnisse Business-Entscheider ihre CIOs drängen, ihre KI-Strategie zu überarbeiten und die eigene GenAI-Entwicklung voranzutreiben. Doch fast zwei Jahre nach der Vorstellung von ChatGPT ist bei den meisten Unternehmen von der Entwicklung eigener GenAI-Produkte nicht allzuviel zu sehen – und das wirft Fragen auf:

• Gibt es einen Weg, relativ kurzfristig, ohne Riesenaufwand und auf sichere Weise GenAI-Funktionalität in die eigenen Geschäftsprozesse zu implementieren, so dass der Return-on-Investment absehbar ist?
• Falls ja, in welchen Geschäftsprozessen kann GenAI ihre Stärken am besten ausspielen?
• Welche Voraussetzungen sind dabei zu erfüllen?

Um diese Fragen zu beantworten ist es nötig, einige wichtige technische Eigenschaften von GenAI zu Kenntnis zu nehmen. Denn eine beliebte Fehlannahme des nicht-technischen Managements besteht darin, dass es sich bei GenAI um eine Anwendung handelt, die wie jede andere in die Anwendungslandschaft des Unternehmens und in Geschäftsprozesse integriert werden kann. Dem ist leider nicht so. Vielmehr handelt es sich bei GenAI um eine Technologie, die gerade dabei ist, ihren Weg in bestehende Anwendungen zu finden.

Wie arbeitet GenAI?

Generative KI verwendet in der Regel probabilistische Large-Language-Modelle (LLMs). Diese arbeiten mit statistischen Mustern, die sie aus großen Mengen verschiedener Inhalte gewinnen. Bevor diese Inhalte der KI für Trainingszwecke zur Verfügung gestellt werden, müssen sie thematisch kategorisiert werden – ein Gesetzestext beispielsweise wird der Kategorie ‚Recht‘ zugeordnet, die Gebrauchsanleitung eines Rasenmähers der Kategorie ‚Gartengeräte‘, etc. Die Kategorisierung sorgt dafür, dass die KI den Kontext einer Frage oder eines Prompts richtig einordnen und entsprechend antworten kann.

Die Antworten wiederum basieren auf einer Wahrscheinlichkeitsberechnung. Auf Grundlage des jeweiligen Kontextes und der „gelernten“ Inhalte berechnet das Modell eine Abfolge von Wörtern, die mit höchster Wahrscheinlichkeit eine korrekte Antwort darstellen dürfte. Bei der Zusammenfassung eines größeren Texts (z.B. ein Meeting-Protokoll) oder der Historie eines Vorfalls im Bereich Customer Service analysiert das Modell den gesamten Text, um die Grundthematik zu erfassen und den Inhalt zu „verstehen“, identifiziert die wichtigsten Aussagen und gibt die wesentlichen Erkenntnisse mit eigenen Formulierungen wieder.

Wegen des probabilistischen Verfahrens, das LLMs verwenden, lassen sich bei GenAI falsche Antworten nie hundertprozentig ausschließen. Eine Verbesserung der Ergebniszuverlässigkeit se lässt sich erst durch eine ganze Reihe von Maßnahmen erzielen, darunter durch eine hohe Datenqualität, eine möglichst präzise Eingrenzung des Kontexts sowie durch den ausdrücklichen Ausschluss bestimmter Antworten. Firmen wie OpenAI, Google oder Anthropic haben diese Verfahren soweit verfeinert, dass sie die Fehlertoleranz ihrer Produkte wesentlich senken konnten. Dadurch sind diese inzwischen in vielen Unternehmen zu Standard-Tools für eine breite Palette von Anwendungen geworden.

Einbindung von ChatGPT & Co. in Unternehmensanwendungen

Für die Einbindung von ChatGPT in unternehmensspezifische Anwendungen hat OpenAI letztes Jahr eine API zur Verfügung gestellt, die bereits zwei Wochen nach ihrer Ankündigung von mehr als 100 Großunternehmen lizenziert worden war. Doch weder ChatGPT noch die Produkte der direkten Wettbewerber sind zu diesem Zeitpunkt in einem Entwicklungsstadium, in dem man sie einfach einbinden und mit etwas Training loslaufen lassen kann. Wer es dennoch tut, muss mit ähnlichen Nebenwirkungen rechnen wie die Stadt New York, deren von Microsoft lizenzierter Chatbot seine Nutzer zum Teil falsch informierte oder sogar zum Rechtsbruch riet.

Der Aufwand zur Integration generischer Produkte wie ChatGPT in eigene Anwendungen ist nicht zu unterschätzen. Jenseits der genauen Definition des Use Cases muss eine Menge Arbeit in Disziplinen wie Datenselektion und -bereinigung, Prompt Engineering, Context Management, Ergebnisvalidierung, Fehlervermeidung, Compliance, Governance und andere investiert werden. Und dies wiederum setzt voraus, dass die KI- Entwicklungsumgebung und das nötige Know-how vorhanden sind. Außerdem müssen die relevanten Daten in einer von der KI verwertbaren Form zur Verfügung stehen. Die meisten API-Lizenznehmer von ChatGPT dürften noch mitten in diesen Arbeiten stecken, Für die Annahme spricht auch die Tatsache, dass der Anteil der API-Lizenzen am Gesamtumsatz von OpenAI nach einer Hochrechnung von FutureSearch nur bei 15 Prozent liegt. 

Auf eine vorhandene Entwicklungsumgebung zurückgreifen

All diese Arbeit zur Integration von GenAI-Funktionalität in Business-Anwendungen haben Firmen wie Salesforce für die eigenen GenAI-Produkte bereits geleistet. Letztere haben zwar nicht den Anspruch, wie ChatGPT alle Wissensfelder dieser Welt abzudecken, dafür sind sie aber umso präziser auf die Funktionalität der Salesforce-Plattform und auf die Prozesse, die diese abdeckt, abgestimmt. Dadurch ist es Salesforce auch möglich, relativ zügig immer mehr Standard-Funktionen der Plattform durch KI aufzuwerten und Salesforce-Nutzern den KI-Assistenten Einstein Copilot als ständigen Begleiter zur Seite zu stellen.

Ein weiterer Nebeneffekt dieser Vorarbeit besteht darin, dass Salesforce einen Auszug der eigenen KI-Entwicklungsumgebung zu einem eigenständigen Produkt konfiguriert hat und Salesforce-Kunden in Form des Einstein 1 Studios zur Verfügung stellt. Damit können Kunden mit der Entwicklung von GenAI-Funktionalität loslegen, noch bevor sie die eigene KI-Entwicklungsumgebung aufgebaut haben. Beispielsweise lassen sich mit Einstein 1 Studio eigene Varianten des Einstein Copilots bauen, indem vorhandene KI-Modelle angepasst oder komplett neue erstellt werden. Auf Basis der eigenen Use Cases und Daten lassen sich außerdem bestehende Plattform-Funktionen kundenspezifisch erweitern. Dabei müssen die Kunden wenig Aufwand in Dinge wie Datensicherheit, Vertraulichkeit, Compliance und Governance investieren – die integrierte Entwicklungsumgebung der Plattform stellt die Grundvoraussetzungen für das Management all dieser Disziplinen zur Verfügung.

Die eigene GenAI mit Bedacht angehen

Es ist daher kein Zufall, dass nach Erkenntnissen von Beratungsfirmen wie Bain oder McKinsey die populärsten Anwendungsbereiche für GenAI momentan Marketing und Sales, Customer Service, Workplace-Produktivität und Produktentwicklung (Code-Generierung) sind. Diese Bereiche sind nicht nur diejenigen, in welche GenAI am besten ihre Stärken zum Ausdruck bringen kann, sondern auch die, in denen seitens der Anbieter von Business-Apps die meiste Entwicklungs- und Integrationsarbeit geleistet wurde. Innerhalb dieser Apps sind denn auch kurzfristig die meisten Quick-Wins in Sachen Effizienz, Produktivität und Automatisierung zu suchen.

Das bedeutet natürlich nicht, dass damit der Aufbau einer eigenen KI-Entwicklungsumgebung für die Unternehmen hinfällig ist. Nur kann (und sollte) dieser nun ohne Hektik, mit Bedacht und planvoll angegangen werden. Dass genau dies in den Unternehmen passiert, bestätigt auch der aktuelle GenAI-Report von Bain: „Die Gespräche über generative KI sind branchenübergreifend ernsthafter geworden und haben sich von Aufregung und Hype zu realistischeren Einschätzungen entwickelt. Sicherheitsbedenken und Gespräche über die Implementierung werden bewusster und fundierter geführt, da die Unternehmen aufgrund der Erfahrungen aus Pilotprojekten ein besseres Verständnis für die Herausforderungen haben.“

Erst wenn das grundlegende Fundament für KI-Entwicklung steht, kann auch GenAI-Funktionalität so entwickelt werden, dass sie die erhofften Resultate liefert, bestätigt auch McKinsey. Deren letztem KI-Report zufolge sind die bisherigen KI-Vorreiter auch bei der Einführung von GenAI-Tools schneller als alle anderen – weil die Entwicklungsbasis für KI bereits existiert.