Vermittler zwischen User und LLM

Warum Unternehmen auf generative Microapps setzen sollten

Uhr
von René Jaun und tme

Viele Unternehmen experimentieren mit grossen Sprachmodellen wie ChatGPT oder Bard. Doch ihr Einsatz ist auch mit Risiken verbunden. Um diese einzugrenzen und das Potenzial von KI voll auszuschöpfen, bieten sich generative Microapps an.

(Source: Racool_Studio / Freepik.com)
(Source: Racool_Studio / Freepik.com)

Ob OpenAIs ChatGPT, Googles Bard oder eines ihrer Konkurrenzprodukte – künstliche Intelligenz (KI) verändert den Alltag in vielen Unternehmen gerade nachhaltig. Abgesehen von den grossen Sprachmodellen (oder Large Language Models, LLMs in Englisch) sollten auch generative Microapps in vielen Organisationen einziehen. Dies glaubt zumindest Nader Henein, VP Analyst beim Marktforschungsunternehmen Gartner. Denn laut Henein helfen diese neuartigen Tools einem Unternehmen nicht nur dabei, das Potenzial einer KI voll auszuschöpfen, sondern minimieren auch die damit verbundenen Risiken.

Richtig Fragen

Wie Gartner erklärt, sitzen generative Microapps zwischen einem Mitarbeitenden und dem LLM, fungieren also gewissermassen als Proxy zwischen den beiden. Die Microapp ist dabei auf einen bestimmten Anwendungszweck programmiert und formuliert gegenüber dem LLM auch die Prompts entsprechend. "Die Prompts werden verwendet, um das Modell abzufragen und Antworten in einem vordefinierten Format zu erhalten", erklärt Henein.

So könnte Beispielsweise eine generative Microapp einen Wissenschaftler beim Verfassen einer Arbeit unterstützen, indem sie spezifisch nach möglichen Forschungsquellen sucht, die den geschriebenen Text belegen. "Diese Erweiterung würde die Fähigkeiten des Autors über das menschenmögliche Mass hinaus steigern", sagt Henein. "Keine Person könnte alle veröffentlichten Forschungsarbeiten in der Datenbank kennen, aber ein LLM, ergänzt durch Unternehmensdaten, kann dies tun."

Zugang, Fakten und Expertise

Gefragt nach den mit LLMs verbundenen Gefahren, nennt Henein drei oft genannte Risiken, die mittels generativer Microapps minimiert werden könnten. So bestehe beim Einsatz von ChatGPT und Co. oft die Gefahr, dass geschützte Unternehmensdaten in falsche Hände geraten könnten. Dadurch, dass Microapps nur mit klar definierten Prompts arbeiten, könnte diese Gefahr ausgeräumt werden.

Immer wieder hört man auch davon, wie LLMs mit Hilfe ihrer Daten neue Fakten halluzinieren. Auch diese Gefahr könne durch voreingestellte Prompts reduziert werden. Zudem, erklärt Henein weiter, könne die Microapp mittels einer entsprechenden Eingabeaufforderung beim LLM eine Antwort in einem klar definierten Format erzwingen. Diese könnte dann durch die App überprüft werden.

Als dritten Punkt kommt Henein auf die mit ChatGPT und Co. verbundene Angst vor Wertminderung zu sprechen: "Unternehmen sind möglicherweise nicht bereit, den gleichen Betrag für Produkte und Dienstleistungen zu zahlen, die von einem LLM und nicht von einer Gruppe ausgebildeter und erfahrener Fachleute bereitgestellt werden", erklärt der Analyst. "Speziell angefertigte Mikroanwendungen werden entwickelt, um als Ergänzung für Wissensarbeiter zu dienen. Dadurch wird die durchschnittliche Qualität der Arbeit verbessert und die Produktivität gesteigert, was wiederum dazu beiträgt, den Fachkräftemangel zu mildern." Die Arbeit werde also nach wie vor von Fachkräften erledigt und sei somit krisensicher.

Anfang Jahr prognostizierte Gartner noch eine Reihe weiterer Technologietrends für die kommenden Jahre. Hier lesen Sie mehr zu föderiertem Technologieeinkauf, Ökosystemen für Co-Innovation und Techno-Nationalismus.

Webcode
NbJRFvWc