Microsoft-CEO warnt vor KI-Falle für Firmen

Satya Nadella ist seit Februar 2014 CEO von Microsoft. (Source: Microsoft)

Satya Nadella ist seit Februar 2014 CEO von Microsoft. (Source: Microsoft)

Satya Nadella warnt in einem Beitrag auf der Plattform X vor einem neuen Risiko beim Einsatz von künstlicher Intelligenz. Unternehmen könnten ihr internes Wissen nach und nach an Anbieter von KI-Modellen weitergeben, weil sie deren Dienste nutzen.

Der Microsoft-Chef bezieht sich dabei auf das sogenannte Informationsparadoxon des Ökonomen Kenneth Arrow. Es beschreibt ein Dilemma beim Verkauf von Wissen: Wer den Wert einer Information beweisen will, muss sie oft bereits offenlegen - und gibt sie damit unter Umständen kostenlos preis. Bei KI drehe sich dieses Prinzip jedoch um, argumentiert Nadella. Nicht der Anbieter, sondern die Kundschaft müsse Informationen preisgeben. Unternehmen lieferten Daten, Anweisungen, Korrekturen und Bewertungskriterien, damit ein KI-Modell möglichst präzise Ergebnisse erziele.

"Intelligenzspuren" als neues Risiko

Jede Interaktion mit einem KI-Modell hinterlässt laut Nadella sogenannte "Intelligenzspuren". Eingaben, Korrekturen, Bewertungen und Nutzungsdaten könnten nach und nach offenlegen, wie ein Unternehmen arbeitet, welche Prioritäten es setzt und über welches organisationale Wissen es verfügt. Deshalb sollten Unternehmen ihre Regeln für den Umgang mit KI nicht auf den Schutz ihrer Daten beschränken. Ebenso wichtig sei es, zu kontrollieren, wie KI-Modelle aus diesen Interaktionen lernen und welche Erkenntnisse sie daraus gewinnen.

Nadella fordert Unternehmen auf, die Kontrolle über ihre KI-Systeme zu behalten. Daten, gespeichertes Wissen, Bewertungen, Nutzungsdaten und angepasste KI-Modelle sollten möglichst im Unternehmen verbleiben, statt ungewollt an externe Anbieter zu fliessen. Ausserdem empfiehlt er Unternehmen, ihre KI-Anwendungen möglichst unabhängig von einzelnen KI-Modellen aufzubauen. So könnten sie den Anbieter bei Bedarf einfacher wechseln. Seine zentrale Botschaft: Während Unternehmen im Cloud-Zeitalter vor allem Daten gesammelt hätten, entstehe im KI-Zeitalter zunehmend neues Wissen. Dieses Wissen sollte unter ihrer Kontrolle bleiben.

Ganz frei von Ironie ist Nadellas Warnung allerdings nicht. Schliesslich bietet Microsoft mit Copilot selbst einen KI-Assistenten an, der auf E-Mails, Dokumente, Chats und weiteres internes Unternehmenswissen zugreift. Das US-Techportal "The Next Web" weist deshalb darauf hin, dass Nadella ausgerechnet eines der Unternehmen führt, das zu der von ihm kritisierten Abhängigkeit selbst beigetragen habe.

Übrigens: Nicht nur Daten, sondern auch KI-Agenten erfordern klare Governance-Regeln - mehr dazu lesen Sie hier.