Halluzinierst Du schon?

Wir alle lieben diese neuen KI-Wunderwerke. ChatGPT hier, ­Claude da, Gemini dort. Sie schreiben uns Texte, fassen Dokumente zusammen, geben Ratschläge und liefern Antworten im Sekundentakt. Doch Hand aufs Herz: Halluzinierst Du schon – oder prüfst Du noch nach?

Denn eines sollten wir uns klarmachen: Alles, was diese Maschinen ausspucken, ist letztlich Halluzination. Es ist statistisch erzeugt, nicht erarbeitet, nicht überprüft und ganz bestimmt nicht wahr. Die Systeme sind so gebaut, dass sie möglichst überzeugend klingen – und genau darin liegt ihr grösster Reiz, aber auch die grösste Gefahr. Die Überzeugungskraft zählt mehr als die Wahrheit, und das ist kein Fehler, sondern Absicht.

Ein Large Language Model (LLM) versteht nicht, was es schreibt. Die hübschen Guardrails und eingebauten Tools sollen uns nur davon überzeugen, dass alles stimmt. Doch Verstehen ist nicht Teil des Designs. Wenn also ein Prompt Unsinn produziert, ist das kein Bedienungsfehler, sondern ein systematischer Konstruktions­fehler. Auch der Versuch, diese Systeme massenhaft zu orches­trieren, führt nicht zu echtem Wissen. Hundert Papageien ergeben keinen Denker.

Gefährlich wird es dort, wo die Überzeugungskraft ins Spiel kommt. Diese Systeme können seitenlange «wissenschaftliche» Reports voller Zahlen, Methoden und Quellen erfinden, und sie tun dies mit einer Seriosität, die jede kritische Instanz im ersten Moment überlistet. Wer so etwas für Forschung, Politik oder Medizin blind einsetzt, spielt mit dem Feuer.

Genau hier beginnt die Verantwortung des CIO. Er oder sie muss sicherstellen, dass diese Systeme nicht als Orakel verstanden werden, sondern als Werkzeuge – Werkzeuge, die geprüft und kritisch hinterfragt werden müssen. Es ist die Aufgabe der IT-Führung, diese Haltung in den Organisationen zu verankern, klare Leitlinien zu definieren und die Belegschaft zu befähigen, mit den Ergebnissen reflektiert umzugehen. Nur so wird verhindert, dass aus spielerischer Inspiration fatale Fehlentscheidungen werden.

Am Ende bleibt: Ja, die Tools sind faszinierend und machen Spass. Sie können inspirieren und produktiver machen. Aber sie sind kein Ersatz für kritisches Denken. Jede Ausgabe muss überprüft, hinterfragt und eingeordnet werden. Denn alles ist Halluzination – und manchmal, nur manchmal, trifft sie zufällig die Realität.