EPFL-Forschende bringen KI das Zweifeln bei

(Source: horizon / stock.adobe.com)

(Source: horizon / stock.adobe.com)

Generative KI krankt an einem Grundproblem: Sie weiss nicht, dass sie nichts weiss. Genauer gesagt erkennt sie nicht zuverlässig, wann sie falschliegt. Das zeigt sich etwa daran, dass ChatGPT & Co. mitunter erfundene oder falsche Antworten ebenso überzeugend formulieren wie korrekte. Solche KI-Halluzinationen können User in die Irre führen und teure Folgen haben - auch in der Forschung.

Im Labor kann eine falsche Empfehlung rasch Zeit, Material und Geld kosten. Forschungsteams testen dann womöglich wenig aussichtsreiche Moleküle, Materialien oder Reaktionsbedingungen. Um dieses Problem zu entschärfen, haben Bojana Ranković und Philippe Schwaller vom Laboratory of Artificial Chemical Intelligence der EPFL ein Verfahren namens "GOLLuM" entwickelt. Der Name steht für "Gaussian Process Optimized LLMs". "GOLLuM" koppelt ein Sprachmodell an ein statistisches Modell, das aus früheren Versuchsergebnissen lernt, wie die EPFL mitteilt.

Hinter diesem statistischen Modell steckt ein sogenannter Gauss-Prozess. Vereinfacht gesagt erkennt er Muster in bisherigen Ergebnissen und schätzt auf dieser Grundlage, welches Ergebnis unter neuen Versuchsbedingungen zu erwarten ist. Zugleich liefert er ein Mass dafür, wie unsicher diese Prognose ist.

Unsicherheit weist der KI den Weg

Diese Unsicherheit nutzt "GOLLuM" als Trainingssignal. Statt das Sprachmodell direkt entscheiden zu lassen, welches Experiment als Nächstes sinnvoll wäre, bewertet der Gauss-Prozess die möglichen Optionen. Das Sprachmodell lernt aus diesen Rückmeldungen und verändert nach und nach, wie es den sogenannten Suchraum strukturiert - also die Gesamtheit aller möglichen Versuchsbedingungen.

Bedingungen mit ähnlichen Ergebnissen rücken dabei näher zusammen, solche mit unterschiedlichen Resultaten weiter auseinander. So soll "GOLLuM" schneller erkennen, in welchen Bereichen des Suchraums vielversprechende Lösungen liegen.

Mit jeder Iteration ordnet "GOLLuM" den Suchraum neu: Versuchsbedingungen mit ähnlichen Ergebnissen rücken näher zusammen. Sterne markieren vom System vorgeschlagene, Dreiecke anfängliche Bedingungen; die Farbe zeigt den jeweiligen Ertrag. (Source: Ranković et al. © 2026 EPFL)

Für solche Aufgaben kommt in der Forschung bereits die sogenannte Bayes-Optimierung zum Einsatz. Sie lernt aus bisherigen Versuchsergebnissen und grenzt damit aussichtsreiche Optionen für weitere Experimente ein. Dafür benötigt sie jedoch häufig sogenannte Deskriptoren - mathematisch beschriebene Eigenschaften, die Fachleute passend zum jeweiligen Problem auswählen müssen. Was für chemische Reaktionen funktioniert, lässt sich deshalb nicht ohne Weiteres auf Materialien oder Moleküle übertragen.

"GOLLuM" soll diese Hürde umgehen. Das Verfahren kann Versuchsanordnungen direkt in natürlicher Sprache verarbeiten. Forschungsteams müssen damit nicht für jede neue Aufgabe zunächst aufwendig festlegen, anhand welcher mathematischen Merkmale das System Moleküle, Materialien oder Reaktionen vergleichen soll.

Mit weniger Experimenten zu besseren Ergebnissen

Für die in "Nature Machine Intelligence" veröffentlichte Studie testeten die Forschenden "GOLLuM" an 23 Aufgaben aus Chemie, Material- und Katalyseforschung sowie der Moleküloptimierung. Im Vergleich mit klassischer Bayes-Optimierung fand das Verfahren schneller erfolgversprechende Versuchsbedingungen. Im Median brauchte "GOLLuM" laut Studie 41 Prozent weniger Experimente, um das Leistungsniveau der Vergleichsmethode zu erreichen.

Ohne "GOLLuM" gerieten die Sprachmodelle dagegen deutlich häufiger auf Abwege. Sie erfanden chemische Strukturen, wiederholten bereits getestete Bedingungen oder schlugen Optionen ausserhalb des vorgegebenen Suchraums vor. Je nach Modell scheiterten 10 bis rund 80 Prozent der Antworten - etwa weil sie ungültig, doppelt oder nicht auswertbar waren.

Was das Verfahren im Labor bringen könnte

Philippe Schwaller sieht darin vor allem einen praktischen Zeitgewinn. Forschungsteams könnten demnach schneller mit der Suche nach geeigneten Versuchsbedingungen beginnen, statt zunächst aufwendig passende mathematische Beschreibungen für ein neues Problem zu entwickeln.

Das Forschungsteam sieht auch Potenzial für weitgehend automatisierte Labore sowie für Experimente, bei denen Menschen und KI zusammenarbeiten. Dabei muss die KI nicht zwingend nur die eine beste Lösung finden. Je nach Versuch können auch Kosten, Nachhaltigkeit, Sicherheit oder die Verfügbarkeit bestimmter Stoffe darüber entscheiden, welche Bedingungen sich am besten eignen.

Wie gut "GOLLuM" ausserhalb standardisierter Testaufgaben funktioniert, muss sich allerdings noch im Laboralltag zeigen. Die Forschenden weisen in ihrer Studie zudem auf Grenzen hin: Bei Tausenden Experimenten steigt der Rechenaufwand des statistischen Modells stark. Auch bei komplexen Daten, die sich nur schwer sprachlich beschreiben lassen - etwa räumlichen Proteinformen oder Kristallstrukturen -, könnte der Ansatz an Grenzen stossen.

Übrigens: Auch Forschende der ETH Zürich arbeiten daran, KI-Systeme verlässlicher zu machen und ihre Unsicherheit besser einzuschätzen - mehr dazu lesen Sie hier.