Patronus AI gewinnt Cyber Startup Challenge des VBS

Der Cyber-Defence-Campus von Armasuisse Wissenschaft und Technologie hat die fünfte Cyber Startup Challenge durchgeführt. Im Rahmen dieses Wettbewerbs sucht das Schweizer Kompetenzzentrum für Informationssicherheit nach relevanten Start-ups und innovativen Technologien im Cyber-Bereich. Dieses Jahr konnte das Start-up Patronus AI die Jury mit einer Plattform zur automatisierten Bewertung und Sicherung von Large Language Models (LLMs) überzeugen, wie aus einer Mitteilung des Bundesrats hervorgeht.

Die Plattform soll es demnach Unternehmen ermöglichen, die Leistung von LLMs in realen Szenarien zu bewerten und zu vergleichen. Ausserdem biete sie Funktionen zur Erstellung von Testfällen, zur Überwachung von Halluzinationen und zur Verhinderung anderer unerwarteter und unsicherer Verhaltensweisen, heisst es in der Mitteilung. 

Mithilfe der Plattform könne man Zeit bei der manuellen Evaluation sparen, die Entwicklung sowie das Vertrauen in generative KI-Anwendungen vom Prototyp bis zur Produktion beschleunigen und Risiken von Halluzinationen und Prompt-Injektionen minimieren. Zudem liefert die Plattform gemäss Mitteilung Analysen und präzise Feedbackmechanismen, die auf dem neuesten Forschungsstand im KI-Bereich basiert. 

Patronus AI kann seine Lösung 2025 im Rahmen einer Machbarkeitsstudie dem Eidgenössischen Departement für Verteidigung, Bevölkerungsschutz und Sport (VBS) in der Praxis demonstrieren. 

Das US-amerikanische Start-up Ostorlab gewann das Cyber Startup Challenge 2023 - mit welcher Innovation das Jungunternehmen die Jury überzeugen konnte, lesen Sie hier.