Ohne Sicherheitstests veröffentlicht

Microsoft muss KI-Modell Wizard LM 2 zurückziehen

Uhr
von Lia Perbo und msc

Microsoft muss sein Sprachmodell Wizard LM 2 wieder zurückziehen. Die Entwickler hatten es versehentlich ohne Sicherheitsprüfung veröffentlicht.

(Source: Márton Szalai / unsplash.com)
(Source: Márton Szalai / unsplash.com)

Microsoft hat sein neues Large-Language-Modell (LLM) Wizard LM 2 wieder zurückgezogen. Forscher hatten dieses ohne vorherige Sicherheitstests veröffentlicht, wie "Golem" berichtet. 

Die Forscher hätten sich auf der Plattform X für das Versehen entschuldigt und angegeben, sie seien mit dem neuen Freigabeprozess nicht vertraut gewesen und hätten deshalb den Schritt der Toxizitätsprüfung verpasst. 

Die versehentliche Veröffentlichung gebe Anlass zur Besorgnis, dass leistungsstarke KI-Modelle in falsche Hände geraten. "Ohne Tests und Sicherheitsvorkehrungen könnten diese Modelle schädliche oder toxische Inhalte erzeugen", schreibt "Golem". Das Modell sei in den wenigen Stunden, in denen es publiziert war, bereits auf verschiedenen Plattformen wie Github und Hugging Face hochgeladen worden, berichtet "Golem" unter Berufung auf "404 Media". 

Das Open-Source-Modell sei Microsofts "nächste Generation von hochmodernen grossen Sprachmodellen, die eine verbesserte Leistung bei komplexen Chats, mehrsprachigen Texten, Schlussfolgerungen und Software-Agenten aufweisen", entnimmt "Golem" einem inzwischen gelöschten Posting der Entwickler. 

Übrigens: Ein scheinbar sichereres LLM lancierte Microsoft unlängst für Smartphones und Tablets. Lesen Sie hier mehr zum Phi-3 Mini

Webcode
Z8uYpox9