Large Language Model Meta AI

Meta bringt Chatbot für Forschende

Uhr
von Yannick Chavanne und übersetzt von Yannick Züllig

Meta kündigt ein eigenes Modell zur Sprachverarbeitung an. Dabei handelt es sich jedoch nicht um einen potenziellen Konkurrenten von ChatGPT, sondern um ein Modell, das weniger Ressourcen benötigt und für die akademische Forschung bestimmt ist.

(Source: ©fottoo - stock.adobe.com)
(Source: ©fottoo - stock.adobe.com)

Meta hat angekündigt, ein grosses Sprachmodell im Stil von ChatGPT zur Verfügung zu stellen, das auf den Namen LLaMA (Large Language Model Meta AI) getauft wurde. Die Muttergesellschaft von Facebook will sich jedoch a priori von der Strategie unterscheiden, die von Microsoft oder Google verfolgt wird (die für einige ihrer Produkte begonnen haben, die Möglichkeiten von ChatGPT zu nutzen). Meta positioniert LLaMA als linguistisches Modell, das Akademikern bei ihrer Arbeit in diesem Bereich helfen soll.

In seiner Ankündigung weist der von Mark Zuckerberg geleitete Konzern darauf hin, dass der vollständige Zugang zu solchen Modellen nach wie vor begrenzt ist, wodurch die Möglichkeiten zur Lösung der mit diesen Technologien verbundenen Probleme (Voreingenommenheit, Toxizität, Falschinformationen ...) eingeschränkt werden. Meta zufolge mangelt es in der Forschungslandschaft an Ressourcen und Kapazitäten, um grosse Sprachverarbeitungsmodelle zu trainieren.

Verkleinertes Modell

LLaMA wird in mehreren Größen verfügbar gemacht, d. h. es basiert auf einer unterschiedlichen Anzahl von Variablen (7 Milliarden, 13 Milliarden, 33 Milliarden und 65 Milliarden). Zum Vergleich: Das GPT-3-Modell von OpenAI basiert auf 175 Milliarden Variablen, und Gerüchten zufolge wird GPT-4 mehr als 100 Billionen Variablen umfassen.

LLaMA ist also viel kleiner als die Sprachmodelle, die als die leistungsfähigsten gelten. Meta erklärt jedoch, dass die Grösse seines Modells für seinen Verwendungszweck von Vorteil ist. Er betont, dass sein Training viel weniger Rechenleistung und Ressourcen benötigt, um neue Ideen zu testen, die Arbeit anderer zu überprüfen und neue Anwendungsfälle zu erforschen.

Der Szenenstar ChatGPT hingegen kämpft derweil mit Missbrauch durch Cyberkriminelle. Diese verbreiten im Netz Links über welche man angeblich eine Desktop-Variante der Software herunterladen kann. Dieser Download enthält jedoch keine ChatGPT-Software, sondern Malware, wie Sie hier nachlesen. 

Webcode
H3mhvkMx