Microsofts neue Inferenzplattform soll den KI-Betrieb effizienter machen

Microsoft will den KI-Chip Azure Maia 300 ab 2027 einsetzen. (Source: zVg)

Microsoft will den KI-Chip Azure Maia 300 ab 2027 einsetzen. (Source: zVg)

Microsoft will seine KI-Dienste künftig verstärkt auf eigenen Beschleunigern betreiben. Dafür hat der Konzern die neue KI-Inferenzplattform Maia 300 vorgestellt. Diese soll künftig als zentrales System für den Betrieb von Microsofts KI-Produkten und -Diensten dienen, wie das Unternehmen mitteilt. Ab 2027 wolle Microsoft seine Azure-Maia-Infrastruktur im Multi-Gigawatt-Bereich skalieren.

Maia 300 ist laut Mitteilung darauf ausgelegt, KI-Modelle im laufenden Betrieb möglichst effizient auszuführen. Dazu gehören Microsoft zufolge etwa komplexe Schlussfolgerungen über lange Textzusammenhänge hinweg, Konversationsanwendungen mit kurzen Reaktionszeiten und kontinuierliche, mehrstufige Aufgaben von KI-Agenten.

Mehr KI-Leistung bei gleichem Stromverbrauch

Nach Angaben von Microsoft soll Maia 300 "im Vergleich zu führenden GPU-basierten Systemen 40 Prozent mehr Tokens pro Megawatt" liefern. In einer Konfiguration mit 96 Beschleunigern soll das neue System zudem auf Rack-Ebene einen bis zu siebenmal höheren Token-Durchsatz erreichen als Maia 200.

Die Vorgängergeneration kommt gemäss Mitteilung bereits unter anderem bei Microsoft Copilot zum Einsatz. Bis Ende 2026 sollen Github Copilot und Microsoft Foundry folgen, wie das Unternehmen schreibt. Mit Maia 300 wolle Microsoft künftig weitere KI-Anwendungen effizienter betreiben und beispielsweise die Interaktionen mit Dragon Copilot beschleunigen.

Anscheinend setzt übrigens mehr als jede zweite Schweizer Gemeinde auf E-Mail-Lösungen von Microsoft, wie eine Studie zeigt. Laut dieser gibt es zudem deutliche Lücken beim Schutz vor gefälschten Absendern - und grosse Unterschiede zwischen den Kantonen.