Open-Weight-KI braucht klare Kapazitätsplanung

Open-Weight-KI verspricht mehr Kontrolle über Modelle und Betrieb. Meta und AWS zeigen mit Muse Spark Open zugleich, warum die eigentliche Unternehmensentscheidung erst nach dem Download beginnt: bei Kapazität, Auslastung, Region und Lizenz.

Großes Modell, kleinerer aktiver Pfad

Muse Spark ist ein multimodales Mixture-of-Experts-Modell mit 816 Milliarden Parametern, von denen laut Meta pro Verarbeitungsschritt 42 Milliarden aktiv sind. Der Kontext umfasst bis zu eine Million Token. Das Modell nimmt Text, Bilder, Dokumente, Audio und Video entgegen und erzeugt Text.

Die sparse Architektur reduziert den Rechenbedarf gegenüber einem gleich großen dichten Modell. Sie macht die Infrastrukturfrage aber nicht klein. Meta nennt zwei Apple-M5-Ultra-Systeme als mögliche lokale Konfiguration. AWS beschreibt für SageMaker JumpStart BF16-Inferenz auf acht p6e-GB200-Instanzen oder NVFP4 auf vier p6-B300-Instanzen.

Open Weights ersetzen kein Betriebsmodell

Beim API-Einkauf ist die zentrale Einheit meist der erfolgreiche Aufruf oder Token. Bei einem eigenen Endpoint verschiebt sich die Rechnung: Kapazität wird bereitgestellt, überwacht und bezahlt, solange der Endpoint läuft. AWS weist ausdrücklich darauf hin, ungenutzte Endpoints wieder zu löschen.

Vor einem Pilotprojekt sollten Unternehmen deshalb vier Fragen beantworten:

• Lastprofil: Ist die Nutzung kontinuierlich, gebündelt oder stark schwankend?
• Lebenszyklus: Wer startet, überwacht und stoppt Endpoints automatisiert?
• Qualität: Welche Aufgaben rechtfertigen das große Modell gegenüber kleineren Alternativen?
• Lizenz: Sind Einsatzzweck und nachgelagerte Nutzung mit der Muse Model License und der Acceptable Use Policy vereinbar?

Was das für DACH-Unternehmen bedeutet

AWS nennt zum Start die Regionen US East (N. Virginia) und US East (Ohio). Für sensible DACH-Workloads reicht daher die technische Verfügbarkeit nicht: Datenpfad, Aufbewahrung und interne Freigabe müssen zur gewählten Region passen. Selbstbetrieb kann diese Grenze verändern, überträgt aber Patchen, Skalierung, Telemetrie und Zugriffsschutz stärker auf das eigene Team.

Planen Sie einen Open-Weight-Pilot nicht nur mit Modellbenchmarks. Messen Sie Kosten pro erfolgreichem Geschäftsprozess, reale Auslastung, Startzeit, Speicherbedarf und Abschaltquote. Offen verfügbare Gewichte schaffen Wahlfreiheit. Wirtschaftlich wird sie erst mit einer belastbaren Kapazitätsplanung.