Sand.ai veröffentlicht Open-MoE-Videomodell MAGI-2 Preview

Sand.ai veröffentlicht Open-MoE-Videomodell MAGI-2 Preview

Entwickler von Sand.ai haben die Gewichte und den Inferenzcode für das Modell MAGI-2 Preview veröffentlicht. Das Modell basiert auf einer Single-Stream-Architektur und erzeugt 10-sekündige Videoclips inklusive synchronisierter Audiospuren.

Es setzt auf eine für solche Modelle ungewöhnliche, feingranulare Mixture-of-Experts (MoE)-Struktur. Bei insgesamt 114 Milliarden Parametern werden pro Token nur 6 Milliarden aktiviert. In Bezug auf den Rechenaufwand pro Schritt ist es deutlich leichter als das dichte MiniMax H3 (33B). Dies führt zu einer Reduzierung der Inferenzkosten um etwa das Zehnfache, und das Modell hat sich auf Platz 6 des Artificial Analysis Leaderboards geschoben.

Der Generierungsprozess verläuft in zwei Stufen: Zunächst erzeugt das Basismodell das Video in niedriger Auflösung, anschließend skaliert ein Refiner das Ergebnis auf 1080p hoch.

Aktuell kann MAGI-2 noch nicht mit MiniMax H3 hinsichtlich der lokalen Verfügbarkeit konkurrieren. Während das quantisierte H3 auf einer einzelnen 24GB-Grafikkarte (RTX 3090/4090) läuft, benötigt MAGI-2 erheblich mehr Ressourcen. Für Cloud-Anbieter wird die Inferenz über API jedoch aufgrund der lediglich 6 Milliarden aktiven Parameter deutlich günstiger sein, und diese Architektur bietet gutes Skalierungspotenzial.

Technischer Bericht Code Gewichte