Sand.ai udostępnia otwarty model wideo MAGI-2 Preview z architekturą MoE
Zespół Sand.ai opublikował wagi i kod modelu MAGI-2 Preview, generującego 10-sekundowe klipy wideo ze zsynchronizowanym dźwiękiem. Model wykorzystuje rzadką, drobnocząsteczkową architekturę Mixture-of-Experts (MoE), co pozwala na aktywację jedynie 6 mld parametrów z łącznych 114 mld.
Otwarty model wideo MoE: MAGI-2 Preview od Sand.ai
Programiści z Sand.ai udostępnili wagi oraz kod do wnioskowania dla modelu MAGI-2 Preview. Model ten opiera się na architekturze single-stream i jest zdolny do generowania 10-sekundowych klipów wideo wraz ze zsynchronizowaną ścieżką audio.
Wyróżnia go zastosowanie rzadkiej, drobnocząsteczkowej architektury Mixture-of-Experts (MoE). Mimo że model posiada łącznie 114 miliardów parametrów, dla każdego tokenu aktywowanych jest tylko 6 miliardów. W przeliczeniu na moc obliczeniową przypadającą na krok, jest to znacznie lżejsza konstrukcja niż gęsty model MiniMax H3 (33B), co przełożyło się na około dziesięciokrotne zmniejszenie kosztów wnioskowania. Dzięki tym osiągnięciom MAGI-2 awansował na 6. miejsce w rankingu Artificial Analysis.
Proces generowania przebiega dwuetapowo. Najpierw model bazowy tworzy wideo w niskiej rozdzielczości, a następnie moduł refiner skaluje wynik do jakości 1080p.
Obecnie model nie stanowi bezpośredniej konkurencji dla MiniMax H3 pod kątem dostępności lokalnej. Skwantyzowana wersja H3 mieści się na pojedynczej karcie graficznej z 24 GB pamięci VRAM (np. RTX 3090/4090), podczas gdy MAGI-2 wymaga znacznie większych zasobów sprzętowych. Jednak dla dostawców usług chmurowych wnioskowanie przez API będzie znacznie tańsze dzięki aktywacji tylko 6 mld parametrów, a sama architektura wykazuje duży potencjał skalowalności.
Dlaczego to ważne
AnalizaModel ten otwiera nowe możliwości w zakresie generowania wideo z synchronicznym dźwiękiem przy jednoczesnym znacznym obniżeniu kosztów wnioskowania. Jego innowacyjna architektura MoE stwarza solidną podstawę do dalszego rozwoju i skalowania technologii AI w branży mediów.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami