Thinking Machines udostępnia Inkling – pierwszy model z otwartymi wagami
Thinking Machines zaprezentowało Inkling, swój pierwszy model z otwartymi wagami, dysponujący 975 miliardami parametrów i obsługujący tekst, obrazy oraz dźwięk.
Thinking Machines Releases Inkling
Firma Thinking Machines uruchomiła swój pierwszy model z otwartymi wagami – Inkling. Model ten charakteryzuje się imponującą liczbą 975 miliardów parametrów (z czego 41 miliardów jest aktywnych) oraz możliwością przetwarzania tekstu, obrazów i audio.
Dostęp do modelu odbywa się poprzez API platformy Tinker, oferujące okno kontekstowe o długości 256 000 tokenów. Wagi modelu są dostępne na Hugging Face, gdzie wsparcie dla kontekstu sięga nawet 1 miliona tokenów.
Wyniki i oceny
W Artificial Analysis Intelligence Index model Inkling uzyskał wynik 41 punktów, stając się wiodącym amerykańskim modelem z otwartymi wagami i przewyższając Nemotron 3 Ultra, który zdobył 38 punktów.
Dostosowanie i fine-tuning
Inkling został zaprojektowany specjalnie pod kątem personalizacji i strojenia (fine-tuning) za pośrednictwem platformy Tinker, co pozwala na jego adaptację do indywidualnych produktów i przepływów pracy.
Cennik
- Koszt za 1 milion tokenów przy oknie kontekstowym 64 000:
$1,87 za tokeny wejściowe / $0,374 za tokeny buforowane / $4,68 za tokeny wyjściowe - Koszt za 1 milion tokenów przy oknie kontekstowym 256 000:
$3,74 za tokeny wejściowe / $0,748 za tokeny buforowane / $9,36 za tokeny wyjściowe
Dlaczego to ważne
AnalizaInkling stanowi znaczący krok naprzód w rozwoju modeli AI z otwartymi wagami, umożliwiając deweloperom precyzyjne dostosowywanie technologii do specyficznych potrzeb biznesowych. Otwiera to nowe możliwości w zakresie tworzenia spersonalizowanych rozwiązań sztucznej inteligencji.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami