Thinking Machines udostępnia wagi modelu Inkling 2 Small
Thinking Machines udostępnia wagi modelu Inkling 2 Small
Inkling 2 Small to model MoE z 594 miliardami parametrów i 17 miliardami aktywnymi; pretraining trwał 68 godzin na 12 bilionach tokenów.
Thinking Machines udostępnia wagi modelu Inkling 2 Small
Inkling 2 Small to model Mixture-of-Experts (MoE) z 594 miliardami parametrów łącznie i 17 miliardami parametrów aktywnych. Według ogłoszenia pretraining zakończono w zaledwie 68 godzin, wykorzystując 12 bilionów tokenów. Uczenie przez wzmacnianie (RL) wymagało dodatkowych 9 dni na klastrze z 2048 kartami GPU.
Model jest opisywany jako konkurencyjny względem chińskich modeli sprzed dwóch do trzech miesięcy. Do uruchomienia potrzebne są dwie karty B300 lub cztery karty H200. Oczekiwana jest większa wersja.
Dlaczego to ważne
AnalizaTen release pokazuje, że duże modele MoE z otwartymi wagami mogą pojawiać się bardzo szybko, ale ich wdrożenie nadal wymaga infrastruktury GPU klasy B300 lub H200.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Mistral AI (Europejskie modele otwarte i efektywne)
Seria wysokowydajnych modeli open-source oraz komercyjnych francuskiego startupu Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Znane z kompaktowości, szybkości działania oraz poszanowania prywatności danych.
Część II. Architektura agentów AI: od modelu do pamięci i narzędzi
Głęboka analiza inżynierska: tokenizacja, cache KV, determinizm próbkowania, stos treningowy, kwantyzacja, inżynieria kontekstu, stos bezpieczeństwa, produkcyjny RAG, ReAct oraz systemy multiagentowe typu swarm.
Otwarte wagi vs. zamknięte API (Open vs Closed AI)
Porównanie dwóch fundamentalnych filozofii udostępniania sztucznej inteligencji: otwartych wag (Open Weights – Llama, Mistral, DeepSeek), które można pobrać i uruchomić na własnym serwerze, versus zamkniętych chmurowych API (Closed API – OpenAI, Anthropic, Google), gdzie dostęp jest przyznawany wyłącznie poprzez subskrypcję.
Część I. Architektura agentów AI: fundamentalne elementy
Dziesięć fundamentalnych elementów współczesnego agenta: taksonomia modeli, pętla runtime, techniki promptowania, destylacja, umiejętności (skills), pamięć, wywoływanie funkcji oraz ekonomia jednostkowa.