Karpathy: Zmień format odpowiedzi LLM, aby lepiej dopasować go do zadania

Andrej Karpathy proponuje odejście od czystego tekstu na rzecz dynamicznych formatów odpowiedzi, takich jak diagramy czy interaktywne strony HTML.
Andrej Karpathy powrócił z nową koncepcją: zwykły tekst nie zawsze jest najlepszym interfejsem do współpracy z dużymi modelami językowymi.
W swoim wpisie zasugerował, by prosić modele o odpowiadanie w formacie najlepiej dostosowanym do konkretnego zadania:
- Wyjaśnienia tekstowe: stosowanie standardu ASD-STE100 (kontrolowany angielski stworzony dla dokumentacji technicznej w lotnictwie). Ograniczone słownictwo i struktura zdań czynią odpowiedzi bardziej przejrzystymi; Karpathy często prosi model o przestrzeganie tego standardu „w około 80%”, aby tekst nie stał się suchym podręcznikiem.
- Grafika zamiast długiego tekstu: generowanie diagramów lub obrazów.
- Interaktywne strony: w przypadku bardziej złożonych tematów tworzenie stron HTML z wizualizacjami i animacjami.
- Jednorazowe filmy wideo: następnym krokiem, który Karpathy uważa za szczególnie obiecujący, jest wyjaśniający film wideo dla konkretnego pytania, np. w stylu kanału 3Blue1Brown, z narracją wygenerowaną przez ElevenLabs.
Idea ta wykracza poza konkretne prompty: jeśli generowanie kodu i treści stanie się wystarczająco tanie, pojedyncze pytanie może uzasadnić stworzenie jednorazowej mini-aplikacji, wizualizacji lub filmu, które wcześniej nie miały ekonomicznego sensu. Według Karpathy’ego, wraz ze wzrostem autonomii modeli, rozumienie i nadzorowanie ich pracy będzie zajmować coraz większą część czasu człowieka.
Dlaczego to ważne
AnalizaZmiana ta przesuwa akcent z precyzji sformułowań promptu na optymalizację formatu odpowiedzi, co znacząco poprawia klarowność przekazu i skraca czas potrzebny na interpretację wyników modelu.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Formaty DOCX i XLSX: kiedy potrzebny jest pełnoprawny dokument końcowy od AI
Kompletny praktyczny przewodnik po generowaniu i przetwarzaniu dokumentów DOCX oraz arkuszy XLSX za pomocą AI: porównanie z Markdown i CSV, inżynieria promptów, praca z formułami oraz automatyzacja w kodzie.
Format CSV: Kompletny przewodnik po automatyzacji i pracy z AI
Praktyczny poradnik dotyczący wykorzystania formatu CSV w potokach AI: specyfikacja RFC 4180, porównanie z XLSX i JSON, masowe czyszczenie i wzbogacanie danych, kodowanie w Pythonie oraz gotowe prompty.
Qwen4-Max już dostępna: 50% mniej tokenów i niższy koszt zadania
Qwen4-Max wprowadza architekturę MoE, kontekst 1 mln tokenów, wbudowaną obsługę obrazów oraz znaczną redukcję kosztów.
Scratchpad (brudnopis agenta)
Tymczasowa przestrzeń pamięci roboczej w oknie kontekstowym modelu, w której agent zapisuje swoje pośrednie przemyślenia, plany, wątpliwości i wnioski przed wywołaniem narzędzi. Ukryta przed użytkownikiem końcowym w celu zachowania czystości interfejsu.