Karpathy: Zmień format odpowiedzi LLM, aby lepiej dopasować go do zadania

Andrej Karpathy proponuje odejście od czystego tekstu na rzecz dynamicznych formatów odpowiedzi, takich jak diagramy czy interaktywne strony HTML.
Andrej Karpathy powrócił z nową koncepcją: zwykły tekst nie zawsze jest najlepszym interfejsem do współpracy z dużymi modelami językowymi.
W swoim wpisie zasugerował, by prosić modele o odpowiadanie w formacie najlepiej dostosowanym do konkretnego zadania:
- Wyjaśnienia tekstowe: stosowanie standardu ASD-STE100 (kontrolowany angielski stworzony dla dokumentacji technicznej w lotnictwie). Ograniczone słownictwo i struktura zdań czynią odpowiedzi bardziej przejrzystymi; Karpathy często prosi model o przestrzeganie tego standardu „w około 80%”, aby tekst nie stał się suchym podręcznikiem.
- Grafika zamiast długiego tekstu: generowanie diagramów lub obrazów.
- Interaktywne strony: w przypadku bardziej złożonych tematów tworzenie stron HTML z wizualizacjami i animacjami.
- Jednorazowe filmy wideo: następnym krokiem, który Karpathy uważa za szczególnie obiecujący, jest wyjaśniający film wideo dla konkretnego pytania, np. w stylu kanału 3Blue1Brown, z narracją wygenerowaną przez ElevenLabs.
Idea ta wykracza poza konkretne prompty: jeśli generowanie kodu i treści stanie się wystarczająco tanie, pojedyncze pytanie może uzasadnić stworzenie jednorazowej mini-aplikacji, wizualizacji lub filmu, które wcześniej nie miały ekonomicznego sensu. Według Karpathy’ego, wraz ze wzrostem autonomii modeli, rozumienie i nadzorowanie ich pracy będzie zajmować coraz większą część czasu człowieka.
Dlaczego to ważne
AnalizaZmiana ta przesuwa akcent z precyzji sformułowań promptu na optymalizację formatu odpowiedzi, co znacząco poprawia klarowność przekazu i skraca czas potrzebny na interpretację wyników modelu.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami