Porady Andreja Karpathy’ego dotyczące pracy z modelami LLM
Andrej Karpathy dzieli się swoją ulubioną metodą współpracy z dużymi modelami językowymi, sugerując wykorzystanie trybu głosowego do generowania chaotycznych monologów.
Porady Andreja Karpathy’ego dotyczące pracy z modelami LLM
Andrej Karpathy opowiedział o jednym ze swoich ulubionych sposobów pracy z dużymi modelami językowymi (LLM). Radzi on, aby nie zawsze starać się formułować idealnego promptu, lecz zamiast tego po prostu dyktować modelowi strumień świadomości.
Można włączyć tryb głosowy i rozmawiać przez około dziesięć minut na dowolny temat: z powtórzeniami, błędami, urwanymi frazami i skokami między wątkami. Według niego modele LLM świetnie radzą sobie z porządkowaniem takich chaotycznych monologów w spójną całość i często artykułują nasze myśli znacznie jaśniej niż my sami.
Czasem taką sesję można przekształcić w krótki wywiad składający się z kilku wymian zdań. W rezultacie model lepiej rozumie kontekst i ostateczny cel, dzięki czemu rzadziej musimy go korygować.
Dlaczego to ważne
AnalizaTo podejście pozwala na bardziej efektywne wykorzystanie modeli LLM, upraszczając proces tworzenia promptów i znacząco poprawiając jakość końcowych wyników.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami