Dicas de Andrej Karpathy para trabalhar com LLMs

Andrej Karpathy compartilha seu método favorito para interagir com modelos de linguagem, sugerindo o uso do modo de voz para criar monólogos caóticos.
Dicas de Andrej Karpathy para trabalhar com LLMs
Andrej Karpathy falou sobre uma de suas formas favoritas de trabalhar com Modelos de Linguagem de Grande Escala (LLMs). Ele aconselha que, às vezes, não se deve tentar formular o prompt perfeito, mas sim simplesmente ditar um longo fluxo de pensamentos para o modelo.
Você pode ativar o modo de voz e falar por cerca de dez minutos sobre qualquer assunto: com repetições, erros, fragmentos de frases e saltos entre tópicos. Segundo ele, os LLMs são bons em montar esses monólogos caóticos em uma imagem coerente e frequentemente articulam seus pensamentos com muito mais clareza do que você mesmo.
Às vezes, essa sessão pode ser transformada em uma pequena entrevista com várias trocas. Como resultado, o modelo entende melhor o contexto e o objetivo final, e você acaba precisando corrigi-lo com muito menos frequência.
Por que isso importa
AnáliseEssa abordagem permite um uso mais eficaz dos LLMs, simplificando o processo de formulação de prompts e melhorando significativamente a qualidade dos resultados obtidos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores