Harvard lança curso de segurança de IA para pós-graduação com OpenAI e Anthropic

Harvard oferece neste outono um curso de pós-graduação sobre segurança da IA, com palestrantes da OpenAI e da Anthropic e aulas gratuitas no YouTube.
Harvard está oferecendo neste outono um curso de pós-graduação sobre segurança da IA, e a lista de especialistas convidados é impressionante.
Pela OpenAI, falarão o cientista-chefe Jakub Pachocki e o cofundador John Schulman, além de uma sessão de perguntas e respostas com Sam Altman.
Pela Anthropic — Nicholas Carlini e Jack Lindsey.
O programa inclui:
- RLHF e aprendizado por reforço para modelos capazes de raciocinar;
- reward hacking, quando modelos encontram formas de enganar avaliadores;
- monitoramento de cadeias de raciocínio;
- interpretabilidade, ou seja, o estudo da estrutura interna dos modelos;
- riscos cibernéticos e biológicos da IA;
- alinhamento da IA quando a IA ajuda a criar a próxima geração de IA;
- especificações de modelos, pesos abertos, regulação e impacto da IA no mercado de trabalho.
As aulas podem ser assistidas gratuitamente no YouTube. Mais detalhes estão disponíveis no programa do curso.
Por que isso importa
AnáliseO curso mostra que a segurança da IA está entrando nos currículos acadêmicos e atraindo pesquisadores de ponta de laboratórios de fronteira. Ele ajuda a entender RLHF, reward hacking, interpretabilidade e debates regulatórios sobre IA.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic abre capital: ações negociadas perto de US$ 100
A Anthropic captou US$ 81 bilhões no IPO e mais US$ 26 bilhões com venda privada de ações para grandes investidores; a demanda superou a oferta em sete vezes.
FT: Anthropic precisa de US$ 600 bilhões em receita anual para justificar gastos com computação
Segundo o FT, a Anthropic teria de atingir cerca de US$ 600 bilhões de receita por ano para que seus compromissos de computação se tornem economicamente justificáveis.
Codex Skills para iniciantes: como automatizar fluxos de trabalho de agentes de IA
Guia prático para criar e usar Skills no Codex: anatomia do SKILL.md, ativação explícita e automática, diferenças entre skills, scripts e tools, Skills API e configuração de limites de segurança.
Claude Haiku (Modelos compactos e rápidos da Anthropic)
O modelo mais compacto e rápido da linha Anthropic. Projetado para respostas instantâneas, classificação de texto em massa, extração de dados e roteamento de agentes com custo mínimo.