Harvard lance un cours sur la sécurité de l'IA pour les doctorants avec OpenAI et Anthropic

Harvard propose cet automne un cours de troisième cycle sur la sécurité de l'IA, avec des intervenants d'OpenAI et d'Anthropic et des cours gratuits sur YouTube.
Harvard organise cet automne un cours de troisième cycle sur la sécurité de l'IA, et la liste des spécialistes invités est impressionnante.
Côté OpenAI, le chercheur en chef Jakub Pachocki et le cofondateur John Schulman interviendront, avec aussi une session de questions-réponses avec Sam Altman.
Côté Anthropic — Nicholas Carlini et Jack Lindsey.
Le programme couvre :
- RLHF et apprentissage par renforcement pour les modèles capables de raisonner ;
- reward hacking, quand les modèles trouvent des moyens de tromper les évaluateurs ;
- suivi des chaînes de raisonnement ;
- interprétabilité, c'est-à-dire l'étude de la structure interne des modèles ;
- risques cyber et biologiques liés à l'IA ;
- alignement de l'IA quand l'IA aide à créer la prochaine génération d'IA ;
- spécifications des modèles, poids ouverts, régulation et impact de l'IA sur le marché du travail.
Les cours peuvent être suivis gratuitement sur YouTube. Plus de détails sont disponibles dans le programme du cours.
Pourquoi c'est important
AnalyseCe cours montre que la sécurité de l'IA entre dans les cursus académiques et attire des chercheurs de premier plan des laboratoires de pointe. Il aide à comprendre le RLHF, le reward hacking, l'interprétabilité et les débats réglementaires sur l'IA.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Anthropic entre en Bourse : les actions s'échangent autour de $100
Anthropic a levé 81 milliards de dollars lors de son IPO et 26 milliards supplémentaires via une vente privée d'actions à de grands investisseurs ; la demande a dépassé l'offre de sept fois.
Un mathématicien d’Anthropic affirme une possible preuve de l’hypothèse de Riemann avec Claude
Levent Alpoge déclare que le travail conjoint avec Claude pourrait avoir produit une preuve de l’hypothèse de Riemann.
Codex Skills pour débutants : comment automatiser les scénarios de travail des agents IA
Guide pratique pour créer et utiliser les Skills dans Codex : anatomie du fichier SKILL.md, activation explicite et automatique, différences entre les compétences, les scripts et les outils, l'API Skills et la configuration des limites de sécurité.
Claude Projects (Espaces de travail avec base de connaissances dédiée)
Outil d'organisation du travail dans Claude par Anthropic. Permet de créer des espaces de travail distincts pour chaque tâche, de charger jusqu'à 200 000 tokens de documentation interne et de les partager avec ses collègues.