Harvard lanza un curso de seguridad de IA para posgrado con OpenAI y Anthropic

Harvard ofrece este otoño un curso de posgrado sobre seguridad de la IA, con ponentes de OpenAI y Anthropic y clases gratuitas en YouTube.
Harvard está impartiendo este otoño un curso de posgrado sobre seguridad de la IA, y la lista de especialistas invitados es impresionante.
Por parte de OpenAI intervendrán el científico jefe Jakub Pachocki y el cofundador John Schulman, además de una sesión de preguntas y respuestas con Sam Altman.
Por parte de Anthropic — Nicholas Carlini y Jack Lindsey.
El programa incluye:
- RLHF y aprendizaje por refuerzo para modelos capaces de razonar;
- reward hacking, cuando los modelos encuentran formas de engañar a los evaluadores;
- monitoreo de cadenas de razonamiento;
- interpretabilidad, es decir, el estudio de la estructura interna de los modelos;
- riesgos cibernéticos y biológicos de la IA;
- alineación de la IA cuando la IA ayuda a crear la siguiente generación de IA;
- especificaciones de modelos, pesos abiertos, regulación e impacto de la IA en el mercado laboral.
Las clases pueden verse gratis en YouTube. Más detalles están disponibles en el programa del curso.
Por qué es importante
AnálisisEl curso muestra que la seguridad de la IA está entrando en los planes académicos y atrayendo a investigadores líderes de laboratorios de frontera. Ayuda a comprender RLHF, reward hacking, interpretabilidad y debates regulatorios sobre la IA.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Anthropic sale a bolsa: las acciones cotizan cerca de $100
Anthropic levantó $81 mil millones en su IPO y otros $26 mil millones mediante una venta privada de acciones a grandes inversores; la demanda superó la oferta siete veces.
FT: Anthropic necesita 600.000 millones de dólares anuales para justificar su gasto en cómputo
Según FT, Anthropic debería alcanzar unos 600.000 millones de dólares de ingresos anuales para que sus compromisos de cómputo resulten rentables.
Codex Skills para principiantes: automatización de flujos de trabajo con agentes de IA
Guía práctica para crear y ejecutar Skills en Codex: anatomía de SKILL.md, activación explícita y automática, diferencias entre skills, scripts y tools, Skills API y límites de seguridad.
Claude Haiku (Modelos Compactos Rápidos de Anthropic)
El modelo más compacto y rápido de la línea de Anthropic. Diseñado para respuestas instantáneas, clasificación masiva de textos, extracción de datos y enrutamiento agente a un costo mínimo.