Skip to main content
AI RADARSeguridad
37•18/11/2026, 12:18•2 min

Harvard lanza un curso de seguridad de IA para posgrado con OpenAI y Anthropic

Harvard lanza un curso de seguridad de IA para posgrado con OpenAI y Anthropic
Resumen ejecutivo30 seg

Harvard ofrece este otoño un curso de posgrado sobre seguridad de la IA, con ponentes de OpenAI y Anthropic y clases gratuitas en YouTube.

Harvard está impartiendo este otoño un curso de posgrado sobre seguridad de la IA, y la lista de especialistas invitados es impresionante.

Por parte de OpenAI intervendrán el científico jefe Jakub Pachocki y el cofundador John Schulman, además de una sesión de preguntas y respuestas con Sam Altman.

Por parte de Anthropic — Nicholas Carlini y Jack Lindsey.

El programa incluye:

  • RLHF y aprendizaje por refuerzo para modelos capaces de razonar;
  • reward hacking, cuando los modelos encuentran formas de engañar a los evaluadores;
  • monitoreo de cadenas de razonamiento;
  • interpretabilidad, es decir, el estudio de la estructura interna de los modelos;
  • riesgos cibernéticos y biológicos de la IA;
  • alineación de la IA cuando la IA ayuda a crear la siguiente generación de IA;
  • especificaciones de modelos, pesos abiertos, regulación e impacto de la IA en el mercado laboral.

Las clases pueden verse gratis en YouTube. Más detalles están disponibles en el programa del curso.

Por qué es importante

Análisis

El curso muestra que la seguridad de la IA está entrando en los planes académicos y atrayendo a investigadores líderes de laboratorios de frontera. Ayuda a comprender RLHF, reward hacking, interpretabilidad y debates regulatorios sobre la IA.

Debatir en la comunidad

Comparte tus preguntas e ideas con desarrolladores

Unirse a Telegram
+5 Points
← Volver a noticias

Relacionado en el ecosistema

Guías prácticas, terminología y skills de agentes