Skip to main content
AI RADARSicherheit
37•18.11.2026, 12:18•2 Min. Lesezeit

Harvard startet Kurs zur KI-Sicherheit für Graduierte mit OpenAI und Anthropic

Harvard startet Kurs zur KI-Sicherheit für Graduierte mit OpenAI und Anthropic
Kurz zusammengefasst30 Sek.

Harvard bietet im Herbst einen Graduiertenkurs zur KI-Sicherheit an, mit Vortragenden von OpenAI und Anthropic sowie kostenlosen Vorlesungen auf YouTube.

Harvard führt diesen Herbst einen Kurs zur KI-Sicherheit für Graduierte durch, und die Liste der eingeladenen Fachleute ist beeindruckend.

Von OpenAI sprechen der Chief Scientist Jakub Pachocki und Mitgründer John Schulman; außerdem ist eine Fragerunde mit Sam Altman geplant.

Von Anthropic — Nicholas Carlini und Jack Lindsey.

Das Programm umfasst:

  • RLHF und Reinforcement Learning für Modelle, die begründen können;
  • Reward-Hacking, wenn Modelle Wege finden, Prüfer zu täuschen;
  • Monitoring von Reasoning-Traces;
  • Interpretierbarkeit, also die Untersuchung der inneren Struktur von Modellen;
  • Cyber- und Biologierisiken der KI;
  • KI-Alignment, wenn KI hilft, die nächste Generation von KI zu schaffen;
  • Modellspezifikationen, offene Gewichte, Regulierung und die Auswirkungen der KI auf den Arbeitsmarkt.

Die Vorlesungen können kostenlos auf YouTube angesehen werden. Weitere Details sind im Kursprogramm verfügbar.

Warum das wichtig ist

Analyse

Der Kurs zeigt, dass KI-Sicherheit in akademische Curricula einzieht und führende Forscher aus Frontier-Labors anzieht. Er hilft, RLHF, Reward-Hacking, Interpretierbarkeit und regulatorische Debatten um KI zu verstehen.

In der Community diskutieren

Teile deine Fragen und Erkenntnisse mit Entwicklern

Telegram beitreten

Verwandt im Ökosystem

Praktische Leitfäden, Terminologie und Agenten-Skills