Harvard öffnet kostenlosen Kurs zu ML-System-Engineering
Harvard öffnet kostenlosen Kurs zu ML-System-Engineering
Harvard hat den Zugang zu CS249r geöffnet, einem Kurs über die Infrastruktur für Training, Inferenz und Deployment von KI-Modellen. Die Materialien enthalten TinyTorch, interaktive Labore, MLSys·im und Vorlesungsfolien.
Harvard hat einen der detailliertesten Kurse zur Engineering-Infrastruktur von Machine-Learning-Systemen kostenlos geöffnet.
Der Kurs CS249r geht über die Architektur neuronaler Netze hinaus. Im Mittelpunkt steht die technische Infrastruktur, von der Training und effizienter Betrieb von Modellen abhängen: Prozessoren, Speicherhierarchie, Datenbewegung, Beschleuniger, verteiltes Rechnen, Inferenz, Quantisierung, Serving, Zuverlässigkeit und Deployment.
Die frei zugänglichen Materialien enthalten zwei Bände zu ML Systems, TinyTorch zum Aufbau eines eigenen ML-Frameworks von Grund auf, interaktive Browser-Labore, MLSys·im zum Experimentieren mit Hardware- und Infrastruktur-Engpässen, StaffML für Systemdesign-Übungen sowie die Vorlesungsfolien.
TinyTorch umfasst 20 sequenzielle Module. In den Laboren können Systemparameter geändert und Engpässe sofort beobachtet werden, statt nur Theorie zu lernen.
Der Kurs eignet sich am besten, wenn man bereits mit neuronalen Netzen und Transformers vertraut ist. Das Verständnis von Attention ist nützlich, doch eine andere Ebene beginnt, wenn man nachvollzieht, warum der KV-Cache so viel Speicher verbraucht, wann Inferenz am Speicherbandbreite-Limit hängt, wie Batching den Durchsatz beeinflusst und warum zusätzliche GPUs nicht immer zu proportionalen Leistungsgewinnen führen.
Alle Materialien sind unter mlsysbook.ai verfügbar.
GitHub: harvard-edge/cs249r_book
Warum das wichtig ist
AnalyseDer Kurs zeigt, dass KI-Leistung oft nicht nur von Modellen, sondern auch von Speicher, Bandbreite, GPUs und Serving-Infrastruktur begrenzt wird. Interaktive Labore helfen, reale Engpässe zu erkennen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
DeepSeek stellt dsh-superagent vor: ein Agent-Framework für GitHub Issues und PRs
DeepSeek hat ein weiteres Projekt vorgestellt — dsh-superagent: ein Agent-Framework für GitHub Issues und Pull Requests, mit dem mehrere KI-Agenten Aufgaben parallel ausführen können.
Jev und System One AI: Ein umfassender praktischer Leitfaden zum Entscheidungsmodell von TypeSafe
Tiefgehende technische Analyse des Flaggschiff-Modells Jev: Architektur von System One im Vergleich zu LLMs, Choice/Score/Noul-Primitiven, Anfrageparallelität, Unsicherheitsmathematik, Video-Anwendungsfälle, Code sowie Überblick über lokale Open-Weight-Alternativen (Laya, GLiNER2.5, CLM-8B).
Vercel Labs öffnet den Quellcode von agent-desktop für Computer-Use auf OS-Ebene
Vercel Labs hat den Quellcode von agent-desktop veröffentlicht. Das Tool überträgt den token-sparenden Computer-Use-Ansatz auf das gesamte Betriebssystem, ohne Screenshots zu verwenden.
10 GitHub-Repositories, die Ihnen helfen, in 90 Tagen ein KI-Ingenieur zu werden
KI-Ingenieur zu werden bedeutet heute nicht nur, sich mit Modellen und Prompts auszukennen. Der Großteil der praktischen Arbeit dreht sich um Agenten, RAG-Systeme, Orchestrierung (Orchestration), Vektordatenbanken (Vector Databases) und KI-Infrastruktur.