Гарвард безкоштовно відкрив курс з інженерії ML-систем
Гарвард безкоштовно відкрив курс з інженерії ML-систем
Гарвард відкрив доступ до курсу CS249r, який фокусується на інфраструктурі для навчання, інференсу та розгортання ШІ-моделей. У матеріалах є TinyTorch, інтерактивні лабораторні роботи, MLSys·im і слайди лекцій.
Гарвард безкоштовно відкрив доступ до одного з найдетальніших курсів з інженерії систем машинного навчання.
Курс CS249r виходить далеко за межі архітектури нейронних мереж. Основну увагу приділено інженерній інфраструктурі, від якої залежать навчання та ефективний запуск ШІ-моделей: процесори, ієрархія пам’яті, передача даних, прискорювачі, розподілені обчислення, інференс, квантування, обслуговування моделей, надійність і розгортання.
У відкритий доступ увійшли два томи з ML Systems, TinyTorch для створення власного ML-фреймворку з нуля, інтерактивні лабораторні роботи в браузері, MLSys·im для експериментів із вузькими місцями обладнання та інфраструктури, StaffML для практики з системного проєктування, а також слайди лекцій.
TinyTorch передбачає 20 послідовних модулів. У лабораторних роботах можна змінювати параметри системи й одразу спостерігати, де виникають вузькі місця, замість того щоб обмежуватися вивченням теорії.
Курс найкраще проходити після знайомства з нейронними мережами та Transformers. Розуміння принципу роботи attention корисне, але якісно інший рівень розуміння настає, коли ви розбираєтеся, чому KV-кеш споживає стільки пам’яті, коли інференс упирається в пропускну здатність пам’яті, як batching впливає на throughput і чому додавання нових GPU не завжди дає пропорційне зростання продуктивності.
Усі матеріали доступні на mlsysbook.ai.
GitHub: harvard-edge/cs249r_book
Чому це важливо
АналітикаКурс показує, що продуктивність ШІ часто визначається не лише моделями, а й пам’яттю, пропускною здатністю, GPU та інфраструктурою. Інтерактивні лабораторії допомагають побачити вузькі місця на практиці.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
DeepSeek представила агентний фреймворк dsh-superagent для GitHub
DeepSeek представила ще один проєкт — dsh-superagent: агентний фреймворк для GitHub Issues і pull request’ів, який дає змогу багатьом ШІ-агентам виконувати задачі паралельно.
Jev та System One AI: повний практичний гайд по моделі рішень від TypeSafe
Глибокий інженерний розбір флагманської моделі Jev: архітектура System One проти LLM, примітиви Choice/Score/Noul, паралелізм запитів, математика впевненості, відео-кейси, код та огляд локальних open-weight альтернатив (Laya, GLiNER2.5, CLM-8B).
10 GitHub-репозиторіїв, які допоможуть стати AI-інженером за 90 днів
Стати AI-інженером сьогодні — це не лише про моделі та промпти. Більша частина реальної роботи будується навколо агентів, RAG-систем, оркестрації (orchestration), векторних баз даних (vector databases) та AI-інфраструктури.
Hugging Face Hub
Провідна світова платформа та відкритий репозиторій для спільноти штучного інтелекту («GitHub для нейромереж»). Містить сотні тисяч відкритих моделей, датасетів і безкоштовних веб-демо (Spaces), підтримуючи всі провідні ШІ-фреймворки.