OpenAI звільнила трьох дослідників через конфіденційні дані у сфері безпеки ШІ

OpenAI звільнила трьох дослідників із підрозділу безпеки після розслідування, яке виявило «патерн порушень» у роботі з конфіденційними даними.
OpenAI звільнила трьох дослідників із підрозділу безпеки. Вони поділилися конфіденційною інформацією із зовнішньою організацією, яка працює в сфері безпеки ШІ.
Імена дослідників, назву організації-отримувача та тип даних не розголошено. Компанія заявила, що розслідування виявило «патерн порушень» у поводженні з конфіденційною інформацією.
Раніше The New York Times повідомляла, що OpenAI нібито систематично ігнорувала сигнали співробітників про ризики в тестуванні нових моделей протягом місяців до інциденту з Hugging Face.
Чому це важливо
АналітикаІнцидент показує, що внутрішні процеси безпеки та конфіденційність даних залишаються критичними для компаній, що розробляють ШІ.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
OpenAI GPT (Флагманські моделі серії GPT)
Головна універсальна лінійка великих мовних моделей від OpenAI (GPT-4, GPT-4o). Оптимізована для складного текстового аналізу, програмування, творчості та щоденної інтелектуальної роботи.
Вигадані залежності в коді (Hallucinated Packages)
Небезпечний різновид нейромережевих галюцинацій у програмуванні. Модель вигадує правдоподібні, але неіснуючі в реальності бібліотеки та npm/PyPI пакети, створюючи критичні дірки в безпеці (Slopsquatting).
OpenAI опублікувала Apps SDK UI для інтерфейсів плагінів ChatGPT
OpenAI виклала вихідний код Apps SDK UI — React-бібліотеку з готовими компонентами для створення інтерактивних інтерфейсів у ChatGPT.
Codex Skills для початківців: як автоматизувати робочі сценарії ШІ-агента
Практичний посібник зі створення та використання Skills у Codex: анатомія SKILL.md, явна та авто-активація, різниця між навичками, скриптами й тулами, Skills API та налаштування меж безпеки.