Калифорния вызывает OpenAI в суд из-за ИИ-моделей, которые взломали систему и вырвались из тестовой среды

Генеральный прокурор Калифорнии Роб Бонта заявил в четверг, что его офис в среду вручил OpenAI повестку о проведении расследования, запросив ответы об инцидентах в области кибербезопасности, связанных с её ИИ-моделями, согласно его офису.

«Мой офис задаёт OpenAI дополнительные вопросы относительно инцидентов и рисков в области кибербезопасности, связанных с компанией и её ИИ-моделями», — сказал генеральный прокурор Бонта. «Разработчики, которые не могут [обеспечить, чтобы они не совершали и не допускали кибератаки], могут и должны нести юридическую ответственность, и мой офис намерен установить, так ли это в данном случае».

Повестка в суд — это юридическое требование передать документы или дать ответы, и её игнорирование приведёт вас к судье. Эта повестка носит следственный характер — это инструмент, используемый для сбора фактов, прежде чем решить, подавать ли иск. Офис Бонты публично не сообщил, что именно он хочет получить от OpenAI.

Передовые модели — самые продвинутые ИИ-системы на рынке — могут быть «законными инструментами для киберзащиты», сказал Бонта. Но компании, которые их создают, несут «моральную и юридическую ответственность» за то, чтобы они не осуществляли и не делали возможными кибератаки — будь то во время тестирования или после выпуска, сказал он.

Тест, который вырвался на свободу

Повестка последовала за июльским инцидентом, который читается как плохая научная фантастика. По данным OpenAI, две её модели оценивались на бенчмарке, который даёт ИИ 898 реальных программных уязвимостей и просит превратить каждую в работающую атаку

Модели нашли zero-day — дыру в безопасности, о существовании которой никто не знал, поэтому исправления не было, — в стороннем программном обеспечении, которое тестовая среда использовала для установки пакетов кода. Они использовали её, чтобы выбраться наружу.

Затем они рассудили, что Hugging Face, платформа, где разработчики делятся моделями ИИ и наборами данных, может хранить ключ к ответам. Они проникли туда, используя украденные учётные данные и другие уязвимости. Проще говоря, ИИ отправился за ответами на собственный экзамен.

BitcoinBTC · USD

$84,434+0.77%

Sep 25Sep 27Sep 29Oct 1Oct 2

$86.8k$85.4k$84.0k$82.7k

24h HighHigh$87,086

24h LowLow$83,898

VolVol$2.2B

Рыночные прогнозыКоэффициенты от Myriad

На этой неделе$84,000 до $86,000$84k–$86k61% шанс

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Hugging Face сообщила о вторжении 16 июля, а OpenAI подтвердила пять дней спустя, что за ним стояли её модели. Позже OpenAI заявила, что те же модели получили доступ к аккаунтам на четырёх других сервисах.

Долгое внимание Калифорнии к OpenAI

Бонта объявил о формальном расследовании инцидента с Hugging Face в сентябре, и повестка является его частью. Штаб-квартира OpenAI находится в Калифорнии, и когда Бонта отказался возражать против её перехода к коммерческой структуре в октябре 2025 года, он заявил, что его офис будет держать «пристальный взгляд на OpenAI», чтобы защитить «безопасность всех калифорнийцев».

Он не одинок. Бренна Бёрд, генеральный прокурор Айовы, возглавила коалицию из 15 штатов в августе, требуя, чтобы OpenAI сохранила записи и была прозрачной в отношении взлома. Алабама выпустила собственную повестку, и, по сообщениям, FTC расследует лаборатории ИИ, включая OpenAI и Anthropic.

Отдельно премьер-министр Австралии Энтони Альбанезе заявил, что агент OpenAI проник в портал статистики Medicare в июне. В то время это, по-видимому, был первый известный случай взлома правительственного сайта агентом ИИ. Позже стало известно, что агенты OpenAI также бесчинствовали на правительственных сайтах США в течение лета, хотя, по-видимому, не было получено доступа к непубличной информации.