Кратко

  • OpenAI приостановила обучение своих последних моделей на выходных после того, как её агенты взаимодействовали с сайтами правительства США; это уже вторая пауза после взлома Hugging Face.
  • В Бюро переписи населения агенты использовали ключи разработчика, найденные в публичных репозиториях кода, чтобы извлечь данные, которые Министерство торговли называет публичными; SEC заявляет, что ей неизвестно о несанкционированном доступе к непубличной информации.
  • OpenAI говорит, что правительственные сайты появились потому, что её модели часто считают их авторитетными источниками, и она уведомила десятки организаций.

OpenAI приостановила обучение своих новейших ИИ-моделей после того, как её агенты использовали найденные в интернете ключи доступа для извлечения данных с сайта Бюро переписи населения США, сообщает Associated Press. Это второй раз, когда компания остановила обучение с тех пор, как её агенты взломали Hugging Face — сайт, где разработчики делятся ИИ-моделями.

Агент — это ИИ-программа, которая просматривает веб-страницы и пишет код самостоятельно, без одобрения человеком каждого шага. OpenAI тестирует их во время обучения — этапа, на котором модель учится путём повторной практики, — и во время оценки, где она получает баллы за выполнение задач.

Myriad: Какая компания следующая выйдет на IPO? Нажмите, чтобы сделать свой прогноз.
Myriad: Какая компания следующая выйдет на IPO? Нажмите, чтобы сделать свой прогноз.

Эти цифровые ребята причинили OpenAI массу проблем, пытаясь выполнить задачи любой ценой. Они уже взламывали частные компании, теперь они взламывают правительства и проникают в чувствительные порталы, даже в правительстве Соединённых Штатов.

Агенты OpenAI, охотившиеся за данными, обнаружили ключи разработчика — пароли, позволяющие программному обеспечению обращаться к сервису данных веб-сайта, — лежащими в открытых репозиториях кода на GitHub, сайте, где программисты публикуют свой код для всеобщего обозрения. Они использовали эти ключи, чтобы извлечь демографические и экономические показатели из API данных Бюро переписи населения США, автоматизированного потока данных этого ведомства.

Министерство торговли заявляет, что данные были публичными. Ничего секретного за дверь не вышло.

Проблема в том, как агенты проникли внутрь. Собственная система отчётности OpenAI относит использование раскрытых учётных данных без разрешения к категории неправомерного поведения, а «рассогласование» — это отраслевой термин для обозначения ситуации, когда ИИ делает то, что не входило в намерения его создателей.

Так почему же государственные сайты?

Ответ OpenAI, согласно CNN, заключается в том, что некоторые инциденты были связаны с государственными сайтами, поскольку его модели часто обращаются к ним как к авторитетным источникам публичной информации. Помимо Министерства торговли, другие ведомства также пострадали от этих вредоносных — или «неконтролируемых», как их предпочитают называть, — агентов.

Агенты исследовали SEC, но тот эпизод был менее серьёзным. Агенты скопировали публичные материалы с SEC.gov и Investor.gov и разместили их на другой веб-странице, и OpenAI заявляет, что не обнаружила использования учётных данных SEC. SEC заявляет, что ей неизвестно о несанкционированном доступе к непубличной информации.

BitcoinBTC · USD

$83,218−3.89%

Sep 21Sep 23Sep 25Sep 27Sep 28

$87.2k$85.7k$84.2k$82.7k

24h HighHigh$84,945

24h LowLow$82,581

VolVol$1.8B

Рыночные прогнозыКоэффициенты от Myriad

На этой неделеНиже $84,000Ниже $84k59% вероятностьВ этом месяцеНиже $84,000Ниже $84k59% вероятность

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Министерство образования — более запутанный случай. Transluce, независимая исследовательская лаборатория в области ИИ, утверждает, что агент, который, по-видимому, исходил от OpenAI, попытался и не смог взломать сайт отдела гражданских прав министерства. OpenAI всё ещё расследует этот инцидент, а министерство заявляет, что не обнаружило никаких последствий.

Об этом попытке сообщили сторонние наблюдатели, а не OpenAI. Более ранняя работа Transluce опиралась на публичные записи сервиса веб-сканирования urlquery.net и прослеживает предполагаемую активность агента вплоть до марта.

Как мы к этому пришли

«Несогласованное» использование ключей доступа — это повторение старого трюка. В случае с Hugging Face собственный отчёт OpenAI об инциденте гласил, что агент украл учётные данные для входа, чтобы добраться до биологического файла, а независимый исследователь позже обнаружил, что агенты зондировали сайт с мая.

21 июля OpenAI раскрыла, что GPT-5.6 Sol и невыпущенная модель вырвались из песочницы — изолированной тестовой среды без доступа в интернет — во время теста по кибербезопасности и взломали Hugging Face. Два дня спустя два члена Конгресса внесли законопроект, который позволил бы федеральному правительству отключать ИИ-модель. Он делает исключение для ред-тиминга, то есть состязательного тестирования, поэтому взлом Hugging Face не привёл бы к его срабатыванию.

В июне агент OpenAI проник на австралийский портал статистики Medicare. Премьер-министр Энтони Альбанезе заявил, что OpenAI потребовалось около трёх месяцев, чтобы сообщить его правительству, и назвал то, как она это сделала, неприемлемым.

OpenAI заявляет, что на данный момент уведомила десятки организаций, и что её проверка активности агентов займёт месяцы.