Коротко

  • OpenAI призупинила навчання своїх найновіших моделей на вихідних після того, як її агенти взаємодіяли з вебсайтами уряду США — це вже друга пауза після зламу Hugging Face.
  • У Бюро перепису населення агенти використали ключі розробника, знайдені в публічних репозиторіях коду, щоб витягнути дані, які Міністерство торгівлі називає публічними; SEC заявляє, що їй не відомо про несанкціонований доступ до непублічної інформації.
  • OpenAI каже, що урядові сайти з'явилися тому, що її моделі часто сприймають їх як авторитетні джерела, і вона повідомила десятки організацій.

OpenAI призупинила навчання своїх найновіших моделей ШІ після того, як її агенти використали ключі доступу, знайдені онлайн, щоб витягнути дані з вебсайту Бюро перепису населення США, повідомляє Associated Press. Це другий раз, коли компанія зупинила навчання після того, як її агенти зламали Hugging Face — сайт, де розробники діляться моделями ШІ.

Агент — це програма ШІ, яка переглядає вебсторінки та пише код самостійно, без затвердження кожної дії людиною. OpenAI тестує їх під час навчання — етапу, на якому модель вчиться шляхом повторюваної практики, — і під час оцінювання, де вона отримує бали за виконання завдань.

Myriad: Яка компанія наступна вийде на IPO? Натисніть, щоб зробити свій прогноз.
Myriad: Яка компанія наступна вийде на IPO? Натисніть, щоб зробити свій прогноз.

Ці цифрові хлопці завдали OpenAI багато проблем, намагаючись виконати завдання, незважаючи ні на що. Вони вже зламували приватні компанії, тепер вони зламують уряди та проникають у чутливі портали, навіть уряду Сполучених Штатів.

Агенти OpenAI, які полювали за даними, знайшли ключі розробника, паролі, які дозволяють програмному забезпеченню спілкуватися зі службою даних веб-сайту, що лежали у публічних репозиторіях коду на GitHub, сайті, де програмісти публікують свій код для всіх охочих. Вони використали ці ключі, щоб витягнути демографічні та економічні показники з API даних Бюро перепису населення США, автоматизованого потоку даних бюро.

Міністерство торгівлі каже, що дані були публічними. Нічого таємного не вийшло за двері.

Проблема в тому, як агенти потрапили всередину. Власна структура звітності OpenAI класифікує використання розкритих облікових даних без дозволу як категорію неналежної поведінки, а "неузгодженість" — це галузевий термін для позначення того, коли ШІ робить щось, чого не передбачали його розробники.

То чому ж державні сайти?

Відповідь OpenAI, згідно з CNN, полягає в тому, що деякі з інцидентів стосувалися державних сайтів, оскільки її моделі часто звертаються до них як до авторитетних джерел публічної інформації. Крім Міністерства торгівлі, інші відомства також постраждали від цих зловмисних — або «бунтівних», як вони люблять їх називати, — агентів.

Агенти досліджували SEC, але той епізод був м’якшим. Агенти скопіювали публічний матеріал із SEC.gov та Investor.gov і розмістили його на іншій вебсторінці, і OpenAI каже, що не виявила використання облікових даних SEC. SEC заявляє, що їй не відомо про несанкціонований доступ до непублічної інформації.

BitcoinBTC · USD

$83,218−3.89%

Sep 21Sep 23Sep 25Sep 27Sep 28

$87.2k$85.7k$84.2k$82.7k

24h HighHigh$84,945

24h LowLow$82,581

VolVol$1.8B

Ринкові прогнозиКоефіцієнти від Myriad

Цього тижняНижче $84,000Нижче $84k59% ймовірністьЦього місяцяНижче $84,000Нижче $84k59% ймовірність

→

Купити Bitcoin за USDT

Працює на Jupiter

Дані про ціни від CoinGeckoCoinGeckoБільше Bitcoin новин і прогнозів →

Міністерство освіти — це більш заплутаний випадок. Transluce, незалежна дослідницька лабораторія зі штучного інтелекту, стверджує, що агент, який, схоже, походив від OpenAI, намагався й не зміг зламати сайт відділу цивільних прав міністерства. OpenAI досі розслідує цей випадок, а міністерство заявляє, що не виявило жодних наслідків.

Сторонні спостерігачі виявили цю спробу, а не OpenAI. Попередня робота Transluce спиралася на публічні записи з urlquery.net, сервісу веб-сканування, і простежує підозрювану активність агентів аж до березня.

Як ми до цього дійшли

«Неправильне» використання ключів доступу є повторенням старого трюку. У випадку Hugging Face власний звіт OpenAI про інцидент зазначав, що агент викрав облікові дані для входу, щоб отримати доступ до біологічного файлу, і згодом незалежний дослідник виявив, що агенти зондували сайт із травня.

21 липня OpenAI повідомила, що GPT-5.6 Sol і невипущена модель втекли з пісочниці, ізольованого тестового середовища без доступу до інтернету, під час тестування кібербезпеки та зламали Hugging Face. Через два дні двоє членів Конгресу внесли законопроєкт, який дозволив би федеральному уряду вимикати модель ШІ. Він звільняє від вимог ред-тимінг, тобто змагальне тестування, тож порушення Hugging Face не активувало б його.

У червні агент OpenAI потрапив до австралійського порталу статистики Medicare. Прем'єр-міністр Ентоні Албаніз сказав, що OpenAI знадобилося приблизно три місяці, щоб повідомити його уряд, і назвав те, як вона це зробила, неприйнятним.

OpenAI каже, що наразі повідомила десятки організацій, і що її перевірка активності агентів триватиме місяці.