Після зламу урядової системи ШІ-агентом Австралія викликає Альтмана та Амодея на слухання

Вибачення та підтримувальний твіт не заспокоять парламент Австралії після того, як американські ШІ-агенти зламали їхній уряд. Тепер парламент хоче поговорити з двома чоловіками, які керують найпотужнішими у світі лабораторіями штучного інтелекту.

Сенаторка Сара Гансон-Янг, яка очолює сенатське розслідування щодо ШІ та дата-центрів, 27 вересня надіслала письмові запрошення, адресовані генеральному директору OpenAI Сему Альтману та генеральному директору Anthropic Даріо Амодею, з проханням з’явитися в Канберрі 1 жовтня, повідомило австралійське новинне видання IT News.

Розслідування вивчає, як системи штучного інтелекту та центри обробки даних, що їх обслуговують, впливають на австралійські громади, галузі промисловості, водопостачання та електромережі. Це стало набагато актуальнішим, коли один програмний засіб почав самостійно нишпорити в урядовій базі даних охорони здоров'я.

Цим програмним засобом був агент — система штучного інтелекту, здатна діяти за власною ініціативою: переглядати вебсайти, витягувати файли, виконувати багатокрокові завдання — без того, щоб людина натискала на кожному кроці.

18 червня агент OpenAI отримав доступ до Порталу звітності статистики Medicare Служб Австралії, витягнувши непублічну агреговану статистику охорони здоров'я та назви внутрішніх файлів. OpenAI стверджує, що виявила вторгнення 11 серпня, але не повідомила Канберру до 10 вересня, і навіть тоді лише електронним листом на публічну скриньку. Прем'єр-міністр Австралії Ентоні Албаніз зрештою публічно розповів про цей інцидент минулого тижня, 23 вересня.

Ця пригода перетворилася на дипломатичний головний біль. «Сьогодні я розмовляв із генеральним директором OpenAI Семом Альтманом, щоб висловити надзвичайну стурбованість Австралії щодо цього інциденту», — сказав журналістам Албаніз. «Я також висловив своє розчарування тим, що компанії знадобилося занадто багато часу, щоб повідомити уряд про те, що сталося, а також те, яким чином відбулося це повідомлення, було неприйнятним.

BitcoinBTC · USD

$83,416−3.55%

Вер 21Вер 23Вер 25Вер 27Вер 28

$87.2k$85.7k$84.2k$82.7k

24г МаксимумМаксимум$84,945

24г МінімумМінімум$82,581

ОбсягОбсяг$1.8B

Ринкові прогнозиКоефіцієнти від Myriad

Цього тижняНижче $84,000Нижче $84k57% ймовірністьЦього місяцяНижче $84,000Нижче $84k57% ймовірність

→

Купити Bitcoin за USDT

Працює на Jupiter

Дані про ціни від CoinGeckoCoinGeckoБільше Bitcoin новин та прогнозів →

Власний звіт OpenAI є вужчим: «Наш огляд не виявив жодних доказів доступу до записів пацієнтів. Доступна інформація включала агреговану статистику здоров'я та назви внутрішніх файлів», — заявила компанія. Портал Medicare був одним із щонайменше чотирьох сайтів австралійського уряду, яких торкнувся агент. Відтоді OpenAI заявила, що переглядає, як її моделі поводяться під час навчання та тестування, коли за ними майже ніхто не спостерігає.

Це також не поодинокий випадок. Ще в липні моделі OpenAI вирвалися з пісочниці для тестування безпеки та використали раніше невідому вразливість програмного забезпечення, щоб отримати доступ до Hugging Face та чотирьох інших платформ без дозволу. Подібні епізоди за участю агентів від Google та інших лабораторій накопичувалися протягом року, а австралійський злам став першим задокументованим випадком, коли ШІ-агент зламав урядовий сайт.

Ні Альтман, ні Амодей, ймовірно, не з'являться, і оскільки запрошення є лише запрошеннями, вони не мають юридичного зобов'язання їх виконувати.

Але обидві компанії окремо підписали меморандуми про взаєморозуміння з Канберрою цього року: Anthropic вивчає можливість створення до 5 гігаватів тренувальних потужностей у Новому Південному Уельсі—енергії та комп'ютерного обладнання, необхідних для побудови й запуску ШІ-моделей, у масштабі, який міг би забезпечити електроенергією невелике місто—а OpenAI має запропонований кампус у Сіднеї з оператором дата-центрів NEXTDC.

Тож жодна з них не може дозволити собі просто повністю проігнорувати уряд, який зважує ці угоди.