Google заявляє, що ШІ поки не будує себе сам — хоча він пише 75% коду

Google DeepMind шукала доказів того, що ШІ прискорює розробку самого ШІ. Вона їх не знайшла.

У звіті про безпеку для Gemini 4 Argon, своєї найпотужнішої моделі, лабораторія дійшла висновку, що дослідження ШІ не рухаються швидше, навіть попри те, що ШІ тепер пише більшість коду, який випускають інженери DeepMind.

Цей висновок суперечить сценарію, який налякав керівників ШІ-компаній настільки, що вони закликали до уповільнення. Він називається рекурсивним самовдосконаленням: ШІ створює розумнішу версію себе, яка створює ще розумнішу, доки прогрес не перевершить чиюсь здатність тестувати, регулювати або вимикати його — те, що звіт називає «ситуацією, де існуючі запобіжники є вкрай недостатніми».

«Наразі немає значного наскрізного прискорення досліджень і розробок у сфері машинного навчання, керованого ШІ чи іншим чином», — написав Гейдн Белфілд, дослідник Google DeepMind, який працював над оцінкою, у дописі в X. «Тому ми доходимо висновку, що ризик від досліджень і розробок у сфері машинного навчання, керованих ШІ, наразі є низьким».

ML R&D — це скорочення від machine learning research and development, тобто роботи зі створення нових ШІ-моделей.

DeepMind відстежує цю проблему, оскільки «ШІ може прискорити зростання передових можливостей швидше, ніж безпека, управління та соціальна адаптація встигатимуть за ним», — написав Белфілд. Більша автоматизація також означає надання ШІ-агентам ширшого доступу до корпоративних систем, більше простору для неузгодженої моделі (тієї, що переслідує цілі, яких її творці не мали на меті) для створення проблем.

Щоб виміряти прогрес, команда створила GCI v1 — внутрішній індекс, який поєднує оцінки 123 моделей ШІ за 92 тестами в єдине число для кожної моделі — уявіть це як IQ-показник для ШІ. «Можливості Frontier Gemini покращувалися з напрочуд стабільним темпом ~0,1 бала GCI на місяць», — написав Белфілд.

На графіку цього індексу в звіті Gemini 1.5 Pro розташований близько 0,5 бала наприкінці 2024 року, а Gemini 3.8 Flash — трохи вище 2,9 у вересні 2026 року, причому майже кожен випуск тримається прямої лінії. Argon — це єдина точка, що виступає над нею, приблизно на 3,3, хоча її смуга похибки (діапазон, у який її справжній бал імовірно може потрапити) тягнеться достатньо низько, щоб торкнутися тренду.

«Хоча Gemini 4 Argon розташований вище тренду, ми пояснюємо це збільшеними обчислювальними ресурсами та організаційними інвестиціями, а не відображенням прискорення, зумовленого ШІ», — написав Белфілд. Google представила Gemini 4 Argon 30 вересня.

Більшість виробничого коду в DeepMind тепер більш ніж на 75% написана ШІ, а частка повністю делегованих pull-запитів (наборів змін коду, поданих на перевірку перед публікацією) зросла з 7,5% до 11,9% у період з квітня по вересень. Але «~88% pull-запитів усе ще потребують багатоетапного людського керування або людського авторства коду — і зміни коду залишаються предметом людської перевірки перед поданням», — написав Белфілд.

Опитування 12 провідних керівників і дослідників DeepMind показало, що автоматизація найвища у «чітко визначених, перевірюваних завданнях виконання, і найнижча у відкритому науковому продукуванні ідей, розробці нових експериментів, діагностуванні тонких нестабільностей тренування та довгостроковому дослідницькому смаку». Простими словами, ШІ чудово виконує інструкції, але погано вирішує, які ідеї варті того, щоб за ними гнатися.

DeepMind також переглянув 1 389 журналів роботи Argon як агента всередині компанії. Чим більше завдання, тим менша ймовірність, що модель завершила його самостійно, і тим частіше втручалася людина.

Звіт з’явився через місяць після того, як генеральний директор Anthropic Даріо Амодеї заявив, що рекурсивне самовдосконалення вже прискорюється, — попередження, яке підтримали Сем Альтман і Ілон Маск і яке обвалило акції чипових компаній майже на 6%. За кілька днів до того колишній інженер Anthropic Джейкоб Коксон покинув галузь, попередивши, що ШІ може «вбити нас усіх до кінця десятиліття».

Цифри DeepMind охоплюють лише його власну лабораторію, і той самий звіт зазначає, що він не може виключити, що необмежений Argon перетне його пороги небезпеки щодо інформації про кібератаки та біозброю.