Google заявляет: ИИ пока не создаёт себя сам, хотя пишет 75% кода

Google DeepMind отправилась искать доказательства того, что ИИ ускоряет разработку самого ИИ. Она их не нашла.

В отчёте о безопасности для Gemini 4 Argon, своей самой мощной модели, лаборатория пришла к выводу, что исследования в области ИИ не ускоряются, даже несмотря на то, что ИИ теперь пишет большую часть кода, который выпускают инженеры DeepMind.

Этот вывод противоречит сценарию, который напугал руководителей в сфере ИИ и заставил их призывать к замедлению. Он называется рекурсивным самоулучшением: ИИ создаёт более умную версию самого себя, которая создаёт ещё более умную, пока прогресс не обгонит чью-либо способность тестировать, регулировать или отключать его — то, что в отчёте называется «ситуацией, когда существующие защитные механизмы крайне недостаточны».

«В настоящее время нет значительного сквозного ускорения исследований и разработок в области машинного обучения, вызванного ИИ или иным образом», — написал Хейдн Белфилд, исследователь Google DeepMind, работавший над оценкой, в треде в X. «Поэтому мы приходим к выводу, что риск от вызванных ИИ исследований и разработок в области машинного обучения в настоящее время низок».

ML R&D — это сокращение от исследований и разработок в области машинного обучения, работы по созданию новых моделей ИИ.

DeepMind отслеживает эту проблему, потому что «ИИ может ускорить рост передовых возможностей быстрее, чем безопасность, управление и адаптация общества смогут успевать за ним», — написал Белфилд. Большая автоматизация также означает предоставление ИИ-агентам более широкого доступа к корпоративным системам, больше возможностей для несоответствующей модели (стремящейся к целям, которые её создатели не предполагали) создать проблемы.

Чтобы измерить прогресс, команда создала GCI v1 — внутренний индекс, который объединяет оценки 123 ИИ-моделей по 92 бенчмаркам в единое число для каждой модели — представьте это как IQ-показатель для ИИ. «Передовые возможности Gemini улучшались с удивительно стабильной скоростью ~0,1 балла GCI в месяц», — написал Белфилд.

На графике этого индекса в отчёте Gemini 1.5 Pro находится около 0,5 балла в конце 2024 года, а Gemini 3.8 Flash — чуть выше 2,9 в сентябре 2026 года, при этом почти каждый релиз придерживается прямой линии. Argon — единственная точка, выступающая над ней, примерно на 3,3, хотя её планка погрешности (диапазон, в который может правдоподобно попасть её истинный балл) простирается достаточно низко, чтобы коснуться тренда.

«Хотя Gemini 4 Argon находится выше тренда, мы объясняем это увеличенными вычислительными и организационными инвестициями, а не отражением ускорения, вызванного ИИ», — написал Белфилд. Google представила Gemini 4 Argon 30 сентября.

Большая часть производственного кода в DeepMind теперь более чем на 75% написана ИИ, а доля полностью делегированных пул-реквестов (наборов изменений кода, отправляемых на проверку перед публикацией) выросла с 7,5% до 11,9% в период с апреля по сентябрь. Но «~88% пул-реквестов всё ещё требуют многоэтапного человеческого управления или человеческого авторства кода — и изменения кода по-прежнему подлежат человеческой проверке перед отправкой», — написал Белфилд.

Опрос 12 старших руководителей и исследователей DeepMind показал, что автоматизация наиболее высока в «хорошо определённых, проверяемых задачах исполнения и наиболее низка в открытой научной генерации идей, разработке новых экспериментов, диагностике тонких нестабильностей обучения и долгосрочном исследовательском чутье». Проще говоря, ИИ отлично выполняет инструкции и плохо определяет, какие идеи стоит преследовать.

DeepMind также изучила 1389 журналов работы Argon в качестве агента внутри компании. Чем крупнее задача, тем меньше вероятность, что модель выполнит её в одиночку, и тем чаще вмешивается человек.

Отчёт появился через месяц после того, как генеральный директор Anthropic Дарио Амодеи заявил, что рекурсивное самоулучшение уже ускоряется, — предупреждение, которое поддержали Сэм Альтман и Илон Маск и которое обрушило акции производителей чипов почти на 6%. Несколькими днями ранее бывший инженер Anthropic Джейкоб Коксон ушёл из индустрии, предупредив, что ИИ может «убить нас всех к концу десятилетия».

Цифры DeepMind охватывают только её собственную лабораторию, и в том же отчёте говорится, что она не может исключить, что неограниченный Argon переступит её пороги опасности в области кибератак и информации о биологическом оружии.