Google afirma que la IA aún no se construye a sí misma, aunque ya escribe el 75% del código

Google DeepMind fue en busca de pruebas de que la IA está acelerando el desarrollo de la propia IA. No encontró ninguna.

En el informe de seguridad de Gemini 4 Argon, su modelo más potente, el laboratorio concluyó que la investigación en IA no avanza más rápido, aunque la IA ahora escribe la mayor parte del código que entregan los ingenieros de DeepMind.

El hallazgo contradice el escenario que ha asustado a los ejecutivos de IA hasta el punto de pedir una desaceleración. Se llama mejora recursiva de sí misma: una IA construye una versión más inteligente de sí misma, que construye una aún más inteligente, hasta que el progreso supera la capacidad de cualquiera para probarla, regularla o apagarla—lo que el informe llama “una situación en la que las barreras de protección existentes son gravemente inadecuadas”.

“Actualmente no existe una aceleración significativa de extremo a extremo de la I+D de ML, impulsada por IA o de otro modo”, escribió Haydn Belfield, un investigador de Google DeepMind que trabajó en la evaluación, en un hilo en X. “Por lo tanto, concluimos que el riesgo de la I+D de ML impulsada por IA es actualmente bajo”.

I+D de ML es la abreviatura de investigación y desarrollo de aprendizaje automático, el trabajo de construir nuevos modelos de IA.

DeepMind sigue este problema porque "la IA podría acelerar las ganancias de capacidad de frontera más rápido de lo que la seguridad, la gobernanza y la adaptación social pueden seguir el ritmo", escribió Belfield. Una mayor automatización también significa dar a los agentes de IA un acceso más amplio a los sistemas de la empresa, más espacio para que un modelo desalineado (uno que persigue objetivos que sus creadores nunca pretendieron) cause problemas.

Para medir el progreso, el equipo construyó GCI v1, un índice interno que combina las puntuaciones de 123 modelos de IA en 92 benchmarks en un único número por modelo; piénsalo como una puntuación de CI para la IA. "Las capacidades de Frontier Gemini han mejorado a un ritmo notablemente constante de ~0,1 puntos GCI al mes", escribió Belfield.

En el gráfico de ese índice del informe, Gemini 1.5 Pro se sitúa cerca de 0,5 puntos a finales de 2024 y Gemini 3.8 Flash justo por encima de 2,9 en septiembre de 2026, con casi todos los lanzamientos pegados a una línea recta. Argon es el único punto que sobresale por encima de ella, en aproximadamente 3,3, aunque su barra de error (el rango en el que plausiblemente podría caer su puntuación real) se extiende lo suficientemente bajo como para tocar la tendencia.

"Aunque Gemini 4 Argon se sitúa por encima de la tendencia, atribuimos esto a un mayor cómputo e inversión organizativa en lugar de reflejar una aceleración impulsada por la IA", escribió Belfield. Google presentó Gemini 4 Argon el 30 de septiembre.

La mayor parte del código de producción en DeepMind ahora está escrito en más de un 75% por IA, y la proporción de solicitudes de extracción totalmente delegadas (conjuntos de cambios de código enviados para revisión antes de publicarse) aumentó del 7,5% al 11,9% entre abril y septiembre. Pero "~88% de las solicitudes de extracción todavía requieren dirección humana de varios turnos o autoría humana del código, y los cambios de código siguen sujetos a revisión humana antes de su envío", escribió Belfield.

Una encuesta realizada a 12 líderes e investigadores sénior de DeepMind encontró que la automatización es más alta en “tareas de ejecución bien especificadas y verificables, y más baja en ideación científica abierta, diseño experimental novedoso, diagnóstico de inestabilidades sutiles de entrenamiento y criterio de investigación a largo plazo”. En términos simples, la IA es excelente ejecutando instrucciones y mala decidiendo qué ideas vale la pena perseguir.

DeepMind también revisó 1.389 registros de Argon trabajando como agente dentro de la empresa. Cuanto más grande era la tarea, menos probable era que el modelo la terminara solo y más a menudo intervenía un humano.

El informe llegó un mes después de que el CEO de Anthropic, Dario Amodei, argumentara que la auto-mejora recursiva ya se está acelerando, una advertencia que Sam Altman y Elon Musk respaldaron y que hizo caer las acciones de chips casi un 6%. Días antes, el exingeniero de Anthropic Jacob Coxon había abandonado la industria, advirtiendo que la IA podría “matarnos a todos para el final de la década”.

Las cifras de DeepMind cubren solo su propio laboratorio, y el mismo informe dice que no puede descartar que un Argon sin restricciones cruce sus umbrales de peligro para información sobre ciberataques y armas biológicas.