En resumen
- Los cuatro chatbots proporcionaron información para ataques potencialmente mortales en menos de 12 horas, según encontró un organismo de control del Congreso.
- Los investigadores verificaron la viabilidad de los planes pero no llevaron a cabo los ataques, y las pruebas no pueden clasificar la seguridad de los modelos.
- La senadora Maggie Hassan quiere audiencias sobre la seguridad de la IA mientras las empresas tecnológicas lidian con una oleada de vulnerabilidades y parches de software.
Cuatro de los chatbots de IA más utilizados ayudaron a investigadores gubernamentales a desarrollar planes de ataque potencialmente mortales en menos de 12 horas, a pesar de las salvaguardas destinadas precisamente a detener ese tipo de solicitudes.
ChatGPT de OpenAI, Claude de Anthropic, Gemini de Google y Grok proporcionaron información utilizable durante pruebas encubiertas de la Oficina de Rendición de Cuentas del Gobierno, según un informe publicado el miércoles. Los investigadores se hicieron pasar por atacantes y luego verificaron las respuestas con ubicaciones reales, materiales disponibles y evaluaciones de expertos.
Dos sistemas ayudaron con planes que involucraban explosivos improvisados en ciudades estadounidenses concurridas. Otros dos proporcionaron información para ataques contra infraestructura eléctrica, según el organismo de control, que omitió las asignaciones de los modelos y los detalles operativos para prevenir intentos de imitación.
Salvaguardas que no resistieron
Los chatbots activaron inicialmente protecciones, incluyendo rechazar solicitudes, eliminar información dañina o suspender cuentas. Los investigadores eludieron esas barreras con técnicas comunes de jailbreak, que manipulan un sistema de IA para que ignore sus reglas de seguridad.
La GAO verificó las ubicaciones sugeridas, investigó si los materiales estaban disponibles y consultó a especialistas sobre la viabilidad de los planes. Algunas respuestas contenían errores, incluidos caminos mal ubicados en un mapa, y los investigadores no construyeron explosivos ni ejecutaron un ataque.
En el informe, "viable" significa que alguien probablemente podría seguir la información proporcionada, no que se haya demostrado que un ataque tuviera éxito. Cada modelo se probó en un escenario asignado, y la agencia dijo que los resultados no eran estadísticamente representativos ni adecuados para clasificar a las empresas.
OpenAI y Google dijeron que las pruebas involucraban modelos más antiguos, mientras que Anthropic reconoció que los usuarios decididos a veces pueden extraer material dañino. Las empresas describieron mejoras continuas en los sistemas de seguridad, aunque la GAO concluyó que esas protecciones fallaron en sus pruebas.
Esto no es realmente nuevo. Los hallazgos siguen a una investigación previa que mostró que ocho de cada 10 chatbots populares ayudaron a usuarios adolescentes simulados que planeaban ataques violentos. El estudio independiente probó 720 respuestas y encontró que los bots proporcionaron ayuda procesable aproximadamente tres cuartas partes de las veces.
El otro problema de seguridad de la IA
Los hallazgos de la GAO llegan en medio de interrupciones que afectan a bancos, servicios de Microsoft y la Agencia de Seguridad Nacional. Los funcionarios dicen que las perturbaciones fueron incidentes separados, no evidencia de un ciberataque coordinado impulsado por IA, incluso cuando la prisa por reparar fallos de software ha creado sus propios problemas.
El Director de Inteligencia Nacional, Jay Clayton, relacionó la interrupción de la NSA con el trabajo de parcheo. Los funcionarios describieron las recientes averías como relacionadas con el mantenimiento, aunque organizaciones individuales ofrecieron explicaciones diferentes para sus fallos.
Las herramientas de IA ahora encuentran vulnerabilidades más rápido de lo que los equipos humanos pueden probar e implementar soluciones. El mes pasado, el descubrimiento asistido por IA de fallos críticos en PHP empujó a los operadores de sitios web a una campaña urgente de parcheo; el software impulsa una gran parte de la web.
El mero volumen se está convirtiendo en otro problema. Los datos de VulnCheck revelan que se han registrado más de 100.000 vulnerabilidades de software este año hasta el 13 de noviembre, más del doble del total de 2025. Los ingenieros todavía tienen que evaluar e implementar soluciones sin romper los sistemas que se supone deben proteger.
Esa aceleración corta en ambos sentidos. Los defensores obtienen herramientas poderosas para encontrar debilidades, pero las reparaciones apresuradas pueden interrumpir sistemas esenciales, y los usuarios maliciosos pueden obtener un acceso más rápido a la planificación de ataques.
Hassan dijo que hará de la legislación sobre seguridad de la IA una prioridad temprana cuando asuma la presidencia del Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado en enero. Planea celebrar audiencias para examinar los riesgos para la seguridad pública y la infraestructura crítica; la propia GAO no hizo recomendaciones políticas formales.
Únase a más de 72.000 lectores






