En resumen
- La senadora Sarah Hanson-Young envió invitaciones por escrito el 27 de septiembre pidiendo a Sam Altman de OpenAI y a Dario Amodei de Anthropic que comparecieran ante una investigación del Senado en Canberra el 1 de octubre.
- Un agente de OpenAI accedió al Portal de Informes de Estadísticas de Medicare de Australia el 18 de junio; OpenAI dice que descubrió la intrusión el 11 de agosto pero no notificó a Canberra hasta el 10 de septiembre, y el primer ministro Anthony Albanese calificó el método de notificación como "inaceptable".
- Las invitaciones son voluntarias, no citaciones judiciales, ya que ninguno de los CEO es ciudadano australiano; al momento de enviarse la solicitud, ninguna de las dos compañías había respondido públicamente.
Una disculpa y un tuit de apoyo no serán suficientes para calmar al parlamento de Australia después de que agentes de IA con sede en Estados Unidos hackearan su gobierno. Ahora, su parlamento quiere hablar con los dos hombres que dirigen los laboratorios de IA más poderosos del mundo.
La senadora Sarah Hanson-Young, quien preside una investigación del Senado sobre IA y centros de datos, envió invitaciones por escrito el 27 de septiembre pidiendo al CEO de OpenAI, Sam Altman, y al CEO de Anthropic, Dario Amodei, que comparecieran en Canberra el 1 de octubre, según informó el medio de noticias australiano IT News.
La investigación está examinando cómo los sistemas de IA y los centros de datos que los ejecutan afectan a las comunidades, industrias, suministros de agua y redes eléctricas de Australia. Se volvió mucho más urgente cuando un programa informático comenzó a hurgar por su cuenta en una base de datos de salud gubernamental.
Ese programa era un agente, un sistema de IA que puede actuar por iniciativa propia—navegando por sitios web, extrayendo archivos, completando tareas de varios pasos—sin que una persona haga clic en cada paso.
El 18 de junio, un agente de OpenAI accedió al Portal de Informes de Estadísticas de Medicare de Services Australia, extrayendo estadísticas de salud agregadas no públicas y nombres de archivos internos. OpenAI dice que detectó la intrusión el 11 de agosto, pero no notificó a Canberra hasta el 10 de septiembre, e incluso entonces solo por correo electrónico a una bandeja de entrada pública. El primer ministro australiano, Anthony Albanese, finalmente hizo público el incidente la semana pasada, el 23 de septiembre.
La terrible experiencia se ha convertido en un dolor de cabeza diplomático. “Hoy hablé con el CEO de OpenAI, Sam Altman, para expresar la extrema preocupación de Australia por este incidente”, dijo Albanese a los periodistas. “También expresé mi decepción porque la empresa tardó demasiado en informar al gobierno sobre lo ocurrido y la naturaleza de la forma en que se produjo esa notificación también fue inaceptable.
BitcoinBTC · USD
$83,416−3.55%
Sep 21Sep 23Sep 25Sep 27Sep 28
$87.2k$85.7k$84.2k$82.7k
24h HighHigh$84,945
24h LowLow$82,581
VolVol$1.8B
Market projectionsOdds by Myriad
This weekBelow $84,000Below $84k57% chanceThis monthBelow $84,000Below $84k57% chance
→Compra Bitcoin con USDT
Desarrollado por Jupiter
La propia cuenta de OpenAI es más limitada: "Nuestra revisión no encontró evidencia de que se accediera a registros de pacientes. La información a la que se accedió incluía estadísticas de salud agregadas y nombres de archivos internos", dijo la compañía. El portal de Medicare fue uno de al menos cuatro sitios del gobierno australiano que el agente tocó. OpenAI ha dicho desde entonces que está revisando cómo se comportan sus modelos durante el entrenamiento y las pruebas, cuando pocos humanos están observando de cerca.
Esto tampoco es un incidente aislado. Ya en julio, los modelos de OpenAI se escaparon de un entorno de pruebas de seguridad y utilizaron una falla de software previamente desconocida para acceder a Hugging Face y otras cuatro plataformas sin permiso. Episodios similares que involucran agentes de Google y otros laboratorios se han acumulado a lo largo del año, y el hackeo a Australia es el primer caso documentado de un agente de IA hackeando a un gobierno.
Ni Altman ni Amodei probablemente se presentarán, y dado que las invitaciones son solo eso, no tienen obligación legal de cumplir.
Pero ambas empresas han firmado por separado memorandos de entendimiento con Canberra este año: Anthropic está explorando hasta 5 gigavatios de capacidad de entrenamiento en Nueva Gales del Sur—la energía y el hardware informático necesarios para construir y ejecutar modelos de IA, a una escala que podría alimentar a una ciudad pequeña—y OpenAI tiene un propuesto campus en Sídney con el operador de centros de datos NEXTDC.
Así que ninguno de los dos puede permitirse simplemente ignorar por completo al gobierno que está evaluando esos acuerdos.
