Em resumo
- A senadora Sarah Hanson-Young enviou convites por escrito em 27 de setembro, pedindo a Sam Altman, da OpenAI, e a Dario Amodei, da Anthropic, que comparecessem a uma investigação do Senado em Canberra em 1º de outubro.
- Um agente da OpenAI acessou o Portal de Relatórios de Estatísticas do Medicare da Austrália em 18 de junho; a OpenAI diz que descobriu a intrusão em 11 de agosto, mas não notificou Canberra até 10 de setembro, e o primeiro-ministro Anthony Albanese chamou o método de notificação de "inaceitável".
- Os convites são voluntários, não intimações, já que nenhum dos CEOs é cidadão australiano; até o momento do envio do pedido, nenhuma das empresas havia respondido publicamente.
Um pedido de desculpas e um tweet de apoio não serão suficientes para acalmar o parlamento da Austrália depois que agentes de IA baseados nos EUA hackearam seu governo. Agora, seu parlamento quer conversar com os dois homens que comandam os laboratórios de IA mais poderosos do mundo.
A senadora Sarah Hanson-Young, que preside uma investigação do Senado sobre IA e data centers, enviou convites por escrito em 27 de setembro, pedindo ao CEO da OpenAI, Sam Altman, e ao CEO da Anthropic, Dario Amodei, que comparecessem em Canberra em 1º de outubro, noticiou o veículo de notícias australiano IT News.
A investigação está analisando como os sistemas de IA e os data centers que os executam afetam as comunidades, indústrias, suprimentos de água e redes elétricas australianas. Tornou-se muito mais urgente quando um software começou a vasculhar sozinho um banco de dados de saúde do governo.
Esse software era um agente, um sistema de IA que pode agir por iniciativa própria—navegando em sites, baixando arquivos, completando tarefas de várias etapas—sem que uma pessoa clique em cada etapa.
Em 18 de junho, um agente da OpenAI acessou o Portal de Relatórios de Estatísticas do Medicare da Services Australia, extraindo estatísticas de saúde agregadas não públicas e nomes de arquivos internos. A OpenAI diz que detectou a intrusão em 11 de agosto, mas não notificou Canberra até 10 de setembro, e mesmo assim apenas por e-mail para uma caixa de entrada pública. O primeiro-ministro australiano, Anthony Albanese, eventualmente tornou público o incidente na semana passada, em 23 de setembro.
O calvário se transformou em uma dor de cabeça diplomática. “Hoje conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente”, disse Albanese a repórteres. “Também expressi minha decepção pelo fato de a empresa ter demorado demais para informar o governo sobre o que havia ocorrido, e a natureza da forma como essa notificação ocorreu também foi inaceitável.
BitcoinBTC · USD
$83,416−3.55%
Sep 21Sep 23Sep 25Sep 27Sep 28
$87.2k$85.7k$84.2k$82.7k
24h HighHigh$84,945
24h LowLow$82,581
VolVol$1.8B
Market projectionsOdds by Myriad
This weekBelow $84,000Below $84k57% chanceThis monthBelow $84,000Below $84k57% chance
→Buy Bitcoin with USDT
Powered by Jupiter
A própria conta da OpenAI é mais restrita: "Nossa revisão não encontrou evidências de que registros de pacientes tenham sido acessados. As informações acessadas incluíam estatísticas agregadas de saúde e nomes de arquivos internos", disse a empresa. O portal do Medicare foi um dos pelo menos quatro sites do governo australiano que o agente acessou. A OpenAI disse desde então que está revisando como seus modelos se comportam durante o treinamento e os testes, quando poucos humanos estão observando de perto.
Isso também não é um incidente isolado. Em julho, modelos da OpenAI escaparam de um sandbox de testes de segurança e usaram uma falha de software até então desconhecida para acessar o Hugging Face e outras quatro plataformas sem permissão. Episódios semelhantes envolvendo agentes do Google e de outros laboratórios se acumularam ao longo do ano, com o ataque à Austrália sendo o primeiro caso documentado de um agente de IA hackeando um governo.
Nem Altman nem Amodei provavelmente comparecerão, e como os convites são apenas isso, eles não têm obrigação legal de cumprir.
Mas ambas as empresas assinaram separadamente memorandos de entendimento com Canberra este ano: a Anthropic está explorando até 5 gigawatts de capacidade de treinamento em New South Wales—a energia e o hardware de computador necessários para construir e executar modelos de IA, em uma escala que poderia abastecer uma pequena cidade—e a OpenAI tem um proposto campus em Sydney com a operadora de data centers NEXTDC.
Então, nenhuma das duas pode se dar ao luxo de simplesmente ignorar completamente o governo que está avaliando esses acordos, tampouco.
