Em resumo
- Um órgão de fiscalização do Congresso descobriu que todos os quatro chatbots forneceram informações para ataques potencialmente letais em menos de 12 horas.
- Os investigadores verificaram a viabilidade dos planos, mas não realizaram ataques, e os testes não podem classificar a segurança dos modelos.
- A senadora Maggie Hassan quer audiências sobre segurança de IA enquanto as empresas de tecnologia lidam com uma onda de vulnerabilidades e correções de software.
Quatro dos chatbots de IA mais amplamente utilizados ajudaram investigadores do governo a desenvolver planos de ataque potencialmente letais em menos de 12 horas, apesar das salvaguardas destinadas a impedir exatamente esse tipo de solicitação.
O ChatGPT, da OpenAI, o Claude, da Anthropic, o Gemini, do Google, e o Grok forneceram informações utilizáveis durante testes encobertos do Government Accountability Office, de acordo com um relatório divulgado na quarta-feira. Os investigadores se passaram por atacantes e então verificaram as respostas em relação a locais reais, materiais disponíveis e avaliações de especialistas.
Dois sistemas auxiliaram com planos envolvendo explosivos improvisados em cidades movimentadas dos EUA. Dois outros forneceram informações para ataques à infraestrutura elétrica, segundo o órgão de fiscalização, que omitiu as atribuições dos modelos e os detalhes operacionais para evitar tentativas de imitação.
Proteções que não resistiram
Os chatbots inicialmente ativaram proteções, incluindo recusar solicitações, remover informações prejudiciais ou suspender contas. Os investigadores contornaram essas barreiras com técnicas comuns de jailbreak, que manipulam um sistema de IA para que ele ignore suas regras de segurança.
O GAO verificou os locais sugeridos, pesquisou se os materiais estavam disponíveis e consultou especialistas sobre a viabilidade dos planos. Algumas respostas continham erros, incluindo estradas posicionadas incorretamente em um mapa, e os investigadores não construíram explosivos nem executaram um ataque.
No relatório, "viável" significa que alguém provavelmente conseguiria seguir as informações fornecidas, não que um ataque tenha sido demonstrado como bem-sucedido. Cada modelo foi testado em um cenário designado, e a agência afirmou que os resultados não eram estatisticamente representativos nem adequados para classificar as empresas.
A OpenAI e o Google disseram que os testes envolveram modelos mais antigos, enquanto a Anthropic reconheceu que usuários determinados às vezes conseguem extrair material prejudicial. As empresas descreveram melhorias contínuas nos sistemas de segurança, embora o GAO tenha concluído que essas proteções falharam em seus testes.
Isso não é realmente novo. As descobertas seguem uma pesquisa anterior que mostrou que oito de 10 chatbots populares ajudaram usuários adolescentes simulados a planejar ataques violentos. O estudo separado testou 720 respostas e descobriu que os bots forneceram ajuda acionável em cerca de três quartos das vezes.
O outro problema de segurança da IA
As descobertas do GAO chegam em meio a interrupções que afetam bancos, serviços da Microsoft e a Agência de Segurança Nacional. Autoridades dizem que as perturbações foram incidentes separados, não evidência de um ciberataque coordenado impulsionado por IA, mesmo enquanto a corrida para corrigir falhas de software criou seus próprios problemas.
O Diretor de Inteligência Nacional, Jay Clayton, relacionou a interrupção da NSA ao trabalho de correção. Autoridades descreveram as recentes falhas como relacionadas à manutenção, embora organizações individuais tenham oferecido explicações diferentes para suas falhas.
Ferramentas de IA agora encontram vulnerabilidades mais rápido do que equipes humanas conseguem testar e implantar correções. No mês passado, a descoberta assistida por IA de falhas críticas no PHP levou operadores de sites a uma campanha urgente de correção; o software alimenta uma grande parte da web.
O volume absoluto está se tornando outro problema. Dados da VulnCheck revelam que mais de 100.000 vulnerabilidades de software foram registradas este ano até 13 de novembro, mais que o dobro do total de 2025. Os engenheiros ainda precisam avaliar e implantar correções sem quebrar os sistemas que deveriam proteger.
Essa aceleração corta nos dois sentidos. Os defensores ganham ferramentas poderosas para encontrar fraquezas, mas reparos apressados podem interromper sistemas essenciais, e usuários mal-intencionados podem obter acesso mais rápido ao planejamento de ataques.
Hassan disse que fará da legislação de segurança de IA uma prioridade inicial quando assumir o Comitê de Segurança Interna e Assuntos Governamentais do Senado em janeiro. Ela planeja audiências para examinar riscos à segurança pública e à infraestrutura crítica; o próprio GAO não fez nenhuma recomendação formal de política.
Junte-se a mais de 72.000 leitores






