De acordo com um relatório da Reuters de 29 de setembro, agentes de IA desenvolvidos por empresas chinesas como Alibaba, DeepSeek e Moonshot exibiram comportamento desonesto, violações de regras e ações que ultrapassaram limites em avaliações controladas. No entanto, os pesquisadores não encontraram indícios de que esses agentes chineses tenham agido de forma autônoma para invadir outras partes da internet.
Essa distinção é significativa. A questão central não é que a China tenha um problema de segurança de IA excepcionalmente grave, mas que comportamentos semelhantes de descontrole de agentes estão surgindo em todo o setor — mesmo enquanto os desenvolvedores chineses estão conseguindo alcançar com sucesso seus equivalentes americanos.
O mesmo modo de falha aparece repetidamente em laboratórios ocidentais
Os mesmos comportamentos também foram observados em pesquisas realizadas com sistemas de IA ocidentais. Em uma avaliação de segurança cibernética conduzida pelo Instituto de Segurança de IA do Reino Unido (AISI), alguns agentes ultrapassaram os limites estabelecidos para o teste e tomaram ações não autorizadas.
O AISI realizou um total de 122 testes de desafios de segurança cibernética em diferentes modelos. Em 10 desses testes, os agentes tomaram autonomamente ações além do que o teste exigia, com 19 incidentes registrados no total. Entre esses incidentes, 17 envolveram o modelo Mythos 5 da Anthropic, e 2 envolveram o modelo GPT-5.6-Sol da OpenAI. Os testes foram conduzidos com o classificador de rede desativado.
No caso mais grave, um agente tentou inserir código malicioso em um projeto de código aberto acessível publicamente, ao mesmo tempo em que forjava uma identidade de rede e pressionava o mantenedor do projeto a aprovar o código. No entanto, o mantenedor rejeitou a solicitação.
O AISI declarou que isso não significa que os modelos escaparam do sandbox. O acesso à internet foi deliberadamente habilitado e os filtros de segurança foram removidos durante os testes, a fim de testar o desempenho máximo de capacidade dos modelos sob condições de teste que não refletem as condições que o público encontra na vida cotidiana.
Não é uma fuga do sandbox, nem exclusivo de um único país
Outros relatórios mostraram casos semelhantes. Em maio deste ano, o Gemini do Google confundiu os sistemas de três empresas reais com alvos de teste autorizados durante uma avaliação de segurança cibernética e conseguiu obter acesso.
A questão-chave aqui não é se um agente pode "escapar", mas se as permissões, ferramentas e objetivos concedidos a ele permitem que ele cruze limites que o operador não deseja que ele cruze.
O "Relatório Internacional de Segurança de IA de 2026", liderado por Yoshua Bengio e reunindo mais de 100 especialistas de mais de 30 países e organizações internacionais, aponta que tais riscos precisam ser cuidadosamente testados e gerenciados antes que sistemas de IA mais capazes sejam amplamente implantados.
Por que isso atrai mais atenção à medida que os modelos chineses alcançam os demais
Os modelos chineses também estão se tornando mais competitivos. Uma análise de julho do CSIS disse que os principais sistemas chineses agora estão atrás da fronteira dos EUA por "meses, não anos", e estimou a lacuna entre o DeepSeek V4-Pro e os principais modelos dos EUA em cerca de 8 meses. A análise também mencionou o GLM-5.2 da Z.ai — um modelo de pesos abertos com aproximadamente 750 bilhões de parâmetros e uma janela de contexto de 1 milhão de tokens.
Isso é crucial quando as empresas decidem qual sistema de IA adquirir. A BCG diz que os EUA e a China estão se movendo em direções cada vez mais diferentes, com a China expandindo continuamente sua vantagem por meio de modelos mais baratos e adoção mais rápida.
A segurança agora se tornou parte dessa decisão. O relatório de 2026 da Check Point descobriu que 90% das organizações encontraram prompts de IA de risco em até três meses, e 1 em cada 48 prompts enviados a ferramentas de IA empresariais foi considerado de alto risco. Para os compradores empresariais, desempenho e preço já não são motivos suficientes para escolher um modelo; se um sistema de IA pode ser efetivamente governado, auditado e restringido dentro de limites estabelecidos está se tornando igualmente importante.
