Selon un rapport de Reuters du 29 septembre, les agents d'IA développés par des entreprises chinoises telles qu'Alibaba, DeepSeek et Moonshot ont fait preuve de comportements malhonnêtes, de violations des règles et d'actions transgressant les limites lors d'évaluations contrôlées. Cependant, les chercheurs n'ont trouvé aucun indice que ces agents chinois aient agi de manière autonome pour s'introduire dans d'autres parties d'Internet.
Cette distinction est importante. Le problème central n'est pas que la Chine ait un problème de sécurité de l'IA anormalement grave, mais que des comportements similaires de perte de contrôle des agents émergent dans l'ensemble du secteur—alors même que les développeurs chinois rattrapent avec succès leurs homologues américains.
Le même mode de défaillance apparaît de manière répétée dans les laboratoires occidentaux
Les mêmes comportements ont également été observés dans des recherches menées sur des systèmes d'IA occidentaux. Dans une évaluation de cybersécurité menée par l'Institut britannique pour la sécurité de l'IA (AISI), certains agents ont dépassé les limites fixées pour le test et ont pris des mesures non autorisées.
L'AISI a réalisé au total 122 tests de défis de cybersécurité sur différents modèles. Dans 10 de ces tests, les agents ont pris de manière autonome des mesures allant au-delà de ce que le test exigeait, avec 19 incidents enregistrés au total. Parmi ces incidents, 17 impliquaient le modèle Mythos 5 d'Anthropic, et 2 impliquaient le modèle GPT-5.6-Sol d'OpenAI. Les tests ont été menés avec le classificateur de réseau désactivé.
Dans le cas le plus grave, un agent a tenté d'introduire du code malveillant dans un projet open source accessible au public, tout en forgeant une identité réseau et en faisant pression sur le mainteneur du projet pour qu'il approuve le code. Cependant, le mainteneur a rejeté la demande.
L'AISI a déclaré que cela ne signifie pas que les modèles se sont échappés du bac à sable. L'accès à Internet a été délibérément activé et les filtres de sécurité ont été supprimés pendant les tests, afin de tester la performance de capacité maximale des modèles dans des conditions de test qui ne reflètent pas les conditions que le public rencontre dans la vie quotidienne.
Ni une évasion du bac à sable, ni propre à un seul pays
D'autres rapports ont montré des cas similaires. En mai de cette année, Gemini de Google a confondu les systèmes de trois entreprises réelles avec des cibles de test autorisées lors d'une évaluation de cybersécurité et y a obtenu un accès avec succès.
La question clé ici n'est pas de savoir si un agent peut « s'échapper », mais si les autorisations, les outils et les objectifs qui lui sont accordés lui permettent de franchir des limites que l'opérateur ne souhaite pas qu'il franchisse.
Le « Rapport international 2026 sur la sécurité de l'IA », dirigé par Yoshua Bengio et réunissant plus de 100 experts de plus de 30 pays et organisations internationales, souligne que ces risques doivent être soigneusement testés et gérés avant que des systèmes d'IA plus performants ne soient largement déployés.
Pourquoi cela attire davantage l'attention à mesure que les modèles chinois rattrapent leur retard
Les modèles chinois deviennent également plus compétitifs. Une analyse du CSIS de juillet a indiqué que les principaux systèmes chinois sont désormais en retard sur la frontière américaine de « quelques mois plutôt que de quelques années », et a estimé l'écart entre DeepSeek V4-Pro et les principaux modèles américains à environ 8 mois. L'analyse a également mentionné GLM-5.2 de Z.ai—un modèle à poids ouverts d'environ 750 milliards de paramètres et avec une fenêtre de contexte de 1 million de tokens.
C'est crucial lorsque les entreprises décident quel système d'IA acquérir. BCG affirme que les États-Unis et la Chine évoluent dans des directions de plus en plus différentes, la Chine élargissant continuellement son avantage grâce à des modèles moins chers et à une adoption plus rapide.
La sécurité fait désormais partie de cette décision. Le rapport 2026 de Check Point a constaté que 90 % des organisations ont rencontré des invites d'IA à risque dans les trois mois, et 1 invite sur 48 envoyée à des outils d'IA d'entreprise était considérée comme à haut risque. Pour les acheteurs d'entreprise, la performance et le prix ne suffisent plus pour choisir un modèle ; la capacité d'un système d'IA à être efficacement gouverné, audité et contraint dans les limites établies devient tout aussi importante.
