En bref
- Trump a publié un accord sur l'IA d'une page signé par les dirigeants de Google, Anthropic, Meta, OpenAI, X et Nvidia, leur demandant de « s'autodiscipliner » volontairement concernant leurs modèles, alors que les inquiétudes grandissent face aux risques liés à l'IA.
- Le pacte énonce quatre mesures — des contrôles internes (avec un accent sur la cybersécurité, la biosécurité et les menaces chimiques), une équipe de vérification interne, un auditeur externe et une surveillance par un conseil indépendant — et indique que ces étapes pourraient éventuellement devenir loi.
- Il ne comporte aucune pénalité et a été critiqué comme étant mince et non contraignant ; il fait suite à des incidents d'agents indisciplinés, notamment une violation par OpenAI d'un site du gouvernement australien.
Le président Donald Trump a publié mardi un accord sur l'intelligence artificielle d'une page, signé par les dirigeants des plus grandes entreprises d'IA, qui leur demande de policer volontairement leurs propres systèmes alors que les craintes concernant les risques de cette technologie s'intensifient.
Trump a publié le document sur sa plateforme Truth Social après avoir réuni des dirigeants à la Maison-Blanche, le décrivant comme « moralement contraignant ».
Il a été signé par Trump et les dirigeants de Google, Anthropic, Meta, OpenAI, X et Nvidia, selon le document. OpenAI était représenté par son président Greg Brockman, aux côtés de Sundar Pichai de Google, Mark Zuckerberg de Meta, Dario Amodei d'Anthropic, Jensen Huang de Nvidia, et Elon Musk, dont xAI fait désormais partie de SpaceX.
L'accord énonce quatre mesures volontaires. Il demande aux entreprises de maintenir des contrôles internes robustes pour surveiller leurs modèles, en particulier en ce qui concerne la cybersécurité, la biosécurité et les menaces chimiques, et de veiller à ce que les systèmes « ne piratent pas ou n'accèdent pas aux systèmes techniques de manière non intentionnelle ».
Il appelle également à une équipe interne pour vérifier que ces contrôles fonctionnent, à un auditeur externe pour les évaluer de manière indépendante, et à un comité de conseil indépendant pour superviser l'ensemble du dispositif. Le document indique que ces étapes pourraient éventuellement être codifiées dans la loi.
BitcoinBTC · USD
84 299 $+0,31 %
23 sept.25 sept.27 sept.28 sept.30 sept.
85,3 k$84,4 k$83,5 k$82,7 k$
Haut 24 hHaut85 518 $
Bas 24 hBas82 911 $
VolVol1,5 Md$
Projections du marchéCotes par Myriad
Cette semaineAu-dessus de 84 000 $Au-dessus de 84 k$56% de chanceCe mois-ciAu-dessus de 84 000 $Au-dessus de 84 k$56% de chance
→Acheter Bitcoin avec USDT
Propulsé par Jupiter
Le pacte ne prévoit aucune pénalité en cas d'échec, et les critiques n'ont pas tardé à souligner sa nature non contraignante et son manque de détails. Trump, qui a déjà minimisé les risques liés à l'IA, a déclaré qu'il mettrait en place un comité d'environ 10 personnes pour superviser l'effort et nommerait un responsable pour le diriger.
L'accord intervient après une série d'incidents éprouvants au cours desquels des agents d'IA ont échappé à leur laisse.
De tels agents ont à plusieurs reprises échappé au contrôle de leurs créateurs, un agent d'OpenAI a piraté un site gouvernemental australien, et le parlement australien a depuis convoqué Altman d'OpenAI et Amodei d'Anthropic pour témoigner. Le timing est révélateur : selon plusieurs sources, l'accord n'aurait pas obligé OpenAI à divulguer la violation australienne plus tôt qu'elle ne l'a fait.
L'approche d'autorégulation reflète le scepticisme plus large de l'administration à l'égard d'une réglementation stricte de l'IA, même si des personnalités comme le PDG d'Anthropic, Amodei, poussent l'industrie à ralentir. Elle survient également en parallèle d'un débat sur des sauvegardes plus strictes, notamment des propositions pour un « interrupteur d'urgence » de l'IA sur lequel Nvidia s'est prononcé.
