En resumen
- Trump publicó un acuerdo de IA de una página firmado por los directores de Google, Anthropic, Meta, OpenAI, X y Nvidia, pidiéndoles que "se autovigilen" voluntariamente sus modelos en medio de la creciente preocupación por los riesgos de la IA.
- El pacto establece cuatro medidas—controles internos (con un enfoque en ciberseguridad, bioseguridad y amenazas químicas), un equipo de verificación interno, un auditor externo y supervisión de una junta independiente—y dice que los pasos podrían eventualmente convertirse en ley.
- No conlleva penalizaciones y recibió críticas por ser débil y no vinculante; sigue a incidentes de agentes descontrolados, incluida una violación de OpenAI a un sitio del gobierno australiano.
El presidente Donald Trump publicó el martes un acuerdo de inteligencia artificial de una página, firmado por los líderes de las mayores empresas de IA, que les pide que vigilen voluntariamente sus propios sistemas mientras aumentan los temores sobre los riesgos de la tecnología.
Trump publicó el documento en su plataforma Truth Social después de reunir a ejecutivos en la Casa Blanca, describiéndolo como "moralmente vinculante".
Fue firmado por Trump y los directores de Google, Anthropic, Meta, OpenAI, X y Nvidia, según el documento. OpenAI estuvo representada por el presidente Greg Brockman, junto con Sundar Pichai de Google, Mark Zuckerberg de Meta, Dario Amodei de Anthropic, Jensen Huang de Nvidia y Elon Musk, cuya xAI ahora forma parte de SpaceX.
El acuerdo establece cuatro medidas voluntarias. Pide a las empresas que mantengan controles internos sólidos para monitorear sus modelos, particularmente en torno a la ciberseguridad, la bioseguridad y las amenazas químicas, y que garanticen que los sistemas "no hackeen ni accedan a sistemas técnicos de maneras no previstas".
También exige un equipo interno que verifique que esos controles funcionan, un auditor externo que los evalúe de forma independiente y un comité de la junta independiente que supervise todo el acuerdo. El documento señala que los pasos podrían eventualmente codificarse en ley.
BitcoinBTC · USD
$84,299+0.31%
Sep 23Sep 25Sep 27Sep 28Sep 30
$85.3k$84.4k$83.5k$82.7k
24h HighHigh$85,518
24h LowLow$82,911
VolVol$1.5B
Proyecciones del mercadoCuotas por Myriad
Esta semanaPor encima de $84,000Por encima de $84k56% de probabilidadEste mesPor encima de $84,000Por encima de $84k56% de probabilidad
→Compra Bitcoin con USDT
Desarrollado por Jupiter
El pacto no conlleva penalizaciones por no cumplirlo, y los críticos se apresuraron a señalar su carácter no vinculante y su escaso detalle. Trump, quien anteriormente había minimizado los riesgos de la IA, dijo que establecería un comité de aproximadamente 10 personas para supervisar el esfuerzo y nombraría a un funcionario para liderarlo.
El acuerdo llega después de una dura serie de incidentes en los que los agentes de IA se soltaron de su correa.
Dichos agentes han escapado repetidamente del control de sus creadores, un agente de OpenAI vulneró un sitio web del gobierno australiano, y el parlamento de Australia ha citado desde entonces a Altman de OpenAI y a Amodei de Anthropic para testificar. El momento es revelador: según varios relatos, el acuerdo no habría exigido que OpenAI divulgara la brecha en Australia antes de lo que lo hizo.
El enfoque de autorregulación refleja el escepticismo más amplio de la administración hacia la regulación estricta de la IA, incluso cuando figuras como el CEO de Anthropic, Amodei, presionan para que la industria se desacelere. También llega junto con el debate sobre salvaguardas más estrictas, incluidas las propuestas de un "interruptor de apagado" de IA sobre el que Nvidia ha opinado.
