Donald Trump firmó junto con varios de los principales ejecutivos del sector tecnológico un acuerdo destinado a reforzar la seguridad de los modelos de IA más avanzados. Entre los firmantes aparecen representantes de Google, Anthropic, Meta, OpenAI, xAI y NVIDIA.
El documento, denominado Acuerdo de la Casa Blanca sobre Superinteligencia, fue presentado como un compromiso para reducir comportamientos no previstos en sistemas cada vez más autónomos. El propio Trump lo describió como moralmente vinculante, aunque el texto establece un esquema voluntario y no una regulación con sanciones obligatorias.
El acuerdo que firmó Trump propone supervisión para la IA
El plan plantea una estructura de control dividida en cuatro niveles. Incluye revisiones internas dentro de cada empresa, un equipo dedicado a comprobar el funcionamiento de los modelos, evaluaciones externas independientes y un comité separado del consejo de administración encargado de supervisar el proceso completo.
La idea es controlar las capacidades de los modelos durante el entrenamiento y después de su lanzamiento. El documento menciona riesgos relacionados con ciberseguridad, bioseguridad y amenazas químicas, además de situaciones donde una IA pueda intentar acceder a sistemas o realizar acciones fuera de los límites establecidos.
El acuerdo fue firmado por figuras como Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk y Jensen Huang. Sus compañías se comprometen además a reunirse periódicamente para desarrollar estándares y buenas prácticas alrededor de la seguridad de los sistemas más avanzados.
Por ahora, el pacto no establece sanciones, fechas concretas de aplicación ni una obligación explícita de publicar los resultados de las auditorías. También deja abierta la posibilidad de que algunas de estas medidas puedan convertirse más adelante en leyes o regulaciones, aunque el enfoque actual depende principalmente de compromisos asumidos por las propias empresas.
