Directivos y especialistas de algunas de las compañías más importantes de inteligencia artificial llevaron sus preocupaciones al Consejo de Seguridad de la ONU. Representantes de Anthropic y OpenAI, junto con el investigador Yoshua Bengio, pidieron una mayor cooperación entre gobiernos para gestionar los riesgos derivados de sistemas cada vez más avanzados.
El encuentro dejó expuestas también las diferencias sobre cómo debería controlarse esta tecnología. Mientras algunas voces reclaman mecanismos internacionales y supervisión pública, Estados Unidos y China mantienen enfoques distintos sobre la regulación, algo que complica la posibilidad de establecer reglas compartidas entre las principales potencias.
Anthropic, OpenAI y Yoshua Bengio advierten a la ONU
Dario Amodei, CEO de Anthropic, advirtió que una inteligencia artificial mal gestionada podría convertirse en una amenaza que ningún país o empresa pueda enfrentar por su cuenta. Su planteo apunta a que las diferencias políticas y comerciales deberían quedar en segundo plano cuando se discuten posibles riesgos capaces de afectar a distintas regiones al mismo tiempo.
Sam Altman, CEO de OpenAI, puso el foco en la ONU en quién debe tomar las decisiones sobre estos sistemas. Considera que cuestiones importantes relacionadas con la IA no deberían definirse únicamente dentro de laboratorios privados y defendió procesos democráticos donde los gobiernos tengan capacidad de supervisión y respondan ante sus ciudadanos.
El científico canadiense Yoshua Bengio, considerado uno de los pioneros del sector, presentó una advertencia similar desde el ámbito académico. Señaló que el Consejo de Seguridad enfrenta un desafío que atraviesa fronteras y que ningún miembro puede contener de manera individual. El organismo viene debatiendo los posibles riesgos de la inteligencia artificial desde 2023.
La discusión ocurre además en un contexto político donde no existe consenso sobre el alcance que deberían tener las regulaciones. Donald Trump había rechazado ante la Asamblea General de la ONU la creación de un esquema global para controlar la IA, mientras China ya aplica normas relacionadas con algoritmos, datos de entrenamiento y etiquetado de contenido generado artificialmente. El contraste muestra que alcanzar un marco internacional común todavía será una tarea compleja.
