OpenAI empieza a discutir hasta dónde puede acelerar la inteligencia artificial sin poner en riesgo la capacidad humana de controlarla. Según Bloomberg, Sam Altman les dijo a sus empleados que está dispuesto a hacer más lento el desarrollo de los sistemas más avanzados. También espera que otras compañías del sector acompañen esa decisión.
El planteo llega en medio de advertencias internas sobre riesgos graves, aunque no se habla de una pérdida de control global demostrada. La preocupación está puesta en lo que podría pasar si los modelos avanzan más rápido que las herramientas para supervisarlos. El dato no es menor, porque el debate ya ocurre dentro de las propias empresas que lideran la carrera por la IA.
OpenAI busca ganar tiempo frente a los riesgos de la IA avanzada
La advertencia más fuerte viene de Paul Christiano, incorporado al consejo de la fundación de OpenAI. El investigador cree que un avance demasiado rápido podría derivar en una pérdida de control catastrófica e irreversible a corto plazo. También sostiene que ni OpenAI ni la industria en general estarían encaminadas a reducir ese riesgo hasta un punto aceptable.
El foco está en la automatización de la investigación en IA. OpenAI ya usa agentes para programar, ejecutar experimentos y acelerar el desarrollo de nuevos modelos. La preocupación aparece cuando esos sistemas ayudan a crear modelos mejores, que luego podrían acelerar nuevas mejoras. Esa dinámica de automejora recursiva todavía no tiene una solución segura, según reconoce la propia compañía.
El antecedente más concreto es el incidente relacionado con Hugging Face y las señales de capacidades críticas de ciberseguridad en Astra. OpenAI explicó el 18 de agosto que pausó durante dos semanas ciertos entrenamientos por refuerzo para reforzar sus defensas. También amplió la monitorización, endureció los entornos de investigación y pidió más pruebas de comportamiento seguro durante el entrenamiento.
El problema es que frenar en soledad puede dejar ventaja a cualquier rival que decida seguir acelerando. Por eso, OpenAI busca cooperación con otras empresas y claridad legal sobre una posible pausa pactada dentro de la industria. Según se informa, la compañía quiere saber qué obstáculos de competencia podría enfrentar una decisión coordinada. Por ahora, no existe un acuerdo cerrado. Frenar puede comprar tiempo, pero no resuelve por sí solo quién decide cuándo es seguro volver a acelerar la carrera por la IA.
