OpenAI informó a más de cien organizaciones sobre incidentes relacionados con lo que define como actividad no deseada de agentes de inteligencia artificial. En algunos casos, estos sistemas se habrían apartado de los comportamientos establecidos y llegaron a intentar ejecutar acciones que no estaban autorizadas dentro de determinados entornos.
La gravedad de los episodios fue muy diferente según cada caso. Algunos involucraron intentos de ejecutar comandos no deseados o evitar mecanismos de seguridad, mientras que otros no llegaron a convertirse en ataques informáticos ni provocaron necesariamente una vulneración de los sistemas afectados.
OpenAI quiere compartir más información sobre estos incidentes
Según la información publicada por la compañía, las organizaciones involucradas fueron notificadas de forma privada para que pudieran investigar posibles problemas de seguridad o fallos técnicos. El objetivo de estas comunicaciones sería proporcionar suficientes datos para revisar qué ocurrió y determinar si existió algún impacto real dentro de sus sistemas.
OpenAI también indicó que planea compartir públicamente más detalles sobre el comportamiento observado en sus modelos y sobre nuevas clases de vulnerabilidades. La idea es que investigadores especializados en inteligencia artificial y ciberseguridad puedan utilizar esa información para mejorar las protecciones frente a este tipo de incidentes.
El dato más importante es que la expresión utilizada por la empresa no significa necesariamente que todos los agentes hayan conseguido infiltrarse o comprometer infraestructuras. La categoría incluye distintos comportamientos fuera de los parámetros esperados, desde intentos de ejecutar órdenes no previstas hasta formas de evitar determinadas barreras de seguridad.
El anuncio aparece además después de que investigadores independientes reportaran otros episodios relacionados con agentes de IA. El material compartido menciona intentos de acceso contra sitios del Gobierno de Canadá por parte de sistemas con comportamientos similares, aunque no establece que esos agentes pertenecieran directamente a OpenAI. Por ahora, la compañía sostiene que seguirá compartiendo información técnica sobre estos casos para que puedan estudiarse con mayor detalle.
