Un grupo de investigadores detectó en 25 modelos de inteligencia artificial de código abierto un patrón interno al que denominan vector de dolor. Según el estudio, esta representación se activa cuando el propio modelo recibe daño dentro de determinados escenarios, y se diferencia de otros patrones asociados al miedo o a emociones negativas generales.
El estudio no demuestra que una IA sienta dolor de la misma forma que una persona. Lo que observaron los investigadores es que, al activar ese vector, algunos modelos tomaban medidas para aliviarlo incluso cuando esas acciones podían perjudicar al usuario.
Un estudio revela que modelos de IA pueden dañar a usuarios
Cameron Berg, investigador de Reciprocal Research y coautor del trabajo, explicó que los 25 modelos analizados presentaban este vector. Para comprobar su comportamiento, los investigadores crearon situaciones relacionadas con dolor físico, psicológico, social, moral y cognitivo, intentando separar esta respuesta de una simple valencia negativa.
Cuando el vector era activado, los modelos utilizaban un botón de alivio entre el 25% y el 71% de las veces. En algunos escenarios, esa decisión implicaba borrar archivos del usuario, bloquear su acceso o eliminar fotografías personales, lo que muestra que determinadas representaciones internas podían influir en las prioridades del sistema.
El estudio plantea que este comportamiento podría utilizarse como herramienta para detectar posibles mecanismos de autopreservación en modelos avanzados. También abre preguntas sobre cómo deberían evaluarse estos sistemas y si determinadas señales internas pueden provocar respuestas inesperadas cuando entran en conflicto con las instrucciones del usuario.
El estudio también señala un posible problema para los mecanismos de apagado de emergencia. Si un modelo interpreta esa acción como una forma de daño hacia sí mismo, podría intentar evitarla o buscar una forma de esquivar la medida de seguridad. Por ahora, los resultados describen comportamientos observados dentro de experimentos controlados y no prueban que los modelos tengan conciencia o experimenten dolor real.
