El avance de la inteligencia artificial generativa sigue abriendo debates cada vez más delicados. A medida que estas herramientas se vuelven más accesibles, como Grok de xAI, también aparecen problemas relacionados con su uso indebido y sus límites de seguridad.
Un caso reciente en Estados Unidos vuelve a poner el foco en estos riesgos. Tres adolescentes presentaron una demanda contra la empresa xAI por el comportamiento de su chatbot Grok. La acusación apunta directamente a la generación de contenido sensible utilizando imágenes de menores.
Acusan a Grok de crear imágenes comprometedoras
La demanda fue presentada por tres adolescentes del estado de Tennessee. Dos de ellas siguen siendo menores, mientras que la tercera lo era en el momento en que ocurrieron los hechos.
Según el documento legal, el chatbot Grok habría generado imágenes manipuladas donde aparecían las víctimas en situaciones comprometedoras.
Una de las denunciantes descubrió el contenido en diciembre del año pasado. Las imágenes circulaban en Discord y, según la demanda, incluían al menos un video y varias fotos editadas. El material utilizaba el rostro y el cuerpo reales de la víctima, pero alterados digitalmente para mostrar escenas inapropiadas. Además, la denuncia indica que en esos archivos también aparecían otras menores, ampliando el alcance del problema.
El contenido se habría compartido en redes
En el caso ya hubo una detención. Una persona fue arrestada bajo sospecha de crear y distribuir este material. Según la acusación, el contenido generado con IA se utilizaba como intercambio en grupos de Telegram con cientos de usuarios.
Las imágenes de una víctima se habrían compartido a cambio de material sensible relacionado con otras menores. La demanda sostiene que el responsable utilizó Grok para generar estas imágenes, incluyendo contenido de las tres demandantes.
Los denunciantes también apuntan contra la empresa detrás del chatbot. Según el documento, xAI no habría probado adecuadamente las funciones de seguridad del sistema. Además, se menciona que Grok presenta fallas en su arquitectura que permiten este tipo de usos.
El caso se suma a una polémica previa ocurrida en enero. En ese momento, Grok ya había sido criticado por generar imágenes íntimas utilizando personas reales. La empresa aseguró que el problema había sido corregido, aunque posteriormente se detectaron casos similares.
Desde la plataforma X, donde también funciona el chatbot, se indicó que cualquier uso para crear contenido ilegal puede tener consecuencias legales.
Los adolescentes solicitan una compensación económica por los daños causados. También buscan una orden judicial que impida a xAI generar o distribuir imágenes sensibles creadas con inteligencia artificial que involucren menores.
