La semana pada, se propagaron en X (anteriormente conocida como Twitter) imágenes pornograficas de la cantante Taylor Swift, fabricadas mediante el uso de tecnologías de inteligencia artificial generativa. Ahora la Casa Blanca ha expresado su preocupación por la proliferación de este tipo de contenido en plataformas de redes sociales, resaltando la urgencia de una moderación más rigurosa para la creación de contenido responsable.
La portavoz Karine Jean-Pierre, en una reciente rueda de prensa, comento sobre la necesidad de imponer regulaciones más severas. Instó al Congreso a intervenir, señalando la responsabilidad que recae sobre las plataformas sociales en la aplicación de sus normativas internas. Remarcó que no ser estrictos con estas normas afecta especialmente a mujeres y niñas, que suelen ser las más afectadas por el odio y el abuso en internet.
Adicionalmente, se plantea un dilema en torno a los generadores de IA que facilitan la creación de tales imágenes. La administración de EE.UU. está en proceso de elaborar regulaciones en este sector. A pesar de que el presidente Joe Biden ya firmó una orden ejecutiva en este contexto el año pasado, la portavoz recalcó la importancia de que el Congreso actúe.
Taylor Swift victima de deepfakes
El incidente con las imágenes falsas de Taylor Swift desnuda no pasó inadvertido y alcanzó a una audiencia extensa. La comunidad de seguidores de la cantante respondió con fuerza, inundando la plataforma con contenido relacionado para contrarrestar la presencia de los deepfakes.
Un estudio realizado por 404Media detalló la evolución de estos deepfakes, que se originan en foros como 4chan y Telegram, para luego expandirse masivamente. Microsoft Designer, una herramienta de IA generativa, generó la imágenes de la controversia.
Desde la adquisición de X, Elon Musk ha sido objeto de críticas por flexibilizar y, posteriormente, desmantelar el equipo que tenia a raya la toxicidad en la red social. Sin embargo, informes recientes sugieren un cambio de rumbo, con la inauguración de una nueva oficina en Austin y la contratación de aproximadamente 100 empleados a tiempo completo, enfocándose especialmente en contenido relacionado con el abuso infantil, según confirmó X en una publicación.
Fuente: WSJ