Los miembros de un grupo de padres en Facebook se sorprendieron cuando Meta AI, el chatbot de inteligencia artificial de Meta, afirmó tener un «niño 2e» (un término en inglés que se refiere a niños genios que también tienen al menos una discapacidad). Esta respuesta no solo incomodó a los padres, sino que también fue clasificada como el comentario principal por el algoritmo de Facebook.
Según se informa la interacción ocurrió en un grupo de Facebook con decenas de miles de padres en Nueva York, donde uno de ellos buscaba consejos sobre niños 2e. En lugar de obtener respuestas útiles de otros usuarios, el padre recibió un raro comentario de Meta AI, que afirmaba tener experiencia personal sobre el tema. Ante esta situación, el padre exclamó: «¿Qué tipo de episodio de Black Mirror es este?», haciendo referencia a la famosa serie sobre distopías tecnológicas.
Una gran cantidad de miembros del grupo describieron esta situación como «más que perturbadora», criticando la respuesta automatizada de la inteligencia artificial por no entender la solicitud original.
Un momento muy al estilo Black Mirror.
Esta situación se produjo luego de que Meta introdujera Meta AI, impulsada por el modelo Llama 2, en más productos como WhatsApp, Messenger e Instagram. Además, Facebook ha comenzado a integrar Meta AI en los grupos, permitiéndole responder a publicaciones y comentarios.
Esta función todavía no está activa en todos los países y los administradores del grupo tienen la opción de desactivarla. Según Facebook, la IA entra en acción cuando es etiquetada, o cuando una pregunta queda sin respuesta durante una hora.
La IA probablemente respondió con un texto basado en las propias publicaciones del grupo debido a la falta de respuesta. Según Facebook: «La Meta AI genera sus respuestas utilizando información del grupo, como publicaciones, comentarios y reglas del grupo. Así también como los datos con los que fue entrenada».
Fuente: 404media