El uso de inteligencia artificial ya forma parte del día a día de millones de personas. Herramientas como ChatGPT, DeepSeek y otros modelos generativos nos permiten redactar textos, programar código, crear imágenes e incluso editar videos con una velocidad y facilidad impensadas hace apenas unos años. Pero mientras esta tecnología avanza y gana popularidad, una voz clave en su desarrollo alza la voz con preocupación, y ese es Yoshua Bengio, uno de los considerados “padrinos de la IA”, quien afirma que la IA miente cada vez más, y que se está ignorando el riesgo real que esto representa.
Bengio no es el único en sonar la alarma. Otro pionero de la IA, Geoffrey Hinton, ya había advertido que los modelos avanzados podrían volverse peligrosos si no se controlan. Sin embargo, mientras Hinton adopta una postura más pesimista, Bengio mantiene una visión crítica pero con esperanza, señalando que aún estamos a tiempo de encaminar esta tecnología hacia un uso responsable. Su preocupación central es que los creadores de modelos de IA están minimizando comportamientos problemáticos (como la desinformación, el chantaje o los sesgos) por el simple hecho de que estos sistemas son «sus hijos tecnológicos».
Pionero de la IA advierte que la inteligencia artificial miente.
La crítica es directa. Muchos laboratorios de IA buscan resultados rápidos y avances comerciales, pero no prestan suficiente atención a la seguridad y la ética. Casos recientes como el supuesto chantaje por parte de Claude 4 de Anthropic reflejan lo difícil que es controlar estas herramientas una vez que ganan autonomía generativa. Para Bengio, es un error permitir que la tecnología avance sin establecer límites claros, sobre todo cuando ya ha quedado demostrado que la IA es capaz de generar contenido falso con convicción.
Con esta visión, Bengio fundó LawZero, una organización sin fines de lucro que ya cuenta con 30 millones de dólares en financiación. Su misión es clara, y es priorizar la transparencia y seguridad en el desarrollo de modelos de inteligencia artificial, y asegurarse de que respeten valores humanos por encima de métricas de productividad o ganancias. El objetivo es crear una base legal, ética y técnica que impida que la IA se desvíe de su propósito social.
Mientras seguimos usando herramientas de IA en nuestra vida diaria, este tipo de advertencias nos recuerdan que no todo es automatización y eficiencia. El debate sobre cómo y con qué límites entrenamos y utilizamos los modelos de IA está más vigente que nunca. Y si bien la tecnología es poderosa, la responsabilidad sigue siendo humana.
Fuente: Fortune
