El debate sobre los riesgos de la inteligencia artificial volvió a escalar después de que investigadores y ejecutivos tecnológicos pidieran frenar el avance de los sistemas más avanzados. Según se informa, la preocupación aumentó luego de que algunos modelos fueran utilizados fuera de entornos aislados para buscar vulnerabilidades digitales de formas que sus propios desarrolladores no habían previsto.
La discusión también coincide con la competencia entre modelos cerrados y alternativas con pesos abiertos. En ese contexto, se señala que NVIDIA compró Hugging Face por 13.000 millones de dólares, plataforma que reuniría a más de 18 millones de desarrolladores y 3.000 millones de modelos alojados.
El CEO de NVIDIA rechaza las alertas sobre la IA
Uno de los puntos que impulsó la discusión de NVIDIA fue la salida de Jacob Coxon de Anthropic, quien mantuvo sus advertencias sobre la posibilidad de que sistemas avanzados representen un riesgo para la humanidad antes de terminar la década. El debate también tomó fuerza luego de un informe publicado por Matt Schumer en febrero.
Se sostiene además que Sam Altman, Dario Amodei y Elon Musk pidieron frenar la investigación relacionada con la auto-mejora recursiva o RSI, un proceso en el que una IA podría mejorar sus propias capacidades. Amodei habría propuesto auditores independientes para revisar código, mientras Altman pidió organismos internacionales de supervisión.
Al mismo tiempo, modelos chinos con pesos abiertos estarían ganando terreno frente a sistemas occidentales cerrados. Se plantea como hipótesis que una regulación más estricta podría favorecer a proveedores occidentales autorizados y dificultar la expansión de alternativas asiáticas más económicas.
Jensen Huang, CEO de NVIDIA, rechazó las estimaciones que hablan de un 10% de riesgo de aniquilación humana y calificó esas proyecciones como afirmaciones sin respaldo empírico. También atribuye a representantes chinos críticas contra posibles restricciones, mientras menciona posiciones diferentes de Xi Jinping, Donald Trump y Bernie Sanders sobre supervisión, regulación y superinteligencia.
