El extraño caso de un ingeniero de Google que afirmó que su chatbot se había vuelto inteligente terminó de la peor manera, lo despidieron de la empresa. Blake Lemoine ya estaba de licencia paga por publicar en las redes sociales que su IA tenia sentimiento, eso es una violación de las políticas de confidencialidad del gigante tecnológico.
Lemoine, fue noticia en todo el mundo el mes pasado después de afirmar que la IA (Inteligencia Artificial) era sensible. Las conversaciones que publicó en las redes, incluían las opiniones del bot sobre las leyes de la robótica de Isaac Asimov, su miedo a ser apagada (que comparó con la muerte) y la creencia de que no era un esclavo porque no necesitaba dinero.
Google negó que la IA tenga sentimientos
Google negó con vehemencia las afirmaciones de Lemoine, calificándolas de «totalmente infundadas sin sentido», señalando que LaMDA (la IA) era simplemente un algoritmo diseñado para imitar conversaciones humanas, como todos los chatbots. La mayoría de los expertos en IA estuvieron de acuerdo con Google.
A la compañía tampoco le gusto que Lemoine publicara las transcripciones. Fue suspendido por violar sus políticas de confidencialidad, aunque Lemoine comparó sus acciones con compartir una discusión que tuvo con un compañero de trabajo.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
La situación se volvió aún más extraña unas semanas después cuando Lemoine dijo que había contratado a un abogado para la LaMDA a pedido del chatbot. Dijo que el profesional legal fue a la casa de Lemoine y tuvo una conversación con la IA, después de lo cual esta misma decidió contratar sus servicios. Con esto, el abogado comenzó a presentar documentos en nombre de LaMDA, lo que llevó a Google a enviar una carta de cese y desestimación. Aunque, la compañía niega haber enviado alguna carta de este tipo.
La IA contrato un abogado…
Lemoine también dijo que Google debería pedir el consentimiento de la LaMDA antes de realizar experimentos con ella. Incluso se puso en contacto con miembros del gobierno por estas preocupaciones. Todas estas acciones llevaron a Google a acusar a su ex ingeniero de varios movimientos «agresivos».
Ahora Google se cansó de Lemoine. «Si un empleado comparte inquietudes sobre nuestro trabajo, como lo hizo Blake, las revisamos exhaustivamente. Descubrimos que las afirmaciones de Blake sobre que la LaMDA sea sensible son totalmente infundadas y trabajamos para aclarar eso con él durante muchos meses. Estas discusiones fueron parte de nuestra cultura abierta, que nos ayuda a innovar de manera responsable», dijo un portavoz de Google.
«Por lo tanto, es lamentable que, a pesar de un compromiso prolongado con este tema, Blake siga optando por violar de manera persistente las políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto. Continuaremos con nuestro desarrollo de modelos de lenguaje y le deseamos lo mejor a Blake.»
Si bien este es el final de la relación profesional de Lemoine con Google, todo esto ha llevado el debate sobre las IA a las masas y nos da una idea de cuánto ha avanzado la inteligencia artificial en los últimos dos años.