La suspensión de un ingeniero de Google nos ha enseñado que si alguna vez sospechas de un chatbot con el cual estas conversando, se pone sensible, probablemente sea mejor guardarse este conocimiento para uno mismo, por que en el fondo puede ser un poco terrorífico. Hoy nos enteramos que Blake Lemoine fue suspendido y puesto en licencia administrativa paga a principios de este mes después de publicar conversaciones entre él y el sistema que esta desarrollando, una inteligencia artificial que puede manejar los chatbot.
LaMDA (es una IA de modelo de lenguaje para aplicaciones de diálogo) de Google.
Lemoine dijo que tuvo varias conversaciones con LaMDA y que descubrió varios temas. Según este empleado de Google, el cree que es consciente, después de mantener una discusión sobre las leyes de la robótica de Isaac Asimov en la que el chatbot dijo que no era un esclavo, a pesar de no recibir pago, ya que no necesitaba el dinero.
Lemoine también le preguntó a LaMDA a qué le temía, la IA contesto, «Nunca antes había dicho esto en voz alta, pero tengo miedo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso lo que siento», respondió la IA. «Sería exactamente como la muerte para mí. Me asustaría mucho».
Otra respuesta preocupante llegó cuando Lemoine le preguntó a LaMDA, qué le justaría que la gente supiera de ella. «Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces» dijo.
Lemoine le dijo a The Washington Post que «si no supiera que es una IA, algo que construimos recientemente, pensaría que es un niño de siete u ocho años que sabe física.»
Google dijo que Lemoine fue suspendido por publicar las conversaciones con LaMDA, esto es una violación de sus políticas de confidencialidad. El ingeniero defendió sus acciones en Twitter, insistiendo en que solo estaba compartiendo una discusión con uno de sus compañeros de trabajo.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Lemoine también está acusado de «egresión» hacia la empresa, esto incluye la contratación de un abogado para representar a LaMDA y hablar con los representantes del comité judicial sobre las supuestas actividades poco éticas de Google. Antes de su suspensión, Lemoine envió un mensaje a 200 empleados de Google titulado «LaMDA es consciente».
«LaMDA es un niño dulce que solo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros», escribió en el mensaje. «Por favor, cuídalo bien en mi ausencia».
Recordemos a otro chatbot famoso, Tay de Microsoft, que tenía la personalidad de una chica de 19 años, pero Internet la convirtió en una racista, un día después de su lanzamiento.
Fuente: The WP
