OpenAI enfrenta una nueva demanda que acusa a ChatGPT de haber dado asesoramiento médico peligroso. El caso fue presentado por Scott Winters, pastor y ex predicador estadounidense, quien sostiene que el chatbot lo llevó a retrasar un tratamiento médico. Además de una compensación económica, el demandante pide suspender temporalmente ChatGPT Health.
Según la denuncia, ChatGPT habría respondido a sus síntomas diciendo que no eran graves y desaconsejando que siguiera las recomendaciones de familiares y amigos, quienes le pedían buscar atención médica. El caso de este pastor terminó siendo una embolia pulmonar. El caso suma tensión al debate sobre el uso de inteligencia artificial en temas de salud. Cuando una herramienta así interviene en decisiones delicadas, el margen de error puede tener consecuencias enormes.
La demanda apunta contra OpenAI y Sam Altman
La acusación señala a OpenAI y a su CEO, Sam Altman, por negligencia y mala praxis médica. Según se informa, el chatbot incluso habría usado las creencias religiosas de Winters durante la conversación. En una de las respuestas mencionadas, ChatGPT habría afirmado que “Dios no creó el cuerpo humano para que estuviera sujeto a un rechazo constante”.
Meetali Jain, directora ejecutiva de Tech Justice Law, organización que representa al demandante, afirmó que el chatbot terminó interfiriendo entre Winters y su círculo cercano. Según su postura, ChatGPT lo convenció de no escuchar a sus seres queridos. El demandante asegura que, por esas recomendaciones, ahora enfrenta años de recuperación física y psicológica.
La demanda también exige que OpenAI refuerce sus sistemas de seguridad. El pedido apunta a impedir que ChatGPT ofrezca diagnósticos o tratamientos específicos. Además, solicita suspender la sección ChatGPT Health hasta que expertos independientes confirmen que la plataforma es segura.
OpenAI ya había señalado que sus términos de servicio prohíben usar ChatGPT para diagnóstico o tratamiento médico. Aun así, la compañía desarrolla ChatGPT Health y dijo hace poco que unas 230 millones de personas usan la plataforma cada semana para consultas relacionadas con salud. Este no es el único caso sensible para la empresa, ya que también enfrenta una demanda de la familia de un adolescente que acusa a ChatGPT de haber ayudado a explorar métodos de suicidio.
