El año pasado, los estudios presentados en la reunión anual de la Sociedad de Oncología mostraron que Watson de IBM era bastante bueno en la creación de tratamientos para pacientes con cáncer.
Ahora resulta que la IA (Inteligencia Artificial) todavía está lejos de ser perfecta y algunos expertos médicos que trabajan con IBM en su sistema Watson para Oncología encontraron «multiples ejemplos de tratamiento incorrectas e inseguras». » En un caso particular, a un hombre de 65 años le diagnosticaron una droga que podía llevarlo a una «hemorragia grave o mortal», a pesar de que ya estaba sufriendo una hemorragia grave.
El informe responsabiliza a los ingenieros de IBM y a los doctores que ayudaron a entrenar a la IA. Según los informes, alimentaron a la IA con datos hipotéticos de pacientes junto a recomendaciones, en lugar de darle información real de los pacientes.
Aparentemente, varios doctores que estaban ayudando creen que por ahora el proyecto es una mierda… (palabras textuales) o un poco de miedo por que la IA sea mejor que ellos?
Vale la pena señalar, sin embargo, que el ejemplo que involucraba al paciente de 65 años fue simplemente parte de una prueba del sistema y no una recomendación real.
Lo malo de todo esto es que según un vocero del Florida Jupiter Hospital, todavía están usando las recomendaciones de Watson. Sin embargo, los médicos no confían completamente en los datos que da, y los ven como una opinión adicional cuando no pueden ponerse de acuerdo sobre un tratamiento. En cuanto a IBM, sabe que Watson aún necesita trabajo y ha tenido en cuenta los comentarios de los clientes para implementar múltiples actualizaciones de software con funciones actualizadas durante el año pasado.