A principios de este mes, una sorprendente revelación saltó a la opinión pública cuando The Guardian desveló un escandaloso fallo en los resúmenes de la IA médica del gigante tecnológico Google. Según el informe de investigación publicado por The Guardian, Google estaba proporcionando información engañosa o directamente errónea en respuesta a las consultas médicas de sus usuarios. Pero el camino recorrido hasta llegar a esta revelación y la reacción posterior de la empresa es una historia en la que merece la pena profundizar.
En el mundo de la investigación en Internet cuando se trata de cuestiones médicas, Google suele ser el primer destino. La mayoría de los usuarios han recurrido en algún momento al buscador para consultar un síntoma, una enfermedad o los efectos secundarios de un medicamento. La función de resumen de inteligencia artificial (IA) de la potencia tecnológica se desarrolló con la idea de convertirse en un compendio de confianza para este tipo de consultas. Sin embargo, parece que el sistema no era infalible y, de hecho, era capaz de producir información engañosa.
Un ejemplo inquietante citado por The Guardian consistía en orientar a personas diagnosticadas de cáncer de páncreas. En lugar de aconsejarles que aumentaran el consumo de alimentos ricos en grasas, que es lo que recomiendan los expertos médicos, la visión general de la IA de Google aconsejó erróneamente a estos pacientes que evitaran tales alimentos. Este consejo, según aclaran los expertos, no sólo es erróneo, sino “realmente peligroso”. Según ellos, seguir este consejo erróneo podría acelerar significativamente el fallecimiento de estos pacientes.
En otro caso desconcertante, Google cometió un error al proporcionar información sobre una función hepática crucial. La gravedad de estas imprecisiones médicas llevó a los expertos a calificar la situación de “alarmante”, especificando que podría tener consecuencias drásticas para la salud de los usuarios que siguieran ciegamente los consejos.
Tras reconocer el daño que podían causar sus resúmenes sobre IA, Google parece haber tomado medidas rápidamente. Informes recientes confirman que la información engañosa expuesta por The Guardian ha sido retirado. La reacción de Google a las críticas y su rápida respuesta son un claro recordatorio de la responsabilidad que incumbe a los gigantes de la tecnología cuando facilitan información que puede tener graves consecuencias si es incorrecta.
Es esencial que prevalezca la información precisa, sobre todo cuando están en juego la salud y el bienestar de las personas. Esta situación nos deja contemplando el papel de la IA en el sector médico. Como cualquier otra tecnología, la IA no es infalible y, aunque no se pueden descartar sus ventajas, este contratiempo plantea interrogantes sobre el grado de susceptibilidad de estos sistemas y sus posibles ramificaciones.
La tecnología se ha convertido en una parte integral de nuestras vidas, influyendo en todo, desde nuestras rutinas diarias hasta decisiones cruciales. Este reciente acontecimiento nos recuerda a todos que debemos ser cautos con la información en línea, aunque proceda de organizaciones de confianza como Google, especialmente cuando se refiere a cuestiones médicas.
