Au début du mois, une révélation surprenante a été portée à la connaissance du public lorsque The Guardian a mis au jour une faille choquante dans les aperçus médicaux de l'IA du géant technologique Google. Selon le rapport d'enquête publié par The Guardian, En effet, Google fournissait des informations trompeuses ou carrément erronées en réponse aux demandes de renseignements médicaux de ses utilisateurs. Mais le cheminement qui a mené à cette révélation et la réaction ultérieure de l'entreprise valent la peine qu'on s'y attarde.
Dans le monde de la recherche médicale sur Internet, Google est souvent la première destination. La plupart des utilisateurs ont, à un moment ou à un autre, eu recours au moteur de recherche pour trouver un symptôme, une maladie ou les effets secondaires d'un médicament. La fonction d'aperçu de l'intelligence artificielle (IA) du géant de la technologie a été développée dans l'idée de devenir un recueil de confiance pour ce type de questions. Toutefois, il semble que le système n'était pas infaillible et qu'il était même capable de produire des informations trompeuses.
Un exemple inquiétant cité par The Guardian a donné des conseils aux personnes atteintes d'un cancer du pancréas. Au lieu de leur conseiller d'augmenter leur consommation d'aliments riches en graisses, ce que recommandent les experts médicaux, l'IA de Google a conseillé à tort à ces patients d'éviter ce type d'aliments. Comme le soulignent les experts, ce conseil n'est pas seulement erroné, il est “vraiment dangereux”. Selon eux, suivre ce conseil erroné pourrait accélérer considérablement le décès de ces patients.
Dans un autre cas déconcertant, Google a commis une erreur en fournissant des informations sur une fonction hépatique cruciale. La gravité de ces inexactitudes médicales a conduit les experts à qualifier la situation d“”alarmante", précisant qu'elle pourrait avoir des conséquences dramatiques sur la santé des utilisateurs qui suivent aveuglément les conseils.
Conscient du préjudice que ses aperçus de l'IA pouvaient causer, Google semble avoir pris des mesures rapides. Des rapports récents confirment que les informations trompeuses divulguées par The Guardian a depuis été supprimée. La réaction de Google à la critique et la rapidité de sa réponse nous rappellent brutalement la responsabilité qui incombe aux géants de la technologie lorsqu'ils fournissent des informations dont l'inexactitude peut avoir de graves conséquences.
Il est essentiel de disposer d'informations exactes, en particulier lorsqu'il s'agit de la santé et du bien-être des personnes. Cette situation nous amène à nous interroger sur le rôle de l'IA dans le secteur médical. Comme toute autre technologie, l'IA n'est pas infaillible et, bien que ses avantages ne soient pas à négliger, ce contretemps soulève des questions sur l'étendue de la vulnérabilité de ces systèmes et sur les ramifications potentielles.
La technologie fait désormais partie intégrante de nos vies, influençant tout, de nos routines quotidiennes aux décisions cruciales. Ce développement récent nous rappelle qu'il est essentiel d'aborder les informations en ligne avec prudence, même lorsqu'elles proviennent d'organisations de confiance comme Google, en particulier lorsqu'elles ont trait à des questions médicales.
