Margaret Atwood, autrice de renommée mondiale, exprime ses doutes quant à l'intelligence artificielle
À l'occasion du Festival littéraire et culturel de Babell à Porto, au Portugal, l'éminente autrice Margaret Atwood, surtout connue pour ses livres La Servante écarlate et L'Assassin aveugle, a participé à une discussion franche sur l'IA et a exprimé certaines réserves.
L'omniprésence de l'IA dans la société moderne en fait inévitablement un sujet brûlant dans les forums et les débats. Ce festival n'a pas fait exception à la règle : l'auteure canadienne de renom y a partagé des anecdotes et des expériences personnelles liées à cette technologie. Elle a notamment évoqué sa rencontre peu satisfaisante avec Claude, le chatbot développé par Anthropic.
Quand les chatbots basés sur l'IA se trompent
Il semblerait que les premiers pas d’Atwood dans l’univers des chatbots IA n’aient pas été des plus brillants. Selon l’écrivaine de renom, elle s’était tournée vers Claude, comme on consulterait un oracle pratique, pour obtenir des informations précises sur la série policière britannique Le père Brown. La réponse qu'elle a reçue l'a toutefois laissée sur sa faim et a éveillé ses soupçons.
“ Claude m’a donné une mauvaise réponse, ou alors il a menti. Bien sûr, il ne savait pas qu’il mentait, car ce n’est pas un être humain ; c’est un grand modèle linguistique… Il avait survolé un…
Cette erreur de Claude met en évidence une faille inhérente à la technologie de l'IA. Les robots, dépourvus d'intuition et d'expérience humaines, peuvent finir par déformer les faits, ce qui conduit à la désinformation, un phénomène particulièrement néfaste à l'ère de la surabondance d'informations.
Bien qu’elle soit présentée comme une technologie de pointe et précise, l’IA peut commettre des erreurs, comme le montre l’anecdote racontée par Atwood. Cette faillibilité de l’IA fait écho à l’exploration approfondie que fait Atwood, dans ses œuvres, de la dystopie et des dangers d’un progrès technologique incontrôlé.
Cela signifie-t-il pour autant que nous devrions mettre un terme au développement de l’IA ? Certainement pas. Mais, à l’instar des récits de Margaret Atwood, ses expériences nous invitent à la prudence quant à notre rapport à la technologie et exigent une approche plus globale pour comprendre et intégrer l’IA dans notre vie quotidienne.
