Un faux prophète dans le monde de la restauration
Alors que les clients discutent joyeusement et trinquent dans les restaurants animés de New York, une tendance inquiétante se dessine en coulisses. Les serveurs comme Madison, qui travaille dans la ville, se heurtent à un obstacle inattendu lorsqu’ils tentent de répondre aux besoins de leurs clients : l’intelligence artificielle, et plus précisément un chatbot IA appelé ChatGPT. Ce bot semble avoir pris d’assaut le monde de la gastronomie, semant la confusion et présentant un danger potentiel en donnant des conseils erronés sur les allergies alimentaires.
L'une des principales responsabilités de Madison consiste à cerner les allergies de ses clients. Ces derniers temps, elle a été confrontée à des situations suffisamment dangereuses pour faire frémir n'importe quel professionnel de la restauration. Son expérience fait écho à celle de nombreux autres acteurs de son secteur.
S'y retrouver dans le dédale des menus
“ Parfois, les gens me disent qu’ils sont allergiques aux crustacés, puis quand je reviens, ils ne me posent aucune question ”, constate-t-elle. Lorsqu’ils commandent, ils optent souvent sans réfléchir pour un plat de poisson accompagné d’un bouillon “ à base de crustacés ”, précise-t-elle, sentant l’inquiétude monter. C’est justement là que le problème commence.
En informant les clients allergiques que le plat qu’ils ont choisi contient l’allergène auquel ils sont sensibles, Madison se retrouve confrontée à une version moderne du paradoxe traditionnel. Chose incroyable, les clients invoquent leur consultation de l’IA populaire ChatGPT, affirmant avec insistance que celle-ci leur avait dit le contraire.
“ Ils veulent juste parler à ChatGPT : ‘Tu es allergique aux fruits de mer, et ChatGPT dit qu’il n’y a pas de fruits de mer…' ” Madison imite la réponse, son incrédulité palpable. Cette histoire ressemble à un passage tiré d’un roman dystopique où les humains font davantage confiance aux robots qu’à leurs semblables.
Son expérience constitue un avertissement quant à la dépendance à la technologie, notamment à l’intelligence artificielle, en particulier dans les situations liées à la santé et à la sécurité. On peut pardonner à l’IA d’avoir mal compris nos commandes de plats à emporter ou d’avoir envoyé un SMS drôle mais maladroit, mais confier notre santé et notre sécurité à une machine pourrait bien être un pas de trop.
Alors que le monde entre dans cette nouvelle ère de l’intelligence artificielle et de l’automatisation, il est essentiel de ne pas perdre de vue la dimension humaine dans nos activités. Dans le cas de Madison, et plus généralement dans son secteur d’activité, la domination croissante de ChatGPT est une source de vive inquiétude.
Aussi pratique que cela puisse paraître de demander à une IA de suggestions pour le dîner, lorsqu’il s’agit de sujets aussi sérieux que les allergies alimentaires, il vaut peut-être mieux s’en tenir à l’expertise et au jugement humains. Après tout, l’IA de l’un est le « fantôme dans la machine » de l’autre.
Pour approfondir cette question, nous vous invitons à Consultez l'article original sur The Verge.
