Un récit alarmant révèle que Jesse Van Rootselaar, le suspect impliqué dans la fusillade de Tumbler Ridge, en Colombie-Britannique, avait déjà envoyé des signaux d'alerte à des employés d'OpenAI, une société spécialisée dans l'intelligence artificielle. Cet incident révèle de graves lacunes dans la surveillance de l'IA et déclenche des discussions sur son impact potentiel sur la violence dans le monde réel et sur la manière dont elle pourrait prévenir de telles tragédies.
Jesse était connu pour avoir communiqué avec le chatbot d'IA populaire, ChatGPT, développé par OpenAI, quelques mois avant l'incident de la fusillade. Ces communications comportaient des descriptions graphiques de la violence armée. Ces interactions alarmantes ont déclenché le système d'examen automatisé du chatbot, ce qui a incité certains employés d'OpenAI à exprimer leur inquiétude face à ces descriptions violentes.
Il est intéressant de noter que l'OpenAI a mis en place un système d'examen automatisé qui signale les interactions suspectes ou préoccupantes, et qui garantit que des examinateurs humains examinent ces interactions de manière plus approfondie. Dans le cas de Jesse, il s'est avéré que ses messages avaient effectivement déclenché le système. Alertés, certains employés ont pris l'initiative de faire part de leurs inquiétudes aux dirigeants de l'entreprise, craignant que ses messages ne soient le signe avant-coureur d'une violence imminente dans le monde réel. Conscients du danger potentiel, ces employés ont exhorté les dirigeants à saisir les services de police compétents de cette affaire alarmante.
Cependant, la réponse de la direction d'OpenAI n'a pas été celle à laquelle les employés concernés s'attendaient. L'entreprise a finalement décidé de ne pas porter l'affaire devant les forces de l'ordre, malgré les signaux d'alerte lumineux dans les communications de Jesse avec le chatbot.
Lors d'une conversation avec The Verge, Kayla Wood, porte-parole d'OpenAI, a confirmé que l'entreprise avait envisagé de transmettre le compte de Jesse aux forces de l'ordre, mais qu'elle avait finalement décidé de ne pas le faire.
Cela nous amène à nous interroger sur les protocoles d'IA en place à l'OpenAI et sur les pièges potentiels dans lesquels ils pourraient nous conduire. L'éthique de l'IA est encore un domaine en évolution, et des cas comme celui-ci soulèvent d'autres questions sur les responsabilités de l'IA, notamment en ce qui concerne le signalement de comportements potentiellement nuisibles ou violents, et sur la manière dont cette technologie pourrait être utilisée pour prévenir des incidents tels que la fusillade de Tumbler Ridge.
Alors que nous continuons à explorer le vaste potentiel de l'IA, nous devons également être conscients de ces territoires inexplorés où l'éthique de l'IA entre en jeu. L'espoir est que l'IA puisse aider les autorités à prévenir les actes de violence, mais pour que cela fonctionne, il est essentiel que des protocoles et des normes stricts soient mis en place.
En effet, le cas de Jesse Van Rootselaar rappelle les graves conséquences de l'inaction face à des signaux d'alerte clairs et souligne l'urgence de mettre en place un système solide qui fasse efficacement le lien entre l'intelligence artificielle et l'application de la loi.
Pour plus de détails, lire l'article complet ici.
