En un relato alarmante, ha salido a la luz que Jesse Van Rootselaar, el sospechoso implicado en el tiroteo masivo de Tumbler Ridge (Columbia Británica), había enviado previamente señales de alarma a empleados de OpenAI, una empresa de inteligencia artificial. Este incidente revela graves fallos en la supervisión de la IA y desencadena debates sobre sus posibles repercusiones en la violencia del mundo real y sobre cómo podría estar previniendo este tipo de tragedias.
Se sabe que Jesse se comunicó con el popular chatbot de inteligencia artificial ChatGPT, desarrollado por OpenAI, unos meses antes del tiroteo. Estas comunicaciones incluían descripciones gráficas de la violencia armada. Estas interacciones alarmantes activaron el sistema de revisión automática del chatbot, lo que llevó a algunos empleados de OpenAI a expresar su preocupación por estas descripciones violentas.
Curiosamente, OpenAI cuenta con un sistema de revisión automatizado que señala las interacciones sospechosas o preocupantes y garantiza que los revisores humanos las examinen más a fondo. En el caso de Jesse, se descubrió que sus mensajes habían activado el sistema. Alertados por ello, algunos empleados se pusieron en contacto con los responsables de la empresa para exponerles sus preocupaciones, temiendo que sus mensajes pudieran ser un presagio de violencia inminente en el mundo real. Estos empleados, reconociendo el peligro potencial, instaron a los dirigentes a remitir este alarmante asunto a las fuerzas de seguridad competentes.
Sin embargo, la respuesta de la dirección de OpenAI no fue la que esperaban los empleados afectados. La empresa decidió finalmente no remitir el caso a las fuerzas de seguridad, a pesar de las brillantes señales de alarma en las comunicaciones de Jesse con el chatbot.
En una conversación con The Verge, Kayla Wood, portavoz de OpenAI, confirmó que, aunque la empresa se planteó remitir la cuenta de Jesse a las fuerzas de seguridad, finalmente decidieron no hacerlo.
Esto nos lleva a cuestionar los protocolos de IA vigentes en OpenAI y las posibles trampas a las que podrían conducirnos. La ética de la IA sigue siendo un campo en evolución, y casos como este plantean nuevas preguntas sobre las responsabilidades de la IA, especialmente a la hora de informar sobre comportamientos potencialmente dañinos o violentos, y sobre cómo podría utilizarse esta tecnología para prevenir incidentes como el tiroteo de Tumbler Ridge.
Mientras seguimos explorando el enorme potencial que encierra la IA, debemos ser igualmente conscientes de estos territorios inexplorados en los que entra en juego la ética de la IA. La esperanza es que la IA pueda ayudar a las autoridades a prevenir actos de violencia, pero para que esto funcione, es fundamental que se establezcan protocolos y normas estrictos.
De hecho, el caso de Jesse Van Rootselaar sirve para recordar las graves implicaciones de la inacción ante señales claras de advertencia y subraya la urgencia de establecer un sistema sólido que establezca un puente eficaz entre la inteligencia artificial y las fuerzas del orden.
Para más detalles, lea la noticia completa aquí.
