在一则令人震惊的报道中，人们发现参与不列颠哥伦比亚省 Tumbler Ridge 大规模枪击案的嫌疑人 Jesse Van Rootselaar 此前曾向人工智能公司 OpenAI 的员工发出过警告信号。这一事件揭示了人工智能监控的严重失误，并引发了关于人工智能对现实世界暴力事件的潜在影响以及如何防止此类悲剧发生的讨论。.
据了解，杰西在枪击事件发生前几个月曾与 OpenAI 开发的流行人工智能聊天机器人 ChatGPT 进行过交流。这些交流涉及对枪支暴力的生动描述。这些令人震惊的互动触发了聊天机器人的自动审查系统，促使 OpenAI 的一些员工对这些暴力描述表示担忧。.
有趣的是，OpenAI 有一套自动审查系统，可以标记可疑或令人担忧的互动，确保人工审查员进一步检查这些互动。在杰西的案例中，我们发现她的帖子确实触发了系统。一些员工对此有所警觉，担心她的帖子可能预示着即将发生的现实世界暴力事件，于是主动向公司领导提出了这些担忧。这些员工认识到了潜在的危险，敦促领导将这一令人担忧的事件提交给相关执法机构。.
然而，OpenAI 领导层的回应却不尽如人意。尽管杰西在与聊天机器人的交流中亮起了红灯，公司最终还是决定不将此案提交给执法部门。.
在与 The Verge 的对话中，OpenAI 的发言人凯拉-伍德（Kayla Wood）证实，虽然公司确实考虑过将杰西的账户移交给执法部门，但他们最终决定不这么做。.
这让我们对 OpenAI 的人工智能协议以及它们可能导致我们陷入的潜在陷阱提出了质疑。人工智能伦理仍是一个不断发展的领域，诸如此类的案例让我们对人工智能的责任产生了更多疑问，尤其是在报告潜在的有害或暴力行为方面，以及如何利用这种技术来防止类似于 Tumbler Ridge 枪击事件的发生。.
当我们继续探索人工智能所蕴含的巨大潜力时，我们也必须同样意识到人工智能伦理所涉及的这些未知领域。我们希望人工智能能帮助当局预防暴力行为，但要做到这一点，关键是要制定严格的协议和标准。.
事实上，杰西-范-罗特塞拉（Jesse Van Rootselaar）的案例提醒我们，面对明确的警告信号而不采取行动会造成严重后果，并强调了建立一个能有效连接人工智能与执法部门的强大系统的紧迫性。.
更多详情，请阅读全文 这里.
