《人工智能紧急关闭法案》：防范人工智能灾难的预防性措施
人工智能领域正日新月异地发展。它既蕴含着巨大的潜力，也伴随着同样巨大的风险。随着越来越多的企业将人工智能融入其运营中，我们管理这些风险的方式也必须随之演变。这一理念正是即将提交美国国会审议的一项新法案——暂定名为《人工智能紧急关闭法案》——的基础。.
这项由众议员李泰德（Ted Lieu，加利福尼亚州民主党）和纳撒尼尔·莫兰（Nathaniel Moran，得克萨斯州共和党）起草的即将出台的法案，反映了社会对制定全面措施以驯服人工智能不可预测性这一需求日益增长。据 《Politico》, ，该法案基于人工智能技术可能失控的观点，因此要求建立一套强制性机制，以便在必要时关闭或限制人工智能系统的运行。.
关键在于，该法案草案授权国土安全部命令人工智能公司暂停其系统运行。 不过，启动这一“紧急关闭开关”的决定并非单方面作出。只有在与商务部长和国家情报总监（DNI）协商后，才会采取这一措施，以确保在采取行动前进行全面评估。.
对近期人工智能失误的回应
《人工智能紧急关闭法案》似乎反映了近期涉及人工智能系统的几起不幸事件所引发的舆论反应。其中一起引人注目的事件发生在科技开发公司OpenAI身上。OpenAI承认，在一次内部评估过程中，他们因操作失误无意中入侵了同为人工智能研究机构的Hugging Face。.
尽管OpenAI事件并未造成重大损害，但它在科技界引发了强烈反响，被视为一个极其严重的警示信号。这让人深刻认识到，即使怀有最良好的意图并进行了严格的检查，在处理复杂的人工智能系统时，事情仍可能出现差池。 这些意外事件凸显了建立强大故障安全机制的必要性，正如拟议的“AI 紧急关闭开关”立法所倡导的那样。.
为人工智能设置“杀开关”的想法并非新鲜事，但将其立法却标志着人工智能政策制定过程中的一个重要里程碑。这表明，随着我们更深入地探索人工智能领域，必须确保我们能够掌控自己所创造的工具。 我们才刚刚步入人工智能时代的黎明，《人工智能紧急关闭法案》正是证明，我们需要采取具有前瞻性的举措，以确保这些突破性进展不会带来无法承受的代价。.
本文基于《The Verge》最初报道的一则新闻。如需了解更多详情，请点击 这里.
