想象一下未来不远处的企业环境。有一种新的角色正在各家公司,特别是以技术为导向的公司中掀起波澜。这种角色的主要目的不是推动公司前进,而是谨慎地扫描地平线,时刻警惕迫在眉睫的威胁。在拥抱未来技术的公司中,OpenAI 是其中的佼佼者。该公司正在寻找一名职业厌世者,一名 "防备 "主管,或者简单地说,一名 ISO 公司的替罪羊。.
OpenAI 由山姆-阿尔特曼(Sam Altman)领导,他最近宣布设立这一职位。这位未来员工的主要任务范围非常可怕:考虑人工智能可能失控的各种方式,导致无人愿意设想的令人不寒而栗的后果。奥特曼之所以做出这一决定,是因为他意识到,人工智能的飞速发展并不都是阳光和玫瑰。相反,它们还带来了不少 ‘真正的挑战’。.
在人工智能掌控技术的未来,这些挑战可能会对网络安全和人们的心理健康等重要方面产生深远的负面影响。这些只是可能出现严重问题的几个领域,因此,准备工作负责人的角色至关重要。.
应急准备主管的职责
OpenAI 准备工作负责人的任务并不轻松。这个职位要求员工在考虑最坏情况时不退缩,并努力寻找有效的解决方案来缓解这些情况。这个人的主要工作重点不是推动突破性的进步,而是 ‘跟踪和准备那些会造成新的严重危害风险的前沿能力’。’
担任此职的人将成为办公椅上的超级英雄,抵御那些可能来自意想不到角落的暗影威胁。他们成为抵御潜在灾难的最后防线,肩负着确保人工智能持续服务人类、不致蜕变为赛博泰坦的使命。.
当我们一头扎进人工智能驱动的未来时,针对潜在灾难采取防范措施变得越来越重要。备灾负责人的职位与这一观点不谋而合,它承认,权力越大,责任越大。科技行业的未来似乎是一条广阔的道路,而人工智能则是其中的主导者。现在,OpenAI 试图确保我们在追逐进步的过程中不会迷失方向。.
鸣谢:原著作者 The Verge.