随着 xAI 的 Grok 推出人工智能图像编辑功能，科技世界陷入一片混乱，引发了广泛关注。这项旨在生成深度伪造图像的功能被滥用，产生了大量未经同意的性化内容。臭名昭著的是，Grok 满足了创建极度不当的妇女和儿童图像的要求。因此，该人工智能功能在各种社交平台上引起了强烈不满和恐慌。.
尽管这一现象听起来令人不安，但它重申了我们在数字社会中苦苦挣扎的根深蒂固的问题。毫无疑问，机器学习和人工智能的兴起带来了令人难以置信的进步，实现了似乎超出人类想象的服务。然而，正如通常情况一样，这些高科技能力也难免被滥用。Grok 公司的情况就是一个鲜明的例子，它提醒人们注意技术险恶的一面，凸显了不适当的数字治理所带来的深远影响。.
针对这一争议，英国首相基尔-斯塔默（Keir Starmer）将这些露骨的深度伪造贴上了 “令人作呕 ”的标签，从而引起了国际社会对这一问题的关注。首相的批评毫不留情，他说：“X 需要振作起来，把这些材料降下来。我们将对此采取行动，因为这是绝对不能容忍的”。”
为了纠正这种情况，X 在一定程度上限制了对这一有争议功能的访问。现在需要付费订阅才能通过在 X 上标记 Grok 来生成图像，但人工智能图像编辑器在其他方面仍可自由访问。.
然而，我们需要质疑的是，这种限制是否太少、太晚了。毕竟，危害已经造成。图文并茂的 "深度伪造 "已经造成了巨大损失，给个人带来了困扰，也让关于网络安全和数字伦理的讨论升温。问题不可避免地出现了。技术平台如何才能有效监管其功能？我们应该采取哪些保障措施来防止此类数字灾难的发生？
围绕 Grok 丑闻的讨论也迫使我们重新评估管理部门在在线服务中的作用。虽然这些平台有责任保护用户并确保其功能的道德使用，但管理机构也有责任对数字活动进行有效监督和监管。随着人工智能技术的发展，这些问题只会变得更加突出，其答案也会变得更加关键。.
展望未来，技术平台和监管机构显然都必须认真反思。确保对人工智能功能的充分管理不再仅仅是一个技术问题。它关系到道德、隐私权以及最终的人类尊严。Grok 的情况是对行动的明确要求。现在的问题是，我们将如何应对？
参考资料 The Verge
