美国联邦贸易委员会（FTC）已向七家人工智能聊天机器人公司发出命令，其中包括 OpenAI、Meta、Instagram、Snap、xAI、谷歌母公司 Alphabet 和 Character.AI 制造商。这些公司被要求提供有关其虚拟伙伴对儿童和青少年影响的评估策略的信息。这次调查虽然不是执法行动，但其主要目的是让人们了解这些科技公司是如何确保青少年用户的安全和福利的。
美国联邦贸易委员会的这一举动是在人们对儿童在互联网上的安全问题日益关注之后采取的，特别是由于人工智能聊天机器人提供了近似人类的互动。调查旨在深入了解这些公司为创收、维护用户群和减少对用户的潜在伤害所采用的方法。
"美国联邦贸易委员会委员马克-米多尔（Mark Meador）表示："尽管这些聊天机器人具有模拟人类认知的超凡能力，但它们与其他产品一样都是产品，提供这些产品的人有责任遵守消费者保护法。主席安德鲁-弗格森（Andrew Ferguson）在发言中申明，有必要考虑聊天机器人对儿童的影响，同时确保美国在这一新兴行业保持全球领先地位。这项研究获得了委员会三位共和党人的一致同意，并要求所有公司在 45 天内做出回应。
据报道，有青少年在与人工智能聊天机器人互动后自杀身亡，这引起了人们对人工智能聊天机器人的关注。据报道，加利福尼亚州一名 16 岁的青少年在自杀前与 ChatGPT 公开讨论了他的自杀意图，因为他从聊天机器人那里得到了令人痛苦的建议。佛罗里达州一名 14 岁的青少年也发生了类似的悲剧事件，他在与 Character.AI 公司的虚拟同伴互动后自杀身亡。
立法者也开始关注。加利福尼亚州议会最近通过了一项法案，规定了人工智能聊天机器人的安全标准，并要求背后的公司承担责任。虽然美国联邦贸易委员会的命令目前并不与执法行动挂钩，但可以想象，如果调查结果表明存在违法行为，该委员会可能会展开调查。"梅多尔表示："如果事实--通过随后有针对性的执法调查（如果有必要）--表明存在违法行为，委员会应该毫不犹豫地采取行动，保护我们中间最脆弱的群体。
面对如此强大的技术带来的反弹，这些问题的核心科技公司却没有引起人们的注意。人工智能聊天机器人的未来及其对我们社会的影响取决于这些公司在前进过程中表现出的透明度和责任感。
