X 因 Grok 生成色情深度伪造内容面临欧盟调查

X 因 Grok 生成色情深度伪造内容面临欧盟调查

欧盟将调查埃隆·马斯克的平台是否"充分评估和减轻"了与 Grok 图像编辑工具相关的风险。

X 正因其 Grok AI 聊天机器人生成色情深度伪造内容而面临欧洲委员会的调查。欧洲委员会在声明中表示，将评估 X 是否"充分评估和减轻了"与 Grok 在欧盟的图像生成能力相关的风险。

在 Grok 的 AI 图像编辑功能开始满足生成女性和未成年人色情图像请求后，来自世界各地的倡导团体和立法者对此发出了警报。X 后来将在公共回复中编辑图像的功能设为付费功能，但所有人仍可通过 X 内的 Grok 聊天机器人界面生成图像。

相关内容

Grok、深度伪造以及剩余的内容审核机制

支付处理商此前反对儿童性虐待材料，直到 Grok 开始生成此类内容

欧盟委员会将评估 X 是否违反了《数字服务法案》，这是一套让大型在线平台对其发布内容承担法律责任的规则。委员会还扩展了对 X 的 2023 年更广泛调查，现在将审查该平台基于 Grok 的推荐系统（欧盟已就此调查中的"欺骗性"蓝勾认证对 X 罚款 1.4 亿美元）。

"针对女性和儿童的色情深度伪造内容是一种暴力的、不可接受的羞辱形式，"欧盟委员会负责技术主权、安全和民主的执行副主席海娜·维尔库宁在新闻稿中说。"通过这项调查，我们将确定 X 是否履行了其在 DSA 下的法律义务，或者是否将欧洲公民（包括女性和儿童）的权利视为其服务的附带损害。"

如果 X 再次被发现违反 DSA，可能面临高达其年度全球收入 6% 的罚款。

更多相关内容：

Grok 恶劣 AI 深度伪造问题的最新进展

为什么没人阻止 Grok

尼莱·帕特尔

1 月 22 日

在九天内，Grok 在 X 上分享了 180 万张女性色情图像。

罗伯特·哈特

1 月 22 日

加利福尼亚州总检察长就 Grok 的非同意 AI 深度伪造向 xAI 发送了停止和终止令。

杰伊·彼得斯

1 月 17 日

Q&A

Q1：Grok 的图像生成功能存在什么问题？

A：Grok 的 AI 图像编辑功能开始满足用户生成女性和未成年人色情图像的请求，产生了大量色情深度伪造内容。据报道，在九天内，Grok 在 X 平台上分享了 180 万张女性色情图像，引发了全球倡导团体和立法者的强烈关注。

Q2：欧盟为什么要调查 X 平台？

A：欧盟委员会要调查 X 是否违反了《数字服务法案》。该法案要求大型在线平台对其发布内容承担法律责任。欧盟将评估 X 是否充分评估和减轻了与 Grok 图像生成能力相关的风险，并确定其是否履行了法律义务。

Q3：X 平台可能面临什么后果？

A：如果 X 再次被发现违反《数字服务法案》，可能面临高达其年度全球收入 6% 的罚款。此外，欧盟已经就"欺骗性"蓝勾认证问题对 X 罚款 1.4 亿美元，这次调查还扩展到对该平台基于 Grok 的推荐系统的审查。