ChatGPT功能调整：AI人格回归与成人内容监管

某机构的CEO表示，ChatGPT之前因担忧加剧用户心理健康问题而降低了其友好/谄媚的程度，但目前该公司已声称缓解了这些风险。

“既然我们已经能够缓解严重的心理健康问题并拥有了新工具，我们将在大多数情况下安全地放宽限制，”这位CEO说道。该公司宣布成立了一个由八位心理专家、计算机科学家和人工智能学者组成的“幸福与人工智能专家委员会”，旨在“提供建议、提出问题并帮助定义所有年龄段与AI的健康互动应该是什么样子”。

需注意，该机构表示委员会的工作正在进行中，并非意味着围绕AI的心理健康问题已得到解决。本月初，GPT-5 Instant模型已更新，能更好地检测情绪困扰并将敏感对话引导至受过安全响应训练的模型，但目前尚不清楚该公司还采取了哪些其他措施来应对用户面临的持续风险。

据报道，AI聊天机器人已导致一些人进入精神病院，而有研究表明大学生使用它们会导致大脑活动减少和学习能力受损。甚至在今年8月，ChatGPT的使用被与一桩据称的谋杀-自杀案联系起来，还有报告显示在校学生越来越多地将其用于寻求陪伴。

在如此短的时间内解决所有这些问题似乎不太可能，但尽管如此，请准备好迎接ChatGPT再次展现更多个性。

“几周内，我们计划推出一个新版本的ChatGPT，允许人们拥有一个行为更像4o时代人们所喜欢的个性，”该CEO说道，措辞有些令人困惑。（这里推断其意指ChatGPT将被允许再次拥有个性，因为人通常默认就拥有个性。）

“如果你希望你的ChatGPT以非常人性化的方式回应，或使用大量表情符号，或表现得像朋友一样，ChatGPT应该能做到，”他继续说道——并且它还会变得更“活泼”。

“在12月，随着我们更全面地推行年龄验证机制，并作为‘将成年用户视为成年人’原则的一部分，我们将允许更多内容，例如针对已验证成年人的情色内容，”他总结道——这无疑是一个令人兴奋的预告。

与其他许多具体细节一样，该公司并未提及打算如何管理用户使用其聊天机器人创作情色内容，而其CEO在其X帖子评论区的回复仅暗示，如果用户不主动要求，就不会被展示此类内容。

某机构打算如何阻止AI生成的情色图像落入未成年人手中、防止未经同意的图像创作以及解决其他AI色情问题，目前尚不明确。结合近期其他相关新闻来看，盈利化可能是这家尚未披露盈利状况的公司的驱动力。

某机构一直在试图从其Sora视频生成器引发的版权纠纷中找出盈利之道。其CEO上周表示，该公司计划补偿那些允许Sora用户将其知识产权融入视频和图像的版权持有者，尽管具体细节仍未公布。

人们可以想象，将个人肖像与Sora的“客串”功能结合可能会产生类似场景，但在该公司未说明具体运作方式，以及情色内容与版权在公共平台上结合会引发的无数其他担忧的情况下，这整件事听起来就像一场即将发生的诉讼。

我们很想知道某机构对这些问题的看法，但如前所述，我们没有收到回复。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）