AI终极辩论：拯救还是毁灭人类？

人工智能将拯救人类，还是终结人类？

一场关于人工智能未来的尖锐分歧本周上演，四位知名技术专家和超人类主义者就构建通用人工智能（AGI）是会拯救人类还是毁灭人类展开了辩论。

这场由非营利组织“人类+”主办的线上讨论，汇集了最直言不讳的AI“末日论者”之一——曾呼吁关闭高级AI开发的埃利泽·尤德科夫斯基，以及哲学家兼未来学家马克斯·莫尔、计算神经学家安德斯·桑德伯格和“人类+”名誉主席娜塔莎·维塔-莫尔。

他们的讨论揭示了在AGI能否与人类生存目标保持一致，还是其创造将不可避免地导致灭绝这一根本问题上存在的分歧。

“黑箱”问题

尤德科夫斯基警告说，现代AI系统从根本上是不安全的，因为其内部的决策过程无法被完全理解或控制。

“任何黑箱的东西，最终都可能出现与当前技术惊人相似的问题，”尤德科夫斯基警告道。他认为，在开发高级AI之前，人类需要“彻底地、彻底地偏离当前的范式”。

通用人工智能是指一种能够在广泛任务中进行推理和学习的人工智能形式，而不是像文本、图像或视频生成那样为单一工作而构建。AGI常常与技术奇点的概念相关联，因为达到那种智能水平可能使机器能够以人类无法企及的速度自我改进。

尤德科夫斯基引用了哲学家尼克·博斯特罗姆推广的“回形针最大化器”类比来说明风险。这个思想实验描述了一个假想的AI，它会将所有可用物质转化为回形针，为了完成单一目标而牺牲人类。尤德科夫斯基说，添加更多目标并不会显著提高安全性。

提及他最近关于AI的著作书名《如果有人建造它，所有人都会死》时，他说：“我们的标题不是‘它可能会杀了你’。我们的标题是，如果有人建造它，所有人都会死。”

对延缓AGI的质疑

但是莫尔挑战了极度谨慎能带来最安全结果这一前提。他认为，AGI可能为人类提供克服衰老和疾病的最佳机会。

“对我来说最重要的是，AGI可以帮助我们防止每一个活着的人因衰老而灭绝，”莫尔表示。“我们都在走向死亡。我们正一个接一个地走向灾难。”他警告说，过度的约束可能会促使各国政府将威权控制作为阻止全球AI开发的唯一途径。

桑德伯格将自己定位在两个阵营之间，他形容自己“更乐观”，但仍比超人类主义的乐观派更谨慎。他讲述了自己亲身经历的一个差点使用大型语言模型来协助设计生物武器的“可怕”事件。

“我们正处在一个放大恶意行为者也会造成巨大混乱的境地，”桑德伯格说。尽管如此，他认为部分或“近似安全”是可以实现的。他驳斥了安全性必须完美才有意义的观点，认为人类至少可以在生存等最小共享价值观上达成一致。

“所以，如果你要求完美的安全，你将得不到它。从这个角度看，这听起来非常糟糕，”他说。“另一方面，我认为我们实际上可以实现近似的安全。这就足够了。”

对“对齐”概念的怀疑

维塔-莫尔批评了更广泛的“对齐”辩论本身，她认为这个概念假定了即使在长期合作者之间也不存在的共识水平。

“对齐的概念是一个不切实际的空想方案，”她说。“它永远不会被对齐。我的意思是，即使在这里，我们都是好人。我们彼此认识了几十年，但我们并未对齐。”

她将尤德科夫斯基关于AGI将不可避免地杀死所有人的主张描述为“绝对主义思维”，这种思维没有为其他结果留下空间。

“我对‘所有人都会死’这种笼统的陈述有异议，”她说。“作为一个未来主义者和务实的思想家来看待这个问题，它没有留下任何后果、任何替代方案、任何其他情景。这只是一个生硬的断言，我想知道这是否反映了一种绝对主义的思维方式。”

讨论还包括了一场关于人类与机器更紧密的融合是否可以减轻AGI所带来的风险的辩论——某中心首席执行官埃隆·马斯克过去曾提出过类似想法。尤德科夫斯基驳斥了与AI融合的想法，将其比作“试图与你的烤面包机融合”。

桑德伯格和维塔-莫尔则认为，随着AI系统能力的增强，人类将需要与它们更紧密地整合或融合，以便更好地应对后AGI世界。

“整个讨论是对我们作为人类本质的一次现实检验，”维塔-莫尔说。FINISHED
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）