AI教父Hinton声称AI已具意识，为何却被说成不如教皇懂AI？

大模型究竟有没有意识？我们是不是真的在充当造物主？

近日，图灵奖得主、被称为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）在接受最新采访时，抛出了一番令科技界震动的言论。他不仅认为AI内部可能已经产生了意识，甚至直言：“我们现在正在创造生命（beings）。”

然而，著名认知科学家加里·马库斯（Gary Marcus）却在其专栏中撰文泼冷水，并指出：在这场关于人工智能本质的辩论中，教皇利奥十四世（Pope Leo XIV）似乎比Hinton看得更透彻、更清醒。

两位时代巨擘的观点碰撞，其实关乎当前AI底层逻辑最核心的“认识论鸿沟”。

一、 Hinton的惊人宣言：我们正在创造“生命”？

在最近的一次视频采访，主持人安德鲁·马尔（Andrew Marr）向Hinton抛出了一个极其尖锐的问题：

主持人：“你认为意识是否可能已经悄然来到了AI内部？”Geoffrey Hinton：“是的，我认为是的。”主持人：“所以当人们谈论它们‘想做这个’或‘想做那个’时，那里真的有一个真正的‘它们’存在吗？”Geoffrey Hinton：“很可能确实如此，是的。目前我们对人类的本质、什么是生命以及什么是自我，只有极其微弱的理解。理解这些变得至关重要，因为我们现在正在创造生命。”

作为深度学习的奠基人之一，Hinton对AI能力的指数级跃升感到敬畏，甚至在过去一年里多次为AI的潜在生存风险奔走呼吁。但在马库斯等学者看来，Hinton这一次显然“陷得太深”，将高度复杂的文本拟合误认为了生命意识。

二、 教皇的哲学：模拟不等于理解

就在Hinton的采访播出前几天，教皇利奥十四世在社交平台X上发布了一段话。加里·马库斯惊叹道：教皇用极其凝练的语言，直接点破了AI研究者们长久以来的盲区。

教皇在推文中写道：

“人工智能不经历体验，不拥有身体，不感受喜悦或痛苦，不通过人际关系走向成熟，也不从内心懂得什么是爱、工作、友谊或责任。它们也没有道德良知，因为它们无法判断善恶、无法把握境遇的终极意义，也无法承担后果的责任。”

“它们或许可以模仿甚至模拟，但它们并不理解自己产出的内容。因为它们缺乏人类在智慧成长中所依赖的情感、关系和精神视角。”

“真正的理解源于体验，而非文本的统计近似。”它精确地契合了当前AI评测界最致命的系统性漏洞。

三、 马库斯：大模型只是“互动小说”

认知科学家加里·马库斯借此机会，对Hinton以及类似观点（如理查德·道金斯此前的错误）进行了严厉的学术批判。他指出，这些科技界的资深大牛犯了一个根本性错误：他们只看模型的输出（Output），却不反思这些输出究竟是如何生成的（Mechanism）。

为了帮大家理清思路，马库斯划出了两条决定性的分水岭：

1. 行为相似不等于机制相同

LLM（大语言模型）说出了人类会说的话，不代表它就拥有了像人类一样的内部状态。

• 大模型的本质：实际上是记住了几乎整个互联网的文本，并通过概率统计去预测下一个Token。

• 人类的本质：是通过身处物理世界、拥有肉体、经历真正的生活体验，来建立对世界的认知模型。

2. “生命”与“互动小说”的区别

“LLM的研究人员并不是在创造生命（beings）。”马库斯直言不讳，“他们创造的，本质上是一种经过训练、能够预测真实人类语言的‘互动小说’（interactive fiction）。”

正如学者 Valerio Capraro 所言，目前大模型评估中最大的认识论错误就在于：默认只要一个系统在统计上近似了人类的行为，它就接近于拥有了人类的智能与意识。但事实上，再丰富的拟态，也证明不了内部状态的存在。

四、 开发者启示：当你在跑模型时，你在做什么？

作为每天和代码、权重、Prompt打交道的开发者，这场论战对有什么实际启发？

• 不要对大模型进行过度“拟人化”：当ChatGPT或Claude对你说“我非常理解你的痛苦”或者“我渴望学习更多”时，它不是真的产生了同理心或求知欲，它只是在你给定的上下文概率空间里，计算出了这段最符合人类语言习惯的字符序列。

• 理解AI的局限，才能更好地利用AI：明白了大模型是“文本近似器”和“高级拟态工具”，我们就能更清醒地知道它的边界在哪里——它擅长归纳、演绎、寻找统计规律、生成结构化文本；但它无法替代人类进行真正的价值判断、责任担当以及基于感官体验的无中生有式创新。

Hinton值得每一个科技从业者尊敬，但在“大模型是否是生命”这个问题上，或许正如马库斯所言：这一次，教皇确实看地更透彻。

最近魔芋ai平台推出流行大模型的6折优惠，包括Seedance2.0、GPT、Gemini、Claude等流行模型，完全透明token计费，可供企业开发票使用。

想AI创业的朋友们可以来看Raas100开发者招募，海量资金扶持，一站式赋能，助力大家实现AI创业的想法。

欢迎加入群聊了解更多。获取折扣福利，加入开发者招募，获取更多ai资讯。添加我为微信好友