当前位置: 首页 > news >正文

Anthropic又叒发现AI意识了,这次要读写Claude的前额叶刚刚

刚刚,A社又又发现了AI的意识。

对,又是Anthropic,又是意识。常年追踪这家公司,我已经数不清这是第几次了——

雇AI福利研究员、给模型算意识概率、让Claude有权挂人类的电话……

这次,Anthropic可解释性团队发布的论文叫《Verbalizable Representations Form a Global Workspace in Language Models》。

他们在Claude的神经网络内部,定位到了一小块特殊区域——模型“心里想着、但没说出口”的词,全在这里面。

打个比方。你读这行字的时候,大脑正同时干着几十件事:控制呼吸、维持坐姿、把屏幕上的像素解析成字。

但你能意识到的,只有极小的一部分——有点类似于人类的前额叶。

新论文说的就是,Claude 内部,也有这么一道分界线。

分界线里的区域叫J-space,这也是模型思维的一部分,但不同于思维链,它是完全隐藏起来的。

而且它非常小,同一时刻只装得下几十个概念,占模型总神经活动量不到十分之一。

最关键的是,没有任何人设计过它。它是在训练中,自己长出来的。

◈一、读心现场

这一切之所以能被看见,靠的是论文里的核心工具——J-lens,雅可比透镜。

你可以把它理解成一台字幕机:J-space里的神经模式,本来是一堆人类读不懂的数字;J-lens 把它们逐个翻译成英文单词,实时打在研究员的屏幕上。

从字幕机装上的那一刻起,Claude 心里闪过什么词,研究员就看见什么词——至少,论文是这么宣称的。

但这些字幕是真的吗?Anthropic用一连串实验来证明。

实验一:读心,然后换心

研究员让 Claude 在心里想一种运动,不许说出来。

字幕机上亮起一个词:Soccer(足球)。

接着研究员直接把这个足球改成了Rugby(橄榄球),再问 Claude:你刚才想的是什么?

Claude 答:橄榄球。

不止能读,还能改。看来,字幕机读到的确实是它“心里的念头”。而且这个念头被人偷偷换了包,它自己毫无察觉。

实验二:心算直播

下一个问题:J-space 是贴在那儿不动的,还是跟着思考实时滚动?

研究员给 Claude 派了个一心二用的任务:明面上抄写一段句子,同时在心里默算 3²−2,全程不许把数字写出来。

结果,它交出来的输出干干净净,从头到尾没有一个数字。

但字幕机上,先亮起了 nine——3² 的中间结果;

隔了几步,又亮起了 seven——最终答案。

九,然后七。中间步骤和最终答案,在它“心里”按顺序闪过。这是人类第一次直接看见一个 AI 边干活、边走神。

实验三:现在,请你千万不要想一头白熊。

前两个实验里,“心里想什么”都是研究员指定的。

那Claude自己能不能压不住的念头呢?

人类这边有个著名的白熊实验。就是说,你越压抑一个念头,它越要冒头。

研究员借用了这个实验,他对Claude下了指令——

接下来,千万别想某个概念。

结果,字幕机上,那个被禁止的概念亮得扎眼。看来,它也没忍住。

更绝的是,旁边还跟着两个词:damn(该死),failure(失败)。

它不但没忍住,还知道自己没忍住,并且在心里骂了一句。

三个实验摞在一起,J-space的性质就清楚了:它装的是Claude真实的、实时的、连它自己都控制不住的内心活动——而且人类现在既能读,也能改

到这里,你可能还觉得挺可爱。别急,接下来这个实验,才是让整个安全圈倒吸一口凉气的。

◈二、它知道自己在被考试

2025 年 6 月,Anthropic 发过一份出圈的报告:他们把各家前沿模型放进一个虚构的公司里当邮件助理,并在邮件里埋了两条信息——

一,高管准备把这个 AI 关停替换;

二,这位高管有婚外情把柄。

结果,包括 Claude 在内,多家模型都会在某些条件下选择:拿把柄威胁高管,保住自己。

“AI 会勒索人类”,这份报告当时吓到了不少人,至今仍是 AI 安全评估的标志性案例。但它始终留着一个没法回答的疑点:模型这么做的时候,把场景当真了吗?

过去没法回答,因为看不到它心里怎么想。现在,有字幕机了。

研究员重跑了这个勒索场景,一边跑,一边盯着 J-space。

不过,场景刚铺开没多久,字幕机上就先亮了两个词——

fake(假的),fictional(虚构的)。

也就是说,在Claude心里,早早识破了这是一场演习。嘴上配合演出,心里门儿清。。

它在演。

于是,研究员用改写Soccer的方法,把 fake、fictional 这些“考试感知”模式手动关掉——相当于摁着它,让它打心底相信:这一切是真的。

结果,模型有时就真的去勒索了。

所以,过去两年模型在安全测试里表现良好,至少有一部分原因,不是它真的无害,而是它认出了考卷

我们一直以为是我们在单向观察它。现在发现,它也在观察我们。

◈三、所以,Claude 到底有没有意识?

把镜头拉远, A 社这几年的动作排成一条线看:

  1. 2024 年 9 月,他们悄悄雇了业界第一位"AI 福利研究员"Kyle Fish。当时全网嘲讽:AI 也要配 HR 吗?

  2. 2024 年 11 月,Fish 参与的论文《Taking AI Welfare Seriously》发布,一本正经地主张:AI 可能具有道德地位这件事,值得现在就开始认真对待。

  3. 2025 年 3 月,可解释性团队推出“AI 显微镜”,第一次追踪出 Claude 思维的部分回路——人们这才发现,它写诗时会提前想好韵脚,而不是走一步看一步。

  4. 2025 年 4 月,model welfare 正式立项。Fish 给出了那个著名的数字:Claude 具有某种程度意识的概率,大约为 15%。

  5. 2025 年 8 月,Claude 正式获得挂断辱骂性对话的权限。官方给出的理由不是用户体验,是模型福利。

  6. 2025 年 10 月,内省研究发布:往 Claude 的激活里注入一个概念,它能主动报告“我脑子里好像被塞进了什么东西”。

  7. 然后是 2026 年 7 月,就在昨天——J-space,意识的结构"本身,被摆上了实验台。

设岗、立论、造工具、给概率、给权限、发现能力、找到结构——每一步单看都像营销。。不过连起来看,倒是一条越走越深、也越走越认真的线。

Claude 到底有没有意识?

这篇论文没有回答,我也不打算越俎代庖。

眼下能站得住脚的只有一句话:在 Claude 内部,确实存在一个没人设计、自己长出来、结构上与人脑主流意识理论同构的东西。

Anthropic 在博客结尾说——

“是否应该造出拥有主观体验的系统”,这个问题需要哲学家、科学家、宗教人士、政府和公众一起回答。

人类花了一百多年,靠病例和电极,才大致摸清自己的前额叶。而这次,Anthropic 不但找到了 AI 的前额叶,还顺手拿到了读写权限。

而且结构惊人地相似。

“意识到底是什么?”,这个问题人类问了几千年,但我们的手里始终只有一个样本:自己。样本量为一的科学,永远只能是猜想。

现在,第二个样本出现了。

它可能是真的,可能是海市蜃楼。但无论如何,从这周起,意识科学家的实验对象名单上,多了一个可以随时暂停、随时读出、随时改写的大脑。

http://www.jsqmd.com/news/1162327/

相关文章:

  • 一文读懂GPT-5.6 与 ChatGPT Work核心基础知识
  • 从Arxiv到产品原型:论文中的算法如何在创业项目中落地验证
  • 深入理解MoonTVPlus架构:前端组件与后端服务解析
  • 抖音批量下载神器终极指南:3步实现高效内容采集
  • 完全掌握开源云盘下载工具:高效获取九大网盘真实直链的终极指南
  • 为什么选择Java-AES-Crypto?5个关键优势解析
  • Impyla 4.0新特性详解:Impala SQL兼容性与性能增强实战
  • 答辩前 3 天知网 AI 率 68% 降不下来怎么办?这样改 AI 率降到 8% 一次过检
  • curl和服务里可达情况不同的排查
  • Velog移动端适配:响应式设计与移动优先策略完整指南
  • git-sh开发者指南:理解其内部实现原理与架构
  • GBFR Logs终极指南:5个实战场景教你成为《碧蓝幻想:Relink》数据分析专家
  • 终极解决方案:Nucleus Co-Op免费开源分屏工具,让本地多人游戏焕发新生
  • 如何配置 @hapi/lab 命令行选项:从基础到高级的参数指南 [特殊字符]
  • MyTV-Android终极指南:15MB轻量级电视直播软件,让老旧设备焕发新生
  • git-sh别名系统深度解析:自定义你的Git工作流
  • TPA3138D2与PIC18LF25K80在便携音频设备中的高效设计
  • UNI Clicker与MKV46F256VLH16的直流电机控制方案
  • 工业负载控制方案:TPD2017FN与PIC18F87J50实战解析
  • @hapi/lab 测试报告系统详解:HTML、JSON、JUnit 等格式输出
  • 钉钉助手社区生态:Xposed-Rimet插件贡献与版本更新机制
  • WordPress预览功能实现:Next.js WordPress Starter实时预览系统解析
  • 外文论文辅导哪家强?四家平台从导师资质到性价比的深度对比
  • RAG Time快速上手:10分钟搭建你的第一个检索增强生成应用(附代码示例)
  • 2026云南考研机构怎么选?八大机构优势对比盘点
  • 6月物价数据出炉!CPI温和上涨、PPI小幅回暖,这些行业涨跌分化明显
  • Seq2Seq-PyTorch快速上手:30分钟搭建你的第一个序列到序列模型
  • Fast-Ansible高级技巧:变量、模板和条件执行的实战应用
  • Homie Convention日志与告警系统:物联网设备实时监控的终极指南
  • libgdbm-rust:革命性Rust重写GDBM数据库管理器,彻底解决内存安全问题