谷歌DeepMind报告:AGI只是起点,从AGI到ASI有四条路径,但面临六道“墙”!
AGI已过时,谷歌DeepMind推演未来机器走向
谷歌DeepMind发布57页报告《从AGI到ASI》,带队的是DeepMind联合创始人、首席AGI科学家Shane Legg及其博士导师、AIXI理论发明人Marcus Hutter,还有一个14人的团队。报告推演了假设AGI实现后,机器的走向、速度以及阻碍因素。这篇论文第一章不叫Introduction,叫「Summary Instructions」,是对着AI下指令,预设AI会替人类读完报告。
智能分级:AGI、ASI和Universal AI
报告对智能进行了清晰界定,分为三级。AGI在大多数认知任务上达到人类中位数水平;ASI要在几乎所有任务上,稳定超过「数万名顶尖专家、协调良好、围绕单个问题连续协作十年」的产出,且这数万名专家只能用2010年的技术储备;Universal AI (UAI / AIXI)是智能在理论上的绝对天花板,ASI是在智能连续体上不断逼近UAI的一个里程碑。
数字智能优势:硅基智能碾压碳基生物
随着算力增长,AI拥有生物智能无法企及的先天外挂,差距会随算力增多而增大。包括输入/输出速度快,能在几秒内吞下几本书;内部处理速度可通过增加算力提速;基底独立性强,可无缝迁移和分布式部署;能无损复制与经验共享,瞬间生成大量分身。
通往ASI的四条黄金路径
路径一:大力出奇迹(扩展计算、模型和数据)。继续扩大有效算力、数据和模型规模,即便单个模型能力停滞,几年内AGI也会从实验室奢侈品变成基础设施。通过算力增长,五年或十年后可运行一亿个AGI实例或加快其思考速度,这种规模量变足以催生ASI级群体能力。
路径二:范式跃迁。如果当前「预训练大模型加微调加测试时推理」打法到天花板,可能逼出全新架构或学习范式,如转向脉冲神经网络和神经形态硬件等。
路径三:多智能体协作与群体涌现。ASI可能是庞大复杂的数字生态系统,数以百万计的AGI专家通过「市场机制」或「蜂群思维」协作,将复杂问题拆解,协同效应可能涌现超级群体智能,类似《星际迷航》里的博格集合体。
路径四:递归自我改进(RSI)。这是最易引发「智能爆炸」和指数级增长的路径。AI可通过遗传演化修改代码与硬件,设计更好的神经网络架构和节能芯片;通过文化演化,像AlphaZero一样自我博弈和测试,生成、过滤并提炼高质量训练数据。
锁死未来的六道“墙”
报告警告,如果以下摩擦成绝对瓶颈,AI发展可能在AGI阶段甚至更早停滞。前五道墙分别是数据墙(高质量文本快耗尽)、资源墙(算力等成本指数级膨胀)、范式墙(预训练Transformer打法可能撞顶)、研究变难(低垂的果子摘完)、人为刹车(监管等因素)。第六道是抽象屏障,AI可能无法脱离人类语料独立构建新概念,被锁死在人类认知上限,但集体智能可堆实例冲过去。
AGI不是终点,未来充满变数
DeepMind报告未给出确定时间表,描绘了充满变数的路线图。从AGI到ASI,可能是智力爆炸,也可能陷入泥沼。报告结尾判断,让AI进步停在人类水平需多道关卡同时成死路,这种巧合不太可能发生,结局要么在AGI之前卡住,要么从AGI到弱ASI较顺利。我们这代人极有可能见证人工智能最终夙愿实现。
