你的 AI 不是下属,是组织:为什么多智能体要借管理学和社会学来建
副标:大模型的不确定性在结构上和人类个体同源——所以你既不该把它当机器去操控,也不该把它当下属去严管,而该用管理学和社会学,把它从"一个人"升级成"一个组织"。
你花大力气写 prompt、加护栏、定规则,想让 AI “听话、不出错”。但你有没有发现——你越是像管一个下属那样管它,它越容易在你没料到的地方翻车。
问题不在你管得不够严,在你管错了对象。
一、书里一句话破题:大模型与多智能体 = 人与组织
书 §4.6.5 给了一句特别利落的话:大模型和多智能体的关系,就是"人"和"组织"的关系。
单模型 = 一个人;多智能体 = 一个组织。
所以"怎么建多智能体"这个问题的答案,其实不在软件工程里,而在管理学和社会学里。这篇就把这件事说清楚。
二、为什么大模型的不确定性"像人":单模型的三个"人式"天花板
先说清"像人"准确指什么。书里把单模型比作一个人,指出它有三道天生的天花板——而这恰好也是人类个体的天花板:
- 单一轨迹瓶颈:一个人同一时刻只能沿一条思路走。单模型被迫把"写代码、查事实、做判断"塞进同一条自回归轨迹,每一步都在和前一步抢那一份注意力预算(书里那个 Σ=1 的"1")。这不是聪明不聪明,是"一个人"的结构性限制。
- 不能弃权:输出层没有"弃权桶",自回归强制它每一步必须吐一个 token。换成人的说法——一个人被逼着对每件事当场给结论,不能写"我去查一下再回你"。越界回答,是结构逼出来的。
- 无法自验:注意力是概率加权,不是真理解(需外部锚)。一个人自己写的方案,自己很难看出漏洞——“作者盲”。没有外部真值锚,自我审稿天然漏。
这三条合起来,就是书里说的"单一视角"缺陷。大模型会不确定,不是 bug,是它的"人格"——它本质上就是一个认知能力有限的个体,和人在这一点上同源。
三、"别像人一样管理"准确该怎么说
你的直觉对,但措辞要 sharpen:别把它当"单个下属"去命令,也别当"确定性机器"去操控。
两种最常见的错法,都踩在同一个误判上——以为不确定是"服从问题",能用更严的管控解决:
- 错法一:当机器。以为给够指令它就精确执行。但它是"人格式"的不确定,指令压不住结构。你写得再细,它该错还错在框架之外。
- 错法二:当单个下属。用更狠的 prompt、更硬的护栏去"管"。这等于给一个人套笼子(书里的"笼子"隐喻)——安全了,但也哑了:把不确定性连同思考能力一起消除,顺手把智能也关了。
准确的说法是:单模型的不确定,是"个体"层面的,靠命令消不掉;要消它的危害,得换到"组织"层面。这就是为什么需要管理学和社会学——它们管的正好是"有限理性的个体如何协作",而软件工程管的是"确定性系统的输入输出"。
四、管理学进场:把"一个人"变成"一个组织"
组织之所以能补单人的洞,是因为它用结构弥补了个体的天生缺陷。对应上面三个天花板:
- 分工(分布式角色注意力):组织把任务拆给不同角色,会计管账、律师管合同,各走各的轨迹,不互相抢上下文。这正是书的"多支手电分区域照黑屋"——补"单一轨迹"的洞。
- 转交 / 弃权通道:组织允许"这个我归口到别的部门",等于架构级有了"弃权 / 转交"。多智能体里一个子 agent 答不了,可以抛给更合适的角色,而不是硬编——补"不能弃权"的洞。
- 交叉审核(磁铁 = 外部真值锚):你写的我审,我写的他验。这就是书的"磁铁"在组织结构里的对应物:同事、审计、可追溯来源,替你验真——补"无法自验"的洞。
- 协调控制:主 lane 并发控制、轮询兜底,是组织的"管理控制"职能——防止多支手电互踩、防止雪崩在静默里滚大。
管理学(西蒙的有限理性、分工、协调)对口的就是单模型这三个天花板。你不是在写函数,是在做组织设计。
五、社会学进场:组织再放大成"社会"
多智能体不止是组织,当 agent 联网、经验流通,它有了社会属性——这正是社会学的研究对象:
- 角色与规范:谁照得准,活就往谁那聚(涌现分工);"已证层 / 未知层"分离,是社会级的认知卫生规范。
- 声誉与信任:反复吸不上磁铁的候选慢慢失信用,已证层被放心引用——一种长出来的"信任加权",不是你手配的。
- 外部性内部化:一个 agent 的幻觉混进公共上下文,会被别 agent 当真值引用(负外部性);一个验明的真值沉淀为公共资产,被全员复用(正外部性)。正经解法不是"禁止出错",而是靠机制把外部性内部化。
- 社会化学习:一个 agent 踩坑,session 沉淀,全员学乖(书里"自我 = 主动系统"的集体版——别人受伤我也防)。失败不再是个体的私事,变成集体的记忆和规矩。
社会学(角色、规范、声誉、外部性)对口的,是多 agent 之间的涌现秩序。
六、为什么偏偏是管理学 + 社会学,不是软件工程
一句话:你面对的是一群"认知能力有限、会错、会吵、会学"的行动者——这恰好是管理学和社会学的研究对象,不是传统软件工程的对象。
- 软件工程管确定性系统:函数输入输出确定,靠逻辑和测试。但多智能体是"人格式不确定"的系统,拿确定性方法论硬套,会逼你一步步走向笼子。
- 管理学管有限理性个体的协作:分工、协调、控制——正对口单模型的三个天花板。
- 社会学管角色、规范、声誉、外部性:正对口多 agent 之间的社会秩序。
你用错了学科,才会老想着"再严一点"。用对了学科,你会想"再分好工、装好锚、立好规矩"。
收尾:你不是在写系统,是在立制度
大模型的不确定性像人,这件事的启示不是"它太菜了要管死",而是——你该放弃"管一个人"的思路,转去"建一个组织、建一个社会"。
管理学给你分工与协调的手术刀,社会学给你规范与声誉的黏合剂。CoordClaw 这类系统,本质就是把这两门学问落成代码:分布式角色注意力是分工,网关磁铁是交叉审核,已证/未知分离是认知卫生,session 沉淀是社会化学习。
所以当别人问"多智能体怎么建"——
别用管人的方式管它。你的 AI 不是下属,是组织;用建组织、建社会的方式,去建它。
