人们喜欢长上下文，智能体记得你的项目、你的偏好、你说话的方式，连你那些反复冒出来的琐碎任务都帮你记着，所以用起来当然顺手。但顺手归顺手，顺手不等于靠谱，把这两件事搞混后面的麻烦就来了。
可靠性问题的起点恰恰是人们把长上下文当免费能力用的那一刻。你扩展了上下文就等于换了一个被测系统，测的不再是模型本身，而是模型加上一个持续膨胀的历史 Token 档案。这个档案天生就很杂乱：半成型的想法、开玩笑时随口说的话、情绪化的措辞、前后矛盾的约束、从未打算变成策略的临时指令，统统堆在一起。
模型只能在它能关注到的范围内做推理，而注意力即便在窗口很大的情况下依然是稀缺资源。输入杂乱、矛盾、臃肿，模型的最优表现就不稳定压力一来更没法预测。很多人喜欢把长上下文比作"更大的大脑"，但实际上它更像一张越来越大的办公桌：纸越堆越多最后你连自己要找的那份文件都找不到。
https://avoid.overfit.cn/post/ba57f2e1d9c54f83a4d6184c69e08cde