2025_NIPS_GUARDIAN: Safeguarding LLM Multi-Agent Collaborations with Temporal Graph Modeling
文章核心总结与创新点
主要内容
本文针对大语言模型（LLM）多智能体协作中存在的幻觉放大、错误注入与传播等安全问题，提出了名为GUARDIAN的统一防护框架。该框架将多智能体协作过程建模为离散时间时序属性图，通过无监督编码器-解码器架构、信息瓶颈理论驱动的图抽象机制和增量训练范式，实现对异常节点（智能体）和边（通信）的精准检测与剔除，在不修改底层LLM的前提下，保障协作系统的安全性和可靠性。实验验证了该框架在MMLU、MATH、FEVER等多个基准数据集上的优异性能，在各类安全场景下均达到当前最优准确率，且资源消耗高效。
创新点
- 时序属性图建模：首次将多智能体协作过程抽象为时序属性图，节点表示不同时间步的智能体，边表示智能体间通信，节点属性编码智能体响应，直观捕捉幻觉和错误的传播动态。
- 双解码器无监督架构：设计属性重构解码器和结构重构解码器，分别从节点语义属性和网络拓扑结构两个维度检测异常，减少单一模态干扰，提升检测精度。
- 信息瓶颈图抽象：首次将信息瓶颈理论应用于LLM多智能体安全防护，在压缩时序交互图冗余信息的同时保留关键模式，平衡信息压缩与任务相关性。
- 增量训练范式：贴合多智能体协作的时序特性，通过逐轮微调模型并剔除已检测异常，使模型动态适应协作模式变化，无需划分训练/测试集。
- 模型无关兼容性：无需修改底层LLM结构，可适配闭源和开源模型，兼