北京智源联合多机构发布FlagSafe大模型安全体系，为AI发展保驾护航
【导语：5月11日，北京智源人工智能研究院联合北大、北航等机构发布FlagSafe大模型安全体系，聚焦三大方向构建完整闭环，标志我国在大模型安全协同生态建设上迈出关键一步。】
北京智源人工智能研究院联合北大、北航等机构正式发布的FlagSafe大模型安全体系，聚焦红队演练、蓝队防御与白盒透视三大方向，构建起覆盖风险发现、治理与解释的完整闭环。
针对跨模态及具身智能带来的复合风险，FlagSafe确立了五项安全红线，并建立了全面评估基线，为大模型安全提供了明确的标准和依据。
在红队方面，通过Eval - Anything与VLA - Arena框架，实现从全模态能力到物理世界行动的风险主动暴露。蓝队方面，集成Align - Anything与ClawKeeper等技术，形成从训练对齐到动态内容监测的持续防御机制。白盒方面，深入模型内部机理与数据溯源，精准定位风险根因并提供修正依据。
编辑观点：FlagSafe大模型安全体系的发布是我国大模型安全领域的重要突破，为人工智能行业发展提供了有力保障，未来有望推动行业标准制定，促进人工智能高质量发展。