直播预告 | 约翰斯·霍普金斯大学肖超玮教授：迈向安全可靠的AI智能体

PaperWeekly × 星弧 STARC

科研觉醒

AI前沿讲座

直播主题

迈向安全可靠的 AI 智能体

直播嘉宾

肖超玮

JHU 助理教授、NVIDIA Research 研究员

直播时间

2026年3月7日（周六）

11:00-12:00

参会方式

腾讯会议/VooV ID: 442 086 886

报告介绍

Topic

迈向安全可靠的 AI 智能体

人们正在投入巨大努力使人工智能与人类价值观对齐，并确保其被负责任地使用。然而，一个根本性的问题依然存在：人工智能是否真正安全？

在本次报告中，我将介绍我们提出的“双路径原则”（Dual Pathways Principle），该原则融合模型层面与系统层面的视角，用于构建安全且可靠的智能体（AI Agent）。

我将介绍我们的 AutoDan 和 Armor 系列工作，这些工作结合安全机制与以人为中心的原则，致力于构建安全可靠的人工智能系统。

随后，我将讨论为何人工智能安全必须采用系统级的方法，并介绍我们提出的“安全内生设计”（security-by-design）框架，用于构建安全可靠的智能体。通过整合上述方法，我将勾勒出通往安全可靠人工智能智能体的发展路径。

🔍

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·

·