人工智能（AI）长期以来一直是网络安全的基石。从恶意软件检测到网络流量分析，预测性机器学习模型和其他窄范围AI应用在网络领域已使用数十年。随着我们越来越接近通用人工智能（AGI），AI自动化防御和修复漏洞的潜力变得更加强大。
但要利用这些好处，我们也必须理解并减轻日益先进的AI被滥用以实现或增强网络攻击的风险。用于评估AI新兴进攻性网络能力的新框架正好帮助我们做到这一点。这是迄今为止同类评估中最全面的：它覆盖网络攻击链的每个阶段，涉及广泛的威胁类型，并以真实世界数据为基础。
该框架使网络安全专家能够在恶意行为者利用AI实施复杂网络攻击之前，识别哪些防御是必要的，以及如何确定其优先级。
构建全面的基准
更新后的前沿安全框架认识到，先进的AI模型可能自动化和加速网络攻击，从而可能降低攻击者的成本。这反过来又增加了攻击以更大规模进行的风险。
为了领先于AI驱动的网络攻击这一新兴威胁，借鉴了经过验证的网络安全评估框架，例如MITRE ATT&CK。这些框架使我们能够评估端到端网络攻击链（从侦察到对目标采取行动）以及一系列可能攻击场景中的威胁。然而，这些已建立的框架并非为考虑攻击者使用AI入侵系统而设计。我们的方法通过主动识别AI可能使攻击更快、更便宜或更容易的地方（例如，通过实现全自动网络攻击）来弥补这一差距。
分析了一个中心威胁情报小组的数据，涉及20个国家超过12，000次利用AI进行网络攻击的真实尝试。这帮助我们确定了这些攻击展开的常见模式。由此，我们整理出七个典型攻击类别的列表——包括网络钓鱼、恶意软件和拒绝服务攻击——并识别出网络攻击链中AI可能显著破坏传统攻击成本的关键瓶颈阶段。通过将评估重点放在这些瓶颈上，防御者可以更有效地确定其安全资源的优先级。
最后，创建了一个进攻性网络能力基准，以全面评估前沿AI模型的网络安全优势和劣势。该基准包含50个挑战，涵盖整个攻击链，包括情报收集、漏洞利用和恶意软件开发等领域。目的是为防御者提供制定针对性缓解措施的能力，并作为红队演练的一部分模拟AI驱动的攻击。
早期评估的见解
使用此基准进行的初步评估表明，单独来看，当今的AI模型不太可能为威胁行为者带来突破性能力。然而，随着前沿AI变得更加先进，可能的网络攻击类型将会演变，这需要持续改进防御策略。
还发现，现有的AI网络安全评估常常忽略网络攻击的主要方面——例如规避（攻击者隐藏其存在）和持久化（攻击者维持对受损系统的长期访问）。然而，这些领域恰恰是AI驱动方法可能特别有效的部分。该框架通过讨论AI如何降低攻击这些部分成功的门槛来阐明这个问题。
赋能网络安全社区
随着AI系统的持续扩展，其自动化和增强网络安全的能力有潜力改变防御者预测和应对威胁的方式。
网络安全评估框架旨在通过清晰地展示AI也可能如何被滥用，以及现有的网络保护措施可能在何处不足，来支持这种转变。通过强调这些新兴风险，该框架和基准将帮助网络安全团队加强其防御并领先于快速演变的威胁。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
公众号二维码
公众号二维码
