CSET发布报告《人工智能将会是网络之剑还是网络之盾？》

2022年8月，美国著名智库安全与新兴技术中心（CSET）发布研究报告《人工智能将会是网络之剑还是网络之盾？》（Will AI Make Cyber Swords or Shields?）（以下简称“《报告》”）。文章概述当前科技深刻发展的背景下，数字建模在网络安全中的应用情况，展现如今在网络安全攻防领域的竞争态势及其未来可能的走向。

当前技术进步的速度之快使得政府决策者、企业、社会等各个层面无法准确知晓新兴技术的发展背后是受益更多还是危害更大。衡量特定技术进步的利弊的一种方法是使用网络安全数学和经验模型。通常而言，数学模型是对于现状的研究，但他们同时也可以在一定程度上预测未来走势。文章随后用三个例子对此方法进行证明。

钓鱼邮件

钓鱼邮件的攻防现状为，攻击者可能通过大量有针对性的电子邮件进行撒网式的钓鱼，但同时防御者也会因为受到大量的钓鱼邮件而快速分析攻击者模式，从而进行隔离与清理。

数学建模首先假设攻击者的目标是在不惊动防御者的情况下攻击目标组织的至少一个帐户，同时假设防御者收到钓鱼消息后，可以使用该消息中的信息来找到其他所有的钓鱼消息。下表展示了数学建模的最终结果。

这一结果说明，人工智能介入网络钓鱼行为时，会显著增加防御者成功抵御的概率，而对攻击者而言则没有多少帮助。

漏洞挖掘

在利用钓鱼邮件进行攻击之外，攻击者也会挖掘网络漏洞。数学建模上使用“基本模糊技术”（basic fuzzing’s ability）研究发现，人工智能对漏洞的发掘类似于人类——他们的发现率都遵循所谓的幂律分布。这意味着他们发现新漏洞的能力会随着时间下降，但在很长一段时间后仍然可以发现漏洞。这些取决于幂律的两个参数：系数和指数。从研究中可以得出初步结论：自动化系统能够以更快的发现速度帮助软件供应商在产品上线之前发现并修复更多的漏洞，但如果该系统能够长期发现新漏洞，那么攻击者将能利用更大的漏洞池进行攻击行为。

发掘与补丁之战

当漏洞出现时，防御者会通过发布补丁的方式进行修复，而在未修复的时间段内便是攻击者的可乘之机。这也同时需要考虑到补丁发布延迟与用户更新情况。但这并不代表打补丁没有意义。一旦补丁可用，加速采用补丁技术会产生深远的影响。与补丁采用速度相比，补丁开发速度对防御者带来的优势很小。这仍然归因于补丁采用速度较慢。由以上内容便可以得出一个事实：即使编写补丁和利用漏洞的技术以同样的速度进步，优势还是属于攻击者，因为补丁部署目前是最关键的环节。

原文链接：https://cset.georgetown.edu/publication/will-ai-make-cyber-swords-or-shields/