由斯考克罗夫特战略与安全中心、大西洋理事会主办的“国家安全与国防中人工智能的未来”研讨会于5月25日举行。本次活动主要针对人工智能在美国国防中的应用现状及未来可能性做了主题探讨，并在最后形成报告。以下为报告部分摘译。
执行摘要
在过去几年中，世界各地的军队对人工智能(AI)的发展增加了兴趣和投资，以支持一系列多样化的国防和国家安全目标。然而，对于人工智能是什么，它是如何融入中美战略竞争的，以及如何优化这个新时代部署的军事人工智能的国防工业基地，目前还缺乏普遍的理解。现在，在人工智能领域达成一致意见、在政策部门和技术部门之间建立对现代人工智能的共识、以及在国防部及其行业合作伙伴之间调整观点和优先事项的时间已经过去了。据此，本文提出了以下几个核心问题。什么是人工智能？国家安全政策制定者为什么要关注人工智能？
人工智能能力有可能为美国国家安全和国防带来改变游戏规则的优势，包括
- 大大加快和改善决策；
- 增强战备和作战能力；
- 提高人类的认知和身体表现；
- 军事系统设计、制造和维护的新方法；
- 能够打破微妙的军事平衡的新能力；
- 制造和发现战略网络攻击、虚假信息活动以及影响行动的能力。
在过去的五年中，美国国防部对人工智能进行了大量的投资，并认识到人工智能作为一种关键能力的水平推动者，在未来的战斗中起到了威慑和赢得胜利的作用。但是，五角大楼之外的决策者——以及普通公众和开发人工智能技术的公司——需要更好地理解当今人工智能的能力和局限性，并清楚地认识到人工智能对国家安全的积极影响和潜在的不稳定影响。为什么人工智能对战略竞争至关重要？
五角大楼对人工智能的兴趣也必须通过与中国(在较小程度上是与俄罗斯)不断加剧的战略竞争的视角来看待，越来越多的人认识到，落后于人工智能和相关新兴技术可能会损害美国军队自冷战结束以来保持的战略、技术和作战优势。一些国防领导人甚至认为，美国已经在军事技术竞争中输给了中国。
虽然本文不认同这种宿命论的观点，但它认为，军事人工智能竞争的利害关系很大，但能够用以准备的时间很短。国防部采用人工智能的障碍是什么？
臭名昭著的五角大楼官僚主义、陈旧的采购和合同系统以及规避风险的组织文化继续抑制国防部引入外部创新的能力，并减缓广泛集成和采用人工智能的步伐。解决这种级别的系统性问题是一项艰巨的任务。但是，促进国防部与商业技术部门和创新创业公司的接触的重要变化已经在进行中。然而，在整合国防部及其行业合作伙伴对人工智能发展最具影响力的领域的观点，以及阐明和实施通用技术标准和测试机制以实现可信和负责任的人工智能方面，仍有许多工作要做。关键要点和建议
国防部必须迅速过渡，从广泛认识到人工智能的重要性，到创建将加速采用人工智能技术能力的途径、过程、实践和原则。如果不立即采取行动，美国就有可能在利用制胜技术的能力上落后于竞争对手，这些技术将主宰未来的动力和非动力战场。这份报告为国防部确定了三个行动方针，这些方针可以帮助确保美军保持其在人工智能领域的全球领导地位，通过催化内部变革以更快地采用人工智能，并利用充满活力和多样化的美国创新生态系统，包括优先考虑安全、可靠、可信和负责任的AI开发和部署；调整AI发展的关键优先事项，加强国防部和行业合作伙伴之间的协调，以帮助缩小AI能力差距；促进先进国防技术公司和非传统供应商之间的协调，以加快国防部AI的采用。
介绍
人工智能为国防政策制定者带来了重大机遇。人工智能处理和融合信息的能力，以及将数据提炼为增强决策能力的洞察的能力，可以在混乱的国际环境中占得先机。
随着美国国防部转向大规模采用人工智能，本报告寻求对有关现代人工智能性质的突出问题提供见解，总结中国在军事人工智能发展竞赛中的关键进展，并突出一些最引人注目的人工智能使用案例。报告还简要评估了国防部与其行业合作伙伴之间的不一致，这些不一致继续阻碍五角大楼获得改变游戏规则的技术。
然而，在进入人工智能部署时代之际，竞争的紧迫性不应掩盖对指导美国军方的道德准则的承诺。因此，该报告重申，需要有效地将国防部AI道德准则转化为评估可信度的通用技术标准和评估指标，并在这些关键问题上加强与国防部行业合作伙伴之间的协调工作，特别是初创公司和非传统供应商。
在本报告的最后，我们为政策制定者和国家安全生态系统的其他AI利益相关者提供了一些建议。具体而言，我们敦促国防部优先考虑安全、可靠、可信和负责任的人工智能开发和部署，协调国防部和工业界之间的人工智能发展重点，以帮助缩小国防部的人工智能能力差距，并促进领先的国防技术公司和非传统供应商之间的协调，以加快国防部的人工智能采用速度。
人工智能创新和应用的军事竞争
推动国防部人工智能开发和采用工作的紧迫性很大程度上源于确保美国及其盟友在主导两国关系的军事技术竞争中超过中国的需要。俄罗斯的技术能力远远不够发达，但它的侵略破坏了全球安全，威胁了美国和北约的利益。中国
中国在国防和国家安全方面优先投资人工智能，作为其努力成为“世界一流军队”并在未来的“智能化”战争中获得优势的一部分。在“智能化”战争中，人工智能(以及其他新兴技术)通过“网络化、智能化和自主的系统和设备”更全面地融入军事系统和作战活动。
虽然中国人工智能相关活动的全部范围并不广为人知，但安全与新兴技术中心(CSET)在2021年10月对343份与人工智能相关的中国军事合同进行的评估估计，中国解放军“每年在人工智能相关系统和设备上的支出超过16亿美元”。美国国家人工智能安全委员会(NSCAI)的最终报告评估称，“中国的计划、资源和进步应该关系到所有美国人。它在许多领域都是人工智能的同行，在某些应用领域也是人工智能的领导者。”
CSET的审查和其他开源评估显示，与美国一样，中国对人工智能发展的关注领域很广泛，包括：
- 智能和自动驾驶汽车，特别关注群集技术；
- 情报、监视和侦察(ISR)；
- 预测性维护和物流；
- 信息战、网络战、电子战；
- 模拟和训练(包括wg)；
- 指挥与控制(C2)；
- 自动目标识别。
这些领域的进展都对美国在与中国的军事技术竞争中保持同步的能力构成了挑战。然而，值得研究的是中国在两个可能对军事平衡产生特别强大影响的领域的进步能力。
01
整合
首先，人工智能可以通过人工增强军事融合和跨领域作战，帮助解放军弥合战备差距。许多观察人士指出，中国人民解放军在冲突中缺乏作战经验是一个关键弱点。尽管从技术角度来看，中国军事现代化的推进令人印象深刻，但在过去20年里，中国人民解放军的任何人员都没有像美国军队那样，在高端冲突中经受过炮火的考验。
使用人工智能来提高模拟和战争游戏的质量、保真度和复杂性是解放军解决这一问题的方法之一。新美国安全中心(Center for A New American Security) 2019年的一份报告指出，“对中国军事战略家来说，从AlphaGo的胜利中吸取的教训之一是，人工智能可以在一场可以与战争游戏相提并论的游戏中创造出优于人类玩家的战术和战略”，这种游戏可以更艰难地考验解放军的决策者，并改进指挥决策。事实上，CSET的报告发现，在接受调查的343份合同中，6%的合同是在模拟和训练中使用人工智能。专注于人工智能集成以减少经验中的感知漏洞，也适用于作战和战术训练。
除了虚拟模拟，中国还计划使用人工智能来支持飞行员在真实世界飞机上的训练。值得注意的是，中国空军2021年7月的人工智能-人类混战与国防高级研究计划局(DARPA) 2020年9月的AlphaDogFight挑战赛类似，在该挑战赛中，一名人工智能代理人在5场模拟混战中击败了一名人类飞行员。同样，美国于2021年9月宣布授予训练和模拟公司Red 6一份合同，将该公司的机载战术增强现实系统(ATARS)集成到T-38鹰爪教练机中，该系统允许飞行员驾驶一架真实世界的飞机，使用增强现实头戴式设备对ai生成的虚拟飞机进行训练，并计划最终将该系统安装在第四代飞机上。因此，人工智能训练和模拟是美军与解放军直接竞争的关键领域。由于中国军队正在利用人工智能加强战备，国防部不能落后。
02
自动化
中国人工智能发展的第二个重点领域是自主系统，尤其是蜂群技术，在这些技术中，多个系统将独立运行或相互协作，以混淆和压倒对手的防御系统。中国发展蜂群技术的兴趣和能力得到了充分证明，包括2017年6月创纪录地发射了118架小型无人机联网蜂群。
在2020年9月，据报道，中国电子信息技术研究院(CAEIT)从一辆改进的东风“梦师”轻型战术车辆上发射了一群200枚固定翼CH- 901巡航弹药一项对2022年2月在阿布扎比举行的2022年无人驾驶展的调查显示，不仅有强大的中国存在——中国航空技术进出口总公司(CATIC)和中国北方工业总公司(NORINCO)都有大型展馆——而且还注重“协作”运营和智能群集。
这种对蜂群的兴趣不仅限于无人驾驶飞行器(UAVs)。据《环球时报》报道，中国还在发展部署自主无人水面车辆(USVs)的能力，以“拦截、包围和驱逐入侵目标”。2021年11月，中国公司云洲科技(2018年进行了56艘USV的演示)发布了一段视频，显示6艘usv参与了“合作对抗”，以从中国水域移除一艘船员船。
不难想象，这种合作对抗将如何部署在美国或盟国的海军舰艇，甚至商业舰艇上，以发展或维持对海洋的控制。这种能力在灰色地带的意外事件中尤其强大。俄罗斯
俄罗斯在人工智能方面的投资和能力落后于美国和中国。因乌克兰战争而实施的制裁也可能对俄罗斯的科技部门造成巨大损失。也就是说，美国国家决策者不应低估俄罗斯以非对称方式使用人工智能技术破坏美国和北约利益的潜力。俄罗斯国防部在军事机器人、无人系统、集群技术、预警和防空系统、ISR、C2、后勤、电子战和信息作战等方面的不同发展和实验阶段有许多自主和AI相关的项目。
俄罗斯军事战略家认为，未来战场上更大的自主权和人工智能具有巨大的潜力，可以加快信息处理，增强决策能力，增强态势感知能力，并保障俄罗斯军事人员的生命安全。自主和人工智能系统的发展和使用也在俄罗斯军事理论的更广泛的背景下进行了讨论。其理论重点是利用这些技术来扰乱和摧毁对手的指挥控制系统和通信能力，并在战争初期使用非军事手段建立信息优势。在俄罗斯看来，战争初期包括与美国和北约等对手的非动态性冲突时期。
俄罗斯人工智能发展的轨迹尚不确定。但是，随着制裁的持续，俄罗斯很可能会在微电子方面越来越依赖中国，在与美国的技术竞争中进一步落后。
关键要点和建议
充分利用人工智能的能力来提高成本和时间效率，支持人类决策者，实现自主，这需要的不仅仅是技术进步或开发新的操作概念。下面，我们概述了三个关键的优先工作领域，以更成功地整合整个国防部的人工智能企业，并确保美国能够应对威胁，并保持对其竞争对手和潜在对手的战略、作战和战术优势。优先考虑安全、可靠、可信和负责任的AI开发和部署
国防部应将DIU的AI责任指南整合到相关的提案、招标和其他材料中，这些材料要求承包商展示其AI产品和解决方案如何执行国防部的AI道德原则。这将设定一套共同而明确的预期，帮助非传统人工智能供应商和初创公司在五角大楼的提案过程中导航。
最近有先例表明，国防部为项目开发采购类别，要求各工厂调整其开发过程，以满足不断发展的国防部标准。例如，在2020年9月，美国空军为所有要求供应商使用数字工程实践(而不是构建原型)的采购工作制定了e系列采购指定，作为他们激励工业拥抱数字工程的努力的一部分。
国防部行业合作伙伴，特别是非传统AI供应商，应积极与NIST合作，因为该研究所继续努力开发标准和指南，以促进值得信赖的AI系统，确保他们的观点为后续框架提供信息。
本文中提到的有效采用人工智能的挑战包括脆弱的人工智能和潜在的旨在破坏人工智能算法所基于的数据的对手网络攻击。克服这些挑战将需要国防部继续致力于提高国防部人工智能系统的测试和评估速度、种类和能力，以确保这些系统在更广泛的不同环境下按计划运行。其中一些测试将需要在现实环境中进行，但基于模型的模拟的进步可以允许越来越多的人工智能系统性能验证，以对抗数字/虚拟世界，减少与此测试相关的成本和时间。
此外，国防部还应利用国防部副部长负责研究和工程(USDR&E)的优先事项，以确保计划和部署的AI系统能够抵御对手的攻击，包括数据污染和算法腐败。
国防部应该利用盟友和外国伙伴来开发、部署和采用可信的人工智能。拓展现有合作模式，建立新的伙伴关系的途径包括:
- 加强对道德、安全和负责任的AI的重视，将其作为JAIC国防伙伴关系的一部分，通过评估成员方法的共性和差异，以确定未来联合项目和合作的具体机会。
- 与五眼、北约和AUKUS合作伙伴共享并实施联合伦理计划。除了支持互操作性之外，这将增加视角和经验的多样性，并有助于确保AI开发工作限制各种形式的偏见。正如为该项目接受采访的一位前将军指出的那样，“多样性是我们确保可靠性的方式。这是至关重要的。”
- 扩大与印度、南非、越南等不同能力和地域的盟友和伙伴的联系，探索双边和多边研发和技术共享项目的机会，以解决可信和负责任的人工智能的技术属性。
调整人工智能发展的重点，加强国防部和行业合作伙伴之间的协调，以帮助缩小国防部人工智能能力差距。如果没有与广泛的技术公司密切合作，国防部将无法实现其在人工智能方面的雄心，并有效地与中国通过军民融合采购技术创新的模式竞争。这包括与五角大楼有长期联系的国防工业领袖、处于全球创新前沿的技术巨头、寻求扩大政府投资组合的商业技术参与者，以及处于人工智能发展前沿的初创公司。但是，国防部的预算规划、采购、采办、合同和合规流程可能需要从根本上进行重组，以有效地参与这个充满活力和多样化的技术生态系统。
系统性变革是一个缓慢而艰巨的过程。但是，推迟这种过渡可能会让美军在利用人工智能有望带来的优势(方面落后。与此同时，以下行动可以帮助改善与行业合作伙伴的协调，加快国防部的人工智能采用工作。
国防部应评估其通信和外联战略，以澄清和简化部门在人工智能方面的优先事项。
国防部应与技术公司合作，重新评估人工智能解决方案在某些类别的潜在价值，包括但不限于后勤、医疗和健康服务以及信息操作。
国防部应实施NSCAI的建议，加速对采办专业人员进行全面的采办和合同可选方案培训，并鼓励他们使用人工智能和数字技术。”此外，此类采买人员培训计划应确保采买专业人员充分理解国防部的人工智能伦理原则以及可信和负责任的人工智能的技术维度。DIU的道德准则可以作为这一培训的基础。
促进领先的国防技术公司和非传统供应商之间的协调，加快国防部人工智能的采用。
在中短期内，国防部将不再建造全新的人工智能系统，而是将人工智能集成到一系列现有的软件和硬件系统中——从网络防御体系到战斗机再到C2。因此，实现人工智能的进展也将取决于初创公司和非传统人工智能供应商之间的合作，国防部一直在寻求他们的创新和尖端技术，以及负责将新能力集成到遗留系统的国防主要部门。
美国国家科学与技术委员会(NSCAI)建议，“为国防部门寻找与非传统公司合作的新机会，以更快地在现有平台上采用人工智能能力。”我们赞同这一建议：加强国防部门和非传统公司之间的协调，可以帮助确保AI解决方案的健壮性、弹性和操作相关性。
毫无疑问，从概念到实践可能会很棘手。本文的研究揭示了在将创新的新技术从实验室转移到记录程序中采用的主要挑战方面的重大脱节。创业公司倾向于认为系统集成商拒绝参与，而创业公司可能被认为缺乏对收购过程和开发技术的理解。
弥合这一差距将需要政府采取新的方法来解决非传统供应商对知识产权的担忧。大多数公司都不愿将敏感技术的所有权出让给国防市场以外的客户。该协议还将涉及国防部通过加快网络认证和授权操作(ATO)流程等步骤，帮助小企业导航联邦采办过程，并帮助感兴趣的公司开发国防部不同组件的用例。这种积极的促进将帮助非传统供应商通过研究和发展拨款与国防部合作，与系统集成商建立伙伴关系，更有准备。
最重要的是，优化大型系统集成商和小型创新公司的利益将要求国防部在连接小公司和正在运行记录程序的公司方面发挥更积极的对话作用。目前，国防部在要求公司合作方面有些犹豫，这是可以理解的，很大程度上是因为担心违反联邦采办条例(FAR)。但是，正如一位接受采访的行业专家认为，国防部可以更积极地理解FAR下允许的内容，并帮助公司进行连接，特别是满足特定的采购优先级或项目。
结论
在过去几年里，人们对人工智能的兴趣和投资势头迅猛。在国家安全和国防领域尤其如此，因为战略家、政策制定者和高管在日益激烈的地缘战略竞争中寻求决定性优势，并为以复杂性、不确定性和最重要的速度为特征的未来操作环境做好准备。人工智能现在是美国和中国军事技术竞争的中心，两国以及世界各地的其他军队都已经部署了人工智能系统，目标是主导未来的战场。
美国不能落后中国——不能在人工智能创新、不能在人工智能采用、不能在整个国防企业全面集成人工智能方面落后。目前迫切需要解决一系列技术和官僚程序，以及文化问题，这些问题迄今为止阻碍了国防部采用人工智能的步伐。具体来说，国防部应该优先考虑以下事项。
建立对人工智能的信任国防部人工智能的努力主要集中在增强人类理解、决策和性能的技术上，而不是取代人类。因此，在人类和他们的智能机器队友之间建立信任和信心是成功开发和部署军事人工智能的一个关键方面。
为可信和负责任的AI制定和实施标准目前，对于构成可信和负责任的AI的因素，还没有共同的标准或系统性能要求。因此，五角大楼及其行业合作伙伴必须与NIST等机构合作，制定和实施操作相关的标准、测试流程和评估指标，这些标准应纳入道德、可信和负责任的AI原则。这将有助于将成功的人工智能研究原型推进为可生产的解决方案。
促进美国创新生态系统和国防工业基础的优化将前沿人工智能技术引入国防部还要求五角大楼减少与国防部采购过程经常相关的官僚挑战，特别是对于传统国防工业基础之外的创新公司。发展支持和激励这些公司参与的新手段，促进领先的国防技术公司、初创公司和非传统供应商之间的行业内伙伴关系，将是至关重要的。
与盟友和伙伴接触正如本文开头提到的，乌克兰战争强化了盟友和伙伴在执行地缘政治规范和标准方面的重要性。人工智能的未来发展和采用可能也是如此。国防部不仅将受益于跨行业和国家安全部门的合作，还将受益于与盟友和外国伙伴的合作，以确保建立和颁布规范和标准，使可信、负责和互操作的AI开发和部署成为可能。
文章来源：大西洋理事会
原文链接：
https://www.atlanticcouncil.org/in-depth-research-reports/report/eye-to-eye-in-ai/
译者：吴宇昂
Last modified: 2022年 9月 6日
