人工智能与网络如何保护美国国家核安全

美国的一些国家安全官员相信，人工智能作为力量倍增器，应用于攻击性和防御性网络武器，将给网络安全带来变革性影响，确实能够提升改善核安全。

一是人工智能与网络技术得以快速发展。近年来，随着机器学习技术的发展，解决了人工智能领域的一些技术瓶颈问题，使广泛应用的无人武器系统和网络系统的性能得到显著提升，正通过许多种方式改变核安全，对国家的网络安全和战略稳定产生正面的影响。

二是人工智能可以提升军队应对网络攻击的能力。人工智能网络防御工具（或者称反人工智能工具），其目的在于识别网络行为模式的变化，检测网络异常和软件代码漏洞，查找重要的证据，追踪并确定攻击者的身份。而利用人工智能机器学习技术（如深度学习技术），可以及时发现正常网络活动出现的偏差，协助建立更加牢固的防线，抵御网络入侵，保护国家核安全。

三是利用人工智能技术开发主动性网络工具。在对美国核系统积极防御的同时，国家也可以运用人工智能技术，开发对抗性人工智能武器，以加强网络安全，比如枚举目标空间或者重新封装恶意软件，以规避对手对我方网络和系统进行侦测或者攻击，并且能主动对对手开展网络反制和攻击行动。此外，人们还认为，通过网络攻击（即欺骗、入侵、操纵与数字干扰）渗透对方的核武器系统，可以破坏其通信系统，并最终（且对方可能根本不知道）获取核与非核指挥控制系统的控制权。

四是美国军方着手研发人工智能网络防御工具。正是考虑到人工智能的强大力量，美国国防部国防创新组正在开发一款程序，利用人工智能技术破解高层级战略问题，绘制事件概率链条，制定备用战略，使国防部系统在遭受人工智能网络攻击时能够快速恢复，而且系统配置和故障修复的速度可以比人做的更快更好。

人工智能与网络相结合给美国国家核安全带来的威胁

将人工智能技术赋予网络中，会导致对手使用恶意软件，采取秘密行动、欺骗、计谋等手段，控制、操纵或欺骗核网络系统，从而威胁国家核安全。近期对两用预警系统成功实施网络攻击的报告也表明，核指挥、控制与通信系统（NC3）遭受网络入侵的猜测正在快速变为现实。

一是人工智能等新技术将威胁核安全。为增强信息能力而开发人工智能、5G网络、机器学习、大数据分析、量子计算等，可能会被对手利用，开发出自动的、先进的、持续性的威胁工具，破坏核信息系统安全。而且，随着人工智能和机器学习的不断发展，可能不需要过多的人力，也不需要很高的技术水平，就可以持续对核网络开展威胁行动。最近国际战略研究所举办的研讨会也证实，预警系统接收到的恶意操作数据，不仅会在特定的情况下破坏人工智能系统的输出结果，而且如果在程序执行阶段，还会破坏整个网络环境的可靠性。因此，人工智能机器学习技术通过操纵数字信息世界，做出使用核武器的错误决策，会加剧国家间爆发冲突的风险。考虑到当前美国与如中国、俄罗斯、朝鲜等有核国家之间的紧张关系，不难想象，如果一个第三方组织或代理国家充满恶意，使用人工智能深度伪装，融合数据中毒技术对一方国家核安全开展秘密网络攻击，可能引发这些有核国家局势紧张。此外，在竞争性战略的背景下，各个国家倾向于对他国的意图往坏处揣测。一个国家通过人工智能技术提高本国战略部队生存能力的举措，可能被其它国家视为对其核报复能力和核二次打击能力的威胁。

二是人工智能网络行动可能导致国家攻防战略模糊。早期阶段的人工智能网络行动，通常搞不清楚对手是打算搜集情报还是准备实施攻击。模糊的网络攻防策略，可能加剧对手对先发打击的恐惧，增加其先机制敌的打算，在极端情况下还可能促使对手产生使用核武器的考虑。如果在危机期间使用人工智能网络情报搜集工具（或者间谍行为），更容易让对手产生误解，认为这是对其核力量进行先发制人打击的前奏。此外，在危机条件下，攻击性人工智能网络工具成功破坏对手的核武器系统，导致出现“信息不对称”的局面，可能引起单方或者双方高估（或者低估）对方的报复能力，随之可能采取冒险行动。比如，公开研究表明，中国分析人士认为，中国的核指挥、控制、通信系统容易遭受网络渗透，哪怕攻击者的目的仅限于网络间谍活动，也会被视为高度升级的国家安全威胁问题。因此在危机或冲突期间，人工智能网络能力的作用存在一些不确定性，可能会降低双方对风险的承受能力，增加其先发制人的考虑。

三是人工智能技术使核攻击反应时间大为缩短。在对手核打击发起的短时间内，针对核武器系统的人工智能网络攻击几乎不可能被提前发现和识别，更不可能对攻击源、攻击性质进行判断。根据公开的信息来源，在预警系统发出即将遭受攻击的初步征兆后，北美航天航空防御司令部的操作人员只有不到三分钟时间进行评估和确认。这样紧迫的决策时间会使政治领导者承受巨大压力，不得不使用不完整甚至可能是错误的信息做出决策，容易导致危机再度升级。

四是人工智能与网络结合可能导致决策复杂化。人工智能、5G网络支持下的机器学习、大数据分析和传感技术，针对即将到来的威胁，能够以更快的速度和更高的精度向指挥官发出预警，减少在敏感的指挥控制环节发生事故。然而，技术结合也导致两种风险并存。其一，人工智能机器学习作为网络攻击行为的力量倍增器，使一些攻击行为更加难于发现，如数据中毒欺骗、深度伪装、数据控制、网络入侵、数字干扰等，尤其是网络攻击者在电磁频谱对抗环境中使用这些先进的持续性威胁工具。其二，在不能成功发现网络攻击行为的情况下，以机器速度确认威胁源（或者攻击属性）几乎是不可能的。因此，当危机发生时，如果一个国家没有能力判定攻击者的意图，可能会得出对方的攻击行动是计划破坏其核威慑的结论，从而影响决策。此外，如果不了解人工智能系统如何辅助系统做出决策，可能会导致操作人员对系统的性能或者信心过满，或者信心不足，也会导致决策复杂化。

五是人工智能的技术尚不成熟。由于人工智能机器学习系统需要通过高质量的数据集来训练验证他们的算法，因此随之产生一个问题，如果将“中毒”数据注入训练数据集，会导致这些人工智能机器学习系统以人们不希望的和可能无法检测的方式运行。除非终止系统的机器学习算法，否则在实际应用阶段，系统可能学习到一些人们不愿意让其学习的内容，甚至执行一些设计者不期望其去执行的工作或任务。因此，这就是为什么在武器系统方面，目前人们大多将人工智能机器学习限定在实验研究领域的主要原因之一。