利用人工智能维护国家安全？听听新美国安全中心怎么说

人工智能融入人类社会的进程已无法阻挡，一些研究机构站在客观角度，在评估其负面影响的同时，亦开始探索如何发挥人工智能在维护国家安全方面的应用潜力。...

随着人工智能技术和产业迅速发展，其可能带来的安全挑战开始成为政府和社会热议的焦点之一。一方面，人工智能技术拥有颠覆性能力，目前在一些细分领域已远超人类水平，加上发展应用速度过快，引发广泛担忧，如“硅谷钢铁侠”马斯克多次强调人工智能将对人类产生巨大威胁。但另一方面，人工智能融入人类社会的进程已无法阻挡，一些研究机构站在客观角度，在评估其负面影响的同时，亦开始探索如何发挥人工智能在维护国家安全方面的应用潜力。2018年7月10日，美国知名智库新美国安全中心（CNAS）发布一篇名为《人工智能与国际安全》（Artificial Intelligence and International Security）的报告。该报告较为全面地分析了人工智能对网络、信息、经济和金融、国防、国土和全球安全等诸多安全领域产生的直接或间接影响，并且与CNAS此前发布的《人工智能：每个决策者都需要知道什么》组成“人工智能与安全”系列报告。更为重要的是，本报告从另一个角度出发，针对政府如何利用人工智能维护国家安全，提出了切实可行的行动建议。

人工智能对国家安全的影响正逐渐明晰

就目前情况看，人工智能对网络安全、信息安全、经济和金融安全、国防、情报、国土安全、外交和人道主义方面有直接重大的影响，对全球安全有间接的影响。

网络安全方面。美国国防部自2016年以来即进行自主网络安全系统开发和部署，目前，该系统已实现网络安全漏洞的自动识别和修复，并可对对手发起攻击。未来，人工智能网络监控、网络漏洞识别和攻击、网络防护和软件验证、个性化社交网络攻击等技术和手段将更成熟、自动化程度更高、成本更低，且更易于被国家和非国家行为体利用。如被用于国家安全或恶意目的，将产生严重的破坏后果。信息安全方面。结合自然语言识别、心理分析模型和概率分析等，可实现信息的精准定向宣传及深度伪造等，严重影响个体选择、司法公正和国家安全。例如，剑桥分析公司利用脸书公司的大量用户数据，结合心理学分析模型，分析出用户更易于接受的内容，并向不同用户群体精准投放，影响个体的行为，形成舆论议题，辅以情感分析和内容伪造等手段，左右舆论导向，达到反恐宣传、舆论导向和助选的目的。未来，这一过程的自动化程度将更高。与此相应的人工智能打击假消息技术，如假新闻自主审查、网络内容机器人的自主检测和阻止、真实性验证等将得到重视，并将成为国家安全的重要影响因素。经济和金融安全方面。目前的监管手段难以有效监管网络洗钱和非法融资，加上去中心化的区块链技术的发展和应用，各国的经济和金融安全都存在一定程度的监管失效风险。人工智能为金融监管提供新的框架、模式和手段，将降低监管成本，提高效率，且更为注重数据和隐私保护。但这种优势也有可能被经济和金融破坏者利用，反过来对国家安全造成影响。国防方面。机器人和自主武器已经成为各国军事实力竞争的焦点之一。此外，在国防领域人工智能还可用于收集信息、反通信干扰新技术研发、网络军事对抗中制作伪装或诱饵、策略改进、指挥与控制、提供非战斗功能支援、改进军事和政府组织业务流程等。总之，人工智能可以帮助军队提高认知、预测行为、开发新的解决方案和执行任务，人工智能将战斗的行动速度提高到人类无法控制的程度可能会引发人类对战争本质的重新思考，以及法律、道德、操作和战略等问题。日前，在瑞典斯德哥尔摩举办的2018国际人工智能联合会议上，超过2000名人工智能学者共同签署《致命性自主武器宣言》宣誓不参与致命性自主武器系统（LAWS）的开发、研制工作。

情报方面。人工智能将可用于海量情报收集、大数据处理和情报分析等。兰德公司在报告中提出第二代和第三代开源情报的概念，未来人工智能技术与开源情报结合将成为国家情报竞争的重要领域。

国土安全方面。人工智能结合语音识别、图像识别和数据共享等技术，可提高国土安全管理的可靠性和效率。

外交和人道主义方面。人工智能将打破现有外交格局、并对其进行重塑，在监督选举、协助维和行动和援助资金的使用监督等发挥重要的作用。此外，人工智能还将从就业、社会与政治、宏观经济、民族主义与国际冲突等方面对国家安全造成间接的影响。多个权威机构的报告均指出未来人工智能将对就业产生巨大的冲击，可能对权力平衡和安全环境产生重大的间接影响。人工智能发展会导致社会阶层重新分配，既得利益者和新势力之间的博弈可能引发政治和社会动荡。人工智能对宏观经济的影响则较为不确定，可能的方向包括总体薪资水平均增加、两级分化加剧、国家经济水平与资源保有量成反比、人类在经济活动中重要程度下降、代际错位等。这种不确定影响可传导到社会福利和政治安全领域，进而影响国家安全。人工智能还可能引发民粹主义和民族主义的浪潮，并造成国际冲突，如贸易战和军事冲突等。

总之，人工智能将大大增强数据收集、分析和生成的能力，引发新的产业革命，更新军事能力，且人工智能的使用门槛和成本并不高，其颠覆性影响已经或将渗透到经济、军事竞争力和国家安全的方方面面，改变国家实力对比和全球经济根基，并重塑国家安全。

充分利用人工智能技术维护国家安全的建议

（一）利用人工智能检测网络漏洞，清除虚假内容，维护网络安全

利用人工智能系统检测已知网络漏洞和恶意信息，预测恶意攻击，提高网络信息防御能力。在文字类信息防御方面，人工智能系统可自动审核、检测、分析和破坏具有恶意内容的信息（虚假新闻），并阻止僵尸程序的入侵。在视图类信息防御方面，人工智能系统可融合数字分布式分类帐和机器速度传感器，实时验证图像和视频的真实性，也可帮助清除篡改数据。此外，利用区块链技术可对文件进行加密并通过对等网络进行分发，以提高信息可靠性。（二）利用人工智能系统检测非法融资，提高监测效率，维护经济金融安全

利用人工智能系统帮助政府与金融机构降低对非法融资监测的成本，提高监测效率和准确性。通过分析和学习大量数据，人工智能系统将具备异常检测和模式识别功能，可帮助系统从金融机构收集的非结构化数据中学习，实现持续监测潜在危险的能力。同时，人工智能系统还可整合有关实体和个人的可用非财务信息，利用图像识别技术和开源社交媒体信息，对客户的风险状况进行评估。此外，人工智能系统能够从原有的非法融资类型中自主学习，形成一套算法，可应用到相关类型的数据处理中，避免了隐私数据的泄露，可帮助政府和金融机构在保护企业隐私的情况下整合金融领域信息。（三）利用人工智能评估自身军事实力，为军队提供支持，维护国防安全

利用人工智能系统帮助军队提升战斗能力和非战斗支援能力。在战斗能力方面，人工智能系统可广泛收集战场信息、开展战场模拟对抗与自我对抗训练并预测战场行为，这将提升军队的战场信息理解能力，加强武器装备的电子对抗/防御能力与反应速度，并可为指挥官提供最优策略。同时，人工智能系统可将作战命令及时、精确地传递给各个作战单元，提高作战效率。在非战斗支援能力方面，人工智能可通过分析大量数据，帮助国防领导人了解自身力量，包括预测设备的维护周期、项目的开支或进度及后勤人员的身心状况等。此外，随着人工智能的不断成熟，可改变军事和其他政府组织内的传统业务流程（如会计、旅行、医药、后勤及其他行政职能），可降低运营成本，提高工作效率。（四）利用人工智能收集海量情报，借助大数据提升分析能力

利用人工智能系统加强情报收集和分析能力。在情报收集方面， 人工智能系统可在海量信息（如面部识别、生物识别技术及大型监控系统）中分析数据之间的联系，标记可疑活动，预测未来行为。同时，面对反人工智能欺骗技术的攻击，可利用改进过的人工智能系统对报告或文件进行验证，这对反情报和审讯具有重要意义。在情报分析方面，人工智能系统可大规模跟踪和分析大量数据（包括开源数据），监测异常行为，以寻找恐怖分子、秘密特工或潜在敌方军事活动的迹象。当前，随着人工智能系统的改进，还可帮助分析师分担日常任务和基础数据处理工作，使分析师能专注于常识性推理。这表示人工智能在情报分析方面也具有巨大的潜在价值。（五）利用人工智能监视人员、货物状况，维护边境及国土安全

利用人工智能系统帮助执法人员监视人员及货物状况，提升监测能力，维护边境及国土安全。在维护边境安全方面，可利用人工智能系统的语音识别算法、开源数据分析能力及深度学习能力，分析遇险信号的真伪、评估行李中的危险物品并提供综合意见，为人类决策提供准确的信息支持。在维护国土安全方面，可利用人工智能系统检查集装箱，并可与机器人和无人机相结合开展对人类异常行的监视与检测，并做出评估，为决策者提供支持。（六）利用人工智能改善外交关系和人道主义行动能力，维护稳定国际关系

利用人工智能系统改善外交关系和实施人道主义行动。在改善外交关系方面，人工智能图像识别和信息分类技术可通过监控人员和识别潜在漏洞，保障外交活动安全。同时，人工智能的语言处理算法可降低国家间的语言沟通障碍，加强国家间的沟通与了解。此外，随着人工智能系统内部理论学习的不断进步，可对政治、经济和社会趋势进行预测，为决策者提供参考建议。在实施人道主义行动方面，人工智能技术可帮助监督选举，协助维和行动，并确保财政援助不被滥用。同时，人工智能系统还可提高生产力，保障医疗保健和其他经济效益，能直接改善欠发达国家的生活质量。不仅如此，人工智能还可被用于农业种植和自然灾害预警等领域，避免发生大规模灾害。

编译丨黄广平  张嘉毅  包宏

选自丨《人工智能与国际安全》

    关注 全球技术地图