【微读书】《人工智能颠覆未来战争》连载之二：智能化战争来了

来源：中国指挥与控制学会

编者按

      目前，人工智能技术正加速向军事领域渗透，军事智能化既面临千载难逢的发展机遇，也面临前所未有的挑战。如何加强风险研究和预判，防范重大风险，已经客观而现实地摆在我们面前。

       《人工智能颠覆未来战争》的作者石海明博士和贾珍珍博士一直从事军事理论研究，他们愿意借助学会这个平台分享他们的研究成果，对大家来说是份不可多得的福利！

      在本书中，作者从多个方面探讨了与军事用途有关的人工智能问题，包括一般意义上的理论问题、人工智能在作战应用方面的新进展、美俄等外军研发军用人工智能的新动向、科幻作品对军用人工智能的启示、军用人工智能的伦理困境等等。两位作者多年来在这方面已经有了相当的积累，本书在此基础上整理发展而成。本书所做的讨论，对帮助我们厘清人工智能发展脉络，把握人工智能发展规律，妥善处理好面临机遇与风险挑战的关系，科学选择发展路径，推动军事智能化科学稳步发展等方面，相信会有多方面的启发和参考价值。

智能战争来了

在现代战争中，人类越来越依靠人工智能对战争局势、走向实施研判。尽管信息化战争还主导着军事领域，但智能化战争的帷幕已逐渐拉开。

2017年1月1日，英国《每日快报》网站报道称，俄罗斯国防部长绍伊古在国家电视台播放的一部纪录片中透露，俄正在研制的巨无霸计算机可对战场形势进行全面而高速的分析，从而提前掌握战机。报道说，这台计算机采用南斯拉夫战争期间开发的技术，能够分析舰队所在方位和国际关系，从而就正在发展的局势以及何时应该采取军事行动向普京发出警报。绍伊古说：“这是一个开放的系统。现在，其中的模块可以添加或撤出。我们甚至还没有用到其一半的潜能。它能够让我们进行更有效、更快的情报信息处理。”报道还说，这台计算机仅仅是俄罗斯昼夜不停地运行、以分析情报和数据的秘密数字防务中心的一部分。

美军推出的“第三次抵消战略”也认为，以智能化军队、自主化装备和无人化战争为标志的军事变革风暴正在来临。为此，美国将通过发展智能化作战平台、信息系统和决策支持系统，以及定向能、高超声速、仿生、基因、纳米等新型武器，到2035年前初步建成智能化作战体系，对主要对手形成新的军事“代差”。到2050年前智能化作战体系将发展到高级阶段，作战平台、信息系统、指挥控制全面实现智能化甚至无人化，实现真正的“机器人战争”。

一、第三次革命

人工智能武器的出现，被称为战争史上继火药、核武器之后的“第三次革命”。

《参考消息》于2016年9月登载了日本军事评论家古是三春题为《世界已进入人工智能战争时代》的文章，简要分析了为什么人工智能武器被称为“第三次革命”：火药的出现是“第一次革命”，不易受个人能力左右的枪支和火炮实现实用化，军队构成更加大众化和大量化；核武器实用化是“第二次革命”，拥有核武器意味着可以进行破坏整个国家为前提的战略性对峙，拥核国家具有国际影响力。两次革命分别使此前的战争方式完全发生变化。人工智能也具有从根本上改变战争方式的潜力，由“人VS人”的战争变成“机器自主性杀人”的战争。

人工智能武器的实用化和实际运用已在眼前。在大国角逐的重要空间，表面上看似风平浪静，但各种运用尖端科技的无人化、智能化作战武器与平台已越来越多。将人工智能应用到作战上已有先例，层出不穷的武装机器人系统和应用广泛的无人机就是最明显的例子。

在非战争军事行动中，大数据技术早已广泛使用。尤其是在反恐领域，利用大数据筛查可疑分子、降低恐袭风险已经是日常反恐的重要手段。在2013年波士顿马拉松爆炸案中，恐怖分子以高压锅和背包为作案工具展开袭击。事后，有人在网上同时搜索上述两种工具，警方立即利用大数据技术捕捉相关信息，进而调查搜索者的目的，大大降低了恐袭风险。

在人工智能介入战争指挥方面，DARPA研制的“深绿”系统最为出名。五角大楼试图仿制曾战胜人类棋手的超级计算机“深蓝”，利用计算机造出一个智能化辅助系统，帮助指挥员决策，并随着作战过程不断调整和改进，使作战效能大幅提高。

二、AI可能会超越人类控制

新技术的诞生总是伴随着欣喜和担忧。将AI应用于战争也一直是争议的焦点，还有人将AI与核技术作比较：爱因斯坦年轻时劝罗斯福总统一定要在俄国之前发明出原子弹，而此后却因为对核武器毁灭性力量的担心，后半生都坚定地站在反核的队伍中。

AI用于战争也受到一些科技权威的质疑。不少专家担忧，先进的自动化武器可能会将人类视为威胁，从而危及人类生命安全。

2015年7月，在阿根廷召开的的国际人工智能联合会议上，包括著名天体物理学家霍金在内的上千位AI领域的专家学者签署声明，警告公众军事型AI竞争（military artifical intelligence arms race）的威胁，呼吁彻底禁止对“进攻性自动武器”的研发。

这封公开信里说到，AI技术的进展已经到了一个拐点，自动作战的武器系统（可能是战地机器人，也可能是具备高度战争智慧的导弹进攻系统）几年内就能在技术上实现。自主型武器不需要高价或难以得到的原料，因此可以在各处普及。如果是主要军事大国，则可以廉价批量生产。自主型武器的部署将超越人类的有效控制。也许会有更多人因此而丧生。

质疑的另一个理由，是AI技术用于战争可能产生战争伦理问题。

早在2008年，美军海军研究办公室就此发表了一份报告认为，运用于战争的自主机器人无法承担法律责任。根据1949年签署的战争人道主义《日内瓦公约》要求任何袭击需要满足“军事必须、参与战争者和非战争者差别对待、军事目标价值及其潜在附带伤害的平衡”三个条件，而当前自动武器很难做出这些主观判断。目前国际人道法律对此类技术还没有具体规定，国际社会也未明确支持一个限制或禁止此类武器系统的条约。

在无人化战争中，作战主体远离战场，无人化武器以一种“非人性化”的方式杀人，没有承担战争危险的伦理性，也没有对战争的情感体验，“隔离因素”将战争的发动者与实施者区分开来。有关战争责任的伦理问题就出现了，到底参战的自主机器人是不是战斗员？又应当承担何种战争责任？

目前机器人还无法分辨平民和士兵，当然也无法为自己的行为负责。相关战争责任的追究也成为一个十分棘手的问题。

三、“人算”VS“机算”

科学家对AI用于战争的担忧，更多地来自战争伦理层面的考虑，普通人对AI的顾虑却来自对人类自身价值的担忧：面对机算制造的战争挑战，人类还有施谋用计的空间吗？

答案是，未必。战争是一门艺术，而不是单纯的科学。纯碎程序化设计应用到战争中时，很可能会因为程序设定而产生“盲区”。

以美军使用的“人迹嗅探器”为例，这是一种悬挂在直升机、长着“鼻子”的雷达，它能记录人体的体温和气味，并借此发现丛林中隐藏的敌军。美军将这些嗅探器使用到战区时，却被对手发现了嗅探器的致命缺憾：它们能探出氨，却无法区分目标究竟是人、动物还是静止的物体。于是美军的对手沿着被废弃的小道地区悬挂上水牛的尿包，循着味道而来的B-52轰炸机，真的把废弃的小道当作敌军进行了轮番的“无效轰炸”。

这样的例子并不鲜见。以当前的人工智能水平，机器对目标和威胁的判断还相对简单初级，对临界点的判断可靠度难以保证。

军事专家李路介绍，2016年6月，英国某潜艇上的一枚三叉戟ⅡD5潜射洲际导弹误射向美国本土，情急之下英国将该情况通知美国。美得到消息后却发现，本应自动搜索、自动响应的本土反导系统却毫无反应。好在导弹并未安装核弹头，最终在美西部无人区上空自毁。“假如当时自动反应机制及时反应并运行了，则理应触发核报复机制，美国的核弹将会自动射向英国，后果将不堪设想。因此，在重大问题上机器替代人做出反击决策，可能还有较长的路要走。”

2016年4月，美国国防部副部长罗伯特·沃克在“无人驾驶”军舰“海上猎手”号（Sea）的命名仪式上发表讲话时曾专门介绍，未来可能会在“海上猎手”号上部署武器，但使用致命武器的任何操作决定必须来自人类。

大国军事较量的前沿战场

近年来，美俄等军事强国在实战中，都多次使用了带人工智能元素的装备和武器，到底如何评估这些武器的“人工智能”水准？未来还可能会有哪些突破？对此，我们认为，要评价人工智能的水平，就要先弄清楚人工智能的涵义。

一、人工智能冲击波

“人工智能”一词是由美国人约翰·麦肯锡在1956年提出的，其涵义是指依托计算机运用数学算法模仿人类智力，让机器“学会”人类的分析、推理和思维能力。根据机器模仿人类程度的深浅，人工智能可分为弱人工智能、强人工智能和超人工智能三个等级或层次。目前来看，即使是美俄等军事强国，其武器装备发展水平尽管有了一定的智能化含量或元素渗透其中，但必须要指出的是，这些其实都还只能算是弱人工智能。因为，无论是无人化武器装备，还是智能情报系统，在决策层面都仍离不开人的介入，必须有人参与其中，而非由机器完成整个任务的闭环回路。因此，我们可以肯定的说，它们都只能称为“带有人工智能元素”的武器装备或军事系统，而非真正的人工智能化武器装备或军事力量体系。

对于人工智能未来的军事应用前景，我个人还是非常乐观的，从军事发展史来看，一部人类战争史就是一部人与武器并行演进的历史，人越来越武器化，武器越来越人化，这里的人化指的就是智能化。最先进的科学技术在军事领域的应用，必将使得武器越来越越智能，未来交战双方更多地依赖人工智能进行辅助决策，直至将一些决策完全交给机器代劳，并运筹指挥机器人战士在战场上展开厮杀，而拥有更高级智慧的人却躲在远离前沿战场的幕后进行遥控指挥，或许这种“战场只见机器兵”的场景，已经不会再是科幻电影了，很快就会走入现实。今天，美军在反恐战争中实践的无人机作战，创新的无人机蜂群战术，就已经让我们隐隐地看到了这种未来战争的端倪。当然，从客观上而言，人工智能牵引的战争无人化前景，也是军事技术发展迫使未来人类不得已而做出的抉择，因为未来战争必将进一步高技术化、高毁伤化及贵族化，高强度的信息化对抗将逼近人脑信息处理的极限，高效精准杀伤也使得人的生命在战场上几无防备，挥金如土的战争也迫使对垒双方寻求替代方案。更何况，面对瞬时更新、大量集聚的战场大数据，冗长的决策过程无异于隐形的自杀，必须由效率更高的机器代替人去发挥某些军事职能。这一切就是构成了未来人工智能充分发展走上战场以后的大方向、大趋势及大未来。

二、新疆域，新竞赛

当前，面对人工智能的迅猛发展及军事应用的前景，世界主要军事强军都从人类军事发展的历史经验与人类科技发展的未来前景中，敏锐地捕捉到了一种机会，也许这种嗅觉到的机会还不太清晰、不太明朗、不太准确，但在军事领域，对科技未来的藐视就是对失败的拥抱，因此，近些年都加快了相关战略部署和研发脚步，密切追踪人工智能前沿动态，开始有侧重、分步骤、有策略地展开布局，谋求制胜未来，抢占先机。

比如，美国于2016年10月就发布了《为人工智能的未来做好准备》和《国家人工智能研究与发展战略规划》两份报告，这两份文案详细阐述了人工智能的发展现状、规划、影响及具体举措。从报告内容不难看出，美国已将人工智能置于维持其主导全球军事大国地位的科技战略核心，在其相关智库推出的“第三次抵消战略”中，人工智能也是发展的重中之重。此外，应美国情报高级研究计划署（IARPA）的要求，今年7月份，哈佛大学肯尼迪政府学院贝尔弗科学与国家事务中心也发布了《人工智能与国家安全》的报告，详细剖析了人工智能的发展对美国国家安全的巨大影响及潜在机遇，报告对美国政府有关人工智能技术的国家安全政策提出了3项目标及11项具体建议，其中就包括要维持美国的军事技术优势，国防部就必须要从军事演习、战略分析、重点投资及情报应对等多方面加强推进相关工作。

此外，在一些具体的领域，可以讲，近年来依靠全球领先的信息科技巨头企业，美国侧重于将自身在信息科技方面的优势延伸至军用领域，用信息化手段作为“倍增器”来发掘人工智能的战斗潜力。已经在进行的研发项目包括“自适应雷达对抗”、模块化先进武装机器人系统（MAARS）、陆军全球军事指挥控制系统、“海上猎手”号无人驾驶军舰，以及各种型号的尖端无人机与陆战海战机器人项目等。

俄罗斯在人工智能的军事应用领域也不甘示弱，其国防部长已经批准执行的“2025年前发展军事科学综合体构想”，同样认为人工智能系统不久将成为决胜未来战场的关键因素。在具体措施上，俄罗斯把更多的精力放在了“硬手段”的智能化改造上。已经开始的研究包括多个防务公司承担的作战机器人项目、“超级坦克”阿玛塔主战坦克项目、用于下一代战略轰炸机的人工智能导弹、无人机平台及蜂群指挥技术等。其中，“平台-M”履带式遥控作战机器人已经参加了俄罗斯东部军区特种部队和俄太平洋舰队海军陆战队举行的联合演习，可谓“小试牛刀”。毕竟，俄罗斯拥有雄厚的军事工业基础，其在人工智能军事领域的前瞻探索与布局，不容小觑。

此外，五角大楼正计划开发从更多信息源中获取大量信息的软件以代替人工数据处理，美国国防部称其为“战争算法”，这是否真能令美国在未来战争中取得更大优势？众所周知，情报是战场行动的前提，正所谓《孙子·谋攻篇》中所言：“知彼知己，百战不殆；不知彼而知己，一胜一负；不知彼，不知己，每战必殆。”信息化战争说到底对抗的是信息优势、指控优势及体系优势，“战争算法”就是从海量战场数据中获取信息、形成情报的一种新方法与新手段。可以讲，在战场传感器越来越多，无人化武器装备大量介入、人机一体化决策体系支撑的战争中，“战争算法”所扮演的角色越发重要。

在未来战争中，如果真如美国国防部所说，“战争算法”可以让人工智能学会从无人机拍摄的海量音视频信息中分析出对作战行动有价值的情报，那么这种信息优势以及由此带来的情报决策优势显然是十分巨大的。但其难点也恰恰在于，人工智能的“价值”评判能否带来真正有“价值”的情报信息。换而言之，对于资深情报人员尚属困难的情报分析，在未来战争中能否完全由人工智能代劳，这是未来“战争算法”能否改变战争的关键所在。当然，战争永远是两股活力的对抗，美国要在未来战争谋取更大优势，按照其一贯遵循的“技术制胜”军事战略思维，五角大楼必将持续加大对“战争算法”的开发与支持力度，抢占智能化军事变革的制高点。

三、战争形态变革进入临界点

普京曾说，“在未来战争中无人机将发挥重要作用”，人工智能的充分发展，到底会引发一种怎样的战争形态变革？战争形态总是伴随着战争工具的演变而演变。从人类战争形态演进的历史来看，先后经历了冷兵器战争、热兵器战争、核战争，机械化战争，到今天炙手可热的信息化战争以及正在到来的智能化战争。当然，这种战争形态的迭代不完全是线性的，在特定阶段会有不同形态的交叉。普京对无人机与未来战争的研判，反映的是当前战争走向无人化或智能化方向的一种大趋势。

展望未来，人工智能的充分发展，必将引发战争形态的根本性变革，随着人机共生时代的到来，战争自然也会“变脸”。按照技术悲观主义的看法，到那时，随着无人化武器装备主导战场，战争就进入了一种“自我异化”的战争形态。其理由是，无论战争工具怎样从石子、刀剑进化到如今信息化武器，其根本目的都是一样：消灭敌人，保存自己。而人工智能的出现则会彻底对这一目的提出挑战：敌人和自己不再直接出现在战场，双方都无法达到消灭对方的目的，一旦开战，甚至可能出现长期没有胜败的尴尬局面。战争就变成了资源消耗战，哪一方的机器人率先被消耗完，哪一方才有获胜的可能。而按照技术乐观主义的看来，当人工智能充分发展牵引战争进入智能化战争阶段或后人类战争阶段之后，战争样式领域没有太大的挑战，因为那时对垒双方的科技手段也会今非昔比，最大的挑战是战争伦理的挑战，毕竟，以往战争的“人我共识”在人退出一线战场的厮杀后已不复存在，通俗而言，机器人战争只有理智没有情感，战争伦理何去何从？这或许是人类在“恶”的方向不断演进所不得不直面的难题。

四、智能化竞赛让小国离场

有人说，人工智能领域的快速发展，必将引发新一轮军备竞赛。对此，应该冷静辩证地看。谈起“军备竞赛”，我们首先想到的可能是冷战。之前深入研究过美苏太空军备竞赛史，相对比较熟悉那段历史。应该讲，在那段特殊的岁月中，由于军事发展的特定阶段，美苏两个超级大国在多个领域展开了全面竞逐，包括核军备竞赛、太空军备竞赛等，给世人留下了极其深刻的印象，也直接影响了世界政治格局的走向。正是因为了解这段历史，所以，我们认为用“军备竞赛”这个词语来描摹当前及未来一段时期世界范围内人工智能领域的竞争，并不恰当，毕竟特定的词语有特定的含义，也打印特定时期的烙印。在今天的全球化新时期，我们描述科技领域的大国竞逐，并不需要非用一个有明显时代烙印的词语。

当然，不用“军备竞赛”这个词语来描摹人工智能领域未来的竞争，并不等于说在这一领域是风平浪静的，不存在任何竞争与较量。恰恰相反，在可以预期的较长一段历史时期，国与国之间特别是大国之间，围绕人工智能相关科技与产业的竞争将极其激烈。我经常讲，军事科技领域的较量，只有第一，没有第二，创新则生，守旧则死，一切皆因为，科技竞逐关乎国运。尤其是，在当前科技领域的较量已进入集群竞争的新时期，每一项单一技术背后都有相关科技的支撑。人工智能领域也一样，它的发展不是某项单一信息科技的问题，也涉及到生物科技、脑科学、材料科学及认知科学等领域的进展，甚至还牵涉到相关产业领域的变革。也正是从这个意义上而言，小国在这一新兴科技领域的竞争中必将面临更加严峻的形势。

从历史上看，我们知道坦克是军事技术研发集体化、体制化到来的标志，从那时起，军事科技的研发更多地已经告别了个体的发明，日益成为一种需要国家集合多方力量与资源的事业，无论是美国的“星球大战”计划，抑或我国的“两弹一星”工程，以及当前在国家层面世界各国布局的人工智能研究计划，都反应出这一变化趋势，也正是从这个意义上而言，小国在未来前沿科技的较量中，全面赶超大国的难度将越来越大，这是科技发展的时代特征所致。

《人工智能颠覆未来战争》

作者简介

      石海明：河南安阳人，博士，中校军衔，国防科技大学副教授，毕业于上海交通大学，《国防科技》杂志编委。研究领域为战略前沿技术与国家安全、科学技术与未来战争。主持国家级科研项目两项。荣立三等功一次。

      近年来，在《人民日报》《解放军报》《光明日报》《中国军事科学》等报刊发表作品200余篇。合著有《虎狼之翼》《适应者死亡》《科学、冷战与国家安全》《战争树》《制脑权》等11部，合译有《技术与国际体系变迁》《思想大战》《信息战》等作品。其中，《制脑权》一书入选中央和国家机关干部“强素质、做表率”推荐读物，获2014年度国防科技大学重大科技进展奖，获第四届全军政治理论研究优秀成果一等奖。

      曾多次受邀到全军部队观摩重大军事演习及讲课，并赴德国、捷克、匈牙利、奥利地、希腊及巴西等国访学交流。

      贾珍珍：湖南长沙人，博士，现任职于国防科技大学。先后在《解放军报》《光明日报》《科技日报》及《自然辩证法研究》《湖南大学学报》等报刊发表文章40余篇，出版《书斋内外尽穷理》1部。

扫码关注在线书城

微信下单购买本书

【微读书】《人工智能颠覆未来战争》连载之一：机器战胜人类？——AlphaGo人机对战的启示

投稿邮箱：liuyali@c2.org.cn

长按下方二维码    免费订阅

C2

如何加入学会

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

近期活动：

长按下方学会二维码，关注学会微信