联合全域指挥控制系统能否取代人类成为机器人将军？

来源：中国指挥与控制学会

2020年8月25日，美国TomDispatch网站发布文章，评论美国联合全域指挥控制系统的发展现状及其前景，现将全文进行整理，以供读者参考。

随着新冠肺炎疫情在美国军队中扩散，大量的美国军人丧失了作战能力，另一方面，现代武器正变得越来越强大、杀伤性越来越强，种种因素作用下，美国军方开始更多地依靠机器人来进行作战行动。这种“自主武器系统”包括机器人哨兵、战场监视无人机和自主潜艇等等。迄今为止，机器人设备只是取代了常规战场上的标准武器。但是，美国防部的信心已得到极大提升，正在寻求将这一过程提升到一个全新的水平，即不仅用机器人系统取代普通士兵和武器，还可能会用机器人系统取代上将和将军。

这些系统目前仍处于开发阶段，但国防部现在正把其未来部署作为国家的当务之急。根据国防部的最新计划，参谋部的每一个组成部分都将交给传感器、计算机和软件来进行综合处理，包括作战计划、情报收集、后勤、通信和决策等等。所有这些都将被整合到一个“系统之系统”中，这个系统现在被称为联合全域指挥控制（JADC2）。最终，这些系统可能会承担目前由美国将军和高级参谋所执行的大部分功能。

原始的自动指挥控制系统

使用机器做出指挥级决策并不是一个全新的概念，早在冷战期间，由于出现了飞行时间极短的洲际弹道导弹，军事战略家和科幻作家们就开始设想一种机械系统，能够在人类丧失能力的情况下对核武器进行控制。

例如，在斯坦利·库布里克1964年的讽刺电影《奇爱博士》中，虚构的俄罗斯领导人透露，苏联安装了一台“末日机器”，一旦苏联遭到美国核武力的攻击，这台机器就会自动引爆，毁灭所有人的生命。然后，疯狂的反苏联美国空军军官试图挑起与莫斯科的战争，触发了那台机器，导致人类灭绝。事实上，由于担心可能会遭遇这样的突然袭击，苏联后来真的安装了一个名为“死亡之手”的半自动报复系统，通过检测地震波、放射线等数据判定苏联是否已经遭到核攻击，如判定遭到攻击，系统会发射特别的“广播导弹”，这种导弹上没有核弹头，但安装了一种特殊的电子设备，该设备会向全苏联境内的洲际导弹发出广播，这些洲际导弹在收到这个广播后将会自动发射。因此，当所有地面通讯系统被毁坏时这套系统仍然可以工作。一些分析人士认为，“死亡之手”的升级版本仍在运行中，这让我们置身于一个非常真实的奇异世界。

1983年的电影《战争游戏》则描绘了一台名为“战争行动计划响应”（WOPR）的超级计算机，安装在科罗拉多州的北美航空司令部总部。当主角通过黑客技术进入这台计算机，开始玩“第三次世界大战”的游戏时，计算机认为一场真正的苏联攻击正在进行，并启动了核报复反应。尽管电影情节是虚构的，但是这部电影准确地描述了美国核指挥控制和通信系统的许多方面，比如这个系统当时是高度自动化的，并且现在依然是这样。

以今天的标准来看，无论在虚构作品还是在现实中，这类装置是比较简单而原始的，仅仅只能确定核攻击是否正在进行，并下令做出灾难性的反击。现在，由于人工智能和机器学习的巨大进步，机器可以收集并评估大量的传感器数据，快速检测关键趋势和模式，并可能向作战单元发出命令，告诉他们在哪以及何时发起攻击。

时间压缩和人类的易错性

美国战略家认为，在高级指挥层用智能机器取代人类的必要性正日益凸显，因为传感器信息量呈指数级增长，而且战争速度不断加快，人类几乎已不可能跟上战场的关键进展。在未来，曾经持续数天或数周的战斗可能会在几小时甚至几分钟内爆发，战场信息将会以海量数据点的形式涌入进来，淹没参谋人员。据称，只有先进的计算机才能处理如此大量的信息，并在所需的时间内做出明智的作战决策。

这种时间压缩和传感器数据量的扩张可能发生在任何形式的战斗中，但在核战争中表现最为明显。洲际弹道导弹是核战争的主要手段，从导弹发射到爆炸之间，决策者有30分钟的时间来判断潜在攻击是真实的，抑或仅仅是错误的卫星读数（冷战期间确实发生过这种情况）。30分钟听起来不算很长时间，但是随着高超声速导弹的发展，这种判断时间可能会缩短到5分钟。在这种情况下，即使是最警觉的决策者也很难对潜在攻击的性质做出明智的判断。因此对一些人来说，自动化决策系统非常有吸引力。

一些军事分析家认为，攻击时间的压缩使美国高层领导认识到，美国现有的核指挥控制和通信系统行动不够迅速。因此，可能有必要开发一种基于人工智能的系统，这个系统装有预先确定的反应决策，能够以非常快的速度探测威胁、做出决策并指挥战略力量进行反击，这样就可以应对攻击时间压缩带来的挑战。

这种人工智能驱动的设备，本质上是更加智能的“末日机器”或“战争行动计划响应”。这种设备应被授权评估敌人的行为，然后根据“预先确定的反应决策”决定人类的命运，这自然让人感到不安。尽管如此，战略家仍然主张，无论是常规战争还是核战争，战场评估和决策都应该越来越多地交给机器去做。

美国国会研究处在2019年11月的报告中指出，由人工智能驱动的情报系统可整合并整理来自不同来源、不同地理位置的大量数据，并从中识别出模式，突出有用的信息。随着人工智能系统日益复杂化，算法也可能根据对战场的实时分析，为指挥官提供一个可行的行动方案菜单，从而更快地适应复杂事件。

这里的关键措辞是“基于战场实时分析的可行行动方案菜单”，这种说法让人觉得人类将领仍将为军队和地球做出最终的生死抉择。然而，在未来与中国和/或俄罗斯的高强度战斗中，考虑到可能的攻击时间压缩，人类可能不再有时间或有能力自己分析战场情况，而需要依赖人工智能算法进行评估。结果就是，人类指挥官只是认可机器做出的决定，并最终变得多余。

打造机器人将军

美军高级将领正在迅速开发部署联合全域指挥控制（JADC2）系统。开发工作由美国空军主导，JADC2是一个由计算机驱动的各种设备的混合体，用于从大量的传感器设备（卫星、地面雷达、电子监听站等）收集敌军的实时情报，将这些数据处理成可操作的作战信息，并向参与冲突的每一个作战单元和武器系统提供精确的攻击指令，涵盖陆海空军、海军陆战队、以及新成立的太空军和网络司令部。

JADC2究竟由哪些部分组成还不为人知，部分原因是许多组件系统仍处于保密状态，还有部分原因是很多关键技术尚处于开发阶段。空军正与洛克希德·马丁公司和其他大型国防承包商合作设计和开发该系统的关键要素。其中一个组成部分是“先进战斗管理系统”（ABMS），这是一个数据收集和分发系统，旨在为战斗机飞行员提供敌人位置的最新数据，并指导其作战行动。另一个关键的组成部分是陆军的“综合防空反导作战指挥系统”（IBCS），该系统旨在将雷达系统与防空反导发射器连接起来，为其提供精确的射击指令。未来，空军及其多个承包商还将寻求将“先进战斗管理系统”和“综合防空反导作战指挥系统”整合成一个庞大的系统网络，连接所有部队中的每个传感器、射手和指挥官，形成一个军事“物联网”。

2020年8月，美国陆军在德国进行了一次实弹火炮演习，使用了未来JADC2系统的组件（或类似部件），对联合全域作战概念进行试验。在试验的第一阶段，俄罗斯军队假定位置的卫星图像发送到陆军地面终端，一个名为“普罗米修斯”的人工智能软件程序对数据进行梳理以选择敌方目标。接下来，另一个名为“射击”的人工智能程序通过计算，得出可用的陆军武器与预定目标的最佳匹配，并将这一信息连同精确的射击坐标一起发送给陆军的“先进战场火炮战术数据系统”（AFATDS），以便立即采取行动，由人类指挥官选择是否实施决策。在演习中，人类指挥官尚有一定的时间空间进行思考，但在实际作战中，他们可能直接把一切都交给机器去做，这也正是系统设计者的意图所在。

未来，陆军计划对这项不断发展的技术进行更为雄心勃勃的试验。根据公开信息，演习将越来越复杂，涉及到卫星、装备了“先进战斗管理系统”的空军战斗机、陆军的直升机、无人机、火炮和战术车辆等。最终，所有这些将形成JADC2的基础架构，将每一个军事传感器系统与每一个作战单元和武器系统连接起来，让将军们除了袖手旁观外别无选择。

为什么机器人将军可能会出错？

鉴于现代战争的复杂性，以及未来战斗中时间压缩带来的挑战，美国战略家们强烈希望用机器人取代人类指挥官是可以理解的。理论上，机器人将军可以在短时间内处理数量惊人的信息，同时跟踪友军和敌军，并在未来战场上设计出对抗敌人行动的最佳方案。但是，有充分的理由对机器人决策者的可靠性提出质疑，进而质疑用机器人取代人类指挥官的想法。

首先，这些技术中有许多还处于初级阶段，而且几乎所有这些技术都容易出现故障，这些故障往往出人意料又难以理解。更何况，即使是先进的算法也可能被专业技术人员“欺骗”。

此外，与人类不同，人工智能决策系统缺乏评估意图或背景信息的能力。例如，敌军的突然部署是意味着即将发动攻击、还是虚张声势、抑或仅仅是部队的正常轮换？人类分析师可以借助对当前政治环境和行动者的理解，对形势进行评估。但是机器缺乏这种能力，因此可能会做出最坏的打算，发起一场本可以避免的军事行动。

决策算法会经过“训练”以适应军事情境，而这种问题会因为训练而变得更加复杂。军事决策算法可能因为过度依赖美军专业人员为训练选择的作战情境而被扭曲，因为“做最坏的打算”是这些军官的一种自然倾向，这种偏见无疑将成为决策机器人提供的“可行行动方案菜单”的一部分。

一旦被纳入决策算法，这种偏见会导致极其危险的后果，无论是未来美军在欧洲遭遇俄罗斯军队，还是在亚洲遭遇中国军队。毕竟，由于一些误解或迅速形成势头的局部事件，这种冲突随时都可能发生，例如，美国和中国军舰在台湾海域突发冲突，或者美国和俄罗斯侦察兵在波罗的海国家发生冲突事件。双方都无意引发全面冲突，而且双方领导人通常可能会通过谈判达成停火。但是现在，这些将不再仅仅是人类的冲突。在这样的事件发生后，JADC2可以探测到敌人的一些举动，系统认为这些举动对盟军构成了迫在眉睫的危险，因此立即发动了美军飞机、导弹和火炮的全面攻击，造成冲突升级，扼杀了任何通过早期谈判解决问题的机会。

如果要爆发的是核战争，这种前景就会变得非常可怕。虽然大国之间的冲突不大可能以核战争开始，但是在卷入常规冲突后，可能有一方会考虑使用核武器来避免失败。事实上，美国的军事理论一直都坚持使用所谓的战术核武器来应对苏联（现在的俄罗斯）在欧洲的大规模进攻。人们普遍认为，俄罗斯的军事理论也包含了类似的选项。在这种情况下，未来的JADC2可能会将敌方的举动误解为为发射核武器做准备，并命令美国核力量先发制人，从而引发第三次世界大战。

用机器人取代人类将军在法律和道德上引发了激烈的争论，因为大量民众的生命可能会被计算机的作战决策置于危险之中，而且不能保证美军士兵会在后续战斗中承受更少的伤亡。在投入更多资金之前，国会应该就作战决策自动化的可行性提出一些尖锐的问题。

情报评述

目前，各大国已达成共识，联合全域作战是未来应有的作战样式，但如何将这一作战概念落地还面临着许多困难。技术上，首先要解决的问题是各军种如何近乎实时地访问所需的所有数据，至少在目前，美国各军种的战术网络并不兼容。本文并没有谈及太多技术难点，而是从法律和伦理角度提出更多问题。一方面，现代战争节奏逐渐加快，战场上信息量大增，人类无法在短时间内处理所有信息，这为引入智能指挥控制系统创造了合理性。但是如何才能做到对人工智能系统合理赋权？人机之间的权力分配如何达到平衡？人工智能系统的可靠性有多高？这些问题悬而未决，同样会影响联合全域指挥控制系统的实现和部署。国际组织和各个国家应该适时制定相应的法律法规和伦理原则，以期与技术开发实现同步进展。 

如何加入学会

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

长按下方学会二维码，关注学会微信