畅想“后阿尔法狗世界”：人工智能如何造就理想的未来世界

来源：中国指挥与控制学会

1

引言

自2016年阿尔法狗（Alpha Go）击败了世界上最优秀的人类围棋选手李世石后，人工智能（AI）在商业领域取得了前所未有的突破，特别是“Alpha Star”、“Open AI  Five”、“绝悟”等在即时策略游戏中击败了顶尖职业选手，其采用的策略显示出超越人类的创造力。目前，我们正处在“后阿尔法狗世界”的技术拐点中。阿尔法狗技术预示着社会、经济和政治的深刻变革，同时也伴随着危险和机遇。人工智能可以将人们从单调沉闷的劳动中解放出来，并带来物质财富。根据目前的趋势推断，到2050年，自动化将取代当前的许多工作，同时提供极大的便利。

关于AI带来的好坏影响已开展了广泛讨论，但是如何利用AI塑造一个人们愿意生活在其中的新世界这一点却鲜有提及。2018年6月19日和20日，帕迪兰德和帕迪中心在加利福尼亚州圣莫尼卡召开了关于“后阿尔法狗时代技术与值得从事的工作”的研讨会。该研讨会汇集了精心挑选的创新思想家，他们采用一种被称为“大规模推测性设计”（large-scale speculative design）的方法来描述由AI造就的理想未来世界。该研讨会初步畅想了三种不同的未来世界场景：（1）“生物圈群岛”（An Archipelago of Biospheres）——极端环境下人类的生存模式以及AI在其中的作用；（2）“后稀缺世界中的人类社会”（A Society of Augmented Humans in a Post-Scarcity World）——AI助力人类追求更有意义的生活；（3）数据成为新型“石油”（Data as the New Oil）——数据成为人类社会中最重要的资源。此外，还探讨了在这些场景中AI所发挥的作用，但是具体的技术实现暂未提及。

2

目标

本次研讨会旨在探索多个未来场景，探讨人类和人工智能的分工，以及未来人工智能技术的发展重点。与会专家将在对当前趋势充分理解的基础上，发挥想象力，在未来可能会发生的场景里思考我们希望人工智能发挥什么作用，哪些是未来值得做的工作。随着研讨的深入，未来将确定一个具体的行动方案体系，由各行各业的先驱者来引导新的想法，并采取积极的措施。

具体而言，研讨会将未来的工作作为疑问的载体，采用世界构建方法，深入探讨了后阿尔法狗世界中技术和经济的未来展望。会议确定了“工作”的含义，即与会者关注的是有意义的任务，而非为了获取某种利益而做的工作。例如，致力于气候问题，帮助改善他人健康，发现医疗突破成果，发明玩具，教育他人，表达人类精神，协助解决移民问题，或者是与当地组织一起参加志愿活动。

3

研究方法

研讨会从图1所示的场景框架开始，其中，横轴比较了技术取代现有工作的速度与创造新工作的速度。纵轴比较了技术旨在优化机器所有者财富的程度以及旨在提高全球经济中所有参与者福祉的程度。该研讨会侧重于右上象限，即技术创造新工作并提升所有人的福祉。

图1  场景框架

为了解决这些问题，研讨会采用了一种被称为“大规模推测性设计”的方法，这种方法通过一种被称为“世界构建”的方式得到了进一步发展。大规模推测性设计和世界构建不是围绕预期趋势和当务之急研究渐进式变化，而是为了拓宽创新思维，以“假如”和“为什么不”的提问来严肃地发挥天马行空的想象。

4

研究成果

整个研讨小组分成三个团队。每个团队都被要求构建自身的二级场景，这种场景本质上是推测性的，每个场景都是快速构建世界的基础。换言之，团队不是对假设的趋势进行优化，而是从大规模的“假设”着手。三个团队的成果分别代表了人工智能在未来世界中发挥作用的三种方式：第一种是人工智能代表社会进行决策（团队一——“生物圈群岛”），第二种是人工智能成为个体的延伸（团队二和他们的人工智能大师），第三种是人工智能代表机构辅助做出决策（团队三）。

4.1 团队一：“生物圈群岛”（An Archipelago of Biospheres）——极端环境下人类的生存模式以及AI在其中的作用

团队一的方法称为“命运共同体”法，他们使用一个触发事件序列来生成推测性场景，将他们的未来世界描述为“生物圈群岛”：从2010年到2040年的三十年里，气候变化的发展是毁灭性的。正常生存变得越来越成问题。世界被迫警醒过来，寻找物种生存和环境修复的解决方案。在这个描述的基础上，该团队提出一些假设，进一步描述未来世界的其他部分，其中包括AI对这一未来世界的影响。此外，该团队还探讨了以下领域：（1）与物质有关的领域：包括基础设施、视频生产、城市等；（2）与技术有关的领域和理念，如AI同时担任信用系统（碳、工作和社会信用）的分配者和管理者；（3）与人类系统相关的领域，如宪法是一个为AI平台提供信息的规则集；（4）与意识形态和身份等问题有关的领域，如身份是健康和智力追求、快乐以及目的的综合体。

4.2 团队二：“后稀缺世界中的人类社会”（A Society of Augmented Humans in a Post-Scarcity World）——AI助力人类追求更有意义的生活

后稀缺世界是指无需人力劳动和奋斗就可实现物质丰富的世界，团队二将其未来世界称为“后稀缺世界中的人类社会”。他们采用了一种更具传染性、更为彻底的方法，而不是基于全球触发事件的大型和全面的推测性场景。他们根据AI如何帮助人们在后稀缺世界中过上有意义的生活这一问题形成了“假设”主张。在这样的世界中，AI可以帮助个人以其他方式追求有意义的生活。特别是，该团队设想每个人都拥有自己的AI“大师”，AI大师的教诲、建议和伙伴关系将帮助每个人以有意义的方式成长、学习和行动。该团队对AI的第三种可能形式——即“自主AI”——不那么感兴趣。

4.3 团队三：数据成为新型“石油”（Data as the New Oil）——数据成为人类社会中最重要的资源

团队三没有采用一个触发性问题或推测性场景来构成一个初始故事。相反，他们从两个关于未来工作的首要问题开始：“我为谁工作？”（即，我负责的权力或权力结构是什么？）和“我为什么工作？”（也就是说，是什么激励我工作？）。然后他们努力解决这个世界的框架问题，试图更好地解释这两个问题并确定一个目标。在团队三的世界中，丰富资源与集权之间存在着紧张关系。人工智能有了极大的进步，但其能力仅限于可测量的数据。在这个世界上，权力是由数据定义的。个人对自己的数据享有权利，但大型机构仍然占领着强大的市场地位。

5

下一步工作

通过有目的地探索不同的未来场景，此次研讨会有助于将人类因素融入未来技术的发展。这些场景将激发人们的想象力，思考“我们希望发生的事情”，并了解可能发生的情况。研讨会的最终目标是确定一个具体行动方案体系，由各行各业的先驱者来引导新的想法和协调工作，其目标方向是一个理想的未来，而不仅仅是一个默认的未来。

在本次研讨会的基础上后续将采取两方面的行动：（1）完成世界构建演练；（2）实施定量稳健决策（RDM）工作，目的是确定和评估近期行动，从而推动实现类似于世界构建演练中所述的未来。

朱虹、钱宁摘译自互联网

2019年6月

本文来源：防务快讯

投稿邮箱：liuyali@c2.org.cn

长按下方二维码    免费订阅

C2

如何加入学会

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

近期活动：

长按下方学会二维码，关注学会微信