安全 创新

安全 创新

加强新兴技术治理以促进和平稳定

戴维·沙纳汉 (David Shanahan) 上校(已退役)/丹尼尔·井上亚太安全研究中心

许多技术专家预测,技术推动的进步将在下一个十年大量涌现。以全新创造性方式使用旧技术的门槛降低,已为地区合作伙伴、竞争对手和非国家行为体提供了前所未有的非对称抵消机会。他们之中,有一些因此实现了安全与发展目标,还有一些则对其大加滥用来达成邪恶目的。

当前,许多一国与多国治理机制与流程是以前形成的,那时技术治理还可以分别在特定的技术领域内加以考虑,但现在这些机制与流程已无法应对当前技术进步的节奏和相互密切关联的环境特性。我们必须不断发展这些机制和流程,不断提升不同领域间的协调协作来赢得机会,对伴随新兴技术而来的势无可免的威胁进行界定并善加应对。

在包括美国国家情报总监办公室发布的《进步的悖论》在内的诸多报告中,未来预言家对诸如信息、人工智能 (AI)、能源、材料制造、生物技术和先进人类健康等领域的无数进展进行了详细介绍。正如世界经济论坛的克劳斯·施瓦布 (Klaus Schwab) 在其著作《第四次工业革命》中所描述那样,技术将越来越趋向融合,物理、数字和生物领域间的界限将变得模糊。

美国国防高级研究计划局 (DARPA) 正在开发新的机器,这些机器可利用来自新情况的信息来提高性能和可靠性。 [美国国防高级研究计划局]

关于这些进步有望带来的极富吸引力的美好世界,奇点大学联合创始人彼得·戴曼迪斯 (Peter Diamandis) 等技术型企业家曾作过大量的描述。戴曼迪斯曾为 SpaceX 以及特斯拉公司的创办者伊隆·马斯克 (Elon Musk) 提供赞助,并联合创建了 XPrize 基金会,还与他人合著了《富足:改变人类未来的 4 大力量》一书。他们描绘的世界是一个充满希望的乌托邦,在这个乌托邦中,技术满足人类需求的能力将确凿无疑地超过人类面临的问题和挑战。

对于负责确保国家和地区安全的组织和人员来说,这些美好观点的缺陷在于,它们对解决因进步而产生或加剧的潜在问题和麻烦而言,几乎没有提供任何慰藉或是洞见。

颠覆性技术带来的挑战

从楔子到智能手机,技术一直推动并颠覆着整个人类历史。当前技术革命的特点在于,其许多元素从出现到产生普遍影响都极为迅速,这也是当前时代与以往不同的新奇之处。

正如已有 52 年历史的摩尔定律所表述的那样,单位成本计算能力的指数增长一直是创新步伐的一个关键加速剂。不过,若从增长曲线的拐点看出去,则过去的指数增长会显得较为平缓,未来则是日益陡峭。政策和治理干预产生效果的机会只存在于技术实现起飞之前。

预测技术何时、何地以及如何改变经济、社会结构以及安全的动态发展是一项艰巨任务,这与技术所影响的基础系统的复杂性相互呼应。这种固有的复杂性阻碍了只将技术用于限定目的上的尝试,同时意味着世人有望做到的至多便是制定公认的规则集合。这些规则集合在对边界进行限定的同时还明确了玩家应以何种方式互动。

不过,让这些规则参数得以建立的治理流程正处在压力之下,在很多情况下,不足以应对新兴技术进步所带来的要求。

随着设备、技术和程序的广泛普及和它们通过综合实现的新发现,技术的发展也不断加快,应用不断增加。许多备受期待的预言(如广泛流传的关于核聚变能量、波束武器或私人飞行器),在首次提出多年后仍未出现。因为这些预言落空,有些人开始嘲笑技术的指数增长效应观点。

然而,其他领域已显示的更具影响力的进步,早已超出哪怕最乐观专家的最初预期。这方面有不少例证,如生物技术、信息通信技术 (ICT) 以及人工智能等就呈现出了指数发展的趋势。总之,这些技术短期内将有望颠覆性地改变未来,长期上看则将对人类的角色和使命带来生死存亡的挑战。

2017 年 6 月,韩国仁济郡发现一架对导弹防御系统拍照的无人机,人们怀疑该机属于朝鲜。[美联社]

这些新兴的融合技术具有极大的潜在颠覆能力,其中突飞猛进的基因操作技术 (CRISPR) 便是一个鲜明的例子。在过去五年里,随着计算能力和基因组学的进步,基因操作技术为人类在设计和管理生命基本构件方面的能力取得惊人突破开启了大门。基因组学主要研究对象是有机体内全套遗传物质以及它们如何构建、发挥功能和发展演变。利用技术修改人类“种系基因”以预防疾病的可能性,由于红线界定不清甚至难以落实,有可能导致灾难性的“滑坡”事件。

例如,在全球范围内,特别是在西方,无视道德标准甚至现有法律实施生物黑客操作 (biohacking) 或实验性地使用基因物质的事件时有出现。然而,最近在诸如新加坡的 Biochin.Asia 以及香港的 Biohacking Asia 等组织的推动下,印太地区对生物黑客活动的热情也显著增长。这其实是生物工程领域的两用技术门槛不断降低可能引发不测后果的问题。门槛降低让不受监管或监控的业余“生物黑客”能够进入这一领域,对生命形式进行修改,甚至创造出虽能带来好处但却具有潜在致命危险的新的生命形式。至于那些坏人会用它们造成何等悲惨影响,无需想象便可预测得到。

政策趋同

信息通信技术和人工智能是颠覆性技术融合产生巨大影响的另一个例子,两者相结合可成为对几乎所有行业造成影响的重要驱动因素。日益强大的人工智能算法与大数据相结合,有望让当前世界中那些描述或预测未来系统行为的分析工作转变为对未来系统行为进行规定的工作。这种能力可轻易地以善意或恶意的方式加以使用。

例如,理查德·泰勒 (Richard Thaler) 和卡斯·桑斯坦 (Cass Sunstein) 在他们 2008 年合著的《助推:如何做出有关健康、财富与幸福的最佳决策》一书中,描述了政府如何通过“助推” (nudge) 的方式来引导公民采取更健康或更环保的行为——或是通过基于对偏见和习惯的洞察来创建一种选择框架 (而不是对不希望的行为实施监管或惩罚)来提倡希望的行为。不过,有些人可能会将这种助推行为理解为现代形式的家长制。关怀型政府可确保公民以该政府认为符合社会和国家利益的方式行事。新的商业和社交系统已开始使用大数据和人工智能来强化已有需求,而不是激发用户去探索新的想法。他们将用户引入日益定制化的封隔空间(用户在这些空间中感到舒适),很多时候是回音室式的封闭空间。这种情况令人不安。当人工智能与信息通信技术融合后,坏人和(或)幕后行为者得以助推诱导公民只接收某些信息、怀疑正确信息或相信虚假信息时,会带来何种后果?这种情形十分可怕,而国家、地区和世界事务中,每天都在上演着这样的戏码。

“今天,由于互联网和社交媒体的发展,对我们世界观的操纵正在先前难以想象的极大的时间、空间和意向尺度上发生。”兰德公司的兰德·沃兹曼 (Rand Waltzman) 2017 年 4 月 27 日在美国参议院发表了题为《信息的武器化》的证词,“我们已进入可对消息传递、叙述和说服进行大规模定制的时代。我们需要制定战略来应对一系列不断变化的或大或小的对手。”

最近选举中关于操纵的指控与反驳为我们揭示了这些挑战的广泛范围。例如,根据华盛顿大学研究人员最近的一项研究,现有的人工智能软件可以为虚假情报运动创建极为真实的图像和视频。如果不加约束,人工智能的这些发展将为敌方提供轻松操纵信息的能力来助其实现不良企图。

“深度学习”算法模型日益成为自动系统决策过程的构成主体,且这些自动系统广泛置入了汽车、金融、医疗和军事系统中。不过现在,这些模型甚至在对自身进行编程,其编程方式连构建它们的工程师都无法解释。随着人工智能愈加强大和无所不在,这种困境只会不断增加。正如从事机器学习应用研究的麻省理工学院教授汤米·雅科拉 (Tommi Jaakkola) 所说,“无论是投资决策、医疗决策还是军事决策,您都不想只是依靠‘黑匣子’方法”来说明它是如何制定的。

2017 年底,澳大利亚皇家海军分析师使用搭载于自主式水下航行器上的一套先进侧扫声纳系统,在巴布亚新几内亚沿海发现了一艘失踪近一个世纪的 800 吨潜艇。 [路透社]

这些例子中所预想的场景,以及许多其他领域正在同步经历的技术进步,颇令人望而生畏。这种破坏性的变化如此深刻,许多人从人类历史的角度认为,人类历史上从未如现在这般既充满无尽希望又面临巨大危险。这些场景也向国际社会提出挑战,让后者在鼓励人们充分利用技术带来的机会的同时,也要注意减轻其潜在的风险。然而,决策者常常陷入传统的、线性的(连续性)思维或是被眼前关切耗尽精力,无法对影响未来的颠覆与创新力量进行战略上的思考。这引发了迫切的呼吁,人们要求通过政策、流程和机制来加强能力控制技术性攻击,以确保各国能够喂养、驾驭和引导技术之骏马,将国际社会拉入通往明天的狂野之旅。这些呼吁者中,发声最响亮的也许是阿扎尔·奇亚雷曼 (Azhar Zia-ur-Rehman),他的最新著作《技术治理:概念与实践》是关于技术治理概念的公认参考书。

此外,许多有益的举措也正在出现。与其他地区组织一样,东南亚国家联盟(东盟)一直注重网络领域的技术治理,并于 2016 年发起了一个网络安全部长级会议。

最近恶意软件和勒索软件攻击的频频出现,凸显了当前迫切需要发展这种地区性会议来减轻威胁,并促进面临类似挑战的国家在地区和国际层面推出建立信任措施。不过,虽然这些论坛非常重要,但它们往往孤立地看待技术带来的挑战,没有考虑它们的复合效应所带来的系统性挑战。因此,我们需要一种更具整体性的方法。

减少风险

那么,应做些什么来让安全决策者能发现并减少未来十年中那些影响深远且高度关联的技术进步合流所带来的风险呢?最初的待办事项清单应包括以下内容:

  • 内化的前瞻性和批判性思维:使前瞻和场景思维成为安全机构的组织文化的一部分。定期进行地平线扫描 (horizon scanning),内容包括融合技术如何对战略和规划过程的某些部分造成影响。例如:使用实施技术扫描的“红队”引发伺机探究、对假设提出质疑和对风险加以识别。
  • 激发公共对话和教育:增加公共探讨的范围和质量,以便社会了解科学和技术会把我们带向何方,同时能够就相关问题开展知情辩论,如什么可取可接受、需要采取哪些防护措施,需要建立哪些机制来让我们做好准备迎接变革。政策实务家、技术专家、教育家和伦理学家需要创建新的或激活现有的合作论坛,以形成社会意识,同时通过一切必要的保证和坚持来确保新兴技术受人控制并服务于人的利益,而不是由那些不受审核的算法或恶意行为者所控制。此外,还可以把技术、道德和公民课程加入到小学教育课程中。
  • 促进国家、地区和国际技术治理:检视采取何种方法以帮助国际和地区技术治理与标准机构对趋势的长期安全影响加以塑造,这里的机构包括国际标准化组织、国际电信联盟、国际信息技术标准委员会和太平洋地区标准大会等。在现有合作论坛的内部也好,作为现有论坛的补充另起炉灶也好,可设立一些国际合作机构,专门负责框定风险和制定整体战略,以确保人工智能、地球工程、致命自主武器、合成生物学和纳米技术等新兴颠覆性技术的影响不会发展为无法控制的国家、地区或全球性安全威胁。安全专业人员需利用掌握的一切手段来参与识别国家决策者面临的新兴风险,并积极参与日益多样化的必要机构和机制来减轻这些风险。
  • 未来的劳动力开发:检视不断加速的技术、代际更替以及文化演变对未来劳动力的影响。利用创新性学习和私营部门的概念来建立新的模型,用以预测并减轻自动化取代人力后对人力劳动、认知盈余及不足带来的影响。如不对这些颠覆性过渡进行有效管理,势必会加剧不平等并促使民粹主义反弹,从而增加社会暴力和各国之间暴力冲突的可能性。

随着安全从业人员和政策制定者努力赶上治理要求的步伐,以引导技术发展并减小技术爆发式增长带来的普遍影响中蕴含的风险,未来几十年几乎可以肯定将是一段狂野之旅。人们必须创建的治理机制必须能够不断演进,足以引导(而非阻碍)新兴技术充分发挥潜力来满足人的需求。套用乔治·克莱孟梭 (George Clemenceau) 关于战争与将军的名言,我们可以说,新兴技术的使用与影响太过重要,因此不能只让技术专家(尤其是那些各自为政的技术专家)来决定。因此,安全决策者和从业人员必须积极致力于打造和利用必要的治理工具,使其成为可靠的哨兵,保护地区和世界免遭未来危险的戮害。

分享