发布询价单
您的位置:首页 > 资讯 > 综合资讯 > 正文

美国智库Brookings:人工智能与安全困境

2019-11-26 10:38 性质:原创 作者:Mulang 来源:无人机网
免责声明:无人机网(www.youuav.com)尊重合法版权,反对侵权盗版。(凡是我网所转载之文章,文中所有文字内容和图片视频之知识产权均系原作者和机构所有。文章内容观点,与本网无关。如有需要删除,敬请来电商榷!)
编者注:人工智能将会对大国之间的安全产生什么影响?Christopher Meserole写道,在美国和中国这两个领先的人工智能生产国之间,我们已经保持了谨慎的眼光,这...


(本文译自Brookings网站!)

编者注:

人工智能(AI)将会对大国之间的安全产生什么影响?Christopher Meserole写道,在美国和中国这两个领先的人工智能生产国之间,我们已经保持了谨慎的目光,这个问题已经不是一个无聊的话题了。

机器学习和AI方面的最新突破促使人们对其国家安全应用进行了越来越产生惴惴不安的情绪和猜测。然而,大多数工作只集中在其对自主武器系统的影响上,而不是在更广泛的安全环境上。除了迈克尔·霍洛维茨和少数人的,很少有学者已经勾勒出AI会如何影响国际关系和外交政策等核心问题。如果我们要维持稳定的国际秩序,我们需要更好地了解AI是如何加剧安全困境以及如何去应对。

安全困境

自1949年国际“砖家”们首次提出安全困境以来,人们一直在猜测和试图解破安全困境。两次世界大战爆发后,国际关系学者对一个令人不安的可能性的问题感到困惑:如果即使双方都不需要战争,战争也可能爆发吗?如果一个国家不确定其竞争对手的军事意图和能力,那么该国家储存武器并建立自己的军事力量来应对这一有可能发生的问题将是合理的。竞争对手可能会采取这种预防措施作为侵略的标志,并采取实物应加以应对,从而引发进一步的军事集结并使两国走上战争之路。从本质上讲,对安全性的追求会使国家的安全性降低。

从冷兵器时代的弓箭和到热兵器时代的核武器,军事技术的重大突破自始至终加剧了安全困境的产生。新技术带来了军事能力的不确定性:每一项进步都带来了不确定性,包括使用方式。例如,在1930年代,每个主要大国都明白雷达、机械化火炮和飞机所带来的非同寻常的能力。但是没人能确切知道(至少在德国突袭波兰法国之前),它们是如何在战斗中使用的。同样,在冷战初期,美国和苏联都担心对方可能会开发比自己强大的核导弹,结果导致一场骇人听闻的核军备竞赛。

AI引入了两种不确定性的形式。还没有人确切知道在战场上将如何使用支持AI的武器,更不用说这些武器所带来的破坏力。

当今的具备AI产品不仅仅局限于现有的武器和指挥控制中心,而是自下而上地融入其中时,会发生什么?

在战术层面上,AI作为一种使能技术而带来了巨大的不确定性。AI本身并没有内置在单个武器系统中,而是内置在各种各样的武器系统和核心基础架构中。坦克、大炮、飞机、潜艇-每个版本都可以自行检测物体和目标,并据此进行机动。同样,AI也正在命令和控制中心以及后勤基础设施内进行部署。然而,尚不清楚这些创新将如何改变冲突的性质。成群的无人潜艇会对海战产生什么影响?哪支军队将最擅长整合AI进入其武器系统和战术,它将传递出多少在战场上优势?尽管人们对这些问题进行了广泛的猜测,但是答案仍然是难以捉摸的,并且在某种程度上还不能解决问题。从军事战略家的角度来看,最重要的是根本需要提出问题。竞争对手可能会以创新和出乎意料的方式使用AI武器系统的前景足以加剧现有的安全隐患。

然而,尽管人们对如何使用AI存有疑问,但最终的功能仍存在更大的不确定性。AI是算法、数据和计算能力的综合。这些因素中的每一个方面都需要顾虑,又在指数级的范围内得到了改善,这意味着我们可以在短期而非长期内相当可靠地预测AI的进度。在算法方面,随着时间的推移,转移或一次性学习的进步可以从根本上提高AI的熟练程度,甚至可以提高“常识”。在硬件方面,神经形态处理器和量子计算的进步可能会增强当今AI的能力。可以肯定的是,仍有争论有关最适合用于机器学习最常见形式的优化算法的量子计算机的适用性。然而,量子机器学习能力仍然具有巨大的前景-特别是对于有效搜索巨大的行动空间(例如,多主体的无人机群必须管理)。鉴于今天的GPU(图形处理器)在多主体强化学习方面取得的突破,令人难以想象的是美国或中国军队将如何应对明天的量子计算。(实际上,这就是为什么中国不仅要在2030年前成为AI的世界领导者,而且还要赢得量子计算竞赛的部分原因。)

对于今天的军事战略家来说,如何使用人工智能以及如何使用人工智能的不确定性构成了巨大的挑战。一方面,一个敌对国家可能会以新颖的方式使用其武器系统AI化,并获得德国曾经对闪电战所做的那种先发优势。另一方面,强国可能会自己开发更好、更强大的AI武器,并利用它获得无法克服的军事优势。任何一种前景都足以加剧现有的安全困境。

该怎么办 ?

如何解决大国争夺的“不可还原的困境”绝非易事。今天,当世界两个主要大国-中国和美国-越来越不确定对方的军事能力及其意图时,尤其如此。

幸运的是,这两种力量都可以减少AI带来的不确定性。关于AI的使用方式,每位军人都可以依靠红队和战争游戏来思考新颖和创新的策略。此外,每个人都可以公开广播新的战术功能。像去年六月举行的中国海军演习,他们指挥一个由50多架无人机组成的集群,并进行了测试,这减少了人们对其如何实际使用AI武器系统的不确定性。

更为困难的问题是如何防止AI未来发展的不确定性,并进一步破坏两国之间的安全困境。有争议的是如何生产AI。过去,大多数主要的新军事技术主要是由军方开发的,但现在AI是一种“双重用途”技术,其开发是商业驱动的,并且依赖于全球供应链。尽管以市场为导向的开发有很多优势(最显着的是,市场本身可以作为有关AI功能的重要信息来源),但它也带来了战略风险的复杂性成本。

缓解AI带来的不确定性的任何策略都需要应对这种复杂性。美国和中国在未来管理AI方面有三种一般选择:

全面合作:美国和中国可以承诺完全开放与商业AI有关的贸易,同时建立双边组织来监视其军事应用。尽管此选择将减少每个国家军事能力的不确定性,但也会增加每个国家对彼此技术转让的依赖。

全面竞争:美国和中国可以对与AI相关的硬件和软件实施严格的出口管制,并加倍扩大其在国内AI方面的工作。此举将减少每个国家对彼此技术转让的依赖。但是,完全解散全球供应链将带来巨大的经济成本。此外,由此产生的“人工智能军备竞赛”将加剧安全困境:通过取消市场作为一种信息机制,这将增加每个大国的人工智能能力的不确定性。

部分合作与竞争:美国和中国可以在选定的硬件和软件上施加出口管制,同时建立双边渠道以增加有关受影响技术的信息共享。此选项将使分散全球供应的成本降至最低,同时还限制了关键AI技术对技术转让的潜在依赖。

每个选项都不理想。全面合作是没有开始的,因为美国和中国对对方的意图过于怀疑,以至于冒着越来越多地依赖对方的风险,更不用说允许更多的技术转让给对方了。同样,完全竞争也是不可行的,因为两个国家都无法承受完全脱钩的供应链的成本,尤其是在短期内。同时,部分合作和竞争的风险可能会降低一半,特别是如果临时实施出口管制。

尽管存在部分风险,但部分合作与竞争是最糟糕的选择。挑战将是找到为什么某些双重用途技术受到限制而另一些不受限制的指导原则。一种可能性是利用AI的消费和生产之间的区别。例如,美国和中国可以在AI应用方面允许相对自由的贸易,同时对生产这些应用所需的硬件施加严格的出口限制。 例如神经形态芯片和量子计算机,它们将不可或缺。

部分合作与竞争绝不是万能药。但是,有限的AI军备竞赛要比全面的AI军备竞赛好得多,并且可以最大程度地降低中美之间更广泛的安全困境演变成实际武装冲突的风险。


网友评论
文明上网,理性发言,拒绝广告

相关资讯

关注官方微信

手机扫码看新闻