查看原文
其他

人工智能、数字权力与大国博弈

The following article is from 信息安全与通信保密杂志社 Author Cismag


苗争鸣

清华大学战略与安全研究中心助理研究员


陈嘉澍

北京邮电大学计算机学院研究生


聂正楠

清华大学战略与安全研究中心助理研究员


于   烨

清华大学中美关系研究中心助理研究员



导语


鉴于人工智能带来的潜在风险和挑战,人工智能治理已经成为全球治理新趋势和国际社会共同课题。清华大学战略与安全研究中心组织专题研究,聚焦人工智能与国际安全治理,跟踪全球人工智能安全治理新动向与重要议题领域,探讨人工智能治理的不确定风险,分析人工智能带来的数字权力竞争与博弈,以及如何共同防范和应对人工智能带来的风险挑战等。现转发部分研究成果,以飨读者。


摘要:当前,全球数字化浪潮推动数字权力兴起,引发国际权力博弈模式变化,即大国从传统地缘政治物理竞争,转向数字空间的虚拟竞争。大国将物理世界的冲突矛盾逐步延展至数字空间,且围绕数字权力展开权力竞争。研究分析大国展开数字权力博弈的竞争手段、特征以及可能出现的影响,并提出大国在竞争数字权力过程中,需要负责任地使用以人工智能为代表的数字技术,并警惕人工智能技术能力指数增长带来的反噬。


人工智能技术将影响大国力量平衡,成为大国竞相追逐的目标。当前,以人工智能为代表的数字资源冲击并革新过去结构性权力,掌握数据资源的国家会在未来竞争中获得权力优势地位。2018年10月,习近平总书记在中共中央政治局第九次集体学习上的讲话指出,“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应 ”。2017年9月,俄罗斯总统普京在讲话中指出,“人工智能是未来,不仅对俄罗斯如此,对全人类也是如此”“人工智能带来巨大机遇,但也带来了难以预测的威胁”“谁成为这个领域的领导者,谁就会成为世界的统治者”。2023年6月,美国总统拜登在美国空军学院毕业典礼的讲话中也提到,人工智能可能会“改变冲突本身的性质,超越人类思维”。人工智能技术对于美国政府来说,是这个时代最强大的技术之一,具有广泛应用价值。2023年6月,英国首相苏纳克在伦敦科技周演讲时表示,“英国要成为全球人工智能监管大本营”,要“加大投资人工智能,把握人工智能带来的机遇”。由此可见,大国都将人工智能技术视作未来实现自身国际地位的重要工具。

大国提升以人工智能技术为代表的数字技术能力,以获得在新型数字技术竞争格局中的国际地位。数字时代大国竞争超越传统的地缘政治物理边界,跨入数字世界。数字世界中依赖人工智能等技术构筑的“数字孪生”系统,将会深度融合物理世界与虚拟社会,各国在物理世界的数字化过程中,愈发强调对数字权力的争夺。而在现实世界实践层面,我们看到深度学习和自然语言处理技术结合的生成式人工智能ChatGPT带来的冲击;人工智能在经济领域具有巨大的市场价值和行业数字化变革,同时人工智能在军事领域也有广泛应用,特别是在乌克兰危机中,无人机、深度伪造等数字化和智能化技术在战场中的应用,成为各国争夺人工智能技术的动力。

1



人工智能成为数字权力重要呈现载体

人工智能将是数字权力的重要呈现载体。在人工智能技术的影响下,各种行为体的力量结构呈现出新变化,人工智能技术具有多维度改变物理世界的巨大潜力。大国追求权力具有天然属性,数字权力已成为当今权力的重要呈现形式。国际行为体权衡利益关系并开展合作与博弈,其本质是借助权力巩固和提升国际地位。大国在数字空间通过建构利于自身的国际规则获得数字权力,这种做法既是为了应对数字技术潜在的安全威胁,又是为了获取数字权力竞争背景下利益分配和体系内话语权的必然选择。

1.1 人工智能赋权国家数字能力

人工智能在数字化进程中具有赋权国家能力的属性。人工智能将会成为数字化世界重要的组成部分。数字化即数字权力的形成过程,在数字化和网络化的物理社会的形成过程中,数字权力天然具有“赋权”政府引发社会变革的能力。人工智能革命将影响国际竞争局势,人工智能技术权力作为一种“微观”权力,在实践中会被视作财富,此时技术权力将以传统权力作为载体,生成一种能够控制人类的力量,并在数字空间赋能政府提升国内治理能力和国际影响力。

1.2 人工智能在军事领域体现权力属性

人工智能技术在军事战略领域体现权力属性。数字化时代的人工技术应用,更容易打破既有稳定的均势结构,推动国际行为体内部权力分配模式变化,进而影响国际体系。在国际格局方面,人工智能可能在军事领域影响国家力量对比,扩大现有物理空间军事力量差距;在国际规范方面,人工智能或许能够改变战争形式和原则,并冲击现行法律和伦理道德 。由此可见,人工智能作为数字权力的重要代表,在军事领域应用前景广阔,能够精准评估战场风险,优化军事决策过程,成为军事现代化过程中必然依托的基础性技术。信息化和人工智能技术的结合,将会大幅提升作战现代化水平,人工智能技术带来的能力提升,将会吸引越来越多的国家参与其中。

1.3 人工智能驱动经济变革

人工智能将会成为驱动经济变革的重要力量。当前数字社会中的数字经济竞争成为大国核心力量博弈的新边疆。以ChatGPT为代表的生成式人工智能技术,开创了一个更加自动化的智能新时代,其重新定义了社会生产力,改变了商业运作模式,并颠覆了社会生产方式,已成为大国竞争的核心。人工智能作为技术领域的“催化剂”,通过优化经济发展模式,提升经济增长效率,最终促进国家经济发展,目前已成为投资的热门领域,并且具有迅速大规模产业化的潜质,能够为推动社会经济发展做出贡献。习近平总书记指出,“把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量,努力实现高质量发展 ”。由此可见,人工智能技术在工业领域的效能十分显著。

1.4 人工智能影响世界权力格局

人工智能具有影响世界权力格局的潜质。人工智能技术未来有望成为颠覆国际格局和世界体系的重要力量。人工智能会导致国际格局变化,成为催化和改变现有国际秩序的重要动力。新兴颠覆性技术正在潜移默化地改变着世界格局底层运行逻辑,对原本稳定的国家安全结构直接产生影响。在美国“去风险化”和追求“基于规则的国际秩序”以及寻求技术封锁打压中国的背景下,未来人工智能或成为驱动中美格局变化的最大变数。美国希望通过主导人工智能运行理念,维持其全球颠覆性技术霸主地位和国际影响力。数字技术能够打破过去物理世界的垄断,有望在数字时代颠覆传统的地缘格局、国际秩序和权力结构,一国的数字权力在一定程度上决定了一国在数字空间规则制定方面的能力与地位,掌握数字规则的国家,将获得数字权力优势地位。此外,人工智能成为数字时代最具代表性的权力枢纽,能够为认识未来提供更多前瞻性视角。

2



大国竞争人工智能数字权力的手段及特征

大国采取多种手段参与全球人工智能竞争。人工智能竞争包括基础设施硬件竞争和系统、算法等软件的竞争,同时还涉及人工智能规则和全球监管能力的竞争,大国投入巨资吸引和培训人工智能人才,发展人工智能技术。美国投入巨大资金在人工智能技术领域。从特朗普政府开始,美国就把确保人工智能领导地位作为首要战略目标,将人工智能竞争纳入权力竞争轨道。近期,美国政府大规模投资人工智能研发:美国国家科学基金会近期宣布拨款1.4亿美元,用于启动7个新的国家人工智能研究所,这项投资将使美国全国的研究所总数达到25个。英国在发布《国家人工智能战略》时也强调,要“投资和规划人工智能生态系统的长期需求,以继续保持英国作为科学和人工智能超级大国的领导地位”。中国也将人工智能战略写入政府工作报告中,并推动企业不断提升研究能力和市场化能力,同时加大人才培养力度。

2.1 中美在人工智能领域竞争激烈

进攻性现实主义学者约翰·米尔斯海默(John Mearsheimer)称,美国不能容忍有对手存在,其正在实施遏制政策,目标是遏制中国的技术发展。美国政府在数字空间实施竞争战略的目标是:守住美国数字权力的霸权地位,尽可能限制和延缓中国获取数字资源与权力的速度。具体而言,美国政府通过“贸易保护和技术壁垒”“经济制裁与司法干预”“政策胁迫与技术联盟”和“限制交流与技术封锁”等策略,打压中国数字技术崛起势头。美国人工智能竞争策略如下:首先,针对中国采取的是“封锁+打压”的策略。诸如采取“实体清单”与“301贸易调查”等手段,封锁技术扩展到中国,阻碍中国科技进步。其次,针对美国自身的人工智能相关技术机构和商业公司,美国政府采取资金支持、政策保护和组建人工智能产业集群的战略。最后,针对其盟国阵营,采取合纵抗衡的战术,通过对盟国的国家安全威胁、贸易利益诱导和污蔑宣传,散布中国在数字空间的所谓“威胁”,拉拢盟国加入美国组建的技术阵营中。

中国在数字空间被迫与美国展开数字权力博弈。中国积极参与数字空间规则标准的建构,维护自身数字空间宣传的主导权,同时在基础学科领域追求技术的独立自主,寻求突破“卡脖子”技术瓶颈。一方面,中国加强研究数字权力流动与转移方式,制定中国在数字空间的竞争战略;另一方面,中国目前很多核心技术和行业发展,需要借助美国的操作系统、设计软件和底层技术。要想改变这种局面,就需要中国在技术规则标准维度、技术研发突破维度、国际话语权维度和国际合作维度,出台措施以应对美国的数字权力竞争。面对美国政府在数字空间内的竞争策略,中国要重视技术标准体系的构建,在数字空间寻找发展以人工智能为代表的颠覆性技术生成路径,争取获得制定技术标准的制高点。当前,中国在人工智能领域的相关基础性研究,如芯片等技术与美国相比存在差距,但是在人工智能技术的实践和使用上具有一定竞争力。中国利用数字空间的实践优势,反哺“卡脖子”技术的基础性研发与创新活动。

2.2 大国竞争数字权力特征

当前,全球以人工智能为代表的数字权力领域的竞争,体现出以下特点。

一是大国在数字权力竞争中发挥主体性作用。大国不仅是国际关系的参与主体,也是技术革新的驱动力量。一方面,大国在新型颠覆性技术领域具有技术领先优势;另一方面,大国具有数字技术商业化应用的市场优势,能够将人工智能技术迅速规模化应用。最为重要的是,人工智能技术能够赋能国家权力并提升国家军事地位、经济实力和国际影响力,数字权力赋能国家掌握和利用信息数据以及社会技术的能力。所以,国家特别是大国对追求数字权力愈发重视,以人工智能为代表的数字权力将会在未来权力结构中占据重要位置。

二是在数字权力竞争中,突出强调人工智能主权属性的特点。人工智能技术在大国博弈的背景下,影响国家地缘博弈竞争范式。技术民粹主权主义在人工智能竞争领域愈发凸显。大国竞争数字权力时,突出表现技术的主权属性,强调技术的自主能力。由于中美两个大国在人工智能领域博弈,合作空间有限,欧洲极其希望引领人工智能规范的建构,但目前很难被中美完全认可和接受,欧洲与亚洲国家在数字权力领域也受到中美地缘治的影响,在被迫站队的同时,也在积极追求自身的数字主权。目前,美国已借助地缘政治手段,迫使其他国家停止与俄罗斯开展人工智能等相关技术合作,并试图在数字空间孤立中国,而这将最终导致大国间数字权力竞争愈发剧烈。

三是大国对人工智能军事化应用存在分歧。在军事化领域,如何使用人工智能,多大程度使用人工智能带来的权力和数字化军队技术革新,仍旧存在诸多分歧。大国希望自身尽可能多地获得数字权力,如在使用人工智能技术赋能军队现代化时,又希望制定规则和规范限制竞争对手发展军用人工智能技术。当前,人工智能技术被用来实施认知战和信息战的案例频繁出现,特别是在乌克兰危机中人工智能技术被广泛用于现代化的战争中,存在诸多争议和分歧 。

四是意识形态已融入人工智能等数字权力的竞争中。数字时代的数字权力竞争如同地缘政治竞争一样,也难以逃脱意识形态竞争。人工智能技术竞争被嵌入意识形态色彩。美国试图通过制裁来遏制中国发展人工智能,特别是美国主导的民主峰会提出的所谓“增进数字民主倡议”,指出“使人工智能等新兴技术与尊重民主原则、人权和基本自由保持一致”,其意图借助“民主”的幌子,实现所谓“美国和其他民主国家共同努力,确保数字技术生态系统符合美式民主原则”,美国希望意识形态化数字权力的意图不言而喻。

3



大国争夺人工智能数字权力的影响 

人工智能技术能够巩固大国的国内和国际地位,有助于其形成绝对的颠覆性技术统治地位。然而,人工智能数字权力的竞争在有效获取数字权力的同时,也会引发消极影响。

首先,滥用以人工智能为代表的数字权力。行为体对人工智能权力的非法使用,可能会出现借助人工智能奴役社会,服务自身霸权的行径。例如,有些国家意图借助技术构筑所谓的“民主同盟”,意图借助数字权力在数字空间形成知识垄断,并在全球范围内塑造认知模式,影响价值观念和改变行为模式。以人工智能为代表的数字权力竞争将持续激烈和愈发充满不确定性。

其次,大国围绕以人工智能为代表的数字权力竞争可能会使得人类丧失主体地位。技术自身发展具有不确定性,因此无法预测人工智能产生的数字权力是否会衍生出独立于主权国家之外的权力模式,即人工智能技术脱离人类自身控制。具体而言,人工智能等颠覆性技术具备重塑利益格局的能力,其所带来的可观收益会促使大国在竞争数字权力的过程中,尤其是在技术自主生成和演化发展过程中丧失对技术的控制。事实上,人工智能所附加给国家的权力隶属网络权力,一旦人工智能权力脱缰(即网络权力主体不是大国,而是变成人工智能本身),数字空间的国家行为体就会成为技术附属或被技术奴役,这将对人类社会造成无法预估的危害。此类言论并非危言耸听,一些学者和人工智能专家,已经发出人类在技术领域需要警惕技术的警告。OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)表示,“超级智能”变得比世界上任何技术都更强大,人工智能可能在10 年内在大多数领域超越人类 。

最后,地缘政治竞争将导致人工智能竞争或超越人类控制范畴能力。联合国秘书长安东尼奥·古特雷斯(António Guterres)在第 76 届联大会议上发言称,“世界将会分化为两种人工智能竞争格局”“世界正朝着两套不同技术规则,两种不同的人工智能发展方式,以及最终按照两种不同的军事和地缘政治战略发展”“前景远比冷战更难预测”。人类社会很难达成类似限制人工智能技术发展的协议与框架,科技公司忙于技术竞争,追求高效率的革命性人工智能产品;政府忙于在军事现代化过程中部署反应更加快捷的智能技术,提升武器设备的自主防御攻击能力。这就导致人工智能技术发展陷入“安全困境”,科技公司和国家行为体之间很难达成具体可行性、规范性的协议,最终造成技术演变成为具有自我更新和演化能力的技术迭代范式,这将突破人工智能技术发展的“奇点”——人工智能技术在科技公司追求利润和政府追求强大安全能力的“安全困境”中,不断螺旋式发展,最终可能具备自主编辑、生成和运行代码的能力。

4



结 语

人工智能权力成为数字时代权力的主要呈现形式。人工智能作为新兴颠覆性技术,中美对相关技术规则的竞争不断升温。但部分科技企业和科研人员认为,中美作为拥有数字权力最重要的大国,具备阻止大国人工智能军备竞赛的能力,且能够帮助建立国际规则和标准。所以,大国数字时代竞争以人工智能为代表的数字权力,最为重要的是要保持国际合作,以可核查的方式推动建立能够提高人工智能技术的透明度和知识共享的机制。大国在数字时代争夺数字权力及强调数字主权的过程中,要警惕人工智能技术自主性生成权力主体的问题。人工智能过度应用过程中的风险是无法预测的,要避免因无序竞争而导致的技术风险外溢,人工智能成为数字权力的主体,反噬人类社会,人类社会面临被硅基生物取代等风险。

中美在数字空间的竞争要防止技术异化风险。弗朗西斯·福山(Francis Fukuyama)认为,人类依赖技术本身是现代文明的脆弱点 。中美竞争以人工智能为代表的数字权力,需警惕技术能力指数增长带来的反噬,技术奇点到来后对现存社会伦理规范、经济和法律制度乃至国际秩序的潜在颠覆性冲击,是人类面临的潜在威胁。人类对技术风险的评估,远低于其实际的风险,人类总是倾向于高估自身掌控技术的能力,认为以人工智能为代表的颠覆性技术依旧在人类掌控中,但当我们已经意识到大国技术竞争异化带来威胁时,可能为时已晚。从最初强调对技术的掌控,到随着技术工具智能化应用,人类对技术的依赖和黏性越来越大,转向被技术掌控的趋势愈发明显,在数字技术时代需要强调负责任地使用人工智能技术,服务人类更加美好的明天 。


文刊载于《信息安全与通信保密》2023年第8期(为便于排版,已省去原文参考文献)

向上滑动阅览


相关阅读


苗争鸣: AUKUS security partnership won't bring security

苗争鸣:网络赋权北约亚太扩张演进路径及其影响











继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存