人工智能的风险挑战、竞争与治理.docx

《人工智能的风险挑战、竞争与治理.docx》由会员分享，可在线阅读，更多相关《人工智能的风险挑战、竞争与治理.docx（21页珍藏版）》请在第一文库网上搜索。

1、人工智能的风险挑战,竞争与治理目录前言11 .认识人工智能的技术、应用和扩散风险21.1. 技术层面的数据和隐私安全风险21.2. 应用层面的人工智能军事化风险21.3. 扩散层面的人工智能滥用风险32 .人工智能发展带来竞争和监管挑战41. 1.人工智能领域的技术竞争42. 2.人工智能领域的军备竞赛52. 3.人工智能领域的监管问题6?ChatGPT的AIGC技术代表着人工智能的历史性突破7?横空出世的ChatGPT7?AIGC技术的突破7?人工智能质的飞跃9?ChatGPT预示了人工智能的未来I1?人工智能正带来一次新的工业革命11?人工智能发展是人类对自身局限挑战的最高阶段11?人工智

2、能将推动大脑和其他身体机能整合式扩展13?ChatGPT对生活的改变和人工智能对社会的冲击14?ChatGPT的不利的影响15?人工智能带来就业困境和新的社会不平等16?人工智能技术的风险18?人工智能社会的治理207.对人工智能治理的思考221. 1.加强人工智能的敏捷治理227. 2.强化多利益攸关方的治理参与238. 3.建立行之有效的国际治理机制24前言美国OPenA1公司2023年发布的生成式人工智能(AIGC)产品ChatGPT,凭借拥有高质量文本内容的输出能力，能够精确、高效地完成分析、翻译、撰写代码等工作，引发了广泛关注。大国在人工智能的赛道上已经展开了激烈的角逐，以便抢占未来

3、新兴技术的制高点和主导权。尽管此类人工智能应用能够为社会工作带来极大的帮助，但是，在这背后，人工智能技术的发展和应用所带来的安全风险同样成为国际社会关注的焦点话题。可以说，人工智能的颠覆性特征及其发展现状凸显了监管和治理的紧迫性。因此，在保障人工智能健康稳定发展的同时，更加需要认知其带来的风险，并思考人工智能治理的路径和措施。1 .认识人工智能的技术、应用和扩散风险随着人工智能技术的突飞猛进，各界对人工智能的关注度也日益提升，尤其是人工智能的颠覆性作用以及由此而来的安全风险，引发多方探讨。当前，人工智能的安全风险可以概括为技术、应用和扩散三个方面。1.1. 技术层面的数据和隐私安全风险人工智能

4、技术的进步很大程度上得益于数据挖掘技术的进步。人工智能算法的实现是通过对数据进行挖掘、训练和学习，使人工智能模型能够做出更加精准的分析和决策。然而，在数据隐私安全方面，人工智能既存在算法“黑箱”的缺陷，也存在虚假数据和数据泄露的问题。首先，算法“黑箱”是指用户可以获得人工智能提供的相应信息，而无法知晓算法内部的运转机制。因此，算法往往在用户面前是不透明的，用户也就无法确认算法机制是否存在偏见、错误及其他安全问题。其次，虚假数据容易引发人们对人工智能的担忧。训练人工智能模型的数据集来源存在虚假的可能，而这类数据会对算法造成影响，从而导致人工智能模型在开展分析和决策时得出错误的结果。再次，由于人工

5、智能需要不断地对数据进行学习，客观上意味着对数据安全提出了更高的要求。数据在政府部门、企业及第三方机构之间的存储和流动是数据安全的关键。在此过程中，网络攻击、设备毁坏、人员操作不当等都容易造成数据泄露，因此会给国家和企业带来严重的安全风险。1.2. 应用层面的人工智能军事化风险任何技术创新往往都具有“双刃剑”的特性，新技术的突破更是离不开其在军事领域的首先应用。互联网最早起源于美国的阿帕网，被率先运用于军事部门，目的是加强部门间军事信息的交流与共享。人工智能作为新的两用技术，具有显著的颠覆性特征，通过智能化的态势感知、战场情报分析、辅助决策和自主武器系统的使用，能够对战争造成非对称的影响。这种

6、鲜明的特性能够以较低的代价获得更高的收益，从而使武装力量更加推崇和依赖人工智能技术。尽管人工智能的军事化应用存在颠覆性的特征，但是它还可能引发误伤平民和非军事目标的人道主义风险、人工智能系统稳定性风险以及加剧持续冲突的战略风险。值得注意的是，即便如此，在人工智能发展的关键技术上，任何一方都不想处于受制于人的局面，故而，各方都不断加大人工智能研发投入。因此,人工智能的军事化应用或许会引发该领域的军备竞赛，具有陷入“安全困境”的风险。1.3. 扩散层面的人工智能滥用风险从目前情况看，生成式人工智能取得了较大的发展，尤其是类似ChatGPT这样的人工智能应用具有很强的便利性，可以使个人用户通过网络连

7、接接入，从而增加了不同地区用户使用该程序的数量。尽管人工智能技术的扩散会提高生产生活效率，但是，更需要注意的是这类技术被非国家行为体滥用和非法使用问题。美国智库中东媒体研究所(MEMRI)针对其国内恐怖主义威胁监测(DTTM)项目发表了报告全球新纳粹和白人至上主义者都关注人工智能一一政府予以关注的新的国家安全威胁一一其目的包括招募人员、骚扰少数群体和犯罪活动，包括黑客攻击银行、推翻政府、攻击基础设施、促进游击战和使用大规模杀伤性武器(Neo-NazisAndWhiteSupremacistsWor1dwide1ookToArtificia1Inte11igence(AI)-ANationa1S

8、ecurityThreatInTheMakingToWhichNoGovernmentIsPayingAttention-ForPurposesSuchAsRecruitmentjHarassingMinorities,AndCrimina1Activityinc1udingHackingBanks,OverthrowingGovernment1AttackingInfrastructurefPromotingGueri11aWarfare,AndUsingWMDsJo报告显示，世界各地的新纳粹分子、白人至上主义者和其他极端分子正在使用人工智能工具，达到实施犯罪活动目的。其中，报告提到，极端分

9、子会使用ChatGPT找出美国关键基础设施最容易受到攻击的位置。报告还指出，极端主义分子使用人工智能用于策划恐怖袭击，包括制造大规模杀伤性武器。就人工智能可能引发恐怖威胁方面，北约于2023年10月发布的北约人工智能战略(ArtifiCia1InteIHgenCeStrategyfOrNATO)警告，人工智能是“新兴的颠覆性技术”之一，无论是在军事上还是对民间社会，它代表来自国家和非国家行为者的新威胁。由此可见，凭借其易操作性和智能性，人工智能在不断扩散中增大了极端主义、恐怖主义的风险。2 .人工智能发展带来竞争和监管挑战当前，作为未来技术的关键节点，人工智能正引发新一轮的国际竞争。中美在人工

10、智能领域开展全面竞争；人工智能的颠覆性特征和俄乌冲突正在加速人工智能军备竞赛；人工智能的扩散加剧，黑客群体和恐怖主义分子都积极学习和使用这项新技术，使人工智能监管面临挑战。1. 1.人工智能领域的技术竞争算法、算力和数据构成了人工智能发展的三个核心要素。当前，国家间围绕人工智能技术的竞争主要围绕这三个方面。其中，中美在人工智能领域的全面竞争较为激烈。尤其是美国从算法、算力和数据方面均向中国施加压力。通过渲染人工智能的“泛安全化”概念，美国动用制裁工具打压中国的人工智能企业。美欧则在跨境数据流动方面展开持续博弈。在算法问题上，中美展开了激烈的角逐。中美两国各自均拥有众多专注于人工智能研究的大型科

11、技公司。然而，美国动用单边手段打击在此领域的中国企业。一方面，美国指控在美国国内广泛流行的中国应用程序存在算法的不透明性，要求其实现算法安全与公开透明。例如，短视频应用TikTOk因算法问题被美国多个州和社区起诉，被指控TikTOk的算法严重影响未成年人安全和公共安全。另一方面，美国以所谓的算法技术侵犯人权为由，打压中国的人工智能公司。自2019年以来，美国已多次以侵犯人权为借口对中国人工智能公司实施制裁，限制美国企业同其进行贸易和投融资活动。数据安全成为人工智能领域竞争的焦点。人工智能技术的背后是数据问题。数据的安全和流动引发了国家间博弈。在中美之间，美国认为TikTOk的数据隐私保护极不安

12、全，担心其会搜集用户的个人信息和敏感数据进并被中国方面访问。同时，美国无视其母公司字节跳动对数据本地化所做出的努力，坚持认定该应用带来的数据安全威胁。这种所谓的“担忧”使美国在TikTok问题上态度严苛，关于剥离、出售甚至是全面禁用TikTok的舆论不断。美欧也就数据跨境流动展开了博弈。欧盟向来重视立法层面的建章立制。以通用数据保护条例(GDPR)为首的数据立法体现了欧盟在数据领域的严格立场，对数据流动施加限制。美国则依据大型科技公司的市场力量，推动数据的自由流动。此外，欧盟以违反数据流动规则为由在2023年5月对美国科技巨头Meta开出了12亿欧元的天价罚单。可见，在这一问题上，双方均想掌握

13、数据流动的主导权，这也预示着美欧博弈仍将持续。芯片出口管制成为算力竞争的主要表现。高制程芯片具有更强的算力，构建了人工智能重要的物理层基础。美国围绕芯片出口管制，妄图拉开中美在人工智能领域的差距。美国在2023年10月发布出口管制新规，专门将人工智能芯片作为对华出口管制的新方向。新规则对用于人工智能领域的先进芯片、软件以及用于生产先进芯片的各种半导体制造设备的对华出口提出了前所未有的许可限制。受新规则的影响，英伟达(NVidia)等美国芯片公司无法继续向中国出其半导体产品。由此可见，在人工智能发展的方向上，美国妄图通过单边制裁的方式，遏制中国在该领域的发展，维护其自身的全球主导地位。2. 2.

14、人工智能领域的军备竞赛人工智能以其智能化的特性和改变战争规则的潜力己经吸引了一些国家或地区加大投入，以期实现该技术的军事化应用。一方面，美国等西方国家凭借技术优势积极研发人工智能的军事用途，抢占军事技术的制高点以期在未来的战争中取胜。另一方面，俄乌冲突加速了各方对人工智能武器的使用，进一步推动了人工智能领域的军备竞赛。自ChatGPT发布以来,美国已经对人工智能的军事用途给予高度关注。2023年1月，美国国防部(DOD)更新了关于开发和部署自主与半自主武器系统的指令，包括那些使用人工智能技术的武器系统。随后，美国军方在演习时开始使用生成式人工智能，帮助美军模拟应对未来可能的冲突威胁。同时，美国

15、还在呼吁公共和私营部门在维持美国人工智能领导地位方面积极发挥作用。以色列在人工智能技术军事化方面已经做好同其他全球大国角逐的准备。2023年2月，以色列国防军宣布，该部队已开始在行动中使用人工智能。此类新技术在2023年为期10天的行动中成功锁定了至少两名哈马斯指挥官。以色列国防部总干事埃亚勒扎米尔(EyaIZamir)在2023年5月表示，以色列的目标是成为“人工智能超级大国”，推进研究自主战争和简化作战决策。以色列还将在国防部内组建专门的军事机器人组织，为相关研究和开发提供更高的预算。俄乌双方在冲突中使用了具有人工智能技术的自主武器系统，加剧了冲突的烈度，也引发其他国家对人工智能武器的兴趣

16、。在冲突中，俄乌双方均投入了大量的无人机系统，在飞行、瞄准和打击方面提供了人工智能增强的自主能力。同时，俄乌冲突也成为西方国家自主武器的试验场。他们通过向俄乌冲突前线投入新研发的武器系统，得到战场使用反馈。这也表明，西方军火提供商对人工智能军事化投入将有增无减。3. 3.人工智能领域的监管问题当前，国际社会对人工智能技术的扩散缺乏有效的管控，使人工智能的扩散和滥用趋势加速。由于人工智能产品的易操作性，导致大多数人都能够较为便捷地使用这类产品，这也让犯罪分子有了可乘之机。例如，黑客和恐怖组织都可利用生成式人工智能为其开展威胁活动提供帮助。这种情况凸显对人工智能监管的缺失，尤其需要从技术层面加强对人工智能特定算法和高质量数