中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx

《中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx》由会员分享，可在线阅读，更多相关《中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx（36页珍藏版）》请在第一文库网上搜索。

1、目录、刖百AI大模型重构数字世界，安全问题质变时刻1二、数字社会进入新阶段，面临全新风险挑战3（一）数字化安全风险新形势：快迭代、高智能、全覆盖3（二）Al安全风险的紧迫性陡增5（三）有新技术的地方，就有新的安全风险7三、安全科技的关键技术能力及双重价值10（-）安全科技是一种伴生技术10（二）安全科技的五大趋势：零化、弹性化、匿名化、量子化和智能化 17（三）安全科技的双重价值在放大19四、未来：安全科技必将成为新型公共品33（-）“慢起飞模型”：安全科技是技术向善的集中体现33（-）政企合作是安全科技成为公共品的核心驱动力3538（三）结语B刖百Al大模型重构数字世界，安全问题质变时刻20

2、22年，全球发生数据泄露事件4,518件，数据量达到226.2亿条(FIaShPOint)。2021年，全球45%的数据泄露事件涉及个人数据(Verizon)o平均而言，只有5%的公司文件夹受到适当保护(Varonis Systems)到2025年，全球网络犯罪每年造成的损失将达到10. 5万亿美元。(Cyber security Ventures)全球约40%的人口目前处于离线状态，一旦联网，他们将很容易成为网络攻击的目 标。(Data Reportal)未来将会是深度数字化的。在过去二三十年的时间里，数字化已成为越来越清晰的 现实。不仅仅互联网，几乎所有的行业都在数字化转型，这是由现代科技

3、内在的逻辑所 决定的。只要我们仍希望凭借科技的进步，解决生活与工作中的各种问题，我们就必须 做好迎接深度数字化未来的准备。这当中至关重要的一个部分，就是面对全面数字化可 能带来的安全风险。当下，我们正站在安全风险的质变时刻。随着数字化的推进，新的深度智能开启。 何谓深度智能?深度智能的核心是人工智能技术，在大数据的基础上，人工智能将数据 建模，产生新的结论和应用，从而推开了 “万物皆可智能”的大门。随着数据爆炸式增长、 数字化基础架构错综复杂，网络攻击面的不断扩大，对应地安全风险也出现了新情况： 此前，风险造成的影响是单点的。举个例子，如今，一辆汽车的网络安全问题都不再只 影响这辆车本身，而可

4、能影响整个城市交通；此前，数字化的地图上有一些区域是“不 通行”的，如今，即使发电、供水等基础设施也深度数字化运行，风险在地图上更四通 八达。2023年Al大模型横空出世，大大推进了深度智能时代的到来，然而它对安全局面的 影响同样可能是颠覆性的。最近引起全球关注的OPenAl公司因对AI安全的不同观点而导 致的人员变动风波，很好地说明了业界对当前Al安全高风险的态度，以及它在整个深度 智能的社会中投下的令人不安的阴影。因此，站在深度数字化的转折时刻，对安全科技 的关注与投入已刻不容缓。安全科技的价值，既体现为“压舱石”，更重要是作为“助燃剂”：压舱石指的是守 住技术的安全底线，防御可能存在的风

5、险隐患，支撑和保障数字社会的稳步运行；助燃 剂是提高技术的安全上限，降低技术运行的成本，让新技术得以规模化落地，推动产业 焕发新机，让更多人从中受益。数字化为何有安全风险?其实，风险自古至今都存在，只是因为产业运营、个人生 活、国家组织的行为模式向数字化转型，风险也就相应地并轨转移。隐私数据泄露、商 业勒索、基础设施瘫痪放眼未来，有新科技的地方，就会有新的数字化安全风险， 两者是本体和阴影一样不可分割的伴生关系。我们判断，未来通用的技术有两个，一是人工智能技术，二是安全科技。人工智能 作为最具颠覆性和战略性的核心关键技术，将在各行各业数字化的基础上进一步实现智 能化，成为未来生产力的发动机；安

6、全科技将作为方向盘，始终将各种新兴科技控制在 向善的道路上。安全与人工智能并举，双方的融合创新与发展，将是我国强国战略中不 可忽视的重要助推因素。因此，这两个领域，应该成为我们最关注、投入最大的领域。过去，当人们提到安全科技时，想到的往往是防病毒软件和防火墙软件。但全球安 全科技的版图和技术工具已远远超过这些。在网络安全、系统安全之外，还有数据安全、 终端安全、人工智能安全、云安全等等，涉及众多技术门类，也包括了区块链、隐私计 算、量子计算等前沿技术。在安全风险质变时刻的当下，提高社会对于安全科技的认知、 重视与参与，非常有必要，这是本报告的核心议题。另一方面，尽管安全科技行业已有了相当的发展

7、，但仍存在多种迫切问题。尤其是 缺乏明确的生态标准来加快前沿技术的规模化落地、缺乏合理的市场化机制，政企合作 及生态联动方法来助推安全科技的发展等等。这也是本报告关注的关键问题。我们必须明确，未来，安全科技将成为社会的公共品，它不只是一套技术，也不是 企业的运营成本，而是数字社会的优先事项之一，因为最终它保护的不是若干行业、某 个业务、几段数据，而是这个社会里的每一个人，是技术真正造福于人类的可能性。我们也特别感谢中国社会科学院大学哲学院教授、中国社会科学院科学技术和社会 研究中心主任段伟文，科技部“云计算十大数据”国家重点专项课题负责人、数秦科技执 行总裁兼首席科学家崔伟，北京大学客座教授、

8、蚂蚁集团首席技术安全官韦韬，浙江工 业大学网络空间安全研究院院长宣琦等多位专家学者在本次调研中，提出了宝贵观点和 建议。数字社会进入新阶段 面临全新风险挑战（一）数字化安全风险新形势：快迭代、高智能、全覆盖（数字化安全风险来自哪里?操作者的人为失误是其中一部分，更大的来源则是第三 方攻击，也就是网络犯罪。网络犯罪，指滥用计算机或电信技术，对系统或信息进行攻击，破坏或利用网络进 行其他犯罪的行为，包括常见的盗取和交易敏感信息、针对组织机构网络设施的攻击、 网络霸凌、也包括利用暗网等技术手段销售毒品与人口贩运等。网络犯罪的规模目前有多大？根据联合国发展署2022年特别报告，2021年， 网络犯罪造

9、成的损失估计约为6万亿美元，如果以国家来衡量，那么网络犯罪是继美国 和中国之后的世界第三大经济体。同时，网络犯罪的规模自2020年以来迅速上升，亚 州成为全球受攻击最严重的地区，根据IBM X-Force威胁情报指数（2022），亚洲 在2021年遭受的攻击占全球攻击总数的26%。在北京冬奥会期间，仅两个月时间受到的 相关网络攻击共计3. 8亿起。多数人可能会对此数据感到惊讶，我们的日常生活中似乎并无相匹配的感知。一方 面，这是出于不同的统计口径，并非完全从用户体验到的纬度。另一方面，日常的感知 依赖于可靠的记录和曝光。举一个例子，当2013年底发生了有记录以来最大规模的数据 泄露事件时，直到

10、2016年9月此事件才被报告（Lee 2016） o数字化安全风险的历史与信息技术的进步保持同步，并非最新的产物。它长久以来 处于公众雷达之下，本质原因是在20世纪至21世纪初期，我国上网民众基数不高。事实上，在前互联网时代，就已经有了网络攻击，因为保护位于计算机内部的数据 也属于网络安全的范畴。到了 1987年，第一个防病毒软件产品出现。随着互联网的民用 化程度提高，越来越多的人开始上网，网络犯罪便开始有利可图，于是20世纪90年代， 网络安全风险爆发，早期那些炫技的个人黑客逐渐消失，黑客活动转向牟利驱动，形成 了如今仍在不断壮大的网络犯罪产业。到21世纪初，在美国等互联网较早普及的国家，网

11、络犯罪的规模、形式和恶性程度 都达到了新的程度。例如在一次攻击事件中，黑客获得了超过30亿用户的雅虎账户访 问权限。在2002年1月，美国记录了第一起网络犯罪谋杀案，一位罪犯通过雇佣黑客入 侵医院的计算机系统，改变了他的竞争对手病人的处方(KraUSZ Oalker, 2013) o 错误的处方最终导致一名病人死于一名无辜护士手中。近20年来，网络犯罪的规模、范围、严重程度和复杂性均呈指数级增长，且日益超 越地理边界，极大地挑战了传统司法系统应对挑战的效力。2021年2月初，一名黑客远 程访问了美国佛罗里达州一家水处理厂的计算机系统，试图将供水中的氢氧化钠含量增 加到潜在的危险水平；2022年

12、1月，当国际油价已创近7年新高时，因遭到勒索软件的攻 击，荷兰与比利时的几处港口无法完成石油装卸和转运，多艘油轮无法靠港；2022年4 月，保加利亚的国家邮政系统遭到网络攻击，导致柜台养老金发放业务被迫中断。能造成如此大的破坏，是因为网络犯罪如今是一个价值收入颇丰的“产业”，拥有 机构化的管理结构和研发预算。攻击者能够使用人工智能等高级技术工具，并持续加快 攻击生命周期，从侦察漏洞到发起攻击，仅需几天乃至几小时。这些例子清晰地表明， 数字化安全风险已经进入到快迭代、高智能、全覆盖的新阶段。在这个全新阶段，对抗安全风险已经远远不是商业机构内部的IT工作，而关乎每个 人的幸福指数和全社会的安全稳定

13、。2021年1月，美国国务院批准设立新的网络空间安 全和新兴技术局(CSET), 3 月，美国政府发布国家安全战略临时指导方针，将提 升网络安全作为美国政府首要任务，并鼓励私营部门与各级政府合作，同时加大基础设 施投入，保卫美国免受恶意网络活动侵害。我国在2021年通过了历史上第一部“国家安 全战略”国家安全战略(2021-2025年)，强调加快提升生物安全、网络安全、数 据安全、人工智能安全等领域的治理能力，将安全提升到国家战略层面，实现国家安全 战略与国民经济和社会发展规划同步。数字化安全风险的发展趋势近20年以来数字化安全风险指数级增长21世纪初期全球网络犯罪呈指数级增长，且日益 超越地

14、理边界，电信网络诈骗形势严网络犯罪规模达到新高我0世纪90年代网络安全风险爆发性程度达到新高。例如，在一次20世纪80年代随着互联网的民用化程度提高，黑客攻击事件中，超过30亿用户越来越多的人开始上网，黑客活动转向全利驱动，网络犯罪产业峻。攻击者使用人工智能等高级工具, 大大缩短了攻击生命周期。数字化安在互联网较早普及的国家，如美 国，网络犯罪的规模、形式和恶逐渐形成。但公众对此关注不高， 主要因为这一时期上网人数较少。的账户信息泄露。2002年1月，美 国记录了第一起网络犯罪谋杀案。全风险进入到快迭代、高智能、全覆 盖的新阶段。第一个防病毒软件出现在前互联网时代，就已经有了网 络攻击，因为保

15、护位于计算机内 部的数据也属于网络安全的范畴。到了 1987年，第一个防病毒软件 产品出现。 （二）Al安全风险的紧迫性陡增在2022年底AI大模型横空出世后，全球业界迅速形成共识：Al安全风险陡增，这是 全世界需要迅捷反应、共同面对的巨大挑战。人工智能安全的三大类别Al安全内生安全衍生安全外生安全 Al系统自身身技术特点、缺陷、脆 弱性而产生的安全问题。 Al算法模型、数据、环境等任一环节 都可能给系统引入脆弱性。 A1系统因其自身脆弱性被利用或不恰 当使用，引发的危及其他领域的安全 问题。社会安全：1系统因脆弱性被攻击 安全事故 L1j国家安全【二Al武器相关的军备竞赛 J人类安全一工行为体失控危及人类-1面向人工智能系统的外部网络攻击与 对抗。比如，攻击者利用人工智能技术突破 其原有能力边界，给防御带来新挑战Al安全风险目前来看主要可以分为三类：第一是内生安全。从人工智能内部视角看 人工智能系统和一般信息系统和应用一样，由软硬件系统组成，会存在技术本身的脆弱 性、对数据的依赖性等自身缺陷原因而带来的安全问题。比如人工智能过分依赖于数据 与算法，如果给数据库不断投喂带有特定价值观的数据，会对人工智能系统形成严重的 干扰，很容易就产生“数据偏见”、“观点霸权”等问题。这其中就涉及业界广泛关注的人工智能“价值对齐，与“决策