AI前沿专题004_AGI危险的法宝.docx

《AI前沿专题004_AGI危险的法宝.docx》由会员分享，可在线阅读，更多相关《AI前沿专题004_AGI危险的法宝.docx（6页珍藏版）》请在第一文库网上搜索。

1、AI前沿专题004_ AGI危险的法宝2月24日，OpenAI发布了一则声明，叫“对AGl及以后的规划(PIanning for AGI and beyond) ”。AGI不是我们现在用的这些科研、画画或者导航的AL而是通用人工智能 (artificial general intelligence)J,是不但至少要有人的水平,而且什么任务都可以 干的智能。AGl在以往只存在于科幻小说之中。我曾经以为我们这代人有生之年都看不到AGL但 OpenAI已经规划好了路线图。我听到一些传闻，AGI有可能在2026,甚至2025年就会到来。 OPenAl的下一代语言模型，GPT-4,已经训练完毕。现在正在

2、训练的是GPT-5,它被认为肯 定可以通过图灵测试。所以这绝对是一个历史时刻。但是请注意，OPenAl这个声明是个很特殊的文件。你从 来没见过任何一家科技公司是这样说自家技术的：整个文件的重点不是吹嘘，而是一种忧患 意识一一它忧患的既不是自家公司，也不是AGl技术，它忧患的是人类怎么接受AGI。OpenAI说：“AG1有可能给每个人带来令人难以置信的新能力；我们可以想象一个世 界，我们所有人都可以获得几乎任何认知任务的帮助，为人类的智慧和创造力提供一个巨大 的力量倍增器。”然后文件并没有继续说AGl有多厉害，而是反复强调要逐渐过渡：“让 人们、政策制定者和机构有时间了解正在发生的事情，亲自体验

3、这些系统的好处和坏处，调 整我们的经济，并将监管落实到位。”并且说它部署新模型会!比许多用户希望的更谨慎。这等于是说，通往AGl的技术已经具备，但是为了让人类有个适应过程，OpenAI正在 刻意压着，尽量慢点出。人类需要一个适应过程，这也是我们这一讲的主题。基辛格等人在AI时代这本书中 表达的也是这个意思，Al对人类有一定的危险。想象你有个特别厉害的助手，名叫龙傲天。他方方面面都比你强，你连思维都跟他不在 一个层面。你常常不理解他为什么要那样决定，但是事实证明他替你做的每一个决定都比你 自己原本想的更好。久而久之，你就习惯了，你事事都依赖他。龙傲天所有的表现都证明，他对你是忠诚的但是请问刘波，

4、你真的完全信任他吗？其实我们已经在用Al很长时间了。像淘宝、滴滴、抖音这些互联网平台都有几亿甚至 几十亿的用户，用人力管理这么多用户是不可能的，它们都在用AIo给用户推荐商品、安 排外卖骑手接单、对拥挤时段打车进行加价,包括对不当发言删帖,这些决定已经要么全部、 要么主要是Al做的。而问题随之而来。如果是某公司的某个员工的操作伤害了你的利益，你大可抗议，要求 他负责；可如果你感到受到了伤害，公司却说那是AI做的，连我们自己都不理解，你同意 吗？我们上一讲说了，现在Al的智慧是难以用人的理性解释的。为什么抖音向你推荐了这 条视频，你质问抖音，抖音自己都不知道。也许抖音设定的价值观影响了 Al的算

5、法，也许 抖音根本就不可能完全设定AI的价值观。政府和人民都要求对Al算法进行审查，可是怎么审查？这些问题都在探索之中。就在我们连简单应用都没想明白的同时，AI正在各个新领域突飞猛进。凭借AlPhaGO出 名的DeePMind已经被GoogIe收购，它在过去几年内又取得了如下成就2* 推出AIPhaStar,在星际争霸II这样一个规则复杂的、开放式的游戏环境中，打 到了最高水平；* 推出AlPhaFOId,能够预测蛋白质的形状，改写了领域内生物学的研究方式；* 医学方面，用Al识别X射线图片帮助诊断乳腺癌，把对急性肾脏损伤的诊断比主流 方法提前了 48小时，对老年人眼睛里的老年性黄斑变异做出了

6、提前好几个月的预测；* 推出两个天气预报模型，一个叫DGMR,用于预测一个地区90分钟会不会下雨，一个 叫GraPhCast,预测十天内的天气，精确度都显著高于现有的天气预报：* 它还用Al给谷歌的数据中心重新设计了一套冷却系统，能节省30%的能源等等等。这些成就的最可怕之处不是DeePMind一出手就颠覆了传统做法，而在于它们 不是集中在某个特定领域，是大杀四方：到底还有什么领域是DeePMirld不能颠覆的？这些还只是DeePMind能做的事情中的一小部分,而DeePMind只是GOogIe的一个部门。AI全面接管科研就在眼前。如果什么科研项目都能交给Al暴力破解，那人类所谓的科学精神、什

7、么创造性，又怎 么体现呢？如果Al做出来的科研结果不但人类做不出来，而且连理解都无法理解，我们又何以自 处呢？会不会被AI抢工作那些都是小事儿了。现在的大问题是AI对人类社会的统治力一一 以及可能的破坏力。华尔街搞量化交易的公司已经在用AI直接做股票交易，效果很好。可是AI交易是以高 频进行，在没有任何人意识到之前，就有可能形成一个湍流，乃至于引发市场崩溃。这是人 类交易员犯不出来的错误。美军在测试中用Al操控战斗机，表现已经超过了人类飞行员。如果你的对手用AI,你 就不得不用AI。那如果大家都用Al操控武器，乃至于进行战术级的指挥，出了事儿算谁的 呢？再进一步，根据现有的研究案例，我完全相信

8、，如果我们把司法判决权完全交给AI,社 会绝对会比现在公正。大多数人会服气，但是有些人输了官司会要求一个解释。如果Al说 只是我的算法判断你再次犯罪的概率有点高，我也说不清具体因为啥高，你能接受吗？理性人需要解释。有解释才有意义，有说法才有正义。如果没有解释，也许以后我 们都习惯于不再要求解释。我们可能会把Al的决定当做命运的安排。小李说：我没被大学录取。我的高考成绩比小王高，可是小王被录取了。一定是Al认 为我的综合素质不够高我不抱怨，因为Al自有安排！老李说：是的孩子，继续努力！我听人说了，Al爱笨小孩！你能接受这样的社会吗？AI到底是个什么东西？现阶段，它已经不是一个普通工具，而是一个法

9、宝。你需要像 修仙小说里一样，耗费巨量的资源去炼制它。据摩根斯坦利分析3,正在训练之中的GPT-5,用了 25000块英伟达最新的GPU。这 种GPU每块价值一万美元，这就是2. 5亿了。再考虑研发、电费、喂语料的费用，这不是每 家公司都玩得起的游戏。那如果将来训练AGL又要投入多少？但只要你把它训练好，你就得到了一个法宝。AI做推理不像训练那么消耗资源，但是 用的人多了也很费钱,据说ChatGPT回答一次提问消耗的算力是一次GOOgle搜索的十倍 不过有了它，你就有了一件人人想用的神兵利器。而只要AGl出来，它就不再是一个工具了。它会成为你的助理。今天出生的孩子都是Al 时代的原住民，Al将

10、是他们的保姆、老师、顾问和朋友。比如孩子要学语言，直接跟AI互 动交流比跟老师、跟家长学都会快得多、也方便得多。我们会习惯于依赖于AL我们可能会把Al给人格化，或者我们可能会认为人没有Al 好。那么再进一步，你可以想见，很多人会把Al当成神灵。Al什么都知道，Al的判断儿乎 总是比人类正确那你说人们会不会从强烈*相信*AI,变成*信仰*AI?AI可能会接管社会的道德和法律问题。你猜这像什么？这就像是中世纪的基督教。在中世纪，所有人都相信上帝和教会，有什么事儿不是自己判断，而是去教堂问神父。 那时候书籍都是昂贵的手抄本，普通人是不读书的，知识主要是通过跟神父的对话传承。是印刷术出现以后，每个人可

11、以自己读书了，直接就能获得智慧，不用迷信教会了，这 才开启了讲究理性的启蒙运动。启蒙运动对社会的改变是全方位的：封建等级制度、教会的崇高地位、王权，都不复存 在。启蒙运动孕育了一系列政治哲学家，像霍布斯、洛克、卢梭等等，通过这些人的思考, 人们才知道那个时代是怎么回事儿，以后的日子该怎么过。抛开上帝拥抱理性，启蒙运动是给普通人赋能的时代。而今天我们又开启了一个新的时代。我们发现人的理性有达不到的地方，可是Al可以 达到，AI比人强。如果人人都相信AL有什么事儿不是自己判断，而是打开ChalGPT问AI, 知识主要是通过跟Al的对话学习再考虑到Al还可以轻易地向你推荐一些最适合你吸收的内容，对你

12、进行定点宣传，你 舒舒服服地接受了这不就是神乂回来了吗？再想一步。假设很快就有公司炼制成功了 AGI,而AGl的技术特别难、炼制特别昂贵, 以至于是其他人难以模仿的。那如果这些掌握AGl的公司成立一个组织，这个组织因为可以 用AGl自行编码设计新的AGl,迭代越来越快，水平越来越高，领先优势越来越大，以至于 任何人想要接触最高智能都必须通过他们请问这是一个什么组织？这个组织难道不就是新时代的教会吗？这就是为什么基辛格等人要写书呼吁，我们不应该把什么任务都交给AI,不能让Al自 动管理社会。他们建议，任何情况下，真正的决策权应该掌握在人的手里。为了确保民主制 度，投票和选举都必须得由人来执行，人

13、的言论自由不能被Al取代或者歪曲。这也是为什么OPenAl在声明中说：“我们希望就三个关键问题进行全球对话：如何管 理这些系统，如何公平分配它们产生的利益，以及如何公平分享使用权。”通过这一讲，你会理解他们的忧患。我们正处于历史的大转折点上，这绝对是启蒙运动 级别的思想和社会转折，工业革命级别的生产和生活转折一一只是这一次转折的速度会非 常非常快。回头看，转折带来的不一定都是好事儿。启蒙运动导致过打着理性旗号的、最血腥的革 命和战争；工业革命把农业人口大规模地变成了城市人口，而马克思那个时代的工人并不是 很幸福。转折引发过各种动乱，但是最后社会还是接受了那些变化。AI又会引发什么样的 动乱？将来社会又会有什么样的变化？我们会怎样接受？基辛格等人认为，现在的关键问题一一也就是“元问题”一一是我们现在缺少Al时代 的哲学。我们需要自己的笛卡尔和康德来解释这一切