AI加速年代，谁会是降临派？

本文来自微信公众号：观察者时刻（ID：ai2024lee），作者：忒修斯，头图来自：视觉中国

2015年1月，某个星期天的下午。未来生命研究所在加勒比海的小岛上，举行了一场神秘的会议。

当时的天气不算太好，厚厚的云层快要压到头顶。由于会议高度保密，媒体记者被禁止参加，参会者也不许私下公开看法，这增添了不少神秘色彩。

会议结束前，风头正盛的马斯克压轴登场，大手一挥，宣布捐赠1000万美元。

后来，这场会议被称为波黎多各会议”。参会者都是AI领域的研究者和企业家。他们在讨论智力爆炸”问题，以及这事对人类的威胁。马斯克捐款，就是为了对抗邪恶的AI”。

乍一听，有些吓人。

AI加速年代

波黎多各会议”那一年，没有阿尔法狗，更没有ChatGPT，人工智能还处在寒冬期的末尾。这时候讨论人工智能暴走失控，多少显得有些不合时宜。

不过，事情很快就要出现转机。

这年底，马斯克拉着自己的小伙伴彼得·泰尔，以及还在硅谷YC当总裁的奥特曼，一起创立了OpenAI。

马斯克承诺拿出十亿美元，监控人工智能技术发展，避免人类浩劫。

可能对大部分普通人来说，我们频繁听到、看到AI，是因为ChatGPT的出现。可以看看谷歌搜索指数：过去10年的大部分时间里，人们对AI的关注度都极其平缓。直到ChatGPT的出现，才掀起了新一波讨论。

但和普通人感知不同的是，这波AI浪潮来临，其实要稍早几年。

2015年的会议结束后，开始有大量的资本疯狂涌入人工智能领域。短短5年内，发生在AI公司身上的投资量，几乎翻了6倍多。这其中，风险投资和合并收购激增。

2024年，这个数字达到了顶峰，3374亿美元——这几乎是8年前的20倍。如我们所知的那样，钱来自也流向少数玩家。（当然你会发现，2024年似乎已经成为一个新的拐点。此后多项数据都在下降。这是另外一个问题，以后会谈到。）

在这段时间里，人工智能技术的发展也迎来了几个里程碑。AlphaGo战胜人类、Transformer诞生、ChatGPT出世……这些事情，都发生在过去10年里。同时，AI领域的专利数量也出现激增。

2012年，辛顿团队的新神经算法AlexNet，夺得了ImageNet图像识别的冠军。

参与这个项目的辛顿学生，一个去了OpenAI，成为ChatGPT背后的那个男人；一个加入谷歌，后来选择隐退。

AlexNet震惊了业界，促使了深度学习的爆发，为这波AI浪潮积蓄了力量。AlexNet仅仅用了4颗英伟达GPU，就实现了84%的准确率。而谷歌达成类似的效果，用了16000颗CPU。

英伟达和它的GPU，自此隆重登上历史舞台。

过去10年，人工智能进入了加速年代，还有一个表现是：各种大模型你追我赶，并实现了极其夸张的参数量。现在的AI大模型，动辄万亿参数已经不稀奇了。

2024年，用于训练Minerva的计算能力，几乎是10年前AlexNet的600万倍。若和1950年香农的忒修斯”相比，这个数字大概是：600000000000000000000000倍（有23个零）。

下面这张图显示了过去80年里，人工智能训练量的惊人增长。其中，1petaFLOP等于每秒进行1千万亿次的数学运算。如果一台计算机每秒执行1次计算，那么1petaFLOP需要这台计算机不停计算3170万年。??????????

普通人象限和行动者象限

2015年，除了波黎多各会议”，还有两个中年男人吵了一架。

想象一下：两个中年男人，在酒足饭饱后，借着醉意谈天说地。偶然间，他们聊到了AI。一个人说，AI最终会取代人类，另一个人摇头说：坚决不会！

如果你在旁边，可能会觉得无聊——当时蹩脚的Siri比现在还蹩脚，取代人类岂不是天方夜谭？

但这两个无聊的中年男人，一个是马斯克，一个是拉里·佩奇。这两人有一个共同点：手里有亿点钱，而且都比较自负。

那场酒局后，马斯克和佩奇几乎反目成仇，并各自走上了不同的道路：马斯克和奥特曼等人创立了OpenAI，并发誓不能让AI掌握在佩奇这样的人手中；佩奇手握谷歌，开启了扫货模式，大举并购大量AI公司。

两个中年人赌气，却共同推高了AI浪潮。这恰如阿西莫夫在《神们自己》中所说：历史往往就是由这些讨厌而且毫无目的冲突推动的。”

在这波人工智能浪潮中，还随处可见当年波黎多各会议”参会者的身影。

Skype联合创始人贾安·塔林投资了Anthropic等一众AI公司。哈萨比斯领导的Deepmind团队，被谷歌收购后，搞出来的AlphaGo让人类颜面扫地。后来，又帮助谷歌推出了大模型Gemini……

人工智能发展飞快，讨论人工智能的风险也变得时髦。《名利场》曾报道，一名投资人曾在见完哈萨比斯后说，他应该当场击毙后者，因为这可能是拯救人类的最后机会。

然而，说这话时他刚刚投资了DeepMind。这种危险的诱惑，几乎是这个时代AI发展的一个注脚。

发现没有？号召保卫人类和加速AI发展的，其实是同一批人。虽然马斯克和佩奇反目，但他们做的事情却没有太大差异。

如果像马斯克所说，危险真的在路上，那么谁是降临派，谁是拯救派，真的很难分清。

是的，你会发现，这些人几乎都混杂在一起。尽管有着相互冲突的观点，却着手做着相似的事情。

未来生命研究所的创始人麦克斯·泰格马克，根据每个人对AI的信念，画了一个坐标系。在这张图里，你也可以看看自己属于哪个阵营：

（阴影部分是行动者象限，其余为普通人象限）

早在2017年泰格马克写书时，相信AGI（人类水平的AI）很快到来的人，还几乎没有。但如今，这个阵营里的人越来越多（对应上图中的阴影部分）。正是他们的存在，加速了AI的发展。

在很长一段时间里，对于AGI的到来，人们说还有几百年，或者永远不会到来。但现在，他们说就这几年了。短短两年时间，普通人的认知也发生了极大的改变。

（这是一项来自metaculus网站的民众投票。数据显示，2024年时人们预测AGI会在2042年实现，而2024年时这个数据提前至2027年）

推动事情变化的人，位于行动者象限”。这个象限里的人，要么掌握技术，要么掌握资本。他们是AI时代里的关键少数。

从下面这个十分简略的图还可以发现：行动者象限中，掌握资本的人，更倾向于宣扬AGI是好事；而掌握技术的人，往往更多谈论威胁，对技术具有更多的敬畏。

这些分布在对角线上的人，有些曾经在同一阵营。例如技术大佬辛顿，在谷歌待了10年；又如他的学生伊利亚·苏茨克维，曾经是OpenAI的技术负责人。

但后来他们都离开，原因基本一样：在AI安全问题上，和老板冲突了。

这个象限中，还有一些隐藏起来的人。比如重金投资AI的微软和亚马逊，他们的CEO们，都不曾公开表达对AI威胁的看法。苹果则更加低调，既不炫技，也不张扬。

中国的创业者不怎么谈理想、拯救，也不习惯谈论自己的观点，他们更热衷于应用落地和商业变现。

但不管观点如何，他们都成为了颠覆者，都在亲手创造AI加速时代。尽管未来如此不确定，但不妨碍他们的行动。就像我们回过头来看，波黎多各会议”反而成了先兆。

这符合每一个成功人士的特征——在高度不确定性中追求卓越。而普通人，只能是颠覆”这个词的被动形式。

方向掌握在少数人手中。

注：下文附上行动者象限和普通人象限的简要阐释。当然，这只是一个粗略的划分，例如在普通人象限中，也存在很多科学家和研究者。

行动者：抑或技术狂人

他们不知道未来是好是坏，却迫切地加速世界的变化。从某种意义上来说，现在许多AI的弄潮儿们，都有投机的成分。因为研究者们发明了聪明的AI，却不知道他们的智慧从何而来。资本家们更管不着这些，迫不及待地推向市场。

2016年，马斯克曾赢了卢德分子奖，他一度以小心谨慎闻名。但去年，他再也按捺不住，加入了这场AGI的竞赛之中。

代表人物：马斯克、奥特曼（OpenAI）。

卢德分子：怪物真会吃人

从工业革命以来，卢德分子被精英们认为是愚昧的象征。在这个狂飙的年代里，反抗AI更是不合时宜。不过，当代卢德分子手中的大锤，砸不动计算机，更砸不动AI。

许多人，只是用自己微弱的力量抵抗。他们不是先知先觉者，只是守护自己手中的饭碗。

代表人物：暂无

AI有益论：工具可好可坏

这是一种最主流的观点，也最符合人性——许久以来，人类始终认为技术就是工具，关键在于为我所用。因此，这种观点最受普通人的欢迎。在这群人看来，需要考虑的问题是如何建造对人类有益的人工智能，而非耸人听闻或只顾埋头向前。

不过，这种居中的观点，几乎为所有人的观点提供了支撑。尤其是在资本市场，这个故事最讨人欢喜。所以，你会发现一个AI有益论者，可以和除卢德份子以外的任何人，站在一起。

代表人物：麦克斯·泰格马克等一众科学家，他们往往离业界较远。

数字乌托邦：未来新世界

AGI到来，那会是智力丰富且廉价的时代。恰如奥特曼所言，数字乌托邦将人工智能描述为新世界的引擎。如果我们让数字智能自由地发展，不是试着阻止或奴役它们，那么，结果一定会是好的。

但这多少有些浪费主义的色彩。最近有个新闻说，当奥特曼要用AI均贫富时，亲妹妹却无家可归，靠卖身度日。你品，你细品。

代表人物：奥特曼、佩奇（谷歌）。

怀疑论者：着眼当下

这些人认为，担心杀手机器人崛起，不如担心下火星出现人口过剩。现在的技术路径，AI毁灭人类的概率为零，末世论根本就是无稽之谈。对人工智能风险的担忧，只会引导人们对人工智能充满恶意，从而制约人工智能的发展。

代表人物：李飞飞、吴恩达等一众科学家，他们往往离业界较近。

当然，除了知道他们相信什么，还要看他们做了什么。这群AI新人”，这个时代最杰出的大脑，究竟在想什么，又在做什么？

本文来自微信公众号：观察者时刻（ID：ai2024lee），作者：忒修斯

本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.com

正在改变与想要改变世界的人，都在 虎嗅APP

谷歌AI概览多次产生错误内容后，现仅在7% 的搜索中展示

7 月 16 日消息，Search Engine Land 报道称，5 月份 AI Overview（AI 概览）刚发布时，约有 80% 的搜索结果会出现 AI 概览，而现在 AI 概览仅在 7% 的搜索中展示。

谷歌 5 月份在搜索中增加了 AI 概览功能，用户搜索问题时谷歌 AI 自动抓取网页内容生成总结，用户不需要点击每个搜索结果即可获得答案。

据此前报道，有网友在谷歌搜索寻找芝士和披萨粘不到一块”的解决办法时，谷歌 AI 提供的建议里却提到你可以把 1/8 杯的无毒胶水加到酱料里，让其更黏”。随后谷歌发布相关声明，表示会继续改进相关算法进行修正。

从 6 月开始，Reddit 和 Quora 几乎不再被谷歌 AI 概览所引用，报道称谷歌认识到这些由用户生产内容的网站是不可靠的信息来源（至少对于 AI 概述而言）。

数据显示，教育类问题中 AI 概览的出现率从 26% 下降到 13%，电子商务类 AI 概览的出现率从 26% 下降到 9%，而娱乐类问题里的 AI 概览的出现率则从 14% 下降到接近 0%。

此外研究还发现，当搜索关键词包含最佳”、是什么”、如何”、症状”时，更容易触发 AI 概述；包含Vs”、特定品牌名称、一般产品名称时，触发 AI 概述的频率则较低。