Article · Original
RSI不可能无限快
听雨 发自 凹非寺
量子位 | 公众号 QbitAI
听雨 发自 凹非寺
量子位 | 公众号 QbitAI
RSI这么火，它真的能让AI的进步速度快到无限吗？
Jeff Dean的判断是：不太现实。
他举了个例子：一个人启动实验，凌晨2点实验结束，他要等到早上8点回到工位，才会查看结果。
自动化系统可以省掉这段等待，及时决定下一轮做什么。但训练、计算、保存数据、评估结果，这些步骤仍然需要时间。
要构建基座模型并提升它，仍然需要大量训练和实验， 这些过程不可能以无限快的速度完成 。
近期，在斯坦福HAI （以人为本人工智能研究院） 与李飞飞的对谈中，Jeff Dean谈到了RSI的限制，也披露了自己的新公司正在做的事情。
全程还是非常谷歌姐夫的极简PPT风……
据他介绍，新公司 Discovery Loop 已有约20个自动改进循环在运行，也搭建了支持人和Agent共同工作的协作框架。
他们想让少量专家带着大量Agent做研究，目标是把领域专家的生产力提高20到50倍。
为了搭起这支团队，前三周，他们就在咖啡馆等地方进行了400场面试。
聊到支撑这些变化的技术，Jeff Dean也承认自己有些事情看走眼了。。。
其中一件，就是编程。
在Gemini项目里，编程原本就是团队关注的方向之一。但他没有充分预见，这项能力会如此深刻地影响模型解决各种问题的能力。
他还曾期待，神经网络会长出更多奇特、不规则的结构，这条演进路线也没有完全按他的预想展开。
谈到AI做数学，他认可机器生成证明的价值，但他更看重人类能否从这些结果中理解并提炼出可以继续使用的方法。
以下为这场演讲与对谈的中文整理，经润色。
Enjoy～
Jeff Dean主题演讲：AI自己跑实验，目标是让专家生产力提高20-50倍
把实验循环自动化
很高兴今天能和大家在一起。我要介绍 Discovery Loop 。
我们的使命是构建AI系统，让它们自动解决机器学习、科学与工程领域的重要问题。
我们相信，这最终会带来更多发现，也是我们感到兴奋的地方。
很多学科都有一个共同的过程，可以称为科学与工程的通用循环：提出实验方案，实施并运行实验，观察结果，检查各项测量数据，然后决定下一步做什么。下一步往往就是再做一次实验。
我们的思路是把这些实验循环自动化。 我们相信，如果能缩短每轮迭代的时间，自动提出并运行大量实验，再从每次评估中学习，让后续实验借鉴此前的结果，同时提高实验的质量和数量，就会获得突破性的成果。
这就是我们想做的事。
看看这份美国国家工程院的重大挑战清单。这些都是21世纪需要解决的重要问题，而这个世纪已经过去了大约四分之一。
想想解决它们需要攻克哪些子问题，尤其是图中标红的那些领域，我们认为自动化发现循环能够提供帮助。
为什么成立公益公司
有一点对我们很重要，也是我们成立独立公司的部分原因：如果方法得当，技术能够给世界带来很大的积极影响，但需要大家共同努力，才能确保这种影响发生。
所以，我们将公司设立为 公益公司 ，也就是 Public Benefit Corporation 。
我们的公共使命是开发应对重要社会问题的技术，让更多人获得这些技术带来的益处，改善人们的生活。
四位创始人的经历
简单介绍一下我们四个人。我的三位联合创始人是 Sanjay Ghemawat 、 Quoc Le 和 Oriol Vinyals 。
按两两合作的关系来算，我们共事了14到30年。我们很享受一起攻克难题，也积累了不同方面的经验。
我们都来自Google，所以这里展示的工作都与Google有关。我们参与过多代搜索产品、早期广告系统、内容广告，以及Gmail、News和Translate等产品。
第二列是基础设施。上半部分的系统帮助人们组织和管理海量数据，运行大规模计算，从中获得有价值的信息。
下方四项则是多代大规模机器学习基础设施，用来训练能力越来越强的模型。我们也参与过TPU这种面向机器学习的专用硬件。
在AI研究方面，我们参与过今天许多高能力模型的重要技术，包括模型蒸馏、混合专家模型，也就是MoE，以及神经架构搜索。
神经架构搜索可以看成自动化实验循环的早期形式：寻找适合解决某类问题的神经网络架构。
我们还做过AI在不同领域的应用，其中也包括科学研究。我和Quoc参与过AlphaChip，用强化学习进行芯片设计，包括布局布线。
Oriol参与过AlphaFold和神经网络天气预测。我们在经验上有不错的互补。
我们也管理过很大的团队。我管理的Google Brain团队最多有600人，Google Research和AI团队最多有大约4400人。
后来我发现，自己在讨论第二季度运营费用的会议上花了太多时间。我按下一封邮件的发送键，把自己从管理4400人变成了只有4个汇报对象。
接下来一周，Geoff Hinton退休了，于是我只剩3个汇报对象。
再后来，Oriol和我共同担任Gemini项目的技术负责人，Quoc负责后训练。
我们也很为那些曾在团队里工作、后来做出出色成绩的人感到骄傲，其中包括Anthropic、OpenAI、Physical Intelligence等公司的创始人。Physical Intelligence在斯坦福应该挺有名。
我们的经验结合了AI研究和分布式系统。
这张图依据Google Scholar引用量列出了AI和分布式系统领域的一些高被引研究者，红框里是我们，带星号的人也都曾在我们的团队工作。
团队建设与招聘
我们在一起也很开心，一起去过很多地方。照片里有伦敦、巴塔哥尼亚、越南，还有加州。
Quoc和我有一次吃完晚饭，乘坐类似Uber的摩托车服务回住处。
公司成立后的第一个阶段，我们花了很多精力组建创始团队。大家来自不同地方，你们可以看到图上的标志。许多人有创办公司或主导重要项目的经验。
团队里有领导Go语言项目的经验，也有Gemini、DeepSeek、Kimi K3等项目的重要贡献者。Kimi K3论文的一位合著者，同时也是Attention Residuals工作的作者，最近加入了我们。
我们的团队既有经验丰富的人，也有职业生涯早期正在崛起的新星。公司大约10%的人获得过ACM计算奖，10%的人获得过IOI，也就是国际信息学奥林匹克竞赛的奖牌。
我们很期待与这些人共事，也很看重大家一起工作的能力。
为什么现在可以做这件事
为什么是现在？因为前沿模型已经有了很强的能力。这来自过去10到15年AI领域多个层面的创新。
硬件性能有了很大提升，包括TPU、GPU和其他更专用的硬件。软件抽象也改进了，人们更容易实现自己想做的事，并把计算更高效地映射到硬件上。
模型架构也在演进，例如word2vec、序列到序列模型、Transformer和MoE。训练算法有了很多进步，蒸馏等技术让较小的模型也能取得很好的效果。
推理算法同样进步很大。我们可以在推理阶段投入更多计算来获得更好的结果，例如使用思维链，或者尝试多种解题方法，再检查结果。
模型需要工具、创造力与经验积累
仅有强大的基座模型，还不足以解决我们想处理的那些问题。我们需要从优秀的基座模型出发，结合智能体，使系统能够有效使用工具，完成复杂任务。
我们尤其希望智能体和模型具备创造力。科学或工程上的突破，往往需要把不同洞察组合起来，提出新的东西，再检验效果。
这些系统还应该从过去的实验和经验中学习。这既包括解决当前问题时的学习，也包括长期积累。
假设一个系统已经解决过5000个问题，那么面对第5001个问题时，它就可以借鉴与新问题最相关的那些经验。
大项目的难点还在于分工与协调
传统实验循环的每个阶段都需要大量人工。
面对更大的问题时，事情会更复杂，因为你通常要把它拆成很多子问题或子模块，拆解本身就是一道难题。
每个子领域里又有许多人运行实验，判断哪些方法有效、哪些无效。
这会带来协调开销、资源冲突，以及大规模系统层面的问题。拆解问题很难，整合各个子问题的结果也很难。
更麻烦的是，大型项目一旦运转起来，当初的拆解方式就很难改变了。无论是制造飞机，还是训练前沿模型，都很难再灵活调整早期的决定。
我们认为，可以让少量领域专家配合自动化系统来工作。理想情况下，系统能自动拆解出值得研究的子问题，并自动求解。
当然，也可能需要人来引导拆解，判断哪些子问题最重要。
这样，少数有领域专长的人就能处理大型、有影响力的问题。我们相信，合适的基础设施可以支持这种工作方式。
你需要运行数万个自动实验，也需要系统理解不同实验的价值，决定下一步做什么。
强化学习或演化算法可以用于自动决策，让此前的决定更容易重新评估。每一个早期实验，都应该为后续实验提供信息。
已有约20个自动改进循环在运行
我们目前做了什么？
前三周，我们进行了400场面试，大多在University Avenue的Cafe Venetia，寻找前面提到的那些人才。
我们也在找办公场地，现在搬进了原来Zibibbo餐厅的旧址，空间挺有特色。
我们搭建了自己的智能体运行框架，也就是agent harness，用于内部开发和自动化。
它有一些很好的协作功能：你可以和模型对话，请它解决问题，也可以邀请同事加入，让两个人一起与模型和智能体交流。
其他人可以对正在开展的工作发表评论，在方案交给智能体之前提出设计意见。
我们的基础设施从一开始就面向智能体来构建，目的是能够扩展到数万乃至数十万个智能体执行任务，而不只是支持数百人工作。我们认为这一点很重要。
现在大约有20个自动改进循环在运行 ，我们能看到它们在运行、在改进。
我们也在评估怎样让这些实验迭代更有效、更快，怎样利用此前的实验结果和测量数据，让系统学习得更快。
目标是让领域专家生产力提高20到50倍
这就是我们现在的状态：搭建软件循环，自动化机器学习任务，因为我们认为这能够推动更多自主科学研究。
最初，我们聚焦于构建能够解决机器学习研究和机器学习工程问题的自动化系统。
我们的目标是让领域专家的生产力提高20到50倍。
我们希望这些领域专家，以及真正想解决某类问题的人，能够用更少的精力把问题解决。人在其中仍然有自己的作用。
过去15年的机器学习突破带来了强大的模型，也为自动化机器学习、科学与工程，进而加快发现速度创造了条件。谢谢大家。
对了，我们在招聘，可以到discoveryloop.com申请。
Jeff Dean对谈李飞飞：RSI也有物理极限，蒸馏论文当年被嫌没影响力
为什么离开Google创业
李飞飞： 谢谢Jeff，这是一场很棒的演讲。我想这应该是最后一场，我们正好夹在观众和茶点之间。
Jeff Dean： 这从来都不是个好位置。
李飞飞： 我本来希望这场讨论能更技术一些。不过既然是一场对谈，我会同时承担提问和参与讨论的角色。
谢谢你的演讲，我的第一个问题本来就是：为什么创办Discovery Loop？恭喜你。
Jeff Dean： 谢谢。
李飞飞： 你们四个人基本都在Google工作了很长时间，尤其你在1999年就加入了Google。
过去几年的技术进步大家有目共睹，但我还是好奇，有没有某个时刻，可能是在过去一两年里，让你、Quoc、Sanjay和Oriol觉得，必须做点不一样的事，而且需要离开Google来做？
Jeff Dean： 我们一直很兴奋地看到，自动化系统可以越来越多地帮助人们开发软件。
Quoc十年前就做过很多神经架构搜索工作，你可以把它看作某种早期的递归式自我改进系统：让它寻找适合计算机视觉或语言问题的模型架构。
我们知道这类方法有效。不过，当时要用一大堆不太规整的Python代码来规定搜索空间。
现在可以用自然语言向一个有能力的模型与智能体系统提出要求，例如探索有助于解读MRI图像的模型架构，再由它开展工作。
这改变了我们对计算机和AI系统能力的想象。如果能让这些系统可靠地运行，就能开展很多事情。我们认为，科学与工程尤其适合借此产生积极影响。
李飞飞： 所以让你们产生创业想法的，是这些循环和自我改进能力。
Jeff Dean： 有人可能会说，我们有点“loopy”。
〔注：这里用loopy与loop双关，带有“有点疯、有点古怪”的玩笑意味。〕
Jeff Dean： 还有一点也很重要。我们多次经历过从一个很小的项目开始的过程，很喜欢那种感觉：最初是5个人，后来加入第6个、第7个、第10个人，真的很有趣。
在大公司里也能有这样的经历。但我们希望把它做成一家公益公司，因为这能体现我们的价值观。
创业还意味着更大的挑战，你得处理办公场地，以及设立公司涉及的其他事情，这也很有趣。
李飞飞： 我创办World Labs时也有过类似的技术时刻。
我们关注的方向与你们不同，触发我们的，是计算机视觉与生成模型的融合，让我们看到了创造超越文字的生成模型的可能。
Jeff Dean： 你们做出的生成模型，以及现在能实现的能力，确实很出色。
自我改进与递归自我改进如何区分
李飞飞： 我们来聊聊自我改进与递归自我改进，稍微深入一些。我们接受机器学习教育的年代差不多。
我刚才在想，这个概念经历过多少种名称：增量学习、持续学习、元学习、终身学习、神经架构搜索，现在又有自我改进和RSI。
你能否给观众，尤其是有技术背景的观众，一个更严格的定义？ 什么是自我改进，什么是递归自我改进？ 我想把想象与事实区分开。
Jeff Dean： 我前面讲的循环可以用于很多问题。我理解的自我改进系统，是你给它一个目标，通常是一个可测量的指标，比如某个机器学习模型的准确率。系统尝试不同的模型架构，提高这个指标。
李飞飞： 先停一下，很多机器学习算法都能做到这一点。
Jeff Dean： 对。
李飞飞： 这本身还不算递归，对吧？
Jeff Dean： 举个例子，我们给系统一批MRI数据和相应结果，让它开发一个帮助解读MRI图像的模型。系统可以自动开发模型，尝试不同方法，并希望准确率随着实验推进而提高。
但这没有改进那个负责提出下一步实验方案的基础系统。 递归自我改进讨论的是：如何把同样的自我改进方法，作用于那个负责提出改进方案的基础系统本身。
自我改进循环为什么不能跑得无限快
李飞飞： 我理解了。但这个概念对很多人来说很容易混淆。尤其在硅谷，人们用得很随意，作为科学家，这让我有些不舒服。我希望在这里把RSI定义清楚。
再谈谈RSI的物理极限。它现在被描述得像一个没有尽头、可以不断加速直到无穷的系统。哪些属于炒作，哪些属于想象？
Jeff Dean： 想想过去10到15年，人类如何提升模型能力：研究人员和机器学习工程师一起做大量小规模实验，分辨哪些想法有效、哪些无效，再把有效的方法用于下一代模型。
Gemini 1之后有Gemini 2，就是这样来的。
这是正常的研究与工程过程。加入自动化后，确实能加快一些环节。例如，一个人启动实验，凌晨2点实验结束，他要等到早上8点回到工位，才会查看结果。
自动化系统可以及时查看结果，判断下一步该做什么。它也可能在整个大型项目层面，作出比各个人分别决定下一步更好的判断。
但要构建基座模型并提升它，仍然需要大量训练和实验，这些过程不可能以无限快的速度完成。
这里有真实的物理过程：计算机需要运行计算，结果需要检查，数据需要保存，还要由另一个模型分析结果，再决定下一步。
有些人以为这个循环能跑得无限快，我觉得不太现实。我们需要立足现实。自动化系统肯定能提高改进这些系统的速度，但不会让它们快到无限。
人类是否也在递归自我改进
李飞飞： 我觉得这一点很重要。其实我没有申请Discovery Loop的工作，但我确实和Jeff在Cafe Venetia喝过咖啡。
Jeff Dean： 我们喝咖啡有很多原因，因为我们喜欢咖啡。
李飞飞： 我们一直在聊RSI的炒作与事实，看来当时已经在为这场对谈做准备了。我想到一个你还没听过的类比，你可以同意，也可以反对。
人类是自我改进系统，还是递归自我改进系统？我觉得人类肯定会自我改进。
我的厨艺很差，第一次做煎蛋卷可能什么都烧糊了，第二次会吸取经验，稍微好一点。也许做了10次，我能做出自己勉强吃得下、孩子却不肯吃的煎蛋卷。
这就是自我改进。
但递归自我改进涉及大脑。在学习做煎蛋卷的过程中，我的大脑得发生某种变化，神经连接需要调整，让我有一个更好的系统来完成这件事。
如果讨论硬件改进，也许我还能长出第六根手指。
Jeff Dean： 也许你是AI生成的。
李飞飞： 没错。继续做煎蛋卷，大脑又进一步改善。如果这样的循环发生，人类就是RSI系统。这个类比对吗？
Jeff Dean： 我觉得两者都有。人会在一生中学习很多东西，比如做煎蛋卷、做微积分题，这是自我改进。人也会学习如何学习。
李飞飞： 而学会学习，使人能够递归自我改进。理解自己怎样接收知识和信息最有效之后，就能更快学会更多东西。
Jeff Dean： 对。
李飞飞： 递归自我改进也可能是一种演化算法，对吧？先不继续深入了。我觉得能公开讨论这个问题很难得，因为现在围绕它的炒作实在太多。
Jeff Dean： 有很多说法认为它会快到无限，因此很可怕。如果把它当成一个运行中的工程系统来理解，就会少一些恐惧，也更容易理解它。
先做数字环境中的研究，医疗是未来方向
李飞飞： 你讲了很多Discovery Loop，但对它究竟要解决哪些科学问题，仍然有些含糊。
我想在你愿意透露的范围内追问一下：有这么多能造福社会的科学问题，你现在最想研究哪一个？
Jeff Dean： 我长期对AI在医疗健康领域的应用感兴趣。我们将来会做，但不是现在。这个领域很重要，也很符合我们作为公益公司的使命。
目前， 我们聚焦于整个实验循环都能在数字环境中完成的科学与工程问题 。这类问题更适合加快整个循环的速度。
如果涉及物理实验或其他现实过程，提速就更困难。当然，很多重要学科都需要物理过程，我们也有一些混合方法，可以帮助这些领域加快研究。
最初，我们关注三个领域：机器学习研究、机器学习工程和硬件设计。先聚焦几个领域比较合适，我们也在这些方向上有经验，而且这些工作能帮助开展其他研究。
例如，一个系统如果能够自动解决机器学习工程任务，就可以用于医疗健康、材料科学等领域，开发适合某项任务的模型。这属于自我改进，不属于递归自我改进。
我们现在聚焦这三个领域，也希望以后能拓展到更多方向。
自动实验系统能否做理论研究
李飞飞： 我本科读的是物理。物理学里有实验研究和理论研究的区分。你画的这个循环，从“提出实验”开始，在物理学里我们通常会说“提出假设”，再做实验、评估结果。
不管是否递归，这些强大的AI智能体和自我改进循环都很强调提出假设、并行运行实验。这是不是更倾向于实验研究的路径？理论发现的过程似乎更难描述。
像牛顿、爱因斯坦这样的理论家，并不亲自做那么多实验。他们会阅读实验结果，但工作方式有所不同。你的方法是不是会更偏向实验研究？
Jeff Dean： 未必，虽然可能稍微偏向那个方向。但我确实认为，这种系统也能做很好的理论研究。
你可以问它，能否提出一个理论来解释这些数据。系统可以反复尝试，寻找能够解释实验数据、又尽可能简洁的理论。
许多物理学家也会关注实验领域的进展，尝试解释人们观察到、但尚未理解的现象。我认为这是可能的，也不应该把这些学科完全割裂开。
想象一个系统，在100个科学领域里进行了1亿次实验，解决了100万个问题。它见过各种实验结果，知道与未来问题相关的领域里哪些方法有效、哪些无效，很可能从中获得很多洞察。
这些经验未必像人类的学术院系一样，有严格的学科边界。我喜欢HAI的一点，就是它能跨越组织边界，让不同领域的人一起交流。
AI数学证明的价值，以及优雅解法的作用
李飞飞： 那我们得聊聊数学。筹备这场对谈时，我也邀请过陶哲轩，给他打了电话，但他没法来。
看到最近这些进展，我的心情有些复杂。先是纳维-斯托克斯相关工作，又是720多篇数学手稿，昨天OpenAI又发布了一些AI解数学问题的成果。
我当然欢迎这些发现。数学，以及那些存在了上百年甚至上千年的难题，是人类智能的重要体现。数学家看到的既有解法，也有美。
现在，我们有了一套完全不同的机制来处理这些问题。
我和陶哲轩聊过不少。他最近也谈到了“数学2.0”，讨论AI能帮助解决哪些问题。
按照他的说法，也有一些问题仍在AI能力范围之外，尤其是尚无解法、缺少数据的问题。
你怎么看过去短短几周数学领域发生的这些变化？
Jeff Dean： 这些模型，以及能让模型开展高度并行工作的智能体系统，已经表现出解决很难的数学开放问题的能力。这让我们看到现在能够做到什么。
我认为人们有时会不满足，甚至感到不安，因为有些证明是长达500页的Lean代码之类。
机器可以检查，但人们还不太理解如何以优雅、简洁的方式得到那个结果。
知道一个问题被证明或证伪当然有价值。但人类数学家研究问题时，还会发展出优雅的方法。这些方法往往又能形成新的数学工具，用于其他问题。
李飞飞： 你的意思是，新的数学只能来自优雅的解法？
Jeff Dean： 不。我的意思是，一个优雅的解法常常会带来一种可以用于其他问题的好方法。
在某些很长的机器生成证明里，人们还未必看到这样清晰、优雅的方法。
但知道某件事可以做到，本身也很重要。 如果知道一个问题可解，人们会更努力，或许能找到另一种、更优雅的解法。
这么多问题同时得到解决，可能让人有些不安，但这现在已经成为一种可能。我们需要想办法利用这些能力，开展更多数学研究。
关于Transformer论文的小测验
李飞飞： 我们还可以聊很多。不过，我答应过要在台上给Jeff来个突击小测，事先没有告诉他题目。答不上来也没关系，因为我自己也不记得了。
Jeff Dean： 好，毫无压力。
李飞飞： 你记得2017年6月12日是什么日子吗？不许用AI作弊。
Jeff Dean： 是Transformer论文发布到arXiv的日子吗？
李飞飞： 太棒了，A+！我也得查一下才知道是哪天。你是6月12日读到那篇论文的吗？
Jeff Dean： 不是，可能是6月10日。
李飞飞： 哦，对，你可能还得批准它。
重要的技术进步，以及未实现的架构预期
李飞飞： 回顾你的职业经历，你们四个人在Google和整个领域做了很多工作。就把那一天当作一个历史节点，某种意义上是生成模型时代的起点。
过去差不多9年里，哪些技术时刻对你最重要？也请坦率地说说，哪些预测对了，哪些预测错了？
Jeff Dean： 有几件事情比较突出。我们做的许多工作都带来了重要改进，就像前面那张幻灯片列出的内容。
Transformer是处理这些问题更高效的模型架构。保存此前的状态，再通过注意力机制访问它们，这个想法很有价值。
早期的方法则是每一步更新一个较小的向量，并遗忘此前的状态。相比早期LSTM一类模型，Transformer可以用更少的计算学到更多东西。
然后是Oriol、Geoff Hinton和我做的蒸馏工作。它在2016年被NeurIPS拒绝，评语说不太可能产生什么影响。
〔注：这里指Geoffrey Hinton、Oriol Vinyals和Jeff Dean合著的《Distilling the Knowledge in a Neural Network》 （《神经网络中的知识蒸馏》） 〕
李飞飞： 我们应该做一个网站，把那些被拒的论文收集起来。
Jeff Dean： 这一篇很适合放进去。我们把它放到了arXiv，现在大约有4万次引用。
蒸馏对构建能力强、推理效率高的模型很重要。你可以让一个训练好的、庞大而昂贵的模型当老师，教会一个轻巧的学生模型。在大学里讲这个比喻很合适。
架构方面也有进展。我原本以为，我们会看到更多奇特的神经网络架构。MoE会分出一组专家，再汇合，然后再次分开、汇合，并学习哪些专家擅长哪些任务。
这很有用：模型可以有很大容量，同时对每个token或任务只激活其中一小部分。但它仍然很规整。在多数架构里，专家的规模相同，而且很快就会汇合。
我原本期待看到更多形态不规则、看起来更“有机”的网络：某些神经活动形成柱状结构，某些地方只有少量但大规模的交叉连接，把相距很远的网络部分连起来。我们还没有做到。
李飞飞： 做神经架构搜索时，我们也想过这些，后来也没能实现，对吧？
Jeff Dean： 神经架构搜索得到的模型，确实比人工设计的架构更不规则。人工设计往往是一层叠一层，偶尔加一些跳跃连接。搜索得到的架构可能会出现很特别的连接方式。
李飞飞： 比如把这一层连到上面第17层，做一些奇怪的事。
Jeff Dean： 对。
李飞飞： 所以这是你预测错的一件事？
Jeff Dean： 我预测错过很多事。这件比较突出，我原本以为架构会更多地朝那个方向发展。
低估了编程能力的重要性
Jeff Dean： 编程能力后来被证明非常重要。我当时没有充分预见，它会成为模型解决许多不同问题的一个关键能力。
李飞飞： 这一点我同意。我们多少知道它重要，但没有预见到影响会这么深。
Jeff Dean：在Gemini项目里，编程是我们关注的方向之一，但当时并没有把它作为最主要的关注点。
如何应对AI的社会影响
李飞飞： 既然这是HAI大会，就得谈谈其中的H，也就是人。
AI带来的社会影响，包括就业变化、心理焦虑，以及关于人类灭绝、对齐等问题的讨论，有哪些是你预见过的？现在最让你担心的是什么？
Jeff Dean： AI是一项非常强大、非常通用的技术，几乎影响社会的各个方面。无论是数学、编程、图像生成，还是自动驾驶，它都能发挥作用。
过去的一些技术革命，主要深入影响五个或十个领域。AI同时影响的领域更多，所以它会让人兴奋、忧虑，也会带来恐惧。
我和一些共同作者写过一篇论文，叫《Shaping AI’s Impact on Billions of People》，讨论AI如何影响数十亿人的生活。
这是我唯一一篇有专属网站的论文，因为一位共同作者做了shapingai.com。
〔注：shapingai.com是Jeff Dean等人关于AI社会影响的研究项目网站，探讨如何让AI更好地服务教育、医疗、科学等领域。〕
我们研究了7个领域，包括就业与经济、AI科学研究、虚假信息和媒体等，并与各领域的专家交流，了解AI已经产生的影响和可能带来的变化。这是很有价值的经历。
我最关心的是，怎样尽可能实现AI在不同领域的益处，同时减少它可能造成的负面影响。这需要技术人员、监管者、政策制定者和公众共同参与。
例如，人们的工作受到影响后，需要有办法适应新的需求，继续获得有报酬的工作，过上富足的生活。这是一个涉及很多方面的问题，需要很多人一起解决。
给年轻人的建议
李飞飞： 最后一个问题。很多人不知道，你非常关心年轻一代。我们不常一起登台，我记得上一次是在Grace Hopper大会。
Jeff Dean： 你连续去了好几年。
李飞飞： 现在我们身处大学校园，这一代学生对工作和经济前景感到焦虑，斯坦福的学生也一样。
作为AI先驱，也作为能较早看到技术变化的人，你想对这些既焦虑又怀有希望的学生说些什么？
Jeff Dean： 我能理解这种焦虑。世界变化很快，而面对快速变化的未来，规划确实很难。
我的建议是，尽量了解正在出现、或者很快就会出现的新技术，学会把它们用于自己最有热情的事情。
你可能想成为医生，想从事文学创作，或者想更高效地开发软件。AI都可以提供帮助。
人仍然需要决定，我们共同想做什么。你也应该想清楚自己想做什么，并努力做到最好，其中就包括用好已经出现的各种工具。
李飞飞：所以，在AI时代，人的热情依然不会过时。 谢谢你，Jeff。
Jeff Dean：谢谢。
访谈链接：
https://www.youtube.com/watch?v=ooGKNwJWdb8&t=1s