张小珺：今天咱们的话题是Agent和强化学习，咱们很好奇你会若何界说Agent？

姚顺雨：这是一个很好的问题。要结合磋磨布景看。

从自然语言处理的角度，Agent是相对于一个只会生成文章或对话的系统而言。它能和外界交互，比如使用诡计器、互联网，或调用千般器具。也即是说，不仅能生成内容，还能操作和互动。

但从更广义的AI布景看，Agent是一个相等陈腐的成见。

任何能进行自我决策、与环境交互，并试图optimize reward（优化奖励）的系统，都不错被称为Agent。

从这个角度开赴，今天咱们讲的Agent更多是指：若何基于语言模子这样的foundation model（基础模子）去作念具备自我决策才能的系统，而不是传统真谛上基于规矩或仅在某个领域用强化学习（RL，Reinforcement Learning）老师出来的Agent。

因为“Agent”这个词在不同期代有不同界说——你不错说AlphaGo是Agent，也不错说Waymo是Agent，以致不错说机器东谈主是Agent。这个词的真谛很依赖具体情境。

张小珺：你研究的“Language Agent”（语言智能体）和传统Agent，存在本体区别吗？

姚顺雨：本体区别是不错推理，因为推理才不错泛化。

举个浮浅的例子，我作念ReAct一个很强的动机是：我作念完colm，我的第一个职责之后，在想考一个问题——为什么我不错一下子去玩一个新的游戏，但面前这些系统或AI需要几十万步以致几百万步老师，才能完成雷同的事？

我发现，是因为我不错想考。我看到一个全新的环境，会想：这个灯是黑的，那可能有危机，基于学问可能有怪兽；我面前最要紧的是点亮灯。基于之前的高下文（Context），灯在我后头，那我应该先向后走。

如若莫得这样的想考才能，而是平直从复杂语言去预测“我要往后走”，就很难——莫得推理作念不到。

最大区别在于，语言模子提供了一个充足强的先验（prior），这个先验让你不错推理，而推理又不错在不同的环境间泛化。

是以中枢是推理才能，推理才能带来泛化。

张小珺：从你的视角看，Agent是一个如何的演变历程？它是若何一步步发展到今天的？

姚顺雨：我不错说一下我方的瓦解，可能不完好意思，或者有一些诞妄。

最早的AI，咱们称为Good Old-Fashioned AI（标记主义AI），想法很浮浅：我防备的是推理，我若何想，就把这些规矩写出来，让AI也这样作念。比如，如若温度高于30度，空调就应该降温。这种基于规矩的AI，不错造出好多早期智能体，比如最早的机器东谈主、最早诠释数学定理的系统，好多是这样作念出来的。

但很快，1980年代，民众发现这个东西有瓶颈——你不管写若干规矩，照旧很难掩盖这个世界上所有可能发生的情况。

那时标记主义走向极致，民众驱动作念巨匠系统：找好多巨匠，把这世界上所有可能的规矩都写下来，是不是就能得到AGI？或者一个通用的、有用的系统？

但自后发现，不管你写若干规矩，照旧有好多特殊情况无法处理。这些规矩只可用于一个任务。比如你写了一个会诊腹黑病的系统，写了好多规矩，但东谈主苍狗白衣，你没办法处理所有情况，这个系统也没法处理肺病。导致了第一次AI极冷。

自后咱们有了新的神经网罗（Neural Network），也即是第二波Agent兴起，秀美是Deep Reinforcement Learning（深度强化学习）。典型事件是DeepMind玩视频游戏、作念AlphaGo，OpenAI玩机器手、打Dota。

这一波中枢是：我有一个臆造环境，不错无穷次尝试，有奖励机制，还有通用网罗架构，我就像黑盒一样去学若何maximize reward（最大化奖励），它就变强了。

这个主张取得了好多奏凯，最闻名的是AlphaGo。但照旧有老问题：每作念一个新环境，都要作念好多Environment-Specific（环境特定）工程。比如作念Dota，要调好多参数（parameter tuning），作念好多基于这个环境的工程。最大问题是：这些方法没法泛化。

你学了一个围棋Agent，没办法玩别的游戏。你在一个环境里学到的东西，没办法迁徙到另一个环境。这敬佩是不睬想的。而且，如若你所有能解决的问题都在臆造环境里，或者是像游戏那样不错无穷次玩的环境，你就没法找到很好的真实世界应用。

第三波Agent是从大语言模子驱动的。咱们发现它不错作念推理，而基于推理，就能进入一些新的环境，比如编程、互联网、千般数字环境。这些数字环境有一个共性：大多数都是基于语言的，需要推理。

这一次Agent的中枢区别有两点：一方面是方法上，咱们使用语言模子，用推理去构建能处理千般问题的Agent；另一方面是环境自己也发生了进化，从早期标记主义环境（比如数学定理），到下围棋、打游戏，再到今天互联网、编程、电脑操作这些更接近真实世界的数字环境。

是以这是两条线：一条是方法线，一条是任务线。

民众可能更多贵重到方法线，容易淡薄任务线。但这两条线是相反相成的。

张小珺：我一直有一个基础疑问。OpenAI提议的大模子才能分级从Level 1到Level 5，好多东谈主都很熟悉了：

Level 1是聊天机器东谈主（Chatbot）Level 2是推理者（Reasoner）Level 3是智能体（Agent）Level 4是创新者（Innovator）Level 5是组织者（Organizer）

但这个五级鉴别的内在逻辑是什么？为什么是先有聊天机器东谈主、推理者，然后才是Agent？Level 4和Level 5又是若何来的？它们之间是递进关系吗，照旧各自悠闲发展？

姚顺雨：逻辑是，开头你要有语言的先验知识。基于语言的先验知识，最早能作念出来的应用是Chatbot（L1）。接下来，基于语言先验，你需要具备推理才能，这是Reasoner（L2）。

当你既有语言知识，又具备推理才能，才可能进一步作念千般Agent（L3），尤其是能泛化的Agent。也即是说，Agent建立在Chatbot和Reasoner才能之上。

很显然，今天Agent发展最要道的两个主张：

一个是让它领有我方的reward（奖励），能我方探索；另一个是Multi-Agent（多智能体），让它们之间能形成组织结构。

这两个主张，我认为是正交，它们不错并行发展。

谁是Level 4，谁是Level 5，我不细目。但这两个事情是败露的下一步。

张小珺：从Level 2到Level 3，也即是你作念的这一步——从老师模子到使用模子，是一个很要紧的跨越。

姚顺雨：或者说，是从单纯作念推理，到把推理当用在Agent上，用它去和环境交互。

张小珺：Agent面前有哪些主流架构？形成共鸣了吗？

姚顺雨：我的嗅觉是，大多数时候民众用的照旧雷同ReAct架构。你能够去推理，然后你不错产生action（活动）。这是最浮浅的一种阵势。但最浮浅的反而是效果最好的。

自然，基于不同任务，民众会瞎想好多workflow（职责流）或更specific（特定）的方法。但如若说最通用、适配性最强的决策，我照旧认为是雷同ReAct的方法。

李广密：提高Agent才能，你我方最垂青的是哪几个要道才能？

之前有东谈主提到Context（高下文）、Long-Context Reasoning（长高下文推理）、Tool Use（器具调用）或Instruction Following（指示盲从）。你刚才一直强调Reasoning（推理），那如若要提高Agent的才能，你最防备哪些才能维度？

姚顺雨：这是个很好的问题。我认为面前莫得一个突出纯属的taxonomy（才能分类体系），或鉴别系统。每个东谈主都有我方的瓦解方式。

有些东谈主会按照器具鉴别，比如coding（编程）才能、上网才能、使用诡计机的才能，这是一种鉴别方法；另一种是按照模子自身的才能鉴别，比如多模态处理、长高下文处理、推理才能——这两种鉴别都有风趣。

但就我面前看，我最垂青的是Context（高下文）处理才能，或Memory（顾虑）才能。因为唯有在这个基础上，才能进一步齐全Lifelong Learning（终生学习）或Online Learning（在线学习）的才能。

李广密：你刚才一直在提环境，你认为code代码是一个齐全AGI最要紧的环境吗？它不错撑执多轮的强化学习（RL）、提供闭环响应，也不错考据扫尾。如若咱们在代码这个环境上构建Agent，会不会发展更快？

姚顺雨：毫无疑问，这是最要紧的环境之一。

Code有点像东谈主的手。

它某种程度上，是AI最要紧的affordance（环境予以活动者的可能性）。

对于物理世界，东谈主最要紧的affordance是手——咱们围绕它制造千般器具，比如锤子、笔、筷子。但对AI、对Digital Agent（数字智能体）来说，最要紧的affordance可能即是code。

因为其他东西，都是给东谈主界说的。比如网页、演义、视频，是为东谈主类瞎想的；但code是一个自然就给机器使用的抒发阵势。

我2022年一直在想：作念Coding Agent明明是很要紧的事，为什么没东谈主作念？

咱们其时作念了一个职责叫InterCode。民众都在作念的是：给一个coding task（编程任务）模子生成一段代码，然后你去evaluate（评估）它。但咱们就在想：为什么不把引申扫尾响应给模子？

咱们不错让它变成一个多轮Agent task（智能体任务），构变成一个环境，而不是单次完成的任务。基于这个，咱们自后作念了SWE-bench、SWE-Agent。

SWE-bench是一个真实世界的软件工程基准，用GitHub上的issue和竖立代码来评测模子的代码竖立才能。SWE-Agent是一个基于大语言模子的智能体，能在SWE-bench上自主阅读代码库、修改代码并运行测试来解决问题。

有时候，很挑升想的少许：一个东西明明相等要紧，但即是没东谈主作念。如若你是一个研究员，认为你作念的事很要紧，但别东谈主不认为、也没东谈主作念，并不是赖事——可能它真的很要紧，仅仅民众还没驱动。

李广密：这里有个很强的非共鸣：有的东谈主认为code是这一轮技能改进最大的价值体现，但也有东谈主认为不错泛化到更多任务里，在电脑、手机、数字世界中都不错齐全，Agent操作主谈主能作念的95%、99%任务。

你对从code到数字世界这一步的跨越，或者它的泛化，是有信心的吗？

姚顺雨：更广义说，你不错认为API亦然code的一部分。任何基于code的接口，都属于code环境的一部分。

有个相等经典的debate（争论）：最终的AGI，是基于API或code的？照旧基于GUI（图形界面）？或者是为东谈主界说的前端环境？照旧它是一个搀杂体（mix）？

这个问题有点像：你是想改进你的车让它适当所有路，照旧改进所有路让它适当面前的车？

好多时候，现实中并莫得现成的API，唯有GUI。但你不错东谈主为为它构造一个API。

自然，最终扫尾很可能是meet in the middle（在中间重逢），双方都会作念，而且这个事情可能没那么难。

面前看，让一个Agent既能使用code，又能操作主谈主类界面的screenshot（截屏）、前端，两者兼顾也没那么辛苦。从这个角度说，让Agent像车一样能适配千般路，比起要改进所有路让它们都有API，要容易好多。

Coding敬佩很要紧，但如若让Agent也能操作GUI，最终Agent很可能是“什么都能作念”的。

03 任务的设定

“咱们对浮浅任务的robustness莫得疼爱”

张小珺：你4月发布博文《The Second Half》（下半场），你是若何猜想the second half这个idea的？受了什么启发吗？

姚顺雨：我是受邀去斯坦福一门课作念talk，其时想，能讲点什么？没法讲太技能，只可讲更玄学的内容，就猜想这个话题。

这个想法来自我在OpenAI的职责劝诫，以及之前作念research的感悟。民众昔日频频更关注模子老师、方法瞎想，但我认为面前的bottleneck（瓶颈）还是转移了：变成若何去界说好的任务，若何去界说好的环境。

张小珺：面前是处在阿谁转换点吗？从上半场到下半场。

姚顺雨：干线正从“上半场”转向“下半场”。我说的干线是基于语言的智能体。自然你也不错说，在Audio（音频）、Multimodal（多模态）、Robot（机器东谈主）这些主张，还有好多未解的问题。

但我认为，从语言开赴，去界说Reasoning（推理）、界说Agent，咱们终于有了一个相等general（通用）的方法，而且这个方法是可泛化的——咱们齐全了一个基点时刻。

这带来一个本体变化：以前我面对好多怪兽，需要造出千般不同刀兵去打它们；面前我有了一把通用刀兵，比如机关枪，我不需要再为每个怪兽单独造刀兵。接下来要想考的问题就变成：我该朝哪个主展开枪？

面前哨法的问题已基本解决，真实要紧的是——咱们要用这个通用方法，解决什么问题？

李广密：若何设定任务？若何界说问题？对于这个，你在探索历程中有什么想考吗？

姚顺雨：不同的东谈主有不同的flavor（作风），我从很早就有一个偏好：我想界说一个基于扫尾的reward（奖励），而不是基于历程的；而且这个reward应该是基于规矩、可诡计的，而不是来自东谈主的偏好、模子的偏好，或者一些黑盒方针。

咱们作念WebShop的时候，最辛苦的少许是，若何界说reward。我认为作念任何RL（强化学习）任务最难的不是建环境，而是若何瞎想reward。你自然不错把Amazon或Facebook模拟出来，工程上照实很难，但老是不错作念。但最难的，是若何瞎想一个既有难度，又有践诺价值，同期又有一个好的reward的任务。

我但愿这个reward是不noisy（不噪声大）的，是可解释的，是白盒的（white-box），不是那种黑盒的东西（black-box）。

事实诠释，这亦然面前RL奏凯的要道。像math（数学）和coding（编程）这种任务，之是以能作念出来，中枢即是：

Reward是基于扫尾，不是基于历程；Reward是白盒的、基于规矩的，不是基于东谈主的偏好或模子的偏好。

比如，一个数学题谜底是3，它即是3——只消你得出的是3，即是对的；不是3，即是错的。

但如若你reward是基于历程，就会出现hacking（通时达变）。你去优化东谈主的偏好、模子的偏好，也会出现hacking。比如你生成一段相等优好意思的代码，但它并不明决践诺问题。

我后头作念的好多task，也都是用相同的filter（筛选轨范）。

比如SWE-bench这类职责：

第一，它是扫尾导向，而不是历程导向；第二，它的reward是基于规矩、白盒的，而不是来自东谈主或模子的主不雅偏好。

张小珺：就像上头说的，OpenAI有5个分级。如若从任务界说开赴，是不是也不错作念出一套居品才能的分级？跟着模子才能溢出，咱们驱动使用这些才能，Agent才能不错若何分级，你脑海中有莫得一个初步的框架？

姚顺雨：我面前倾向于认为，不同类型应用会带来不同challenge（挑战）。这些挑战是正交的，很难说哪个更难、哪个更浮浅。

东谈主类也有这个问题——洛克菲勒和爱因斯坦谁更利害？很难界说；成为一家大公司CEO和成为一个数学家，哪个更难？仅仅不同的挑战类型。

而对于Agent，另少许是：东谈主认为很浮浅或难的事情，对Agent可能不是那样。

东谈主认为作客服比作念软件工程师浮浅好多，工资也低、证书要求也低。但面前反而作念软件工程对Agent更容易。因为软件工程有更好的环境、更澄澈的reward、更大的数据量，等等。但你想作念一个突出robust（健壮）或reliable（可靠）的客服，反而更难。它波及复杂的reliability challenge（可靠性挑战）。

咱们自然不错把东谈主类职责分红不同的category（类别）。但对AI来说，东谈主类认为难或不难的任务鉴别，不一定平直映射到AI的才能上。

张小珺：全体来说，什么样的任务适合Agent作念？什么样的任务适合东谈主和Agent一齐作念？什么样的任务适合东谈主作念？

姚顺雨：我面前嗅觉任务或者不错分红几类。

一类任务更防备reliability（可靠性）。你作客服，要紧的是：100次里你需要99次以致更多不可出错。你唯有85次让用户中意，还有15次动怒意，可能被卷铺盖。这种任务比拟浮浅，但需要极高巩固性。Agent就需要突出强调reliability。

另一类任务更防备creativity（创造力）。你去诠释黎曼猜想，或者写一个复杂形态，或者创作一部文体脚本。这类任务允许你失败好屡次，只消有一次作念得突出好，就算奏凯了。这曲直常不一样的挑战。

还有一种鉴别方式是：看任务的深度和广度。

有些任务像Cursor（一个代码剪辑器具），曲直常短的loop（轮回）。我只需要把一个文献改一下，可能3秒就完成。但也有一些任务需要30分钟、3小时，以致3天。这种任务需要的是Long-Term Memory（历久顾虑）的才能。

再比如，从任务的广度看，我仅仅去解决一个具体bug，这是比拟窄的问题。但如若我要从0搭建一个像Windows这样的操作系统，这是一个相等广的任务。你不错说这是一个东谈主能作念的事情，一个小组能作念的事情，照旧一个公司才能作念的事情？从这个角度，咱们也需要作念更多motivation research（动机建模研究）。

张小珺：哪些任务对于Agent是相对更好界说的？从易到难的递次应该是什么？

姚顺雨：咱们不错平行作念好多不共事情。有一个浮浅的瞎想评估方针（metric）方法。

在coding任务中，咱们传统有一个评估方针叫Pass@k，好奇是：你对统一个代码生成任务，最多尝试k次，其中起码有一次的奏凯概率是若干？你不错想象，当这个k越来越大，系统被使用的奏凯概率也会变大。

好多时候作念coding相关研究，它会report（讲明）的是Pass@100，也即是：统一个任务你跑100次，起码奏凯一次的概率是若干？

但咱们2024年发了一个研究，叫TAU-Bench（Tool-Agent-User Benchmark，器具–智能体–用户基准测试），想法是：对于另一类任务，比如客服，咱们需要一个刚好相背的方针，咱们把这个方针界说为Pass^k。也即是：每一次都奏凯的概率是若干，或者失败一次的概率是若干？

有些任务咱们需要优化的是Pass@k（屡次尝试中至少奏凯一次），而另一些任务，比如客服，咱们需要优化的是Pass^k（每次都奏凯），或者咱们最关注的是Pass@1（一次就要奏凯）。

然而，面前咱们对于浮浅任务的robustness（矜重性）并莫得突出疼爱——这是因为民众作念AI照旧在作念一些benchmark（基准任务），而不是践诺应用。

但如若你接管了这个mindset（想维）变调，很自然你就会相识到：有些应用是需要突出强调robustness的，那你就需要去优化它的robustness。

面前民众还没完全相识到这件事；但我信赖，如若民众相识到这个变调，会带来很大跳跃。

04 泛化的器具

“语言是东谈主为了泛化而发明出来的器具”

张小珺：你有一句相等high level（抽象）的牵挂：语言通过智能体中的推理齐全了泛化。这里的泛化是一个还是被证据的，照旧一种推断？

姚顺雨：为什么语言相等独到？因为它是东谈主在这个世界完成千般各样事情的器具。

语言亦然东谈主类发明的器具，像火或笔一样。但它之是以特殊，是因为它是一个匡助你解决任何事情的通用性（general-purpose）或泛化性（generalizable）的器具。

当你学会了这门器具，你不错去作念好多新任务。比如你学会了攀岩，它帮不了你完成新任务。但你学会了语言，你不错通过语言和东谈主交流，学习、想考、推理。

2020年以前，民众没把这个事想败露，认为语音、翰墨、图像、视频都是一些数据，没什么区别。但我认为最大区别是：语言是东谈主为了齐全泛化而发明出来的器具，这少许比其他东西更本体。

张小珺：这里说的是语言具有泛化才能，那么强化学习终于具备了泛化才能，这是一种推断照旧一种论断？

姚顺雨：不错说是我个东谈主不雅点，自然好多东谈主在磋磨。泛化与否，本体上是一个spectrum（谱系）问题，是一个相对成见，不是十足的0和1。

我之是以这样说，是因为在此前，如若你在一个特定环境上老师，模子只可在这个环境推崇致密，不可收缩迁徙到其他环境。但面前，你在一个环境上老师，模子不错适当更多不同环境，这才是最本体的区别。

DeepSeek民众认为一个好奇扫尾是：你在数学和编程领域用强化学习老师模子，但它在创意写稿上也变得更强。

这体现了本体区别：AlphaGo只可下围棋，不可下象棋；而面前你学会数学，也能提高创意写稿。

李广密：我读你的文章，印象最深的亦然，你提到RL终于泛化了，是真的泛化吗？——你刚才也说，有好多先验知识还是train（老师）到model（模子）里头了，有什么迹象让你嗅觉是真的泛化了，而不是training data（老师数据）里面就包含这些数据？

姚顺雨：对，我认为是有可能的。如若你的Pre-Training（预老师）还是包含了所有事情，那么RL（强化学习）仅仅激励出这些才能的skill（技能）。

过后想起可能是Ilya（OpenAI前首席科学家），照旧谁，说过一句话，好奇是：Maybe the ultimate generalization（也许最终的泛化），即是你去overfit（过拟合）现实。如若你能把剩下的所有事情都作念完，那么磋磨它是过拟合照旧泛化就不要紧了。

但我认为，它照旧泛化的。原因是它能够推理。当你能在一个环境学到如何想考的技能，况兼这种想考才能能迁徙到新环境，这才是泛化的本体原因。

李广密：老师某一类游戏变强，能泛化到其他游戏也都很强吗？比如，一个模子打Dota（多东谈主在线战术竞技游戏）相等强，是不是在所有游戏里都很强？

姚顺雨：不好说。即使是推理，它在不同环境的泛化才能也可能不一样。比如，基于逻辑的推理，可能从数学到编程的迁徙更容易；基于情面世故的推理，可能在另一类任务上迁徙得更好。

但要紧的是，面前终于有可能出现一个单一模子能够作念所有任务。之前认为这不太可能，但面前是有可能的——你不错在好多不同任务上作念强化学习，而且它能迁徙到更多任务。

自然，如若只洽商任务与任务之间的迁徙，迁徙程度和任务自己的性质相连洽。

李广密：代码和数学之是以容易泛化，你有想过背后的原因吗？是因为他们有想考历程？

姚顺雨：仅仅因为它是最早驱动作念的。它之是以最早驱动作念，是因为它相对浮浅，有一个很好的reward（奖励信号），不需要复杂环境，它自己即是推理。

面前看，好多其他任务亦然可泛化的。仅仅咱们一驱动作念的是这个任务，是以，民众对这个主张的磋磨比拟多。

05 奖励的机制

“当AI玩一个语言游戏，

要若何界说内在激励？”

张小珺：基于基础模子往上长，Agent生态树在你脑海中，会是一个如何的结构？

姚顺雨：一个主张是：fundamental research（基础研究）若何演变？或者说，方法若何演变？

另一个主张是：应用，或者它的交互方式（interaction）有如何的演变？

这两个主张之间相关联。但它们需要不同的东谈主去探索不同的主张。比如Cursor并莫得在fundamental research上作念什么创新，但作念了交互方式上的创新。

在fundamental research上，比拟要紧的有三方面：

一个是Memory（顾虑），一个是Intrinsic Reward（内生奖励机制），还有一个是Multi-Agent（多智能体系统）。

这也跟OpenAI提议的Innovator（L4、创新者）和Organization（L5、组织者）框架很像。

你作为一个Innovator，开头你需要一个Long-Term Memory（历久顾虑）。

比如，我是Wiles（安德鲁·怀尔斯，数学家），我研究费马大定理，可能花了20年。我就需要一个历久顾虑。

我有这个历久顾虑还不够，还需要有内在的reward。因为在你真实诠释那件事之前，莫得任何外部奖励（Extrinsic Reward）——你莫得获奖，莫得作念成任何“可委用”的事情，也没东谈主给你feedback（响应）。你需要我方给我方响应。

这是所有Innovator最要紧的。不管你是艺术家、科学家、文体家，照旧任何类型的创作家，对吧？

另一方面，作为一个Organization（组织），你需要解决的问题是：Agent和Agent之间若何结合？若何让Multi-Agent（多智能体）结合scale（范围化）？

面前的Agent就像一个正常大学生，作念一个数字化的实习生。或者说，AGI即是一个正常一册大学生在电脑上能作念所有事情的一个才能。

然而，东谈主类社会的范畴是什么？这自然掩盖80%或90%的东谈主。但咱们最珍摄的东谈主，是哪两种？

一种是创造新东西，在认识或审好意思上始创新领域的东谈主：爱因斯坦、高更、梵高、贝多芬；另一种是能创造新组织、伟大组织的东谈主：伊隆·马斯克、乔布斯。

很自然，个体的创造力和组织的结合才能——都相等要紧。

张小珺：为什么OpenAI分级的临了一级是组织者（L5）？

姚顺雨：我一驱动是认为Innovator（L4）和Organization（L5）是更正交或并排的关系。

我其时在群里问了一个问题：当一个大公司CEO和一个科学家，到底哪一个难？

这个不好说，齐全旅途有区别。是以，不必太纠结谁是第四级，谁是第五级，都很要紧。不一定要先齐全哪一个才能齐全另一个，不错同期去探索。

李广密：这中间有几个要道的问题要冲突，比如历久顾虑，这是短期可预期冲突的吗？

姚顺雨：也许吧。自然也取决于多短期？但我觉稳健它充足有价值，它势必会冲突——如若你对技能是乐不雅的。

李广密：历久顾虑，你要展开讲一讲吗？

姚顺雨：我不知谈我能分享若干，但我的信念是——是Utility（效率）的问题。

为什么咱们面前的模子，推理很强，试验很强，玩游戏很强；但它还没创造出充足经济价值？——根蒂原因是：它莫得这些Context（高下文）。

东谈主类社会比拟tricky（复杂广泛）的少许是：自然，咱们照实写下了好多东西——咱们用翰墨、Google Doc、Notion，记载了好多东西；但好多Context长久只存在东谈主的大脑，是通过一个分散式的系统来保重。

比如，你雇主跟你之间的活动民俗，或者一些很难用语言牵挂下来的信息。这些Context存在于东谈主的脑海里。东谈主没办法把这些东西全部写下来。

这就导致——东谈主是不可或缺的。

唯有东谈主有这样的才能：进入一个环境，获取这个环境里的Context。

如若这个问题解决了，Utility问题就不错在很大程度被解决。这个世界，大多数东谈主并不是乔布斯，也不是爱因斯坦，仅仅一个正常东谈主。他的数学推理莫得o3强，但他能manage Context（督察高下文）。

他去一个公司7天，除了在文献上看到信息外，脑子里也积累了Context。而这些Context是o3莫得的。自然他莫得o3忠良，但因为他领有Context，他作念得比o3好。

李广密：有可能咱们很快就会看到最强的软件工程师，以致2027年看到能操作主谈主类电脑、手机上简直所有任务和指示的通用Agent，你对这一天的想象是如何的？是过于乐不雅照旧比拟合理？

姚顺雨：面前还莫得well-defined（明确界说）。面前模子写代码的才能超越世界上简直所有东谈主，或者说，它的数学和逻辑推理才能，也比大多数东谈主强。然而，当你说它能不可很好使用环境，要道照旧看你让它作念什么任务，这个任务能不可被合理界说。

好多时候，东谈主类最难的问题不是推理自己，而是获取完好意思Context（高下文）。

面前模子的bottleneck（瓶颈）不是穷乏推理才能，或者写代码、使用前端的才能，而是穷乏一个完好意思的高下文。

我不知谈这是Intelligence（智能）问题，是居品问题，照旧别的什么问题——但如若想让AI真实阐扬价值，这个问题必须解决。

李广密：你刚才提到另一个要道点：模子或Agent要有内生奖励系统。今天是不是还莫得这样一个系统？如若咱们真的要赋予它内生奖励机制，是不是在它执续自主学习中，就不错编削我方的模子权重，从而更忠良？

咱们离这一步还有多远？

姚顺雨：我不知谈。我认为会有这一天，但很难预测期间。

自然，它自我提高的方式，也许是改变我方的权重，也许是领有一个基于语言的历久顾虑，也许是一个基于Embedding（向量暗意）的历久顾虑，或者其他阵势的顾虑机制。但我信赖，它会自我提高。

李广密：内生奖励，你能讲讲吗？

姚顺雨：就像我刚刚说的，好多创新者之是以能在莫得外皮激励的情况下坚执，是因为他有内在的价值不雅或激励机制。

这个问题，AI和神经科学还是研究多年。婴儿是最典型的例子。他们领有基于好奇心或自我激励的机制。好多婴儿会反复玩一个玩物，用嘴去咬一个东西，或者作念一些看似“无真谛”的动作。

你说他获取了什么reward吗？他莫得升职加薪，莫得拿到钱，莫得任何外皮激励——他仅仅好奇。他的动机是：“如若我作念这个事，我会有什么样的嗅觉？”如若这个嗅觉是新的、不同的，他就不错从中学习。

张小珺：他不错获取安全感。

姚顺雨：对，即是说，好奇心、掌控感、安全感，是一些内在动机。恰是这些东西驱动了东谈主去作念某些事。不然，很难从地真谛性角度解释：他为什么要作念？

但挑升想的是，当东谈主长大之后，会发生要紧变化。当你是婴儿，你对世界的瓦解，是基于视觉、触觉，基于物理世界的。你学习的是，若何把触觉、听觉、视觉，以及对骨骼系统的限度结合起来。

当你长大之后，你对世界的瓦解方式变了，变成一个基于语言、推理、翰墨系统的瓦解。你驱动想考：这个世界是若何运作的？我若何才能开一个公司？若何才能升职？若何才能作念成一些事情？

你玩的，不再是一个物理游戏，而是一个翰墨游戏。

在这个翰墨游戏里，自然也存在内在激励，但又好像和婴儿时期的好奇驱动不太一样。

这是AI面对的挑战：传统AI，比如玩迷宫、作念机器东谈主仿真，它不错界说一些基于世界模子或者师法婴儿阶段好奇心的内在激励。

但当AI在玩的是一个语言游戏，要若何界说内在激励？——这个问题就变得不太一样了。

张小珺：你在文章也说，咱们淡薄了任务评估轨范的要紧性。应该若何去评估？——比如，咱们若何去估量一个Agent？有哪些北极星方针？

姚顺雨：照旧要想考若何去创造更多现实世界的价值。

自然这个事情在不同领域、不同应用下，有相等不同的任务瞎想、方法和旅途。但有一个大趋势是：应该更多去想考践诺价值，而不是这些被瞎想出来、雷同试验或游戏的东西。

咱们发现，一朝你不错界说一个试验或游戏，离它被解决也不远了。

以致你不错说，世界之是以难，是因为它不是一个被瞎想出来的东西。试验和游戏有一个很大特征是：它在被瞎想的时候，就还是有一个很好的reward或轨范谜底。

但当你还是有一个相等好的reward或轨范谜底，再加上头前还是有一个general recipe（通用解法），那这个事情离被解决也不远了。

而真实世界的问题是：它莫得轨范谜底，莫得轨范的reward function（奖励函数）。好多时候东谈主作念事情，也不一定是为了一个感性的reward，但东谈主照旧去作念了。

张小珺：它是开放的。

姚顺雨：对，面前主要问题是这个。最大问题不在于，我有莫得一个well-defined（明确界说）的谜底，而是我若何找到它。

张小珺：咱们将来还需要更多地推翻千般各样的基本设定吗？

姚顺雨：我认为需要。

东谈主类一直在作念这件事，不是吗？

第三章 并吞的范畴

06 双刃剑

“创业公司最大契机是：

瞎想不同的interface”

张小珺：你知谈，应用型创业公司很顾虑，大模子公司的模子才能溢出，会把他们作念的Agent吞掉。

历久看，Cursor这样的公司，壁垒是什么？哪些Agent是模子公司势必会作念的？哪些有创业公司契机？——范畴可能在哪？

姚顺雨：创业公司应该顾虑的是模子莫得溢出才能，这样你就真的什么都作念不败露。有溢出才能是个相等好的事情，这简直意味着你有契机。

创业公司最大契机是：能瞎想不同的interface（交互方式），或者说东谈主和数字世界交互的方式。

ChatGPT或所有作念模子的公司，都在作念雷同ChatGPT的居品。ChatGPT的本体是：你是在像和东谈主交互一样去进行和数字世界的交互。

你的Chatbot是像东谈主一样的东西——你和他聊天，给他派遣任务，让他帮你作念Deep Research（深入研究）或者写代码——交互方式是像东谈主，或者像助手一样的交互方式。

如若你能用模子通用才能，创造不同的交互方式，就能创造繁密的契机。

最终，可能模子的才能会产生beyond ChatGPT（超越ChatGPT）的交互方式，变成Super App（超等应用）。

如若你作念旧的interface，你利用这些新的模子，很容易被ChatGPT取代。如若你的交互方式很像ChatGPT，你有什么意义不被ChatGPT取代？如若你作念的是新的交互方式，但模子莫得赓续变好、莫得新的溢出才能，也很难作念。

对于创业公司，最好的契机是：你作念新的交互方式，况兼模子不休有新的溢出才能，让你能够赋能这些新的交互方式——两者不可偏废。

张小珺：然而ChatGPT也不错跟进这个新的交互方式。

姚顺雨：对。但领有一个Super App对于公司是双刃剑。

当你还是有了一个交互方式，你势必形成旅途依赖。就像2020年Google有无穷多资源和钱，有Transformer，但它最自然的想法是：我若何用这东西提高搜索引擎？

当你有像ChatGPT这样的Super App，很自然你的研究就会center around（围绕）这个Super App，会center around这个交互方式。

你会探索新的居品，但即使是大厂，即使是谷歌，即使是OpenAI，大部分资源照旧会围绕你Super App的交互方式——是以，这是创业公司的契机。

李广密：你刚才提到交互方式，今天照旧东谈主跟code交互、东谈主跟text交互，那东谈主跟Agent将来是若何交互？你嗅觉Her会是一种正确的交互方式吗？如若这种交互见效，有莫得契机beat（胜过）ChatGPT今天的形态？

姚顺雨：Her是不是照旧雷统一个Assistant（助手）的形态？只不外它有语音而不是翰墨？

这是一个败露很有价值的形态，东谈主和东谈主交互还是几千年、几万年、几百万年，这是对东谈主最自然的形态，敬佩是最败露的Super App。

但这个生态位，我认为ChatGPT是站住的。模子公司一驱动作念的即是这个。

那我认为不败露的是：我能不可基于不像东谈主的交互方式？

Cursor是很好的例子，创造了一种新的交互。不是像东谈主一样的交互，而是像Copilot（副驾驶）。写代码的时候，它能给你辅导或剪辑。莫得东谈主和东谈主是这样交互的。这是它的价值所在。

Google亦然很好的例子。雅虎是一个更像黄页、更让东谈主熟悉的交互。但谷歌是一个让东谈主不熟悉的交互，很奇怪。

Assistant、Her，或者像东谈主一样的交互方式，败露是最要紧的交互方式之一，但照旧会有充足多的契机，降生新的交互方式。

张小珺：你脑海里有莫得一些新的交互？非ChatGPT在探索的形态，也非传统互联网的交互，在你脑海里有吗？

姚顺雨：Canvas是一个好的尝试，不错基于面前的任务，在线生成最适当情境、个性和任务的前端。这是值得探索的主张，但也很难。

李广密：在你看来，应用公司的数据飞轮，对他们来说要紧吗？或者说，在什么环境下才能形成？

我嗅觉，Chatbot产生的是偏好数据，好像没什么数据飞轮；Code可能有想考历程的数据，这种想考历程的数据代表一类才能，可能是有用的；像Canvas也好，Artifacts也好，可能是有想考历程的数据，这类可能有契机形成很强的数据飞轮效应。

姚顺雨：大多数公司还莫得形成数据飞轮；他们依赖模子变好，利用模子变好的溢出才能。

如若你要稀有据飞轮，开头你要能我方去训模子，况兼能通过交互有很好的reward，使你能把好的数据和不好的数据分开。

比拟奏凯的是Midjourney，有相等澄澈的reward——东谈主更可爱哪张图，这个reward和应用是对都的，reward作念得更好，公司就更奏凯，模子也更好——一切都对都。有了这种情况，才能我方老师模子，作念数据飞轮。

这个历程必须比拟非干线。因为如若很干线，我也不错通过Pre-Training或RL提高才能，靠泛化或其他方式。

总的来说，大部分公司面前还莫得形成飞轮。

07 对Agent创业者的想索

“这世界是互相抄的关系，

而不是单向抄的关系”

李广密：在你看来，Agent创业者一定要有研究布景吗？

姚顺雨：不好说，挺看东谈主的。很难把东谈主浮浅分红research和非research两类，没那么认敌为友——东谈主与东谈主之间的互异很大。

可能最要紧的少许，照旧得找到value（价值）。不管你叫它product-market fit（居品与市集契合）、居品的sense，照旧别的——找到真实有价值的东西最要紧。技能仅仅技能，面前最要紧的是解决问题，需要找到一个好的问题。

如若你有很强research布景，比如，反而可能是赖事——因为你会对技能太执着，拿着锤子到处找钉子。

Cursor首创东谈主是四个本科生。Perplexity首创东谈主是研究员出身。真的挺看东谈主的，跟你是否作念过research，莫得那么强相关性。

张小珺：好的AI居品司理当该长什么样？

姚顺雨：好的AI居品司理即是一个好的居品司理，不错第一性想考。AI是变化很快的，相对不变的是东谈主、东谈主性、东谈主的需求。这变化得更慢。

你能找到一个好的需求，从第一性旨趣反推：要把它作念成，我需要应用什么样的技能？

张小珺：你若何看Manus、GensPark这些居品和他们的首创东谈主？

姚顺雨：我试过Manus，还没试过GensPark。Manus挺挑升想，给我一些启发。他们居品sense很好，有打磨居品的基因。

张小珺：这个居品应该是OpenAI干线上的居品对吧？

姚顺雨：Emm……You will see。

基于Manus，我再讲少许。传统民众认为发生的事情是：我大厂先作念出来一个东西，创业公司就不错驱动抄。比如作念出ChatGPT，我不错去抄一下ChatGPT，作念一个雷同的事情。

但面前，似乎反过来也不错竖立。不错先小厂作念一个事情，它创造出来一个交互的创新或者居品的创新，作念模子的公司也不错去鉴戒或者应用。

这点照旧挺挑升想。好多时候民众会说，模子作念得越来越好了，是给创业公司作念嫁衣了。因为你创造很好的模子，如若莫得我方把持突出好，这些创业公司就用好了。

但也不错反过来，如若你创造一个相等好的交互，但莫得才能把模子或底层才能作念突出好，大公司也不错鉴戒你的交互，再加上它的模子才能，作念得也突出好。

这世界是个互相抄的关系，而不是一个单向抄的关系。

李广密：如若你是Manus首创东谈主、CEO，你今天要走向垂直主张吗？

姚顺雨：Manus的一个价值是，它给东谈主相等general（通用）的嗅觉。但我认为，有一个相等通用嗅觉交互方式的Agent，和你有一些Killer App（爆款应用），是不矛盾的。

一个比拟瞎想的情况，你有一个相等通用的交互方式，这个交互方式想象力充足大。比如Cursor，自然它是IDE（集成斥地环境），如若它只作念IDE，想象空间是有上限的，就在IDE里面。但如若你作念一个相等general的居品形态，比如Manus，想象空间是很高的。

但并不矛盾的是，你不错有每个阶段的Killer App。比如它作念PPT突出好，作念Deep Research突出好，或者作念其他东西突出好。

iPhone或iPad曲直常通用的居品形态，但它一驱动，都有一些Killer App撑执它有momentum（增长动能）。包括ChatGPT，包括微信，好多伟大居品都这样。

你有一个充足通用、浮浅，或第一性的交互方式，它有好多想象空间。但你去保重它，或者瞎想旅途的时候，你能有千般各样的应用，使它不休地增长。

张小珺：你听了我和肖宏（Manus首创东谈主）的播客，有什么嗅觉吗？

姚顺雨：我认为挺挑升想。印象最深远的是他说，VC是一个相等贵的融资方式，不是在你不好的时候，而是在你好的时候。他有好多挺不一样的想考问题角度。

张小珺：2025年过年DeepSeek全球爆火，这对硅谷的AI研究员带来了哪些叙事变化？

姚顺雨：从OpenAI角度，民众磋磨的有几点：

少许是Chain of Thought（想维链）的reveal（展示）。高慢出一条长的想维链，似乎很要紧，它是居品形态的冲突。好多时候，技能积累还是到了，就像大水还是到达闸口，需要一个时刻“开闸”，让大多数东谈主真实感受这个技能。

咱们会说有iPhone moment、ChatGPT Moment，可能有DeepSeek moment。这个moment即是指，一个相等大的交互方式上的冲击，带来了magical（神奇）的体验。

另少许是对开源的再行想考。Sam（OpenAI首席引申官）在他Twitter上讲了好多，说OpenAI昔日淡薄了这件事，但仔细想一想，它是有价值的，可能应该作念。

咱们默许认为开源逾期于闭源，原因是，它不像Linux（操作系统），我有1000个东谈主不错每东谈主出一份力，让系统通过分散式变得越来越好。作念好一个强模子更像我有20个突出利害的东谈主，再加上多数资源，就不错作念得很好。它需要相等特殊的组织、资源和东谈主才蚁合。

这种情况下，传统真谛上开源的上风莫得那么大。比如Facebook在开源上，作念得也莫得那么好，在好意思国好多东谈主也民俗性淡薄这个旅途。

作念好开源是一个“很亏损”的事。你开头要有充足的资源，有很强的东谈主，有很好的组织文化，还要有买卖上的justification（刚直性）。最好情况是：你是个慈善家，有几百亿好意思金，你就作念这件事造福世界。

这是一个小概率事件，但它发生了，就有这样一个东谈主去作念了这样一个事。

DeepSeek在许多方面，组织架构、工程才能、基础设施，照实有值得称谈的所在。

张小珺：有一个Agent创业者想问你：Agent如何scale up？面前的主要瓶颈是算力，Agent的token用量相等可怕，单个用户滥用可能是Chatbot的500到1000倍，再重迭几百万个用户，资本相等高。这种情况下，Agent应该若何扩张？

姚顺雨：最要紧的点是——你得先找到一个好的应用。

Cost（资本）自己不是最大问题，问题是你的资本并不可诠释你的performance（性能）或value（价值）是合理的。

如若这是一个很有价值的事，我花500好意思元，但不错赚1000好意思元——根蒂不是问题。这不是technical bottleneck（技能瓶颈），而是product-market fit（居品与市集契合度）的问题。

是以，面前最要道的，是要找到真实有价值的应用。模子的cost会下落，才能会提高，这个主张是细目的。但能不可找到阿谁有value的点，是最本体的问题。

自然，不同的应用，作念法可能会很不一样：

如若是一个相对浮浅的任务，我不错老师一个小模子，让它更快、更低廉、更针对这个任务。但如若你要作念的是更复杂的事，比如投资、Deep Research，就需要更大的模子，在cost和value之间寻找新的均衡。

总的来说，第一步长久是：找到一个真实有价值的场景。

一朝你找到它，cost的问题老是有办法解决。

张小珺：你在OpenAI的一个平允是不是，不错很败露知谈哪些是模子公司的主赛谈，哪些领域可能是创业公司的契机？

姚顺雨：每个公司一朝有它的Super App（超等应用），所有事都会围绕Super App。当你有ChatGPT，老师模子的方式、组织架构，都会围绕ChatGPT重构。

如若你作念一个和ChatGPT形态很不一样的东西，是会有契机的。

08 既单极又多元的世界

“这个世界不是单方压倒另一方，

双方都有我方的力量”

张小珺：一位AI研究者说，他对Agent的想象很有限，但愿你能对将来的Agent畅想一下。你也曾说过，你的终极瞎想是打造“世界上最强的Agent”，它会是什么样的？

姚顺雨：大多数东谈主对AGI的想象即是一个模子，就像这个世界上最忠良的东谈主，他领有所有知识、才能，比咱们都忠良，是最强智能体。

但我面前的嗅觉是：不同的交互方式下，有不同“好”的界说，有不同“强”的范畴。

最终的智能范畴，是由不同的交互方式决定的，而不是由一个single model（单一模子）决定。

想象空间相等大。就像一驱动互联网降生，最早Super App仅仅把邮件升级成Email，Amazon还是算相等创新的东西了。面前就像阿谁阶段——咱们的想象力仍被以往的交互方式所放肆，还有许多尚未降生的交互方式。

这些全新的交互方式，会改变咱们的世界。

张小珺：在你脑海中，最强的Agent应该是什么样？

姚顺雨：对于不同的任务和交互，需要不同的Agent系统去解决。

模子是不错share（分享）的，但如若你磋磨的是所有这个词系统，那就不一样了。就像你问，这个世界上最强的互联网网站是什么？最强的互联网公司是什么？很难回复。它是一个multiface（多面向）的系统，有好多不同侧面。

AI可能也会变成这样的结构。OpenAI可能会成为一个雷同Google的公司，成为新世界里相等要紧的一环——但这并不代表，这个世界就会被这样一个单极系统操纵。

如若简直那样，这个世界就会变得很暗淡。大多数东谈主也就没什么价值了。

张小珺：你对将来Agent生态的构想会是什么样？面前有点像，当年民众都在创业作念App的时候，如若再往后推演几年，这个世界会是什么样？

姚顺雨：很难说。但敬佩会有好多不同的交互方式，创造出不同的系统。

OpenAI这样的公司，会想赓续鼓舞一个中心化的助手系统，有更多环境、更强才能，作念更多事情。

也会有不同的生态系统，有不同的交互方式，会老师完全不同的模子。以致从Pre-Training驱动，所需要的才能和好多东西都不同。

比如，另一种交互方式可能是，我想造一个一又友。这个一又友不需要数学、物理突出强，数学太强反而不自然。它顾虑不一定突出好，会犯错，多情谊，也不是突出rational（感性）。但这亦然有价值的——可能有东谈主会作念这种事。

这类东西很难和ChatGPT比强弱，它们是不同应用，有不同价值。

也可能出现一个由Agent构成的社会。

为什么这个世界上好多东谈主有价值？不是因为他们的数学或编码才能强，而是因为他们领有别东谈主莫得的信息。

中间商本体是领有信息差。领有信息差的东谈主会想保重我方的权益和资源。这样的东谈主会发明出更Multi-Agent（多智能体）或更Distributed Network（分散式网罗）。

在交游世界里，信息很要紧，每个东谈主只领有信息的一小部分，这种情况会出现新的不同形态。可能是Multi-Agent，每个东谈主有我方的Agent，Agent之间不错与百万以致更多东谈主交换信息，达成交游或某些目的。

根蒂上，面前相等强的巨头和要紧节点，有能源赓续推动中心化。但在中心化除外的力量，也有能源作念一些非中心化的事情。

这个世界可能不会是单方压倒另一方，双方都会有我方的力量。

而这个世界智能的范畴、研究的范畴，可能不是由一家机构界说，而是由不同Super App共同界说的。

09环境是顾虑层级中最外层的部分

“这很玄学”

李广密：更要道的是，大模子技能莫得操纵性。硅谷头3-4家好像都能悲痛一定的水平。如若OpenAI有操纵性，那是比拟可怕的。

姚顺雨：我认为暂时莫得操纵性。但如若你能找到一个居品形态，把研究上风变调成买卖上风，就会产生壁垒。

面前对于ChatGPT比拟要紧的是Memory（顾虑）。

这是可能产生壁垒的所在。如若莫得Memory，民众拼谁的模子更强。但有了Memory，拼的不仅是谁的模子更强，而是用户用哪个更多、哪个粘性更强。

我积累了更多Context，它能给我更好体验，我就会有粘性——这偶而是研究上风转移成买卖上风的方式。

张小珺：最近ChatGPT会出现灰色辅导词，高慢“顾虑已更新”，这个更新的是什么？

姚顺雨：我最近没若何用这个功能，但好像作念了一些提高。

我怀疑是它产生或者使用顾虑的方式变得更好。包括能更有用从好多用户对话中提取出来，或者retrieve（检索）出更相关的内容。细节我不突出了解。

李广密：MCP（模子高下文合同）本体亦然Memory吗？因为我的好多Context在我的个东谈主软件、企业软件里，MCP本体亦然hack（利用）Context的一种方法。

姚顺雨：某种程度上，是的。从Agent角度看，这个世界有一个Memory Hierarchy（顾虑层级）。Memory Hierarchy最外层长久是环境。

有点像你洽商电脑，它有个Memory Hierarchy，从CPU缓存到内存再到硬盘，但最外层的Memory长久是外部环境。比如我插一个U盘、拔一个U盘，或者把东西上传到互联网，或者作念个音乐变成光盘。

昨年冬天，我读到冯诺依曼临终前写的一册书，The Computer and the Brain。最让我印象深远的一句话是：Essentially, the Environment is always the most outer part of the Memory Hierarchy.（基本上，环境长久是顾虑层级中最外层的部分。）

这很玄学。

对于东谈主，你有你的Memory Hierarchy，有Working Memory（职责顾虑）、Long-Term Memory（历久顾虑）在脑子里，但最外层是你的札记本、Google Doc、Notion，这些是你最外层Memory Hierarchy的一部分。

《诡计机与大脑》（The Computer and the Brain）是20世纪伟大的数学家约翰·冯·诺依曼于1956年完成的未完成文章。这本书源自他为耶鲁大学西里曼讲座准备的讲稿，探讨了诡计机与东谈主脑在信息处理的相似性与互异性。尽管竹素篇幅仅96页，但其深远的瞻念察力和前瞻性想考，使它成为诡计机科学和神经科学领域的要紧经典之一。

李广密：Long Context跟Long-Term Memory是什么样的关系？

姚顺雨：Long Context是齐全Long-Term Memory的一种方式。

如若你能齐全1亿或1千亿或无穷长的Context，它是齐全Long-Term Memory的一种方式。它是一种和东谈主区别很大的方式，但这是有可能的。自然会有好多不同方式，不好说哪种是最好，或者最合适。

李广密：面前业界齐全Long Context有Linear（线性）方式、Sparse（寥落）方式，或者Hybrid（搀杂）方式，你有倾向吗？

姚顺雨：我不想对方法进行辩论，但我想对evaluation（评估）和task（任务）进行辩论。

起码到去年为止，民众主要还在作念所谓Long Range Arena（长距离评估基准），比如hay in the stack——我有一个很长的输入，我在中间插入一句话，比如“姚顺雨面前在OpenAI”，然后我问你相关问题。

这是一个必要但不充分的任务。你能完成这个任务，是Not Memory Work（非历久顾虑任务）中的前置条目，但远不是充分条目。它是必要条目，但面前民众有点陷在这个必要条目，莫得创造更难或更有价值的任务，这是个问题。

当莫得一个很好的评估方式，很难真实磋磨千般方法的好坏。

10Chatbot系统会演化成Agent系统

“东谈主和Agent交互的方式是什么样？”

张小珺：对于将来12到24个月，Agent领域有可能发生的事情，你有哪些预测？

姚顺雨：开头，这些模子公司的Chatbot系统会演化成一个很自然的Agent系统，它是一个很自然的过渡。

Grok、ChatGPT或Anthropic Cloud，默许的交互方式会是Agentic（智能形态的）交互方式。Chat可能还会保留或作为一个子集，但Agent会成为一个很败露、更要紧的交互方式。

会有新的雷同Cursor的居品出现，Cursor是在coding和IDE（集成斥地环境）环境下作念的Copilot（提拔编程助手），但我认为会有契机作念一些新的环境或更大环境下的Copilot。

这两种大的交互方式是互补的，或者说不一样的正交的。

一边是，我有一个基于模子的，可能是一个remote（良友）的Virtual Machine（臆造机）或者Environment（环境），我在里面作念好多事；另一边是，有好多既有的环境，比如既有的软件，或者既有的场景，我把Agent或AI才能引进去。

大趋势可能是，两方面都会往下发展。

李广密：如若咱们想推动Agentic才能变得更强，要在那儿作念职责？是在Pre-Training作念职责照旧在RL作念职责？如若我是一个应用创业者，这两个东西是作念不了的，最多尝试一些端到端RL的历程，对吧？

姚顺雨：最要紧的照旧想败露价值，你应用的价值是什么，痛点是什么，要解决的问题是什么？

自然你不可作念Pre-Training，但更有价值的是：Agent和数字世界的交互环境是什么样的？（是基于MCP照旧API，照旧别的东西？）东谈主和Agent交互的方式是什么样的？

这两个是你不错去作念的，况兼它需要好多瞎想、好多基础设施、好多工程，需要千般各样的东西。面前还远远不够好，有好多跳跃空间。

还有另一个很要紧的是：若何构建一个生态系统，或者若何积累用户的Context（高下文）或Intention（意图）？这还有好多不错作念的空间。

李广密：你刚才提到Agent Infra（智能体基础设施），如若两年后Agent还是大爆发，巨量的Agents在数字世界运行，需要再行帮Agents瞎想一套新的数字化系统吗？

Agent需要的臆造机、电脑、浏览器、搜索的API、身份认证、经济系统等等，这套Infra是为Agent瞎想的，而不是完全为东谈主瞎想的？

姚顺雨：我个东谈主嗅觉两年以内，这个世界还不会变得这样分散式，照旧更偏中心化。即是说，会有一些Super App。

自然面前有好多创业公司，但作念得好的即是那么几家。两年内照旧会有些Super App，这些Super App会有各自的Infra，有各自的Environment或交互方式。

两个事情都不错作念到极致，即是一个是基于用户local（土产货）的Digital Environment（数字环境），比如我有个手机，有个电脑，有个软件，我还是在这了，我若何把它去扩充，若何把它变得更好？

另一个是重新创造新的Environment，比如我作念Deep Research或我作念Operator（操作家），我践诺上创造一个新的Environment。这两个事都还有好多可作念的空间。

张小珺：两年后呢？

姚顺雨：这个世界变化很大。有些像科幻的预测、想法或图景。莫得东谈主不错预测两年后发生什么。

张小珺：在你看来，大型科技公司是否应该再行开启Pre-Training叙事？（我方重新探索Pre-Training）

姚顺雨：这里面波及cost和value采取。面前作念的东谈主很少，是因为资本相等大，但带来的additional value（格外价值）莫得那么大。

即使你作念完Pre-Training，你还需要作念Post-Training、RLHF（基于东谈主类响应的强化学习，Reinforcement Learning with Human Feedback）等一系列职责，才能真实把模子价值开释出来。

但如若有一天，这个世界上存在好多不同的Super App、不同的交互，它们需要不完全交流的模子才能，以致需要不同的模子，这些互异的价值充足大，能够诠释Pre-Training的资本是合理的，那么Pre-Training即是合理的。这最终是value和cost衡量问题。

李广密：Pre-Training和RL将来的关系会是如何的？会不会更多先验知识被放到Pre-Training里？

姚顺雨：我一个不纯属的想法是：不同应用需要不同形态的Agent，构造方式可能不一样。

如若我只需要下围棋，我平直作念AlphaGo就不错了，不需要Pre-Training，也不需要其他。

如若我有一个相等垂直的场景，这个场景价值充足大，我又有好多数据，不错形成闭环，我也许基于一个主要由RL驱动的系统就能work。

像Google的告白系统或TikTok的保举系统，有点雷同这样的系统——我找到了一个充足阻塞的环境，作念雷同RL的事，就不错带来充足多价值，那这个旅途是合理的。

但这个世界上还有好多长尾任务，它们需要泛化，需要构建一个更像东谈主的系统。你自然不是无所不知，但你不错学习，你不错通过在线学习进入一个新的公司、适当环境、完成新的任务。在这些所在，Pre-Training要紧性会更高，因为它带来更强的泛化性。

是以不同应用会有不同技能阶梯。但技能阶梯毕竟是器具，只消你的value大于cost，技能上的遴荐是flexible（纯真）的。

莫得哪种技能阶梯一定会胜出。只消它在经济上竖立，就有可能性。

第四章 东谈主类的全局

11东谈主与系统

Agent要不要像东谈主？

“是一个效率问题”

张小珺：在你研究Agent的历程中，对于东谈主，你有更深的认识吗？若何看东谈主和Agent的同与不同？

姚顺雨：我相识到，东谈主之是以能泛化，是因为东谈主能推理。

这个很挑升想。我2018年在MIT Josh Tenenbaum实验室——他是一个认识科学的大佬——我学了好多认识科学的东西。

认识科学，或者诡计认识科学，一个中枢故事是：咱们面前的AI自然有好多进展，但还有好多问题。咱们应该去望望，东谈主有哪些上风，东谈主是若何作念这些事情的，为什么东谈主能把这些事作念得更好？比如说，东谈主能够从几个样本中泛化，但机器作念不到，为什么？咱们要从东谈主身上去寻找这些方法，再把它应用到AI上。

自后我的认识有了变化。我发现，面前真实能见效的AI系统，跟东谈主照旧很不一样。比如Scaling Law、强化学习，还有好多老师策略，它们和东谈主类学习的方法本体是不同的。

我面前认为，一个更好的方法是：你先去想考东谈主能作念什么，而机器面前不可作念。这是客不雅事实。

但你找到互异之后，你不错基于第一性旨趣去想考，如何解决这个问题。你不一定要依赖“东谈主是若何解决这个问题的”来解决它。

比如说，东谈主面前能作念的事情是什么？我不错进一家公司，在里面职责7天，我能积累公司的Context。即使我不是很忠良，但我依然能完成好多AI作念不了的事。这个互异客不雅存在。那若何解决？

可能认识科学或神经科学会告诉你：东谈主脑有海马体（Hippocampus），多情节顾虑（Episodic Memory），有某种架构或机制。但我认为，咱们不需要完全照搬生物机制。不错从第一性旨趣开赴，瞎想Long-Term Memory该若何作念。

是以，从东谈主身上不错鉴戒的少许：哪些事情是东谈主不错作念，而机器面前不可作念？这点比拟robust（踏实）和客不雅。但至于“东谈主是若何作念到的”，以及“咱们在多大程度上要鉴戒这种方式”，这个问题自己更主不雅、也更noisy（带噪声）。

神经科学或认识科学也莫得100%解答这些问题，只提供了猜想或表面模子。另外，即便被证据，比如东谈主类视觉是面前研究比拟彻底的领域之一，东谈主类大脑有六层皮层（cortex），每一层有千般结构和功能。但从这里获取的启发是：咱们也许要构建新的神经网罗，而不需要照抄那些细节。

张小珺：譬如说，瞎想Agent在什么情况下，需要它越来越像东谈主？什么情况下需要它不像东谈主？

姚顺雨：Again，这是一个Utility Problem（效率问题）。

好多问题上，东谈主的方式并不一定更有价值。比如下围棋、开车。我不知谈。大多数东谈主可能开车的方法并不好，也许基于规矩有更好的开车方式。但有些事情，东谈主即是作念得更好。那你就应该想考，若何去bridge the gap（弥合这个差距）？

下围棋、打游戏，基于强化学习不错学到和东谈主不一样、以致更好的方式，就不需要像东谈主。

但如若在一个公司打工，和雇主搞好关系，完成千般各样的任务，东谈主即是比AI作念得更好，就需要更像东谈主。

张小珺：你若何想考东谈主和Agents将来的关系？

姚顺雨：这是一个交互方式的问题。

很有可能有好多Agents，长得并不像东谈主，和它交互的方式并不像东谈主——可能是平台、页面、游戏，或者别的东西。你就不会把它拟东谈主化。自然，敬佩会有好多拟东谈主化的Agent。

李广密：如若Agent有了历久顾虑，它是不是即是你的一又友了？如若它是你的一又友，东谈主和Agent就对等了，是不是咱们就要给它发身份证了？

姚顺雨：发身份证的目的是什么？

李广密：它作为悠闲个体跟咱们共存。

姚顺雨：会有可能吧。这些事情最终照旧从Utility（效率）开赴。

一个事情如若有价值，就会产生。比如，好多东谈主很孤苦，他需要一个一又友，技能如若能创造这样的体验，拟东谈主化即是合理存在的将来。

但如若它去作念一个平台、一个保举、一个游戏，这个技能会有好多不同的交互方式，让你嗅觉它不像一个东谈主，或者你根蒂嗅觉不到有区别。你就不会把它算作拟东谈主化。

照旧会基于这个事情的经济价值。

李广密：你提到经济价值。你认为AI Agent跟Crypto（加密技能）将来有结合的所在吗？

比如，Crypto这一套智能合约机制，如若跟Agent结合，在将来有莫得可能是这样：一个Agent帮我完成某个任务，这个任务有一个公允价值计量。任务完成之后，就不错按照智能合约的商定去分派经济利益。

这样是有契机探索出一种叫作念value-based（基于价值的）买卖模式。仅仅说，面前咱们还不太能准确估量这个任务的客不雅供给价值是若干。

姚顺雨：我对Crypto了解未几，但可能一个中枢问题是：这个技能的演变，会变得更中心化照旧去中心化？——双方都有argument（论点）。

中心化论点是：面前这种新的超等公司，OpenAI或Anthropic，它们有可能变成one trillion、ten trillion、hundred trillion（万亿、十万亿、百亿万亿）级别的公司。它们可能会占据绝大多数资源，尤其是算力，也有才能去创造出一个Super App或Super Platform（超等平台），领有繁密中心化上风。

而去中心化argument（论点）是：每一个个体都不错被赋能。面前东谈主和东谈主之间之是以差距这样大，是因为存在信息差、认识差、智能差。如若智能变得低廉，像电一样，它也不错赋能给大多数东谈主。

这个问题挺挑升想的。

我最近的一个想考是这样：我嗅觉东谈主类社会是一个网罗，它有两个要紧性质：

一个性质是中心化程度，也不错说是资源分派的蚁合性。咱们发现，原始社会曲直常平均的社会，但跟着技能发展，它变得越来越中心化。你不错用二八定律、马太效应、或whatever来解释这种趋势。但还有另一个维度，是你从网罗边际到中心的速率或可能性。

昔日几百年发生的事情是这样：网罗越来越中心化，贫富差距越来越大，二八定律、马太效应更显然；但与此同期，子民或正常东谈主翻身的契机也变多了。

如若是在古代，门阀轨制、九品中正制，或者欧洲贵族轨制，农民长久是农民。印度种姓轨制也一样，有显然的阶层固化。

看起来，技能发展的趋势是两件事同期加重——一方面，中心化加重，因为效率这个要素是根人性的；另一方面，创造新东西的契机，起码到面前为止，是越来越多的。

变得更中心化和变得更diverse（千般化），可能并不矛盾。

但将来是不是一定会执续下去，也不好说。

12OpenAI的抉择时刻

“如若你莫得different bet，

很难超越前边的霸主”

张小珺：我想聊聊OpenAI。我铭刻你提到OpenAI的几次尝试很挑升想。

它领先的筹划是构建Gym，一个用于千般游戏的轨范强化学习环境。自后是World of Bits和Universe面孔，试图把所有这个词互联网或诡计机交互编程成一个游戏。一朝能把所有这个词数字世界变成一个环境，用忠良的强化学习算法解决它，就领有了AGI。

但这套想路并莫得见效。直到GPT-2和GPT-3出现，东谈主们才相识到，之前缺失的是先验知识。你需要一个强盛的语言预老师历程，把一般学问和语言知识提取进模子中。再通过微调，让它成为一个能浏览网页的或能对话的智能体。

你能不可更详备讲讲，OpenAI探索历程背后的想路演化？从Gym到Universe到GPT这一整条旅途的尝试中，转换点是若何发生的？

姚顺雨：这是我我方的牵挂和揣度。

OpenAI是一个比拟bottom-up（从下到上）的公司。在领先7、8年里，它更像是一个research lab（研究实验室），每个东谈主有千般各样的想法，作念千般各样的尝试。可能每个东谈主想法都不一样。

但客不雅看，一驱动民众的要点照旧聚焦强化学习，其时最火的主张是这个，对吧？

DeepMind或者2015年刚竖立，那时AI领域最受关注的公司是DeepMind，它最奏凯的效率亦然强化学习。GPT出现前，最奏凯的AI面孔是AlphaGo。很自然，OpenAI也作念强化学习。

但问题在于，如若你莫得一个different bet（不同的下注主张），很难超越前边的霸主。如若OpenAI一直作念强化学习，可能很难超越DeepMind。即使你在某些任务上作念得比它好，东谈主们提到强化学习，猜想的照旧DeepMind。

你要想超越之前的霸主，就必须有一个different bet。而GPT是阿谁不同的赌注——但这个遴荐在其时是一个非共鸣的事情。

我不错讲个例子：我导师是GPT‑1第二作家，他在OpenAI待了一年，然后去普林斯顿当老师。他对这件事是有点怀疑的。

他认为GPT‑1的扫尾也不是突出好，在排名榜上也不是分数最高，而且老师花了好多算力。其时还是有Scaling Law初步雏形。2017年，Ilya就跟我导师说：”Language is basically solved, and we just need to scale up.\"语言模子的问题还是被解决了，面前只需要扩张范围就行了。

但即使你在OpenAI，即使你是GPT作家，你也可能莫得形成共鸣。是以OpenAI其时作念的是一个相等反共鸣的决定。面前还是变成了共鸣。但接下来，你还需要寻找下一个反共鸣的主张。

张小珺：其时其他东谈主对你导师的看法是如何的？

姚顺雨：我说真话，其时OpenAI里面绝大多数东谈主也不认为scale-up（扩大模子范围）是最promising（有出路）的主张，我认为这是有可能的。

Ilya最大孝顺并不是他作念了GPT‑1，或者他具体参与了什么技能职责；而是，他是阿谁敕令民众all in（全力插足）这个主张的东谈主。

Dario（Anthropic妥洽首创东谈主兼CEO，曾是OpenAI研究副总裁）亦然。他最大孝顺不是提议某个具体技能，而是：作为一个首创东谈主，我敢赌。我敢赌这个主张，把所有钱砸进去。

李广密：有东谈主快意去作念GPT‑3是突出要道的。像Dario也好，Tom Brown（Anthropic妥洽首创东谈主）也好，他们勇于把GPT‑3作念出来，这件事让东谈主看到了更大但愿，也泛化了。

姚顺雨：对，自然平允在于，你并不需要所有东谈主达成共鸣。只需要有充足多东谈主达成共鸣，就不错把它作念出来。

张小珺：对于OpenAI里面来说，强化学习在什么时候驱动变得突出要紧？

姚顺雨：强化学习一直很要紧。即使我在作念GPT的时候，John Schulman（OpenAI妥洽首创东谈主之一，强化学习领军东谈主物）照旧在赓续作念强化学习。并不是我作念了GPT就把强化学习扔掉了。而是公司70%、80%的资源在作念强化学习，一些别的东西还在作念。

自后诠释，ChatGPT奏凯，强化学习也很要道。莫得RLHF，莫得Alignment（对都）技能，它也没办法形成一个居品。

历史并不是说我把强化学习彻底毁掉，转而走另一条路，再复返来走强化学习，而是更soft（柔软）的历程。

李广密：接下来几年，你展望会有更多GPT‑3时刻吗？

姚顺雨：会有新的scaling dimension（扩张维度）出现。如若你有多数的Memory（顾虑），你的test-time compute（测试时诡计资源）就会有所增多，不错用新的方式scale（扩张）。

如若你有了Multi-Agent（多智能体系统），那你的test-time compute又会出现另一个新维度去扩张。

我认为会有新的scale dimension出现，但当你有好多scale dimension，若何去遴荐？若何基于某一个应用去分派不同scale维度的比重？——这会是一个很挑升想的问题。

13假若你是一个CEO

“开头我敬佩会学习”

李广密：顺雨，如若你是一个全球超大互联网或科技公司的CEO，今天这个公司还莫得我方的模子，莫得好的研究文化，以致莫得好的AI战术，你作为CEO会若何作念？

姚顺雨：开头，我敬佩会学习，我会想弄败露这个事情到底是什么。如若你作为CEO不懂这个事情，所有事情会变得很难。

好多时候，一个公司的bottleneck（瓶颈）就在于，CEO对这个事瓦解不够。如若你不睬解，去招一些很好的东谈主、作念一些事情，你很可能被他们忽悠。是以，开头要我方学习。

然后要从创造新的价值来想考问题。毕竟你不是技能巨匠，而是一个CEO，你有一些场景、一些资源、一些上风。从第一性旨趣看，一个新的技能产生了，你要想考的是，若何用这些新技能结合你面前的资源去创造新的价值。

自然，你不错尝试作念一个和现时业务完全不一样、但价值相等大的事情，比如ChatGPT，但对大多数公司来说，即使很有钱、很强，也不一定make sense（合理）。

是以，第一是我方要学习技能；第二是要想考若何创造新的价值。

李广密：如若你成为了伯克希尔的CEO，将来要拿出500亿好意思金allocate（分派）到AGI行业，你会若何allocate这笔钱？——既能体现薪金，也能体现对东谈主类的孝顺。

姚顺雨：这是个很好的问题。取决于你有若干元气心灵，或者有若干资源分派颗粒度。

自然面前OpenAI、Anthropic，这些模子层公司，或者率会有更大价值。

还有一类很有价值的，是能积累User Context（用户高下文），或者能构建特殊Environment（环境）的公司。最终如若AI或AGI是一个系统，它需要有Intelligence（智能），需要有Environment，还需要有User Context，或者对用户的瓦解。

面前有好多User Data（用户数据）或User Context的公司，有点像发明车之前的煤炭、煤矿，或者像发明汽车之前的石油公司。

从这个角度，微信或大平台，照旧一个易守难攻的好平台，它积贮多数的Context。

如若Intelligence是一个不错渐渐民主化、渐渐变得低廉、渐渐普及，领有这样的平台，领有这样的Environment，领有这样的Context，可能会是一个很强的壁垒。它可能照旧一个很好的投资。

李广密：如若你是Cursor的CEO，你会去作念Pre-Training的事情吗？

姚顺雨：我敬佩会老师模子，或者尝试老师模子，但作念不作念Pre-Training看情况。

Coding曲直常干线的任务，所有大厂都会把模子的coding作念好。所有的Pre-Training、Post-Training、RL，都会洽商到这少许。

这个情况下，要不要作念可能取决于，开头这些闭源模子作念得有多好，其次开源模子作念得有多好，中间有若干gap，你能填补若干这样的gap。

但自然，如若你有好多钱，有好多资源，想把这事情作念了，亦然合理的。

张小珺：今天顺雨当了好多公司的CEO，那我再问一个：如若你是微信的一号位，你会若何在微信里作念Agent？

姚顺雨：我可能会不急，先不雅望不雅望。

我好像莫开心义要急。我会不雅察，我会学习AI，会不雅察有莫得什么新的交互方式很挑升想。但我不会急着去作念好多事——我有易守难攻的所在，为什么要急着伏击？

比拟危机的是一个颠覆性的创新。真实的危机，不是说一个雷同于微信的东西击败了微信，而是一个很不一样的东西击败了微信。

就像微信击败了QQ。其时顾虑的并不是一个雷同QQ的东西击败了QQ，而是一个很不一样的居品去击败这个东西。需要对颠覆性创新有所警惕。

但如若是这些incremental（渐进式的）创新，这种小的创新，早作念晚作念可能区别莫得那么大，也不必太顾虑。

李广密：所有东谈主都说微信卡位好，但今天微信还莫得很激进地插足，如若将来Multi-Agents、Long-Term Memory这些问题解决了，但这个Agent系统不长在微信上，是比拟恐怖的。原有网罗不一定有价值。

姚顺雨：这取决于东谈主类的网罗会变成什么样？你会有更多Agent一又友，照旧更多东谈主类一又友？或者你有更多Agent劳动上的交互，照旧有更多东谈主类劳动上的交互？

微信上你既有一又友，也有基于劳动的交互——比如我要买个东西，我要究诘讼师，对吧？

这取决于东谈主类的网罗会变成什么样。但总会有一个这样的网罗，基于这个网罗，敬佩会需要有基础设施，需要有平台。

李广密：若何保证AGI齐全之后的安全问题？微信昔日照旧一个比拟负包袱、比拟安全的平台，那如若将来power（才能）很强了，好多坏东谈主来作念赖事，以致颠覆东谈主类，安全问题历久若何解决？要有AI宪法吗？

姚顺雨：安全是很复杂的问题。比如ChatGPT，如若它不安全，居品就失败了，莫得买卖价值。即使是为了买卖价值，它也会疼爱安全。

但面前的主要不合是，需不需要居品除外、更相识形态上的安全？这个民众莫得界说败露。

前者容易解决：如若你有一个好的应用，你总会有办法解决安全问题，我信赖。至于第二者，会有很大不细目性，我很难评价。

李广密：你个东谈主会顾虑AGI齐全之后的安全问题吗？

姚顺雨：我会顾虑。但面前最大问题是——AGI还没齐全，咱们还没创造充足价值。

如若咱们还没想败露，若何把它变得有价值，就急着把它变得很安全，好像莫得真谛。

14这个时间，作念上限更高的事更好

“如若敢想、胆子大，就会有善事发生”

张小珺：你作为AI研究者，博士期间职责还是获取了好多关注，在你眼中，你作念对了什么？

姚顺雨：我想作念的就两条线：浮浅通用的方法、有践诺价值的任务。这些任务频频是，如安在真实数字世界创造新的价值。这是一个处女地，是一个繁密的矿藏。我恰好挖掘了一些东西。

需要你想得充足斗胆或充足通用吧。

另一个很要紧的是：要去看好多东西的交壤处。ReAct之是以能作念出来，因为咱们选了一些自然语言处理的任务，也选了一些游戏的任务，需要把自然语言处理和强化学习的范畴买通。但好多东谈主会堕入一个学科里面，就更难去作念更通用的东西。

张小珺：ReAct在作念的历程中有遭受什么坎吗？

姚顺雨：最难的都是找任务。

大多数好的方法提议，是因为它有一个特定任务，这个特定任务恰好激励出一个通用方法。比如PPO（Proximal Policy Optimization，一种强化学习优化算法）一驱动是为了解决一个特定问题；Transformer一驱动是为了解决一个特定任务；Attention（贵重力机制）受翻译这个任务影响很深。

但我的阅历比拟特殊，好多时候我是脑子里先猜想一个东西，我认为它很通用、很好。但我要去找一些任务，诠释它很通用、很好，或者将来有价值。它面前还莫得充足多价值，但你需要先找一些浮浅任务去诠释它有价值。这是很难的。

创业需要product market fit，作念research需要method-task fit（方法和任务的匹配）——这是最难的。

张小珺：你也曾猜想最激进的一个任务是如何的？

姚顺雨：这个时间再激进也不叫激进——Anything is possible。

毕业前我想得多的是，若何创造一个爱因斯坦？我那时是比拟academia（学院派）的东谈主——你在普林斯顿，你的偶像是冯诺依曼、爱因斯坦——很自然，能猜想最挑升想的任务是，我能不可发现下一个相对论？这毫无疑问能秀美，AGI或ASI（超东谈主工智能）齐全了。

自后，我到了硅谷，到了加州，进入公司之后，我发现东谈主类的组织亦然一个挑升想的事情。如若能创造一家新的公司，创造一个one trillion dollar（一万亿好意思元）、基于Agent的公司，是很挑升想的。

张小珺：为什么是东谈主类的组织也很挑升想，而不是东谈主类的居品很挑升想？

姚顺雨：居品自然很挑升想，但好多组织的方式，就像一个general method（通用方法），能创造好多不一样的伟大的东西。比如股份制、组织架构，它就像相等通用的AI方法一样，创造了好多不一样的伟大的东西。

张小珺：在你的成长路上，你的mindset（想维方式）跟同龄东谈主差未几吗？照旧不一样？

姚顺雨：我的旅途挺践规踏矩的，也莫得跳班，莫得作念什么很surprising（让东谈主诧异）的事情。但我对一个东西的价值，或者taste（回味），有我方的看法。民众频频会倾向于作念一个细目性比拟高的事情，包括作念研究、作念公司。

但我认为恰好是这个时间，你去作念上限更高的事情是更好的。

因为面前有一个繁密的契机。如若莫得这样一个繁密的契机，最好旅途可能是去作念incremental（渐进式）、细目性强的事情，一步一步地积累。但恰好有一个上限相等高的事情。

如若你敢想，或者你胆子突出大，或者你想象力很丰富，就会有善事发生。

张小珺：在你成长路上，对你启发大的是什么？是书、电影、音乐？哪些东西塑造了你的mindset？

姚顺雨：看书挺有匡助，我是一个可爱看杂书的东谈主。什么书都看，什么电影都看，什么所在都想去。

我从小是一个比拟general的东谈主——我想试图变得很通用，试图了解好多不同的学科，作念好多不同的事情。

但自后我发现，一个东谈主即使再忠良、再有元气心灵，他能瓦解的知识或能作念的事情，也仅仅东谈主类社会积累的知识的很小一部分。更好的是，你去创造一个比你更通用、更general的事情。

我好像一直对于通用性，有一种执念或追求。

张小珺：通用性意味着什么呢？——不错充足神圣？

姚顺雨：我不知谈，但我从小即是想学习好多不同学科，都很挑升想。

我在姚班好多同学，他们是那种很deep（深度的）、很focus（专注的）同学——我去作念竞赛，我就把这个事作念到极致，不休刷题，作念到世界金牌。

但我好像不是那种秉性，我是那种——我会看好多数学，也会看好多历史，会看千般各样前仰后合的东西。

张小珺：你会刷竞赛吗？

姚顺雨：我也搞竞赛，但莫得本科同学那么利害。我是信息学拿了寰球银牌。

张小珺：你是清华的说唱社妥洽首创东谈主，对吧？我昨天去翻了一下你的网易云音乐。

姚顺雨：被你找到了？看来你有Deep Research的才能。

张小珺：你最可爱的说唱歌手是谁？

姚顺雨：我有好多可爱的说唱歌手。说唱很挑升想，每个东谈主作风都很不一样，这点是好多东谈主可爱说唱的原因——你有我方的个性、我方的flow（节拍）、我方对生计的想考，你不错创造不一样的东西。它不一定是最好的，但民众是不一样的，这点很迷惑东谈主。

张小珺：它跟你作念AI有相似之处吗？

姚顺雨：GPT-3刚出来，民众都认为很利害嘛，我猜想第一个作念的即是，望望能不可生成说唱歌词，况兼有内容性。似乎今天照旧很难。也许说唱歌手是一个被东谈主们低估的职责。

张小珺：填词，这不即是predict next token（预测下一个词元）在作念的事情吗？

姚顺雨：一个东西宛转、flow好、听上去欢悦，是很难被量化的reward。好多时候一个东西，比如flow或style，它出现太多了，就不好了。独到反而是好的。真实伟大的说唱歌手，有好多独到的对生计的想考，而AI还莫得生计。

张小珺：有可能有对于智能来说，比语言更本体的存在吗？

姚顺雨：在特定领域，敬佩有比语言更好的暗意，比如围棋。

但语言的降生，不是为了处理某个特定任务的效率或交流，它为的是买通所有任务或者买通东谈主的认识才能，形成一个通用的暗意。

它并不是为了某个特定任务最优而优化，它在特定任务上有冗余性，但它全体是通用的。

AI自然也不错创造一个新的语言，可能效率更高。但我认为，最终或者率即是英语。因为东谈主类还是有很强的先验知识，而且东谈主有这样的价值取向或动机，想让机器的语言和东谈主更像。

这样，咱们不错更好地瓦解它、限度它、监控它、改变它、操控它，似乎是个很自然的遴荐。

张小珺：你内心的驱能源是什么？你的愿景是什么？你10年后想成为谁？

姚顺雨：用一个相等俗的话说，但愿你对这个世界创造一些不同——探索新的、根人性的研究，是一种创造不同的方式；创造一种完全不同的新的居品形态，亦然一种创造不同的方式。

如若我眼赶赴作念一家雷同xAI或Thinking Machine的公司，或者作念一个雷同Chatbot或Assistant的居品，照旧可能赚好多钱，买卖上很奏凯；但如若我作念了一个形态很不一样的东西，失败了——我起码探索了不一样东西，会更挑升想吧？

我导师令我印象最深的是这样一句话。学术圈粗造发生这样的事——你有一个想法，然后别东谈主作念了，你会很烦。他说：If someone else can do it, then it's okay to let them do it（如若别东谈主能作念，那就让他们去作念吧）。

从东谈主类全局的角度，如若这个事情好多东谈主能作念，别东谈主作念可能是不是也莫得什么区别？对这个社会，或者对全体来说，似乎莫得什么变化。

自然，有东谈主说这个相等假。最终你会发现，这个世上莫得什么事情是不可替代的。相对论即使莫得被提议，也会有东谈主提议，莫得什么事情是你不在，另一个东谈主不可提议了——然而，我认为这话照旧有风趣的。

如若你很败露看到别东谈主就在作念这个事，你不错遴荐去和他卷。如若你要和他卷，你更有用率，或者你能作念得更好，亦然合理的。或者，你也不错去作念一些不一样的探索。

我认为，最终你要对这个社会产生价值。

但这个时间很红运的少许：这个技能相等通用，这个技能相等伟大，有充足多探索的空间。

另少许是，我想让生计更好奇，更挑升想，更欣忭，就去作念一些我方可爱的事情。这很难用语言解释，即是一个taste（回味）或preference（偏好）的问题。

张小珺：你会洽商创业吗？

姚顺雨：OpenAI大多数东谈主都会洽商创业。面前曲直常exciting的时候。还是有好多OpenAI的东谈主出去创业了。我需要去作念更有挑战的事情，很自然会去创业。

但照旧应该找到一个好的事情。我可爱把事情想得败露少许再去作念。

张小珺：咱们临了还有几个快问快答。

姚顺雨：好。

张小珺：一个全球范围内你可爱的食品。

姚顺雨：我可爱椰子。

张小珺：一个全球范围内你可爱的地点。

姚顺雨：我很可爱伊斯坦布尔。

张小珺：一个少有东谈主知谈然而必应知谈的知识点。

姚顺雨：我挺建议民众去看《智能简史》这本书。有好多很挑升想的知识点。

为什么大多数动物都是阁下两侧对称，况兼有一个像嘴一样的食品进口，有一个像肛门一样的食品出口？为什么气体是统一个口，而食品和水是两个口？这个很挑升想，有些本体原因。

张小珺：什么本体原因？

姚顺雨：你会发现，如若你要作念navigation（导航），在这个世界中转移，阁下对称的结构最优。世界上所有交通器具都是阁下对称的。因为你不错一个方上前进后退，另一个主张向左转向右转。它和车和飞机都是阁下对称，结构是雷同的。

至于食品柔顺体还有别的原因。

张小珺：基于你所有读过的书，保举两本必念书。

姚顺雨：《智能简史》这本书很挑升想，是我去年读的。

我会保举千般各样的自传。列传很挑升想，好像你在体验别东谈主的生计。

张小珺：你心目中影响AI进度的几篇论文。

姚顺雨：有好多，我认为莫得最要紧——Backprop（反向传播）、Transformer（变换器）、GPT（生成式预老师变换模子）——都是积累的历程，莫得一个是最伟大的职责。

李广密：你会对Agent创业者有什么建议吗？

姚顺雨：可能有点衰落：想败露你的价值是什么。技能是器具，瓦解技能趋势很要紧，但创造价值是最要紧的——想败露你为用户带来了什么样的增量价值，这是最主要的。

张小珺：基于你当下的认识，一个最要道的要紧的bet是什么？

姚顺雨：即是bet on有different Super App（不同的超等应用）的居品形态，有不同的交互方式。

如若你不信赖这少许，世界就变得很暗淡，即是唯有OpenAI或者Anthropic有契机。

但如若你信赖这少许，就会有好多新的契机。