上周 Google 首席科学家 Jeff Dean 在 YC Startup School 2026 上了一堂对话课，全场 6000 个创业者。
我看完之后只记住三件事，先放结论：
- Agent 已经能连续跑几周处理复杂任务——不是跑两小时那种，而是几天几周那种，这件事大部分行业还没真正消化
- 数据搬运的成本是计算的 1000 倍——这笔账比任何模型参数规模都更决定 AI 系统的上限
- 当 Agent 写代码成为常态，最稀缺的能力是"品味"——也就是判断"什么问题值得解决"
这三条，是 Jeff Dean 从几十年做系统的经验里、从一笔一笔"餐巾纸数学"里、从一次次挑战默认假设里沉淀出来的。
一、初级工程师水平已达成，下一版会是什么？
去年 5 月，Jeff Dean 在 AI Ascent 上讲过一句话：AI 已经到了初级工程师的水平。
一年过去，主持人追问他：这个判断准不准？
他的回答是：说中了，但他承认低估了模型处理复杂任务的增长速度。这个速度比他预想的更快，而且不止在写代码——Agent 型系统在其他领域也开始真正发光。
那下一个版本的预测呢？
他给出一个方向：让机器学习系统通过跑大量实验、把问题拆成子问题、进入紧密的自动实验循环、再拼回来，从而自我改进。
而且他不只限于机器学习。他说，任何你能定义一个"可衡量目标"的科学和工程领域，都可能借这个回路取得巨大进展。
二、历史总是押韵：找到"全放进内存"的时刻
Jeff Dean 讲了一个很妙的历史类比：
2001 年的 Google 搜索跑在硬盘上。他和老搭档 Sanjay Ghemawat 算了一笔账——总有一天，整个搜索索引能装进所有机器的内存里。于是他们几天之内就上线了一个跑在内存上的全新搜索版本。
那基本就是 Google 搜索变快的关键转折点。
那 2026 年的"终于能全放进内存"的时刻是什么？
他的答案指向硬件。
他会看到越来越多高性能、低能耗的推理硬件系统，因为推理才是让 Agent 型系统服务更多人的关键，而且延迟非常重要。硬件的专用化，是让系统比 GPU 或 TPU 这类通用计算设备更节能、更低延迟的关键路径。
他说一句特别朴素但很有力量：“我们都已经习惯了等模型返回结果，但等待并不好玩，速度才是王道"。
如果延迟能降低 50 倍，会发生什么？这是他留给所有人的一个想象空间。
三、一个重塑所有 AI 设计的数字：1000 倍
这是整场对话我觉得最硬核的一段。
Jeff Dean 说：做一次计算的能量代价大约是 1 皮焦尔（picojoule），但搬一次数据的能量代价是它的 1000 倍。
哪怕只是把数据从加速器的高带宽内存搬进处理器，让它真正参与计算，能量代价也高得多。
“搬数据比计算贵 1000 倍”——这件事塑造了机器学习里很多事情的做法。
- 没有这个差距，你不需要把数据打包处理
- 但正因为有这个差距，你必须把很多样本或很多 token 一次性攒成一批再处理，去摊薄数据搬运成本
- 但如果你想做极低延迟，打包处理其实并不是好办法
底层硬件的能量约束，非常深地影响着更高层系统的很多选择。
那 AI 版"延迟数字"清单该包括什么？他给了几个关键数字：
| 关键指标 | 说明 |
|---|---|
| 主存到加速器片上内存的带宽 | 决定模型加载速度 |
| 到乘法单元的带宽 | 决定真实计算吞吐 |
| 一次乘法运算的能量 | 决定能效上限 |
| 芯片间互连带宽 | 决定大规模协同能力 |
| 500 颗→10000 颗芯片时的网络衰减 | 决定系统扩展效率 |
这些数字，真正影响你怎么思考某类问题的解法。
四、TPU 的诞生：从餐巾纸数学到 30 到 80 倍能效
Jeff Dean 特别擅长"餐巾纸数学”——在餐巾纸上快速做粗略的数量级估算。TPU 的诞生，就是这套数学的胜利。
2013 年左右，Google 的语音识别开始真正变得可用。他算了一笔账：如果每个 Google 用户每天只是在手机上用 3 分钟语音识别，Google 整个服务器集群都得翻倍。
贵得离谱。于是他们造了一颗定制芯片——这就是 TPU 的起源。
初代 TPU 相比 CPU 和 GPU：
- 能效高 30 到 80 倍
- 延迟低 20 到 30 倍
一个非常惊人的基础。
有意思的是，在他们发明 TPU 的时候，Transformer 架构甚至都还没出来。他们也预料不到 TPU 后来会变得这么基础。但正因为如此，他们当时造的是一个"通用线性代数系统"，而不是为某个特定算法过度专用的硬件——因为机器学习算法还会继续演化。
“把硬件做得过度专用，但又专用到足以拿到巨大的性能提升”——这个平衡点，到今天仍然是推理硬件设计的核心命题。
五、Agent 跑几周、上下文工程、以及"Skill"的崛起
Jeff Dean 特别点出了一个很多人还没内化的事：Agent 连续跑几天甚至几周来处理非常复杂的任务，已经是可能的了。
他举的例子是：让 Agent 去把某个软件用另一种编程语言重写，新版本可能有更好的安全性或性能。AI 真的可以比较认真地把这件事做下去。
那现在 AI 系统真正在进化的是什么？
他说模型只是整个系统的一部分。真正的目标是构建一个能解决有意思问题的完整系统——会检索、有记忆、会调用工具、能拆问题、能评估不同方法哪种有效。这就是复杂 Agent 和多 Agent 系统的编排能力。
其中他特别提到了上下文工程（Context Engineering）：
“所有人其实都能做。以前训练模型需要巨量资源、GPU 和数据。但做上下文工程，只需要一个像 Gemini 这样的 API，加上自己的检索、工具调用和工作流搭建，就能开始。”
让模型变强的关键方法是什么？不是从外部调参数，而是给它更好的指导——更好的 guideline、更好的 skill，让它知道某一类问题该怎么调工具。
他甚至分享了亲身案例：几周前他和 Sanjay 还在做底层库的性能优化，写了一个 skill，本质就是教模型怎么在不同步骤顺序里完成测 benchmark、改代码、重测、迭代。方法本身不神秘——只是把人类自己会用的那套方法，转写成了模型能用的形式。
六、创业机会：找 0% 到 1% 成功率的领域
所有创业者最关心的问题：Google 把每一层都共同设计了，那两三个人小团队还有什么机会？
Jeff Dean 的判断很明确：Google 和 Gemini 确实在努力做"什么都能做的通用模型"，但恰恰因为要做得很通用，所以对某个特别具体的领域，不会投入足够多的注意力。
所以如果你能围绕某个特定领域设计非常好的产品界面，再配上一套模型和 skill，甚至一个更专门的模型——完全可能获得明显优势。
那怎么判断什么方向值得做？
他的第一条建议极其朴素但重要：挑一个你自己超级兴奋、非常想做、而且你觉得对世界有用的东西。 能做到这一点，你已经领先很多了。
第二步是看通用模型在当前问题上能到什么程度。他给了一个非常反直觉的判断标准：
| 通用模型在当前任务上的成功率 | 信号 |
|---|---|
| 完全失败（0%~1%） | ✅ 好信号——往往意味着这是一个值得做的切口 |
| 能做一点但还不太好（20%） | ⚠️ 未必好——说明能力已开始出现，再多一点训练数据就通了 |
要做的方向通常是超出训练分布的、类型不一样的问题，或者你的产品拥有某类底层通用模型没有的专有数据。
AlphaFold 就是一个高度专门面向蛋白质折叠的模型，极其成功，但它不是通用模型。材料科学、芯片设计等领域也可能适合类似路径。
当然他也提醒：通用模型确实在变得越来越强、覆盖越来越广的任务，所以你必须判断你做的东西耐不耐打——前沿模型会不会在未来 6 个月、12 个月就把它做掉？还是两三年都做不到？
七、未来最稀缺的能力：品味
这是全场我印象最深的一段对话。
主持人问：当调度几百个 Agent 成为标配，代码都是 Agent 写的之后，最稀缺的能力会变成什么？
他的回答是：品味——判断到底该让 Agent 去解决什么问题。
从他自己的研究背景看，这其实就是"研究问题选择"的核心。一个研究者可以拥有所有工具和技术，但大部分胜负发生在一开始前你选了什么问题来投入时间。问题选得好而且真的解决了它，远远胜过把一个无聊问题研究得特别精致。
那品味怎么练？他给了三个方法：
- 靠经验——你过去做过很多不同的问题，这些经历会教你未来什么可能值得做
- 写预测——写下未来 12 个月里你觉得可能会重要的事情，也许只选一个去做。12 个月后回来看，其他预测哪些真的重要了、哪些被别人做出来、哪些没发生——你在给自己制造训练样本
- 做疯狂的思想实验——不要把所有人都默认成立的事当成理所当然
他举了一个特别有意思的思想实验：过去 60 年，整个硅芯片行业一直在努力把晶体管做得越来越小、错误率越来越低，因为默认目标是"每一颗芯片都应该跟别的完全一样，不能有比特翻转"。但在宏观层面，分布式系统就是用不可靠组件来搭可靠系统。如果造一个系统，里面的晶体管可能每天出 20 次错，会怎样？那是一个完全不同的设计点，也许会让制造端出现非常有意思的新可能——信号传输走多条冗余路径，有点像神经计算和人脑。
每隔一段时间，应该重新审视那些被默认接受的前提。
八、一个 1999 年被拒稿的故事，以及最后的建议
对话接近尾声，主持人聊到挫折。
2014 年，Jeff Dean 和 Hinton、Vinyals 写过一篇关于知识蒸馏的论文——大模型当老师，小模型当学生，得到更便宜更小但依然有效的模型。现在整个行业都在用。
但那篇论文当年被 NeurIPS 拒了，一位评审说"这项工作不太可能产生显著影响"。
他说他不怪程序委员会——评审是在偏学术地想"这是不是根本性的理论突破"，而他们当时很清楚这是个特别重要的问题。于是把论文放上 arXiv，大家看了用了，一切都很好。
今天 Gemini 里的 Flash 模型，就是部分从更大的 Pro 模型蒸馏出来的，同等尺寸下 benchmark 上表现最好的之一。
他的教训很朴素：即使被拒了，也继续干下去。
最后他留给创业者的判断标准只有一句话：“如果这件事走到最好的结局，世界会不会因此在某个方面明显变得更好？如果答案只是挺酷但也就那样，那就不是你应该投入时间的事。”
总结表格：Jeff Dean 的 8 条核心判断
| 主题 | 核心判断 | 一句话总结 |
|---|---|---|
| Agent 能力 | 已相当于初级工程师水平 | 他低估了增长速度 |
| Agent 时长 | 可连续跑几天到几周 | 大部分人还没内化 |
| 硬件 | 推理专用化是下一波效率关键 | 延迟改善 50 倍将带来质变 |
| 能量账 | 搬数据比计算贵 1000 倍 | 塑造了几乎所有 AI 系统设计 |
| 创业方向 | 找 0%~1% 成功率的领域 | 靠专有数据或专用模型建立优势 |
| 上下文工程 | 所有人都能做 | 一个 API + 检索 + skill 即可开始 |
| 稀缺能力 | 品味——判断什么问题值得解决 | 选对问题远胜把一个无聊问题做精致 |
| 职业建议 | 问自己"世界会不会因此变好" | 挺酷但也就那样就不值得 |
Jeff Dean 看问题的方式，始终有一种从底层约束往上推的穿透力。他不跟你空谈什么 AGI 何时到来，而是从能量代价、数据搬运、延迟数字这些最硬核的物理约束出发，推导出系统应该怎么设计、创业机会在哪里。
这也是我想问大家的一个问题：如果你现在要挑战一个所有人都默认成立的假设，会是什么呢？
如果觉得有帮助，点个「赞」和「在看」支持一下 👇
附：放大到整个 AI 生态，中国在底层创新上的底气也在快速积累——中美大模型能力差距已缩小到约 2.7%（斯坦福 HAI 2026），AI 投资差 23:1，论文与专利数量双双全球第一，工业机器人密度约为美国的 9 倍。Jeff Dean 说的那笔"餐巾纸数学"账，其实也适用到整个国家的 AI 布局：算力、数据、硬件这三件事的物理约束，正在决定谁能跑赢下一个十年。
来源：Google 首席科学家 Jeff Dean 在 YC Startup School 2026 上的对话（Best Partners TV 整理）。