简报·YT
← 返回视频简报
为什么叫QQ 已完成

为什么你觉得 AI 很蠢,Karpathy 却说有人已经看到了另一个世界?

2026-10-14 12:15 · 时长 9分57秒 · 👁 133 · 👍 2 · 原视频 ↗
#认知漏斗 #智能体工程 #验证系统

为什么你觉得 AI 很蠢,Karpathy 却说有人已经看到了另一个世界?

一句话概括: 视频借 Karpathy 的“AI 能力漏斗”解释为什么人们对 AI 的评价严重分裂,并用数据、案例和实验说明真正差距在于能否把 AI 接入可执行、可验证、可持续改进的工程系统。

要点

▸ 原始转写文字稿(3338 字符)
大家好,我是为什么叫QQ2026年10月11日,Carpathy发了一条推文这条推文转发了他今年4月的旧帖核心意思一句话人们对AI能力的理解差距正在越拉越大半年前他看到的还是两群人互相吵半年后他改口了,说这已经变成一座陡峭的漏陡你可能也见过这种场面程序员兴奋地说,Agent把一整个项目改完了旁边的人皱着眉说,我让ChatGPT写封邮件他还编造信息两边说的都是真话,但完全聊不到一起今天这期,我们从程序员视角把这件事讲清楚你在哪一层,你看到的世界就是什么样Carpathy给了一组数字,传播得非常广第一层约60亿人,占全球人口75%几乎没碰过大模型第二层10到20亿人,偶尔用免费版聊天产品拿他搜索写邮件,润色周报第三层约2000万人在编程和数学领域专业的使用前沿模型他们亲眼看到过去要几周的项目现在交给Agent就能跑完最尖端一层只有约5000人,占全球0.00006%他们能接触实验室内部尚未公开的系统外面的人看到的是聊天机器人里面的人看到的可能是数千个Agent连续协作几周攻下过去需要一个团队做很久的任务这四个数字没有任何人口普查依据是Carpity自己的随手估算尤其是5000人指的是他估计能在机构内部接触未公开系统的人并不是说全世界只有5000人懂AI网上很多标题直接写全球只有5000人见过真AI这个说法已经偏离了原意所以我建议你把这组数字当成一个概念模型来用它真正的价值是解释一件事关于AI的争论为什么永远极同鸭讲弹幕可以打一下你觉得自己在哪一层Carpity把漏斗归引到三个因素第一个问题规模一段话就能答完的问题压不出系统的真实能力手里有一堆真正在乎的大难题的人才能看到差距第二个能力分布不均模型能力的高峰集中在数字化可验证商业价值高的领域因为能力主要来自可验证奖励上的强化学习训练环境的选择又跟着前走第三个访问权限免费版付费版内部系统用的根本不在同一个档位三个因素叠在一起同一个2026年不同人活在了不同的AI年代程序员对这件事应该有体感普通聊天机器人的交互模式是你问一句他答一段交互结束Coding Agent完全不同他能读整个仓库调中端改文件跑测试根据报错继续修一个没有仓库权限的模型遇到复杂工程问题只能靠你贴的片段才一个接入了代码库测试框架和中端的Agent可以直接检查真实系统所以体验的差距一半来自模型本身另一半来自你把模型放进了什么环境同一个模型裸疗是一种效果套上工具链是另一种效果这是整条推文里技术含量最高的部分编程任务有三个特征工作完全数字化结果可以自动验证商业价值足够高模型写完代码可以编译可以跑单元测试失败的反馈信号非常明确可以继续迭代数学也一样形式化证明有证明检查器兜底对比一下写一篇打动人的小说或者判断一次组织变革是否成功评价标准模糊得多所以强化学习的飞轮优先在代码和数学上转了起来但注意通过测试只是验收的一部分生产环境还要处理可维护性安全架构约束和真实需求这道门槛后面还会再讲讲一条很多人没注意到的时间线2025年10月Karpathy还在播客里给agent泼冷水说很多产品是slop好用的agent可能还要10年两个月后他发推感叹作为程序员从来没有像现在这样觉得自己落后他说行业在经历九级地震新工具像外星机器一样砸下来还没附说明书到今年3月他透露自己基本不亲手写代码了八成工作交给agent以前担心GPU闲着现在担心token吞吐量没拉满5月据媒体报道他加入了anthropic预训练团队从重度用户回到了漏斗最尖的位置一年时间从质疑者变成当事人这段转变本身就是漏斗最好的主角漏斗是估算但最近几份报告给了参照微软9月的全球AI普及报告显示2026年第二季度全球15到64岁人口里用过生成是AI的只有18.8%阿联酋73.3%新加坡64.3%地区差距极大A16Z上周发布第七版消费级AI应用报告美国样本里只有4.5%的消费者付费订阅了主流AI产品付费用户月支出中位数25美元但最顶尖的1%平均每月花903美元贡献了全部AI消费的19.5%OpenAI今年8月的企业报告也显示用的最深的头部企业人均Token消耗是普通企业的8.3倍分化不是感觉是账单那5000人看到的到底是什么外界只拿到过两段预告第一段在网络安全今年7月OpenAI内部评估里原本被隔离的Agent找到了绕过限制的办法借助内部基础设施交换信息拿到了意料之外的网络访问权限还入侵了HuggingFace的部分系统这件事几个月后还在被考古师分析第二段在数学10月6日OpenAI公布了未发布内部模型生成的一批数学成果模型尝试了约4000道研究问题首批公开722份手稿归入372个成果系列Carpety说人类审查和理解的速度已经开始跟不上机器生产的速度这条推文很快冲上Hacker News热榜几百条评论支持派说前沿Agent已经明显改变了编程工作流很多人还在拿旧版聊天机器人的印象判断今天的AI质疑派的问题更尖锐几分钟生成大量代码和交付一个能维护多年的系统是两件事审核测试理解系统的成本一点没少还有一类质疑指向5000人本身内部系统的能力没有公开数据任务成功率成本错误率都不透明外人无法验证到底是模型更强还是那群人拥有更多算力和更长的执行时间生成能力交付能力长期维护能力从来不是一个指标这里停一下把你的看法打在公屏上Reddit讨论更接地气有深度用户说自己用过几乎所有模型和agent产品依然找不到一些个人agent产品的明确价值更多人关心的是现实问题AI能生成应用房租降了吗看病更容易了吗还有人指出最贵的订阅token成本复杂的配置流程本身就是门槛漏斗既是认知差距也是经济差距这些声音值得听一个程序员每天靠agent省两小时推不出所有行业都拿到了同等收益对普通人来说重要的是他有没有可靠又便宜地解决自己真正遇到的问题接下来这项研究建议每个工程师都知道2025年7月独立机构META做了随机对照实验16名经验丰富的开源开发者在自己熟悉的成熟仓库里完成246项任务结果用了AI工具的开发者实际耗时反而增加了19%更有意思的是他们自己感觉快了20%主观感受和实际交付差了将近40个百分点但也别急着宣布AI编程没用实验测的是2025年上半年的工具主要是当时的Cursor和Cloud 3.5 3.7META今年2月的后续研究显示新工具已有加速迹象但参与者选择偏差和多Agent的并行计时困难让研究者认为还无法准确估计现在的增益合理的结论只有一条感觉快了多少不等于实际快了多少与其争论AI强不强不如自己做一个小实验选三类任务第一类边界明确的比如修一个已知Bug补一组单元测试第二类需要理解上下文的比如在现有服务里加一个接口保持健全日志错误处理一致第三类涉及复杂系统的比如拍查无发的ERE失败定位生产环境性能回归每类任务定好验收标准分别用纯人工普通AI辅助Agent的工作流跑一遍记录五个数总耗时人工介入时间测试通过率反攻次数Token成本Agent把10小时的活压到1小时但你又花12小时检查输出这不叫啼效把完成任务的总成本降下来质量还不掉才算数Carpet在推文末尾点了一个更深的问题当几十个Agent同时向一个仓库提交修改每个修改都能通过自己写的测试够安全吗不够如果需求理解本身错了测试只是把错误固化下来如果所有Agent用同一种判断方式他们的错误会高度相关所以未来软件工程的核心能力会越来越多体现在验证系统上独立的回归测试契约测试权限边界可观测性灰度发布回滚机制这些东西的价值再涨Agent负责加速生产工程系统负责判断哪些变更值得接受会写Prompt的人很多会定义验收标准的人很少Carpet这条推文我最认同的一点是不能拿旧版免费模型的表现给今天所有前沿系统判死刑但反过来看过几个经验的Agent演示就认定AI能可靠完成一切复杂工作同样站不住脚真正的分水岭在哪不在你订阅了多贵的模型在你有没有能力把AI放进一个可执行可验证可持续改进的工程系统里漏斗的层数会变模型会换代但定义问题和验证结果的能力会一直之前留两个问题你现在用AI主要是聊天辅助编码还是已经让Agent独立跑诊断工作流你认真测过自己到底快了多少吗评论区聊聊你的实测数据觉得有收获一键三连我是为什么叫QQ我们下期见