2024年10月,有人问Andrej Karpathy怎么看AI智能体,回答很冷:多数时候是营销噱头,离真正好用还差得远。
没过几个月,这位OpenAI联合创始人几乎不再手写代码,活儿全交给了智能体。再往后,他离开创业的赛道,加入Anthropic做研究员。
10月12日,他在X上发了一段话,把这种转变背后的东西说透了。原话是:「外界已经看到了预览版。」
潜台词很直白:外界看到的,只是预览版。
从「唱衰」到「深度依赖」,只用了几个月
Karpathy的身份值得说一句:OpenAI联合创始人之一,现在是Anthropic研究员。这份判断的分量,来自两头都蹲过:见过AI被过度吹捧,也见过它被低估。
一年多前,他对智能体的态度基本等于劝退。没过多久,工作方式整个翻了面:写代码这件事,从自己动手变成盯着智能体干,转弯发生得很快,快到后来要专门拿出来讲。
他现在的描述是:内部的前沿系统,看起来像成千上万个智能体连续协作数周,啃一个软件级的大项目。这类系统已经能完成相当于顶尖专家数年工作量的任务,找零日漏洞,以机器速度攻防网络,往数学和科学的前沿再推一步。
普通人刷到的AI,大多还是免费版聊天机器人,体验是「呆萌」。多数专业人士接触到的,也只是小幅提升。Karpathy把这种错位叫作「这一刻的古怪」:少数人正经历曲线陡然拉直带来的眩晕感,剩下的人根本没感觉到曲线在动。
一张金字塔,量出这道断层有多深
Karpathy给出的估算,摆成金字塔是这样的:
- 几乎没碰过大模型的人:约60亿,占全球人口约75%;
- 用过免费版聊天机器人、偶尔问两句的轻度用户:约10亿到20亿;
- 在编程和数学上专业使用前沿模型的人:约2000万,占比0.2%;
- 能摸到内部前沿系统的人:约5000人,占比0.00006%。
这不是随口一说的比喻,是真金白银砸出来的结果。强化学习靠可验证奖励驱动,公司自然把训练资源往收入潜力最大的方向砸,编程和数学恰好是最容易验证对错的两个领域。能力就这样被挤成了一座尖塔:塔尖锋利,塔基却还停在原地。
Altman也这么说,这是巧合吗?
有意思的是,这不是Karpathy一个人的判断。
9月2日,北卡罗来纳州教堂山,G20创新部长级会议上,OpenAI的Sam Altman和美国商务部长Howard Lutnick对谈时说:用Codex,原本要花一家创业公司三个月的活儿,现在压缩到大约17分钟。紧接着补了一句:「世界还没跟上这意味着什么。」
两个人,两个场合,说的其实是同一件事:能力已经跑到前面,认知还在后面追。
当然,场子里不是只有一种声音。同一时间段,也有研究认为智能体的成果被夸大,离真正自主搞科研还远得很;还有数学家因为不认同OpenAI的做法而公开抵制。Karpathy和Altman站在塔尖往下看,质疑者站在塔基往上问,谁对谁错,现在还说不清。
但有一件事双方都没反对:那道断层,是真实存在的。
说到底,金字塔顶端的5000人每天在跟什么样的系统打交道,外面的75亿人大概率猜不到。等到曲线真的拉直,摆在所有人面前的第一个问题会是:
自己到底算哪一层?
评论区