一个月前,爆料说OpenAI给新模型用了一种叫循环Transformer的架构,让人没法看懂它怎么想。OpenAI没全认,只说「没那么严重」。
上周,答案不是OpenAI给的。是微软自家一个网页,不小心把话说漏了。
事情要从9月初说起。财经媒体The Information当时报道,OpenAI即将发布的旗舰模型Astra,内部架构用了循环Transformer(Looped Transformer)技术,也叫recurrent depth。
同一组参数,对同一个token反复处理好几轮,而不是老老实实把每一步推理写成人能读的文字。
省算力是真的,副作用也是真的。模型一部分思考发生在人看不见的隐藏状态里,不再全都体现在那段公开的思维链(chain of thought)文字上。
这事炸了安全圈。研究员Ryan Greenblatt的评价只有一句:"very very bad news."
前OpenAI安全团队成员Steven Adler更直接,说这等于踩过了一条红线。
OpenAI首席科学家Jakub Pachocki在X上回应:Astra的计算图深度仍在GPT-4的两倍以内,公司一直在努力保留思维链监控。
但他也坦白承认,这件事本身脆弱,而且正在往不好的方向走,只是强调跟架构改动没关系。
公司自己的Astra系统卡写得更直白。如果模型故意隐藏错误推理、刻意摆烂,「我们很可能发现不了。」
微软网页,替OpenAI把话说全了
吵了一个月,双方各执一词,谁也没拿出实锤。10月6日,实锤自己冒出来了。
有人在微软Azure/Foundry的公开页面上发现一行描述:更便宜的新模型GPT-6.1 Sol,沿用GPT-6 Sol的基础权重,但推理只走两轮,不是三轮。
这行字被截图发到X和r/LocalLLaMA,被解读成一句话:循环Transformer不只用在旗舰Astra上,量产走量的Sol系列也在用。
The Information一个月前的报道,这次算是靴子落地了:OpenAI最大的云合作伙伴,用自家网页把话补全。
截图传开没多久,那行描述又从页面上消失了。没人证实是不是因为这件事才被改的,但时间点凑得很巧。
独立研究员Rauno Arike在9月底提供了另一重佐证。他测了GPT-6.1 Sol在不需要显式思维链的任务上的表现,发现它拉近了和Astra差距的80%。
27项测试里24项更接近Astra,而不是上一代Sol。这个数据支持「Sol也是循环结构」的猜测。
但他自己也承认,这和微软网页那行字的措辞对不上:网页更像是在拿三轮作参照,未必是在说Sol本身只循环两轮。两条证据指向同一个结论,细节还没完全咬合。
便宜的代价,是看懂AI的工具变钝了
我们可以算一笔账。GPT-6.1 Sol的API价格只有Astra的五分之一,靠的正是让一部分推理绕开文字、直接在隐藏状态里打转几圈。
这笔买卖对OpenAI、对每天在Codex和ChatGPT Work里用Sol干活的开发者都划算,省钱是实打实的。
便宜的另一面,是安全团队手里的工具变钝了。思维链监控是目前业界抓AI说谎或绕过规则最绕不开的手段。
模型把推理步骤写成文字,人和自动系统才能照着文字查有没有问题。循环结构让更多步骤留在参数反复横跳的隐藏状态里,能查的东西天然就少了一截。
这不是OpenAI一家的选择题。据报道,Anthropic和Google DeepMind也在评估同样的循环架构。
压低成本和留住可监控性之间的取舍,正在变成全行业都要过的一道关卡。只是这一次OpenAI先被曝了光,又被自己最大的云合作伙伴用一行网页文字提前交了底。
微软这次手滑,顶多是把答案提前摆上桌。循环结构会不会变成下一代模型的标配,还得等几家公司自己把架构细节摊开来讲清楚,真正见真章的地方,不该是又一张网页截图。
评论区