

最近,OpenAI的一位元老级人物离职了,他在专访中透露了8个让人震惊的行业真相!这位大佬可是o1、o3推理模型背后的关键人物,他的离开和爆料,直接揭开了AI巨头们正在面临的残酷现实!
最近,AI圈发生了一件大事!OpenAI前研究副总裁Jerry Tworek接受了深度专访,这位2019年就加入的元老级人物,刚刚在今年1月初决定离开。
你可能不知道他是谁,但他参与的项目你肯定听过——OpenAI推理模型o1、o3就是他的杰作!他把强化学习做到了极致,让推理模型真正进入了主流视野。
这么厉害的人物为什么要走?他在70分钟的专访里,说出了8个让人深思的行业真相!
"当前全球争夺"最佳AI模型"的竞争异常激烈!"Tworek直言不讳地说。
公司为了保持竞争力,在多个层面都面临巨大挑战!其中一个核心问题就是:风险承担的意愿正在下降!
从避免落后的角度出发,公司被迫思考:究竟愿意承担多大的风险?无论是用户增长指标,还是持续支付高昂的GPU成本,现实都极其残酷!
Tworek感慨道:"持续展示实力、不断推出最强模型,对所有人而言都变得至关重要。但这种压力无疑会影响一家机构对风险的"胃口"!"
公司越大,创新越难!这是很多科技公司的通病,OpenAI也不例外!
Tworek指出:"公司有其组织架构图,而组织架构往往在很大程度上决定了你能够开展什么样的研究!"
每个团队都需要明确的身份认同、研究边界!但跨组织的研究往往异常困难!
"研究本身偏好活力,甚至可以说偏好某种程度的混乱;而大型组织却需要秩序、结构与清晰的分工。"Tworek说,"这正是为什么"你最终交付的是你的组织架构图"这一说法如此流行!"
这是最让人震惊的发现!Tworek坦言:"我对此感到相当、相当遗憾,几乎所有公司都在做和OpenAI一样的事儿!"
Tworek直言:"也许这是正确的路径,但我仍然希望看到更多多样性!"
如果你观察当下最顶级的模型,很少有人能真正分辨它们之间的不同。或许我们应该进行更多盲测:让用户与不同模型对话,看看他们是否能分辨出差异。
"我怀疑99.9%的用户做不到!"Tworek说,"这些模型在体验上极其相似!"
AI领域的人才争夺,已经演变成了一场闹剧!
Tworek观察到:"有些人频繁地更换工作,而真正投入到工作的时间,反而显得更少!"
这种情况正在发生,而且并不罕见!
他建议:"如果能在这方面建立一些规则,或许会是一件好事!"因为在这个行业里,确实存在这样一种现象!
很多人认为,AI研究受限于计算资源!但Tworek提出了不同看法!
"很多时候,更常见、更普遍的问题,其实是缺乏专注力!"他强调,"毕竟,你每天能分配的注意力是有限的!"
Tworek经常告诉合作的研究人员:"减少实验次数,但要对每一次实验思考得更深入!"
因为有时候,即便只是花时间,比如几个小时,不运行任何程序,仅仅更仔细地分析实验数据,相比于运行更多实验,反而更容易带来突破!
"Transformer会是机器学习的终极架构吗?显然不会!"Tworek坚定地说。
尽管Transformer的提出者们做了极其出色的工作,几乎定义了接下来十年机器学习的发展格局,但事情远不止于此!
"一定还存在其他训练大模型的方法——它们可能看起来有点像Transformer,也可能完全不像!"Tworek认为,"这是一个非常值得投入精力去探索的问题!"
关于AGI(通用人工智能)的时间表,Tworek给出了自己的预测!
"如果所有事情都做得非常好,也许2026年至少会成为我们在真正优秀的持续学习和真正通用的强化学习方面取得突破的一年!"
但他的时间线判断依然是有些浮动的:"可能是26年,也可能是27年、28年,甚至29年!我不认为会比这再晚太多!"
Tworek指出,当前的模型仍然不能算是AGI,因为持续学习还没有以任何实质性的方式与我们的模型真正整合在一起!
同时,从模型目前的状态来看,甚至在多模态感知这样的能力上也仍有明显缺失!
"科学史反复告诉我们:好的想法往往会卷土重来!"Tworek分享了一个重要洞察。
判断一个想法是否重要并不难,难的是判断它什么时候会变得重要!
他举例说:七年前我刚加入OpenAI时,基于游戏的强化学习是绝对的热点!我们解决了Dota、《星际争霸》!
但这些模型有一个非常明显的问题:它们几乎没有世界知识!它们只是在从零开始学习如何玩某一个游戏,而并不真正理解我们的世界!
"显然,这不是正确的路径!"Tworek说,"模型首先需要对现实世界形成高层次的理解!"
而经过多年大规模预训练,我们终于获得了对世界极其丰富、稳固的表征!现在,是时候在此基础上重新引入强化学习了!
Tworek的离职和爆料,引发了整个AI行业的深思!
Tworek坦言:"我是一个相对乐观的人,我相信世界上始终还有很多不同的事情可以去做!"
关键在于专注,把真正核心的事情做到极致!事实上,很多事情、很多公司,只有做到这一点,才能生存下来并进入下一个阶段!
在一个理想的世界里,应该存在大量做着不同事情的公司!尤其是对研究人员而言,他们很难在一个自己并不真正相信的研究方向上长期投入!
Tworek分享了一个重要观察:"很多研究人员喜欢做从0到1的工作!很多学术研究正是如此,创造出一些全新的想法,证明它在某种程度上是可行的,然后就把它发表出来!"
而OpenAI真正擅长的,是把研究从1推进到100!也就是采纳那些不同的、以前没有做过、但已经初步被验证的想法,并找出如何让它们在大规模训练前沿模型时,可靠地工作!
"这正是大量学术研究所欠缺的东西!"Tworek说,"概念验证当然很酷,但要用某种特定技术训练出世界上最有能力的模型之一,需要做大量非常具体、细致的工作!"
这是一个相当复杂的话题!Tworek认为两件事可以同时成立!
很多时候,确实是极少数个人产生了超乎寻常的影响,推动了一系列完全开创性的成果,并将其扩散到整个行业!
但与此同时,每当他看到人们换公司时,很少看到这对原公司造成真正重大的影响!
"公司本身的特质,或者说一种近乎"运作方式"的东西,才是真正的研究引擎,而不是某一个特定研究员是否还在这里!"Tworek强调。
创造一种个人责任感强、允许探索、能够赋能人们去做大事的氛围,远比某个具体的人是否在你的团队中重要得多!
Tworek虽然离开了OpenAI,但他对AI的未来依然充满期待!
Tworek指出了两个他觉得要么被明显低估了,要么至少没有得到足够的资源去真正推进的方向:
对人类而言,这种方式再自然不过了:我们并不存在一个明确分离的"学习模式"和"回答模式",一切都是在持续不断地同时发生的!
"我们的模型也应该更接近这种运作方式!"Tworek说,"这很可能是我们在实现AGI之前,仍然缺失的几个关键能力要素之一!"
Tworek特别提到了Anthropic:"在过去一年里,我对Anthropic的钦佩程度确实大幅上升!"
他们在编程模型和编程智能体方面所做的事情,他们围绕这些成果建立的品牌以及他们所拥有的大量开发者,这些绝对是令人震惊的成就!
"Anthropic起步更晚,计算资源受限,团队规模也更小,在获取优质算力和硬件方面遇到了许多困难,但他们依然成功构建了卓越的产品!"Tworek赞叹道。
Tworek最后分享了一个重要观点:"在向世界发布任何新技术时,保持担忧和谨慎是一种非常好的、也非常健康的反应!"
我们正处在一个变革的时代,一个许多新事物不断向世界扩散的时代!它们会产生许多影响,影响人们如何度过一生,影响人们如何看待自己、看待他人!
"有时候,有人写下一行代码,所引发的连锁反应却会像瀑布一样,贯穿这一切!而其中所承载的责任,是相当沉重的!"Tworek感慨道。
真正的创新不是跟随潮流,而是创造潮流!
看完OpenAI元老的这8个真相爆料,你有什么感想?你觉得AI行业最需要改变的是什么?
欢迎在评论区分享你的看法!如果觉得这篇文章对你有启发,别忘了点赞和分享给更多朋友!让我们一起关注AI行业的未来发展!
