文章主题:自然语言处理, 人工智能, 机器学习, 深度学习

666AI工具大全,助力做AI时代先行者!

本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。

《ChatGPT背后的推手:OpenAI的秘密武器》

揭秘真正的ChatGPT之父:OpenAI的秘密武器,谷歌没有的天才。

作者|

李水青

编辑|

心缘

为什么全球热门应用ChatGPT诞生在OpenAI?

The Information近期发表了一篇深度报道,试图揭示ChatGPT产品研发背后的关键因素。通过多方面的采访,一个历时五年的产品研发过程逐渐呈现在公众面前,而推动这一进程的首位人物也逐渐浮现。

回溯至2017年,OpenAI尚处于一家人数仅50人的非营利组织阶段。在那个时期,OpenAI首席技术官格雷格·布罗克曼(Greg Brockman)对谷歌旗下的DeepMind等竞争者感到担忧,为了确保OpenAI不落后于这些对手,他主动发起了了一场持续时间相当长久的竞争。

在DOTA2游戏的试验过程中,ChatGPT项目团队创造了一种新颖的协作模式。同时,布罗克曼以“游走总裁”的身份,在公司的各部门中扮演着 disruptor 的角色,他投入了80%的时间亲自下场编写代码。OpenAI的CEO萨姆·阿尔特曼(Sam Altman)和其他董事会成员都对布罗克曼的贡献给予了高度评价,他们认为他是推动ChatGPT产品化的重要人物,称他为“科技界的罕见人才”和“谷歌所缺乏的类型”。然而,尽管他的贡献备受赞誉,但他也导致了OpenAI代码的混乱,从而引发了新的问题。

《ChatGPT背后的推手:OpenAI的秘密武器》

▲格雷格·布罗克曼(左)和萨姆·阿尔特曼(右)

如果说阿尔特曼是OpenAI的招牌,那么布罗克曼就是OpenAI的秘密武器。

布罗克曼,这个小镇出身,却从哈佛和MIT辍学的创业巨头,成为了硅谷的代表性传奇人物。他偶然机遇下,参与了2015年那场酒店晚宴上的OpenAI创业盛事,从而奠定了自己在OpenAI的核心地位,被誉为“问题解决者”。在诸多项目中,他均以提升OpenAI系统速度与成本作为首要任务,尤其在ChatGPT项目上,他的表现更是令人瞩目。

ChatGPT项目的发展并非一帆风顺。在2017年,由于其非盈利性质所面临的巨大压力,项目创始人之一埃隆·马斯克选择离开,转而将人工智能开发重心转向商业公司特斯拉。在此背景下,布罗克曼挑战DeepMind,面临着与所有AI创新企业相似的问题,包括AI开发成本激增、如何在理想与现实之间取得平衡等。此外,副总裁达里奥·阿莫迪等团队成员离职创业,使OpenAI的工作变得更加困难,OpenAI内部曾一度出现焦虑和担忧的情绪。

《ChatGPT背后的推手:OpenAI的秘密武器》

▲萨姆·阿尔特曼(左)和埃隆·马斯克(右)

尽管布罗克曼的忧虑并未转化为现实,但在2023年,ChatGPT的注册用户数量却急剧增长,使得谷歌和DeepMind不得不迅速采取行动,着手研发自家的AI对话机器人Bard。

微软一直致力于将人工智能研究成果转化为具有商业价值的产品。为了实现这一目标,该公司已向 OpenAI 投资数十亿美元,并因此获得了先进的技术。如今,仅凭这七年的发展时间,OpenAI 的估值就已经超过了 2000 亿美元。

从技术发展的视角看,通用人工智能(AGI)系统的智能程度将会远远超过当前的ChatGPT。它不仅可以进行创新性的研究,还可以涉足创业领域。对于这项技术的未来发展,布罗克曼充满信心,并和他的团队将继续努力推进研发工作。他表示:“如果我们认为我们的思维方式能够在五年后继续保持不变,那实在太过乐观了。”

01.

ChatGPT的诞生:追溯到DOTA2游戏项目,总裁游走“搅局”

一款产品的成功不是一个人的功劳,但往往有一个能力卓绝的人在主要推动。在ChatGPT产品的成功背后,人们知道有近百个全球顶尖科学家和工程师作出贡献,但鲜少听说幕后推手如何掌控全局。

1、AI游戏软件项目,为ChatGPT提供研发项目范本

2017年,OpenAI还是一家50人的非营利组织,时任OpenAI首席技术官的布罗克曼担心被谷歌旗下的DeepMind等对手甩在身后,因此他带头发起了一项计划:让OpenAI的研究人员和工程师协作,开发出可以玩复杂在线战斗游戏DOTA2的软件OpenAI Five。

前OpenAI员工说,两个团队的职责相似——研究人员专注于训练新模型,而工程师则开发软件让这些模型工作,但在OpenAI的其他项目上,这两个团队之间的关系一直很紧张,这是科技公司内部普遍存在的一种状态。经过几个月的通宵工作,他们的软件最终在游戏中取得了成功,到2019年初,它在数千场游戏中击败了世界上最高阶的人类DOTA2玩家。

这一计划的成功迅速引起了游戏和技术界轰动,并成为ChatGPT项目的模仿范本。

《ChatGPT背后的推手:OpenAI的秘密武器》

2、“游走”总裁:ChatGPT产品化的第一推手

接近布罗克曼的人称,布罗克曼是为推动ChatGPT项目中各类技术人员实现合作贡献最大的人。

ChatGPT的魔力不在于技术研发的重大突破,而在于将象牙塔里的AI技术用到了执行现实世界任务中去。与布罗克曼同为OpenAI董事会成员的问答网站Quora CEO亚当·德安吉洛(Adam D Angelo)说,过去的AI研究都大多在实验室里,要把技术转化为产品很难,布洛克曼是那个让AI成功产品化的人。

虽然OpenAI的CEO萨姆·阿尔特曼(Sam Altman)是公司的形象代表,但34岁的布罗克曼是该公司的秘密武器。他是OpenAI的总裁,但没有直接下属,这让他摆脱了通常的管理苦差事;相反,他在接受The Information采访时表示,他80%的时间都花在编程上。

阿尔特曼说:“格雷格有很强的能力,既能看到技术问题每一部分的极致细节,也能看到每一个层面的重点,然后还能非常战略性地思考如何把所有的部分组合在一起。”

布罗克曼是一个“流动员工”,在不同的团队之间游走,设定目标,并推动他们提高软件开发效率。然后,他会转向新的项目,把这些项目交给经理管理。布罗克曼说:“我一直在‘搅局’。”

《ChatGPT背后的推手:OpenAI的秘密武器》

▲格雷格·布罗克曼

3、是1顶10的工程师,但也引起OpenAI代码混乱

布罗克曼的做法也难以避免地带来了一些弊端。两名与布罗克曼共事过的人说,在他自己编写了项目的关键部分后,其他OpenAI工程师可能需要几个月的时间才能弄清楚布罗克曼是如何解决技术问题的。其中一名知情人士说,2022年初,布罗克曼坚持从头重写该公司用于训练模型的一个主要软件,迫使OpenAI的其他员工不得不去适应新系统。

布罗克曼承认,自己插手项目,通过命令改变团队的优先事项来否决其他经理,可能会惹恼同事。他说,他已经在提高人际交往技巧,以学会少惹同事生气。“我工作方式的失败之处可能是让人感觉受到了打击。”

尽管如此,布罗克曼的影响力解释了为什么其他人尊敬他。

与他共事过的人形容布罗克曼是典型的“10X工程师”这是硅谷俚语,指的是比普通员工多产10倍的程序员。

阿拉温德·斯里尼瓦斯(Aravind Srinivas)曾在谷歌和OpenAI工作,去年创立了人工智能搜索引擎Perplexity。他直言不讳地描述了这位前同事的影响力:“OpenAI工作最努力的人是格雷格·布罗克曼,他将编码、产品决策和团队争论结合在一起,这在科技界是罕见的。谷歌没有这样的人!”他说。

02.

OpenAI初创业时代:从麻省理工辍学,谋划对抗谷歌技术垄断,成为问题解决者

布罗克曼来自哪里?为什么有如此的卓绝能力?这要从他的成长经历说起。

1、从麻省理工辍学创业,曾在中国学编程

布罗克曼在一个靠近明尼苏达州边境的一个人口约1100人的小镇长大。作为红河高中的学生,他在2006年国际化学奥林匹克竞赛中获得了银牌,在高中10年级时数学课程经达到极限,而后开始在大福克斯的北达科他州大学学习。

布罗克曼说:“我的校长要求我在高中每学期上三门课,然后我可以在大学里上任何我想上的课。”

2008年,布罗克曼进入哈佛大学,计划主修数学和计算机科学,在俄罗斯和中国度过Gap年期间学会了编程。但当他觉得自己无法从学校的同学那里学到更多关于软件的东西时,他就从哈佛退学了。他转到麻省理工学院,认为那里的学生更了解软件。

布罗克曼的目标是成立自己的软件公司,之后他遇到了创业家帕特里克和约翰·科里森(Patrick and John Collison),支付公司Stripe的创业者,跟他一起干。

2010年的一个周四,布罗克曼从麻省理工学院辍学,并于下一周的周一登上飞机,前往旧金山加入科里森夫妇的公司。布罗克曼在Stripe工作了五年,最终成为该公司的首席技术官。在此期间,Stripe经历了爆炸式增长,成为科技行业最有价值的初创公司之一。

《ChatGPT背后的推手:OpenAI的秘密武器》

▲格雷格·布罗克曼

2、2015年瑰丽酒店晚宴,结识OpenAI发起者

OpenAI的起源可以追溯到2015年底在瑰丽酒店(Rosewood Hotel)举行的一场晚宴,布罗克曼和十几位其他科技名人一起出席了晚宴,包括特斯拉首席执行官埃隆·马斯克(Elon Musk),以及当时的谷歌研究科学家伊利亚·苏茨克弗(Ilya Sutskever)和达里奥·阿莫代(Dario Amodei)。布罗克曼说,阿尔特曼是通过帕特里克·科里森(Patrick Collison)认识他的。

当时,阿尔特曼将该项目定位为Alphabet等AI技术巨头囤积的关键平衡力量。他认为,将先进的AI交到强大的企业利益集团手中,可能会导致一项技术只惠及少数人,而不是全人类。当时布罗克曼刚离开Stripe,对这个项目很心动。

OpenAI最早的支持者包括布罗克曼、阿尔特曼、马斯克、领英联合创始人里德·霍夫曼、Y Combinator创始合伙人杰西卡·利文斯顿和PayPal联合创始人彼得·蒂尔,他们共同承诺为这个新的非营利组织提供10亿美元的资金。

在OpenAI的早期,每个人的职责是不固定的,有时也很平淡和普通。布罗克曼上班的第一天,就在与OpenAI的联合创始人萨茨克弗和约翰·舒尔曼(John Schulman)的头脑风暴会上四处寻找一块白板,以便在上面写字。

3、成为“问题解决者”,极限优化AI系统速度和成本

布罗克曼说:“我只是一个解决问题的人,花几周时间找到第一个工程问题,而后成为这个问题的解决者。”

据两位相关人士透露,在OpenAI成立的头几年里,布罗克曼和萨茨克弗做出了大部分日常决策,布罗克曼管理初创公司的软件工程师,萨茨克弗监督研究人员。布罗克曼说,同时他在工作中一直在与阿尔特曼通电话。

布罗克曼公司必须解决的一个难题是,如何让研究人员和工程师从同样的角度出发去工作。内部人士称,一些OpenAI工程师低估了研究人员贡献的重要性,研究人员则把工程师视为技术人员而不是科学家。

但布罗克曼领导的DOTA2项目帮助打破了僵局。为了推动这项工作,布罗克曼与DOTA2的开发人员进行了数小时的电话交谈,以弄清楚如何让玩游戏的软件工作,这是一个技术挑战,因为游戏和OpenAI的算法是用不同的编程语言编写的,三位知情人士说。

前员工说,这些进步也将帮助布罗克曼成为OpenAI的生成式AI模型开发的关键人物。在谷歌的研究人员发表了一篇题为《注意力机制是你所需要的(Attention Is All You Need)》的研究论文之后,这些模型的研究工作也于2017年开始。这篇论文展示了一种名为“Transformer”的深度学习模型如何帮助人们更有效地构建更大的模型。

一位知情人士表示,虽然GPT主要不依赖于OpenAI的底层研究突破,但它帮助这家初创公司开发了一款不会因为数百万人使用而崩溃的产品。致力于优化OpenAI系统的速度和成本,布罗克曼称自己“痴迷于可以获得的每一点收益”。

03.

AI军备竞赛打响:平息“理想和面包”之争,ChatGPT一战成名

ChatGPT的诞生并非一番风顺,而是一开始就伴随着激烈的内部分歧和不断的组织震荡。

1、研发成本翻番,非盈利的OpenAI面临压力

2017年底,马斯克在OpenAI的办公室召开了一次会议,表达了对OpenAI的担忧。

《ChatGPT背后的推手:OpenAI的秘密武器》

▲埃隆·马斯克

据一位与会者透露,当时OpenAI进展缓慢,可能输给DeepMind。马斯克担心DeepMind的技术正处于加速到无法企及的边缘。

马斯克觉得,特斯拉是一家营利性公司,有能力筹到更多资金,因此能够更好地开发AGI。

一些OpenAI员工则认为,马斯克这样做会助长一场将速度置于安全之上的AI军备竞赛。大家都想率先抵达AGI。

纷争过后,马斯克于2018年离开OpenAI董事会。

尽管闹出过一些分歧,阿尔特曼和布罗克曼还是将特斯拉创始人的评论牢记在心,尤其是在训练AI软件的成本不断上升的情况下。

据此前报道,2018年OpenAI每年在谷歌云服务上的支出约为3400万美元,第二年支出直接翻番。

一位直接了解相关工作的人士透露说,有一次,仅DOTA2项目团队每月在计算能力上的花费,就超过200万美元,占其当时每月计算开销预算的90%以上。

但是要开发AGI,OpenAI需要更多的资金,多至数十亿美元。

2、ChatGPT项目引争议,副总裁带头离职

布罗克曼回忆说,他遭到了投资者的强烈怀疑,他们不愿将数百万美元投入研究性非营利组织,因为他们没有希望获得财务上的好处。“我们只是意识到这是不可能的,我们需要调整实体。”

结果,OpenAI于2019年3月创建了一家营利性子公司,有可能为外部支持者带来回报,但回报上限为初始投资的100倍。

阿尔特曼没有持有这家营利性部门的股权。布罗克曼说自己确实获得了股权,但没说具体持有多少,他的股份可能在一个方面限制了他对OpenAI的影响:他是OpenAI的董事会董事,公司的章程规定,在这家非营利机构的投资者和营利性子公司的投资者的利益可能出现分歧的情况下,只有没有财务股份的董事会成员才能投票。

在OpenAI内部,一些员工对创建营利性部门感到不安。一些人认为OpenAI正在放弃其开发不受企业影响的AI系统的理想。最终大多数人同意了这一改变,他们认为公司领导者正试图取得平衡,让OpenAI仍然负责任地追求其创建AGI的目标。

随着OpenAI不断完善GPT,它的一些员工已经对布罗克曼发布新产品的方法不再抱有幻想。例如,ChatGPT因散布错误信息和行为怪异而受到一些批评家的抨击。

2020年底,由OpenAI研究副总裁达里奥·阿莫迪(Dario Amodei)领导的一群员工离职,成立了一个名为Anthropic的竞争对手。

按布罗克曼的说法,与Amodei和其他Anthropic联合创始人的争论在于发布AI软件之前要等待多长时间的意识形态差异。布罗克曼更喜欢开放产品并通过客户反馈来改进它们。

3、ChatGPT突然成功,布罗克曼成OpenAI功臣

当ChatGPT于11月推出时,它的成功让布罗克曼措手不及。

“对我们来说,我们会查看所有的缺陷——它对这个不起作用,对那个不起作用,对这个不起作用——但你有点错过了一个事实,因为它对所有事情都很有用,实际上很多人会在它身上发现令人惊讶的效用。”他说。

科技行业正争相开发类似的聊天机器人。

Alphabet的两个AI实验室对手DeepMind和谷歌大脑首次开始合作,试图赶上OpenAI。3月,Anthropic发布了ChatGPT的竞争对手Claude。

同时,马斯克今年早些时候招募了DeepMind研究员Igor Babuschkin,以在马斯克拥有的另一家公司Twitter内推出一个新的“anti-woke”AI实验室。

布罗克曼也在继续推动OpenAI的产品向前发展。3月,他对OpenAI演示了最新的AI模型GPT-4,展示了这个先进模型如何仅根据网站设计的粗略草图为网站生成代码。

“如果没有他的参与,我认为整个项目的质量不会达到这种水平。”阿尔特曼说。

《ChatGPT背后的推手:OpenAI的秘密武器》

04.

结语:穿越迷雾,OpenAI成AI创业范本

随着ChatGPT一战成名,很多人开始关注背后OpenAI成功的奥秘。从The Information的讲述我们看到,这家创企实际上也面临和众多AI同行一样的问题,包括技术和产品团队磨合、理想与面包的矛盾等等,过程也很艰辛。

OpenAI的成功有其自然的必然可解释的原因,能力超群而有定力的领导人是其中一个原因,组织、资本层面的因素也同时起作用,这也为国内AI创业提供了参考。

来源:The Information

《ChatGPT背后的推手:OpenAI的秘密武器》

自然语言处理, 人工智能, 机器学习, 深度学习

《ChatGPT背后的推手:OpenAI的秘密武器》

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!