文心一言

阿尔法公社 重度帮助创业者的天使投资基金 ━━━━━━ ChatGPT独步全球，提供的创业机会盖过了iPhone3的出现以及抖音的出世，给创业者、投资人极大的想象空间。我们两周前组织的科大校友全球ChatGPT论坛吸引了8万人，一位师兄喊出了“经验主义的胜利”的口号，精辟地诠释了这场NLP（自然语言处理）革命性进步的本质。 本文从创业者出身的投资人角度，看看技术来龙去脉，探讨一下我们的机会。 Google种树，OpenAI摘桃子，卖给了微软 ChatGPT的起源是2017年一篇题为《Attention is All You Need》的论文，论文首次提出Transformer模型。GPT3.5靠的是算力结合大量数据获取的相关性，取得了AI的革命性进步，相比之下，“理性派”的进展似乎显得慢了一步。 Transformer一改串行方式，让语言处理能用并行处理完成，使得GPU这个“核武器”在语言处理上派上了用场，大幅提升了机器学习的效能，是NLP研究的里程碑。8位作者齐刷刷来自Google Brain，除了这篇开山祖师级的论文，Google Brain还提出了Tensor Flow这个著名的开源机器学习框架，随后推出了TPU，把机器学习的性能实现了数量级的提升。 开疆拓土的Google做梦也没想到，几年后的2023年，一个创业组织OpenAI拔得了LLM（大语言模型）走向应用的头筹。 更离谱的是，Elon Musk出资创立OpenAI的初衷是搞一个非营利、开源的平台，意在为全人类做贡献。没想到他退出后Sam Altman拿OpenAI来跟微软勾兑成了一个商业项目。Elon Musk扬言再创造一个WokeAI，意图唤醒人类真正掌握“危险的AI”。 本是四平八稳的四国大战，却蹦出个搅局的 美国AI四大超级大国Google、Microsoft、Meta、Amazon分别在AI领域下注，试图实现AI突破并构筑核心竞争力。Google和微软的核武库异常强大，Google的功力不用说了，微软研究院更是业内AI翘楚聚集地，Meta（我还是习惯叫Facebook）在强化学习、NLP也积累不少，著名的图灵奖得主Yan LeCun（2018年图灵奖得主，同年得奖的还有Geoffery Hinton，被Google连人带公司连锅端去）主导了FAIR（Facebook AI Research）， Amazon在NLP、AI用于深度挖掘方面也是功夫了得。 怎么看，这都是一场重工业级的“核竞赛”。 四国大战按部就班展开，大公司有天然的产业领袖焦虑症，尤其在未知领域的探索需要庞大资源，但资源摊了大饼，缺乏聚焦。反观OpenAI，几百号人孤注一掷，一针杵破天。应该说，这一场人NLP的进步，是创业者的胜利。 资料来源：国泰君安证券研究 下面我们分大模型、增值型垂直领域、应用型垂直领域三方面，分析一下国内创业者的机会在哪里。 大语言模型，楚河汉界，泾渭分明 AI从不专属于大洋彼岸。国内百度、腾讯、字节、阿里磨刀霍霍，论人才和数据，同属世界级玩家。NLP的竞争进入了核大战阶段，除了比人才，还要拼GPU算力，国内坐拥过万GPU、数千GPU的应该有10家上下，足够参与全球竞赛。众所周知，中美互联网和技术的楚河汉界已经形成，ChatGPT甚至不对中国大陆和香港开放。由于内容的特殊性，中国的大语言模型及数据也会留在国内。从这点看，别人抢跑之后，我们的游戏照玩不误。这场“核大战”平台公司取胜应该没有悬念，留给创业者的机会不多。 大平台都走开放路线，百度已经抢先一步做了文心一言，倒是为创业者留足了空间。 增值型垂直领域，“中间商”吃的是能力差价 LLM进一步激活了GAI（生成式AI）市场，相比国外，国内这个领域仍属蓝海。由于国内大平台起步慢，做垂直领域的模型更有机会弯道超车，比如文生图，拥有数10亿数据、搞30亿个参数，用300-400块GPU训练模型，个把星期也能完成，不断迭代，终将大成。 一旦拥有了标注质量高的数据，后来居上超过StabilityAI、Midjourney完全可能。 中国的科学家和产品经理的结合应该是全世界最好的，没有之一，再加上垂类经验和数据，凭借后期RLHF（Reinforced learning with Human Feedback），出现世界级玩家，至少独步国内，前景可期。 文生图只是一个例子，各类靠数据、垂直领域的能力建立起来的中间层值得期待。 有人会问，大厂的平台大资源多，会不会吃独食？大有大的难处，为了在平台之争中获胜，往往会争夺能力强的伙伴建立生态。国内外都如此。 如果有中间层，一定有垂直模型的机会。有人计算过一个成本模型，如果提供收费服务，服务方支付给大平台的成本占收费价格的1/10，毛利可观，容得下中间层。中间商可以吃能力差价。 应用层机会，万马奔腾...