文章主题:文章关键词:ChatGPT,垂直版,行业应用,人工智能。
白交 发自 凹非寺
量子位 | 公众号 QbitAI国内玩家如火如荼入局ChatGPT,其在各行业出圈也有目共睹。
但具体什么时候能上岗尚且还不明晰,尤其像一些艰深、壁垒性高的行业,比如医疗。
现在,一位哈佛医学院教授,就亲自下场测试ChatGPT的表现。
结果显示,它在45个案例中的39个诊断正确,正确率87%(超过了现有机器诊断率的51%);并为30个案例提供了适当的分诊建议。
他表示,ChatGPT辅助诊断的表现,已经接近医生。既然如此,那什么时候可以上岗?
事实上,这也是目前国内大多数玩家所面临的问题:红利在此,如何率先吃掉?
此前我们也系统性地梳理过复刻中国版ChatGPT背后的技术与生态难度,显然不是短期就可以实现的。
现在已经衍生出来一种新思路:直接打造行业垂直版ChatGPT。
这种方式是否可行?
打造行业版ChatGPT可行吗?
ChatGPT的打造,技术核心绕不开算力、数据和算法三要素。
算力方面,OpenAI背靠微软这头奶牛——拥有28.5万个CPU核心、1万个英伟达V100 GPU,光是训练一个GPT-3,费用就高达460万美元;数据上,GPT系列几经迭代优化,一度惊艳众人的GPT-3就有1750亿参数,而上一版本GPT-2只有15亿参数;算法自然也有多年深厚的积累,否则也不能出现“类人”自主学习特征,而且进一步展现出快速适应多领域、多场景的能力。
再加上生态反哺技术,形成迭代闭环。OpenAI自GPT-3开始就以开放接口的形式,构建起了专属“GPT生态”。据gpt3demo网站统计,目前已有656个调用GPT-3系列模型开发的应用程序。
这样的技术与生态壁垒,决定了复刻ChatGPT并非那么容易。既然如此,垂直版ChatGPT的解决思路也开始在行业中探讨。
首先从技术上来看,他们的核心挑战主要在于以更少的参数,比如以百亿规模参数量,在垂直领域的任务达到或超过ChatGPT的效果。
实现这个目标或许比复制 ChatGPT 更为复杂,原因在于所需的参数数量较少。因此,我们需要运用卓越的模型设计以及压缩技术,而不仅仅是依赖“暴力美学”。
另外一个挑战是数据来源的不同。
像谷歌、微软他们其实有天然的通用数据来源,但专用数据积累不能跟垂直玩家相比。
在众多领域中,特别是医疗等与民生相关的行业,其专业性较强且涵盖范围广泛,所需的优质数据量级往往不亚于 ChatGPT。而且,大部分这类数据无法通过互联网轻松获取。
对于那些已经在这一领域深根多年的垂直玩家而言,他们已经建立起了属于自己的产业生态系统,积累了大量的行业数据和专业知识。这些经验为他们成功复制 ChatGPT 提供了坚实的基础。
而且从价值需求来看,垂直行业所代表的价值是实实在在的。像医疗本身需求就不小,一旦ChatGPT落地医疗,所代表的社会价值很大。
以往用户们会习惯性使用的用搜索、APP来帮助诊断自己的疾病,但往往可能收效甚微。
哈佛医学院的Ateev Mehrotra教授曾进行了一项实验,发现在当前的在线诊断工具中,平均准确率仅为51%,而ChatGPT却能达到87%的准确率。基于这一发现,Mehrotra教授认为ChatGPT有望颠覆医疗诊断领域,成为规则改变者。
为了加速ChatGPT应用落地,从技术难度、价值需求等维度看,打造垂直版ChatGPT是可行的。
而现在国内有AI玩家,已经在这样做了。
云知声ChatGPT行业版
最新曝光的进展,智能语音赛道独角兽云知声正在推进ChatGPT行业版的建设——
以医疗作为切入口,构建ChatGPT医疗行业版,同时基于ChatGPT行业版构建平台,快速扩展到其他领域,再利用领域模型集成MoE(Mixture of Experts)技术,训练得到通用ChatGPT模型。
而这种从专用到通用的思路。其实是云知声一贯的“U+X“做法。在这里,“U”指的通用大模型算法研发及高效训练底座平台;“X”则是应用于多个行业领域的专用大模型版本。
事实上这也正在成为不少企业入局ChatGPT的思路,这样一来,可以利用已有的专用数据优势。
不过也不是那么容易走的,更何况云知声选择的,还是对生成内容质量要求更高的医疗行业作为切入口。
提升医疗知识的可靠度应视为首要任务。ChatGPT在胡说八道的领域具有天赋。如今,在Bing上进行聊天搜索和内容创作已无大碍,用户们对此也充满热情。
在实际应用中,行业版的ChatGPT必须严格控制,避免出现任何不准确或误导性的信息,尤其是对于关键行业如医疗、教育和工业等,其内容生成的精确性和可靠性要求极高,同时对数据质量的要求也极为严格。这是因为这些行业的专业知识和技术细节通常非常复杂,非专业人士很难理解和掌握。如果ChatGPT在这些领域的应用过程中产生错误或不准确的信息,可能会引发严重的风险和问题。因此,行业版ChatGPT必须确保其内容的真实性和准确性,以保障各行业的正常运行和发展。
在我们行业中,追求“性价比”是至关重要的。每一个希望大规模落地的技术,都必须面临一个关键问题:“如何在有限的资源下,实现最大化的效果?”这不仅是衡量技术成功与否的标准,也是我们在实际应用中不断优化、提升的焦点。
这也是ChatGPT行业落地的必经之路——模型能以更小的参数规模,达到与ChatGPT同样的效果。这也就给这些企业带来了不小难题。
云知声也明确表示,要想让ChatGPT行业版真正发挥作用并实现大规模应用,其所需的参数规模可能需要达到百亿级别。这一目标并非易事,但只要我们努力去实现它,就有可能取得成功。
从某种程度上说,打造行业版的ChatGPT比现在通用的ChatGPT还要更难,但到真正ChatGPT行业落地时,这些问题又都必须得解决。概括来说,就是实现ChatGPT工程化能力。
这是每个躬身入局者,绕不开但必须得过的路。
在此基础上,毫无疑问的是,云知声的选择更难——医疗作为切入口。这是始终被认为是行业壁垒高、专业性强、技术难度制高点的领域,也是为什么相较于其他行业的盛况,医疗AI玩家就显得少之又少的原因。
但一旦将医疗版ChatGPT打通,那么其他领域的实现,包括最后的通用大模型也就事半功倍了。
作为成立于2012年的AI公司,他们一直密切关注AI前沿技术,并积极推动技术产业化应用,包括2012年的深度学习算法升级和产业化应用,到2016年Atlas超算平台、知识图谱和全栈AI技术应用,到现在基于ChatGPT框架的AGI认知技术升级。
同时,在医疗行业有近10年深耕,积累的行业知识、数据和应用,还获得了2019年北京市科技进步一等奖。
在回应是否有信心打造ChatGPT行业版时,云知声方面表示:完全有信心。
前面总结,打造ChatGPT离不开高质量的数据,领先的算法和充分的算力。而对于垂直版ChatGPT还需要更深厚的工程化能力。
从这几方面来看,云知声的确具有行业参考性。
数据方面,近10年来云知声积累了全方位的行业数据,包括面向患者的导诊、预问诊、患者教育和随访系统,也有面向临床的语音病历,病历质控,单病种质控和医疗风险管理系统,已有近400家医院落地使用。据称数据规模已达到了5T,为医疗行业语言大模型提供数据基础。
算法方面,而ChatGPT所代表的认知智能,本身就是云知声核心技术优势。他们构建了国内最大的医疗知识图谱之一。从2019年至2022年,云知声的认知智能技术在国内外相关评测中荣获7冠5亚。其自主研发的医疗预训练语言模型CirBERTa一度登顶中文医疗信息处理挑战榜榜首。
在算力上,云知声超算平台浮点计算能力可达8亿亿次/秒,可为千亿级参数规模模型提供算力保障。
而在大模型工程化方面,云知声已经研发了CirBERTa模型,复现了GPT-2模型,并利用模型压缩和知识蒸馏机制,实现了线上推理效率的近百倍加速,为大模型的广泛应用奠定了基础。
此外作为行业版ChatGPT,内容质量保障也是关键一环。
云知声给出的解决方案是,利用应用在CirBERTa的持续学习和知识嵌入技术,基于已有知识图谱积累,优化ChatGPT模型的知识获取和更新机制。
据介绍,这样一来可以保证ChatGPT回答中的知识正确性,与此同时还可以给出知识溯源信息。
另外,利用云知声业内领先的病历质控技术,可以自动发现生成的病历中的问题,进而自动生成作为ChatGPT核心技术的基于人类反馈的强化学习(RLHF,Reinforcement Learning from Human Feedback)所需的用户反馈数据,加速模型的优化。
谁最先吃掉ChatGPT红利?
最后回到事件本身,此前论及ChatGPT对行业的价值,都是从宏观上的产业生态和模式创新上谈,比如对人机交互、信息分发、内容生产等方面。
如今随着越来越多的垂直企业入局,ChatGPT对企业的意义也呼之欲出——一种全新AGI的技术范式选择:基于“大规模通用基础模型+轻量级行业应用优化”的行业知识整合和问题解决方法。
以往这些场景玩家,对于AI的探索可能处于“看山是山、看山不是山”的懵懂状态,现在出现了一座“更小,而且明知会有路的山”。
ChatGPT所表现出来的“智能”,给他们带来了一种明确的技术方向。
云知声CEO黄伟也深有体会,甚至于相较于AlphaGo,他认为ChatGPT所带来的影响要深厚得多,相当于一场新的“工业革命”。
这场革命最大的优势是,通过自监督注意力机制,能够充分利用海量无监督数据训练通用基础模型,并将感知、认知与生成,用统一框架实现“端到端”的整合,直接从高质量生成结果上去呈现机器智能。机器采取的人工引导的数据驱动学习方法,与人类的逻辑思维方式是完全不一样的,类似飞机所采用的喷气式“空气动力学”机制,与鸟类采取的“扇动翅膀”方式完全不同。
不管是对整个产业,还是单个企业而言,ChatGPT所带来的价值确实让他们不跟不行。
尤其对于一些场景玩家来说,他们还是最有可能吃掉ChatGPT红利的一拨人。
他们有场景有数据、有深厚的行业壁垒,一旦具备ChatGPT能力,就可以率先在行业落地。这是其他玩家所不能及的先发优势。
上一次AI浪潮来袭时,最终也是场景玩家率先吃掉AI红利。只不过现在ChatGPT是直接以技术路径出现,落地速度自然要比以往快得多。
云知声CEO黄伟也给出了个明确的时间点:
年内就会实现成功应用落地的方案。
— 完 —
《中国AIGC产业全景报告暨AIGC 50》调研启动
谁会是中国的“ChatGPT”?最有竞争力和潜力的AIGC力量位于何方?
量子位《中国AIGC产业全景报暨AIGC 50》正式启动对外征集,期待有更多优秀的机构、产品、案例与技术能够被大众看到。
点这里?关注我,记得标星哦~
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!