文章主题：ChatGPT, 金耀初, 人工智能技术, 自注意力机制
科技日报记者 李山
近期，欧洲科学院院士、德国比勒菲尔德大学洪堡人工智能教席教授金耀初接受科技日报记者的专访，针对热门科技话题ChatGPT进行了深入探讨。此外，金教授还担任英国萨里大学计算系的“计算智能”讲席教授以及IEEE计算智能学会的候任理事长。他曾经担任过《IEEE认知与发育系统汇刊》的主编，并曾担任其他重要职务。
欧洲科学院院士、德国比勒菲尔德大学洪堡人工智能教席教授金耀初。照片由受访者提供
生成式模型的重大进展
金耀初认为，ChatGPT所体现的核心技术是第三波人工智能技术的重大突破。这一技术基于生成式预训练的Transformer模型，并引入了“自注意力机制”。相较于传统的判别式模型，生成式模型的显著特性在于其能够直接学习训练数据本身的特征，这使得它在处理大量样本，尤其是海量语言和视觉信息时，表现出更高的学习效率。
传统语言处理模型通常仅能依据词汇前后顺序寻找词语间关联，这限制了其应用范围。然而，Transformer通过引入自注意力机制，能够突破这一局限，不再局限于单个句子，而是可以灵活地挖掘整篇文档甚至不同文档间词汇的相互联系，从而显著提升其学习能力。
横空出世非一日之功
金耀初指出，ChatGPT的出现只是普罗大众的感知。然而，从科学研究的视角来看，ChatGPT的演进过程则是逐步累积的结果。据OpenAI发布的论文记载，ChatGPT经历了长期的学习与微调，使用了多种先进的学习策略。值得注意的是，生成式模型所提供的答案并非是对预先输入的训练数据的直接反应，而是模型自身生成的结果。因此，其答案的正确性难以做到百分百确保。在训练过程中，ChatGPT广泛应用了包括无监督学习、有监督学习、多任务学习、小样本学习和自监督学习等多种最新学习技术。
除了上述特点外，ChatGPT还采用了基于人类反馈的强化学习技术，旨在提升其与人类的共鸣和共情能力。具体而言，该系统会根据人类给出的评价，对其生成的答案进行评分，从而选定最佳答案。这一过程实际上就是一个强化学习的过程，也就是说对原有的模型进行微调。相较于其他AI模型，ChatGPT所采用的大量人类反馈策略，使其能够更精准地理解人类的期待，进而生成更为符合人类需求的回答，这也是其独特之处所在。
尚不具备自主的“心智”
金耀初表示，ChatGPT作为一款从文本到文本的对话系统，其优势在于对自然语言的深入理解，从而生成的文本更具有流畅感和人类体验。这标志着一个重要的技术创新。然而，需要注意的是，生成式机器学习模型种类繁多，例如从文本到语音信息和文本到图像信息等，在这些领域中，ChatGPT的表现可能不尽如人意。这也是ChatGPT所存在的局限性之一。
另一方面，目前ChatGPT训练的数据截至2021年，没有训练过的东西，它是不可能准确回答出来的。换句话说，目前的模型不具备创造新知识的能力。ChatGPT回答问题时用的是推理。它不是那种在数据库中搜索答案的概念。生成式模型是根据问题本身联想出一个答案。这个答案是模型“学习消化”后产生出来的东西，不是原始的数据。严格意义上来说，模型本身甚至不知道这个答案的真正含义，它也不能保证答案肯定是对的。
ChatGPT不是“万能”的
金耀初认为，ChatGPT离真正的专业应用还有一定的距离。现在大家感觉很新奇，都在尝试玩一玩。有的人甚至以为ChatGPT什么都能干，可以很快用在自动驾驶之类的很多应用上，这其实是误解。自动驾驶的重点不是文本到文本的问题，纯粹的生成式模型是不够的。它需要其他判别式的机器学习模型，特别是实时场景的识别。
以当前热门的医疗服务平台为例，虽然人工智能助手 ChatGPT 在美国执业医师资格考试中表现出色，但在现实中，人们是否会使用 ChatGPT 来替代医生进行诊疗仍然存在疑虑。这主要是因为目前尚无法确保 ChatGPT 的所有答案都是百分之百正确的。事实上，有人认为 ChatGPT 有时候可能会出现胡说八道的现象，这种风险不容忽视。
期待未来更多突破
金耀初表示，这一波人工智能可能不会像第一波和第二波人工智能浪潮那样很快偃旗息鼓。它会继续发展下去，未来三五年，人工智能领域可能还会涌现一些令人吃惊的突破。很多基于ChatGPT的新的想法或技术或会涌现，并在此基础上找到真正好的细分领域的应用。
金耀初指出，人工智能与机器人的融合，一直是人工智能研究的核心关注领域。目前，ChatGPT与人交流的流畅程度已经让人难以区分对方是真人还是数字化的人物。然而，随着人工智能技术的进步，未来将会面临许多关于其本质的问题，例如信任、责任、伦理以及法律等。尽管如此，我们应当保持乐观的态度，因为像ChatGPT等人工智能应用的影响力不断扩大，这将在一定程度上推动上述问题的解决。
编辑：张爽
审核：朱丽
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
