全球首个知识增强千亿大模型“鹏城-百度·文心”发布

AI大模型是人工智能开发、应用的基础设施，体现着一个国家的AI技术发展水平。12月8日，鹏城实验室与百度联合发布全球首个知识增强千亿大模型——“鹏城-百度·文心”(模型版本号：ERNIE 3.0 Titan)，该模型参数规模达2600亿，是目前全球最大的中文单体模型。“鹏城-百度·文心”在机器阅读理解、文本分类、语义相似度计算等60多项任务中取得很好效果，并在30余项小样本和零样本任务上刷新基准。

中国工程院院士、鹏城实验室主任高文在发布会上表示，大模型对于整个科学的发展、社会的发展、创新的发展都是非常重要的工具。运用这个工具，可以让更多行业受益于人工智能的赋能，这对人工智能的发展是一个福音。

“知识增强”是文心大模型的核心特色。众所周知，知识是人类智慧的结晶，是人类进步的重要推动力。想让计算机像人一样理解和认知世界，也需要让计算机具备获取、运用知识的能力。传统大模型只从海量的文本中学习，只能死记硬背海量文本的规律，这些模型并不能从本质上理解世界是怎样运行的，只可以解决一些文本表象上的问题。通过知识增强，使模型能够更好地理解世界是怎么运行的，也就更智能。

百度知识增强大模型能够从大规模知识和海量无结构数据中融合学习，学习效率更高、效果更好，具有良好的可解释性。具有通用性好、泛化性强的特点，使开发难度更小、标注数据可以更少，降低了AI开发和应用的门槛，满足真实场景中的应用需求。目前，百度文心大模型已广泛应用在金融、医疗、保险、证券、办公、互联网、物流等行业。

为解决“鹏城-百度·文心”大模型应用落地难题，百度团队首创大模型在线蒸馏技术，模型参数压缩率可达99.98%。压缩版模型仅保留0.02%参数规模就能与原有模型效果相当，更有利于产业大规模应用。本着开源开放的理念，该模型将依托“鹏城云脑Ⅱ”对外开放，助力科技创新，推动产业发展。

“鹏城-百度·文心”大模型的成功研发，源于鹏城实验室与百度共同成立的“鹏城-百度自然语言处理联合实验室”。“鹏城-百度·文心”大模型基于鹏城实验室的算力系统“鹏城云脑Ⅱ”和百度飞桨深度学习平台的支持，解决了超大模型训练的多个公认技术难题，实现了训练速度大幅提升、效果更优。“鹏城云脑Ⅱ”是自主研发的国内首个E级AI算力平台，曾在多个国际性能测试比赛中夺冠;飞桨是我国首个自主研发的深度学习开源开放平台，创建了端到端自适应分布式训练框架，实现多硬件支持，并行效率高达90%。

当日发布会上，百度产业级知识增强大模型“文心”全景图也首次亮相。百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰介绍，最新的产业级知识增强大模型“文心”全景图，既包含基础通用的大模型，也包含面向重点领域、重点任务的大模型，以及丰富的工具与平台，有助于推动技术创新和产业发展。

目前，百度“文心”通过百度飞桨平台陆续对外开源开放，并大规模应用于百度搜索、信息流、智能音箱等产品，并通过百度智能云赋能工业、能源、金融、通信、媒体、教育等众多行业。在金融领域，通过百度“文心”大模型赋能，同时结合百度全流程AI开发平台BML提供模型再训练的能力，基于定制的保险合同条款“智能解析模型”，不仅能够完成一份合同内近40个类目条款的智能分类，根据计算，业务员处理单份合同文本的时长缩短到1分钟，速度提升了几十倍。百度智能云的“智能客服”也基于百度“文心”提升了服务的精准性，目前已在中国联通、浦发银行等国内众多企业中得到应用。(经济日报记者 佘颖)