全球首个 知识增强千亿大模型“鹏城-百度・文心”发布

12 月 8 日，鹏城实验室与百度举办新闻发布会，联合发布全球首个知识增强千亿大模型 --"鹏城-百度・文心"（模型版本号：ERNIE 3.0 Titan），该模型参数规模达 2600 亿，是目前全球最大的中文单体模型。

"鹏城-百度・文心"在机器阅读理解、文本分类、语义相似度计算等 60 多项任务中取得很好效果，并在 30 余项小样本和零样本任务上刷新基准。

中国工程院院士、鹏城实验室主任高文（左），百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰联合发布"鹏城-百度・文心"

中国工程院院士、鹏城实验室主任高文在发布会上表示，大模型对于整个科学的发展、社会的发展、创新的发展都是非常重要的工具。运用这个工具，可以让更多行业受益于人工智能的赋能，这对人工智能的发展是一个福音。

为解决"鹏城-百度・文心"大模型应用落地难题，百度团队首创大模型在线蒸馏技术，模型参数压缩率可达 99.98%。压缩版模型仅保留 0.02% 参数规模就能与原有模型效果相当，更有利于产业大规模应用。本着开源开放的理念，该模型代码近期会在 OpenI 启智社区开源，依托"鹏城云脑 Ⅱ"对外开放，助力科技创新，推动产业发展。

"鹏城-百度・文心"大模型的成功研发，源于鹏城实验室与百度共同成立的"鹏城-百度自然语言处理联合实验室"。"鹏城-百度・文心"大模型基于鹏城实验室的算力系统"鹏城云脑 Ⅱ"和百度飞桨深度学习平台的支持，解决了超大模型训练的多个公认技术难题，实现了训练速度大幅提升、效果更优。

"鹏城云脑 Ⅱ"是自主研发的国内首个 E 级 AI 算力平台，曾在多个国际性能测试比赛中夺冠；飞桨是我国首个自主研发的深度学习开源开放平台，创建了端到端自适应分布式训练框架，实现多硬件支持，并行效率高达 90%。

百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰发布百度产业级知识增强大模型"文心"全景图

当日发布会上，百度产业级知识增强大模型"文心"全景图也首次亮相。王海峰介绍，最新的产业级知识增强大模型"文心"全景图，既包含基础通用的大模型，也包含面向重点领域、重点任务的大模型，以及丰富的工具与平台，有助于推动技术创新和产业发展。

目前，百度"文心"通过百度飞桨平台陆续对外开源开放，并大规模应用于百度搜索、信息流、智能音箱等产品，并通过百度智能云赋能工业、能源、金融、通信、媒体、教育等众多行业。