WebCPM：首个联网支持中文问答开源模型
2021年12月 webgpt 的横空出世标志了基于网页搜索的问答新范式的诞生，在此之后，new bing 首先将网页搜索功能整合发布，随后 openai 也发布了支持联网的插件 chatgpt plugins。大模型在联网功能的加持下，回答问题的实时性和准确性都得到了飞跃式增强。
近期，面壁智能联合来自清华、人大、腾讯的研究人员共同发布了中文领域首个基于交互式网页搜索的问答开源模型框架 webcpm，相关工作录用于自然语言处理顶级会议 acl 2023。
webcpm 是面壁智能自研大模型工具学习引擎 bmtools 的首个成功实践，其特点在于其信息检索基于交互式网页搜索，能够像人类一样与搜索引擎交互从而收集回答问题所需要的事实性知识并生成答案。webcpm 背后的基础模型 cpm 是由面壁智能与 openbmb 开源社区开发的百亿参数中文语言模型，占据多个中文领域语言模型排行榜前列。
webcpm 论文链接：https://arxiv.org/abs/2305.06849
webcpm 数据与代码链接：
https://github.com/thunlp/webcpm
webcpm 研究背景
在当今信息化时代，人们在日常生活和工作中，需要不断地获取各种知识和信息，而这些信息往往分散在互联网上的海量数据中。如何快速、准确地获取这些信息，并且对这些信息进行合理的整合，从而回答复杂、开放式问题，是一个极具挑战性的问题。长文本开放问答（long-form question answering, lfqa）模型就是为了回答这种复杂的问题而设计的。
目前的 lfqa 解决方案通常采用检索-综合范式，包括信息检索和信息综合两个核心环节。信息检索环节从外部知识源（如搜索引擎）中搜索多样化的相关支持事实，信息综合环节则将搜集到的事实整合成一个连贯的答案。
然而，传统的 lfqa 范式存在一个缺陷：它通常依赖于非交互式的检索方法，即仅使用原始问题作为查询语句来检索信息。相反，人类能够通过与搜索引擎实时交互来进行网页搜索而筛选高质量信息。
对于复杂问题，人类往往将其分解成多个子问题并依次提问。通过识别和浏览相关信息，人类逐渐完善对原问题的理解，并不断查询新问题来搜索更多样的信息。这种迭代的搜索过程有助于扩大搜索范围，提高搜索结果质量。总体而言，交互式网页搜索不仅为我们提供了获取多样化信息来源的途径，同时也反映了人类解决问题的认知过程，从而提高了可解释性。
2021年12月 openai 发布 webgpt，这是支持 lfqa 的交互式网页搜索的一项先驱性工作。作者首先构建了一个由微软必应搜索（bing）支持的网页搜索界面，然后招募标注员使用该界面收集信息来回答问题。之后，他们微调 gpt-3 模型，让其模仿人类的搜索行为，并将收集到的信息整理成答案。实验结果显示，webgpt 在 lfqa 任务具备出色的能力，甚至超过了人类专家。而 webgpt 也正是微软近期推出的 new bing 背后的新一代搜索技术。
尽管效果十分惊人，但 webgpt 、new bing 对学术圈和工业界来说仍然充满神秘感。这是因为 webgpt 的相关细节并未完全公开，其核心设计元素的工作原理也不透明。鉴于当前交互式网页搜索的重要价值，我们迫切需要一个标准数据集与相关的开源模型以支持后续研究。
webcpm 搜索交互界面和数据集
▲ webcpm搜索交互界面
为推动相关领域发展，这篇 acl 论文的研究团队首先构建了一个开源的交互式网页搜索界面，用于记录人类为开放式问题收集相关信息时的网页搜索行为。该界面底层调用必应搜索 api 支持网页搜索功能，囊括 10 种主流网页搜索操作（如点击页面、返回等等）。
在这个界面中，用户可以执行预定义的操作来进行多轮搜索和浏览。在找到网页上的相关信息时，他们可以将其作为支持事实记录下来。当收集到足够的信息后，用户可以完成网页搜索，并根据收集到的事实来回答问题。同时，界面会自动记录用户的网页浏览行为，用于构建 webcpm 数据集。
▲ webcpm数据集与相关问答数据集的比较
基于这个界面，作者构建了中文领域首个基于交互式网页搜索的 lfqa 数据集。它包含 5,500 对高质量的问题-答案对以及十万多条真实用户网页搜索行为。与现有的中文问答数据集相比，webcpm 的问题、支持事实和答案都更长，体现了其问题的复杂性和答案内容的丰富性。
webcpm 模型框架
作者提出了的 webcpm 框架包括：（1）搜索模型与（2）答案综合模型。
▲ webcpm模型框架
搜索模型：
该模型模仿人类网页搜索行为、与搜索引擎交互并进行信息检索。作者将网页搜索任务划分为 3 个子任务：搜索行为预测（action prediction）、查询语句生成（search query generation）和支持事实摘要（supporting fact extraction）。搜索行为预测模块在每一步决定执行哪个具体的搜索行为。该模块可以调用其它两个模块来生成下一步查询语句或摘录重要信息。每个子任务都基于生成式中文大模型来训练。
通过组合 3 个训练得到的模块，该模型能够在搜索引擎界面上执行一系列操作以收集与问题相关的信息。每个模块在当前界面状态 的条件下执行推理。 包括原始问题 、当前搜索的查询语句 、历史操作序列 ，上一个窗口和当前窗口中显示的内容 和 、当前已经摘录的支持事实 。
答案综合模型
该模型根据原问题与收集到的事实生成连贯的答案。然而与人类不同，经过训练的搜索模型偶尔会收集到不相关的噪声，这将影响生成答案的质量。为了解决这一问题，作者在答案综合模型的训练数据中引入噪声，使其具备一定的去噪的能力，从而忽略不相关的事实，只关注重要的事实以生成答案。
webcpm 实验评测
作者首先对每个子模块分别评估，然后，将所有模块组合起来形成整体的 pipeline，并测试其效果。最后，作者对每个模块的性能进行深入分析。
单个子任务的性能评估结果，作者测试了包括 cpm 模型在内的多个有代表性的中文大模型。
3.1 单个子任务评估
作者测试了多个有代表性的中文大模型，并得出以下结论（结果如上图所示）：不同模型在四个子任务上的性能各有优劣。例如在搜索行为预测、查询语句生成和支持事实摘要中，mt0 的表现优于 mt5，但在综合信息方面表现较差。此外，cpm 系列模型的性能随着模型参数量的增加也不断提高。得益于 scaling law ，更大的模型通常拥有更强的理解和生成能力，能表现出更好的下游任务性能。
3.2 整体pipeline评测
对于每个测试问题，作者比较了模型（cpm 10b 模型）和人类用户使用搜索引擎回答问题和做相同任务的表现，并进行人工评测。具体而言，给定一个问题和模型与人类分别给出的答案，标注员将根据多个因素（包括答案整体实用性、连贯性和与问题的相关性）决定哪个答案更好。
从下图（a）的结果可以得出以下结论：模型生成的答案在30%+的情况下与人写的答案相当或更优。这个结果表明整个问答系统的性能在未来仍有巨大的提升空间（例如训练性能更加强大的基底模型）；当将人工收集的事实应用于信息综合模型时，性能提高到了45%，这可以归因于收集的事实质量的提高。
▲ 整体pipeline评测效果，作者测试了webcpm数据集和dureader数据集
此外，作者也将整体 pipeline 应用于 dureader 中文 qa 数据集（包含 zhidao 和 search 两个子数据集），并比较了模型生成的答案和人工标注的答案，从上图（b）可以观察到模型生成的答案比 dureader 标注答案更好的情况接近50%，这反映了该模型强大的泛化能力，体现了webcpm 数据标注的高质量。
webcpm案例分析
为了探究查询模块所学习到的人类行为，作者抽样不同测试问题生成的查询语句来进行案例分析。下图展示了部分结果，以研究查询模块的性能。可以看出，该模块已经学会了复制原始问题，将问题分解为多个子问题，用相关术语改写问题等多种人类搜索策略。这些策略使查询语句更加多样化，有助于从更多的来源收集更丰富的信息。
webcpm成功实践bmtools
近年来，大模型在诸多领域展现出惊人的应用价值，持续刷新各类下游任务的效果上限。尽管大模型在很多方面取得了显著的成果，但在特定领域的任务上，仍然存在一定的局限性。这些任务往往需要专业化的工具或领域知识才能有效解决。因此，大模型需要具备调用各种专业化工具的能力，这样才能为现实世界任务提供更为全面的支持。
最近，新的范式大模型工具学习（tool learning）应运而生。这一范式的核心在于将专业工具与基础模型的优势相融合，以在问题解决方面达到更高的准确性、效率和自主性，工具学习极大地释放了大模型的潜力。
在应用方面，chatgpt plugins 的出现补充了 chatgpt 最后的短板，使其可以支持连网、解决数学计算，被称为 openai 的 “app store” 时刻。然而直到现在，它仅支持部分 openai plus 用户，大多数开发者仍然无法使用。为此，面壁智能前段时间也推出了工具学习引擎 bmtools，一个基于语言模型的开源可扩展工具学习平台，它将是面壁智能在大模型体系布局中的又一重要模块。
研发团队将各种各样的工具（例如文生图模型、搜索引擎、股票查询等）调用流程都统一到一个框架上，使整个工具调用流程标准化、自动化。开发者可以通过 bmtools，使用给定的模型（chatgpt、gpt-4）调用多种多样的工具接口，实现特定功能。此外，bmtools 工具包也已集成最近爆火的 auto-gpt 与 babyagi。
bmtools 工具包：https://github.com/openbmb/bmtools
工具学习综述链接：
https://arxiv.org/abs/2304.08354
工具学习论文列表：
https://github.com/thunlp/toollearningpapers
webcpm 是 bmtools 的一次成功实践，相信在不断发展和完善大模型工具学习技术的过程中，面壁智能将让大模型落地赋能更多产业。期待大模型在更多领域展现出令人惊喜的应用价值。
无线电磁阀控制器的特点以及参数
多少钱才能享受游戏的终极特效 果然钱包才是高质量游戏的保障
实用小型稳压电源的设计与制作,LM317 POWER SUPPLY
中国石墨烯电池技术新突破，1秒钟充满电会不会爆炸？
AD转换器LTC1286围电路原理图
WebCPM：首个联网支持中文问答开源模型
中国人工智能科技实力增速明显
照明应用中的蓝牙mesh网络：还可以带来什么优势？
SVPWM原理介绍和特点汇总
雷曼为陕西省应急管理厅打造全套COB超高清大屏系统
光纤放大器及其分类
联想发布第三季度财报 新推SR588V2双路机架式服务器
三维CAD技术在教学和设计中的应用
AI芯片行业未来的发展空间有多大
1060铝伸缩节常用铝箔0.1 可定制其他规格
AWorksLP 样例详解（MR6750）——双核调试
无线通信网络在工业控制领域的应用及发展分析
网络传输方式中的单播是什么？有什么应用场景？
华为首款5G折叠屏手机MateX，可否成为下一个手机发展方向？
第三代局域I/O总线的要求及使用PCI Express交换器提高性能
近期，面壁智能联合来自清华、人大、腾讯的研究人员共同发布了中文领域首个基于交互式网页搜索的问答开源模型框架 webcpm，相关工作录用于自然语言处理顶级会议 acl 2023。
webcpm 是面壁智能自研大模型工具学习引擎 bmtools 的首个成功实践，其特点在于其信息检索基于交互式网页搜索，能够像人类一样与搜索引擎交互从而收集回答问题所需要的事实性知识并生成答案。webcpm 背后的基础模型 cpm 是由面壁智能与 openbmb 开源社区开发的百亿参数中文语言模型，占据多个中文领域语言模型排行榜前列。
webcpm 论文链接：https://arxiv.org/abs/2305.06849
webcpm 数据与代码链接：
https://github.com/thunlp/webcpm
webcpm 研究背景
在当今信息化时代，人们在日常生活和工作中，需要不断地获取各种知识和信息，而这些信息往往分散在互联网上的海量数据中。如何快速、准确地获取这些信息，并且对这些信息进行合理的整合，从而回答复杂、开放式问题，是一个极具挑战性的问题。长文本开放问答（long-form question answering, lfqa）模型就是为了回答这种复杂的问题而设计的。
目前的 lfqa 解决方案通常采用检索-综合范式，包括信息检索和信息综合两个核心环节。信息检索环节从外部知识源（如搜索引擎）中搜索多样化的相关支持事实，信息综合环节则将搜集到的事实整合成一个连贯的答案。
然而，传统的 lfqa 范式存在一个缺陷：它通常依赖于非交互式的检索方法，即仅使用原始问题作为查询语句来检索信息。相反，人类能够通过与搜索引擎实时交互来进行网页搜索而筛选高质量信息。
对于复杂问题，人类往往将其分解成多个子问题并依次提问。通过识别和浏览相关信息，人类逐渐完善对原问题的理解，并不断查询新问题来搜索更多样的信息。这种迭代的搜索过程有助于扩大搜索范围，提高搜索结果质量。总体而言，交互式网页搜索不仅为我们提供了获取多样化信息来源的途径，同时也反映了人类解决问题的认知过程，从而提高了可解释性。
2021年12月 openai 发布 webgpt，这是支持 lfqa 的交互式网页搜索的一项先驱性工作。作者首先构建了一个由微软必应搜索（bing）支持的网页搜索界面，然后招募标注员使用该界面收集信息来回答问题。之后，他们微调 gpt-3 模型，让其模仿人类的搜索行为，并将收集到的信息整理成答案。实验结果显示，webgpt 在 lfqa 任务具备出色的能力，甚至超过了人类专家。而 webgpt 也正是微软近期推出的 new bing 背后的新一代搜索技术。
尽管效果十分惊人，但 webgpt 、new bing 对学术圈和工业界来说仍然充满神秘感。这是因为 webgpt 的相关细节并未完全公开，其核心设计元素的工作原理也不透明。鉴于当前交互式网页搜索的重要价值，我们迫切需要一个标准数据集与相关的开源模型以支持后续研究。
webcpm 搜索交互界面和数据集
▲ webcpm搜索交互界面
为推动相关领域发展，这篇 acl 论文的研究团队首先构建了一个开源的交互式网页搜索界面，用于记录人类为开放式问题收集相关信息时的网页搜索行为。该界面底层调用必应搜索 api 支持网页搜索功能，囊括 10 种主流网页搜索操作（如点击页面、返回等等）。
在这个界面中，用户可以执行预定义的操作来进行多轮搜索和浏览。在找到网页上的相关信息时，他们可以将其作为支持事实记录下来。当收集到足够的信息后，用户可以完成网页搜索，并根据收集到的事实来回答问题。同时，界面会自动记录用户的网页浏览行为，用于构建 webcpm 数据集。
▲ webcpm数据集与相关问答数据集的比较
基于这个界面，作者构建了中文领域首个基于交互式网页搜索的 lfqa 数据集。它包含 5,500 对高质量的问题-答案对以及十万多条真实用户网页搜索行为。与现有的中文问答数据集相比，webcpm 的问题、支持事实和答案都更长，体现了其问题的复杂性和答案内容的丰富性。
webcpm 模型框架
作者提出了的 webcpm 框架包括：（1）搜索模型与（2）答案综合模型。
▲ webcpm模型框架
搜索模型：
该模型模仿人类网页搜索行为、与搜索引擎交互并进行信息检索。作者将网页搜索任务划分为 3 个子任务：搜索行为预测（action prediction）、查询语句生成（search query generation）和支持事实摘要（supporting fact extraction）。搜索行为预测模块在每一步决定执行哪个具体的搜索行为。该模块可以调用其它两个模块来生成下一步查询语句或摘录重要信息。每个子任务都基于生成式中文大模型来训练。
通过组合 3 个训练得到的模块，该模型能够在搜索引擎界面上执行一系列操作以收集与问题相关的信息。每个模块在当前界面状态 的条件下执行推理。 包括原始问题 、当前搜索的查询语句 、历史操作序列 ，上一个窗口和当前窗口中显示的内容 和 、当前已经摘录的支持事实 。
答案综合模型
该模型根据原问题与收集到的事实生成连贯的答案。然而与人类不同，经过训练的搜索模型偶尔会收集到不相关的噪声，这将影响生成答案的质量。为了解决这一问题，作者在答案综合模型的训练数据中引入噪声，使其具备一定的去噪的能力，从而忽略不相关的事实，只关注重要的事实以生成答案。
webcpm 实验评测
作者首先对每个子模块分别评估，然后，将所有模块组合起来形成整体的 pipeline，并测试其效果。最后，作者对每个模块的性能进行深入分析。
单个子任务的性能评估结果，作者测试了包括 cpm 模型在内的多个有代表性的中文大模型。
3.1 单个子任务评估
作者测试了多个有代表性的中文大模型，并得出以下结论（结果如上图所示）：不同模型在四个子任务上的性能各有优劣。例如在搜索行为预测、查询语句生成和支持事实摘要中，mt0 的表现优于 mt5，但在综合信息方面表现较差。此外，cpm 系列模型的性能随着模型参数量的增加也不断提高。得益于 scaling law ，更大的模型通常拥有更强的理解和生成能力，能表现出更好的下游任务性能。
3.2 整体pipeline评测
对于每个测试问题，作者比较了模型（cpm 10b 模型）和人类用户使用搜索引擎回答问题和做相同任务的表现，并进行人工评测。具体而言，给定一个问题和模型与人类分别给出的答案，标注员将根据多个因素（包括答案整体实用性、连贯性和与问题的相关性）决定哪个答案更好。
从下图（a）的结果可以得出以下结论：模型生成的答案在30%+的情况下与人写的答案相当或更优。这个结果表明整个问答系统的性能在未来仍有巨大的提升空间（例如训练性能更加强大的基底模型）；当将人工收集的事实应用于信息综合模型时，性能提高到了45%，这可以归因于收集的事实质量的提高。
▲ 整体pipeline评测效果，作者测试了webcpm数据集和dureader数据集
此外，作者也将整体 pipeline 应用于 dureader 中文 qa 数据集（包含 zhidao 和 search 两个子数据集），并比较了模型生成的答案和人工标注的答案，从上图（b）可以观察到模型生成的答案比 dureader 标注答案更好的情况接近50%，这反映了该模型强大的泛化能力，体现了webcpm 数据标注的高质量。
webcpm案例分析
为了探究查询模块所学习到的人类行为，作者抽样不同测试问题生成的查询语句来进行案例分析。下图展示了部分结果，以研究查询模块的性能。可以看出，该模块已经学会了复制原始问题，将问题分解为多个子问题，用相关术语改写问题等多种人类搜索策略。这些策略使查询语句更加多样化，有助于从更多的来源收集更丰富的信息。
webcpm成功实践bmtools
近年来，大模型在诸多领域展现出惊人的应用价值，持续刷新各类下游任务的效果上限。尽管大模型在很多方面取得了显著的成果，但在特定领域的任务上，仍然存在一定的局限性。这些任务往往需要专业化的工具或领域知识才能有效解决。因此，大模型需要具备调用各种专业化工具的能力，这样才能为现实世界任务提供更为全面的支持。
最近，新的范式大模型工具学习（tool learning）应运而生。这一范式的核心在于将专业工具与基础模型的优势相融合，以在问题解决方面达到更高的准确性、效率和自主性，工具学习极大地释放了大模型的潜力。
在应用方面，chatgpt plugins 的出现补充了 chatgpt 最后的短板，使其可以支持连网、解决数学计算，被称为 openai 的 “app store” 时刻。然而直到现在，它仅支持部分 openai plus 用户，大多数开发者仍然无法使用。为此，面壁智能前段时间也推出了工具学习引擎 bmtools，一个基于语言模型的开源可扩展工具学习平台，它将是面壁智能在大模型体系布局中的又一重要模块。
研发团队将各种各样的工具（例如文生图模型、搜索引擎、股票查询等）调用流程都统一到一个框架上，使整个工具调用流程标准化、自动化。开发者可以通过 bmtools，使用给定的模型（chatgpt、gpt-4）调用多种多样的工具接口，实现特定功能。此外，bmtools 工具包也已集成最近爆火的 auto-gpt 与 babyagi。
bmtools 工具包：https://github.com/openbmb/bmtools
工具学习综述链接：
https://arxiv.org/abs/2304.08354
工具学习论文列表：
https://github.com/thunlp/toollearningpapers
webcpm 是 bmtools 的一次成功实践，相信在不断发展和完善大模型工具学习技术的过程中，面壁智能将让大模型落地赋能更多产业。期待大模型在更多领域展现出令人惊喜的应用价值。
无线电磁阀控制器的特点以及参数
多少钱才能享受游戏的终极特效 果然钱包才是高质量游戏的保障
实用小型稳压电源的设计与制作,LM317 POWER SUPPLY
中国石墨烯电池技术新突破，1秒钟充满电会不会爆炸？
AD转换器LTC1286围电路原理图
WebCPM：首个联网支持中文问答开源模型
中国人工智能科技实力增速明显
照明应用中的蓝牙mesh网络：还可以带来什么优势？
SVPWM原理介绍和特点汇总
雷曼为陕西省应急管理厅打造全套COB超高清大屏系统
光纤放大器及其分类
联想发布第三季度财报 新推SR588V2双路机架式服务器
三维CAD技术在教学和设计中的应用
AI芯片行业未来的发展空间有多大
1060铝伸缩节常用铝箔0.1 可定制其他规格
AWorksLP 样例详解（MR6750）——双核调试
无线通信网络在工业控制领域的应用及发展分析
网络传输方式中的单播是什么？有什么应用场景？
华为首款5G折叠屏手机MateX，可否成为下一个手机发展方向？
第三代局域I/O总线的要求及使用PCI Express交换器提高性能