如何利用大规模语言模型将自然语言问题转化为SQL语句？
1 简介
有的工作尝试引出中间推理步骤，通过将复杂问题显示分解为多个子问题，从而以分而治之的方式来解决。考虑到组合泛化对于语言模型有一定的挑战，这种递归方法的对于复杂任务特定有用。根据解决子问题的方式可以分为串行跟并行两种，串行的方式每个子问题相互依赖，前面子问题的答案会加入到后续子问题的prompt中，生成后续子问题的答案，而并行的方式则各个子问题的答案生成是独立的，最后再将多个子问题的答案融合到一起。
2 并行式
decomprc
在阅读理解场景下，多跳阅读理解要求从众多段落中进行推理跟归纳。于是出现了新的方案decomprc，将多跳阅读理解问题分解成多个相对简单的子问题（现有阅读理解模型可以回复），从而提高阅读理解准确性。
图1: decomprc示例
整个方案分为三个部分
a) 将原始的多跳阅读理解问题分解为多个单跳子问题。可以根据多个不同的推理类型得到多种分解方式，这里需要根据不同推理类型分别训练多个用于问题分解的模型，对于每个分解模型，采用point的方式，利用bert对原问题进行预测，得到几个关键位置，利用关键位置原文本进行划分，再加上一些规则手段，就可以得到对应的子问题了。例如预测出一个中间位置，就可以将原问题分割成两部分，第一部分作为第一个子问题，第二部分作为第二个子问题，考虑到第二部分可能都是陈述句，就将前面的词转换成which。这里将分解模型简化为一个span prediction问题，只需要400个训练数据就得到很不错的效果了。
b) 在第一步会产生多种问题分解方式，对于每一种分解方式，利用单跳阅读理解模型回复每个子问题，然后根据不同分分解类型的特性得到最终的答案。
c) 对于每一种分解方式，将原问题，分解类型，该分解方式下的问题跟对应答案一同作为模型输入，预测哪种分解方式对应的结果最合理，将该分解方式下的答案作为多跳阅读理解问题的答案。
整个流程可以简单理解为，系统提供了几种将多跳问题分解为子问题的方式，分别计算每个分解方式的合理性，再选择其中最优的分解方式对应的答案作为原问题最终答案。
qa
在qa场景下，通过将复杂问题分解为相对简单的子问题（qa模型可以回复），从而提高问答的效果。具体到多跳qa问题上，现将复杂问题分解为多个子问题，利用单跳qa模型生成全部子问题的答案并融合到一起作为复杂问题的答案。
图2: qa场景下的recursive prompting方案示例
整个系统分为三个部分
a) 无监督问题分解，将原问题分解为多个相对简单的子问题。这里需要训练一个分解模型，用于将复杂问题分解成多个子问题。由于这个任务下的监督训练数据构造成本高昂，于是提出了一种无监督的训练数据构造方式，对于每一个复杂问题q，从语料集q中检索召回得到n个对应的简单问题s作为q的子问题，n的取值可以依赖于具体任务或者具体问题。我们希望这些简单问题在某些方面跟q足够相似，同时这些简单问题s之间有明显差异。从而构造出复杂问题跟子问题序列之间的伪pair对（q, [s1,…sn]）,用于训练分解模型。
b) 生成子问题回复，利用现有的qa模型，去生成各个子问题的回复。这里不对qa模型有太多限制，只要它能正确回复语料库s中的简单问题即可，所以尽量采用在s中效果优异的qa模型。
c) 生成复杂问题回复，将复杂问题，各个子问题跟对应回复一同作为qa模型的输入，生成复杂问题的回复。这里的qa模型可以采用跟第二步一样的模型，只要将输入做对应调整即可。
图3: qa场景下的recursive prompting方案示例
图4: 实验结果对比
从实验效果上可以明显看出这些问题分解的方式能够显著提升模型效果。
串行式
seqzero
如何利用大规模语言模型将自然语言问题转化为sql语句？seqzero就是一种解法。由于sql这种规范语言的复合结构，sql语句很多情况下会显得复杂且冗长，要让语言模型学会生草本跟sql语言需要大量训练数据，于是出现了一种基于few-shot的方法seqzero。
一个sql语句包括多个部分，例如from **，selct **， where **，只要能从自然语言问题中提出这几个部分对应的元素，然后通过规则可以转化为对应的sql语句。于是seqzero的做法就是先利用语言模型预测得到其中一个元素，将该元素加入到原问题中生成下个元素，重复此操作直到生成全部元素，然后通过规则将所有结果组合起来的就得到对应的sql语句。在预测每个元素的过程中，为了得到更加强大的泛化能力，采用了few-shot跟zero-shot的集成策略。
图5: seqzero示例
least-to-most
虽然chain-of-thought prompting在很多自然语言推理任务有显著效果，但是当问题比prompt里的示例更难时，它的表现会很糟糕。举个例子，比如任务抽取文本每个单词最后一个字母，prompt的示例输入是3个单词，输入相对较短，但是问题的长度却是10个单词，这种情况下chain-of-thought prompting的策略就会失效。于是提出了least-to-most，通过两阶段的prompting来解决这种问题，第一阶段通过prompting将原问题分解为一系列子问题，第二阶段则是通过prompting依次解决子问题，前面子问题的问题跟答案会加入到候选子问题的模型输入中去，方便语言模型更好地回复候选子问题。由于这两个阶段任务有所区别，对应的prompt内容也不同。
图6: least-to-most示例
4 其他
successive prompting
前面几种方法都是一开始就将问题分解为多个子问题，然后在通过串行或者并行的方式回复所有子问题，而successive prompting则是每次分解出一个子问题，让语言模型去回复该子问题，再将该子问题以及对应答案加入到模型输入种，进而分解出下一个子问题，重复这个过程直到没有新的子问题生成，那么最后一个子问题的答案就是原问题的答案。
图7: successive prompting示例
5 总结
recursive prompting这种思路其实蛮好理解的，目前大规模语言模型处理这些简单任务效果是很不错的，但是复杂问题就比较糟糕了，一方面构造这些复杂问题相关数据的工作很艰巨，另一方面直接让语言模型在这些复杂问题数据上训练效果也很一般（想想为什么有些数据集上sota指标也很低）。但是让语言模型学会根据具体问题进行拆解，通过将复杂问题分解为相对简单的子问题，采用分而治之的方式，再将子问题答案汇总，不就得到原问题的答案了嘛。这也跟我们人类的行为模式更加接近，对于复杂任务，我们会通过合理规划将其划分为具体多个子任务，然后再去一一解决这些子任务。想想中华民族伟大复兴的道路，不也是通过一个又一个的五年计划逐步向前推进的嘛。
安科瑞充电桩收费运营云平台解决方案
基于RASC的keil电子时钟制作(瑞萨RA)(10)----读取DHT11温湿度数据
请教一下bsp如何适配到RT-Thread上呢？
深圳 5G 产业协会推动前瞻汽车技术商用落地
松下将进一步提升超级工厂产能，电池产量可到54 GWh
如何利用大规模语言模型将自然语言问题转化为SQL语句？
海伯森3D闪测传感器斩获创新产品金奖
自动驾驶中进行车道线检测的实用算法
亚洲消费电子展上海开幕,京东数字科技携旗下多款机器人产品参展
2022全球人工智能市场将达到1630亿元，2018-2022年CAGR达31%
华为在中国卖出了苹果全球的量 份额增加了15%之多
Linear推出低噪声、高精度CMOS运算放大器-LTC6244
2018年上半年中国公有云SaaS市场平稳增长
中国石油深圳新能源研究院与华为数字能源签署战略合作协议
中兴BladeV10获工信部入网许可 采用6.3英寸水滴屏支持背部指纹识别预计售价在千元左右
怎样用CD4033制作数字秒表
虹科3D固态激光雷推动自动驾驶快速发展
自动化已成为成为整个制造的基础与核心构成
Xilinx FPGA平台DDR3设计保姆式教程(六)
适用于指导能源创新公共举措的六个原则
有的工作尝试引出中间推理步骤，通过将复杂问题显示分解为多个子问题，从而以分而治之的方式来解决。考虑到组合泛化对于语言模型有一定的挑战，这种递归方法的对于复杂任务特定有用。根据解决子问题的方式可以分为串行跟并行两种，串行的方式每个子问题相互依赖，前面子问题的答案会加入到后续子问题的prompt中，生成后续子问题的答案，而并行的方式则各个子问题的答案生成是独立的，最后再将多个子问题的答案融合到一起。
2 并行式
decomprc
在阅读理解场景下，多跳阅读理解要求从众多段落中进行推理跟归纳。于是出现了新的方案decomprc，将多跳阅读理解问题分解成多个相对简单的子问题（现有阅读理解模型可以回复），从而提高阅读理解准确性。
图1: decomprc示例
整个方案分为三个部分
a) 将原始的多跳阅读理解问题分解为多个单跳子问题。可以根据多个不同的推理类型得到多种分解方式，这里需要根据不同推理类型分别训练多个用于问题分解的模型，对于每个分解模型，采用point的方式，利用bert对原问题进行预测，得到几个关键位置，利用关键位置原文本进行划分，再加上一些规则手段，就可以得到对应的子问题了。例如预测出一个中间位置，就可以将原问题分割成两部分，第一部分作为第一个子问题，第二部分作为第二个子问题，考虑到第二部分可能都是陈述句，就将前面的词转换成which。这里将分解模型简化为一个span prediction问题，只需要400个训练数据就得到很不错的效果了。
b) 在第一步会产生多种问题分解方式，对于每一种分解方式，利用单跳阅读理解模型回复每个子问题，然后根据不同分分解类型的特性得到最终的答案。
c) 对于每一种分解方式，将原问题，分解类型，该分解方式下的问题跟对应答案一同作为模型输入，预测哪种分解方式对应的结果最合理，将该分解方式下的答案作为多跳阅读理解问题的答案。
整个流程可以简单理解为，系统提供了几种将多跳问题分解为子问题的方式，分别计算每个分解方式的合理性，再选择其中最优的分解方式对应的答案作为原问题最终答案。
qa
在qa场景下，通过将复杂问题分解为相对简单的子问题（qa模型可以回复），从而提高问答的效果。具体到多跳qa问题上，现将复杂问题分解为多个子问题，利用单跳qa模型生成全部子问题的答案并融合到一起作为复杂问题的答案。
图2: qa场景下的recursive prompting方案示例
整个系统分为三个部分
a) 无监督问题分解，将原问题分解为多个相对简单的子问题。这里需要训练一个分解模型，用于将复杂问题分解成多个子问题。由于这个任务下的监督训练数据构造成本高昂，于是提出了一种无监督的训练数据构造方式，对于每一个复杂问题q，从语料集q中检索召回得到n个对应的简单问题s作为q的子问题，n的取值可以依赖于具体任务或者具体问题。我们希望这些简单问题在某些方面跟q足够相似，同时这些简单问题s之间有明显差异。从而构造出复杂问题跟子问题序列之间的伪pair对（q, [s1,…sn]）,用于训练分解模型。
b) 生成子问题回复，利用现有的qa模型，去生成各个子问题的回复。这里不对qa模型有太多限制，只要它能正确回复语料库s中的简单问题即可，所以尽量采用在s中效果优异的qa模型。
c) 生成复杂问题回复，将复杂问题，各个子问题跟对应回复一同作为qa模型的输入，生成复杂问题的回复。这里的qa模型可以采用跟第二步一样的模型，只要将输入做对应调整即可。
图3: qa场景下的recursive prompting方案示例
图4: 实验结果对比
从实验效果上可以明显看出这些问题分解的方式能够显著提升模型效果。
串行式
seqzero
如何利用大规模语言模型将自然语言问题转化为sql语句？seqzero就是一种解法。由于sql这种规范语言的复合结构，sql语句很多情况下会显得复杂且冗长，要让语言模型学会生草本跟sql语言需要大量训练数据，于是出现了一种基于few-shot的方法seqzero。
一个sql语句包括多个部分，例如from **，selct **， where **，只要能从自然语言问题中提出这几个部分对应的元素，然后通过规则可以转化为对应的sql语句。于是seqzero的做法就是先利用语言模型预测得到其中一个元素，将该元素加入到原问题中生成下个元素，重复此操作直到生成全部元素，然后通过规则将所有结果组合起来的就得到对应的sql语句。在预测每个元素的过程中，为了得到更加强大的泛化能力，采用了few-shot跟zero-shot的集成策略。
图5: seqzero示例
least-to-most
虽然chain-of-thought prompting在很多自然语言推理任务有显著效果，但是当问题比prompt里的示例更难时，它的表现会很糟糕。举个例子，比如任务抽取文本每个单词最后一个字母，prompt的示例输入是3个单词，输入相对较短，但是问题的长度却是10个单词，这种情况下chain-of-thought prompting的策略就会失效。于是提出了least-to-most，通过两阶段的prompting来解决这种问题，第一阶段通过prompting将原问题分解为一系列子问题，第二阶段则是通过prompting依次解决子问题，前面子问题的问题跟答案会加入到候选子问题的模型输入中去，方便语言模型更好地回复候选子问题。由于这两个阶段任务有所区别，对应的prompt内容也不同。
图6: least-to-most示例
4 其他
successive prompting
前面几种方法都是一开始就将问题分解为多个子问题，然后在通过串行或者并行的方式回复所有子问题，而successive prompting则是每次分解出一个子问题，让语言模型去回复该子问题，再将该子问题以及对应答案加入到模型输入种，进而分解出下一个子问题，重复这个过程直到没有新的子问题生成，那么最后一个子问题的答案就是原问题的答案。
图7: successive prompting示例
5 总结
recursive prompting这种思路其实蛮好理解的，目前大规模语言模型处理这些简单任务效果是很不错的，但是复杂问题就比较糟糕了，一方面构造这些复杂问题相关数据的工作很艰巨，另一方面直接让语言模型在这些复杂问题数据上训练效果也很一般（想想为什么有些数据集上sota指标也很低）。但是让语言模型学会根据具体问题进行拆解，通过将复杂问题分解为相对简单的子问题，采用分而治之的方式，再将子问题答案汇总，不就得到原问题的答案了嘛。这也跟我们人类的行为模式更加接近，对于复杂任务，我们会通过合理规划将其划分为具体多个子任务，然后再去一一解决这些子任务。想想中华民族伟大复兴的道路，不也是通过一个又一个的五年计划逐步向前推进的嘛。
安科瑞充电桩收费运营云平台解决方案
基于RASC的keil电子时钟制作(瑞萨RA)(10)----读取DHT11温湿度数据
请教一下bsp如何适配到RT-Thread上呢？
深圳 5G 产业协会推动前瞻汽车技术商用落地
松下将进一步提升超级工厂产能，电池产量可到54 GWh
如何利用大规模语言模型将自然语言问题转化为SQL语句？
海伯森3D闪测传感器斩获创新产品金奖
自动驾驶中进行车道线检测的实用算法
亚洲消费电子展上海开幕,京东数字科技携旗下多款机器人产品参展
2022全球人工智能市场将达到1630亿元，2018-2022年CAGR达31%
华为在中国卖出了苹果全球的量 份额增加了15%之多
Linear推出低噪声、高精度CMOS运算放大器-LTC6244
2018年上半年中国公有云SaaS市场平稳增长
中国石油深圳新能源研究院与华为数字能源签署战略合作协议
中兴BladeV10获工信部入网许可 采用6.3英寸水滴屏支持背部指纹识别预计售价在千元左右
怎样用CD4033制作数字秒表
虹科3D固态激光雷推动自动驾驶快速发展
自动化已成为成为整个制造的基础与核心构成
Xilinx FPGA平台DDR3设计保姆式教程(六)
适用于指导能源创新公共举措的六个原则