全面解析大语言模型（LLM）
作者：野风
本文是自己在学习llm时，阅读《a survey of large language models》和其他相关材料时的笔记，力求对构建llm涉及的主要环节有一个大颗粒度的全景感知，一些比较关键或者感兴趣的话题会附上一些推荐阅读的博客。希望能根据这篇博客，读者也能按图索骥式的去学习llm。
llm涌现出的3大能力
in-context learning：在gpt-3中正式被提出。在不需要重新训练的情况下，通过自然语言指令，并带几个期望输出的样例，llm就能够学习到这种输入输出关系，新的指令输入后，就能输出期望的输出。
instruction following：通过在多种任务数据集上进行指令微调（instruction tuning），llm可以在没有见过的任务上，通过指令的形式表现良好，因此具有较好的泛化能力。
step-by-step reasoning：通过思维链（chain-of-thought）提示策略，即把大任务分解成一步一步小任务，让模型think step by step得到最终答案。
llm的关键技术
scaling：更多的模型参数、数据量和训练计算，可以有效提升模型效果。
training：分布式训练策略及一些提升训练稳定性和效果的优化trick。另外还有gpt-4也提出去建立一些特殊的工程设施通过小模型的表现去预测大模型的表现（predictable scaling）。
ability eliciting：能力引导。设计合适的任务指令或具体的上下文学习策略可以激发llm在庞大预料上学习到的能力。
alignment tuning：对齐微调。为了避免模型输出一些不安全或者不符合人类正向价值观的回复，instructgpt利用rlhf（reinforcement learning with human feedback）技术实现这一目的。
tools manipulation：工具操作。为了弥补模型不擅长非文本输出任务和实时信息缺失的问题，让模型可以使用计算器、搜索引擎或者给模型安装插件等工具
openai gpt系列模型发展历程
推荐阅读
拆解追溯 gpt-3.5 各项能力的起源 https://yaofu.notion.site/gpt-3-5-360081d91ec245f29029d37b54573756
gpt / gpt-2 / gpt-3 / instructgpt 进化之路 https://zhuanlan.zhihu.com/p/609716668
llm训练一般流程
andrej karpathy在他的演讲state of gpt中分享了gpt大模型的训练pipline，可以作为如何训练llm的一个步骤全景图，后文内容也是围绕这些步骤进行展开的
演讲内容记录：
资源
模型/api资源
推荐阅读：
数据集
分为六类：books, commoncrawl, reddit links, wikipedia, code, and others.
推荐阅读
库
预训练
数据预处理
预训练数据包括通用文本数据，比如网页信息文本、对话文本还有书籍，另外还有专业文本数据，比如多语言文本、科学领域文本、代码等。对于来自不同地方，多种格式类型的数据，需要做很仔细的数据预处理，不然会对模型效果产生很大的影响。
推荐阅读：
模型架构
基于transformer架构的llm可以分为3类：
目前大部分模型都是基于causal decoder，但为什么比其他架构好，缺乏理论支撑。long context目前是基于transformer结果模型的一大缺点，受限于较长时间和内存的资源需求。llm能编码long context的能力称为extrapolation capability。
推荐阅读
模型训练
gpt-4相关技术
已下截图来自开源项目metagpt作者直播分享
adaptation of llms
instruction tuning
指令微调指的是使用一些自然语言描述的指令形式样本去用监督学习的方式微调预训练大模型（base model），经过指令精调后，llm能在一些未见过的任务上表现较好的能力，甚至是多语言场景。
指令形式的样本实例
包含
指令样本的关键点：
指令精调可以看做是一个有监督训练的过程，相比于预训练过程，它的训练目标是seq2seq loss，同时也需要更小的batch size和learning rate，关于attention的使用也有差别，下面是几个训练时的做法
一些效果
对self-instruct指令进行效果提升的策略
指令微调建议：
要在 llms 上进行指令调优，可以根据下表 中关于所需 gpu 数量和调优时间的基本统计数据来准备计算资源。设置好开发环境后，建议初学者按照 alpaca 软件仓库的代码进行指令调优。随后，应选择基础模型并构建指令数据集，当用于训练的计算资源有限时，用户可以利用 lora 进行参数高效调整。至于推理，用户可以进一步使用量化方法，在更少或更小的 gpu 上部署 llm。
alignment tuning
对齐微调是为了让llm的输出更符合人类价值观和偏好（helpful, honest, and harmless)），减少虚假、不准确或者避免生成一些有害的信息。但这种对齐微调也会一定程度减弱模型的泛化程度，一般称这种现象为alignment tax。
人类反馈收集
对工人打标员要求会比较高，如有一定的教育水平，会英文等。标注的方式可以分为两种：
rlhf
rlhf（reinforcement learning from human feedback）系统主要包含三个关键元素：需要被对齐精调的预训练lm、通过人类反馈学习的的奖励模型和强化学习训练lm。
rlhf分为三个步骤：
pretraining
该步骤占99%的训练时间
对llm涉及的一些数字有个粗略印象：每个llm开发者都应该知道的数字
gpt-2开启了prompting 高于finetuning的时代
base model不会回答问题，只会去补全一个文档，经常会用更多问题去回答一个问题，但是可以通过提示工程触发它完成一些任务，如下图这样做。（这里有点像cot了
supervised finetuning，对应后文instruction tuning
在高质量少量数据上finetuning，让模型更像一个助手
reward modeling，对应后文alignment tuning
人工对同一prompt的多条响应进行排序，如下图构建训练样本，让奖励模型去预测，loss函数则去比较这个预测值大小与人工排序的一致性。
reinforcement learning
使用rm对sft模型生成的结果进行打分，使用ppo算法以最大化rewards为目标进行训练，得到最终模型
判断比生成更容易。比如判断一首诗坏好坏比写一首诗更容易。所以这也解释了为什么使用rlhf
base model相比rlhf model有更多的“熵”，所以能生成更多样的内容
llama (65b version)、llama 2：目前开源模型中，生态最好。很多基于llama小版本的指令精调定制模型，如果需要llama适配非英语，一般需要扩充词表和在目标语言数据进行指令精调。
flan-t5 (11b version)：可以作为指令精调的首选模型
codegen (11b version)：自回归模型，可作为代码生成的模型。同时发布了mtpb数据集，用于评测大模型代码生成能力
nllb：54.5b，机器翻译大模型
mt0 (13b version)：在多语言任务上进行了多语言指令精调
pangu-α：中文任务上表现了良好的zero-shot 和 few-shot性能。最大200b，公开的13b
falcon（7b、40b）：数据清理工作做的好，refinedweb数据集
gpt-neox-20b
opt (175b version)：及其指令精调版本opt-iml
bloom (176b version) bloomz (176b version)：可以作为多语言模型的基础模型
glm：中文对话模型chatglm2-6b
gpt-3 series：ada, babbage（gpt3-1b）, curie（gpt3-6.7b）, davinci (the most powerful version in gpt-3 series 178b), text-ada-001, text-babbage-001, and text-curie-001。前四个可以在openai的服务上作为基础模型进行微调。code-cushman-001、code-davinci-002用于代码生成。
gpt-3.5 series：基础模型code-davinci-002，三个加强版text-davinci-002, text-davinci-003, and gpt-3.5-turbo-0301（chatgpt客户端背后的模型）
gpt-4 series：gpt-4, gpt-4-0314, gpt-4-32k, and gpt-4-32k-0314
想学习大语言模型(llm)，应该从哪个开源模型开始？ https://www.zhihu.com/question/608820310
大模型训练的有哪些数据集？llm大模型训练有哪些通用语料？ https://www.zhihu.com/question/609604943/answers/updated
transformers：hugging face维护的，社区活跃，有众多基于transformer架构的模型实现，使用便捷
大模型训练框架：deepspeed（microsoft）、megatron-lm（nvidia）、jax（google）、colossal-ai（hpc-ai tech）、bmtrain（openbmb）、fastmoe等
pytorch、tensorflow、mxnet 、 paddlepaddle 、mindspore、oneflow
大模型时代下数据的重要性：data-centric artificial intelligence: a survey 这篇综述的一个讲解，并在后面介绍了一些与大模型有关的数据方面的工作，即相关工作中心都是在研究怎么玩转数据 https://zhuanlan.zhihu.com/p/639207933
causal decoder：从左到右的单向注意力。自回归语言模型，预训练和下游应用一致，生成类任务效果好。训练效率高。zero-shot能力强，涌现能力。如gpt系列、llama、bloom、opt
encoder-decoder：输入双向注意力，输出单向注意力。对问题的编码理解更充分，在偏理解的nlp任务上表现相对较好，缺点是在长文本生成任务上效果较差，训练效率低。如t5、flan-t5、bart
prefix decoder：输入双向注意力，输出单向注意力。前两者的折中。训练效率也低。如glm、chatglm、u-palm
[transformer 101系列] 初探llm基座模型 https://zhuanlan.zhihu.com/p/640784855
batch training：一般会设一个较大的数2048 examples~4m tokens，gpt-3中还介绍了一种动态增大batch size的方法
learning rate：预训练时一般都会用warm-up和decay策略，最大值一般在5e-5到1e-4之间
梯度裁剪：通常将梯度裁剪为1
optimizer：adam 和 adamw。权重衰减系数设置为0.1。adamw相当于adam加了一个l2正则项
稳定性：weight decay、gradient clipping。llm训练的时候还会碰到loss spike问题，有些简单的解决办法就是重新训练，重最近的一个checkpoint开始，跳过发生loss spike的数据。glm工作中发现，embedding layer中不正常的梯度会导致这个问题，通过缩减这个梯度，会环节spike的问题
scalable training techniques：
3d parallelism：指结合data parallelism, pipeline parallelism（gpipe、pipedream）, 和 tensor parallelism（megatron-lm、colossal-ai）三种并行方法
zero：data parallelism场景下，每个gpu都会存模型参数、模型梯度和优化器参数，但这些数据在每个gpu上都存一遍是存在冗余的，zero就是去解决这个问题。pytorch的fsdp也是做了这样的优化。
mixed precision training：bf16 vs fp16
predictable scaling：gpt4提出的通过小模型预测大模型的性能，减少出错带来的损失
任务描述（即指令）
(optional) 示例输入
输出
(optional) 解释
扩大指令范围：增加指令的任务种类数、加强对任务描述的长度、结构和创意性对加强llm泛化能力很重要
格式的设计：增加任务描述和对输入输出的解释有帮助，但在指令中加入其他内容（如应避免的事项、原因和建议）对效果提示帮助有限甚至有负向影响。对于需要推理的任务，同时加入思维链和非思维链的样例，也有助于提升效果
邀请人去注释人类需要的任务，比只使用数据集里的任务要强
平衡不同任务的指令样本数量，examples-proportional mixing strategy
将指令微调和预训练结合。opt-iml在指令微调的时候结合预训练的数据；glm-130b和galactica直接将指令微调的数据作为预训练的一小部分数据去预训练llm
仅使用英文指令精调，可以提升多语言任务的表现
在垂直专业领域进行指令微调，可以提升llm在该领域的表现
增强指令的复杂度，比如增加更多任务要求和更多的推理步骤
增加指令话题的多样性
增加指令的数量，不一定有效
平衡指令的复杂程度。通过困惑度去除过于简单和复杂的指令
基于问题的：研究人员设计一系列问题让打标人员去回答
基于规则的：不仅打标员去选择一个最好的输出（llms生成的），并且通过提前设定一系列规则去过滤模型生成的不符合人类价值偏好的结果。
（可选）supervised fine-tuning：将收集的有监督指令集，包含指令+人类回答作为预训练模型fine-tuning的数据，提升lm初始化能力
reward model training：采样指令（来自有监督指令集或者人工生成）输入lm，lm生成若干个结果，标注员对这些结果进行排序，从而训练奖励模型
rl fine-tuning：将对齐过程视为一个强化学习过程，预训练lm作为policy，指令作为其输入，其输出指令的回答，action space是所有词表，state是当前已经生成的tokens序列，奖励reward由第二步的奖励模型给出。instructgpt使用ppo算法优化，为了避免最终的aligned lm与初始预训练lm表现差距过大，还加入了两者对同一指令输入得到的输出的kl散度作为惩罚。
注意2、 3步可以多次迭代进行，以得到更好的结果。由于rl并不太稳定，也有工作使用其他有监督的方法取到rl进行微调。
推荐阅读：
rlhf实践：比较详细的讲了强化学习微调阶段的原理和踩的坑，具有实践指导意义 https://zhuanlan.zhihu.com/p/635569455
从零实现llm-rlhf https://zhuanlan.zhihu.com/p/649665766
基于 lora 的 rlhf：可以自己跟着动手玩一玩的教程 https://zhuanlan.zhihu.com/p/644900128
反思rlhf，如何更加高效训练有偏好的llm
如何有效进行rlhf的数据标注？：对数据标注过程有一个非常有指导意义的介绍
parameter-efficient model adaptation
llm参数量很大，想要去做全量参数的fine turning代价很大，所以需要一些高效经济的方法。
一些peft（parameter-efficient fine-tuning）方法
adapter tuning
prefix tuning
prompt tuning
low-rank adapation(lora)
推荐阅读：
【万字长文】llama, chatglm, bloom的参数高效微调实践 https://zhuanlan.zhihu.com/p/635710004
大模型参数高效微调技术原理综述（六）-mam adapter、unipelt - 知乎 (zhihu.com) https://zhuanlan.zhihu.com/p/636362246
让天下没有难tuning的大模型-peft技术简介 - 知乎 (zhihu.com) https://zhuanlan.zhihu.com/p/618894319
memory-efficient model adaptation
由于llm的参数量巨大，在推理的时候非常占用内存，导致其很难在应用中部署，所以需要一些减少内存占用的方法，比如llm中的量化压缩技术
quantization-aware training (qat)，需要额外的全模型重训练
efficient fine-tuning enhanced quantization，qlora
quantization-aware training (qat) for llms
post-training quantization (ptq)，不需要重训练
mixed-precision decomposition
fine-grained quantization
balancing the quantization difficulty
layerwise quantization
llm由于参数量巨大，更适合ptq。另外，llm 呈现出截然不同的激活模式（即较大的离群特征），因此量化 llm（尤其是隐层激活）变得更加困难。
一些经验
int8 权重量化通常可以在 llm 上产生非常好的结果，而较低精度权重量化的性能则取决于特定的方法
激活函数比权重更难量化
efficient fine-tuning enhanced quantization是提升量化llm一个较好的方法
开源量化库：
bitsandbytes
gptq-for-llama
autogptq
llama.cpp
利用
in-context learning
in-context learning（icl）的prompt由任务描述和若干个qa示例（demonstration）组成，llm可以识别这些内容并理解，无需进行梯度更新（区别于instruction tuning）就能在新的问题（q）上进行回答（a）。
样例的设计
demonstration selection
heuristic approaches：一些研究采用基于 k-nn 的检索器来选择与query语义相关的示例。也会同时考虑相关性和多样性
llm-based approaches：利用 llm，根据添加样例后的性能增益，直接测量每个样例的信息量。先根据无监督的方法（如bm25）召回一些相似的样例，然后使用一个dense retriever（由llm打标的正负样本）去查找。
demonstration format
最直接的方法就是给一些qa样例对
使用cot，增加对任务的描述去增强推理能力
auto-cot, 通过let's think step by step，得到子问题
demonstration order llms有时倾向于去重复最后一个样例的答案
通过query与样例之间的embedding space的相似度排序
最大限度地减少压缩和传输任务标签所需的代码长度，其灵感来自信息论
底层机制
how pre-training affects icl?：
gpt-3中发现在大规模的预训练模型中会出现icl，但后面也有研究发现，小规模模型在特定设计的训练任务上继续预训练或者微调后也能出现icl能力。
另外，icl的出现可以理论上看做是预训练过程中，模型在学习具有长距离语义联系的文档过程中诞生的。
也有研究认为，在扩大训练参数和数据的时候，llm通过“下一个词预测”训练任务，模型可以从字或词如何组成具有语言含义的句子学习过程中得到icl能力。
how llms perform icl?
task recognition：有研究认为在预训练数据中包含了标识任务（task）的隐变量，而llm可以根据demonstration捕捉到这些变量，从而能够识别icl中的任务。所以，有部分研究认为llm不是从demonstration中学习，而是识别任务，所以有实验表明即使prompt template是无关的甚至是有误导的，llm表现也很好
task learning：icl 可以解释如下：通过前向计算，llm 生成与demonstration相关的元梯度，并通过注意力机制隐式地执行梯度下降。llm 本质上是在预训练过程中通过参数对隐式模型进行编码。利用 icl 中提供的示例，llm 可以实施梯度下降等学习算法，或直接计算闭式解，以便在前向计算中更新这些模型。
chain-of-thought prompting
cot 并非像 icl 那样简单地用输入-输出对来构建提示，而是将可能导致最终输出的中间推理步骤纳入提示中。
in-context learning with cot
few-shot cot：demonstration由〈input, output〉 变成 〈input, cot, output〉，区别见上图。
使用不同类型的cot（不同的推理路径）和使用复杂的cot都可以加强效果。
为了减少手工提供cot，可以使用auto-cot。
self-consistency技巧：首先生成几条推理路径，然后对所有答案进行综合（例如，通过在这些路径中投票选出最一致的答案），可以较大提升cot效果。
zero-shot cot：llm 首先在 let’s think step by step的提示下产生推理步骤，然后在 therefore, the answer is 的提示下得出最终答案。
底层机制
when cot works for llms?：在需要做一步一步推理的任务中（算术推理、常识推理和符号推理），cot会表现不错，但那些如果不需要复杂推理的任务，加了cot反而会不好
why llms can perform cot reasoning?：广泛认为cot能力来自于在代码数据上训练，但目前缺乏消融实验的证明。cot包含三个元素symbols、patterns和text，后两个对效果影响最大，text帮助llm生成有用的pattern，pattern帮助llm理解任务和生成帮助解决任务的text
planning for complex task solving
对于一些复杂的问题，仅用icl和cot还是很难取到好的效果，所以采用prompt-based planning的方法去将复杂问题分解为更简单的子问题，并通过规划一系列action去完成这些子问题任务。
那这个plan具体是什么呢？它可以是一系列用自然语言描述的action或者用编程语言描述的可执行代码等
plan generation
text-based：通过指令利用llm去生成执行计划，比如利用icl的、让llm在“使用api解决问题”的语料上微调，从而让模型可以调用api、hugginggpt还让llm可以调用模型
code-based：生成python、pddl等可执行的代码
feedback acquisition
internal feedback：使用llm去预测生成的plan取得成功的概率、tree of thought去对比不同的plan（有点类似alphago的蒙特卡诺搜索的意思）、对中间结果进行评估并作为长期记忆存储
external feedback：外部工具或者虚拟世界
plan refinement
reasoning：react通过给llm一些demonstrations去在feedback的时候生成推理路径、chatcot进一步将工具增强推理过程统一为基于llm的任务规划器与基于工具的环境之间的多轮对话
backtracking：tree of thought利用dfs或者bfs去搜索，使得plan全局最优；另外还可以把feedback作为prompt去利用llm refine plan
memorization：将feedback和一些success plan作为长期记忆存储在向量数据库中
实际上这块又引出了一个热度很高的话题——llm powered autonomous agents，我觉得这是一个可能颠覆整个软件行业，甚至整个社会数字化生产力形态的话题，后面再好好介绍一下吧。
能力评估
基础能力评估
language generation
language modeling：即根据前序tokens预测下一个token的能力，常用数据集有penn treebank、wikitext-103、和 pile。在zero-shot的设定下，通过困惑度（perplexity）作为指标去评估。对于长依赖能力的评估，可以使用lambada数据集
conditional text generation：具体任务下的文本生成，比如机器翻译、文本摘要、问答、更难的结构化数据生成、长文本生成等。常用指标有accuracy、bleu和rouge，以及人工评价、利用llm去评价
code synthesis：通过运行代码测试pass rate，apps、humaneval、mbpp
主要问题：
unreliable generation evaluation：llm能生成与人类相当的质量的文本，基于现有的一些自动评价指标会低估这些文本质量。目前另一种方法是利用llm去做评价，对单个文本进行评价和对多个候选文本进行比较来改进现有评价指标
underperforming specialized generation：llm 可能无法胜任需要特定领域知识或生成结构化数据的生成任务。在保持 llm 原有能力的同时，为 llm 注入专业知识并非易事。
knowledge utilization
问答（question answering）和知识补全（knowledge completion）两个任务常被用来检验这个能力
closed-book qa：测试llm根据给定的上下文信息回答而不使用外部数据，常使用accuracy作为评价指标，实验表明更大的参数量或者数据量，都能提升该任务效果
open-book qa：可以利用外部资源来回答问题，常用accuracy和f1作为评价指标。为了使用外部数据，一般会用一个text retriever（独立于llm或者和llm一起训练）去选择外部数据，甚至可以直接是利用搜索引擎。外部数据能提升回答效果，并且可以最新的数据，去回答time-sensitive问题。
knowledge completion：这个任务可以去评价一个llm从预训练数据中学到了什么和学到了多少知识。一般有知识图谱补全任务和事实补全任务。目前对于特定领域的知识补全，llm表现的不好。
推荐阅读：
retrieval-based lms https://zhuanlan.zhihu.com/p/649820484
主要问题：
hallucination：产生的信息要么与现有信息源相冲突（内在幻觉），要么无法得到现有信息源的验证（外在幻觉），这在实际使用中影响较大。一般会通过在高质量数据和人工反馈上进行对齐微调，另外通过整合外部信息源提供可信的信息也有助于减少幻觉
knowledge recency：llm 的参数知识很难及时更新。用外部知识源，比如搜索引擎，把搜索结果作为context去增强 llm 是解决这一问题的实用方法。然而，如何有效更新 llm 内部的知识仍是一个有待解决的研究课题。
推荐阅读：
大模型的幻觉问题调研: llm hallucination survey https://zhuanlan.zhihu.com/p/642648601
complex reasoning
复杂推理是指理解并利用辅助证据或逻辑推理得出结论或做出决定的能力
knowledge reasoning：一般使用llm的cot能力去触发step by step推理能力。llm容易生成一些错误的中间步骤，导致最终的错误结果，有研究使用特殊的解码和集成策略去解决这个问题
symbolic reasoning：知识推理任务依靠逻辑关系和事实知识证据来回答给定问题
mathematical reasoning：数学推理任务需要综合运用数学知识、逻辑和计算来解决问题或生成证明陈述。
主要问题：
reasoning inconsistency：llm 可能会在无效的推理路径后生成正确的答案，或者在正确的推理过程后生成错误的答案，从而导致得出的答案与推理过程不一致。要解决这个问题，可以利用过程级反馈对 llm 进行微调，使用多种推理路径组合，并通过自我反思或外部反馈完善推理过程。
numerical computation：llm 在数字计算方面面临困难，尤其是在前期训练中很少遇到的符号。除了使用外部数学工具外，将数字标记化为单个标记也是提高 llm 算术能力的有效设计选择。
高级能力评估
human alignment
对齐人类价值一般会从helpfulness、honesty、safety和harmlessness角度去评估，通过alignment tuning和高质量的预训练数据，可以提高这方面的能力
interaction with external environment
一般会在虚拟环境中进行测试评估，通过对生成的action plans进行可执行性和正确性评估以及在现实环境中实验的成功率去评价该能力。最近也有一些研究在虚拟环境做基于llm的多智能体协作的工作。
tool manipulation
将工具使用api封装给llm调用、chatgpt的插件等都是工具的形式，验证llm工作操作的能力一般会使用一些推理任务去评估。随着工具的增多，llm有限的context导致其无法很好的利用这些工具反馈的信息，现在的做法是将这些信息存储为embedding使用
基准和经验性评估
comprehensive evaluation benchmarks
mmlu
big-bench、big-bench-lite、big-bench hard
helm
human-level test benchmarks：agieval、mmcu、m3ke、c-eval、xiezhi
empirical ability evaluation
论文作者通过在闭源大模型（chatgpt, claude, davinci003 and davinci002）和开源大模型（llama 7b、pythia 7b和12b、falcon 7b，经过instruction-tuned的vicuna 7b、alpaca 7b、chatglm 6b）上做了一些实验评估，得到了一些结论
闭源大模型相比开源大模型，效果更好，尤其是chatgpt
chatgpt 和 davinci003 在与环境互动和工具操作任务方面表现更佳
所有模型在难度很大的推理任务中都表现不佳
instruction-tuned model效果要优于base model
这些小型开源模型在数学推理、与环境互动和工具操作任务方面表现不佳
在human alignment任务上，开源模型的表现方差较大
作为最新发布的型号，falcon-7b 性能不俗，尤其是在语言生成任务方面
推荐阅读：
llm evaluation 如何评估一个大模型？ https://zhuanlan.zhihu.com/p/644373658
a survey on evaluation of large language models https://github.com/mlgroupjlu/llm-eval-survey
一些leaderboard
mmlu
chatbot arena
big-bench
open llm leaderboard
superclue
c-eval
gaokao-bench
alpacaeval
opencompass
prompt设计指南
原则：
① 清楚地表达任务目标；
② 分解成简单、详细的子任务；
③ 提供少量演示；
④ 使用模型友好格式
任务描述
描述越细节越好；
告诉llm自己是某方面的专家；
告诉llm更多应该做什么而不是不应该做什么；如果不希望太长的输出，可以使用“question: short answer: ”或者in a or a few words”, “in one of two sentences”.
输入数据
对于要求提供事实性知识的问题，可以先通过搜索引擎检索相关文档，然后将其串联到提示语中作为参考；
为了突出提示中的某些重要部分，请使用特殊标记，如引号（）和换行符（ ）。您也可以同时使用这两种符号来强调
上下文信息
对于复杂的任务，可以清楚地描述完成任务所需的中间步骤，例如：please answer the question step by step as: step 1 - decompose the question into several sub-questions, · · ·
如果您想让 llm 为文本打分，则有必要详细说明评分标准，并提供示例作为参考
当 llm 根据上下文生成文本时（例如，根据购买历史记录进行推荐），向它们解释根据上下文生成的结果有助于提高生成文本的质量。
示例（demonstration）：
格式良好的上下文示例对指导 llm 非常有用，尤其是在制作格式复杂的输出时。
在进行few-shot cot提示时，也可以使用 let’s think step-by-step 的提示语，而且少量示例之间应该用 分隔，而不是句号。
检索与上下文相似的示例去补充llm任务相关的领域知识，为了获取更多的示例，可以先搜索问题的答案，然后再把问题和答案拼在一起去检索
提示中语境范例的多样性也很有用。如果不容易获得多样化的问题，也可以设法保持问题解决方案的多样性。
在使用chat-based llm时，可以将示例分解为多轮对话形式
复杂且详细的示例可以帮助llm回答复杂问题
由于一个符号序列通常可分为多个片段（如 i1、i2、i3 -→ i1、i2 和 i2、i3），因此前面的片段可作为上下文中的范例，引导 llm 预测后面的片段，同时提供历史信息。
上下文中的示例和提示组件的顺序很重要。对于很长的输入数据，问题的位置（第一个或最后一个）也会影响性能。
如果无法从现有数据集中获取上下文示例，另一种方法是使用 llm 本身生成的zero-shot示例
其他设计
让llm在输出的时候检测内容是否正确。如check whether the above solution is correct or not.
如果llm不能很好的解决问题，可以让llm使用外部api工具，如function calling能力
提示语应自成一体，最好不要在上下文中使用代词（如 it 和 they）。
在使用 llm 比较两个或多个示例时，顺序对性能影响很大。
在提示之前，为 llm 分配一个角色非常有用，可以帮助它更好地完成以下任务指令
与其他语言相比，openai 模型可以更好地用英语执行任务。因此，首先将输入内容翻译成英语，然后将其输入 llm 是非常有用的。
对于多选题，限制 llm 的输出空间是非常有用的。您可以使用更详细的解释，也可以只对对数施加限制。
对于基于排序的任务（如推荐），我们可以为未排序的项目分配指标（如 abcd），并指示 llm 直接输出排序后的指标，而不是在排序后直接输出每个项目的完整文本
智慧路灯杆助力创造一个智慧安全的科技城
LED死灯的原因及分析探讨
基于MCU的音频信号分析仪的解决方案
华为Mate 20X曝光：搭载骁龙660处理器+7.12英寸屏幕
中国电信：率先实现5G SA规模商用，截至9月5G共建共享已节省投资600亿元
全面解析大语言模型（LLM）
一窥国内18650电池技术水平
全新AMD Radeon Pro 5600M移动式GPU为16英寸MacBook Pro带来桌面级图形性能和更强的能效
什么是网络通信优先级
DC/DC转换器LT8580的性能特点及应用范围分析
三星S7更新安卓7.0 相机功能五大变化！
36V/30A镍氢电池充电电源的设计和实现
浅析Google Research的LaserTagger和Seq2Edits
苹果今年将会发布两款平板电脑分别为iPad mini 5和一款入门级iPad
串联谐振电路实验原理_串联谐振的特点_串联谐振的原理图
科大讯飞星火认知大模型V3.5发布
25G SFP28 SR 100m光模块特征及应用
三星扩大系统IC布局是要直捣英特尔老巢？
LEAP Expo 2019&Vision China（深圳）大咖交流会成功召开
工业物联网应用的关注度将由设备和资产转向产品和客户
本文是自己在学习llm时，阅读《a survey of large language models》和其他相关材料时的笔记，力求对构建llm涉及的主要环节有一个大颗粒度的全景感知，一些比较关键或者感兴趣的话题会附上一些推荐阅读的博客。希望能根据这篇博客，读者也能按图索骥式的去学习llm。
llm涌现出的3大能力
in-context learning：在gpt-3中正式被提出。在不需要重新训练的情况下，通过自然语言指令，并带几个期望输出的样例，llm就能够学习到这种输入输出关系，新的指令输入后，就能输出期望的输出。
instruction following：通过在多种任务数据集上进行指令微调（instruction tuning），llm可以在没有见过的任务上，通过指令的形式表现良好，因此具有较好的泛化能力。
step-by-step reasoning：通过思维链（chain-of-thought）提示策略，即把大任务分解成一步一步小任务，让模型think step by step得到最终答案。
llm的关键技术
scaling：更多的模型参数、数据量和训练计算，可以有效提升模型效果。
training：分布式训练策略及一些提升训练稳定性和效果的优化trick。另外还有gpt-4也提出去建立一些特殊的工程设施通过小模型的表现去预测大模型的表现（predictable scaling）。
ability eliciting：能力引导。设计合适的任务指令或具体的上下文学习策略可以激发llm在庞大预料上学习到的能力。
alignment tuning：对齐微调。为了避免模型输出一些不安全或者不符合人类正向价值观的回复，instructgpt利用rlhf（reinforcement learning with human feedback）技术实现这一目的。
tools manipulation：工具操作。为了弥补模型不擅长非文本输出任务和实时信息缺失的问题，让模型可以使用计算器、搜索引擎或者给模型安装插件等工具
openai gpt系列模型发展历程
推荐阅读
拆解追溯 gpt-3.5 各项能力的起源 https://yaofu.notion.site/gpt-3-5-360081d91ec245f29029d37b54573756
gpt / gpt-2 / gpt-3 / instructgpt 进化之路 https://zhuanlan.zhihu.com/p/609716668
llm训练一般流程
andrej karpathy在他的演讲state of gpt中分享了gpt大模型的训练pipline，可以作为如何训练llm的一个步骤全景图，后文内容也是围绕这些步骤进行展开的
演讲内容记录：
资源
模型/api资源
推荐阅读：
数据集
分为六类：books, commoncrawl, reddit links, wikipedia, code, and others.
推荐阅读
库
预训练
数据预处理
预训练数据包括通用文本数据，比如网页信息文本、对话文本还有书籍，另外还有专业文本数据，比如多语言文本、科学领域文本、代码等。对于来自不同地方，多种格式类型的数据，需要做很仔细的数据预处理，不然会对模型效果产生很大的影响。
推荐阅读：
模型架构
基于transformer架构的llm可以分为3类：
目前大部分模型都是基于causal decoder，但为什么比其他架构好，缺乏理论支撑。long context目前是基于transformer结果模型的一大缺点，受限于较长时间和内存的资源需求。llm能编码long context的能力称为extrapolation capability。
推荐阅读
模型训练
gpt-4相关技术
已下截图来自开源项目metagpt作者直播分享
adaptation of llms
instruction tuning
指令微调指的是使用一些自然语言描述的指令形式样本去用监督学习的方式微调预训练大模型（base model），经过指令精调后，llm能在一些未见过的任务上表现较好的能力，甚至是多语言场景。
指令形式的样本实例
包含
指令样本的关键点：
指令精调可以看做是一个有监督训练的过程，相比于预训练过程，它的训练目标是seq2seq loss，同时也需要更小的batch size和learning rate，关于attention的使用也有差别，下面是几个训练时的做法
一些效果
对self-instruct指令进行效果提升的策略
指令微调建议：
要在 llms 上进行指令调优，可以根据下表 中关于所需 gpu 数量和调优时间的基本统计数据来准备计算资源。设置好开发环境后，建议初学者按照 alpaca 软件仓库的代码进行指令调优。随后，应选择基础模型并构建指令数据集，当用于训练的计算资源有限时，用户可以利用 lora 进行参数高效调整。至于推理，用户可以进一步使用量化方法，在更少或更小的 gpu 上部署 llm。
alignment tuning
对齐微调是为了让llm的输出更符合人类价值观和偏好（helpful, honest, and harmless)），减少虚假、不准确或者避免生成一些有害的信息。但这种对齐微调也会一定程度减弱模型的泛化程度，一般称这种现象为alignment tax。
人类反馈收集
对工人打标员要求会比较高，如有一定的教育水平，会英文等。标注的方式可以分为两种：
rlhf
rlhf（reinforcement learning from human feedback）系统主要包含三个关键元素：需要被对齐精调的预训练lm、通过人类反馈学习的的奖励模型和强化学习训练lm。
rlhf分为三个步骤：
pretraining
该步骤占99%的训练时间
对llm涉及的一些数字有个粗略印象：每个llm开发者都应该知道的数字
gpt-2开启了prompting 高于finetuning的时代
base model不会回答问题，只会去补全一个文档，经常会用更多问题去回答一个问题，但是可以通过提示工程触发它完成一些任务，如下图这样做。（这里有点像cot了
supervised finetuning，对应后文instruction tuning
在高质量少量数据上finetuning，让模型更像一个助手
reward modeling，对应后文alignment tuning
人工对同一prompt的多条响应进行排序，如下图构建训练样本，让奖励模型去预测，loss函数则去比较这个预测值大小与人工排序的一致性。
reinforcement learning
使用rm对sft模型生成的结果进行打分，使用ppo算法以最大化rewards为目标进行训练，得到最终模型
判断比生成更容易。比如判断一首诗坏好坏比写一首诗更容易。所以这也解释了为什么使用rlhf
base model相比rlhf model有更多的“熵”，所以能生成更多样的内容
llama (65b version)、llama 2：目前开源模型中，生态最好。很多基于llama小版本的指令精调定制模型，如果需要llama适配非英语，一般需要扩充词表和在目标语言数据进行指令精调。
flan-t5 (11b version)：可以作为指令精调的首选模型
codegen (11b version)：自回归模型，可作为代码生成的模型。同时发布了mtpb数据集，用于评测大模型代码生成能力
nllb：54.5b，机器翻译大模型
mt0 (13b version)：在多语言任务上进行了多语言指令精调
pangu-α：中文任务上表现了良好的zero-shot 和 few-shot性能。最大200b，公开的13b
falcon（7b、40b）：数据清理工作做的好，refinedweb数据集
gpt-neox-20b
opt (175b version)：及其指令精调版本opt-iml
bloom (176b version) bloomz (176b version)：可以作为多语言模型的基础模型
glm：中文对话模型chatglm2-6b
gpt-3 series：ada, babbage（gpt3-1b）, curie（gpt3-6.7b）, davinci (the most powerful version in gpt-3 series 178b), text-ada-001, text-babbage-001, and text-curie-001。前四个可以在openai的服务上作为基础模型进行微调。code-cushman-001、code-davinci-002用于代码生成。
gpt-3.5 series：基础模型code-davinci-002，三个加强版text-davinci-002, text-davinci-003, and gpt-3.5-turbo-0301（chatgpt客户端背后的模型）
gpt-4 series：gpt-4, gpt-4-0314, gpt-4-32k, and gpt-4-32k-0314
想学习大语言模型(llm)，应该从哪个开源模型开始？ https://www.zhihu.com/question/608820310
大模型训练的有哪些数据集？llm大模型训练有哪些通用语料？ https://www.zhihu.com/question/609604943/answers/updated
transformers：hugging face维护的，社区活跃，有众多基于transformer架构的模型实现，使用便捷
大模型训练框架：deepspeed（microsoft）、megatron-lm（nvidia）、jax（google）、colossal-ai（hpc-ai tech）、bmtrain（openbmb）、fastmoe等
pytorch、tensorflow、mxnet 、 paddlepaddle 、mindspore、oneflow
大模型时代下数据的重要性：data-centric artificial intelligence: a survey 这篇综述的一个讲解，并在后面介绍了一些与大模型有关的数据方面的工作，即相关工作中心都是在研究怎么玩转数据 https://zhuanlan.zhihu.com/p/639207933
causal decoder：从左到右的单向注意力。自回归语言模型，预训练和下游应用一致，生成类任务效果好。训练效率高。zero-shot能力强，涌现能力。如gpt系列、llama、bloom、opt
encoder-decoder：输入双向注意力，输出单向注意力。对问题的编码理解更充分，在偏理解的nlp任务上表现相对较好，缺点是在长文本生成任务上效果较差，训练效率低。如t5、flan-t5、bart
prefix decoder：输入双向注意力，输出单向注意力。前两者的折中。训练效率也低。如glm、chatglm、u-palm
[transformer 101系列] 初探llm基座模型 https://zhuanlan.zhihu.com/p/640784855
batch training：一般会设一个较大的数2048 examples~4m tokens，gpt-3中还介绍了一种动态增大batch size的方法
learning rate：预训练时一般都会用warm-up和decay策略，最大值一般在5e-5到1e-4之间
梯度裁剪：通常将梯度裁剪为1
optimizer：adam 和 adamw。权重衰减系数设置为0.1。adamw相当于adam加了一个l2正则项
稳定性：weight decay、gradient clipping。llm训练的时候还会碰到loss spike问题，有些简单的解决办法就是重新训练，重最近的一个checkpoint开始，跳过发生loss spike的数据。glm工作中发现，embedding layer中不正常的梯度会导致这个问题，通过缩减这个梯度，会环节spike的问题
scalable training techniques：
3d parallelism：指结合data parallelism, pipeline parallelism（gpipe、pipedream）, 和 tensor parallelism（megatron-lm、colossal-ai）三种并行方法
zero：data parallelism场景下，每个gpu都会存模型参数、模型梯度和优化器参数，但这些数据在每个gpu上都存一遍是存在冗余的，zero就是去解决这个问题。pytorch的fsdp也是做了这样的优化。
mixed precision training：bf16 vs fp16
predictable scaling：gpt4提出的通过小模型预测大模型的性能，减少出错带来的损失
任务描述（即指令）
(optional) 示例输入
输出
(optional) 解释
扩大指令范围：增加指令的任务种类数、加强对任务描述的长度、结构和创意性对加强llm泛化能力很重要
格式的设计：增加任务描述和对输入输出的解释有帮助，但在指令中加入其他内容（如应避免的事项、原因和建议）对效果提示帮助有限甚至有负向影响。对于需要推理的任务，同时加入思维链和非思维链的样例，也有助于提升效果
邀请人去注释人类需要的任务，比只使用数据集里的任务要强
平衡不同任务的指令样本数量，examples-proportional mixing strategy
将指令微调和预训练结合。opt-iml在指令微调的时候结合预训练的数据；glm-130b和galactica直接将指令微调的数据作为预训练的一小部分数据去预训练llm
仅使用英文指令精调，可以提升多语言任务的表现
在垂直专业领域进行指令微调，可以提升llm在该领域的表现
增强指令的复杂度，比如增加更多任务要求和更多的推理步骤
增加指令话题的多样性
增加指令的数量，不一定有效
平衡指令的复杂程度。通过困惑度去除过于简单和复杂的指令
基于问题的：研究人员设计一系列问题让打标人员去回答
基于规则的：不仅打标员去选择一个最好的输出（llms生成的），并且通过提前设定一系列规则去过滤模型生成的不符合人类价值偏好的结果。
（可选）supervised fine-tuning：将收集的有监督指令集，包含指令+人类回答作为预训练模型fine-tuning的数据，提升lm初始化能力
reward model training：采样指令（来自有监督指令集或者人工生成）输入lm，lm生成若干个结果，标注员对这些结果进行排序，从而训练奖励模型
rl fine-tuning：将对齐过程视为一个强化学习过程，预训练lm作为policy，指令作为其输入，其输出指令的回答，action space是所有词表，state是当前已经生成的tokens序列，奖励reward由第二步的奖励模型给出。instructgpt使用ppo算法优化，为了避免最终的aligned lm与初始预训练lm表现差距过大，还加入了两者对同一指令输入得到的输出的kl散度作为惩罚。
注意2、 3步可以多次迭代进行，以得到更好的结果。由于rl并不太稳定，也有工作使用其他有监督的方法取到rl进行微调。
推荐阅读：
rlhf实践：比较详细的讲了强化学习微调阶段的原理和踩的坑，具有实践指导意义 https://zhuanlan.zhihu.com/p/635569455
从零实现llm-rlhf https://zhuanlan.zhihu.com/p/649665766
基于 lora 的 rlhf：可以自己跟着动手玩一玩的教程 https://zhuanlan.zhihu.com/p/644900128
反思rlhf，如何更加高效训练有偏好的llm
如何有效进行rlhf的数据标注？：对数据标注过程有一个非常有指导意义的介绍
parameter-efficient model adaptation
llm参数量很大，想要去做全量参数的fine turning代价很大，所以需要一些高效经济的方法。
一些peft（parameter-efficient fine-tuning）方法
adapter tuning
prefix tuning
prompt tuning
low-rank adapation(lora)
推荐阅读：
【万字长文】llama, chatglm, bloom的参数高效微调实践 https://zhuanlan.zhihu.com/p/635710004
大模型参数高效微调技术原理综述（六）-mam adapter、unipelt - 知乎 (zhihu.com) https://zhuanlan.zhihu.com/p/636362246
让天下没有难tuning的大模型-peft技术简介 - 知乎 (zhihu.com) https://zhuanlan.zhihu.com/p/618894319
memory-efficient model adaptation
由于llm的参数量巨大，在推理的时候非常占用内存，导致其很难在应用中部署，所以需要一些减少内存占用的方法，比如llm中的量化压缩技术
quantization-aware training (qat)，需要额外的全模型重训练
efficient fine-tuning enhanced quantization，qlora
quantization-aware training (qat) for llms
post-training quantization (ptq)，不需要重训练
mixed-precision decomposition
fine-grained quantization
balancing the quantization difficulty
layerwise quantization
llm由于参数量巨大，更适合ptq。另外，llm 呈现出截然不同的激活模式（即较大的离群特征），因此量化 llm（尤其是隐层激活）变得更加困难。
一些经验
int8 权重量化通常可以在 llm 上产生非常好的结果，而较低精度权重量化的性能则取决于特定的方法
激活函数比权重更难量化
efficient fine-tuning enhanced quantization是提升量化llm一个较好的方法
开源量化库：
bitsandbytes
gptq-for-llama
autogptq
llama.cpp
利用
in-context learning
in-context learning（icl）的prompt由任务描述和若干个qa示例（demonstration）组成，llm可以识别这些内容并理解，无需进行梯度更新（区别于instruction tuning）就能在新的问题（q）上进行回答（a）。
样例的设计
demonstration selection
heuristic approaches：一些研究采用基于 k-nn 的检索器来选择与query语义相关的示例。也会同时考虑相关性和多样性
llm-based approaches：利用 llm，根据添加样例后的性能增益，直接测量每个样例的信息量。先根据无监督的方法（如bm25）召回一些相似的样例，然后使用一个dense retriever（由llm打标的正负样本）去查找。
demonstration format
最直接的方法就是给一些qa样例对
使用cot，增加对任务的描述去增强推理能力
auto-cot, 通过let's think step by step，得到子问题
demonstration order llms有时倾向于去重复最后一个样例的答案
通过query与样例之间的embedding space的相似度排序
最大限度地减少压缩和传输任务标签所需的代码长度，其灵感来自信息论
底层机制
how pre-training affects icl?：
gpt-3中发现在大规模的预训练模型中会出现icl，但后面也有研究发现，小规模模型在特定设计的训练任务上继续预训练或者微调后也能出现icl能力。
另外，icl的出现可以理论上看做是预训练过程中，模型在学习具有长距离语义联系的文档过程中诞生的。
也有研究认为，在扩大训练参数和数据的时候，llm通过“下一个词预测”训练任务，模型可以从字或词如何组成具有语言含义的句子学习过程中得到icl能力。
how llms perform icl?
task recognition：有研究认为在预训练数据中包含了标识任务（task）的隐变量，而llm可以根据demonstration捕捉到这些变量，从而能够识别icl中的任务。所以，有部分研究认为llm不是从demonstration中学习，而是识别任务，所以有实验表明即使prompt template是无关的甚至是有误导的，llm表现也很好
task learning：icl 可以解释如下：通过前向计算，llm 生成与demonstration相关的元梯度，并通过注意力机制隐式地执行梯度下降。llm 本质上是在预训练过程中通过参数对隐式模型进行编码。利用 icl 中提供的示例，llm 可以实施梯度下降等学习算法，或直接计算闭式解，以便在前向计算中更新这些模型。
chain-of-thought prompting
cot 并非像 icl 那样简单地用输入-输出对来构建提示，而是将可能导致最终输出的中间推理步骤纳入提示中。
in-context learning with cot
few-shot cot：demonstration由〈input, output〉 变成 〈input, cot, output〉，区别见上图。
使用不同类型的cot（不同的推理路径）和使用复杂的cot都可以加强效果。
为了减少手工提供cot，可以使用auto-cot。
self-consistency技巧：首先生成几条推理路径，然后对所有答案进行综合（例如，通过在这些路径中投票选出最一致的答案），可以较大提升cot效果。
zero-shot cot：llm 首先在 let’s think step by step的提示下产生推理步骤，然后在 therefore, the answer is 的提示下得出最终答案。
底层机制
when cot works for llms?：在需要做一步一步推理的任务中（算术推理、常识推理和符号推理），cot会表现不错，但那些如果不需要复杂推理的任务，加了cot反而会不好
why llms can perform cot reasoning?：广泛认为cot能力来自于在代码数据上训练，但目前缺乏消融实验的证明。cot包含三个元素symbols、patterns和text，后两个对效果影响最大，text帮助llm生成有用的pattern，pattern帮助llm理解任务和生成帮助解决任务的text
planning for complex task solving
对于一些复杂的问题，仅用icl和cot还是很难取到好的效果，所以采用prompt-based planning的方法去将复杂问题分解为更简单的子问题，并通过规划一系列action去完成这些子问题任务。
那这个plan具体是什么呢？它可以是一系列用自然语言描述的action或者用编程语言描述的可执行代码等
plan generation
text-based：通过指令利用llm去生成执行计划，比如利用icl的、让llm在“使用api解决问题”的语料上微调，从而让模型可以调用api、hugginggpt还让llm可以调用模型
code-based：生成python、pddl等可执行的代码
feedback acquisition
internal feedback：使用llm去预测生成的plan取得成功的概率、tree of thought去对比不同的plan（有点类似alphago的蒙特卡诺搜索的意思）、对中间结果进行评估并作为长期记忆存储
external feedback：外部工具或者虚拟世界
plan refinement
reasoning：react通过给llm一些demonstrations去在feedback的时候生成推理路径、chatcot进一步将工具增强推理过程统一为基于llm的任务规划器与基于工具的环境之间的多轮对话
backtracking：tree of thought利用dfs或者bfs去搜索，使得plan全局最优；另外还可以把feedback作为prompt去利用llm refine plan
memorization：将feedback和一些success plan作为长期记忆存储在向量数据库中
实际上这块又引出了一个热度很高的话题——llm powered autonomous agents，我觉得这是一个可能颠覆整个软件行业，甚至整个社会数字化生产力形态的话题，后面再好好介绍一下吧。
能力评估
基础能力评估
language generation
language modeling：即根据前序tokens预测下一个token的能力，常用数据集有penn treebank、wikitext-103、和 pile。在zero-shot的设定下，通过困惑度（perplexity）作为指标去评估。对于长依赖能力的评估，可以使用lambada数据集
conditional text generation：具体任务下的文本生成，比如机器翻译、文本摘要、问答、更难的结构化数据生成、长文本生成等。常用指标有accuracy、bleu和rouge，以及人工评价、利用llm去评价
code synthesis：通过运行代码测试pass rate，apps、humaneval、mbpp
主要问题：
unreliable generation evaluation：llm能生成与人类相当的质量的文本，基于现有的一些自动评价指标会低估这些文本质量。目前另一种方法是利用llm去做评价，对单个文本进行评价和对多个候选文本进行比较来改进现有评价指标
underperforming specialized generation：llm 可能无法胜任需要特定领域知识或生成结构化数据的生成任务。在保持 llm 原有能力的同时，为 llm 注入专业知识并非易事。
knowledge utilization
问答（question answering）和知识补全（knowledge completion）两个任务常被用来检验这个能力
closed-book qa：测试llm根据给定的上下文信息回答而不使用外部数据，常使用accuracy作为评价指标，实验表明更大的参数量或者数据量，都能提升该任务效果
open-book qa：可以利用外部资源来回答问题，常用accuracy和f1作为评价指标。为了使用外部数据，一般会用一个text retriever（独立于llm或者和llm一起训练）去选择外部数据，甚至可以直接是利用搜索引擎。外部数据能提升回答效果，并且可以最新的数据，去回答time-sensitive问题。
knowledge completion：这个任务可以去评价一个llm从预训练数据中学到了什么和学到了多少知识。一般有知识图谱补全任务和事实补全任务。目前对于特定领域的知识补全，llm表现的不好。
推荐阅读：
retrieval-based lms https://zhuanlan.zhihu.com/p/649820484
主要问题：
hallucination：产生的信息要么与现有信息源相冲突（内在幻觉），要么无法得到现有信息源的验证（外在幻觉），这在实际使用中影响较大。一般会通过在高质量数据和人工反馈上进行对齐微调，另外通过整合外部信息源提供可信的信息也有助于减少幻觉
knowledge recency：llm 的参数知识很难及时更新。用外部知识源，比如搜索引擎，把搜索结果作为context去增强 llm 是解决这一问题的实用方法。然而，如何有效更新 llm 内部的知识仍是一个有待解决的研究课题。
推荐阅读：
大模型的幻觉问题调研: llm hallucination survey https://zhuanlan.zhihu.com/p/642648601
complex reasoning
复杂推理是指理解并利用辅助证据或逻辑推理得出结论或做出决定的能力
knowledge reasoning：一般使用llm的cot能力去触发step by step推理能力。llm容易生成一些错误的中间步骤，导致最终的错误结果，有研究使用特殊的解码和集成策略去解决这个问题
symbolic reasoning：知识推理任务依靠逻辑关系和事实知识证据来回答给定问题
mathematical reasoning：数学推理任务需要综合运用数学知识、逻辑和计算来解决问题或生成证明陈述。
主要问题：
reasoning inconsistency：llm 可能会在无效的推理路径后生成正确的答案，或者在正确的推理过程后生成错误的答案，从而导致得出的答案与推理过程不一致。要解决这个问题，可以利用过程级反馈对 llm 进行微调，使用多种推理路径组合，并通过自我反思或外部反馈完善推理过程。
numerical computation：llm 在数字计算方面面临困难，尤其是在前期训练中很少遇到的符号。除了使用外部数学工具外，将数字标记化为单个标记也是提高 llm 算术能力的有效设计选择。
高级能力评估
human alignment
对齐人类价值一般会从helpfulness、honesty、safety和harmlessness角度去评估，通过alignment tuning和高质量的预训练数据，可以提高这方面的能力
interaction with external environment
一般会在虚拟环境中进行测试评估，通过对生成的action plans进行可执行性和正确性评估以及在现实环境中实验的成功率去评价该能力。最近也有一些研究在虚拟环境做基于llm的多智能体协作的工作。
tool manipulation
将工具使用api封装给llm调用、chatgpt的插件等都是工具的形式，验证llm工作操作的能力一般会使用一些推理任务去评估。随着工具的增多，llm有限的context导致其无法很好的利用这些工具反馈的信息，现在的做法是将这些信息存储为embedding使用
基准和经验性评估
comprehensive evaluation benchmarks
mmlu
big-bench、big-bench-lite、big-bench hard
helm
human-level test benchmarks：agieval、mmcu、m3ke、c-eval、xiezhi
empirical ability evaluation
论文作者通过在闭源大模型（chatgpt, claude, davinci003 and davinci002）和开源大模型（llama 7b、pythia 7b和12b、falcon 7b，经过instruction-tuned的vicuna 7b、alpaca 7b、chatglm 6b）上做了一些实验评估，得到了一些结论
闭源大模型相比开源大模型，效果更好，尤其是chatgpt
chatgpt 和 davinci003 在与环境互动和工具操作任务方面表现更佳
所有模型在难度很大的推理任务中都表现不佳
instruction-tuned model效果要优于base model
这些小型开源模型在数学推理、与环境互动和工具操作任务方面表现不佳
在human alignment任务上，开源模型的表现方差较大
作为最新发布的型号，falcon-7b 性能不俗，尤其是在语言生成任务方面
推荐阅读：
llm evaluation 如何评估一个大模型？ https://zhuanlan.zhihu.com/p/644373658
a survey on evaluation of large language models https://github.com/mlgroupjlu/llm-eval-survey
一些leaderboard
mmlu
chatbot arena
big-bench
open llm leaderboard
superclue
c-eval
gaokao-bench
alpacaeval
opencompass
prompt设计指南
原则：
① 清楚地表达任务目标；
② 分解成简单、详细的子任务；
③ 提供少量演示；
④ 使用模型友好格式
任务描述
描述越细节越好；
告诉llm自己是某方面的专家；
告诉llm更多应该做什么而不是不应该做什么；如果不希望太长的输出，可以使用“question: short answer: ”或者in a or a few words”, “in one of two sentences”.
输入数据
对于要求提供事实性知识的问题，可以先通过搜索引擎检索相关文档，然后将其串联到提示语中作为参考；
为了突出提示中的某些重要部分，请使用特殊标记，如引号（）和换行符（ ）。您也可以同时使用这两种符号来强调
上下文信息
对于复杂的任务，可以清楚地描述完成任务所需的中间步骤，例如：please answer the question step by step as: step 1 - decompose the question into several sub-questions, · · ·
如果您想让 llm 为文本打分，则有必要详细说明评分标准，并提供示例作为参考
当 llm 根据上下文生成文本时（例如，根据购买历史记录进行推荐），向它们解释根据上下文生成的结果有助于提高生成文本的质量。
示例（demonstration）：
格式良好的上下文示例对指导 llm 非常有用，尤其是在制作格式复杂的输出时。
在进行few-shot cot提示时，也可以使用 let’s think step-by-step 的提示语，而且少量示例之间应该用 分隔，而不是句号。
检索与上下文相似的示例去补充llm任务相关的领域知识，为了获取更多的示例，可以先搜索问题的答案，然后再把问题和答案拼在一起去检索
提示中语境范例的多样性也很有用。如果不容易获得多样化的问题，也可以设法保持问题解决方案的多样性。
在使用chat-based llm时，可以将示例分解为多轮对话形式
复杂且详细的示例可以帮助llm回答复杂问题
由于一个符号序列通常可分为多个片段（如 i1、i2、i3 -→ i1、i2 和 i2、i3），因此前面的片段可作为上下文中的范例，引导 llm 预测后面的片段，同时提供历史信息。
上下文中的示例和提示组件的顺序很重要。对于很长的输入数据，问题的位置（第一个或最后一个）也会影响性能。
如果无法从现有数据集中获取上下文示例，另一种方法是使用 llm 本身生成的zero-shot示例
其他设计
让llm在输出的时候检测内容是否正确。如check whether the above solution is correct or not.
如果llm不能很好的解决问题，可以让llm使用外部api工具，如function calling能力
提示语应自成一体，最好不要在上下文中使用代词（如 it 和 they）。
在使用 llm 比较两个或多个示例时，顺序对性能影响很大。
在提示之前，为 llm 分配一个角色非常有用，可以帮助它更好地完成以下任务指令
与其他语言相比，openai 模型可以更好地用英语执行任务。因此，首先将输入内容翻译成英语，然后将其输入 llm 是非常有用的。
对于多选题，限制 llm 的输出空间是非常有用的。您可以使用更详细的解释，也可以只对对数施加限制。
对于基于排序的任务（如推荐），我们可以为未排序的项目分配指标（如 abcd），并指示 llm 直接输出排序后的指标，而不是在排序后直接输出每个项目的完整文本
智慧路灯杆助力创造一个智慧安全的科技城
LED死灯的原因及分析探讨
基于MCU的音频信号分析仪的解决方案
华为Mate 20X曝光：搭载骁龙660处理器+7.12英寸屏幕
中国电信：率先实现5G SA规模商用，截至9月5G共建共享已节省投资600亿元
全面解析大语言模型（LLM）
一窥国内18650电池技术水平
全新AMD Radeon Pro 5600M移动式GPU为16英寸MacBook Pro带来桌面级图形性能和更强的能效
什么是网络通信优先级
DC/DC转换器LT8580的性能特点及应用范围分析
三星S7更新安卓7.0 相机功能五大变化！
36V/30A镍氢电池充电电源的设计和实现
浅析Google Research的LaserTagger和Seq2Edits
苹果今年将会发布两款平板电脑分别为iPad mini 5和一款入门级iPad
串联谐振电路实验原理_串联谐振的特点_串联谐振的原理图
科大讯飞星火认知大模型V3.5发布
25G SFP28 SR 100m光模块特征及应用
三星扩大系统IC布局是要直捣英特尔老巢？
LEAP Expo 2019&Vision China（深圳）大咖交流会成功召开
工业物联网应用的关注度将由设备和资产转向产品和客户