详解ChatGPT数据集之谜
一些研究人员的报告称，通用人工智能（agi）可能是从我们当前的语言模型技术进行演进 ［1］，预训练 transformer 语言模型为 agi 的发展铺平了道路。虽然模型训练数据集日渐增大，但缺乏基本指标文档，包括数据集大小、数据集 token 数量和具体的内容细节。
尽管业内提出了数据集组成和整理文档的标准 ［2］，但几乎所有重点研究实验室在揭示模型训练数据集细节这方面都做得不够。这里整合的研究涵盖了 2018 年到 2022 年初从 gpt-1 到 gopher 的精选语言模型的所有数据集（包括主要数据集：wikipedia 和 common crawl）的综合视图。
1、概述
图 1. 主要数据集大小的可视化汇总。未加权大小，以 gb 为单位。
2018 年以来，大语言模型的开发和生产使用呈现出爆炸式增长。一些重点研究实验室报告称，公众对大语言模型的使用率达到了惊人高度。2021 年 3 月，openai 宣布 ［3］ 其 gpt-3 语言模型被 “超过 300 个应用程序使用，平均每天能够生成 45 亿个词”，也就是说仅单个模型每分钟就能生成 310 万词的新内容。
值得注意的是，这些语言模型甚至还没有被完全理解，斯坦福大学的研究人员 ［4］ 最近坦言，“目前我们对这些模型还缺乏认知，还不太了解这些模型的运转模式、不知道模型何时会失效，更不知道这些模型的突现性（emergent properties）能产生什么效果”。
随着新型 ai 技术的快速发展，模型训练数据集的相关文档质量有所下降。模型内部到底有什么秘密？它们又是如何组建的？本文综合整理并分析了现代大型语言模型的训练数据集。
因为这方面的原始文献并不对外公开，所以本文搜集整合了二、三级研究资料，在必要的时候本文会采用假设的方式来推算最终结果。
在本文中，我们会将原始论文中已经明确的特定细节（例如 token 数量或数据集大小）归类为 “公开的（disclosed）” 数据，并作加粗处理。
多数情况下，适当地参考二、三级文献，并采用假设的方式来确定最终结果是很有必要的。在这些情况下，token 数量和数据集大小等细节是 “确定的（determined）”，并以斜体标记。
模型数据集可分为六类，分别是：维基百科、书籍、期刊、reddit 链接、common crawl 和其他数据集。
表 1. 主要数据集大小汇总。以 gb 为单位。公开的数据以粗体表示。确定的数据以斜体表示。仅原始训练数据集大小。
1.1. 维基百科
维基百科是一个免费的多语言协作在线百科全书，由超过 300，000 名志愿者组成的社区编写和维护。截至 2022 年 4 月，英文版维基百科中有超过 640 万篇文章，包含超 40 亿个词 ［5］。维基百科中的文本很有价值，因为它被严格引用，以说明性文字形式写成，并且跨越多种语言和领域。一般来说，重点研究实验室会首先选取它的纯英文过滤版作为数据集。
1.2. 书籍
故事型书籍由小说和非小说两大类组成，主要用于训练模型的故事讲述能力和反应能力，数据集包括 project gutenberg 和 smashwords （toronto bookcorpus/bookcorpus） 等。
1.3. 杂志期刊
预印本和已发表期刊中的论文为数据集提供了坚实而严谨的基础，因为学术写作通常来说更有条理、理性和细致。这类数据集包括 arxiv 和美国国家卫生研究院等。
1.4. reddit 链接
webtext 是一个大型数据集，它的数据是从社交媒体平台 reddit 所有出站链接网络中爬取的，每个链接至少有三个赞，代表了流行内容的风向标，对输出优质链接和后续文本数据具有指导作用。
1.5. common crawl
common crawl 是 2008 年至今的一个网站抓取的大型数据集，数据包含原始网页、元数据和文本提取，它的文本来自不同语言、不同领域。重点研究实验室一般会首先选取它的纯英文过滤版（c4）作为数据集。
1.6. 其他数据集
不同于上述类别，这类数据集由 github 等代码数据集、stackexchange 等对话论坛和视频字幕数据集组成。
2、常用数据集
2019 年以来，大多数基于 transformer 的大型语言模型 （llm） 都依赖于英文维基百科和 common crawl 的大型数据集。在本节中，我们参考了 jesse dodge 和 allenai（ai2）［8］ 团队的综合分析，按类别对英文维基百科作了高级概述，并在 common crawl 数据集 ［7］ 的基础上，用谷歌 c4 ［6］ （colossal clean crawled corpus） 在 common crawl 中提供了顶级域（domains）。
2.1. 维基百科（英文版）分析
下面按类别 ［9］ 列出了维基百科的详细信息，涵盖了 2015 年抽样的 1001 篇随机文章，研究人员注意到随时间推移文章传播的稳定性。假设一个 11.4gb、经过清理和过滤的维基百科英文版有 30 亿 token，我们就可以确定类别大小和 token。
表 2. 英文维基百科数据集类别。公开的数据以粗体表示。确定的数据以斜体表示。
2.2 common crawl 分析
基于 allenai （ai2） 的 c4 论文，我们可以确定，过滤后的英文 c4 数据集的每个域的 token 数和总体百分比，该数据集为 305gb，其中 token 数为 1560 亿。
表 3. c4：前 23 个域（不包括维基百科）。公开的数据以粗体表示，确定的数据以斜体表示。
3、gpt-1 数据集
2018 年，openai 发布了 1.17 亿参数的 gpt-1。在论文中，openai 并没有公布模型训练数据集的来源和内容 ［10］，另外，论文误将‘bookcorpus’拼写成了‘bookscorpus’。bookcorpus 以作家未出版的免费书籍为基础，这些书籍来自于 smashwords，这是一个自称为 “世界上最大的独立电子书分销商” 的电子书网站。这个数据集也被称为 toronto bookcorpus。经过几次重构之后，bookcorpus 数据集的最终大小确定为 4.6gb ［11］。
2021 年，经过全面的回顾性分析，bookcorpus 数据集对按流派分组的书籍数量和各类书籍百分比进行了更正 ［12］。数据集中有关书籍类型的更多详细信息如下：
表 4. bookcorpus 书籍类型。公开的数据以粗体表示，确定的数据以斜体表示。
在随后的数据集重构中，bookcorpus 数据集进一步过滤掉了书籍中的 “吸血鬼” 类别、降低了言情类书籍的百分比、增加了 “历史” 类书籍，增加了收集的书籍数量。
3.1. gpt-1 数据集总结
gpt-1 最终的数据集总结分析如下：
表 5.gpt-1 数据集总结。以 gb 为单位。公开的数据以粗体表示，确定的数据以斜体表示。
4、gpt-2 数据集
2019 年，openai 发布了拥有 15 亿参数的语言模型 gpt-2。gpt-2 论文阐明了所用训练数据集的大小 ［13］，不过并未说明其内容。而 gpt-2 模型卡（model card）（在 gpt-2 github 仓库中）说明了模型内容 ［14］。
我们可以从 gpt-3 论文中得到 token 数量，该论文使用了 webtext 扩展版本来表示 190 亿 token。据推测，2020 年推出的 webtext 扩展版本拥有 12 个月的额外数据（additional data），因此它可能比 2019 年推出的 gpt-2 版本大 25% 左右 ［15］。gpt-2 最终的 token 数量确定为 150 亿左右。
如 gpt-2 论文所述，假设模型卡显示链接数时，每个链接都可以被 4500 万链接总数所除，那 webtext 的内容在数据集中所占的百分比的详细信息就可以确定。
然后可以使用确定的 150 亿 token 数量来查找每个域的 token 数量。请注意，在可用的前 1，000 个域中，此处仅显示前 50 个域。
表 6. webtext： 前 50 个域。 公开的数据以粗体表示，确定的数据以斜体表示。
4.1. gpt-2 数据集总结
gpt-2 模型最终的数据集总结分析如下：
表 7. gpt-2 数据集总结。 公开的数据以粗体表示，确定的数据以斜体表示。
5、gpt-3 数据集
gpt-3 模型由 openai 于 2020 年发布。论文阐明了所用训练数据集的 token 数量 ［16］，但训练数据集的内容和大小尚不清楚（common crawl 的数据集大小除外 ［17］）
表 8. gpt-3 数据集。 公开的数据以粗体表示，确定的数据以斜体表示。
5.1. gpt-3：关于 books1 和 books2 数据集的分析
特别值得关注的是，在 openai 的 gpt-3 论文中，并未公开 books1 数据集（120 亿 token）和 books2 数据集（550 亿 token）的大小和来源。关于这两个数据集的来源人们提出了几个假设，包括来自 libgen18 和 sci-hub 的类似数据集，不过这两个数据集常以 tb 为计，大到无法匹配。
5.2. gpt-3：books1
gpt-3 使用的 books1 数据集不可能与 gpt-1 使用的 bookcorpus 数据集相同，原因在于 books1 的数据集更大，达 120 亿 token。在一篇引用的论文 ［19］ 中就提及 gpt-1 使用的 bookcorpus 数据集拥有 9.848 亿个词，但这可能只相当于 13 亿 token（984.8 字 x 1.3 字的 token 乘数）。
通过标准化项目古腾堡语料库（spgc），books1 有可能与古腾堡项目保持一致性。spgc 是一种开放式科学方法，被用于古腾堡项目完整的 pg 数据的精选（curated）版本。spgc 包含 120 亿个 token ［20］，大约为 21gb ［21］。
5.3. gpt-3：books2
books2（550 亿 token）可能与 bibliotik 保持一致，并由 eleuthera 收集该来源的数据，组成数据集，使其成为 the pile v1 的一部分。bibliotik 版本为 100.96gb ［22］，其确定的 token 数仅为 250 亿，低于 books2 公开的 550 亿。然而，使用 spgc 的‘每字节 token 数’比率（大约为 1:1.75），bibliotik 的 token 数和大小将更接近于 books2。
5.4. gpt-3 数据集总结
附录 a 概述了使用 wikipedia + commoncrawl + webtext 数据集的顶级资源列表。gpt-3 模型的最终数据集总结分析如下：
表 9.gpt-3 数据集总结。公开的数据以粗体表示，确定的数据以斜体表示。
6、the pile v1（gpt-j 和 gpt-neox-20b）数据集
the pile v1 数据集由 eleutherai 于 2021 年发布，该数据集已被用于训练包括 gpt-j、gpt-neox-20b 在内的多种模型，并作为包括 mt-nlg 在内的其他模型的部分数据集。the pile v1 论文阐明了所用训练数据集的来源和大小。随着 token 数量的增加，the pile v1 论文应被用作未来数据集文档的黄金标准。
有关 token 数量的更多详情，可以使用本文提供的信息来确定，参见表 1（大小以 gb 为单位）和表 7（token / 每字节）［23］。
表 10. the pile v1 数据集。公开的数据以粗体表示，确定的数据以斜体表示。
6.1. the pile v1 分组数据集（grouped datasets）
为了确定如‘books’、‘journals’和‘cc’这类数据集的大小，笔者对数据集进行了分组，如下表所示。
表 11. the pile v1 分组数据集（不包括 wikipedia、cc 和 webtext）。公开的数据以粗体表示，确定的以斜体表示。
6.2. the pile v1 数据集总结
the pile v1 数据集与 gpt-j 和 gpt-neox-20b 模型的最终数据集总结分析如下：
表 12. pile v1 数据集总结。 公开的数据以粗体表示，确定的数据以斜体表示。
7、megatron-11b 和 roberta 数据集
2019 年，meta ai （当时称之为 facebook ai） 和华盛顿大学联合发布了拥有 1.25 亿参数的 roberta 模型。次年，meta ai 发布了拥有 110 亿参数的 megatron-11b 模型。megatron-11b 使用的训练数据集与 roberta 相同。roberta ［24］ 论文阐明了所用训练数据集的内容，不过必须参考引用的论文 （bert ［25］ 和 toryes ［26］） 来确定最终的数据集大小。
bookcorpus ： 确定的数据集为 4.6gb，如上面的 gpt-1 部分所示。
维基百科：公开的数据集为 “16gb（bookcorpus 加上英文维基百科）”。在减去 bookcorpus 数据集（4.6gb，如上面的 gpt-1 部分所述）后，维基百科数据集确定为 11.4gb。
cc-news ：（经过滤后）公开的数据集为 76gb。
openwebtext ： 公开的数据集为 38gb。
stories ： 公开的数据集为 31gb。请注意，此数据集是 “基于常识推理任务问题” 的 common crawl 内容，不属于本文的‘books’类别。相反，将 stories 与 cc-news 数据集（76gb）相结合，common crawl 的总数据集则为 107gb。
7.1. megatron-11b 和 roberta 的数据集总结
megatron-11b 和 roberta 最终的数据集总结分析如下：
表 13. megatron-11b 和 roberta 的数据集总结。 公示的数据以粗体表示，确定的数据以斜体表示。
8、mt-nlg 数据集
2021 年，英伟达和微软发布了拥有 5300 亿参数的语言模型 mt-nlg。mt-nlg 是微软 turing nlg（拥有 170 亿参数）和英伟达 megatron-lm（拥有 83 亿参数）的 “继任者”。mt-nlg 论文阐明了所用训练数据集的来源和 token 数量，不过没有明确指出数据集的大小。
如前所述，有关数据集大小的更多详情，可以使用 the pile v1 论文中提供的信息来确定。虽然使用的组件相同，但注意的是，mt-nlg 和 the pile v1 中报告的组件大小却各不相同，这是由于来自 eleuther ai （the pile v1 数据集） 和 microsoft/nvidia （mt-nlg 模型） 的研究人员采用了不同的数据过滤和去重方法。
8.1. mt-nlg 中的 common crawl 数据集
pile-cc：公开的数据集为 498 亿 token，确定的数据为 227.12gb 左右，参见上述 pile v1 部分。
cc-2020-50： 公开的数据集为 687 亿 token，假设 token 的每字节率（per byte rate）为 0.25 tpb=274.8gb。
cc-2021-04：公开的数据集为 826 亿 token，假设 token 的每字节率为 0.25 tpb=330.4gb
realnews（来自 roberta/megatron-11b）：显示为 219 亿 token。根据 realnews 论文 ［27］，数据集确定为 120gb。
cc-stories （来自 roberta/megatron-11b）：公开的数据集为 53 亿 token，如上述 roberta 部分所示，数据集确定为 31gb。
根据以上来源，可确认 common crawl 的总数据量为 983.32gb，共计 2283 亿 token。
8.2. mt-nlg 分组数据集（grouped datasets）
表 14. mt-nlg 分组数据集。公开的数据以粗体表示，确定的数据以斜体表示。
8.3. mt-nlg 数据集总结
mt-nlg 模型最终的数据集总结分析如下：
表 15. mt-nlg 数据集总结。 公示的数据以粗体表示，确定的数据以斜体表示。
9、mt-nlg 数据集 gopher 数据集
gopher 模型由 deepmind 于 2021 年发布，有 2800 亿参数。该论文清楚地说明了所使用训练数据集所包含的高级 token 数量和大小 ［28］，但没有说明详细内容。
表 16. 公开的 gopher 数据集 （massivetext）。公开的数据以粗体表述，确定的数据以斜体表示。
有趣的是，据 gopher 论文披露：其 books 数据集中包含一些超过 500 年历史（1500-2008）的书籍。
9.1. massiveweb 数据集分析
deepmind 于 2014 年被谷歌收购，并在创建 massivetext 时获得了海量数据。虽然 gopher 论文中没有进一步详细描述 massiveweb，但第 44 页附录中的表 a3b 注明了 massiveweb 中出现的前 20 个域 ［29］。根据披露的每个域所占的百分比，我们可以使用 massiveweb 的总 token 数（5060 亿 token）和总原始大小（1900gb）来确定每个域的 token 数量和大小。
表 17. massiveweb：前 20 个域。公开的数据以粗体表示，确定的数据以斜体表示。
9.2. gopher：关于维基百科数据集的分析
维基百科数据集的总规模很难确定。在 gopher 论文中，研究人员指出维基百科没有进行数据去重 ［30］。然而，论文中列出的不同大小数据集（12.5gb massiveweb wikipedia 与 1gb massivetext wikipedia）可能是由于失误而造成的，误将 “10gb” 写成了 “1gb”。无论如何，本文仅使用 massiveweb 数据集版本 （12.5gb）。
9.3. gopher： 不包括 webtext
gopher 数据集的组成部分不包括 reddit 外链的 webtext 数据集。为了清楚起见，尽管 reddit 是 massiveweb 中的顶级域，但该数据集仅抓取 reddit 域内的 reddit 链接。根据定义，webtext ［31］ 由 “所有 reddit 的外链” 组成（即指向 reddit 域外的链接）。
9.4. gopher 分组数据集
massiveweb 被认为是 massivetext 的子组件，并被集成到 gopher 的数据集汇总中，其分组基于以下列出的可用信息：
表 18. gopher 分组数据集。公开的数据以粗体表示，确定的数据以斜体表示。
9.5. gopher 数据集总结
gopher 是本文中最大的数据集，大小为 10.5tb。gopher 模型的最终数据集总结分析为：
表 19. gopher 数据集总结。公开的数据以粗体表示，确定的数据以斜体表示。
10、结论
对于训练当代 transformer 大型语言模型的数据集而言，这可能是最全面的整合分析内容（截止 2022 年初）。在主要数据源不透明的情况下，本次研究主要从二级和三级来源收集数据，并经常需要假定来确定最终估计值。随着研究人员要处理千万亿个 token（1，000 万亿）和数千 tb 的数据（1，000tb），确保详细披露数据集组成的文档变得越来越重要。
特别值得关注的是，基于大型语言模型的强大 ai 系统产生的冗长而匿名的输出正在迅速发展，其中许多数据集的细节内容几乎没有文档说明。
强烈建议研究人员使用突出显示的 “数据集的数据表（datasheet for datasets）” 论文中提供的模板，并在记录数据集时使用最佳实践论文（即 pile v1 论文，包括 token 数量）。数据集大小（gb）、token 数量（b）、来源、分组和其他详细信息指标均应完整记录和发布。
随着语言模型不断发展并更广泛地渗透到人们的生活中，确保数据集的详细信息公开透明、所有人都可访问且易于理解是有用、紧迫和必要的。
iPhone14来了！苹果官宣发布会时间
ST STP4CMP带电荷泵四路LED驱动解决方案
小型空气监测系统是什么
无功功率补偿介绍
移动在四省完成SDN单层控制器纳管多厂商设备现网试点
详解ChatGPT数据集之谜
太阳能光热发电控制技术研究
5G时代，运营商的日子不好过
SiC功率器件的主要特点
博世15个重大项目集中签约 总投资达172亿元人民币
印度9月笔记本电脑进口量猛增30%
英振荡器是什么 石英振荡器的特点
延时开关电路的制作和调试以及应用
采用检测框架CoP通过控制偏好检测事实不一致
I2C总线能挂多少设备？I2C spec知识总结
iPhone8什么时候上市？iPhone8最新消息：iPhone8的Touch ID、销售额、上市时间大揭秘
金融行业追逐AI带来哪些变化?
RC振荡电路的几种接法
郑州富士康表示2016年上半年已累计出货4.59亿部iPhone！
美国一公司采用大数据分析来帮助寻找丢失儿童
尽管业内提出了数据集组成和整理文档的标准 ［2］，但几乎所有重点研究实验室在揭示模型训练数据集细节这方面都做得不够。这里整合的研究涵盖了 2018 年到 2022 年初从 gpt-1 到 gopher 的精选语言模型的所有数据集（包括主要数据集：wikipedia 和 common crawl）的综合视图。
1、概述
图 1. 主要数据集大小的可视化汇总。未加权大小，以 gb 为单位。
2018 年以来，大语言模型的开发和生产使用呈现出爆炸式增长。一些重点研究实验室报告称，公众对大语言模型的使用率达到了惊人高度。2021 年 3 月，openai 宣布 ［3］ 其 gpt-3 语言模型被 “超过 300 个应用程序使用，平均每天能够生成 45 亿个词”，也就是说仅单个模型每分钟就能生成 310 万词的新内容。
值得注意的是，这些语言模型甚至还没有被完全理解，斯坦福大学的研究人员 ［4］ 最近坦言，“目前我们对这些模型还缺乏认知，还不太了解这些模型的运转模式、不知道模型何时会失效，更不知道这些模型的突现性（emergent properties）能产生什么效果”。
随着新型 ai 技术的快速发展，模型训练数据集的相关文档质量有所下降。模型内部到底有什么秘密？它们又是如何组建的？本文综合整理并分析了现代大型语言模型的训练数据集。
因为这方面的原始文献并不对外公开，所以本文搜集整合了二、三级研究资料，在必要的时候本文会采用假设的方式来推算最终结果。
在本文中，我们会将原始论文中已经明确的特定细节（例如 token 数量或数据集大小）归类为 “公开的（disclosed）” 数据，并作加粗处理。
多数情况下，适当地参考二、三级文献，并采用假设的方式来确定最终结果是很有必要的。在这些情况下，token 数量和数据集大小等细节是 “确定的（determined）”，并以斜体标记。
模型数据集可分为六类，分别是：维基百科、书籍、期刊、reddit 链接、common crawl 和其他数据集。
表 1. 主要数据集大小汇总。以 gb 为单位。公开的数据以粗体表示。确定的数据以斜体表示。仅原始训练数据集大小。
1.1. 维基百科
维基百科是一个免费的多语言协作在线百科全书，由超过 300，000 名志愿者组成的社区编写和维护。截至 2022 年 4 月，英文版维基百科中有超过 640 万篇文章，包含超 40 亿个词 ［5］。维基百科中的文本很有价值，因为它被严格引用，以说明性文字形式写成，并且跨越多种语言和领域。一般来说，重点研究实验室会首先选取它的纯英文过滤版作为数据集。
1.2. 书籍
故事型书籍由小说和非小说两大类组成，主要用于训练模型的故事讲述能力和反应能力，数据集包括 project gutenberg 和 smashwords （toronto bookcorpus/bookcorpus） 等。
1.3. 杂志期刊
预印本和已发表期刊中的论文为数据集提供了坚实而严谨的基础，因为学术写作通常来说更有条理、理性和细致。这类数据集包括 arxiv 和美国国家卫生研究院等。
1.4. reddit 链接
webtext 是一个大型数据集，它的数据是从社交媒体平台 reddit 所有出站链接网络中爬取的，每个链接至少有三个赞，代表了流行内容的风向标，对输出优质链接和后续文本数据具有指导作用。
1.5. common crawl
common crawl 是 2008 年至今的一个网站抓取的大型数据集，数据包含原始网页、元数据和文本提取，它的文本来自不同语言、不同领域。重点研究实验室一般会首先选取它的纯英文过滤版（c4）作为数据集。
1.6. 其他数据集
不同于上述类别，这类数据集由 github 等代码数据集、stackexchange 等对话论坛和视频字幕数据集组成。
2、常用数据集
2019 年以来，大多数基于 transformer 的大型语言模型 （llm） 都依赖于英文维基百科和 common crawl 的大型数据集。在本节中，我们参考了 jesse dodge 和 allenai（ai2）［8］ 团队的综合分析，按类别对英文维基百科作了高级概述，并在 common crawl 数据集 ［7］ 的基础上，用谷歌 c4 ［6］ （colossal clean crawled corpus） 在 common crawl 中提供了顶级域（domains）。
2.1. 维基百科（英文版）分析
下面按类别 ［9］ 列出了维基百科的详细信息，涵盖了 2015 年抽样的 1001 篇随机文章，研究人员注意到随时间推移文章传播的稳定性。假设一个 11.4gb、经过清理和过滤的维基百科英文版有 30 亿 token，我们就可以确定类别大小和 token。
表 2. 英文维基百科数据集类别。公开的数据以粗体表示。确定的数据以斜体表示。
2.2 common crawl 分析
基于 allenai （ai2） 的 c4 论文，我们可以确定，过滤后的英文 c4 数据集的每个域的 token 数和总体百分比，该数据集为 305gb，其中 token 数为 1560 亿。
表 3. c4：前 23 个域（不包括维基百科）。公开的数据以粗体表示，确定的数据以斜体表示。
3、gpt-1 数据集
2018 年，openai 发布了 1.17 亿参数的 gpt-1。在论文中，openai 并没有公布模型训练数据集的来源和内容 ［10］，另外，论文误将‘bookcorpus’拼写成了‘bookscorpus’。bookcorpus 以作家未出版的免费书籍为基础，这些书籍来自于 smashwords，这是一个自称为 “世界上最大的独立电子书分销商” 的电子书网站。这个数据集也被称为 toronto bookcorpus。经过几次重构之后，bookcorpus 数据集的最终大小确定为 4.6gb ［11］。
2021 年，经过全面的回顾性分析，bookcorpus 数据集对按流派分组的书籍数量和各类书籍百分比进行了更正 ［12］。数据集中有关书籍类型的更多详细信息如下：
表 4. bookcorpus 书籍类型。公开的数据以粗体表示，确定的数据以斜体表示。
在随后的数据集重构中，bookcorpus 数据集进一步过滤掉了书籍中的 “吸血鬼” 类别、降低了言情类书籍的百分比、增加了 “历史” 类书籍，增加了收集的书籍数量。
3.1. gpt-1 数据集总结
gpt-1 最终的数据集总结分析如下：
表 5.gpt-1 数据集总结。以 gb 为单位。公开的数据以粗体表示，确定的数据以斜体表示。
4、gpt-2 数据集
2019 年，openai 发布了拥有 15 亿参数的语言模型 gpt-2。gpt-2 论文阐明了所用训练数据集的大小 ［13］，不过并未说明其内容。而 gpt-2 模型卡（model card）（在 gpt-2 github 仓库中）说明了模型内容 ［14］。
我们可以从 gpt-3 论文中得到 token 数量，该论文使用了 webtext 扩展版本来表示 190 亿 token。据推测，2020 年推出的 webtext 扩展版本拥有 12 个月的额外数据（additional data），因此它可能比 2019 年推出的 gpt-2 版本大 25% 左右 ［15］。gpt-2 最终的 token 数量确定为 150 亿左右。
如 gpt-2 论文所述，假设模型卡显示链接数时，每个链接都可以被 4500 万链接总数所除，那 webtext 的内容在数据集中所占的百分比的详细信息就可以确定。
然后可以使用确定的 150 亿 token 数量来查找每个域的 token 数量。请注意，在可用的前 1，000 个域中，此处仅显示前 50 个域。
表 6. webtext： 前 50 个域。 公开的数据以粗体表示，确定的数据以斜体表示。
4.1. gpt-2 数据集总结
gpt-2 模型最终的数据集总结分析如下：
表 7. gpt-2 数据集总结。 公开的数据以粗体表示，确定的数据以斜体表示。
5、gpt-3 数据集
gpt-3 模型由 openai 于 2020 年发布。论文阐明了所用训练数据集的 token 数量 ［16］，但训练数据集的内容和大小尚不清楚（common crawl 的数据集大小除外 ［17］）
表 8. gpt-3 数据集。 公开的数据以粗体表示，确定的数据以斜体表示。
5.1. gpt-3：关于 books1 和 books2 数据集的分析
特别值得关注的是，在 openai 的 gpt-3 论文中，并未公开 books1 数据集（120 亿 token）和 books2 数据集（550 亿 token）的大小和来源。关于这两个数据集的来源人们提出了几个假设，包括来自 libgen18 和 sci-hub 的类似数据集，不过这两个数据集常以 tb 为计，大到无法匹配。
5.2. gpt-3：books1
gpt-3 使用的 books1 数据集不可能与 gpt-1 使用的 bookcorpus 数据集相同，原因在于 books1 的数据集更大，达 120 亿 token。在一篇引用的论文 ［19］ 中就提及 gpt-1 使用的 bookcorpus 数据集拥有 9.848 亿个词，但这可能只相当于 13 亿 token（984.8 字 x 1.3 字的 token 乘数）。
通过标准化项目古腾堡语料库（spgc），books1 有可能与古腾堡项目保持一致性。spgc 是一种开放式科学方法，被用于古腾堡项目完整的 pg 数据的精选（curated）版本。spgc 包含 120 亿个 token ［20］，大约为 21gb ［21］。
5.3. gpt-3：books2
books2（550 亿 token）可能与 bibliotik 保持一致，并由 eleuthera 收集该来源的数据，组成数据集，使其成为 the pile v1 的一部分。bibliotik 版本为 100.96gb ［22］，其确定的 token 数仅为 250 亿，低于 books2 公开的 550 亿。然而，使用 spgc 的‘每字节 token 数’比率（大约为 1:1.75），bibliotik 的 token 数和大小将更接近于 books2。
5.4. gpt-3 数据集总结
附录 a 概述了使用 wikipedia + commoncrawl + webtext 数据集的顶级资源列表。gpt-3 模型的最终数据集总结分析如下：
表 9.gpt-3 数据集总结。公开的数据以粗体表示，确定的数据以斜体表示。
6、the pile v1（gpt-j 和 gpt-neox-20b）数据集
the pile v1 数据集由 eleutherai 于 2021 年发布，该数据集已被用于训练包括 gpt-j、gpt-neox-20b 在内的多种模型，并作为包括 mt-nlg 在内的其他模型的部分数据集。the pile v1 论文阐明了所用训练数据集的来源和大小。随着 token 数量的增加，the pile v1 论文应被用作未来数据集文档的黄金标准。
有关 token 数量的更多详情，可以使用本文提供的信息来确定，参见表 1（大小以 gb 为单位）和表 7（token / 每字节）［23］。
表 10. the pile v1 数据集。公开的数据以粗体表示，确定的数据以斜体表示。
6.1. the pile v1 分组数据集（grouped datasets）
为了确定如‘books’、‘journals’和‘cc’这类数据集的大小，笔者对数据集进行了分组，如下表所示。
表 11. the pile v1 分组数据集（不包括 wikipedia、cc 和 webtext）。公开的数据以粗体表示，确定的以斜体表示。
6.2. the pile v1 数据集总结
the pile v1 数据集与 gpt-j 和 gpt-neox-20b 模型的最终数据集总结分析如下：
表 12. pile v1 数据集总结。 公开的数据以粗体表示，确定的数据以斜体表示。
7、megatron-11b 和 roberta 数据集
2019 年，meta ai （当时称之为 facebook ai） 和华盛顿大学联合发布了拥有 1.25 亿参数的 roberta 模型。次年，meta ai 发布了拥有 110 亿参数的 megatron-11b 模型。megatron-11b 使用的训练数据集与 roberta 相同。roberta ［24］ 论文阐明了所用训练数据集的内容，不过必须参考引用的论文 （bert ［25］ 和 toryes ［26］） 来确定最终的数据集大小。
bookcorpus ： 确定的数据集为 4.6gb，如上面的 gpt-1 部分所示。
维基百科：公开的数据集为 “16gb（bookcorpus 加上英文维基百科）”。在减去 bookcorpus 数据集（4.6gb，如上面的 gpt-1 部分所述）后，维基百科数据集确定为 11.4gb。
cc-news ：（经过滤后）公开的数据集为 76gb。
openwebtext ： 公开的数据集为 38gb。
stories ： 公开的数据集为 31gb。请注意，此数据集是 “基于常识推理任务问题” 的 common crawl 内容，不属于本文的‘books’类别。相反，将 stories 与 cc-news 数据集（76gb）相结合，common crawl 的总数据集则为 107gb。
7.1. megatron-11b 和 roberta 的数据集总结
megatron-11b 和 roberta 最终的数据集总结分析如下：
表 13. megatron-11b 和 roberta 的数据集总结。 公示的数据以粗体表示，确定的数据以斜体表示。
8、mt-nlg 数据集
2021 年，英伟达和微软发布了拥有 5300 亿参数的语言模型 mt-nlg。mt-nlg 是微软 turing nlg（拥有 170 亿参数）和英伟达 megatron-lm（拥有 83 亿参数）的 “继任者”。mt-nlg 论文阐明了所用训练数据集的来源和 token 数量，不过没有明确指出数据集的大小。
如前所述，有关数据集大小的更多详情，可以使用 the pile v1 论文中提供的信息来确定。虽然使用的组件相同，但注意的是，mt-nlg 和 the pile v1 中报告的组件大小却各不相同，这是由于来自 eleuther ai （the pile v1 数据集） 和 microsoft/nvidia （mt-nlg 模型） 的研究人员采用了不同的数据过滤和去重方法。
8.1. mt-nlg 中的 common crawl 数据集
pile-cc：公开的数据集为 498 亿 token，确定的数据为 227.12gb 左右，参见上述 pile v1 部分。
cc-2020-50： 公开的数据集为 687 亿 token，假设 token 的每字节率（per byte rate）为 0.25 tpb=274.8gb。
cc-2021-04：公开的数据集为 826 亿 token，假设 token 的每字节率为 0.25 tpb=330.4gb
realnews（来自 roberta/megatron-11b）：显示为 219 亿 token。根据 realnews 论文 ［27］，数据集确定为 120gb。
cc-stories （来自 roberta/megatron-11b）：公开的数据集为 53 亿 token，如上述 roberta 部分所示，数据集确定为 31gb。
根据以上来源，可确认 common crawl 的总数据量为 983.32gb，共计 2283 亿 token。
8.2. mt-nlg 分组数据集（grouped datasets）
表 14. mt-nlg 分组数据集。公开的数据以粗体表示，确定的数据以斜体表示。
8.3. mt-nlg 数据集总结
mt-nlg 模型最终的数据集总结分析如下：
表 15. mt-nlg 数据集总结。 公示的数据以粗体表示，确定的数据以斜体表示。
9、mt-nlg 数据集 gopher 数据集
gopher 模型由 deepmind 于 2021 年发布，有 2800 亿参数。该论文清楚地说明了所使用训练数据集所包含的高级 token 数量和大小 ［28］，但没有说明详细内容。
表 16. 公开的 gopher 数据集 （massivetext）。公开的数据以粗体表述，确定的数据以斜体表示。
有趣的是，据 gopher 论文披露：其 books 数据集中包含一些超过 500 年历史（1500-2008）的书籍。
9.1. massiveweb 数据集分析
deepmind 于 2014 年被谷歌收购，并在创建 massivetext 时获得了海量数据。虽然 gopher 论文中没有进一步详细描述 massiveweb，但第 44 页附录中的表 a3b 注明了 massiveweb 中出现的前 20 个域 ［29］。根据披露的每个域所占的百分比，我们可以使用 massiveweb 的总 token 数（5060 亿 token）和总原始大小（1900gb）来确定每个域的 token 数量和大小。
表 17. massiveweb：前 20 个域。公开的数据以粗体表示，确定的数据以斜体表示。
9.2. gopher：关于维基百科数据集的分析
维基百科数据集的总规模很难确定。在 gopher 论文中，研究人员指出维基百科没有进行数据去重 ［30］。然而，论文中列出的不同大小数据集（12.5gb massiveweb wikipedia 与 1gb massivetext wikipedia）可能是由于失误而造成的，误将 “10gb” 写成了 “1gb”。无论如何，本文仅使用 massiveweb 数据集版本 （12.5gb）。
9.3. gopher： 不包括 webtext
gopher 数据集的组成部分不包括 reddit 外链的 webtext 数据集。为了清楚起见，尽管 reddit 是 massiveweb 中的顶级域，但该数据集仅抓取 reddit 域内的 reddit 链接。根据定义，webtext ［31］ 由 “所有 reddit 的外链” 组成（即指向 reddit 域外的链接）。
9.4. gopher 分组数据集
massiveweb 被认为是 massivetext 的子组件，并被集成到 gopher 的数据集汇总中，其分组基于以下列出的可用信息：
表 18. gopher 分组数据集。公开的数据以粗体表示，确定的数据以斜体表示。
9.5. gopher 数据集总结
gopher 是本文中最大的数据集，大小为 10.5tb。gopher 模型的最终数据集总结分析为：
表 19. gopher 数据集总结。公开的数据以粗体表示，确定的数据以斜体表示。
10、结论
对于训练当代 transformer 大型语言模型的数据集而言，这可能是最全面的整合分析内容（截止 2022 年初）。在主要数据源不透明的情况下，本次研究主要从二级和三级来源收集数据，并经常需要假定来确定最终估计值。随着研究人员要处理千万亿个 token（1，000 万亿）和数千 tb 的数据（1，000tb），确保详细披露数据集组成的文档变得越来越重要。
特别值得关注的是，基于大型语言模型的强大 ai 系统产生的冗长而匿名的输出正在迅速发展，其中许多数据集的细节内容几乎没有文档说明。
强烈建议研究人员使用突出显示的 “数据集的数据表（datasheet for datasets）” 论文中提供的模板，并在记录数据集时使用最佳实践论文（即 pile v1 论文，包括 token 数量）。数据集大小（gb）、token 数量（b）、来源、分组和其他详细信息指标均应完整记录和发布。
随着语言模型不断发展并更广泛地渗透到人们的生活中，确保数据集的详细信息公开透明、所有人都可访问且易于理解是有用、紧迫和必要的。
iPhone14来了！苹果官宣发布会时间
ST STP4CMP带电荷泵四路LED驱动解决方案
小型空气监测系统是什么
无功功率补偿介绍
移动在四省完成SDN单层控制器纳管多厂商设备现网试点
详解ChatGPT数据集之谜
太阳能光热发电控制技术研究
5G时代，运营商的日子不好过
SiC功率器件的主要特点
博世15个重大项目集中签约 总投资达172亿元人民币
印度9月笔记本电脑进口量猛增30%
英振荡器是什么 石英振荡器的特点
延时开关电路的制作和调试以及应用
采用检测框架CoP通过控制偏好检测事实不一致
I2C总线能挂多少设备？I2C spec知识总结
iPhone8什么时候上市？iPhone8最新消息：iPhone8的Touch ID、销售额、上市时间大揭秘
金融行业追逐AI带来哪些变化?
RC振荡电路的几种接法
郑州富士康表示2016年上半年已累计出货4.59亿部iPhone！
美国一公司采用大数据分析来帮助寻找丢失儿童