阅读(260) 书签 (0)

文心千帆导入query问题集数据

2023-07-19 15:16 更新

登录到文心千帆大模型操作台,在左侧功能列选择数据集管理,进入数据集管理主任务界面。

导入数据

创建数据集完成后,在数据集管理页面中,找到该数据集,点击右侧操作列下的“导入”按钮,即可进入导入数据页面。

image.png

您可以使用以下方案上传文本数据:

本地导入BOS目录导入分享链接导入平台已有数据集

本地导入

本地导入支持五种导入格式:JSONL、TXT、CSV、XLSX、ZIP。

导入格式格式要求格式示例
Jsonl1. 文件内单条数据格式要求为[{"prompt" :“prompt内容”}], 详见数据样例
2. 每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
3. 支持文本文件类型为jsonl,编码仅支持UTF-8,单次上传限制100个文本文件,单个文件不超过100M。
image.png
TXT1. 对话生成的数据序列格式要求为"prompt",详见数据样例
2. 每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
3. 支持文本文件类型为txt,编码仅支持UTF-8,单次上传限制100个文件,单个文件不超过100M。
image.png
CSV1. 文件内单条数据的格式参考示例图,在表格中为一列,由表头定义prompt,详见数据样例
2. 每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
3. 支持文本文件类型为xlsx,编码仅支持UTF-8,单次上传限制100个文件,单个文件不超过100M。
image.png
XLSX1. 文件内单条数据的格式参考示例图,在表格中为一列,由表头定义prompt,详见数据样例
2. 每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
3. 支持文本文件类型为xlsx,编码仅支持UTF-8,单次上传限制100个文件,单个文件不超过100M。
image.png
ZIP1. 上传文件要求为zip/tar.gz格式压缩包,同时压缩前源文件大小在5G以内,文件编码仅支持UTF-8。
2. 压缩包内支持多个jsonl文件的上传,jsonl文件中每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练,详见示例压缩包
image.png

BOS目录导入

请确保将全部文本已通过jsonl文件保存至同一层文件目录,该层目录下子文件目录及非相关内容(包括压缩包格式等)不导入。

需选择Bucket地址与对应的文件夹地址。

导入方式格式要求格式示例
Bucket地址·文件夹地址导入1. 文件夹内文件类型支持jsonl,文件编码仅支持UTF-8。
2. jsonl文件中每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
image.png

分享链接导入

请确保将全部jsonl文本文件保存至同一压缩包,压缩包仅支持zip/tar.gz格式,压缩前源文件大小限制5G以内

需输入链接地址。分享链接导入的要求如下:

  • 仅支持来自百度BOS、阿里OSS、腾讯COS、华为OBS的共享链接。
导入方式格式要求格式示例
输入链接地址导入1. 链接地址要求为zip/tar.gz格式压缩包,同时压缩前源文件大小在5G以内,文件编码仅支持UTF-8。
2. 压缩包内支持多个jsonl文件,jsonl文件中每一行表示一组数据,每组数据中的prompt字符数不超过2000Token(包括中英文、数字、符号等),超出的字符可正常保存,但可能无法参与训练。
image.png

平台已有数据集

导入方式格式要求数据集要求
选择数据集仅支持选择未发布的数据集版本已在平台导入的非空数据集。

以上所有步骤完成后,即可导入数据至数据集。