中文Text2SQL数据集 已完整同步
中文Text2SQL训练数据
数据集描述
同时包含用于训练和测试表格问答预训练模型的数据,数据集包含500条训练数据和100条测试数据。
数据集简介
表格问答预训练模型的训练和测试数据,支持中文,支持通用领域的表格问答。
数据集下载
安装最新的modelscope库之后,运行如下代码,即可获得数据集。
import json
from modelscope.msdatasets import MsDataset
from modelscope.utils.constant import DownloadMode
# load data
input_dataset = MsDataset.load(
'ChineseText2SQL', download_mode=DownloadMode.FORCE_REDOWNLOAD)
train_dataset = []
for name in input_dataset['train']._hf_ds.data[1]:
train_dataset.append(json.load(open(str(name), 'r')))
eval_dataset = []
for name in input_dataset['test']._hf_ds.data[1]:
eval_dataset.append(json.load(open(str(name), 'r')))
print('size of training set', len(train_dataset))
print('size of evaluation set', len(eval_dataset))
另外,也可以从本model card中,点击数据集文件panel,然后点击数据文件选项,即可下载trian.zip和test.zip文件。
6 个文件
浏览文件数据集版权信息
本数据集的许可证为 Apache License 2.0。如有违反相关条款,请联系 WEHUB,我们将及时处理。 查看许可证
下载数据集
通过 WeHub CLI 下载当前数据集快照。下列命令会固定为当前页面展示的数据版本(如果页面提供版本)。文件字节由本机直连存储下载,浏览器不会签发或保存下载链接。
前置要求
需要 Node.js 18 及以上,以及 npm(或 npx)。
1. 安装 CLI
npm install -g wehub-cli@latest
2. 下载此数据集
wehub datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f
若中断或部分失败,在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。
免全局安装
npx --yes wehub-cli@latest datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f
高级选项
以下为 wehub datasets download 已支持的参数示例:
强制重新下载,不复用已校验的本地文件
wehub datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f --overwrite
仅包含匹配路径
wehub datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f --include "*.jsonl"
排除匹配路径
wehub datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f --exclude "*.md"
提高并发下载数
wehub datasets download ds_modelscope_chinesetext2sql_c93a0d3a1f --revision aa947f8eb3e7140e2def738cd31bb790d6e0a8b0 --output ./ds_modelscope_chinesetext2sql_c93a0d3a1f --jobs 8
完整帮助:wehub datasets download --help