EleutherAI/the_pile_deduplicated 已完整同步
数据集文件元信息以及数据文件，请浏览“数据集文件”页面获取。
1653 个文件
浏览文件数据集版权信息
本数据集的许可证为 Apache License 2.0。如有违反相关条款，请联系 WEHUB，我们将及时处理。
下载数据集
通过 WeHub CLI 下载当前数据集快照。下列命令会固定为当前页面展示的数据版本（如果页面提供版本）。文件字节由本机直连存储下载，浏览器不会签发或保存下载链接。
前置要求
需要 Node.js 18 及以上，以及 npm（或 npx）。
1. 安装 CLI
npm install -g wehub-cli@latest2. 下载此数据集
wehub datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b若中断或部分失败，在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。
免全局安装
npx --yes wehub-cli@latest datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b高级选项
以下为 wehub datasets download 已支持的参数示例：
强制重新下载，不复用已校验的本地文件
wehub datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b --overwrite仅包含匹配路径
wehub datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b --include "*.jsonl"排除匹配路径
wehub datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b --exclude "*.md"提高并发下载数
wehub datasets download ds_ext_28b9e1615b --revision 87381ecb6972750efe803c6023ba8347b3ce3d49 --output ./ds_ext_28b9e1615b --jobs 8完整帮助：wehub datasets download --help