Fineweb-Edu-Chinese-V2.1 已完整同步
文件
显示第 1–3 个,共 3 个文件
| 目录 | 文件名 | 格式 | 大小 |
|---|---|---|---|
| — |
.gitattributes
|
GITATTRIBUTES | 2.4 KiB |
| — |
README.md
|
MD | 6.6 KiB |
| — |
opencsg模型社区许可协议.pdf
|
183 KiB |
下载数据集
通过 WeHub CLI 下载当前数据集快照。下列命令会固定为当前页面展示的数据版本(如果页面提供版本)。文件字节由本机直连存储下载,浏览器不会签发或保存下载链接。
前置要求
需要 Node.js 18 及以上,以及 npm(或 npx)。
1. 安装 CLI
npm install -g wehub-cli@latest
2. 下载此数据集
wehub datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f
若中断或部分失败,在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。
免全局安装
npx --yes wehub-cli@latest datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f
高级选项
以下为 wehub datasets download 已支持的参数示例:
强制重新下载,不复用已校验的本地文件
wehub datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f --overwrite
仅包含匹配路径
wehub datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f --include "*.jsonl"
排除匹配路径
wehub datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f --exclude "*.md"
提高并发下载数
wehub datasets download ds_ext_3d75f68f2f --revision a6e69b10c48039d7e5398b08affaa7b741165257 --output ./ds_ext_3d75f68f2f --jobs 8
完整帮助:wehub datasets download --help