IndustryCorpus2 30类行业分类的高质量预训练数据集已完整同步

使用这个数据集

REST 可获取元数据、文件分页和有限记录样例。

查看元数据

curl -sS 'https://dataset.wehub.plus/v2/datasets/ds_baai_industrycorpus2_e204fbc72e'

列出文件

curl -sS 'https://dataset.wehub.plus/v2/datasets/ds_baai_industrycorpus2_e204fbc72e/files?version=145d2b2893443107d3a95a2a69449d470fdd90c7&limit=20&offset=0'

读取样例记录

curl -sS 'https://dataset.wehub.plus/v2/files/5661abd8-b4ba-492f-8f8a-32ee0615d362/records?format=ndjson&limit=20'

用 CLI 下载

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e

下载需要登录；CLI 复用 wehub auth login 的凭证，并为每个文件申请有时效的授权链接。

前置要求

需要 Node.js 18 及以上，以及 npm（或 npx）。

1. 安装 CLI

npm install -g wehub-cli@latest

2. 下载此数据集

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e

若中断或部分失败，在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。

免全局安装

npx --yes wehub-cli@latest datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e

高级选项

以下为 wehub datasets download 已支持的参数示例：

强制重新下载，不复用已校验的本地文件

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e --overwrite

仅包含匹配路径

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e --include "*.jsonl"

排除匹配路径

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e --exclude "*.md"

提高并发下载数

wehub datasets download ds_baai_industrycorpus2_e204fbc72e --revision 145d2b2893443107d3a95a2a69449d470fdd90c7 --output ./ds_baai_industrycorpus2_e204fbc72e --jobs 8

完整帮助：wehub datasets download --help