自我认知微调数据集 已完整同步
介绍(Introduction)
该自我认知数据集由modelsope swift创建, 可以通过将通配符进行替换:{{NAME}}、{{AUTHOER}},来创建属于自己大模型的自我认知数据集,总共108条。
ms-swift github:https://github.com/modelscope/swift/
This self-cognition dataset was created by modelsope swift and can be customized for your own large model by replacing the placeholders: {{NAME}} and {{AUTHOER}}. It consists of a total of 134 entries.
ms-swift github: https://github.com/modelscope/swift/
使用(Usage)
只是下载:
from modelscope.msdatasets import MsDataset
ds = MsDataset.load('swift/self-cognition', subset_name='default', split='train')
或者自动替换{{NAME}}和{{AUTHOR}}【推荐】:
安装ms-swift:
pip install ms-swift -U
from swift.llm import load_dataset
dataset = load_dataset(['swift/self-cognition'], model_name=['小黄', 'Xiao Huang'], model_author=['魔搭', 'ModelScope'])[0]
print(dataset)
print(dataset[0])
"""
Dataset({
features: ['messages'],
num_rows: 108
})
{'messages': [{'role': 'user', 'content': '你是?'}, {'role': 'assistant', 'content': '我是小黄,由魔搭训练的人工智能助手。我的目标是为用户提供有用、准确和及时的信息,并通过各种方式帮助用户进行有效的沟通。请告诉我有什么可以帮助您的呢?'}]}
"""
# 支持重采样:(超过108后进行重采样)
dataset = load_dataset(['swift/self-cognition#500'], model_name=['小黄', 'Xiao Huang'], model_author=['魔搭', 'ModelScope'])[0]
print(dataset)
"""
Dataset({
features: ['messages'],
num_rows: 500
})
"""
4 个文件
浏览文件数据集版权信息
本数据集的许可证为 Apache License 2.0。如有违反相关条款,请联系 WEHUB,我们将及时处理。 查看许可证
通过 WeHub CLI 下载当前数据集快照。下列命令会固定为当前页面展示的数据版本(如果页面提供版本)。文件字节由本机直连存储下载,浏览器不会签发或保存下载链接。
前置要求
需要 Node.js 18 及以上,以及 npm(或 npx)。
1. 安装 CLI
npm install -g wehub-cli@latest
2. 下载此数据集
wehub datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd
若中断或部分失败,在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。
免全局安装
npx --yes wehub-cli@latest datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd
高级选项
以下为 wehub datasets download 已支持的参数示例:
强制重新下载,不复用已校验的本地文件
wehub datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd --overwrite
仅包含匹配路径
wehub datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd --include "*.jsonl"
排除匹配路径
wehub datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd --exclude "*.md"
提高并发下载数
wehub datasets download ds_swift_self_cognition_208c3372fd --revision 0398d25de0d330a065ed0f8e5d7046b9e2e21e45 --output ./ds_swift_self_cognition_208c3372fd --jobs 8
完整帮助:wehub datasets download --help