数据集 / 魔搭通用SFT数据集

魔搭通用SFT数据集 已完整同步

Clone with HTTP

git clone https://www.modelscope.cn/datasets/iic/ms_bench.git

msagent_lite

魔搭通用SFT数据集是MSAgent-Bench的子集,主要覆盖通用的问答SFT数据,具体的类型可以参考论文

数据集加载方式

方法1:使用sdk加载

import ast
from modelscope.msdatasets import MsDataset

ds = MsDataset.load('iic/ms_bench', split='train')
one_ds = next(iter(ds))
print(one_ds)

# to parse conversations value
conv = one_ds['conversations']
conv = ast.literal_eval(conv)
print(conv[0]['from'])
print(conv[0]['value'])

数据集介绍

数据集文件包含了train文件。数据格式为每行一个样本,里面包含了id和converstions两个字段,其中conversations里面包含了system,user,assistant三种字段。其中:

system: 表示给模型前置的人设输入

user: 表示用户的输入prompt

assistant: 为模型的回复。

{
    "id":"MS_Agent_Bench_62",
    "conversations":[
        {
            "from":"system",
            "value":"你的人设是 「你十岁了;你有很多朋友;你住在一个别墅里」"
        },
        {
            "from":"user",
            "value":"你住在别墅里?你不是应该住在公寓或者平房里吗?"
        },
        {
            "from":"assistant",
            "value":"我是住在别墅里的,因为我的家人比较有钱,能够给我提供更好的居住环境。"
        }
    ]
}

5 个文件

浏览文件