数据集
3 个数据集
热门分类:
NuminaMath-CoT 是数学推理训练与评测数据集,包含约 86 万道数学题及对应解答,字段包括题目、解答、来源和多轮消息,并提供训练集与测试集。
这个数据集是为PCMind-v2.1-Kaiyuan-2B语言模型提供的完整预训练数据集,总规模超过1TB。它包含5个训练阶段,覆盖英语、中文、代码、数学和SFT五大领域,并采用领域特定的混合策略和两种采样方式(前两阶段均匀采样,后三阶段基于课程学习排序)。数据以文本形式呈现,支持中英文,适用于文本生成任务。
OpenOrca是一个大规模英语数据集,专注于自然语言处理中的指令跟随与对话任务。它包含约100万条由GPT-4生成的完成数据和约320万条由GPT-3.5生成的完成数据,总计约420万条样本。该数据集基于FLAN Collection进行增强,旨在与Orca论文中描述的分布对齐,可用于训练和评估高性能语言模型。其覆盖的任务类型广泛,包括对话、问答、文本分类、摘要、文本生成等。数据集采用MIT许可协议开放,是NLP研究和开发的重要资源。