数据集
2 个数据集
热门分类：
OctoCodingBench 是一个专注于评估编码代理指令遵循能力的基准数据集。它包含 72 个精心设计的实例，每个实例都伴有任务描述、系统提示和总计 2422 个可客观判定的检查项。与仅关注任务完成度的传统基准不同，该数据集特别强调代理在解决代码任务过程中是否严格遵守系统约束、项目规范、工具使用协议等多源指令。通过多维度、二值化的检查清单，它能够有效区分任务成功与规则遵循之间的差异，为代理的可靠性和可控性评估提供了更全面的视角。
VitaBench是一个用于评估大语言模型代理能力的基准测试，基于真实生活服务场景构建，涵盖外卖、到店消费和在线旅游等领域。该基准集成了66种工具，包含100个跨场景任务和300个单场景任务，要求代理在多轮对话中理解模糊指令、追踪用户意图并灵活调用工具。评估显示，当前最先进的模型在跨场景任务上仅能达到32.5%的成功率，凸显了该基准在推动实用化AI代理发展方面的价值。