Tongyi-DataEngine/SA1B-Dense-Caption 已完整同步
SA1B-Dense-Caption Dataset README
新闻
- loading..
- 2024-07-18开源模型Qwen-VL-Chat-Finetuned-Dense-Captioner
- 2024-07-16开源数据集SA1B-描述-子图对
- 2024-05-24开源数据集SA1B-长文本图文描述
数据简介
sa-1b数据集中的8631528张图片的详细的、高质量的、长文本描述。该数据集的图片描述分为整体描述和细节元素两方面,其中细节描述为图片中的重点元素的描述,整体描述包含细节描述汇总的各种信息
| 图像 | QWen-VL-Caption | SA1B-Dense-Caption |
|---|---|---|
| 这是一张篮球比赛的照片,场上队员正在紧张地进行比赛。其中,一个队员高高跃起,试图抢断对方队员手中的篮球。场边观众席上坐满了观众,他们正在观看着比赛。 | { 'global_caption': '这是一张体育摄影风格的照片,捕捉了一场篮球比赛中的精彩瞬间。图中,一名穿着白色球衣的球员(号码34)正准备投篮,他的姿势专注而有力。在他面前,两名穿着绿色球衣的防守队员似乎在努力阻挡或干扰他。场地上的其他球员和裁判员也在关注着这一动作。背景中可以看到观众席上密集的人群,他们似乎全神贯注地观看着场上的比赛。', 'local_caption': ['一名穿白色球衣的球员(号码34)正在做投篮动作', '两名穿绿色球衣的球员在进行防守', '场地上还有其他球员和裁判员参与比赛', '背景是观众席,人群密集'] } |
|
| 这是一张滨海湾金沙酒店和艺术科学博物馆的照片,位于新加坡。可以看到酒店和博物馆的现代化建筑和周围的环境。 | { 'global_caption': '这是一张展示新加坡滨海湾地区天际线的摄影作品。图像中心是一座独特的白色建筑,其设计类似于一个巨大的莲花花瓣,位于画面的右侧。左侧是一座由多个弯曲金属结构组成的斜坡式建筑,下方是与之相连的圆形玻璃桥。背景中,可以看到一系列高耸入云的摩天大楼,它们的倒影在平静的水面上清晰可见。天空呈现出晴朗的蓝色,几朵白云悠闲地飘浮着。', 'local_caption': ['中心位置的白色建筑类似莲花花瓣,设计独特,成为视觉焦点', '左侧的斜坡式建筑由多个弯曲金属结构组成,下方连接着圆形玻璃桥', '背景中的摩天大楼群高耸入云,反射在水面上形成美丽的倒影', '天空晴朗,蓝天中散布着几朵白云'] } |
|
| 这是一张1991年美国发行的圣诞邮票。邮票上有一个经典的圣诞老人形象,他坐在红色的雪橇上,旁边是一棵装饰着彩灯和饰品的圣诞树。圣诞老人的左手拿着一个大礼盒,右手正在解开一个红色的蝴蝶结。他的脚下是厚厚的积雪,右边则是一个穿着黄色外套的圣诞小精灵。邮票的下方写着“1991年USA Christmas”。 | { 'global_caption': "这是一张1991年美国发行的圣诞主题邮票,展示了穿着传统红色和白色服装的圣诞老人站在装饰有彩灯和金色丝带的圣诞树旁。邮票上印有'1991 USA CHRISTMAS'字样,下方是邮票的齿孔部分。", 'local_caption': ['圣诞老人:穿着传统的红色和白色服装,戴着帽子,脸上带着微笑,手里拿着一个大礼物盒。', '圣诞树:绿色的树枝上挂满了彩灯和金色的丝带,营造出节日气氛。'] } |
数据集支持的任务
多模态任务:VLM、SD等
数据组成
该数据包含:
- 图片: opensource_url
- 图片的分割信息: seg_info
- 图片的详细描述: cap_seg
数据来源
- 图片:基于sa1b数据集、经过nsfw过滤后的860w图片
- 分割信息:sa1b数据集
- 图像描述:基于Qwen-VL-Chat, finetune支持结构化、详细图文描述任务的ft模型作为captioner;模型开源进行中
数据集标注
万量级标注数据集开源准备中
标注过程
itag图生文标注工具:Pai-itag智能标注工具
数据结构
该数据集不区分训练集和测试集,整体以parquet格式组织,存放在data/ 目录下。使用者可直接按如下所示方式加载数据集即可
参考信息
- https://ai.meta.com/datasets/segment-anything/
- https://modelscope.cn/models/qwen/Qwen-VL-Chat/summary
许可和分享
维护和联系信息
更多高质量多模态数据开源需求,请联系:chenjixuan.cjx@alibaba-inc.com
727 个文件
浏览文件数据集版权信息
本数据集的许可证为 Apache License 2.0。如有违反相关条款,请联系 WEHUB,我们将及时处理。
下载数据集
通过 WeHub CLI 下载当前数据集快照。下列命令会固定为当前页面展示的数据版本(如果页面提供版本)。文件字节由本机直连存储下载,浏览器不会签发或保存下载链接。
前置要求
需要 Node.js 18 及以上,以及 npm(或 npx)。
1. 安装 CLI
npm install -g wehub-cli@latest
2. 下载此数据集
wehub datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767
若中断或部分失败,在同一目录重新执行同一命令即可续传。默认会校验 SHA-256。
免全局安装
npx --yes wehub-cli@latest datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767
高级选项
以下为 wehub datasets download 已支持的参数示例:
强制重新下载,不复用已校验的本地文件
wehub datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767 --overwrite
仅包含匹配路径
wehub datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767 --include "*.jsonl"
排除匹配路径
wehub datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767 --exclude "*.md"
提高并发下载数
wehub datasets download ds_ext_3e53785767 --revision 12bc790b0b5b27baa4a89496cebb251ad2df094c --output ./ds_ext_3e53785767 --jobs 8
完整帮助:wehub datasets download --help