CalfKing/vtqa2023

Dataset Card for VTQA

Dataset Summary

VTQA是一个新的数据集，包含关于图像-文本对的开放式问题。这些问题需要多媒体实体对齐、多步推理和开放式答案生成。

Languages

数据集支持英文(en)和中文(zh)。

数据集使用方法

安装

# 从Hugging Face安装数据集
from datasets import load_dataset

# 加载VTQA数据集
dataset = load_dataset("CalfKing/vtqa2023")

配置参数

VTQA数据集提供了多种配置选项，可以根据需要选择不同的语言和图像类型：

语言配置

• en: 仅加载英文数据
• zh: 仅加载中文数据
• all: 同时加载英文和中文数据（默认）

图像类型配置

• image: 仅加载原始图像
• region: 仅加载区域图像
• grid: 仅加载网格图像
• all: 加载所有图像类型（默认）

组合配置

可以组合语言和图像类型，例如：

• en-image: 英文数据和原始图像
• zh-region: 中文数据和区域图像
• en-grid: 英文数据和网格图像

高级参数

在使用VTQAConfig类时，可以设置以下参数：

• use_cws: 是否使用中文分词（默认为False）
• local_url: 本地数据路径，如果提供则优先使用本地数据
• get_test_split: 是否获取测试集（默认为False）

数据集结构

每个样本包含以下字段：

{
    "question": 问题文本,
    "question_id": 问题ID,
    "context": 上下文文本,
    "image_id": 图像ID,
    "image_path": 图像路径(可能包含image/region/grid),
    "answers": [
        {
            "answer_type": 答案类型,
            "answer": 答案文本
        }
    ],
    "cws_path": 中文分词路径
}

使用示例

# 加载英文数据和原始图像
dataset = load_dataset("CalfKing/vtqa2023", "en-image")

# 查看训练集的第一个样本
print(dataset["train"][0])

# 加载中文数据和所有图像类型
dataset = load_dataset("CalfKing/vtqa2023", "zh")

# 使用中文分词
from datasets import load_dataset
from vtqa2023 import _build_config

config = _build_config("zh", use_cws=True)
dataset = load_dataset("path/to/vtqa2023.py", config=config)

数据集分割

数据集包含以下分割：

• train: 训练集
• validation: 验证集
• test_dev: 开发测试集
• test: 测试集（仅当get_test_split=True时可用）

引用

如果您使用了VTQA数据集，请引用以下论文：

@inproceedings{chen2024vtqa,
  title={VTQA: Visual Text Question Answering via Entity Alignment and Cross-Media Reasoning},
  author={Chen, Kang and Wu, Xiangqian},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  pages={27218--27227},
  year={2024}
}