Joysw909/AVQA

Summary | 摘要

English: This dataset provides multiple-choice Audio–Video Question Answering examples in JSON Lines format. Each row links a question and choices to an audio file path and basic metadata (video name/id, relation, type). It is designed for training and evaluating audio-centric reasoning systems (e.g., multi-speaker scenes, background noise, environmental sounds).

中文： 本数据集以 JSONL（每行一个样本）组织，面向音频/视频多选问答。每条样本包含题干、候选选项、正确答案索引，以及与该样本关联的音频文件路径和基础元信息（如视频名/ID、问题关系与类型等）。适用于训练与评估以音频为核心的推理系统（多说话人、环境声、BGM 等场景）。

注：若音频体量较大，建议仅在 audio_path 中保存绝对路径或外部存储的相对/HTTP 路径，并在下方“使用方法”中说明如何挂载或下载音频。

How to Use | 使用方法

from datasets import load_dataset

# 方式一：本地/远程 JSONL（按需指定 splits）
ds = load_dataset(
    "json",
    data_files={
        "train": "data/train.jsonl",
        "validation": "data/validation.jsonl",
        "test": "data/test.jsonl",
    },
    split=None
)

# 访问一条样本
ex = ds["train"][0]
print(ex.keys())
# -> dict_keys(['id','video_name','video_id','question_text','multi_choice',
#               'answer','question_relation','question_type','dataset_name','audio_path'])

# 读取音频：根据 audio_path 自行用 librosa/soundfile/torchaudio 加载
import soundfile as sf
wav, sr = sf.read(ex["audio_path"])  # ex: '/Volumes/ElementsSE/dataset/VGG10000/xxx.wav'

Dataset Structure | 数据结构

Data Fields | 字段定义

字段名 类型 说明 id int 唯一样本 ID（整数） video_name string 视频名称（如 -HG3Omg_89c_000030） video_id int 视频 ID question_text string 题干文本（英文/中文皆可） multi_choice List[string] 选项列表（长度≥2） answer int 正确答案在 multi_choice 中的索引（0-based） question_relation string 问题与视频/音频的关系（如 View、Both 等） question_type string 问题类型（如 Happening、Which 等） dataset_name string 数据集来源名（如 AVQA） audio_path string 音频文件路径（本地路径或 URL）,一般都是10s的音频

Example Row | 示例行

{ "id": 183, "video_name": "-HG3Omg_89c_000030", "video_id": 341, "question_text": "What happened in the video?", "multi_choice": ["motorboat", "Yacht consignment", "Sailboat set sail", "Consignment car"], "answer": 1, "question_relation": "View", "question_type": "Happening", "dataset_name": "AVQA", "audio_path": "/Volumes/ElementsSE/dataset/VGG10000/-HG3Omg_89c_30.wav" }

Answer 字段约定： answer 为从 0 开始 的索引，例如上例中正确答案是 "Yacht consignment"，故 answer: 1。

Citation | 引用

The first version of AVQA4ConfAudio is similar to AQVA.

@inproceedings{yang2022avqa, author = {Pinci Yang and Xin Wang and Xuguang Duan and Hong Chen and Runze Hou and Cong Jin and Wenwu Zhu}, title = {{AVQA: A Dataset for Audio-Visual Question Answering on Videos}}, booktitle = {Proceedings of the 30th ACM International Conference on Multimedia (MM '22)}, pages = {12 pages}, year = {2022}, address = {Lisboa, Portugal}, publisher = {ACM}, url = {https://doi.org/10.1145/3503161.3548291} }