Datasets:
video_id stringlengths 17 17 | split stringclasses 1
value | dataset stringclasses 1
value | module stringclasses 5
values | pattern_id int64 1 30 | question stringlengths 9 32 | answer stringlengths 5 80 | lang stringclasses 1
value |
|---|---|---|---|---|---|---|---|
S000000_P0000_T00 | train | csl | M1 | 1 | 请识别序列中的起始手语词。 | 第一个gloss是“你们”。 | zh |
S000000_P0000_T00 | train | csl | M2 | 16 | 识别“好”首次出现前的上一个词。 | 在“好”之前的是“你们”。 | zh |
S000000_P0000_T00 | train | csl | M3 | 23 | “你们”第一次出现的位置是第几位? | 第一次看到“你们”是在第1个gloss。 | zh |
S000000_P0000_T00 | train | csl | M4 | 29 | 你能看懂这段手语的意思吗? | 这段手语的意思是“你们好!”。 | zh |
S000000_P0000_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“你们 好”。 | zh |
S000000_P0004_T00 | train | csl | M1 | 3 | 第2个动作是什么? | 位置2处的gloss是“好”。 | zh |
S000000_P0004_T00 | train | csl | M2 | 18 | 识别紧邻“好”前后的那两个手语词。 | 长度不够,无法确定左右相邻gloss。 | zh |
S000000_P0004_T00 | train | csl | M3 | 27 | 同时包含gloss“好”和“你们”的最短连续子序列是什么? | 把“你们”和“好”都包含进去的最短片段是“你们 好”。 | zh |
S000000_P0004_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“你们好!”。 | zh |
S000000_P0004_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“你们 好”。 | zh |
S000000_P0008_T00 | train | csl | M1 | 9 | 在有序列表四分之三位置的gloss是什么? | 在序列约四分之三处的gloss是“好”。 | zh |
S000000_P0008_T00 | train | csl | M2 | 21 | 从第0个动作开始一直到最后都有什么? | 第0个这样的说法不成立,序号必须为正整数。 | zh |
S000000_P0008_T00 | train | csl | M3 | 24 | 定位“好”最后一次出现的序列位置。 | 最后一次看到“好”是在第2个gloss。 | zh |
S000000_P0008_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“你们好!”。 | zh |
S000000_P0008_T00 | train | csl | M5 | 30 | 按时间顺序列出视频中的所有gloss。 | 这个手语视频的gloss序列是“你们 好”。 | zh |
S000001_P0000_T00 | train | csl | M1 | 3 | 第1个gloss是什么? | 第1个gloss是“对不起”。 | zh |
S000001_P0000_T00 | train | csl | M2 | 20 | 第1个动作后面那个是什么? | 序列过短。 | zh |
S000001_P0000_T00 | train | csl | M3 | 24 | “对不起”最后一次出现的位置是第几位? | “对不起”最近一次出现的位置是第1位。 | zh |
S000001_P0000_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“对不起!”。 | zh |
S000001_P0000_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“对不起”。 | zh |
S000001_P0004_T00 | train | csl | M1 | 2 | 序列中的最后一个gloss是什么? | 序列结尾的gloss是“对不起”。 | zh |
S000001_P0004_T00 | train | csl | M2 | 18 | 哪两个gloss包围了“对不起”? | 序列过短,无法找到两侧邻居。 | zh |
S000001_P0004_T00 | train | csl | M3 | 25 | 识别从第1个gloss开始的双词子序列。 | gloss数量不足,无法取两个连续gloss。 | zh |
S000001_P0004_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“对不起!”。 | zh |
S000001_P0004_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“对不起”。 | zh |
S000001_P0008_T00 | train | csl | M1 | 4 | 视频开头的前三个手势分别是什么? | 序列少于三个gloss:对不起。 | zh |
S000001_P0008_T00 | train | csl | M2 | 17 | 序列中“对不起”和“对不起”之间出现了哪些gloss? | 序列过短。 | zh |
S000001_P0008_T00 | train | csl | M3 | 27 | 同时包含gloss“对不起”和“对不起”的最短连续子序列是什么? | gloss数量不足,无法同时包含两个gloss。 | zh |
S000001_P0008_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“对不起!”。 | zh |
S000001_P0008_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“对不起”。 | zh |
S000002_P0000_T00 | train | csl | M1 | 1 | 请识别序列中的起始手语词。 | 序列开头的gloss是“没关系”。 | zh |
S000002_P0000_T00 | train | csl | M2 | 22 | 提取截止到第1个gloss的前置序列。 | 到该位置为止的gloss序列是“没关系”。 | zh |
S000002_P0000_T00 | train | csl | M3 | 28 | 结合面部表情判断,这是一个疑问句吗? | 结合手语者的面部表情,这不是一句疑问句。 | zh |
S000002_P0000_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“没关系!”。 | zh |
S000002_P0000_T00 | train | csl | M5 | 30 | 按时间顺序列出视频中的所有gloss。 | 这个手语视频的gloss序列是“没关系”。 | zh |
S000002_P0004_T00 | train | csl | M1 | 8 | 在有序列表四分之一位置的gloss是什么? | 四分之一处出现的gloss是“没关系”。 | zh |
S000002_P0004_T00 | train | csl | M2 | 21 | 提取从第2个gloss开始的后续序列。 | 请求的位置2超过了序列长度(1)。 | zh |
S000002_P0004_T00 | train | csl | M3 | 23 | 定位“没关系”首次出现的序列位置。 | 第一次看到“没关系”是在第1个gloss。 | zh |
S000002_P0004_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“没关系!”。 | zh |
S000002_P0004_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“没关系”。 | zh |
S000002_P0008_T00 | train | csl | M1 | 6 | 序列中间的gloss是什么? | 中间的gloss是“没关系”。 | zh |
S000002_P0008_T00 | train | csl | M2 | 17 | 序列中“跑”和“没关系”之间出现了哪些gloss? | 这段序列太短了。 | zh |
S000002_P0008_T00 | train | csl | M3 | 28 | 结合面部表情判断,这是一个疑问句吗? | 结合非手控特征判断,并非疑问句。 | zh |
S000002_P0008_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“没关系!”。 | zh |
S000002_P0008_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“没关系”。 | zh |
S000003_P0000_T00 | train | csl | M1 | 3 | 第0个动作是什么? | 位置0不合法,计数从1开始。 | zh |
S000003_P0000_T00 | train | csl | M2 | 12 | 识别倒数第二个手语词。 | 这段序列太短了。 | zh |
S000003_P0000_T00 | train | csl | M3 | 24 | 定位“谢谢”最后一次出现的序列位置。 | “谢谢”最后一次出现在第1位。 | zh |
S000003_P0000_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“谢谢!”。 | zh |
S000003_P0000_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“谢谢”。 | zh |
S000003_P0004_T00 | train | csl | M1 | 7 | 倒数第1个动作是什么? | 按倒序计数,该位置的gloss为“谢谢”。 | zh |
S000003_P0004_T00 | train | csl | M2 | 13 | 识别序列中的第二个手语词。 | 序列长度不够。 | zh |
S000003_P0004_T00 | train | csl | M3 | 27 | 连接“懂”和“谢谢”的最短动作链是什么? | 长度不够,无法在同一片段里同时包含两个gloss。 | zh |
S000003_P0004_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“谢谢!”。 | zh |
S000003_P0004_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“谢谢”。 | zh |
S000003_P0008_T00 | train | csl | M1 | 1 | 这个视频开始的第一个动作是什么? | 起始gloss为“谢谢”。 | zh |
S000003_P0008_T00 | train | csl | M2 | 19 | 第1个gloss之前紧邻的gloss是什么? | 序列长度不够。 | zh |
S000003_P0008_T00 | train | csl | M3 | 24 | 定位“谢谢”最后一次出现的序列位置。 | 最后一次看到“谢谢”是在第1个gloss。 | zh |
S000003_P0008_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“谢谢!”。 | zh |
S000003_P0008_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“谢谢”。 | zh |
S000004_P0000_T00 | train | csl | M1 | 2 | 序列中的最后一个gloss是什么? | 最后的gloss为“不”。 | zh |
S000004_P0000_T00 | train | csl | M2 | 22 | 提取截止到第2个gloss的前置序列。 | 从起点到当前位置依次为“礼貌 不”。 | zh |
S000004_P0000_T00 | train | csl | M3 | 24 | “礼貌”最后一次出现是在第几步? | 最后一次看到“礼貌”是在第1个gloss。 | zh |
S000004_P0000_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“不客气!”。 | zh |
S000004_P0000_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“礼貌 不”。 | zh |
S000004_P0004_T00 | train | csl | M1 | 9 | 在有序列表四分之三位置的gloss是什么? | 在序列约四分之三处的gloss是“不”。 | zh |
S000004_P0004_T00 | train | csl | M2 | 19 | 第1个gloss之前紧邻的gloss是什么? | 第1个gloss之前没有gloss了。 | zh |
S000004_P0004_T00 | train | csl | M3 | 25 | 识别从第1个gloss开始的双词子序列。 | 从位置1起的二元组是“礼貌 不”。 | zh |
S000004_P0004_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“不客气!”。 | zh |
S000004_P0004_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“礼貌 不”。 | zh |
S000004_P0008_T00 | train | csl | M1 | 1 | 请识别序列中的起始手语词。 | 第一个gloss是“礼貌”。 | zh |
S000004_P0008_T00 | train | csl | M2 | 11 | 识别“不”的直接前驱手语词。 | “不”前面紧挨着“礼貌”。 | zh |
S000004_P0008_T00 | train | csl | M3 | 25 | 识别从第1个gloss开始的双词子序列。 | 从第1位开始的连续两个gloss是“礼貌 不”。 | zh |
S000004_P0008_T00 | train | csl | M4 | 29 | 将这段手语翻译成口语文本。 | 这段手语的意思是“不客气!”。 | zh |
S000004_P0008_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“礼貌 不”。 | zh |
S000005_P0000_T00 | train | csl | M1 | 1 | 这个视频开始的第一个动作是什么? | 第一个gloss是“你”。 | zh |
S000005_P0000_T00 | train | csl | M2 | 12 | 哪个gloss出现在最后一个gloss之前? | 倒数第二个gloss是“名字”。 | zh |
S000005_P0000_T00 | train | csl | M3 | 26 | 序列中从第1个gloss开始的gloss三元组是什么? | 从第1位开始的连续三个gloss是“你 名字 什么”。 | zh |
S000005_P0000_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“你叫什么名字?”。 | zh |
S000005_P0000_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“你 名字 什么”。 | zh |
S000005_P0008_T00 | train | csl | M1 | 7 | 倒数第2个动作是什么? | 倒着数,这一位的gloss是“名字”。 | zh |
S000005_P0008_T00 | train | csl | M2 | 14 | 第1个gloss到第3个gloss之间的有哪些gloss? | 从1到3这几步的gloss是“你 名字 什么”。 | zh |
S000005_P0008_T00 | train | csl | M3 | 25 | 序列中从第2个gloss开始的gloss二元组是什么? | 从位置2起的二元组是“名字 什么”。 | zh |
S000005_P0008_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“你叫什么名字?”。 | zh |
S000005_P0008_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“你 名字 什么”。 | zh |
S000006_P0000_T00 | train | csl | M1 | 9 | 在有序列表四分之三位置的gloss是什么? | 大约到四分之三位置时出现的gloss是“孩子”。 | zh |
S000006_P0000_T00 | train | csl | M2 | 17 | “名字”和“我”中间夹着哪些动作? | “我”后面直接就是“名字”,中间没有gloss。 | zh |
S000006_P0000_T00 | train | csl | M3 | 25 | 识别从第1个gloss开始的双词子序列。 | 从位置1起的二元组是“我 名字”。 | zh |
S000006_P0000_T00 | train | csl | M4 | 29 | 你能看懂这段手语的意思吗? | 这段手语的意思是“我叫童童.”。 | zh |
S000006_P0000_T00 | train | csl | M5 | 30 | 把看到的动作代号按顺序写下来。 | 这个手语视频的gloss序列是“我 名字 孩子”。 | zh |
S000006_P0004_T00 | train | csl | M1 | 2 | 手语者打的最后一个动作是什么? | 最后一个gloss是“孩子”。 | zh |
S000006_P0004_T00 | train | csl | M2 | 18 | 哪两个gloss包围了“我”? | 序列过短,无法找到两侧邻居。 | zh |
S000006_P0004_T00 | train | csl | M3 | 24 | “孩子”最后一次出现是在第几步? | 最后一次看到“孩子”是在第3个gloss。 | zh |
S000006_P0004_T00 | train | csl | M4 | 29 | 手语者表达的完整句子是什么? | 这段手语的意思是“我叫童童.”。 | zh |
S000006_P0004_T00 | train | csl | M5 | 30 | 按时间顺序列出视频中的所有gloss。 | 这个手语视频的gloss序列是“我 名字 孩子”。 | zh |
S000006_P0008_T00 | train | csl | M1 | 9 | 在有序列表四分之三位置的gloss是什么? | 序列后四分之一附近的gloss是“孩子”。 | zh |
S000006_P0008_T00 | train | csl | M2 | 16 | 识别“我”首次出现前的上一个词。 | “我”是第一个gloss,前面没有其他gloss。 | zh |
S000006_P0008_T00 | train | csl | M3 | 28 | 看他的表情,他是在问问题吗? | 结合非手控特征判断,并非疑问句。 | zh |
S000006_P0008_T00 | train | csl | M4 | 29 | 你能看懂这段手语的意思吗? | 这段手语的意思是“我叫童童.”。 | zh |
S000006_P0008_T00 | train | csl | M5 | 30 | 这个手语视频对应的gloss序列是什么? | 这个手语视频的gloss序列是“我 名字 孩子”。 | zh |
SignQA-2026
SignQA-2026 is a multilingual question-answering dataset built from sign-language sequence annotations. It contains Chinese QA pairs derived from CSL-Daily and German QA pairs derived from PHOENIX-2014T.
The current release contains annotations only. Each record refers to a source
video by video_id; video files are not included.
Dataset configurations
| Configuration | Language | Train | Validation | Test | Total |
|---|---|---|---|---|---|
csl-daily-qa |
Chinese (zh) |
92,000 | 5,385 | 5,880 | 103,265 |
phoenix14t-qa |
German (de) |
35,480 | 2,595 | 3,210 | 41,285 |
| All | — | 127,480 | 7,980 | 9,090 | 144,550 |
The dataset contains 28,910 unique video IDs. Each video ID has five QA records, one for each module from M1 to M5.
Data format
Every JSONL row contains the following fields:
| Field | Type | Description |
|---|---|---|
video_id |
string | Identifier of the corresponding source video |
split |
string | Original split name: train, dev, or test |
dataset |
string | Source dataset identifier: csl or phoenix |
module |
string | QA module, from M1 through M5 |
pattern_id |
integer | Identifier of the question-generation pattern |
question |
string | Natural-language question |
answer |
string | Natural-language answer |
lang |
string | ISO language code: zh or de |
Example:
{
"video_id": "11August_2010_Wednesday_tagesschau-1",
"split": "train",
"dataset": "phoenix",
"module": "M1",
"pattern_id": 3,
"question": "Kannst du mir sagen, welches Zeichen bei Schritt 4 steht?",
"answer": "Das 4. Gloss lautet \"DONNERSTAG\".",
"lang": "de"
}
Intended use
SignQA-2026 is intended for research on sign-language understanding, sequence-grounded question answering, multilingual QA, and evaluation of models that reason over sign-language gloss sequences.
Users who need visual inputs must obtain the corresponding CSL-Daily and PHOENIX-2014T videos separately and follow the original datasets' access terms.
Citation
If you use SignQA-2026 in your research, please cite our paper:
Shiwei Gan, Lichen Wang, Xiao Liu, Yafeng Yin, Kuizhuang Liu, Sanglu Lu, and Lei Xie. Sign Language Question Answering: A New Task, Benchmark, and Baseline for Sign Language Understanding. 2026.
@misc{gan2026signqa,
title = {Sign Language Question Answering: A New Task, Benchmark, and
Baseline for Sign Language Understanding},
author = {Gan, Shiwei and Wang, Lichen and Liu, Xiao and Yin, Yafeng and
Liu, Kuizhuang and Lu, Sanglu and Xie, Lei},
year = {2026},
eprint = {2607.27826},
archivePrefix = {arXiv},
primaryClass = {cs.AI},
doi = {10.48550/arXiv.2607.27826},
url = {https://arxiv.org/abs/2607.27826}
}
arXiv: 2607.27826 [cs.AI]
Limitations
- This repository does not include source videos or gloss sequences.
- Questions and answers are tied to source-dataset video identifiers.
- Template-based QA patterns may not reflect the full diversity of naturally occurring questions.
- Performance across Chinese and German should not be compared without accounting for differences between the source datasets.
Licensing and attribution
This dataset is derived from CSL-Daily and PHOENIX-2014T. Users are responsible for reviewing and complying with the licenses and terms of the original datasets. The annotation license should be stated explicitly before public release if it differs from the source-dataset terms.
- Downloads last month
- 50