Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

phase3_qbase_full_hybrid_lr1e-5:評測與 ablation 結果

截至 2026-10-23(UTC+8)。模型:SamChen567/phase3_qbase_full_hybrid_lr1e-5。評測程式快照在 code/(VideoBenchEval:vbe/infer.py 主評測、vbe/ablate.py ablation)。

三個 benchmark 全集:Video-MME(2,700 題,無字幕)、MLVU dev(2,174 題)、LongVideoBench val(1,337 題)。每支影片的 LLM 端 vision token 預算 B = 1k / 2k / 4k / 8k / 16k。官方 VideoLLaMA3 prompt 與答案解析,greedy、16 個新 token。所有 run 皆完整,無錯誤。

結論

  1. qbase 的價值在高壓縮率。 切段和預算都不變,只把每個壓縮段換成「選一幀再 resize / merge」:1k、2k 時 Video-MME −2.3 到 −2.7*、MLVU −5.7 到 −7.1*、LongVideoBench −1.7 到 −5.1(4 格裡 3 格顯著)。4k 只剩 MLVU 顯著(−2.3*、−2.7*);8k、16k 三個 benchmark 都沒有顯著差別。整段平均再 pooling 更差(1k:Video-MME −5.7*、MLVU −8.2*、LongVideoBench −5.5*)。
  2. 高預算時,長片不需要那麼高的覆蓋率。 幀數降到 B/32 並混入 raw(rho32):8k 時 Video-MME +2.0*(長片 +3.4*)、MLVU +1.5*;16k 時 Video-MME 長片仍是 +3.4*。但 LongVideoBench 在任何覆蓋率設定下都沒有變好(8k rho32 −1.3,不顯著)。4k 時降幀會傷到 MLVU(rho64 −2.4*、rho128 −4.0*、全 raw 的 rho256 −8.2*)。
  3. 同樣幀數下,混入 raw 不比輕壓縮差。 rho32 對 qtf2(皆約 B/32 幀):Video-MME 長片 +2.2、+2.4*,其他都在 ±1 以內。每幀 64 token 時,qbase(qtf1)和低解析 raw(low64)沒有一致的高低。
  4. 切段方式沒有影響。 uniform 和 adaptive 在每個 benchmark、每個預算的差距都在 ±0.6 以內,全部不顯著;只看被改動的題目、或在長片全部走 qbase 的 rho16 覆蓋率下,也是一樣。
  5. 壓縮順序沒有影響。 先壓高變化段(hivar,和訓練挑 raw 段的方向一致)與 baseline 差 ≤ 0.5。被改動的題目很多(例如 MLVU 16k 有 2,031 題),差距仍是 0.0(−1.1 到 +1.0)。
  6. 低預算時覆蓋率是瓶頸,rho32 只在 ≥4k 才不輸。 rho32 在 1k、2k 只有 32 / 64 幀:MLVU −4.8*、−3.5*,Video-MME 1k −1.5*。uni16(B/16 幀、全 qbase)在 1k/2k 也略輸(MLVU 2k −1.5*,其他不顯著)。
  7. 和 VideoChat-Flash 7B 同預算比較:Video-MME、MLVU 打平,LongVideoBench 落後約 5–6 分(顯著)。 見下方「VideoChat-Flash 對照」。

VideoChat-Flash 對照(arXiv 2501.00574)

模型 OpenGVLab/VideoChat-Flash-Qwen2-7B_res448,放進同一套評測:同樣的題目、prompt、答案解析,greedy、16 個新 token。它固定每幀 16 token(每 4 幀 clip 壓成 64 token,和 rho16 的版面相同),所以預算 B 給它最多 B/16 幀,用它自己的 loader 取幀(1 fps、8 幀一步、至少 64 幀、超過上限等距取);LLM 內的 token 丟棄(mm_llm_compress)關閉,LLM 看到的 vision token 數 = B。程式:code/vbe/vcflash.py、code/scripts/run_vcflash.sh(transformers 4.40.1)。論文報告(作者自己的設定):Video-MME 65.3、MLVU M-Avg 74.7、LongVideoBench 64.7。

* = 對 VideoChat-Flash 逐題配對、以影片為單位重抽的 95% 信賴區間不含 0。未列出的預算在 container 關機前沒有跑完(部分紀錄在 vcflash/)。

B 模型 Video-MME 短 / 中 / 長 MLVU 逐題 MLVU M-Avg LongVideoBench
1k VideoChat-Flash 7B 61.81 74.78 / 59.78 / 50.89 70.88 69.14 61.71
1k 我們:預設(B/8 幀) 61.56 72.44 / 59.44 / 52.78 70.61 68.74 56.77*
1k 我們:uni16(B/16 幀,全 qbase) 61.33 72.44 / 58.22 / 53.33 69.64 68.14 55.72*
1k 我們:rho32(B/32 幀,hybrid) 60.04 70.78* / 57.33 / 52.00 65.82* 64.30 55.80*
2k VideoChat-Flash 7B 62.89 75.78 / 62.56 / 50.33 73.37 71.88 62.38
2k 我們:預設(B/8 幀) 62.74 74.56 / 59.11 / 54.56* 73.37 71.23 56.47*
2k 我們:uni16(B/16 幀,全 qbase) 62.41 74.56 / 60.22 / 52.44 71.90 69.95 55.95*
2k 我們:rho32(B/32 幀,hybrid) 62.89 74.22 / 60.22 / 54.22* 69.83* 68.20 56.17*
4k VideoChat-Flash 7B 64.26 75.89 / 62.89 / 54.00 75.11 72.89 63.58
4k 我們:預設(B/8 幀) 62.52 73.89 / 59.89 / 53.78 72.77* 70.17 58.12*
4k 我們:uni16(B/16 幀,全 qbase) 63.11 73.89 / 61.11 / 54.33 73.46 71.52 58.49*
4k 我們:rho32(B/32 幀,hybrid) 62.96 73.89 / 61.67 / 53.33 72.91* 71.06 58.41*
8k VideoChat-Flash 7B 63.15 75.33 / 62.56 / 51.56 74.84 72.65 62.60
8k 我們:預設(B/8 幀) 63.00 75.78 / 60.11 / 53.11 72.31* 69.89 58.64*
8k 我們:uni16(B/16 幀,全 qbase) 63.81 75.78 / 61.56 / 54.11 72.91* 70.47 59.01*
8k 我們:rho32(B/32 幀,hybrid) 65.00* 75.78 / 62.67 / 56.56* 73.78 71.62 57.29*
16k VideoChat-Flash 7B 63.41 75.78 / 62.11 / 52.33 73.83 71.54 62.68
16k 我們:預設(B/8 幀) 64.41 77.89 / 61.78 / 53.56 73.00 70.49 59.09*
16k 我們:uni16(B/16 幀,全 qbase) 64.59 77.89 / 62.00 / 53.89 73.23 70.72 59.09*
16k 我們:rho32(B/32 幀,hybrid) 65.33* 77.89 / 61.11 / 57.00* 73.14 70.67 59.09*

主結果(baseline 協定,正確率 %)

B Video-MME 短 / 中 / 長 MLVU 逐題 MLVU M-Avg LongVideoBench
1k 61.56 72.44 / 59.44 / 52.78 70.61 68.73 56.77
2k 62.74 74.56 / 59.11 / 54.56 73.37 71.23 56.47
4k 62.52 73.89 / 59.89 / 53.78 72.77 70.17 58.12
8k 63.00 75.78 / 60.11 / 53.11 72.31 69.89 58.64
16k 64.41 77.89 / 61.78 / 53.56 73.00 70.49 59.09

Ablation 怎麼做

所有變體和 baseline 用同一次解碼、同一份 encoder 輸出(vbe/ablate.py),只改版面。輸入和 baseline 逐 token 相同的題目直接沿用 baseline 紀錄(reused: true)。ablate_smoke/ 是驗證:base 變體強制重跑 113 題,回答、token 數、mode 與 baseline 完全一致。

組 變體 做法
baseline — 1 fps,最多 B/8 幀;放得下就全 raw(每幀 ≤256 token),否則 adaptive 切段(N = T/4+1 段,1–8 幀)、從變化最小的段開始壓成 64 token(hybrid),全壓也放不下就每 8 幀一段全壓(forced8)。長片在每個預算都是 forced8,約每幀 8 token
A 覆蓋率 rho16 / 32 / 64 / 128 / 256 1 fps 幀數超過上限的影片只取 B/R 幀(rho16 取 4·B/64−1,剛好全壓放得下),套 baseline 的 hybrid 規則;rho32–128 會把剩下的預算填回 raw(必要時把一段拆成「前 k 幀 raw + 其餘壓縮」),預算用量 ≥97%。rho256 = 全 raw
A 覆蓋率 qtf2 / qtf1 取 2·B/64−1 / B/64 幀,全部壓縮,每段 2 幀 / 1 幀(每幀 32 / 64 token),不放 raw
A 覆蓋率 low64 取 B/64 幀,全部 raw、每幀重新編碼到 ≤64 token(和 qtf1 同幀數、同 token 數)
B 壓縮器 sel_resize / sel_merge / mean_merge baseline 的切段與壓縮選擇不變,每個壓縮段改成 1 張 ≤64 token 的 raw 幀:段中間那幀重新編碼到小解析度(resize)、段中間那幀的 encoder 輸出 area pooling(merge)、整段 encoder 輸出平均後 area pooling。16:9 影片是 6×10 = 60 token,比 qbase 的 64 少 6%
C 切段 uni8 / uni16 切段數不變,改成均分(uniform);uni8 用 baseline 覆蓋率(只影響 hybrid 影片,forced8 本來就是均分),uni16 用 rho16 覆蓋率(長片全部 qbase),和 rho16 比
D 壓縮順序 hivar hybrid 改成先壓變化最大的段;變化度的算法和 Phase 3 訓練挑 raw 段相同(1 幀段用它和前一幀的差)。訓練時 raw 段是從變化最小的一半裡挑,所以這個順序和訓練一致
E fill rho32nf rho32 拿掉 fill(被抽稀的影片不把剩餘預算填回 raw);沒抽稀的影片 rho32 本來就用 baseline 版面。因 container 關機時間,可能只有部分預算完成

「長片子集」= Video-MME long、LongVideoBench 3–10 分與 15–60 分、MLVU 全部。差距是逐題配對;* = 以影片為單位重抽 2,000 次的 95% 信賴區間不含 0。完整數字(含只看被改動題目的 changed 子集)在 ablate_report.json。

表格

A. 長影片覆蓋率:長片子集(對 baseline)

Video-MME 4k Video-MME 8k Video-MME 16k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 53.8 53.1 53.6 72.8 72.3 73.0 52.8 54.4 54.2
rho16:B/16 幀,全 qbase(每段 4 幀) 54.0 (+0.2) 54.9 (+1.8) 54.4 (+0.9) 73.4 (+0.6) 73.0 (+0.7*) 73.2 (+0.2) 51.7 (-1.0) 54.5 (+0.1) 55.2 (+1.0)
rho32:B/32 幀,hybrid 53.3 (-0.4) 56.6 (+3.4*) 57.0 (+3.4*) 72.9 (+0.1) 73.8 (+1.5*) 73.1 (+0.1) 53.2 (+0.4) 52.6 (-1.8) 54.2 (+0.0)
rho64:B/64 幀,hybrid 52.7 (-1.1) 54.7 (+1.6) 55.4 (+1.9) 70.3 (-2.4*) 73.0 (+0.6) 73.2 (+0.2) 52.9 (+0.1) 52.9 (-1.5) 53.7 (-0.5)
rho128:B/128 幀,hybrid 53.3 (-0.4) 53.8 (+0.7) 55.1 (+1.6) 68.7 (-4.0*) 71.7 (-0.6) 73.5 (+0.5) 52.5 (-0.3) 53.8 (-0.6) 53.0 (-1.2)
rho256:B/256 幀,全 raw(≤256 tok) 52.6 (-1.2) 54.1 (+1.0) 54.8 (+1.2) 64.6 (-8.2*) 69.1 (-3.2*) 72.3 (-0.7) 50.7 (-2.0) 53.7 (-0.7) 52.9 (-1.3)
qtf2:B/32 幀,全 qbase(每段 2 幀) 53.1 (-0.7) 54.3 (+1.2) 54.6 (+1.0) 72.5 (-0.3) 73.7 (+1.4*) 73.6 (+0.6) 52.2 (-0.6) 52.8 (-1.6) 53.5 (-0.7)
qtf1:B/64 幀,全 qbase(每幀一段) 51.6 (-2.2) 54.2 (+1.1) 54.1 (+0.6) 71.3 (-1.5*) 72.8 (+0.5) 72.8 (-0.2) 52.8 (+0.0) 52.0 (-2.4*) 53.5 (-0.7)
low64:B/64 幀,全 raw(≤64 tok) 52.8 (-1.0) 56.2 (+3.1*) 55.3 (+1.8) 70.0 (-2.8*) 72.4 (+0.0) 73.6 (+0.6) 51.1 (-1.6) 52.4 (-2.0) 52.6 (-1.6)

A. 長影片覆蓋率:全部題目(對 baseline)

Video-MME 4k Video-MME 8k Video-MME 16k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 62.5 63.0 64.4 72.8 72.3 73.0 58.1 58.6 59.1
rho16:B/16 幀,全 qbase(每段 4 幀) 62.9 (+0.4) 64.0 (+1.0*) 64.8 (+0.4) 73.4 (+0.6) 73.0 (+0.7*) 73.2 (+0.2) 57.4 (-0.7) 58.7 (+0.1) 59.8 (+0.7)
rho32:B/32 幀,hybrid 63.0 (+0.4) 65.0 (+2.0*) 65.3 (+0.9*) 72.9 (+0.1) 73.8 (+1.5*) 73.1 (+0.1) 58.4 (+0.3) 57.3 (-1.3) 59.1 (+0.0)
rho64:B/64 幀,hybrid 62.1 (-0.4) 64.3 (+1.3*) 65.5 (+1.1*) 70.3 (-2.4*) 73.0 (+0.6) 73.2 (+0.2) 58.2 (+0.1) 57.5 (-1.1) 58.7 (-0.4)
rho128:B/128 幀,hybrid 62.0 (-0.6) 64.3 (+1.3) 65.7 (+1.3*) 68.7 (-4.0*) 71.7 (-0.6) 73.5 (+0.5) 58.0 (-0.1) 58.2 (-0.4) 58.2 (-0.9)
rho256:B/256 幀,全 raw(≤256 tok) 61.5 (-1.0) 63.7 (+0.7) 64.9 (+0.5) 64.6 (-8.2*) 69.1 (-3.2*) 72.3 (-0.7) 56.5 (-1.6) 58.3 (-0.3) 58.1 (-1.0)
qtf2:B/32 幀,全 qbase(每段 2 幀) 62.6 (+0.1) 64.5 (+1.5*) 65.0 (+0.6) 72.5 (-0.3) 73.7 (+1.4*) 73.6 (+0.6) 57.7 (-0.4) 57.4 (-1.2) 58.6 (-0.5)
qtf1:B/64 幀,全 qbase(每幀一段) 61.6 (-0.9) 64.0 (+1.0) 64.4 (-0.0) 71.3 (-1.5*) 72.8 (+0.5) 72.8 (-0.2) 58.1 (+0.0) 56.9 (-1.7*) 58.6 (-0.5)
low64:B/64 幀,全 raw(≤64 tok) 62.8 (+0.3) 65.7 (+2.7*) 65.8 (+1.4*) 70.0 (-2.8*) 72.4 (+0.0) 73.6 (+0.6) 56.9 (-1.2) 57.1 (-1.5) 57.9 (-1.2)

A'. 同幀數下 raw 低解析 vs qbase:low64 對 qtf1(皆 B/64 幀、每幀 ≤64 token),長片子集

Video-MME 4k Video-MME 8k Video-MME 16k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
qtf1:B/64 幀,全 qbase(每幀一段) 51.6 54.2 54.1 71.3 72.8 72.8 52.8 52.0 53.5
low64:B/64 幀,全 raw(≤64 tok) 52.8 (+1.2) 56.2 (+2.0) 55.3 (+1.2) 70.0 (-1.3) 72.4 (-0.4) 73.6 (+0.7) 51.1 (-1.6) 52.4 (+0.3) 52.6 (-0.9)

A'. 同幀數下混 raw vs 輕壓縮:rho32 對 qtf2(皆約 B/32 幀),長片子集

Video-MME 4k Video-MME 8k Video-MME 16k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
qtf2:B/32 幀,全 qbase(每段 2 幀) 53.1 54.3 54.6 72.5 73.7 73.6 52.2 52.8 53.5
rho32:B/32 幀,hybrid 53.3 (+0.2) 56.6 (+2.2) 57.0 (+2.4*) 72.9 (+0.4) 73.8 (+0.0) 73.1 (-0.4) 53.2 (+1.0) 52.6 (-0.2) 54.2 (+0.7)

B. qbase vs 選幀 resize / merge:全部題目(對 baseline)

Video-MME 1k Video-MME 2k Video-MME 4k Video-MME 8k Video-MME 16k MLVU 1k MLVU 2k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 1k LongVideoBench 2k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 61.6 62.7 62.5 63.0 64.4 70.6 73.4 72.8 72.3 73.0 56.8 56.5 58.1 58.6 59.1
選中間幀 + resize(重新編碼) 58.9 (-2.6*) 60.4 (-2.3*) 62.6 (+0.1) 63.6 (+0.6) 65.6 (+1.2) 63.5 (-7.1*) 67.1 (-6.3*) 70.4 (-2.3*) 72.0 (-0.3) 72.9 (-0.1) 52.4 (-4.4*) 53.8 (-2.7*) 58.6 (+0.4) 57.3 (-1.3) 58.0 (-1.0)
選中間幀 + merge(area pool) 58.9 (-2.7*) 60.4 (-2.3*) 62.4 (-0.1) 63.5 (+0.5) 64.9 (+0.5) 64.1 (-6.5*) 67.7 (-5.7*) 70.1 (-2.7*) 73.1 (+0.8) 73.0 (+0.0) 51.7 (-5.1*) 54.7 (-1.7) 58.2 (+0.1) 58.3 (-0.4) 58.2 (-0.9)
整段平均 + merge(area pool) 55.9 (-5.7*) 58.0 (-4.7*) 59.1 (-3.4*) 60.6 (-2.4*) 64.5 (+0.1) 62.4 (-8.2*) 66.7 (-6.6*) 69.3 (-3.5*) 72.4 (+0.1) 72.4 (-0.6) 51.3 (-5.5*) 53.3 (-3.1*) 56.2 (-1.9) 57.0 (-1.6) 58.4 (-0.7)

B. qbase vs 選幀 resize / merge:長片子集(對 baseline)

Video-MME 1k Video-MME 2k Video-MME 4k Video-MME 8k Video-MME 16k MLVU 1k MLVU 2k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 1k LongVideoBench 2k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 52.8 54.6 53.8 53.1 53.6 70.6 73.4 72.8 72.3 73.0 52.7 52.3 52.8 54.4 54.2
選中間幀 + resize(重新編碼) 52.2 (-0.6) 53.2 (-1.3) 54.3 (+0.6) 53.3 (+0.2) 55.6 (+2.0) 63.5 (-7.1*) 67.1 (-6.3*) 70.4 (-2.3*) 72.0 (-0.3) 72.9 (-0.1) 48.3 (-4.4*) 49.2 (-3.1*) 53.4 (+0.6) 52.4 (-2.0) 52.8 (-1.4)
選中間幀 + merge(area pool) 52.1 (-0.7) 52.3 (-2.2) 53.0 (-0.8) 54.6 (+1.4) 55.2 (+1.7) 64.1 (-6.5*) 67.7 (-5.7*) 70.1 (-2.7*) 73.1 (+0.8) 73.0 (+0.0) 47.1 (-5.5*) 49.9 (-2.4) 52.9 (+0.1) 53.7 (-0.7) 53.0 (-1.2)
整段平均 + merge(area pool) 48.2 (-4.6*) 49.6 (-5.0*) 50.1 (-3.7*) 50.9 (-2.2) 54.0 (+0.4) 62.4 (-8.2*) 66.7 (-6.6*) 69.3 (-3.5*) 72.4 (+0.1) 72.4 (-0.6) 46.5 (-6.1*) 48.4 (-3.9*) 50.4 (-2.4) 52.2 (-2.3) 53.3 (-0.9)

C. adaptive vs uniform 切段:baseline 覆蓋率,全部題目

Video-MME 1k Video-MME 2k Video-MME 4k Video-MME 8k Video-MME 16k MLVU 1k MLVU 2k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 1k LongVideoBench 2k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 61.6 62.7 62.5 63.0 64.4 70.6 73.4 72.8 72.3 73.0 56.8 56.5 58.1 58.6 59.1
uniform 切段(baseline 覆蓋率) 61.4 (-0.1) 62.3 (-0.5) 62.5 (+0.0) 62.9 (-0.1) 64.1 (-0.3) 70.6 (+0.0) 73.4 (+0.0) 72.6 (-0.1) 72.9 (+0.6) 73.0 (+0.0) 56.8 (+0.1) 56.6 (+0.1) 58.2 (+0.1) 58.6 (+0.0) 58.6 (-0.5)

C. adaptive vs uniform 切段:rho16 覆蓋率(全 qbase),長片子集(對 rho16)

Video-MME 4k Video-MME 8k Video-MME 16k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
rho16:B/16 幀,全 qbase(每段 4 幀) 54.0 54.9 54.4 73.4 73.0 73.2 51.7 54.5 55.2
uniform 切段(rho16 覆蓋率) 54.3 (+0.3) 54.1 (-0.8) 53.9 (-0.6) 73.5 (+0.1) 72.9 (-0.1) 73.2 (+0.0) 53.3 (+1.5) 54.9 (+0.4) 54.2 (-1.0)

D. 壓縮順序:優先壓縮高變化段,全部題目(對 baseline)

Video-MME 1k Video-MME 2k Video-MME 4k Video-MME 8k Video-MME 16k MLVU 1k MLVU 2k MLVU 4k MLVU 8k MLVU 16k LongVideoBench 1k LongVideoBench 2k LongVideoBench 4k LongVideoBench 8k LongVideoBench 16k
baseline(B/8 幀,hybrid / forced8) 61.6 62.7 62.5 63.0 64.4 70.6 73.4 72.8 72.3 73.0 56.8 56.5 58.1 58.6 59.1
優先壓縮高變化段 61.6 (+0.0) 62.3 (-0.4) 62.6 (+0.0) 62.7 (-0.3) 64.1 (-0.3) 70.6 (+0.0) 73.4 (+0.0) 72.8 (+0.0) 72.8 (+0.5) 73.0 (-0.0) 56.8 (+0.0) 57.0 (+0.5) 58.0 (-0.1) 58.3 (-0.4) 58.9 (-0.2)

MLVU M-Avg

4k 8k 16k
baseline(B/8 幀,hybrid / forced8) 70.2 69.9 70.5
rho16:B/16 幀,全 qbase(每段 4 幀) 71.6 70.5 70.7
rho32:B/32 幀,hybrid 71.1 71.6 70.7
rho64:B/64 幀,hybrid 68.7 71.0 71.1
rho128:B/128 幀,hybrid 66.9 69.8 71.3
rho256:B/256 幀,全 raw(≤256 tok) 62.3 66.8 70.0
qtf2:B/32 幀,全 qbase(每段 2 幀) 70.1 71.6 71.2
qtf1:B/64 幀,全 qbase(每幀一段) 69.0 70.7 70.5
low64:B/64 幀,全 raw(≤64 tok) 67.8 70.1 71.2

MLVU M-Avg

1k 2k 4k 8k 16k
baseline(B/8 幀,hybrid / forced8) 68.7 71.2 70.2 69.9 70.5
選中間幀 + resize(重新編碼) 61.9 65.1 68.4 69.8 70.5
選中間幀 + merge(area pool) 62.4 65.4 68.1 70.9 70.7
整段平均 + merge(area pool) 60.6 64.7 67.7 70.5 70.3
uniform 切段(baseline 覆蓋率) 68.7 71.2 70.1 70.5 70.8
優先壓縮高變化段 68.7 71.2 70.2 70.4 70.2

檔案

路徑 內容
baseline/phase3_qbase_full_hybrid_lr1e-5_b{B}/ baseline 每個預算的逐題紀錄({benchmark}/shard*.jsonl)與 scores.json
baseline/phase3_qbase_full_hybrid_lr1e-5_logs/、baseline/after_phase3*.log 評測 log(try1 因缺 qwen2 模組失敗,重跑成功)
ablate/{variant}_b{B}/ 每個 ablation 的逐題紀錄與 scores.json;logs/、logs_hivar/、run.log、jobs.txt
ablate_smoke/ 等價性驗證(base 變體重跑 = baseline)
tables.md、ablate_report.json 本頁表格;所有(變體、預算、benchmark)的配對差距與信賴區間
vcflash/vcflash7b_res448_b{B}/、vcflash/vcflash7b_res448_logs/ VideoChat-Flash 7B 每個預算的逐題紀錄與 scores.json(未完成的預算是部分紀錄)
ablate/rho32_b{1024,2048}、ablate/uni16_b{1024,2048}、ablate/logs_lowb/ 2026-10-23 補跑的低預算
code/ 產生這些結果的程式

逐題紀錄欄位:qid、video、answer(正解)、pred(解析出的選項)、response(模型原始輸出)、meta(時長組/題型等)、seq_len、video_info(時長、原生解析度、取用幀數 n_frames、fps、ablation 的 capped)、mode(raw / hybrid / forced8 / qbase)、hw(encoder 每幀 token)、raw_hw(raw 幀 token)、n_groups、n_compressed、n_raw_frames、vision_tokens;ablation 另有 variant、reused。

Downloads last month
323