hetero-moe-cache — 真实隐藏状态缓存（4.46 GB）

v62 端到端训练与本系列多次路由实验的数据源。 存的是三个骨干在真实数据上的 最后一层隐藏状态，不是原始文本/图像。

文件	形状	大小	说明
h_qwen.npy	(10000, 128, 896)	2.29 GB	ag_news 文本过 Qwen2.5-0.5B
h_bert.npy	(10000, 128, 256)	0.66 GB	ag_news 文本过 BERT-L4-H256
h_vit.npy	(5000, 197, 768)	1.51 GB	food101 图像过 ViT-base-16
labels.npy	(10000,)	80 KB	ag_news 4 类，分布 [2523, 2338, 2477, 2662]
food_labels.npy	(5000,)	40 KB	food101 7 类

用法

import numpy as np
from huggingface_hub import hf_hub_download

h_qwen = np.load(hf_hub_download('redmingwei/hetero-moe-cache', 'h_qwen.npy',
                                 repo_type='dataset'), mmap_mode='r')
labels = np.load(hf_hub_download('redmingwei/hetero-moe-cache', 'labels.npy',
                                 repo_type='dataset'))

三个坑

1. 文本 10000 条、图像 5000 条，数量不等。 同时用三个模态时需按 batch 取模对齐。
2. 序列长度不同：文本 128、图像 197。v62 用交叉注意力对齐，不截断也不池化到同一长度。
3. 这是缓存，不是数据集本身。原始数据是 ag_news 与 food101。

划分

v62 用的是按类别分层 80/20（train 7998 / val 2002）。 早期一次顺序切分得到 0.937，因分布偏移已作废，改用分层后的 0.9016。