Hetero-MoE 研究档案
Collection
三个真实骨干(Qwen/BERT/ViT)跨架构对齐与融合: 维度投影空间 = 按功能槽张成的子空间之和。唯一可直接加载的模型是 HeteroMoEProjSpace-v2。 • 7 items • Updated
Error code: RowsPostProcessingError
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
项目可视化产物,与模型权重无关。
| 文件 | 大小 | 内容 |
|---|---|---|
v62_mechanism.mp4 |
3.02 MB | v62 维度投影空间机制可视化(8 幕 / 60 秒)—— 数字全部来自真实前向,见下方说明 |
moe_mechanism_full.mp4 |
2.24 MB | 七幕机制可视化(44 秒)—— v33 时期的旧版 |
moe_attn_balance.mp4 |
1.12 MB | 注意力 + 专家负载(20 秒) |
moe_real_hetero.mp4 |
1.03 MB | 真实异构融合(18 秒) |
moe_mechanism_v4.mp4 |
0.77 MB | 机制可视化第 4 版 |
moe_mechanism_v3.mp4 |
0.52 MB | 第 3 版(历史) |
moe_mechanism_slow.mp4 |
0.41 MB | 慢速版 |
v62_preview.png |
0.11 MB | v62 视频预览帧 |
八幕,每一幕的数字都来自真实前向或实测,没有一个是编的:
| # | 幕 | 屏上的关键数字 | 来源 |
|---|---|---|---|
| ① | 真实尺度 | 896/256/768 → 256;能量保留 54%/100%/59% | 真实前向 |
| ② | 四视角 | 空间 = Σ_s S_s = 4 × 256 = 1024 |
算子结构 |
| ③ | 两两对齐 | 0.9893 / 0.9883 / 0.9879 | metrics.json |
| ④ | 三模型崩 | 0.9893 → 0.6767;去掉 Qwen → 0.9879 | metrics.json |
| ⑤ | 环路闭合 | 一致性损失 0.007817 → 0.000000;0.6767 → 0.9925 | metrics.json |
| ⑥ | 四槽分工 | 逐 token 真实槽门控;Q 槽权重≈0;熵 0.647 | 真实前向 |
| ⑦ | 专家路由 | 0.350 / 0.527 / 0.572 / 0.551;均衡 0.612;top-k=2 | 2002 条 held-out |
| ⑧ | 收尾 | 645,190,802 参数;held-out 0.9076 | 综合 |
视觉风格借鉴 3b1b/manim(ManimCE 0.22.1)的色板与图形语言 ——
色值取自 manim/utils/color/manim_colors.py,不是凭印象配的。
渲染工程在 hetero-moe 仓库的
research/aligner/v62_dimension_projection_space/visual/。
⚠️ 视频里有一处刻意的自我更正:④ 幕标注的是「v62.1:router 从未训练(lazy bug)→ 熵 0.021」。 那个塌缩不是模型的真实表现,是 bug 的表现,不能说成「模型学成这样」。
| 文件 | 大小 | 说明 |
|---|---|---|
genealogy_lux3d_assets.zip |
89.31 MB | 族谱树 3D 资产包(41 几何体 / 42.4 万面) |
genealogy_lux3d.glb |
5.01 MB | 同上,单文件 GLB |
tree_reference.png |
0.66 MB | 树形参考图 |
final_lux3d.jpg |
0.13 MB | 渲染效果图 |
mechanism.png |
0.24 MB | 机制静态图 |
genealogy_lux3d.glb 是拆件后拼装的结果。最初把整棵树直接喂给图生 3D 得到的是
平面浮雕(厚度 0.04–0.11 vs 宽度 0.9–1.5),拆成 41 个部件分别生成再拼装才成立。
⚠️ 它是装配体,不是单一网格 —— 各部件之间没有拓扑连接, 不能直接用于 3D 打印或需要水密网格的流程。
CONTEXT_LOST_WEBGL)structure-film-job