SMoEA rejection artifacts
SMoEA Router 拒絕分支使用的產物。全部都是 unsloth/Meta-Llama-3.1-8B 的
增量,不含 base model 本身——沒有 base model 無法使用。
兩類產物,版面不同:
一、merged model(六個)
ta、pico_ta、ties_only、dare_ties_ta、lora_lego、adamerging_pp。
每份是一個 dense delta:只含 down_proj 的差值,約 3.76 GB。
<condition>/<run_id>/prepare/merged_model/
result.json # 契約:base model 指紋、dtype、checksum、模組清單
dense_delta.safetensors # 權重差值
二、taskwise Arrow 路由資產(四個)
taskwise_k{16,32,48,64}_arrow。這幾個不是合成好的單一權重,而是 K 份代表
adapter 加一份 prototype 索引:150 個 adapter 先分成 K 群,每群在 LoRA 因子
空間重建出一個代表——那 K 份權重在原本的池子裡並不存在。執行期逐 token 在這
K 個代表中擇一。
<condition>/<run_id>/prepare/
method.json # 契約:代表數、target_module、top_k、checksum
prototypes.safetensors # 逐層 prototype
cluster_manifest.json # K 份代表的順序與 checksum
cluster_adapters/cluster_{0..K-1}/{adapter_config.json,adapter_model.safetensors}
大小:K16 約 275 MB、K32 約 640 MB、K48 約 950 MB、K64 約 1.3 GB。
分群當下的中間結果 flat_matrix.npy(每份 2.7 GB)執行期不讀,未上傳。
arrow(Direct Arrow,逐 token 在全部 150 個 adapter 中擇一)不在這裡: 它不需要任何下載,prototype 由 adapter 池在啟動時現算。
取用
兩類都是同一支指令,它依 condition 名稱決定要抓哪一種版面:
python scripts/fetch_artifact.py --repo Tincan0325/smoea-rejection-artifacts \
--condition <condition> --artifact-root artifacts \
--registry artifacts/registry.json --register-as <condition>
--list 只列出遠端有哪些 run、不下載。下載後由 SMoEA 逐檔核對契約檔記錄的
大小與 sha256;不符即拒絕載入。scripts/setup_workspace.sh 預設會把十個
condition 全部取回。
授權
衍生自 Llama 3.1,受 Llama 3.1 Community License 規範(Built with Llama)。 散布前請確認附隨條款與上游訓練資料的授權。
Model tree for Tincan0325/smoea-rejection-artifacts
Base model
unsloth/Meta-Llama-3.1-8B