SMoEA rejection artifacts

SMoEA Router 拒絕分支使用的產物。全部都是 unsloth/Meta-Llama-3.1-8B增量不含 base model 本身——沒有 base model 無法使用。

兩類產物,版面不同:

一、merged model(六個)

tapico_taties_onlydare_ties_talora_legoadamerging_pp。 每份是一個 dense delta:只含 down_proj 的差值,約 3.76 GB。

<condition>/<run_id>/prepare/merged_model/
    result.json                # 契約:base model 指紋、dtype、checksum、模組清單
    dense_delta.safetensors    # 權重差值

二、taskwise Arrow 路由資產(四個)

taskwise_k{16,32,48,64}_arrow。這幾個不是合成好的單一權重,而是 K 份代表 adapter 加一份 prototype 索引:150 個 adapter 先分成 K 群,每群在 LoRA 因子 空間重建出一個代表——那 K 份權重在原本的池子裡並不存在。執行期逐 token 在這 K 個代表中擇一。

<condition>/<run_id>/prepare/
    method.json                # 契約:代表數、target_module、top_k、checksum
    prototypes.safetensors     # 逐層 prototype
    cluster_manifest.json      # K 份代表的順序與 checksum
    cluster_adapters/cluster_{0..K-1}/{adapter_config.json,adapter_model.safetensors}

大小:K16 約 275 MB、K32 約 640 MB、K48 約 950 MB、K64 約 1.3 GB。 分群當下的中間結果 flat_matrix.npy(每份 2.7 GB)執行期不讀,未上傳。

arrow(Direct Arrow,逐 token 在全部 150 個 adapter 中擇一)不在這裡: 它不需要任何下載,prototype 由 adapter 池在啟動時現算。

取用

兩類都是同一支指令,它依 condition 名稱決定要抓哪一種版面:

python scripts/fetch_artifact.py --repo Tincan0325/smoea-rejection-artifacts \
    --condition <condition> --artifact-root artifacts \
    --registry artifacts/registry.json --register-as <condition>

--list 只列出遠端有哪些 run、不下載。下載後由 SMoEA 逐檔核對契約檔記錄的 大小與 sha256;不符即拒絕載入。scripts/setup_workspace.sh 預設會把十個 condition 全部取回。

授權

衍生自 Llama 3.1,受 Llama 3.1 Community License 規範(Built with Llama)。 散布前請確認附隨條款與上游訓練資料的授權。

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Tincan0325/smoea-rejection-artifacts

Finetuned
(287)
this model