JKAppTeacher judge models
JKAppTeacherκ° νμ΅μμ λ΅μ μ±μ ν λ μ°λ OpenVINO INT4 λͺ¨λΈμ΄λ€. μλ³Έ κ°μ€μΉλ Qwen νμ κ²μ΄κ³ μ¬κΈ° μλ κ²μ κ·Έκ²μ μμνν΄ λ΄λ³΄λΈ νμλ¬Όμ΄λ€. μ©λλ μμ±μ΄ μλλΌ νμ μ΄λ€.
μΆμ²μ λΌμ΄μ μ€
μλ³Έκ³Ό νμλ¬Ό λͺ¨λ Apache-2.0μ΄λ€. κ° λͺ¨λΈμ μλ³Έ μ μ₯μλ μλ νμ μλ€.
λ³ν μ€μ
optimum-cli export openvino --task text-generation-with-past \
--weight-format int4 --sym --ratio 1.0 --group-size 128
openvino-genai 2026.3.1.0, optimum-intel 2.1.0μΌλ‘ λ΄λ³΄λλ€. 보μ λ°μ΄ν°λ₯Ό μ°μ§ μμ data-free μμνλ€.
νμ μ νλ
72건 κ· ν νκ°μ
(μ λ΅κ³Ό μ€λ΅ κ° μ λ°, μμ΄μ μ΄ν리μμ΄ κ° μ λ°)μ
NPU (Intel AI Boost, Core Ultra 7 258V)μμ μ° κ°μ΄λ€. λͺ¨λΈλ§λ€ μ΅μ μΆλ ₯ νμμ΄ λ¬λΌ μ λ΅μ ν¨κ» μ£λλ€.
| id | μλ³Έ | ν¬κΈ° | μ λ΅ | μ νλ | μΈμ΄λ³ |
|---|---|---|---|---|---|
qwen3-4b-instruct-2507-int4 |
Qwen/Qwen3-4B-Instruct-2507 | 2,180 MB | accept | 61/72 | en 36/36 / it 25/36 |
qwen3-8b-int4 |
Qwen/Qwen3-8B | 4,626 MB | yesno | 67/72 | en 36/36 / it 31/36 |
μ΄ μμΉλ νμ κ³Όμ νμ μ΄λ©° μΌλ° μ±λ₯ μ§νκ° μλλ€.
무결μ±
νμΌλ³ sha256μ μ±μ models/catalog.jsonμ μκ³ λ€μ΄λ‘λν λ λμ‘°νλ€.
μ¬κΈ° μλ νμΌμ΄ κ·Έ ν΄μμ λ€λ₯΄λ©΄ μ±μ΄ μ€μΉλ₯Ό κ±°λΆνλ€.
Model tree for giromondo/jkappteacher-models
Base model
Qwen/Qwen3-4B-Instruct-2507