Froged_N1

Repositori ini berisi kuantisasi GGUF Q6_K dari Trinity-33B-v1.0. Berkas model disalin dari LoneStriker/Trinity-33B-v1.0-GGUF. Ini adalah berkas kuantisasi komunitas; repo ini tidak mengklaim telah melatih atau melakukan fine-tuning ulang model.

Berkas

• Trinity-33B-v1.0-Q6_K.gguf — sekitar 27,36 GB.

GGUF ditujukan untuk runtime yang mendukung format ini, seperti llama.cpp. File ini bukan checkpoint Transformers biasa dan tidak dapat dimuat dengan contoh AutoModelForCausalLM.from_pretrained() langsung dari repo ini.

Menjalankan

Dengan versi llama.cpp yang mendukung unduhan model dari Hugging Face:

llama-cli -hf bytecode66/Froged_N1:Trinity-33B-v1.0-Q6_K.gguf

Atau unduh file GGUF dari tab Files and versions lalu jalankan secara lokal:

llama-cli -m ./Trinity-33B-v1.0-Q6_K.gguf -p "Jelaskan konsep keamanan siber untuk lingkungan lab yang berizin." -n 200

Pemakaian model 33B memerlukan RAM/VRAM yang memadai. Kebutuhan aktual bergantung pada runtime, panjang konteks, dan jumlah layer yang ditempatkan di GPU.

Penggunaan yang bertanggung jawab

Model ini ditujukan untuk pembelajaran, pengembangan, dan pengujian keamanan siber di sistem yang Anda miliki atau yang penggunaannya telah diizinkan, termasuk lab lokal dan CTF. Jangan gunakan untuk mengakses, mengganggu, atau mengeksploitasi sistem tanpa izin.

Model dasar dan lisensi

Model dasar: WhiteRabbitNeo/Trinity-33B-v1.0. Tinjau kartu model dan lisensi model dasar sebelum penggunaan atau redistribusi. Kuantisasi GGUF ini berasal dari LoneStriker; lihat repositori sumber untuk rincian kuantisasi dan atribusi.