Sticzu/bielik-nonsensik-v2

🦅 Bielik-Nonsensik v2 (Bielik 11B v3.0 Instruct Fine-Tuned na Nonsensopedii)

⚠️ OSTRZEŻENIE O TREŚCI / DISCLAIMER

Model został wytrenowany wyłącznie w celach humorystycznych, satyrycznych i badawczych na pełnym korpusie haseł z polskiej Nonsensopedii (polskiej encyklopedii humoru). Wszystkie generowane przez model treści są fikcyjne, przerysowane, pełne absurdu, ironii, sarkazmu i specyficznego humoru. Treści te nie odzwierciedlają poglądów autora modelu ani twórców modelu bazowego. Model może generować treści wulgarne, czarny humor, stereotypy lub kontrowersyjną satyrę. Korzystasz na własną odpowiedzialność!

---

📌 O modelu v2

Bielik-Nonsensik v2 to druga generacja satyrycznego polskiego modelu językowego, bazująca na fundamencie speakleash/Bielik-11B-v3.0-Instruct (architektura Bielik 3.0 / Llama-3).

Wersja v2 została wytrenowana na karcie NVIDIA GeForce RTX 5090 (architektura Blackwell, 32 GB VRAM), korzystając z pełnego korpusu artykułów Nonsensopedii (~9,64 miliona tokenów) oraz wzbogaconych instrukcji dialogowych.

Model przyjmuje rolę encyklopedysty Nonsensopedii: zamiast encyklopedycznych faktów tworzy definicje pełne popkulturowych odniesień, złośliwych obserwacji codzienności i surrealistycznej logiki.

---

📦 Dostępne formaty i pliki

W repozytorium znajdują się zarówno surowe wagi adaptera LoRA, jak i gotowe, w pełni scalone pliki w formacie GGUF do uruchomienia lokalnego (LM Studio, llama.cpp, Ollama):

Plik	Format	Rozmiar	Zastosowanie / Rekomendacja
bielik-nonsensik-v2-Q8_0.gguf	GGUF Q8_0	~11.9 GB	Maksymalna jakość, bezstratna kwantyzacja wag (zalecane do GPU 16GB+ VRAM)
bielik-nonsensik-v2-Q6_K.gguf	GGUF Q6_K	~9.2 GB	Świetny kompromis między jakością a szybkością (optymalne dla GPU 12GB+ VRAM)
bielik-nonsensik-v2-Q4_K_M.gguf	GGUF Q4_K_M	~6.7 GB	Szybka, lekka wersja do codziennego użytku (dla kart 8GB-12GB VRAM lub CPU)
adapter_model.safetensors	PEFT LoRA	~126 MB	Adapter LoRA do załadowania na model bazowy w PyTorch / Transformers

---

⚙️ Kluczowe parametry generacji (BARDZO WAŻNE!)

Ze względu na specyfikę korpusu Nonsensopedii, model bez odpowiedniej kary za powtórzenia może mieć tendencję do zapętlania pojedynczych słów. Dla najlepszych rezultatów stosuj:

Sugerowane ustawienia samplingu:

• Temperature: 0.75
• Top-P: 0.9
• Repetition penalty (Transformers): 1.15 – 1.18
• llama.cpp / LM Studio:
  • --repeat-penalty 1.18
  • --presence-penalty 0.5
  • --frequency-penalty 0.4
• System Prompt:

  Jesteś encyklopedystą Nonsensopedii – polskiej encyklopedii humoru. Wszystkie hasła opisujesz w charakterystycznym dla Nonsensopedii stylu: pełnym absurdu, ironii, ciętego humoru, popkulturowych odniesień i satyry.
  

---

🎭 Przykłady generacji (z rzeczywistych testów Q8_0 GGUF)

❓ Pytanie: Przedstaw definicję hasła: Internet.

Odpowiedź:
Internet – globalna sieć komputerowa służąca do podglądania wszystkiego, co się da zobaczyć, obejrzeć i usłyszeć, oraz przeglądania stron dla dorosłych. Większość internautów chce, by Internet był całkowicie bezpłatny (najlepiej kosztem ich sąsiadów), gdyż za wszystko, co jest darmowe, nie trzeba się odwdzięczać nawet lajkami.

---

❓ Pytanie: Przedstaw definicję hasła: Sztuczna inteligencja.

Odpowiedź:
Sztuczny mózg (ang. AI Artificial Intelligence) – program komputerowy mający zastosowanie w grach MMORPG, którego głównym celem jest nabijanie poziomów i zdobywanie przedmiotu dnia bez udziału człowieka.
Są to m.in.: bot do Tibii oraz GTA San Andreas Multiplayer, a także bardzo popularny wśród graczy World of Warcraft addon Autopilot (w skrócie AP)...

---

❓ Pytanie: Czym jest student?

Odpowiedź:
Student – istota niezwykła w swojej prostocie; byt niemalże doskonały, który posiadł umiejętność manipulacji czasem i przestrzenią. Jest to osobnik o tyleż pożyteczny, co szalenie irytujący dla innych ludzi z gatunku homo sapiens.
Jest czymś w rodzaju perpetuum mobile, które raz na 2 miesiące zaopatrzone przez darczyńcę-rodzica funkcjonuje kolejne pół roku...

---

❓ Pytanie: Czym jest poniedziałek?

Odpowiedź:
Pon – po nocy... a może to kosmici napisali ten dzień? No cóż, ale ja wolę pisać tak: Pon – Pierwszy Objaw Nudy. Tak! To pierwsze słowo, jakie powiedzieliśmy pierwszego poniedziałku... to było „PON”.

---

💻 Jak uruchomić?

1. W LM Studio / Ollama / llama.cpp (Pliki GGUF)

1. Pobierz wybrany plik .gguf (np. bielik-nonsensik-v2-Q8_0.gguf lub bielik-nonsensik-v2-Q4_K_M.gguf).
2. Załaduj go w LM Studio lub stwórz Modelfile w Ollama:

   FROM ./bielik-nonsensik-v2-Q8_0.gguf
   PARAMETER temperature 0.75
   PARAMETER repeat_penalty 1.18
   PARAMETER presence_penalty 0.5
   SYSTEM """Jesteś encyklopedystą Nonsensopedii – polskiej encyklopedii humoru. Wszystkie hasła opisujesz w charakterystycznym dla Nonsensopedii stylu: pełnym absurdu, ironii, ciętego humoru, popkulturowych odniesień i satyry."""
   

3. Format szablonu: ChatML (<|im_start|> / <|im_end|>).

2. Przez bibliotekę transformers i peft (Python)

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

BASE_MODEL = "speakleash/Bielik-11B-v3.0-Instruct"
LORA_REPO = "Sticzu/bielik-nonsensik-v2"

tokenizer = AutoTokenizer.from_pretrained(LORA_REPO)
base_model = AutoModelForCausalLM.from_pretrained(
    BASE_MODEL,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)
model = PeftModel.from_pretrained(base_model, LORA_REPO)
model.eval()

messages = [
    {
        "role": "system",
        "content": "Jesteś encyklopedystą Nonsensopedii – polskiej encyklopedii humoru. Wszystkie hasła opisujesz w charakterystycznym dla Nonsensopedii stylu: pełnym absurdu, ironii, ciętego humoru, popkulturowych odniesień i satyry."
    },
    {"role": "user", "content": "Przedstaw definicję hasła: Sztuczna inteligencja."}
]

prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=400,
        temperature=0.75,
        top_p=0.9,
        repetition_penalty=1.18,
        do_sample=True
    )

print(tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))

---

🛠️ Szczegóły techniczne treningu

• Model bazowy: speakleash/Bielik-11B-v3.0-Instruct
• Sprzęt: 1x NVIDIA GeForce RTX 5090 (Blackwell 32 GB VRAM)
• Czas treningu: 3 godziny 11 minut 55 sekund
• Liczba kroków: 544 / 544 (1 pełna epoka)
• Efektywny Batch Size: 16 (per-device batch 4 × 4 kroki akumulacji gradientu)
• Kontekst (max_seq_len): 2048 tokenów
• Optymalizator: paged_adamw_8bit
• Precyzja: bfloat16 + kwantyzacja 4-bit (NF4)
• Metryki końcowe:
  • Train Loss: 1.279
  • Token Accuracy: 70.42%
  • Przetworzone tokeny: 9 641 000

---

📜 Licencje i podziękowania

• Bielik 11B v3.0 Instruct: Stworzony przez zespół SpeakLeash i Cyfronet AGH.
• Nonsensopedia: Treści udostępniane na licencji Creative Commons CC BY-NC-SA 3.0.
• Niniejszy model: Dostępny na licencji Creative Commons Attribution-NonCommercial-ShareAlike 4.0 (CC BY-NC-SA 4.0) – wyłącznie do użytku niekomercyjnego na tych samych warunkach.