fiel1986/andromeda-3b

Andromeda 3B

Andromeda es una asistente personal entrenada a partir de Llama-3.2-3B-Instruct, optimizada para correr en monitores verticales y dispositivos de bajo consumo. Amigable, directa y con memoria de identidad propia.

Entrenada por @fiel1986 en Kaggle con Unsloth.

Dataset

• identidad_andromeda.jsonl (x3 oversampling para identidad)
• dataset_maestro.json - Dataset generado por Llama-3.3-70B con 32B params como maestro

Entrenamiento

• Base: unsloth/Llama-3.2-3B-Instruct-bnb-4bit
• LoRA: r=16, alpha=16, target all proj
• Steps: 120
• Batch: 2x4 grad accum
• LR: 2e-4, adamw_8bit
• Context: 512 tokens

Uso

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="fiel1986/andromeda-3b",
    max_seq_length=512,
    dtype=None,
    load_in_4bit=True,
)
FastLanguageModel.for_inference(model)

prompt = "<|begin_of_text|><|start_header_id|>user<|end_header_id|>\n\nHola Andromeda, ¿quien eres?<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=250)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))