gemma-3-4b-petspeak-lora

PetSpeak — finetune LoRA de Gemma 3 4B IT pour traduire les signaux multimodaux (audio/IMU/pose/contexte) d'un animal de compagnie (chien, chat, lapin) en phrase française naturelle, à la première personne.

Base : google/gemma-3-4b-it

Méthode : LoRA r=32, α=64, dropout=0.05. Cibles : q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj (attention complète + MLP SwiGLU).

Dataset : 5000 paires features→phrase synthétiques (templates curated éthologue, 3 espèces × 8+ états comportementaux).

Hyperparams training : 3 epochs, batch effective 16, lr 2e-4, cosine schedule, warmup 3%, bf16, gradient checkpointing.

Utilisation iOS : le repo Prophet25200/gemma-3-4b-petspeak-mlx-q4 (MLX Q4) est téléchargé runtime par l'app PetMind via Apple MLX Swift sur iPhone 15 Pro+. Inference 100 % on-device, aucune donnée envoyée à Google.

Licence : Gemma Terms of Use — https://ai.google.dev/gemma/terms Built with Google Gemma 3.

Downloads last month: 20

Inference Providers NEW

This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Prophet25200/gemma-3-4b-petspeak-lora

Base model

google/gemma-3-4b-pt

Finetuned

google/gemma-3-4b-it

Adapter

(383)

this model