Uploaded model

  • Developed by: OL-Neuland
  • License: apache-2.0
  • Finetuned from model : unsloth/ministral-3-8b-instruct-2512-unsloth-bnb-4bit

This mistral3 model was trained 2x faster with Unsloth

🧩 Ministral-8B-InvoiceXpert (LoRA Adapter)

Dies ist der isolierte LoRA-Adapter für das Ministral-8B-InvoiceXpert Modell. Er wurde im Rahmen eines IHK-Abschlussprojekts trainiert, um deutsche Rechnungen und Belege in strukturierte Markdown-Tabellen zu überführen.

💡 Warum dieser Adapter? (Ressourcen-Management)

Das vollständige, verschmolzene 16-Bit-Modell benötigt beim Laden ca. 16 GB System-RAM, was auf kleineren Maschinen oder im kostenlosen Google Colab (T4-GPU mit 12.7 GB RAM) zu "Out of Memory" (OOM) Abstürzen führt.

Dieser Adapter enthält nur die trainierten Gewichte (~200 MB). Er kann dynamisch "on-the-fly" auf das 4-Bit-quantisierte Basismodell aufgesteckt werden. Dadurch bleibt der gesamte RAM-Verbrauch während der Inferenz unter 8 GB.

Verschmolzenes Hauptmodell: OL-Neuland/Ministral-8B-InvoiceXpert Basismodell: unsloth/Ministral-3-8B-Instruct-2512

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Dataset used to train OL-Neuland/Ministral-8B-InvoiceXpert-Adapter