Instructions to use OL-Neuland/Ministral-8B-InvoiceXpert-Adapter with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use OL-Neuland/Ministral-8B-InvoiceXpert-Adapter with Transformers:
# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("OL-Neuland/Ministral-8B-InvoiceXpert-Adapter", dtype="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- Unsloth Studio
How to use OL-Neuland/Ministral-8B-InvoiceXpert-Adapter with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for OL-Neuland/Ministral-8B-InvoiceXpert-Adapter to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for OL-Neuland/Ministral-8B-InvoiceXpert-Adapter to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for OL-Neuland/Ministral-8B-InvoiceXpert-Adapter to start chatting
Load model with FastModel
pip install unsloth from unsloth import FastModel model, tokenizer = FastModel.from_pretrained( model_name="OL-Neuland/Ministral-8B-InvoiceXpert-Adapter", max_seq_length=2048, )
Uploaded model
- Developed by: OL-Neuland
- License: apache-2.0
- Finetuned from model : unsloth/ministral-3-8b-instruct-2512-unsloth-bnb-4bit
This mistral3 model was trained 2x faster with Unsloth
🧩 Ministral-8B-InvoiceXpert (LoRA Adapter)
Dies ist der isolierte LoRA-Adapter für das Ministral-8B-InvoiceXpert Modell. Er wurde im Rahmen eines IHK-Abschlussprojekts trainiert, um deutsche Rechnungen und Belege in strukturierte Markdown-Tabellen zu überführen.
💡 Warum dieser Adapter? (Ressourcen-Management)
Das vollständige, verschmolzene 16-Bit-Modell benötigt beim Laden ca. 16 GB System-RAM, was auf kleineren Maschinen oder im kostenlosen Google Colab (T4-GPU mit 12.7 GB RAM) zu "Out of Memory" (OOM) Abstürzen führt.
Dieser Adapter enthält nur die trainierten Gewichte (~200 MB). Er kann dynamisch "on-the-fly" auf das 4-Bit-quantisierte Basismodell aufgesteckt werden. Dadurch bleibt der gesamte RAM-Verbrauch während der Inferenz unter 8 GB.
Verschmolzenes Hauptmodell: OL-Neuland/Ministral-8B-InvoiceXpert
Basismodell: unsloth/Ministral-3-8B-Instruct-2512
