Instructions to use Beaume/beaume-qwen-3b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Beaume/beaume-qwen-3b with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Beaume/beaume-qwen-3b")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Beaume/beaume-qwen-3b")
model = AutoModelForCausalLM.from_pretrained("Beaume/beaume-qwen-3b", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Beaume/beaume-qwen-3b with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Beaume/beaume-qwen-3b"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Beaume/beaume-qwen-3b",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Beaume/beaume-qwen-3b

SGLang

How to use Beaume/beaume-qwen-3b with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Beaume/beaume-qwen-3b" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Beaume/beaume-qwen-3b",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Beaume/beaume-qwen-3b" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Beaume/beaume-qwen-3b",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Beaume/beaume-qwen-3b with Docker Model Runner:
```
docker model run hf.co/Beaume/beaume-qwen-3b
```

Beaume Qwen 3B

Un modèle expérimental pour le projet Beaume

Beaume est un projet indépendant d’assistant juridique local destiné aux avocats. Il vise à faciliter la lecture des dossiers, structurer les faits et permettre de retrouver les passages sources ainsi que les textes de loi pertinents.

Statut : prototype de recherche et développement. La fiabilité juridique de ce modèle n’est pas démontrée.

Code et documentation du projet · Profil Beaume · Discussions

Le rôle de ce dépôt

Ce dépôt conserve un modèle expérimental de la famille Qwen utilisé dans les travaux de Beaume sur les sorties structurées. Il constitue une composante du projet, et non l’application complète.

La recherche des articles, le contrôle des versions des textes et la vérification des citations doivent être assurés par le pipeline qui entoure le modèle. Les poids seuls ne garantissent ni l’exactitude d’une réponse ni la provenance d’une citation.

Fichiers disponibles

Élément	Contenu publié
Architecture déclarée	Qwen2ForCausalLM
Taille indicative	Environ 3 milliards de paramètres
Poids	Deux fichiers Safetensors en BF16
Volume du dépôt lors de la rédaction	Environ 6,18 Go ; ce volume ne représente pas la RAM nécessaire à l’exécution
Fichiers associés	Configuration, tokenizer et modèle de conversation
Version GGUF	Non incluse dans cette publication

Objectifs de travail

Explorer l’extraction et la structuration d’informations à partir de textes juridiques.
Évaluer la production de sorties structurées dans un pipeline contrôlé.
Mesurer les erreurs, les omissions et les limites avant une éventuelle intégration professionnelle.

Le fonctionnement visé pour l’analyse des dossiers est local, sur la machine de l’utilisateur. Cette page Hugging Face présente une ressource de développement ; elle ne constitue pas un service d’analyse de dossiers clients.

Données et entraînement

La démarche de Beaume repose sur des données publiques et des exemples synthétiques pour ses expérimentations, sans recours à des dossiers clients réels pour l’entraînement.

Pour ce checkpoint, la référence exacte du modèle de départ, les révisions des données, les partitions et les paramètres d’entraînement doivent encore être rassemblés dans une documentation reproductible. Aucun volume de données ni détail d’entraînement non vérifié n’est présenté ici comme acquis.

Les nouveaux travaux du laboratoire Balladeur ne doivent pas être assimilés automatiquement aux données ayant servi à produire ce modèle.

Évaluation et limites

Aucun benchmark indépendant reproductible n’est documenté dans cette fiche à ce stade. Les observations de développement ne constituent pas une validation juridique ni une preuve de supériorité sur le modèle de base.

Le modèle peut notamment :

omettre des informations ou produire des faits inexacts ;
proposer un article hors sujet ou une version inadaptée ;
produire une citation ou un JSON incorrect ;
formuler une réponse plausible sans justification suffisante.

La validation d’un format JSON ne valide pas son contenu. Une citation textuellement exacte ne démontre pas, à elle seule, la pertinence juridique de l’article.

Reproduction et utilisation

Les dépendances, le prompt, le schéma attendu et une commande d’exécution testée pour les fichiers de ce dépôt restent à documenter avant de proposer une procédure reproductible.

Pour suivre l’intégration et les expériences locales, consulter le dépôt GitHub de Beaume. Le présent modèle est destiné à l’expérimentation ; il ne doit pas être utilisé comme seule base d’une décision juridique.

Licence et provenance

Les conditions de redistribution et de réutilisation doivent être vérifiées à partir du modèle de base exact et des ressources utilisées. Cette fiche n’ajoute aucune nouvelle licence et ne constitue pas une autorisation d’usage commercial. La documentation de licence de ce dépôt reste à compléter.

Contribuer

Beaume est porté par Mathieu Bellot, développeur indépendant et non avocat.

Les contributions recherchées portent sur les besoins métier, la traçabilité, la recherche d’information et les protocoles d’évaluation. Pour signaler un problème, préciser la version utilisée, un exemple public ou synthétique, le résultat obtenu et le résultat attendu.

Ne publiez pas de documents clients, de données confidentielles ou de secrets dans les discussions.

Dernière mise à jour de cette fiche : 27 octobre 2026.

Downloads last month: 314

Safetensors

Model size

3B params

Tensor type

BF16