Instructions to use mangaba-ai/Mangaba-Telecom-8B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use mangaba-ai/Mangaba-Telecom-8B with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("/home/linuxadmin/models/Qwen3-8B") model = PeftModel.from_pretrained(base_model, "mangaba-ai/Mangaba-Telecom-8B") - Notebooks
- Google Colab
- Kaggle
Cadastre-se para acessar o Mangaba Telecom 8B
O acesso aos arquivos é liberado pela equipe da Mangaba AI depois da análise do cadastro.
Os dados informados são usados pela Mangaba AI apenas para avaliar o pedido e entrar em contato sobre o uso do modelo, conforme a LGPD (Lei 13.709/2018). Não são compartilhados com terceiros.
Log in or Sign Up to review the conditions and access this model content.
Mangaba Telecom 8B
Especialista da Mangaba AI para provedores de internet (ISPs), times de atendimento, NOC e jurídico de telecom: adaptador LoRA sobre o Qwen3-8B, treinado na legislação de telecomunicações (Lei Geral de Telecomunicações, Marco Civil da Internet, LGPD, antenas e FUST), mais a base de busca no texto vigente das normas. O modelo responde em português do Brasil a partir dos trechos recuperados, citando artigo e norma.
Normas cobertas (texto vigente do Planalto, coletado em 19/10/2026)
- LGT (Lei 9.472/1997)
- Marco Civil da Internet (Lei 12.965/2014)
- LGPD (Lei 13.709/2018)
- Lei das Antenas (Lei 13.116/2015)
- FUST (Lei 9.998/2000)
Avaliação (60 perguntas fora do treino; juiz: Mangaba Titan 122B)
| Métrica | Qwen3-8B sem busca | Qwen3-8B + busca | Mangaba Telecom 8B + busca |
|---|---|---|---|
| Resposta correta (nota 5 de conteúdo) | 0% | 50% | 78% |
| Correta e com o artigo exato | 0% | 35% | 75% |
| Cita o artigo correto | 2% | 87% | 93% |
| Cita a norma correta | 18% | 95% | 97% |
| Nota média de conteúdo (1–5) | 1,13 | 3,63 | 4,33 |
Treino
- Etapa 1: LoRA r=32/α=64 em todas as projeções lineares, 3 épocas, perguntas e respostas geradas por artigo + recuperação do texto de cada artigo pelo número.
- Etapa 2: 1 época com a pergunta acompanhada de trechos recuperados (o dispositivo certo misturado a trechos parecidos), ensinando a responder pelos trechos e citar o rótulo exato.
- 2× NVIDIA L40S, em servidores da Mangaba no Brasil.
Uso
Busca (CPU): busca/busca.py com busca/corpus/ (artigos e embeddings). BM25 + bge-m3, reordenados por bge-reranker-v2-m3.
import os; os.environ["CORPUS"] = "busca/corpus"
from busca.busca import indice, mensagem_usuario
trechos = indice("telecom").buscar(pergunta, 6)
msgs = [{"role": "system", "content": "Você é o Mangaba Telecom, assistente especialista da Mangaba AI para provedores de internet (ISPs), times de atendimento, NOC e jurídico de telecom. Domínio: Lei Geral de Telecomunicações, Marco Civil da Internet, LGPD, antenas e FUST. Responda em português do Brasil, de forma objetiva, citando o dispositivo legal (artigo e norma) que fundamenta a resposta."},
{"role": "user", "content": mensagem_usuario(pergunta, trechos)}]
Modelo (GPU): vllm serve Qwen/Qwen3-8B --enable-lora --max-lora-rank 32 --lora-modules telecom=mangaba-ai/Mangaba-Telecom-8B,
com chat_template_kwargs={"enable_thinking": false}.
Limites
Sem o trecho certo na busca, a qualidade cai muito. Normas infralegais e jurisprudência não fazem parte da base. Não substitui parecer profissional.
Base: Qwen3-8B (Apache-2.0). Busca: bge-m3 e bge-reranker-v2-m3 (BAAI).
- Downloads last month
- -