README.md

---
library_name: transformers
tags: []
---

# Legislação UFAM

Este é um modelo baseado no [Llama-2-7b-chat-hf](https://huggingface.co/meta-llama/Llama-2-7b-chat-hf). Este modelo teve fine tuning a partir de um
dataset de triplas (perguntas, contexto, resposta) relacionadas à [legislação acadêmica da Universidade Federal do Amazonas](
https://proeg.ufam.edu.br/normas-academicas/57-proeg/146-legislacao-e-normas.html) com o intuito de torná-lo capaz de responder perguntas relacionadas
à legislação da UFAM em um sistema de RAG.

O modelo teve fine tuning realizado a partir [deste dataset](https://huggingface.co/datasets/felipovysk/ufam-legis).

O código usado para a geração do dataset, treino e teste do modelo encontra-se [neste Notebook](https://colab.research.google.com/drive/1x02d9vSqsorZUQ0KnSe6FatCEHAFWO3G?usp=sharing).

## Exemplos de Resultados:

**Pergunta:** Quais são os documentos necessários para um aluno visitante interinstitucional solicitar ingresso em um programa de mobilidade?

```
O aluno visitante interinstitucional solicitando ingresso em um programa de mobilidade deverá apresentar os seguintes documentos:

1. Cópia do diploma de graduação, com validade constatada pelo respectivo registro civil;
2. cópia do certificado de profissão, se pertence ao mesmo curso ou área de estudos que o aluno vem a realizar;
3. cópia do documento que compro o status do aluno como interinstitucional, se ele for interinstitucional;
4. documento de apoio à solicitação de vaga, com a carga horário de trabalho do curso a ser realizado, bem como a informações básicas do curso, como o nome, o código curso, o período letivo e o local de realização;
5. documento de comprovação de validade do cartão de identificação, se o aluno possuir cartão de identificação.

Esses documentos devem ser apresentados na própria da universidade a qual o aluno v
```

**Pergunta:** É obrigatório que o professor apresente o plano de ensino no início do período letivo?

```
Sim, é obrigatório que o professor apresente o plano de ensino no início do período letivo.

A partir do artigo 1º do regimento geral, que indica que o professor deverá apresentar o plano de ensino no início do período letivo, como medida para garantir a congruência entre o plano de ensino e o ensino praticado, e para garantir que o professor esteja seguro dos objetivos e dos meios de ação estabelecidos no plano de ensino.

Além disso, o artigo 4º do regimento geral estabelece que o chefe de departamento/coordenador acadêmico deverá sinalizar, em campo apropriado no SIE, a mensagem “PROFESSOR A CONTRATAR” para o professor que será responsável pela disciplina.

Portanto, o professor deverá apresentar o plano de ensino no início do período letivo, e, simultaneamente, sinalizar o professor a ser responsável pela disciplina, acessando o chefe de departamento/
```

**Pergunta:** Como ocorrem as eleições de reitor na UFAM?

```
Ocorrendo as eleições de reitor na UFAM através do processo constitucionalmente estabelecido, que inclui a nomeação e a eleição do reitor pela comunidade universitária, conforme previsto no art. 82, 83 e 84 da lei nº 9.394, de 20 de dezembro de 1996.

Ao longo da história da universidade, o processo eleitoral do reitor teve variadas formas de exercício, com a criação, em 1966, do conselho departamental, que se tornou o órgão responsável pela eleição do reitor.

Atualmente, a eleição do reitor da UFAM é feita pela comunidade universitária, mediante a nomeação e a eleição do candidato mais votado, mediante a obediência às normas constitucionais e regulamentares que regem a dolência.

O processo eleitoral é regulamentado pelo regimento da universidade, que define as condições para a participação do eleitorado,
```

## Detalhes do Modelo

### Dataset

Para mais informações sobre o processo de criação do dataset, leia o [card do dataset](https://huggingface.co/datasets/felipovysk/ufam-legis).

### Fine tuning

O modelo é baseado no modelo Llama-2-7b-chat-hf, com as seguintes configurações de quantização, e seguintes configurações de LoRA:

```
BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype="float16",
    bnb_4bit_use_double_quant=False,
)

LoraConfig(
    lora_alpha=16,
    lora_dropout=0.1,
    r=64,
    bias="none",
    task_type="CAUSAL_LM",
)
```

Ele foi treinado com o uso do [SFTTrainer](https://huggingface.co/docs/trl/sft_trainer) com o conjunto de triplas (pergunta, contexto, resposta) [deste dataset](
https://huggingface.co/datasets/felipovysk/ufam-legis/tree/main), por 3 épocas, atingindo uma training loss de 1.055100.