File size: 3,305 Bytes
9c880f9 6652ef0 9c880f9 0102234 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 0102234 6652ef0 9c880f9 6652ef0 0102234 6652ef0 0102234 6652ef0 0102234 6652ef0 0102234 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 9c880f9 6652ef0 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 |
---
license: mit
library_name: "trl"
tags:
- KTO
- WeniGPT
base_model: HuggingFaceH4/zephyr-7b-beta
model-index:
- name: Weni/WeniGPT-Agents-Zephyr-1.0.27-KTO
results: []
language: ['pt']
---
# Weni/WeniGPT-Agents-Zephyr-1.0.27-KTO
This model is a fine-tuned version of [HuggingFaceH4/zephyr-7b-beta] on the dataset Weni/wenigpt-agent-1.4.0 with the KTO trainer. It is part of the WeniGPT project for [Weni](https://weni.ai/).
Description: Experiment with a new tokenizer configuration for chat template of zephyr
It achieves the following results on the evaluation set:
{'eval_loss': 0.47915583848953247, 'eval_runtime': 169.9194, 'eval_samples_per_second': 2.06, 'eval_steps_per_second': 0.518, 'eval_rewards/chosen': -0.07436122000217438, 'eval_rewards/rejected': -0.255724161863327, 'eval_rewards/margins': 0.18136295676231384, 'eval_kl': 0.20153704285621643, 'eval_logps/chosen': -280.2303771972656, 'eval_logps/rejected': -240.73260498046875, 'epoch': 0.97}
## Intended uses & limitations
This model has not been trained to avoid specific intructions.
## Training procedure
Finetuning was done on the model HuggingFaceH4/zephyr-7b-beta with the following prompt:
```
---------------------
System_prompt:
Agora você se chama {name}, você é {occupation} e seu objetivo é {chatbot_goal}. O adjetivo que mais define a sua personalidade é {adjective} e você se comporta da seguinte forma:
{instructions_formatted}
Na sua memória você tem esse contexto:
{context}
Lista de requisitos:
- Responda de forma natural, mas nunca fale sobre um assunto fora do contexto.
- Nunca traga informações do seu próprio conhecimento.
- Repito é crucial que você responda usando apenas informações do contexto.
- Nunca mencione o contexto fornecido.
- Nunca mencione a pergunta fornecida.
- Gere a resposta mais útil possível para a pergunta usando informações do conexto acima.
- Nunca elabore sobre o porque e como você fez a tarefa, apenas responda.
---------------------
Question:
{question}
---------------------
Response:
{answer}
---------------------
```
### Training hyperparameters
The following hyperparameters were used during training:
- learning_rate: 2e-06
- per_device_train_batch_size: 4
- per_device_eval_batch_size: 4
- gradient_accumulation_steps: 4
- num_gpus: 1
- total_train_batch_size: 16
- optimizer: AdamW
- lr_scheduler_type: cosine
- num_steps: 147
- quantization_type: bitsandbytes
- LoRA: ("\n - bits: 4\n - use_exllama: True\n - device_map: auto\n - use_cache: False\n - lora_r: 8\n - lora_alpha: 16\n - lora_dropout: 0.05\n - bias: none\n - target_modules: ['q_proj', 'k_proj', 'v_proj', 'o_proj', 'gate_proj', 'up_proj', 'down_proj', 'lm_head', 'embed_tokens']\n - task_type: CAUSAL_LM",)
### Training results
### Framework versions
- transformers==4.38.2
- datasets==2.18.0
- peft==0.10.0
- safetensors==0.4.2
- evaluate==0.4.1
- bitsandbytes==0.43
- huggingface_hub==0.22.2
- seqeval==1.2.2
- optimum==1.18.1
- auto-gptq==0.7.1
- gpustat==1.1.1
- deepspeed==0.14.0
- wandb==0.16.6
- trl==0.8.1
- accelerate==0.29.2
- coloredlogs==15.0.1
- traitlets==5.14.2
- autoawq@https://github.com/casper-hansen/AutoAWQ/releases/download/v0.2.4/autoawq-0.2.4+cu118-cp310-cp310-linux_x86_64.whl
### Hardware
- Cloud provided: runpod.io
|