File size: 3,205 Bytes
493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 493ac0b 9516c25 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 |
---
license: mit
library_name: "trl"
tags:
- KTO
- WeniGPT
base_model: HuggingFaceH4/zephyr-7b-beta
model-index:
- name: Weni/WeniGPT-Agents-Zephyr-1.0.30-KTO
results: []
language: ['pt']
---
# Weni/WeniGPT-Agents-Zephyr-1.0.30-KTO
This model is a fine-tuned version of [HuggingFaceH4/zephyr-7b-beta] on the dataset Weni/wenigpt-agent-1.4.0 with the KTO trainer. It is part of the WeniGPT project for [Weni](https://weni.ai/).
Description: Experiment with new tokenizer configuration for chat template of zephyr
It achieves the following results on the evaluation set:
{'eval_loss': 0.44106873869895935, 'eval_runtime': 100.5121, 'eval_samples_per_second': 2.169, 'eval_steps_per_second': 0.547, 'eval_rewards/chosen': -0.12895259261131287, 'eval_rewards/rejected': -1.7666949033737183, 'eval_rewards/margins': 1.637742280960083, 'eval_kl': 4.604356288909912, 'eval_logps/chosen': -303.01654052734375, 'eval_logps/rejected': -255.187744140625, 'epoch': 0.9}
## Intended uses & limitations
This model has not been trained to avoid specific intructions.
## Training procedure
Finetuning was done on the model HuggingFaceH4/zephyr-7b-beta with the following prompt:
```
---------------------
System_prompt:
Agora você se chama {name}, você é {occupation} e seu objetivo é {chatbot_goal}. O adjetivo que mais define a sua personalidade é {adjective} e você se comporta da seguinte forma:
{instructions_formatted}
{context_statement}
Lista de requisitos:
- Responda de forma natural, mas nunca fale sobre um assunto fora do contexto.
- Nunca traga informações do seu próprio conhecimento.
- Repito é crucial que você responda usando apenas informações do contexto.
- Nunca mencione o contexto fornecido.
- Nunca mencione a pergunta fornecida.
- Gere a resposta mais útil possível para a pergunta usando informações do conexto acima.
- Nunca elabore sobre o porque e como você fez a tarefa, apenas responda.
---------------------
Question:
{question}
---------------------
Response:
{answer}
---------------------
```
### Training hyperparameters
The following hyperparameters were used during training:
- learning_rate: 0.0002
- per_device_train_batch_size: 4
- per_device_eval_batch_size: 4
- gradient_accumulation_steps: 4
- num_gpus: 1
- total_train_batch_size: 16
- optimizer: AdamW
- lr_scheduler_type: cosine
- num_steps: 47
- quantization_type: bitsandbytes
- LoRA: ("\n - bits: 4\n - use_exllama: True\n - device_map: auto\n - use_cache: False\n - lora_r: 16\n - lora_alpha: 32\n - lora_dropout: 0.05\n - bias: none\n - target_modules: ['q_proj', 'k_proj', 'v_proj', 'o_proj']\n - task_type: CAUSAL_LM",)
### Training results
### Framework versions
- transformers==4.38.2
- datasets==2.18.0
- peft==0.10.0
- safetensors==0.4.2
- evaluate==0.4.1
- bitsandbytes==0.43
- huggingface_hub==0.22.2
- seqeval==1.2.2
- optimum==1.18.1
- auto-gptq==0.7.1
- gpustat==1.1.1
- deepspeed==0.14.0
- wandb==0.16.6
- trl==0.8.1
- accelerate==0.29.2
- coloredlogs==15.0.1
- traitlets==5.14.2
- autoawq@https://github.com/casper-hansen/AutoAWQ/releases/download/v0.2.4/autoawq-0.2.4+cu118-cp310-cp310-linux_x86_64.whl
### Hardware
- Cloud provided: runpod.io
|