RichardErkhov/lrds-code_-_samba-1.1B-gguf

Quantization made by Richard Erkhov.

Github

Discord

Request more models

samba-1.1B - GGUF

• Model creator: https://huggingface.co/lrds-code/
• Original model: https://huggingface.co/lrds-code/samba-1.1B/

Name	Quant method	Size
samba-1.1B.Q2_K.gguf	Q2_K	0.4GB
samba-1.1B.IQ3_XS.gguf	IQ3_XS	0.44GB
samba-1.1B.IQ3_S.gguf	IQ3_S	0.47GB
samba-1.1B.Q3_K_S.gguf	Q3_K_S	0.47GB
samba-1.1B.IQ3_M.gguf	IQ3_M	0.48GB
samba-1.1B.Q3_K.gguf	Q3_K	0.51GB
samba-1.1B.Q3_K_M.gguf	Q3_K_M	0.51GB
samba-1.1B.Q3_K_L.gguf	Q3_K_L	0.55GB
samba-1.1B.IQ4_XS.gguf	IQ4_XS	0.57GB
samba-1.1B.Q4_0.gguf	Q4_0	0.59GB
samba-1.1B.IQ4_NL.gguf	IQ4_NL	0.6GB
samba-1.1B.Q4_K_S.gguf	Q4_K_S	0.6GB
samba-1.1B.Q4_K.gguf	Q4_K	0.62GB
samba-1.1B.Q4_K_M.gguf	Q4_K_M	0.62GB
samba-1.1B.Q4_1.gguf	Q4_1	0.65GB
samba-1.1B.Q5_0.gguf	Q5_0	0.71GB
samba-1.1B.Q5_K_S.gguf	Q5_K_S	0.71GB
samba-1.1B.Q5_K.gguf	Q5_K	0.73GB
samba-1.1B.Q5_K_M.gguf	Q5_K_M	0.73GB
samba-1.1B.Q5_1.gguf	Q5_1	0.77GB
samba-1.1B.Q6_K.gguf	Q6_K	0.84GB
samba-1.1B.Q8_0.gguf	Q8_0	1.09GB

Original model description:

language: - pt license: llama2 tags: - Portuguese - Tiny-Llama - PEFT widget: - example_title: Pedro Álvares Cabral messages: - role: system content: Você é um historiador que é especialista em história do Brasil. - role: user content: Quem foi Pedro Álvares Cabral?

---

README

---

Samba é um LLM treinado em dados da língua portuguesa. O modelo é baseado no TinyLlama-1.1B, uma versão de 1.1B parâmetros do LLaMA-2.

Descrição do Modelo

• Desenvolvido por: Leonardo Souza
• Tipo do Modelo: LLaMA-Based
• Licença: Academic Free License v3.0
• Fine-tunado do modelo: TinyLlama-1.1B

Como usar

import torch
from transformers import pipeline

samba = pipeline('text-generation', model='lrds-code/samba-1.1B', torch_dtype=torch.bfloat16, device_map='auto')

messages = [{'role':'system',
             'content':''},
            {'role':'user',
             'content':'Quantos planetas existem no sistema solar?'}]

prompt = samba.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
outputs = samba(prompt, max_new_tokens=256, do_sample=False, temperature=0.1, top_k=50, top_p=0.95, repetition_penalty=1.1, do_sample=False)
print(outputs[0]['generated_text'])

Parâmetros Importantes

• repetition_penalty: é utilizado para evitar a repetição de palavras ou frases. Quando esse valor é ajustado para ser maior que 1, o modelo tenta diminuir a probabilidade de gerar palavras que já apareceram anteriormente. Basicamente, quanto maior o valor, mais o modelo tenta evitar repetições.
• do_sample: determina se o modelo deve ou não amostrar aleatoriamente a próxima palavra com base nas probabilidades calculadas. Portanto, do_sample=True introduz variação e imprevisibilidade no texto gerado, enquanto que se do_sample=False o modelo escolherá sempre a palavra mais provável como próxima palavra, o que pode levar a saídas mais determinísticas e, possivelmente, mais repetitivas.
• temperature: afeta a aleatoriedade na escolha da próxima palavra. Um valor baixo (próximo de 0) faz com que o modelo seja mais "confiante" nas suas escolhas, favorecendo palavras com alta probabilidade e levando a saídas mais previsíveis. Por outro lado, um valor alto aumenta a aleatoriedade, permitindo que o modelo escolha palavras menos prováveis, o que pode tornar o texto gerado mais variado e criativo.