|
--- |
|
license: apache-2.0 |
|
language: |
|
- cy |
|
datasets: |
|
- yahma/alpaca-cleaned |
|
--- |
|
# Mwydryn # |
|
(*Fersiwn 1 yn seiliedig ar Mistral-7B.*) |
|
|
|
Mae'r model yn gychwyn ar fersiwn o Mistral sydd yn medru sgwrsio a chyfathrebu drwy'r Gymraeg yn eithaf eglur. |
|
|
|
Mae'r model LLM yn seiliedig ar [BangorAI/mistral-7b-cy-train-6](https://huggingface.co/BangorAI/mistral-7b-cy-train-6), sef y model Mistral-7B wedi hyfforddiant parhaus ar gyfer y Gymraeg. |
|
|
|
Cafodd y model hyfforddiant cywrain pellach ar ddata [yahma/alpaca-cleaned](https://huggingface.co/datasets/yahma/alpaca-cleaned) cafodd ei drosi yn fras. |
|
|
|
## Demo Byw ## |
|
|
|
Mae fersiwn o'r model i'w gael yma am sgwrs: [https://demo.bangor.ai](https://demo.bangor.ai). |
|
|
|
LLM arbrofol ydyw, felly peidiwch a chymeryd unrhyw ymateb gan y model o ddifri. |
|
|
|
## Fformat Sgwrs ## |
|
|
|
Mae'r hyfforddiant cywrain wedi defnyddio'r fformat Llama-2 ar gyfer sgwrsio. |
|
``` |
|
<s>[INST] <<SYS>> |
|
{{ system_prompt }} |
|
<</SYS>> |
|
|
|
{{ user_message }} [/INST] |
|
|
|
``` |
