rhysjones commited on
Commit
7c8b2c0
1 Parent(s): 721f821

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +25 -0
README.md CHANGED
@@ -1,3 +1,28 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ language:
4
+ - cy
5
+ datasets:
6
+ - yahma/alpaca-cleaned
7
  ---
8
+ ## Mwydryn ##
9
+ (*Fersiwn 1 yn seiliedig ar Mistral-7B.*)
10
+
11
+ Mae'r model yn gychwyn ar fersiwn o Mistral sydd yn medru sgwrsio a chyfathrebu drwy'r Gymraeg yn eithaf eglur.
12
+
13
+ Mae'r model LLM yn seiliedig ar [BangorAI/mistral-7b-cy-train-6](https://huggingface.co/BangorAI/mistral-7b-cy-train-6), sef y model Mistral-7B wedi hyfforddiant parhaus ar gyfer y Gymraeg.
14
+
15
+ Cafodd y model hyfforddiant cywrain pellach ar ddata [yahma/alpaca-cleaned](https://huggingface.co/datasets/yahma/alpaca-cleaned) cafodd ei drosi yn fras.
16
+
17
+
18
+ ### Fformat Sgwrs
19
+
20
+ Mae'r hyfforddiant cywrain wedi defnyddio'r fformat Llama-2 ar gyfer sgwrsio.
21
+ ```
22
+ <s>[INST] <<SYS>>
23
+ {{ system_prompt }}
24
+ <</SYS>>
25
+
26
+ {{ user_message }} [/INST]
27
+
28
+ ```