cenkersisman commited on
Commit
9452242
1 Parent(s): 3f2a15a

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +1 -1
README.md CHANGED
@@ -23,7 +23,7 @@ GPT-2 Türkçe Modeli
23
 
24
  GPT-2 Türkçe Modeli, Türkçe diline özelleştirilmiş olan GPT-2 mimarisi temel alınarak oluşturulmuş bir dil modelidir. Belirli bir başlangıç metni temel alarak insana benzer metinler üretme yeteneğine sahiptir ve geniş bir Türkçe metin veri kümesi üzerinde eğitilmiştir.
25
  Modelin eğitimi için 900 milyon karakterli Vikipedi seti kullanılmıştır. Eğitim setindeki cümleler maksimum 48 tokendan (token = kelime kökü ve ekleri) oluşmuştur bu yüzden oluşturacağı cümlelerin boyu sınırlıdır..
26
- Türkçe heceleme yapısına uygun tokenizer kullanılmış ve model 1 milyon 800 bin adımda 3 epoch eğitilmiştir. Eğitim halen devam etmektedir.
27
  Eğitim için 4GB hafızası olan Nvidia Geforce RTX 3050 GPU kullanılmaktadır.
28
 
29
  ## Model Nasıl Kullanılabilir
 
23
 
24
  GPT-2 Türkçe Modeli, Türkçe diline özelleştirilmiş olan GPT-2 mimarisi temel alınarak oluşturulmuş bir dil modelidir. Belirli bir başlangıç metni temel alarak insana benzer metinler üretme yeteneğine sahiptir ve geniş bir Türkçe metin veri kümesi üzerinde eğitilmiştir.
25
  Modelin eğitimi için 900 milyon karakterli Vikipedi seti kullanılmıştır. Eğitim setindeki cümleler maksimum 48 tokendan (token = kelime kökü ve ekleri) oluşmuştur bu yüzden oluşturacağı cümlelerin boyu sınırlıdır..
26
+ Türkçe heceleme yapısına uygun tokenizer kullanılmış ve model 3 milyon 480 bin adımda yaklaşık 6 epoch eğitilmiştir. Eğitim halen devam etmektedir.
27
  Eğitim için 4GB hafızası olan Nvidia Geforce RTX 3050 GPU kullanılmaktadır.
28
 
29
  ## Model Nasıl Kullanılabilir