cenkersisman commited on
Commit
d18969d
1 Parent(s): 2d648cd

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +53 -0
README.md ADDED
@@ -0,0 +1,53 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ widget:
3
+ - text: 'limon'
4
+ example_title: limon
5
+ - text: 'kayseri'
6
+ example_title: kayseri
7
+ - text: 'kanal d'
8
+ example_title: kanal d
9
+ - text: 'sonunda'
10
+ example_title: sonunda
11
+ - text: 'hayatın anlamı'
12
+ example_title: hayatın anlamı
13
+ - text: 'sözcüklerin anlamsızlığı'
14
+ example_title: sözcüklerin anlamsızlığı
15
+ language:
16
+ - tr
17
+ ---
18
+ # Model
19
+
20
+ GPT-2 Türkçe Modeli
21
+
22
+ ### Model Açıklaması
23
+
24
+ GPT-2 Türkçe Modeli, Türkçe diline özelleştirilmiş olan GPT-2 mimarisi temel alınarak oluşturulmuş bir dil modelidir. Belirli bir başlangıç metni temel alarak insana benzer metinler üretme yeteneğine sahiptir ve geniş bir Türkçe metin veri kümesi üzerinde eğitilmiştir.
25
+ Modelin eğitimi için 900 milyon karakterli Vikipedi seti kullanılmıştır.
26
+ Türkçe heceleme yapısına uygun tokenizer kullanılmış ve model 600 bin adımda 1 epoch eğitilmiştir.
27
+ Eğitim için 4GB hafızası olan Nvidia Geforce RTX 3050 GPU kullanılmaktadır.
28
+
29
+ ## Model Nasıl Kullanılabilir
30
+
31
+ ```python
32
+ # Model ile çıkarım yapmak için örnek kod
33
+
34
+ from transformers import GPT2Tokenizer, GPT2LMHeadModel
35
+
36
+ model_name = "cenkersisman/gpt2-turkish-900m" # Change to the model name you have uploaded to Hugging Face
37
+ tokenizer = GPT2Tokenizer.from_pretrained(model_name)
38
+ model = GPT2LMHeadModel.from_pretrained(model_name)
39
+
40
+ prompt = "okyanusun derinliklerinde bulunan"
41
+ input_ids = tokenizer.encode(prompt, return_tensors="pt")
42
+ output = model.generate(input_ids, max_length=100, pad_token_id=tokenizer.eos_token_id)
43
+ generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
44
+ print(generated_text)
45
+
46
+ ```
47
+
48
+ ## Sınırlamalar ve Önyargılar
49
+ Bu model, bir özyineli dil modeli olarak eğitildi. Bu, temel işlevinin bir metin dizisi alıp bir sonraki belirteci tahmin etmek olduğu anlamına gelir. Dil modelleri bunun dışında birçok görev için yaygın olarak kullanılsa da, bu çalışmayla ilgili birçok bilinmeyen bulunmaktadır.
50
+
51
+ Model, küfür, açık saçıklık ve aksi davranışlara yol açan metinleri içerdiği bilinen bir veri kümesi üzerinde eğitildi. Kullanım durumunuza bağlı olarak, bu model toplumsal olarak kabul edilemez metinler üretebilir.
52
+
53
+ Tüm dil modellerinde olduğu gibi, bu modelin belirli bir girişe nasıl yanıt vereceğini önceden tahmin etmek zordur ve uyarı olmaksızın saldırgan içerik ortaya çıkabilir. Sonuçları yayınlamadan önce hem istenmeyen içeriği sansürlemek hem de sonuçların kalitesini iyileştirmek için insanların çıktıları denetlemesini veya filtrelemesi önerilir.