WhiteAngels commited on
Commit
e732a69
1 Parent(s): a647e6a

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +64 -40
app.py CHANGED
@@ -1,5 +1,5 @@
1
  import streamlit as st
2
- from transformers import pipeline, AutoModelForTokenClassification, AutoTokenizer
3
  import pandas as pd
4
  import spacy
5
  from spacy import displacy
@@ -8,7 +8,7 @@ st.set_page_config(layout="wide")
8
 
9
  # Örnek metin listesi
10
  example_list = [
11
- "Mustafa Kemal Atatürk 1919 yılında Samsun'a çıktı.",
12
  """Mustafa Kemal Atatürk, Türk asker, devlet adamı ve Türkiye Cumhuriyeti'nin kurucusudur.
13
  Birinci Dünya Savaşı sırasında Osmanlı ordusunda görev yapan Atatürk, Çanakkale Cephesi'nde miralaylığa, Sina ve Filistin Cephesi'nde ise Yıldırım Orduları komutanlığına atandı. Savaşın sonunda, Osmanlı Imparatorluğu'nun yenilgisini takiben Kurtuluş Savaşı ile simgelenen Türk Ulusal Hareketi'ne öncülük ve önderlik etti. Türk Kurtuluş Savaşı sürecinde Ankara Hükümeti'ni kurdu, Türk Orduları Başkomutanı olarak Sakarya Meydan Muharebesi'ndeki başarısından dolayı 19 Eylül 1921 tarihinde "Gazi" unvanını aldı ve mareşallik rütbesine yükseldi. Askeri ve siyasi eylemleriyle İtilaf Devletleri ve destekçilerine karşı zafer kazandı. Savaşın ardından Cumhuriyet Halk Partisi'ni Halk Fırkası adıyla kurdu ve ilk genel başkanı oldu. 29 Ekim 1923'te Cumhuriyetin ilanı akabinde Cumhurbaşkanı seçildi. 1938'deki ölümüne dek dört dönem bu görevi yürüterek Türkiye'de en uzun süre cumhurbaşkanlığı yapmış kişi oldu."""
14
  ]
@@ -23,18 +23,14 @@ task = st.sidebar.selectbox("Görev Seç", task_list)
23
  # Model listesi ve model seçimi
24
  model_mapping = {
25
  'Metin Sınıflandırma': 'dbmdz/bert-base-turkish-cased',
26
- 'Metin Analizi': 'akdeniz27/convbert-base-turkish-cased-ner',
27
  'Duygu Analizi': 'akdeniz27/xlm-roberta-base-turkish-ner',
28
- 'Metin Oluşturma': 'xlm-roberta-large-finetuned-conll03-english'
29
  }
30
 
31
  model_checkpoint = model_mapping.get(task, 'akdeniz27/xlm-roberta-base-turkish-ner')
32
 
33
- # Aggregation Strategy
34
- aggregation = "simple" if model_checkpoint in ["akdeniz27/xlm-roberta-base-turkish-ner", "xlm-roberta-large-finetuned-conll03-english", "asahi417/tner-xlm-roberta-base-ontonotes5"] else "first"
35
-
36
- st.sidebar.write("For details of models: 'https://huggingface.co/WhiteAngelss/")
37
- st.sidebar.write("")
38
 
39
  # Metin giriş yöntemi
40
  st.subheader("Metin Giriş Yöntemi Seç")
@@ -56,10 +52,19 @@ elif input_method == "Dosya Yükle":
56
  input_text = ""
57
 
58
  @st.cache_resource
59
- def setModel(model_checkpoint, aggregation):
60
- model = AutoModelForTokenClassification.from_pretrained(model_checkpoint)
61
- tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
62
- return pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy=aggregation)
 
 
 
 
 
 
 
 
 
63
 
64
  @st.cache_resource
65
  def get_html(html: str):
@@ -83,30 +88,49 @@ def entity_comb(output):
83
  Run_Button = st.button("Run", key=None)
84
 
85
  if Run_Button and input_text != "":
86
- ner_pipeline = setModel(model_checkpoint, aggregation)
87
- output = ner_pipeline(input_text)
88
-
89
- output_comb = entity_comb(output)
90
-
91
- df = pd.DataFrame.from_dict(output_comb)
92
- cols_to_keep = ['word', 'entity_group', 'score', 'start', 'end']
93
- df_final = df[cols_to_keep]
94
-
95
- st.subheader("Recognized Entities")
96
- st.dataframe(df_final)
97
-
98
- st.subheader("Spacy Style Display")
99
- spacy_display = {}
100
- spacy_display["ents"] = []
101
- spacy_display["text"] = input_text
102
- spacy_display["title"] = None
103
-
104
- for entity in output_comb:
105
- label = entity["entity_group"]
106
- if label not in ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]:
107
- label = "UNKNOWN"
108
- spacy_display["ents"].append({"start": entity["start"], "end": entity["end"], "label": label})
109
-
110
- html = displacy.render(spacy_display, style="ent", minify=True, manual=True, options={"ents": ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]})
111
- style = "<style>mark.entity { display: inline-block }</style>"
112
- st.write(f"{style}{get_html(html)}", unsafe_allow_html=True)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  import streamlit as st
2
+ from transformers import pipeline, AutoModelForTokenClassification, AutoTokenizer, AutoModelForSequenceClassification, AutoModelForCausalLM
3
  import pandas as pd
4
  import spacy
5
  from spacy import displacy
 
8
 
9
  # Örnek metin listesi
10
  example_list = [
11
+ "Mustafa Kemal Atatürk 1919 yılında Samsun'a çıktı.",
12
  """Mustafa Kemal Atatürk, Türk asker, devlet adamı ve Türkiye Cumhuriyeti'nin kurucusudur.
13
  Birinci Dünya Savaşı sırasında Osmanlı ordusunda görev yapan Atatürk, Çanakkale Cephesi'nde miralaylığa, Sina ve Filistin Cephesi'nde ise Yıldırım Orduları komutanlığına atandı. Savaşın sonunda, Osmanlı Imparatorluğu'nun yenilgisini takiben Kurtuluş Savaşı ile simgelenen Türk Ulusal Hareketi'ne öncülük ve önderlik etti. Türk Kurtuluş Savaşı sürecinde Ankara Hükümeti'ni kurdu, Türk Orduları Başkomutanı olarak Sakarya Meydan Muharebesi'ndeki başarısından dolayı 19 Eylül 1921 tarihinde "Gazi" unvanını aldı ve mareşallik rütbesine yükseldi. Askeri ve siyasi eylemleriyle İtilaf Devletleri ve destekçilerine karşı zafer kazandı. Savaşın ardından Cumhuriyet Halk Partisi'ni Halk Fırkası adıyla kurdu ve ilk genel başkanı oldu. 29 Ekim 1923'te Cumhuriyetin ilanı akabinde Cumhurbaşkanı seçildi. 1938'deki ölümüne dek dört dönem bu görevi yürüterek Türkiye'de en uzun süre cumhurbaşkanlığı yapmış kişi oldu."""
14
  ]
 
23
  # Model listesi ve model seçimi
24
  model_mapping = {
25
  'Metin Sınıflandırma': 'dbmdz/bert-base-turkish-cased',
26
+ 'Metin Analizi': 'savasy/bert-base-turkish-ner-cased',
27
  'Duygu Analizi': 'akdeniz27/xlm-roberta-base-turkish-ner',
28
+ 'Metin Oluşturma': 'dbmdz/bert-base-turkish-cased'
29
  }
30
 
31
  model_checkpoint = model_mapping.get(task, 'akdeniz27/xlm-roberta-base-turkish-ner')
32
 
33
+ st.sidebar.write("Model detayları için: 'https://huggingface.co/models'")
 
 
 
 
34
 
35
  # Metin giriş yöntemi
36
  st.subheader("Metin Giriş Yöntemi Seç")
 
52
  input_text = ""
53
 
54
  @st.cache_resource
55
+ def setModel(task, model_checkpoint):
56
+ if task in ['Metin Sınıflandırma', 'Duygu Analizi']:
57
+ model = AutoModelForSequenceClassification.from_pretrained(model_checkpoint)
58
+ tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
59
+ return pipeline('text-classification', model=model, tokenizer=tokenizer)
60
+ elif task == 'Metin Oluşturma':
61
+ model = AutoModelForCausalLM.from_pretrained(model_checkpoint)
62
+ tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
63
+ return pipeline('text-generation', model=model, tokenizer=tokenizer)
64
+ else:
65
+ model = AutoModelForTokenClassification.from_pretrained(model_checkpoint)
66
+ tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
67
+ return pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy='simple')
68
 
69
  @st.cache_resource
70
  def get_html(html: str):
 
88
  Run_Button = st.button("Run", key=None)
89
 
90
  if Run_Button and input_text != "":
91
+ pipeline_model = setModel(task, model_checkpoint)
92
+ if task == 'Metin Sınıflandırma':
93
+ output = pipeline_model(input_text)
94
+ st.subheader("Metin Sınıflandırma Sonucu")
95
+ for res in output:
96
+ st.markdown(f"**Etiket:** {res['label']}, **Skor:** {res['score']:.2f}")
97
+ elif task == 'Duygu Analizi':
98
+ output = pipeline_model(input_text)
99
+ st.subheader("Duygu Analizi Sonucu")
100
+ for res in output:
101
+ st.markdown(f"**Etiket:** {res['label']}, **Skor:** {res['score']:.2f}")
102
+ elif task == 'Metin Oluşturma':
103
+ output = pipeline_model(input_text, max_length=200, num_return_sequences=1)
104
+ st.subheader("Metin Oluşturma Sonucu")
105
+ generated_text = output[0]['generated_text']
106
+ st.write(generated_text)
107
+ # Doğruluk Kontrolü
108
+ if input_text.strip() in generated_text:
109
+ st.success("Model, verilen metni doğru bir şekilde işleyip oluşturdu.")
110
+ else:
111
+ st.warning("Model, verilen metni tam olarak işleyemedi.")
112
+ else: # Metin Analizi
113
+ output = pipeline_model(input_text)
114
+ output_comb = entity_comb(output)
115
+ df = pd.DataFrame.from_dict(output_comb)
116
+ cols_to_keep = ['word', 'entity_group', 'score', 'start', 'end']
117
+ df_final = df[cols_to_keep]
118
+
119
+ st.subheader("Tanınan Varlıklar")
120
+ st.dataframe(df_final)
121
+
122
+ st.subheader("Spacy Style Display")
123
+ spacy_display = {}
124
+ spacy_display["ents"] = []
125
+ spacy_display["text"] = input_text
126
+ spacy_display["title"] = None
127
+
128
+ for entity in output_comb:
129
+ label = entity["entity_group"]
130
+ if label not in ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]:
131
+ label = "UNKNOWN"
132
+ spacy_display["ents"].append({"start": entity["start"], "end": entity["end"], "label": label})
133
+
134
+ html = displacy.render(spacy_display, style="ent", minify=True, manual=True, options={"ents": ["PERSON", "NORP", "FAC", "ORG", "GPE", "LOC", "PRODUCT", "EVENT", "WORK_OF_ART", "LAW", "LANGUAGE", "DATE", "TIME", "PERCENT", "MONEY", "QUANTITY", "ORDINAL", "CARDINAL", "MISC"]})
135
+ style = "<style>mark.entity { display: inline-block }</style>"
136
+ st.write(f"{style}{get_html(html)}", unsafe_allow_html=True)