Carlosito16 commited on
Commit
d2ae3ab
1 Parent(s): 5de6e2a

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +60 -34
app.py CHANGED
@@ -21,6 +21,66 @@ print('Libraries called succesfully!!!!"')
21
 
22
 
23
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
24
  #set the device agnostics code
25
  device = 'cuda' if torch.cuda.is_available() else 'cpu'
26
  test_article ="""\"Un nuage de fumée juste après l’explosion, le 1er juin 2019. Une déflagration dans une importante usine d’explosifs du centre de la Russie a fait au moins 79 blessés samedi 1er juin. L’explosion a eu lieu dans l’usine Kristall à Dzerzhinsk, une ville située à environ 400 kilomètres à l’est de Moscou, dans la région de Nijni-Novgorod. « Il y a eu une explosion technique dans l’un des ateliers, suivie d’un incendie qui s’est propagé sur une centaine de mètres carrés », a expliqué un porte-parole des services d’urgence. Des images circulant sur les réseaux sociaux montraient un énorme nuage de fumée après l’explosion. Cinq bâtiments de l’usine et près de 180 bâtiments résidentiels ont été endommagés par l’explosion, selon les autorités municipales. Une enquête pour de potentielles violations des normes de sécurité a été ouverte. Fragments de shrapnel Les blessés ont été soignés après avoir été atteints par des fragments issus de l’explosion, a précisé une porte-parole des autorités sanitaires citée par Interfax. « Nous parlons de blessures par shrapnel d’une gravité moyenne et modérée », a-t-elle précisé. Selon des représentants de Kristall, cinq personnes travaillaient dans la zone où s’est produite l’explosion. Elles ont pu être évacuées en sécurité. Les pompiers locaux ont rapporté n’avoir aucune information sur des personnes qui se trouveraient encore dans l’usine."""
@@ -98,40 +158,6 @@ Merci Carrefour Quetigny.
98
 
99
 
100
  ###
101
- def summarizer(dropdown_model, article_text):
102
- """
103
- Ruturs a summarized version from the full article based on the selected pretrained-model
104
- """
105
-
106
- if dropdown_model == 'camembert':
107
- summary = camembert_generate_summary(article_text)
108
-
109
- elif dropdown_model == 'T5':
110
- summary = t5_generate_summary(article_text)
111
-
112
- return summary
113
-
114
- def extract_top_3(article):
115
- nlp = spacy.load("fr_core_news_md")
116
- # model = SentenceTransformer("dangvantuan/sentence-camembert-large") #
117
-
118
- a= keyWordExtractor(article,
119
- n_gram = 1,
120
- top_n = 3,
121
- ner = nlp,
122
- similarity_model = model)
123
- keyword = ", ".join(a.top_n_keywords) #to return ['a' , 'b'] >> "a, b"
124
- proper_nonuns = ", ".join(a.proper_noun_candidates)
125
-
126
- return keyword, proper_nonuns
127
-
128
-
129
- def runall(dropdown_model, article_text):
130
- summary = summarizer(dropdown_model, article_text)
131
- keywords, proper_n = extract_top_3(article_text)
132
-
133
- return summary, keywords, proper_n
134
-
135
 
136
 
137
 
 
21
 
22
 
23
 
24
+ def t5_generate_summary(article_text):
25
+ input_ids = t5_tokenizer(
26
+ [WHITESPACE_HANDLER(article_text)],
27
+ return_tensors="pt",
28
+ padding="max_length",
29
+ truncation=True,
30
+ max_length=512)["input_ids"]
31
+
32
+ output_ids = t5_model.generate(
33
+ input_ids=input_ids,
34
+ max_length=84,
35
+ no_repeat_ngram_size=2,
36
+ num_beams=4
37
+ )[0]
38
+
39
+ output = t5_tokenizer.decode(
40
+ output_ids,
41
+ skip_special_tokens=True,
42
+ clean_up_tokenization_spaces=False
43
+ )
44
+
45
+ return output
46
+
47
+
48
+ def summarizer(dropdown_model, article_text):
49
+ """
50
+ Ruturs a summarized version from the full article based on the selected pretrained-model
51
+ """
52
+
53
+ if dropdown_model == 'camembert':
54
+ summary = camembert_generate_summary(article_text)
55
+
56
+ elif dropdown_model == 'T5':
57
+ summary = t5_generate_summary(article_text)
58
+
59
+ return summary
60
+
61
+ def extract_top_3(article):
62
+ nlp = spacy.load("fr_core_news_md")
63
+ # model = SentenceTransformer("dangvantuan/sentence-camembert-large") #
64
+
65
+ a= keyWordExtractor(article,
66
+ n_gram = 1,
67
+ top_n = 3,
68
+ ner = nlp,
69
+ similarity_model = model)
70
+ keyword = ", ".join(a.top_n_keywords) #to return ['a' , 'b'] >> "a, b"
71
+ proper_nonuns = ", ".join(a.proper_noun_candidates)
72
+
73
+ return keyword, proper_nonuns
74
+
75
+
76
+ def runall(dropdown_model, article_text):
77
+ summary = summarizer(dropdown_model, article_text)
78
+ keywords, proper_n = extract_top_3(article_text)
79
+
80
+ return summary, keywords, proper_n
81
+
82
+
83
+
84
  #set the device agnostics code
85
  device = 'cuda' if torch.cuda.is_available() else 'cpu'
86
  test_article ="""\"Un nuage de fumée juste après l’explosion, le 1er juin 2019. Une déflagration dans une importante usine d’explosifs du centre de la Russie a fait au moins 79 blessés samedi 1er juin. L’explosion a eu lieu dans l’usine Kristall à Dzerzhinsk, une ville située à environ 400 kilomètres à l’est de Moscou, dans la région de Nijni-Novgorod. « Il y a eu une explosion technique dans l’un des ateliers, suivie d’un incendie qui s’est propagé sur une centaine de mètres carrés », a expliqué un porte-parole des services d’urgence. Des images circulant sur les réseaux sociaux montraient un énorme nuage de fumée après l’explosion. Cinq bâtiments de l’usine et près de 180 bâtiments résidentiels ont été endommagés par l’explosion, selon les autorités municipales. Une enquête pour de potentielles violations des normes de sécurité a été ouverte. Fragments de shrapnel Les blessés ont été soignés après avoir été atteints par des fragments issus de l’explosion, a précisé une porte-parole des autorités sanitaires citée par Interfax. « Nous parlons de blessures par shrapnel d’une gravité moyenne et modérée », a-t-elle précisé. Selon des représentants de Kristall, cinq personnes travaillaient dans la zone où s’est produite l’explosion. Elles ont pu être évacuées en sécurité. Les pompiers locaux ont rapporté n’avoir aucune information sur des personnes qui se trouveraient encore dans l’usine."""
 
158
 
159
 
160
  ###
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
161
 
162
 
163