Update gradio GUI
Browse files
app.py
CHANGED
@@ -19,9 +19,10 @@ model = PeftModel.from_pretrained(model, peft_model_id)
|
|
19 |
model.eval()
|
20 |
|
21 |
|
22 |
-
def gen_entities(
|
23 |
"""Does Named Entity Recognition in the given text."""
|
24 |
-
|
|
|
25 |
batch = tokenizer(text, return_tensors="pt")
|
26 |
batch["input_ids"] = batch["input_ids"].to("cuda")
|
27 |
with torch.cuda.amp.autocast():
|
@@ -35,6 +36,7 @@ def gen_entities(in_text):
|
|
35 |
|
36 |
|
37 |
iface = gr.Interface(
|
|
|
38 |
fn=gen_entities,
|
39 |
inputs="text",
|
40 |
outputs="text",
|
@@ -42,9 +44,47 @@ iface = gr.Interface(
|
|
42 |
description="Introduce un texto corto para que el modelo identifique las identidades presentes en el mismo.",
|
43 |
theme="gradio/monochrome",
|
44 |
examples=[
|
45 |
-
|
46 |
-
|
47 |
-
|
|
|
|
|
|
|
|
|
48 |
],
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
49 |
)
|
50 |
iface.launch()
|
|
|
19 |
model.eval()
|
20 |
|
21 |
|
22 |
+
def gen_entities(text):
|
23 |
"""Does Named Entity Recognition in the given text."""
|
24 |
+
|
25 |
+
text = f"<SP> text: {text}\n\n entities:"
|
26 |
batch = tokenizer(text, return_tensors="pt")
|
27 |
batch["input_ids"] = batch["input_ids"].to("cuda")
|
28 |
with torch.cuda.amp.autocast():
|
|
|
36 |
|
37 |
|
38 |
iface = gr.Interface(
|
39 |
+
live=True,
|
40 |
fn=gen_entities,
|
41 |
inputs="text",
|
42 |
outputs="text",
|
|
|
44 |
description="Introduce un texto corto para que el modelo identifique las identidades presentes en el mismo.",
|
45 |
theme="gradio/monochrome",
|
46 |
examples=[
|
47 |
+
"Yo hoy voy a hablar de mujeres en el mundo del arte, porque me ha "
|
48 |
+
"leído un libro fantástico que se llama Historia del arte sin hombres, "
|
49 |
+
"de Katie Hesel.",
|
50 |
+
"Victoria del Reino Unido (Alxandrina Victoria; Londres, 24 de mayo "
|
51 |
+
"de 1819-isla de Wight, 22 de enero de 1901) fue la reina del Reino Unido.",
|
52 |
+
"El viaje de Chihiro es una película de animación japonesa estrenada "
|
53 |
+
" el 20 de julio de 2001. Fue dirigida por Hayao Miyazaki y producida en el Studio Ghibli",
|
54 |
],
|
55 |
+
article="""
|
56 |
+
## Motivación
|
57 |
+
Los podcasts son una increíble fuente de información e inspiración. Los escuchamos de camino al trabajo, mientras practicamos deportes o cocinando nuestra receta favorita. No obstante, puede ser complicado retener ciertos hechos específicos, fechas o personajes que mencionan en ellos. El objetivo de este proyecto ha sido explorar cómo podemos capturar toda esta información usando ‘named-entity recognition’.
|
58 |
+
|
59 |
+
|
60 |
+
En vez de usar un modelo de lenguaje fine-tuned con una head específica para NER, hemos replanteado el problema como una tarea de generación de texto a partir de un prompt del tipo:
|
61 |
+
```
|
62 |
+
text: Yo hoy voy a hablar de mujeres en el mundo del arte, porque he leído un libro fantástico que se llama Historia del arte sin hombres, de Katie Hesel. entities: (people, Katie Hesel), (books, Historia del arte sin hombres)
|
63 |
+
```
|
64 |
+
Al hacer fine-tuning a un LLM con este prompt, hemos podido capturar las entidades mencionadas en el podcast. Hicimos fine-tuning al modelo [bertin-gpt-j-6B](https://huggingface.co/bertin-project/bertin-gpt-j-6B) siguiendo esta estrategia.
|
65 |
+
|
66 |
+
|
67 |
+
## Model
|
68 |
+
|
69 |
+
|
70 |
+
Este modelo es una vesion fine-tuned para la tarea de named-entity recognition del LLM fundacional en español [bertin-project/bertin-gpt-j-6B](https://huggingface.co/bertin-project/bertin-gpt-j-6B) checkpoint. Este modelo fue desarrollado durante la Hackathon de 2023 organizada por SomosNLP con las GPUs RTX 3090 provisionadas por Q Blocks.
|
71 |
+
|
72 |
+
|
73 |
+
Link del modelo: [hackathon-somos-nlp-2023/bertin-gpt-j-6b-ner-es](https://huggingface.co/hackathon-somos-nlp-2023/bertin-gpt-j-6b-ner-es)
|
74 |
+
|
75 |
+
|
76 |
+
## Dataset
|
77 |
+
|
78 |
+
|
79 |
+
[hackathon-somos-nlp-2023/podcasts-ner-es](https://huggingface.co/datasets/hackathon-somos-nlp-2023/podcasts-ner-es)
|
80 |
+
|
81 |
+
|
82 |
+
## Team members
|
83 |
+
|
84 |
+
|
85 |
+
[David Mora](https://huggingface.co/DavidFM43)
|
86 |
+
[Sergio Perez](https://huggingface.co/sergiopperez)
|
87 |
+
[Albeto Fernandez](https://huggingface.co/AlbertoFH98)
|
88 |
+
""",
|
89 |
)
|
90 |
iface.launch()
|