DavidFM43 commited on
Commit
e8b6316
1 Parent(s): 478d286

Update gradio GUI

Browse files
Files changed (1) hide show
  1. app.py +45 -5
app.py CHANGED
@@ -19,9 +19,10 @@ model = PeftModel.from_pretrained(model, peft_model_id)
19
  model.eval()
20
 
21
 
22
- def gen_entities(in_text):
23
  """Does Named Entity Recognition in the given text."""
24
- text = f"<SP> text: {in_text}\n\n entities:"
 
25
  batch = tokenizer(text, return_tensors="pt")
26
  batch["input_ids"] = batch["input_ids"].to("cuda")
27
  with torch.cuda.amp.autocast():
@@ -35,6 +36,7 @@ def gen_entities(in_text):
35
 
36
 
37
  iface = gr.Interface(
 
38
  fn=gen_entities,
39
  inputs="text",
40
  outputs="text",
@@ -42,9 +44,47 @@ iface = gr.Interface(
42
  description="Introduce un texto corto para que el modelo identifique las identidades presentes en el mismo.",
43
  theme="gradio/monochrome",
44
  examples=[
45
- [
46
- "Yo hoy voy a hablar de mujeres en el mundo del arte, porque me ha leído un libro fantástico que se llama Historia del arte sin hombres, de Katie Hesel."
47
- ]
 
 
 
 
48
  ],
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
49
  )
50
  iface.launch()
 
19
  model.eval()
20
 
21
 
22
+ def gen_entities(text):
23
  """Does Named Entity Recognition in the given text."""
24
+
25
+ text = f"<SP> text: {text}\n\n entities:"
26
  batch = tokenizer(text, return_tensors="pt")
27
  batch["input_ids"] = batch["input_ids"].to("cuda")
28
  with torch.cuda.amp.autocast():
 
36
 
37
 
38
  iface = gr.Interface(
39
+ live=True,
40
  fn=gen_entities,
41
  inputs="text",
42
  outputs="text",
 
44
  description="Introduce un texto corto para que el modelo identifique las identidades presentes en el mismo.",
45
  theme="gradio/monochrome",
46
  examples=[
47
+ "Yo hoy voy a hablar de mujeres en el mundo del arte, porque me ha "
48
+ "leído un libro fantástico que se llama Historia del arte sin hombres, "
49
+ "de Katie Hesel.",
50
+ "Victoria del Reino Unido (Alxandrina Victoria; Londres, 24 de mayo "
51
+ "de 1819-isla de Wight, 22 de enero de 1901) fue la reina del Reino Unido.",
52
+ "El viaje de Chihiro es una película de animación japonesa estrenada "
53
+ " el 20 de julio de 2001. Fue dirigida por Hayao Miyazaki y producida en el Studio Ghibli",
54
  ],
55
+ article="""
56
+ ## Motivación
57
+ Los podcasts son una increíble fuente de información e inspiración. Los escuchamos de camino al trabajo, mientras practicamos deportes o cocinando nuestra receta favorita. No obstante, puede ser complicado retener ciertos hechos específicos, fechas o personajes que mencionan en ellos. El objetivo de este proyecto ha sido explorar cómo podemos capturar toda esta información usando ‘named-entity recognition’.
58
+
59
+
60
+ En vez de usar un modelo de lenguaje fine-tuned con una head específica para NER, hemos replanteado el problema como una tarea de generación de texto a partir de un prompt del tipo:
61
+ ```
62
+ text: Yo hoy voy a hablar de mujeres en el mundo del arte, porque he leído un libro fantástico que se llama Historia del arte sin hombres, de Katie Hesel. entities: (people, Katie Hesel), (books, Historia del arte sin hombres)
63
+ ```
64
+ Al hacer fine-tuning a un LLM con este prompt, hemos podido capturar las entidades mencionadas en el podcast. Hicimos fine-tuning al modelo [bertin-gpt-j-6B](https://huggingface.co/bertin-project/bertin-gpt-j-6B) siguiendo esta estrategia.
65
+
66
+
67
+ ## Model
68
+
69
+
70
+ Este modelo es una vesion fine-tuned para la tarea de named-entity recognition del LLM fundacional en español [bertin-project/bertin-gpt-j-6B](https://huggingface.co/bertin-project/bertin-gpt-j-6B) checkpoint. Este modelo fue desarrollado durante la Hackathon de 2023 organizada por SomosNLP con las GPUs RTX 3090 provisionadas por Q Blocks.
71
+
72
+
73
+ Link del modelo: [hackathon-somos-nlp-2023/bertin-gpt-j-6b-ner-es](https://huggingface.co/hackathon-somos-nlp-2023/bertin-gpt-j-6b-ner-es)
74
+
75
+
76
+ ## Dataset
77
+
78
+
79
+ [hackathon-somos-nlp-2023/podcasts-ner-es](https://huggingface.co/datasets/hackathon-somos-nlp-2023/podcasts-ner-es)
80
+
81
+
82
+ ## Team members
83
+
84
+
85
+ [David Mora](https://huggingface.co/DavidFM43)
86
+ [Sergio Perez](https://huggingface.co/sergiopperez)
87
+ [Albeto Fernandez](https://huggingface.co/AlbertoFH98)
88
+ """,
89
  )
90
  iface.launch()