GBERTQnA / README.md
1
2 ---
3 language: de
4 tags:
5 - pytorch
6 - tf
7 - bert
8 datasets:
9 - mlqa
10 metrics:
11 - f1
12 - em
13 ---
14
15 ### QA Model trained on MLQA dataset for german langauge.
16
17 MODEL used for fine tuning is GBERT Large by deepset.ai
18
19
20
21 ## MLQA DEV (german)
22 EM: 63.82
23 F1: 77.20
24
25 ## XQUAD TEST (german)
26 EM: 65.96
27 F1: 80.85
28
29 ## Model inferencing:
30 ```python
31 !pip install -q transformers
32 from transformers import pipeline
33
34 qa_pipeline = pipeline(
35 "question-answering",
36 model="Sahajtomar/GBERTQnA",
37 tokenizer="Sahajtomar/GBERTQnA"
38 )
39
40 qa_pipeline({
41 'context': "Vor einigen Jahren haben Wissenschaftler ein wichtiges Mutagen identifiziert, das in unseren eigenen Zellen liegt: APOBEC, ein Protein, das normalerweise als Schutzmittel gegen Virusinfektionen fungiert. Heute hat ein Team von Schweizer und russischen Wissenschaftlern unter der Leitung von Sergey Nikolaev, Genetiker an der Universität Genf (UNIGE) in der Schweiz, entschlüsselt, wie APOBEC eine Schwäche unseres DNA-Replikationsprozesses ausnutzt, um Mutationen in unserem Genom zu induzieren.",
42 'question': "Welches Mutagen schützt vor Virusinfektionen?"
43
44 })
45
46 # output
47
48 {'answer': 'APOBEC', 'end': 121, 'score': 0.9815779328346252, 'start': 115}
49
50 ## Even complex queries can be answered pretty well
51
52 qa_pipeline({
53 "context": 'Im Juli 1944 befand sich die Rote Armee tief auf polnischem Gebiet und verfolgte die Deutschen in Richtung Warschau. In dem Wissen, dass Stalin der Idee eines unabhängigen Polens feindlich gegenüberstand, gab die polnische Exilregierung in London der unterirdischen Heimatarmee (AK) den Befehl, vor dem Eintreffen der Roten Armee zu versuchen, die Kontrolle über Warschau von den Deutschen zu übernehmen. So begann am 1. August 1944, als sich die Rote Armee der Stadt näherte, der Warschauer Aufstand. Der bewaffnete Kampf, der 48 Stunden dauern sollte, war teilweise erfolgreich, dauerte jedoch 63 Tage. Schließlich mussten die Kämpfer der Heimatarmee und die ihnen unterstützenden Zivilisten kapitulieren. Sie wurden in Kriegsgefangenenlager in Deutschland transportiert, während die gesamte Zivilbevölkerung ausgewiesen wurde. Die Zahl der polnischen Zivilisten wird auf 150.000 bis 200.000 geschätzt.'
54 'question': "Wer wurde nach Deutschland transportiert?"
55
56 #output
57
58 {'answer': 'die Kämpfer der Heimatarmee und die ihnen unterstützenden Zivilisten',
59 'end': 693,
60 'score': 0.23357819020748138,
61 'start': 625}
62
63
64 ```
65
66 Try it on a Colab:
67
68 <a href="https://github.com/Sahajtomar/Question-Answering/blob/main/Sahajtomar_GBERTQnA.ipynb" target="_parent"><img src="https://camo.githubusercontent.com/52feade06f2fecbf006889a904d221e6a730c194/68747470733a2f2f636f6c61622e72657365617263682e676f6f676c652e636f6d2f6173736574732f636f6c61622d62616467652e737667" alt="Open In Colab" data-canonical-src="https://colab.research.google.com/assets/colab-badge.svg"></a>
69