model update

README.md

@@ -0,0 +1,158 @@
+
+---
+license: cc-by-4.0
+metrics:
+- bleu4
+- meteor
+- rouge-l
+- bertscore
+- moverscore
+language: de
+datasets:
+- lmqg/qag_dequad
+pipeline_tag: text2text-generation
+tags:
+- questions and answers generation
+widget:
+- text: "Empfangs- und Sendeantenne sollen in ihrer Polarisation übereinstimmen, andernfalls wird die Signalübertragung stark gedämpft. "
+  example_title: "Questions & Answers Generation Example 1" 
+model-index:
+- name: lmqg/mt5-small-dequad-qag
+  results:
+  - task:
+      name: Text2text Generation
+      type: text2text-generation
+    dataset:
+      name: lmqg/qag_dequad
+      type: default
+      args: default
+    metrics:
+    - name: BLEU4 (Question & Answer Generation)
+      type: bleu4_question_answer_generation
+      value: 0.0
+    - name: ROUGE-L (Question & Answer Generation)
+      type: rouge_l_question_answer_generation
+      value: 2.57
+    - name: METEOR (Question & Answer Generation)
+      type: meteor_question_answer_generation
+      value: 1.49
+    - name: BERTScore (Question & Answer Generation)
+      type: bertscore_question_answer_generation
+      value: 61.18
+    - name: MoverScore (Question & Answer Generation)
+      type: moverscore_question_answer_generation
+      value: 46.62
+    - name: QAAlignedF1Score-BERTScore (Question & Answer Generation)
+      type: qa_aligned_f1_score_bertscore_question_answer_generation
+      value: 0.0
+    - name: QAAlignedRecall-BERTScore (Question & Answer Generation)
+      type: qa_aligned_recall_bertscore_question_answer_generation
+      value: 0.0
+    - name: QAAlignedPrecision-BERTScore (Question & Answer Generation)
+      type: qa_aligned_precision_bertscore_question_answer_generation
+      value: 0.0
+    - name: QAAlignedF1Score-MoverScore (Question & Answer Generation)
+      type: qa_aligned_f1_score_moverscore_question_answer_generation
+      value: 0.0
+    - name: QAAlignedRecall-MoverScore (Question & Answer Generation)
+      type: qa_aligned_recall_moverscore_question_answer_generation
+      value: 0.0
+    - name: QAAlignedPrecision-MoverScore (Question & Answer Generation)
+      type: qa_aligned_precision_moverscore_question_answer_generation
+      value: 0.0
+---
+
+# Model Card of `lmqg/mt5-small-dequad-qag`
+This model is fine-tuned version of [google/mt5-small](https://huggingface.co/google/mt5-small) for question & answer pair generation task on the [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) (dataset_name: default) via [`lmqg`](https://github.com/asahi417/lm-question-generation).
+
+
+### Overview
+- **Language model:** [google/mt5-small](https://huggingface.co/google/mt5-small)   
+- **Language:** de  
+- **Training data:** [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) (default)
+- **Online Demo:** [https://autoqg.net/](https://autoqg.net/)
+- **Repository:** [https://github.com/asahi417/lm-question-generation](https://github.com/asahi417/lm-question-generation)
+- **Paper:** [https://arxiv.org/abs/2210.03992](https://arxiv.org/abs/2210.03992)
+
+### Usage
+- With [`lmqg`](https://github.com/asahi417/lm-question-generation#lmqg-language-model-for-question-generation-)
+```python
+from lmqg import TransformersQG
+
+# initialize model
+model = TransformersQG(language="de", model="lmqg/mt5-small-dequad-qag")
+
+# model prediction
+question_answer_pairs = model.generate_qa("das erste weltweit errichtete Hermann Brehmer 1855 im niederschlesischen ''Görbersdorf'' (heute Sokołowsko, Polen).")
+
+```
+
+- With `transformers`
+```python
+from transformers import pipeline
+
+pipe = pipeline("text2text-generation", "lmqg/mt5-small-dequad-qag")
+output = pipe("Empfangs- und Sendeantenne sollen in ihrer Polarisation übereinstimmen, andernfalls wird die Signalübertragung stark gedämpft. ")
+
+```
+
+## Evaluation
+
+
+- ***Metric (Question & Answer Generation)***: [raw metric file](https://huggingface.co/lmqg/mt5-small-dequad-qag/raw/main/eval/metric.first.answer.paragraph.questions_answers.lmqg_qag_dequad.default.json) 
+
+|                                 |   Score | Type    | Dataset                                                            |
+|:--------------------------------|--------:|:--------|:-------------------------------------------------------------------|
+| BERTScore                       |   61.18 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| Bleu_1                          |    0.03 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| Bleu_2                          |    0.01 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| Bleu_3                          |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| Bleu_4                          |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| METEOR                          |    1.49 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| MoverScore                      |   46.62 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedF1Score (BERTScore)    |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedF1Score (MoverScore)   |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedPrecision (BERTScore)  |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedPrecision (MoverScore) |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedRecall (BERTScore)     |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| QAAlignedRecall (MoverScore)    |    0    | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+| ROUGE_L                         |    2.57 | default | [lmqg/qag_dequad](https://huggingface.co/datasets/lmqg/qag_dequad) |
+
+
+
+## Training hyperparameters
+
+The following hyperparameters were used during fine-tuning:
+ - dataset_path: lmqg/qag_dequad
+ - dataset_name: default
+ - input_types: ['paragraph']
+ - output_types: ['questions_answers']
+ - prefix_types: None
+ - model: google/mt5-small
+ - max_length: 512
+ - max_length_output: 256
+ - epoch: 3
+ - batch: 8
+ - lr: 0.0001
+ - fp16: False
+ - random_seed: 1
+ - gradient_accumulation_steps: 16
+ - label_smoothing: 0.15
+
+The full configuration can be found at [fine-tuning config file](https://huggingface.co/lmqg/mt5-small-dequad-qag/raw/main/trainer_config.json).
+
+## Citation
+```
+@inproceedings{ushio-etal-2022-generative,
+    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
+    author = "Ushio, Asahi  and
+        Alva-Manchego, Fernando  and
+        Camacho-Collados, Jose",
+    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
+    month = dec,
+    year = "2022",
+    address = "Abu Dhabi, U.A.E.",
+    publisher = "Association for Computational Linguistics",
+}
+
+```

config.json

@@ -1,5 +1,5 @@
 {
-  "_name_or_path": "lmqg_output/mt5-small-dequad-qag/best_model",
+  "_name_or_path": "google/mt5-small",
   "add_prefix": false,
   "architectures": [
     "MT5ForConditionalGeneration"

eval/metric.first.answer.paragraph.questions_answers.lmqg_qag_dequad.default.json

@@ -0,0 +1 @@
+{"validation": {"Bleu_1": 0.01666415301027652, "Bleu_2": 0.005156608007260067, "Bleu_3": 0.0018578013326946584, "Bleu_4": 0.0006877368275333578, "METEOR": 0.022636912624008985, "ROUGE_L": 0.03311130150987572, "BERTScore": 0.6092539937879012, "MoverScore": 0.4685243494869446, "QAAlignedF1Score (BERTScore)": 0.0, "QAAlignedRecall (BERTScore)": 0.0, "QAAlignedPrecision (BERTScore)": 0.0, "QAAlignedF1Score (MoverScore)": 0.0, "QAAlignedRecall (MoverScore)": 0.0, "QAAlignedPrecision (MoverScore)": 0.0}, "test": {"Bleu_1": 0.00031039370182161364, "Bleu_2": 9.960094067785165e-05, "Bleu_3": 2.798865367841335e-05, "Bleu_4": 1.9065858668475003e-09, "METEOR": 0.014850582433614548, "ROUGE_L": 0.025705189926854628, "BERTScore": 0.6118142731204818, "MoverScore": 0.4662333293028007, "QAAlignedF1Score (BERTScore)": 0.0, "QAAlignedRecall (BERTScore)": 0.0, "QAAlignedPrecision (BERTScore)": 0.0, "QAAlignedF1Score (MoverScore)": 0.0, "QAAlignedRecall (MoverScore)": 0.0, "QAAlignedPrecision (MoverScore)": 0.0}}

eval/samples.test.hyp.paragraph.questions_answers.lmqg_qag_dequad.default.txt

@@ -0,0 +1,474 @@
+<extra_id_0> der US-Verordnung (''Northwest Ordinance'').
+<extra_id_0> der Präsidentschaftsvorwahl an.
+<extra_id_0> der A-cappella-Musik.
+<extra_id_0> der Gleichaltrigengruppe (Wischmann, 2010. S. 33 f.).
+<extra_id_0> des Gehirns.
+<extra_id_0> in Alaska.
+<extra_id_0> zu veröffentlichen: ''Enquiry concerning the Principles of Natural Knowledge'' Titel: ''Enquiry concerning the Principles of Natural Knowledge'' Titel: ''Enquiry concerning the Principles of Natural Knowledge''
+<extra_id_0> und Wissenschaftstheorie und Wissenschaftsgeschichte. Wissenschaftstheorie und Wissenschaftsgeschichte === Wissenschaftstheorie und Wissenschaftsgeschichte === Wissenschaftstheorie und Wissenschaftsgeschichte
+<extra_id_0> der Mathematik und Logik.
+<extra_id_0> in der Alpenkette.
+<extra_id_0> sowie die folgenden 95 druckbaren Zeichen: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :
+<extra_id_0> in den Prince Charles Mountains.
+<extra_id_0> ist die nördlichste Insel des Kontinents.
+<extra_id_0> der Antarktis und Südamerika.
+<extra_id_0> elektrischer und magnetischer Antennen.
+<extra_id_0> und Übergangsbereich definiert.
+<extra_id_0> strahlen polarisierte Wellen ab.
+<extra_id_0> der Architektur.
+<extra_id_0> ist.
+<extra_id_0> angesehen werden.
+<extra_id_0> ist der deutsche Fußballverband.
+<extra_id_0> der Republik Aserbaidschan nicht anerkannt.
+<extra_id_0> Arnold Schwarzenegger. Arnold_Schwarzenegger
+<extra_id_0> in den USA geboren wird.
+<extra_id_0> der aschkenasischen Juden.
+<extra_id_0> der europäischen Bevölkerungsgruppe.
+<extra_id_0> des Arianismus.
+<extra_id_0> auch in seinen epochemachenden Aufklärer.
+<extra_id_0> der Aufklärung: Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen = Polen :
+<extra_id_0> der Aufklärer in Russland.
+<extra_id_0> der Madame Geoffrin.
+<extra_id_0> auch in der Aufklärung.
+<extra_id_0> der Niederlande und ab 1689 zugleich König von England und ab 1689 zugleich König von England.
+<extra_id_0> speichern.
+<extra_id_0> - Seilloser Aufzug === Seilloser Aufzug === Seilloser Aufzug - Seilloser Aufzug === Seilloser Aufzug === Seilloser Aufzug -
+<extra_id_0> sowie Speise- und Wäscheaufzüge sind verboten.
+<extra_id_0> der Ausbildung in Vollzeit == Ausbildung in Teilzeit == Ausbildung in Teilzeit ==
+<extra_id_0> der EEG-Umlage für die EEG-Umlage für die EEG-Umlage für die EEG-Umlage für die EEG-Umlage für die EEG-Umlage
+<extra_id_0> ohne mechanische Teile eingesetzt werden.
+<extra_id_0> verwendet werden.
+<extra_id_0> erzeugt wird.
+<extra_id_0> = Auhof ===== Auhof =====
+<extra_id_0> für Bahnstrom in Ostösterreich erforderlich.
+<extra_id_0> der rRNA-Sequenzierung und die rRNA-Sequenzierung.
+<extra_id_0> austauschen. Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer = Gentransfer =
+<extra_id_0> der Bakterien sind sehr unterschiedlich ausgeprägt. Die Bakterien sind sehr unterschiedlich ausgeprägt.
+<extra_id_0> spielt in der 1. Liga der Schweiz, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, und der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, der Nationalliga A, und der
+<extra_id_0> Französisch und Italienisch. Sprachen === Sprachen === Sprachen: Sprachen: Sprachen: Sprachen: Sprachen: Sprachen:
+<extra_id_0> ist das Wappen des Amtsbezirks Bern.
+<extra_id_0> der jüdischen Gemeinde Berns.
+<extra_id_0> der besten Zehn in den besten Zehn.= Tourismus ==== + Übernachtungen in Hotelbetrieben + Übernachtungen in Hotelbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen in Hotelsbetrieben + Übernachtungen
+<extra_id_0> der Charts in den USA mit dem Titel ''I Am... Sasha Fierce'' ver��ffentlichte.
+<extra_id_0> veröffentlicht.
+<extra_id_0> entstehen durch Gärung von Zucker bei Bier.
+<extra_id_0> Bostons.
+<extra_id_0> in der Karibik.
+<extra_id_0> der Weltkriege (1914–1945) ==
+<extra_id_0> in der Bronx.
+<extra_id_0> ist Buckingham Palace.
+<extra_id_0> und der Achtfache Pfad.
+<extra_id_0> verwendet.
+<extra_id_0> Conversions: Conversions: Conversions: Conversions: Conversions: Conversions: Conversions: Conversions:
+<extra_id_0> decken die Gegner in der tiefen Zone.
+<extra_id_0> des Quarterbacks. Der Referee ist verantwortlich für die Überwachung der 20-Sekunden-Uhr und ist verantwortlich für die Überwachung der 20-Sekunden-Uhr und 20-Sekunden-Uhr.
+<extra_id_0> des D/CIA.
+<extra_id_0> der CIA.
+<extra_id_0> der CIA. Aufgaben === Aufgaben === Die CIA ist ein ziviler Geheimdienst.
+<extra_id_0> der bildenden Kunst.
+<extra_id_0> des Backups === Datensicherheit === Datenbanken === Datensicherheit === Datenbanken
+<extra_id_0> von Datenkompression == Verlustfreie Kompressionsverfahren == Verlustfreie Kompressionsverfahren == Verlustfreie Kompressionsverfahren
+<extra_id_0> spielen die Detroit Pistons.
+<extra_id_0> der Revolutionsregierung in Paris.
+<extra_id_0> in Preußen.
+<extra_id_0> des Großherzogtums Luxemburg zu unterzeichnen.
+<extra_id_0> der Sowjetunion und der Sowjetunion.
+<extra_id_0> der Sowjetunion.
+<extra_id_0> der Deutschen.
+<extra_id_0> der Bundesrepublik Deutschland.
+<extra_id_0> verwendet werden. Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte bei Programmiersprachen == Dialekte
+<extra_id_0> auch bei Vögeln.
+<extra_id_0> Barry Goldwater seine Trauerfeier in der Washington National Cathedral.
+<extra_id_0> der britischen Regierung in Indien.
+<extra_id_0> Elisabeth_II. Elisabeth_II. == Persönlichkeit und öffentliche Wahrnehmung Elisabeth_II. == Persönlichkeit und öffentliche Wahrnehmung Elisabeth_II. == Persönlichkeit und öffentliche Wahrnehmung Elisabeth_II.
+<extra_id_0> Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II.
+<extra_id_0> Elisabeth II..............................................................................................................................
+<extra_id_0> des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags, des königlichen Geburtstags.
+<extra_id_0> der Königsfamilie. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II. Elisabeth_II.
+<extra_id_0> von Emotionen.
+<extra_id_0> von Emotionen. Emotion == Formen ==
+<extra_id_0> von Howard Gardner.
+<extra_id_0> des klassischen Empirismus nicht genüge:
+<extra_id_0> zu erklären.
+<extra_id_0> der empirischen Welterfahrung enthalten.
+<extra_id_0>: Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus, Sinnkriterium, Verifikationismus
+<extra_id_0> auch die neue Größe ''Energie'' angeben. Die neue Größe ''Energie'' ist die neue Größe ''Energie'' angegeben. Die neue Größe ''Energie'' ist die neue Größe ''energie''. Die neue Größe ''energie'' ist die neue Größe ''energie'' angegeben. Die neue Größe ''energie'' ist die neue Größe ''energie''. Die neue Größe ''energie'' ist die neue Größe ''energie'' angegeben.
+<extra_id_0> erzeugt wird.
+<extra_id_0>.
+<extra_id_0> der Bevölkerung in Millionen Einwohnern
+<extra_id_0> Eritrea - Verwaltungsgliederung ====
+<extra_id_0> des Wachstums der Europäischen Union.
+<extra_id_0> der Republik Estland.
+<extra_id_0> des Völkerbundes.
+<extra_id_0>: 100 % an Estland: 100 % an Estland: 100 % an Estland: 100 % an Estland: 100 % an Estland: 100 % an Estland: 100 % an Estland: 100 % an Estland:
+<extra_id_0> geht das Verb an erster Stelle? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht? sein.3SG geht?
+<extra_id_0> der Europäischen_Zentralbank.
+<extra_id_0> der Europäischen Zentralbank (EZB) an.
+<extra_id_0> des FA-Cups entschieden wird.
+<extra_id_0> der englischen Meisterschaft in der englischen Meisterschaft.
+<extra_id_0> spielte, spielte, spielte und spielte, spielte und spielte, spielte und spielte, spielte und spielte, spielte und spielte,
+<extra_id_0> Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito Vilanova (2012/13) === Ligarekord unter Trainer Tito
+<extra_id_0> des FC Barcelona.
+<extra_id_0> des FC Barcelona.
+<extra_id_0> des FC Everton.
+<extra_id_0> Howard Kendall (1981–1987).
+<extra_id_0> des FBI.
+<extra_id_0> der empfindlichen Filmen besser.
+<extra_id_0> in Floridas zerstören.
+<extra_id_0> entdeckt.
+<extra_id_0> der Freimaurerei.
+<extra_id_0> und Freiheit. Religionsfreiheit gilt von Hayek daher als eine zentrale Wurzel. Religionsfreiheit gilt von Hayek daher als eine zentrale Wurzel.
+<extra_id_0>: Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin (Auswahl) === Filme über die Kunst des Frédéric Chopin:
+<extra_id_0> Französische Staatsbürgerschaft Chopins === Französische Staatsbürgerschaft Chopins === Französische Staatsbürgerschaft Chopins
+<extra_id_0> der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und Taufe der Geburt und
+<extra_id_0>: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978: Fußball-WM 1978:
+<extra_id_0> der politischen Weltgemeinschaften.
+<extra_id_0> in der Autonomen Gemeinschaft Galicien.
+<extra_id_0> der Gaita in Galicien.
+<extra_id_0> ist der Tod von Gamal Abdel Nasser.
+<extra_id_0> des Kurzzeitgedächtnisses.
+<extra_id_0> sind sehr gut. * ''Fasane'' sind die besten europäischen Fasanen. Die besten europäischen Fasanen sind das größte europäischen Fasanen. Die besten Fasanen sind die besten Fasanen.
+<extra_id_0> - Schlachtreife
+<extra_id_0> der Amygdalafunktionen. : Die Amygdalafunktionen sind die Amygdalafunktionen. : Die Amygdalafunktionen sind die Amygdalafunktionen. :
+<extra_id_0> und Regulationsvorgänge von Genen.
+<extra_id_0> genannt werden.
+<extra_id_0>:
+<extra_id_0>: Alaska ist eine Inselkette im Pazifik.
+<extra_id_0> entstehen.
+<extra_id_0> in der Westen bestimmen.
+<extra_id_0>.
+<extra_id_0> der Republik Indien.
+<extra_id_0> indische Soldaten kämpften.
+<extra_id_0> entstand.
+<extra_id_0> der Hoysala-Könige waren.
+<extra_id_0> des Indiens. V. Chr. entstand das Indien-Geschichte-Indiens.
+<extra_id_0>.
+<extra_id_0> an der Sohle sowie an der Sohle sowie an der Sohle sowie an der Sohle.
+<extra_id_0> an Gletschereis.
+<extra_id_0> erhöhen sich die Lebensdauer einer Glühlampe.
+<extra_id_0> aus Platin.
+<extra_id_0> Gottes, Gott, Gott, Gott, Gott, Gott, Gott.
+<extra_id_0> des Naturwissenschaftlichen Theismus.
+<extra_id_0> Gott = Immaterialität = Geistigkeit Gottes = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott = Geistigkeit Gott =
+<extra_id_0> Gott ===== Transzendent ===== Transzendent =====
+<extra_id_0> des Mond-Datums (Mondgleichung) === Korrektur des Monddatums (Mondgleichung) ===
+<extra_id_0> der Reformkommission.
+<extra_id_0> aus Griechenland.
+<extra_id_0> der Erneuerbaren Energien in Griechenlands.
+<extra_id_0> sowie die natürlichen Seen.
+<extra_id_0> der Pressefreiheit in Griechenland: Massenmedien === Massenmedien === <extra_id_1>
+<extra_id_0> der orthodoxen Kirche zugeordnet ist.
+<extra_id_0> Grüntöne werden als Giftgrün bezeichnet. Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne Grüntöne
+<extra_id_0> verwenden.
+<extra_id_0> an der Qualifikation zur Fußball-Weltmeisterschaft an der Qualifikation zur Fußball-Weltmeisterschaft an der Qualifikation zur Fußball-Weltmeisterschaft an der Qualifikation zur Fußball-Weltmeisterschaft an.
+<extra_id_0> Guinea-Bissau und die Republik Guinea in den Jahren 2008 und 2009.
+<extra_id_0> Guinea-Bissau liegt im Süden von Westafrika und Oberguinea.
+<extra_id_0> der Gymnastik.
+<extra_id_0> steht an der Fritz-Behrens-Allee an der Fritz-Behrens-Allee an der Fritz-Behrens-Allee.
+<extra_id_0> sowie das Klinikum Siloah sowie das Klinikum Siloah sowie das Klinikum Siloah.
+<extra_id_0>: Oberbürgermeister, Oberbürgermeister, Oberbürgermeister, Oberbürgermeister, Oberbürgermeister,
+<extra_id_0> Hannovers sind die Kirchengemeinden Hannovers.
+<extra_id_0>.jpg|Haus der Kammerfrau von Beckedorf.jpg|Haus der Kammerfrau von Beckedorf.
+<extra_id_0> 11784 - Grenzübertritt in der EU === Grenzübertritt in der EU === Grenzübertritt in der EU === Grenzübertritt in der EU === Grenzübertritt in der EU === Grenzübertritt in der EU === Grenzübertritt
+<extra_id_0>.
+<extra_id_0> auch in öffentlichen Verkehrsmitteln.
+<extra_id_0>? ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== == ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== ==== Sonstiges ==== ==== Sonstiges ==== ==== Sonstiges ==== ==== Sonstiges ==== Sonstiges ==== Sonstiges ==== Sonstiges ==== Sonstiges ==== Sonstiges ==== Sonstiges ====
+<extra_id_0> ist ein Haushund, also eine Unterart des Wolfes.
+<extra_id_0> der Heian-Zeit entstand.
+<extra_id_0> der Diadochen.
+<extra_id_0> erhöhter Anfälligkeit des Herzmuskels bei Tieren.
+<extra_id_0> erhöhen.
+<extra_id_0> weisen auf eine „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Negativierung“ der „Nega
+<extra_id_0> von HDTV vorgestellt.
+<extra_id_0> verwendet werden.
+<extra_id_0> verwendet werden.
+<extra_id_0> sprechen. Sprachen === Sprachen === Sprachen === Sprachen <extra_id_1>
+<extra_id_0> liegt an der Südküste der Vereinigten Staaten und an der Westküste der Vereinigten Staaten.
+<extra_id_0>.
+<extra_id_0> auch in der Antike nicht gegeben habe.
+<extra_id_0> der Renaissance-Humanismus.
+<extra_id_0> der Konzernkultur der Konzernkultur der Konzernkultur der Konzernkultur der Konzernkultur der Konzernkultur ernannt.
+<extra_id_0> 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.jpg | iPod 6G.
+<extra_id_0> der Immunität der menschlichen Zellen.
+<extra_id_0> oder Überempfindlichkeitsreaktion bezeichnet.
+<extra_id_0> des Imperial College, London.
+<extra_id_0> der Mohawk-Häuptlings Emily Pauline Johnson.
+<extra_id_0> der indigenen Bevölkerung.
+<extra_id_0> der Infektion: Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome, Symptome.
+<extra_id_0> und Tierarten.
+<extra_id_0> der iranischen Sprache.
+<extra_id_0> des Irans ist das historische Kernland des Irans.
+<extra_id_0> des Westens.
+<extra_id_0> ist der Iran größter Exporteur der Welt.
+<extra_id_0> auch in Iran leben.
+<extra_id_0> sowie die Stiftungen des Irans.
+<extra_id_0> Mahmud Ahmadineschāds.
+<extra_id_0> des Rechtes des heutigen Israels seit 1948.
+<extra_id_0>. Israel: Kampagne. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg. 1948: Unabhängigkeitskrieg.
+<extra_id_0> in Afrika, Afrika und Zentralasien.
+<extra_id_0> sowie deren Fragmente sowie dieen Fragmente.
+<extra_id_0> des subjektiven Jagdrechts.
+<extra_id_0> des Films.
+<extra_id_0> und seine Pionierleistungen in der Rechnerarchitektur.
+<extra_id_0> der Partisanen Jugoslawien.
+<extra_id_0> Jugoslawien.
+<extra_id_0> auch als Juden erwiesen wurden.
+<extra_id_0> : ''Wichtige Fundorte:'' Jericho und Mureybet I A : ''Wichtige Fundorte:'' Jericho und Mureybet I A :
+<extra_id_0>, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa, Südosteuropa
+<extra_id_0> ''Yeezus'' und ''The Life of Pablo''
+<extra_id_0> des Osterfestes ist der Aschermittwoch.
+<extra_id_0> des Karnevals.
+<extra_id_0> der Aragonesischen Sprache.
+<extra_id_0> der Rus. * 864: Die Rus ist für die warerische Stadt Kiew. * 864: Die Rus ist für die warerische Stadt Kiew. * 864:
+<extra_id_0>: Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport = Kinderleistungssport =
+<extra_id_0> der Kleidung verwenden.
+<extra_id_0> und Gefahren;
+<extra_id_0> der Problemstellung und Problemlösung.
+<extra_id_0> entstehen: Kommunikation ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist Kreativität ist <extra_id_1>
+<extra_id_0> der Leidener Flasche: Leidener Flasche:
+<extra_id_0>.
+<extra_id_0> der Kapazitätseinheit ist die Kapazität der Kapazitätseinheit der Kondensatoren.
+<extra_id_0> verwendet werden. ; Kondensatoren: <extra_id_1>
+<extra_id_0> und Verse finden sich meistens in einer Sure.
+<extra_id_0> der US Air Force abgeworfen wurden.
+<extra_id_0> Russlands.
+<extra_id_0> entwickelte sich in der zweiten Hälfte des 20. Jahrhunderts an der Architektur orientierten Stilrichtung.
+<extra_id_0> etwa die Kultur als Bewältigung. Kultur als Bewältigung === ; Die Kultur als Bewältigung === ;
+<extra_id_0> wirkt Kupfer antibakteriell.
+<extra_id_0> in Nordirland?
+<extra_id_0> der Laserdiscs.
+<extra_id_0> oder auch Extended Play genannt) genannt.
+<extra_id_0> der Leiterplatte verwendet werden. ; ; ; ; ; ; ; ; ; ; ; ; ; ;
+<extra_id_0> verwenden.
+<extra_id_0> verbessern den Wärmetransport senkrecht zur Leiterplatte.
+<extra_id_0> der Korruptionsbilanz.
+<extra_id_0> verwenden.
+<extra_id_0> in Guinea === Migration und Urbanisierung === Migration und Urbanisierung === Migration und Urbanisierung === Migration und Urbanisierung:
+<extra_id_0> der Kirche in Liberia'' sind in Liberia Gläubige.
+<extra_id_0>, Nordwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste, Südwestküste.
+<extra_id_0> der Kulturen: Kulturen: Kulturen: Kulturen: Kulturen: Kulturen: Kulturen: Kulturen: Kulturen: Kulturen
+<extra_id_0> der Insel.
+<extra_id_0> der Kunstschulen.
+<extra_id_0> auch kombiniert angewandt werden.
+<extra_id_0> von MPEG-2 Audio Layer III oder MPEG-2 Audio Layer III.
+<extra_id_0> des Nigers.
+<extra_id_0> der Kolonie Französisch-Westafrika.
+<extra_id_0> sowie die Verarbeitung von Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse sowie Gemüse.
+<extra_id_0> der Literatur.
+<extra_id_0> sprechen Bambara als Zweitsprache. Sprachen === Sprachen === Sprachen in Mali: Sprachen in Mali sprechen Bambara als Zweitsprache. Sprachen
+<extra_id_0> der Marvel-Comics.
+<extra_id_0> der Materiebegriff nicht mehr einheitlich festgelegt ist.
+<extra_id_0> in Melbourne.
+<extra_id_0> Mexiko-Stadt.
+<extra_id_0> der Hauptstadt Mexiko-Stadt.
+<extra_id_0>: Mexiko-Stadt: Klima === Die Stadt befindet sich in den Tropen wegen ihrer hohen Temperaturen.
+<extra_id_0> Mexiko-Stadt.
+<extra_id_0> Mexiko-Stadt - Mexiko-Stadt - Mexiko-Stadt - Mexiko-Stadt
+<extra_id_0> Mexiko-Stadt steht in der Vorstadt Coyoacán.
+<extra_id_0> der U-Bahn in Mexiko-Stadt.
+<extra_id_0> Miami Dolphins (National Football League)
+<extra_id_0> von Segoe UI gesetzt.
+<extra_id_0> verwenden.
+<extra_id_0> des Krieges im Mittelmeer.
+<extra_id_0> verloren.
+<extra_id_0> sind die wichtigsten Rohstoffvorkommen.
+<extra_id_0>.jpg|''Red Lodge Mountain Resort''
+<extra_id_0> von Gaddafis Maschine.
+<extra_id_0> von Gaddafis Tod.
+<extra_id_0> von Gaddafi.
+<extra_id_0> von der Übergangsregierung.
+<extra_id_0> der Sozialistischen Republik von 1974
+<extra_id_0> errichtet wurden.
+<extra_id_0> Russlands.
+<extra_id_0> in New York erhielt.
+<extra_id_0> des WTCs.
+<extra_id_0>. New York City ist eine sehr unamerikanische Stadt.
+<extra_id_0> der Niederländischen Rechtschreibung.
+<extra_id_0> sind: Pejorative_Sprache = Pejorative_Sprache = Pejorative_Sprache = Pejorative_Sprache = Pejorative_Sprache = Pejorative_Sprache
+<extra_id_0> Nigerias.
+<extra_id_0> auch in Nigeria: Bildung ==== Bildung ==== In Nigeria herrscht eine starke Expansion in Nigeria.
+<extra_id_0> des NES gab es für 249 US-Dollar zu erstehen.
+<extra_id_0> sowie die Sicht der Leistungsempfänger.
+<extra_id_0> Kingston und Cascade.
+<extra_id_0> anbieten.
+<extra_id_0> sowie die ''Inner Banks'' sind die ''Outer Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks'' sind die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks sind die ''Inner Banks'' sind die ''Inner Banks''. Die ''Inner Banks sind die ''Inner Banks, die ''Inner Banks sind die ''Inner Banks, die ''Inner Banks sind die ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der ''Inner Banks, der
+<extra_id_0> in North Carolina.
+<extra_id_0> Evanston, Chicago.
+<extra_id_0> in Oklahoma.
+<extra_id_0> Oklahoma - Klima Oklahoma - Klima Oklahoma - Klima Oklahoma - Klima Oklahoma
+<extra_id_0> Oklahoma_City === Klima === Oklahoma_City === Klima === Oklahoma_City === Klima === Oklahoma_City === Klima:
+<extra_id_0> des Osmanischen Reiches im Jahr 1920.
+<extra_id_0> des osmanischen Sultanshofs in Istanbul.
+<extra_id_0> des Millet-Systems im 19. Jahrhundert.
+<extra_id_0> und seine Nachfolger an Einfluss.
+<extra_id_0> der Pax Britannica.
+<extra_id_0> Palermos ist die größte Stadt Siziliens.
+<extra_id_0> Palermo.
+<extra_id_0> liegen in der Größenordnung von g/m2.
+<extra_id_0> verwendet.
+<extra_id_0>: N/m2, N/m2, N/m2, N/m2, N/m2, N/m2, N/m2, N/m2, N/m2.
+<extra_id_0> verwendet werden.
+<extra_id_0>: Blason Paris 75.svg|Kleines Wappen |Kleines Wappen Blason Paris 75.svg|Kleines Wappen Blason Paris 75.svg|Kleines Wappen Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason Paris 75.svg Blason
+<extra_id_0> bildet eine große Schichtstufenlandschaft.
+<extra_id_0> der Seine. ===== 18. Jahrhundert ===== Der Palais des Monnaies entstand im 18. Jahrhundert.
+<extra_id_0> der UNO-Vollversammlung in New York.
+<extra_id_0> waren.
+<extra_id_0> der Japaner sind eingerechnet.
+<extra_id_0> der US-Zerstörer.
+<extra_id_0> des Pazifikkriegs.
+<extra_id_0> verwendet werden.
+<extra_id_0>.
+<extra_id_0> des Wirkungsquantums.
+<extra_id_0> entstanden: ''Volkspartei: ''In der Politik existiert der Begriff ''Volkspartei“ (oder ''Volkspartei“ (oder ''Volkspartei“): ''Volkspartei.
+<extra_id_0> der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie der Philosophie.
+<extra_id_0> sowie die Justiz.
+<extra_id_0> sind in Portugals Straßenverkehr. Portugal === Straßenverkehr === Portugal === Straßenverkehr ist Portugal === Straßenverkehr === Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugal === Straßenverkehr === Portugal === Straßenverkehr ist Portugal === Straßenverkehr ist Portugals
+<extra_id_0> der Premier League 1995: Gründung und Teilnehmer === - Premier_League 1995: Gründung und Teilnehmer === - Premier_League 1995
+<extra_id_0> entstanden in der Reformation.
+<extra_id_0> auch in den Pubs.
+<extra_id_0> die Sperrstunde gesetzlich eingeführt haben.
+<extra_id_0> bezeichnen.
+<extra_id_0> entsprechen der „Rasse“ und Ethnie.
+<extra_id_0> des Parlaments ist der Parlament gewählt.
+<extra_id_0> in Rajasthan fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern, fördern und fördern.
+<extra_id_0> Rajasthan - Überleben in der Wüste === Überleben in der Wüste Rajasthan - Überleben in der Wüste Rajasthan - Überleben in der Wüste Rajasthan - Überleben in der Wüste
+<extra_id_0> der Republik Kongo: Religionen === Kathedrale von Brazzaville (1917)
+<extra_id_0> der Republik Zypern.
+<extra_id_0> der Republik Zypern.
+<extra_id_0> der Republik Zypern.
+<extra_id_0> der Union der Sieben Vereinigten Provinzen.
+<extra_id_0> der Nobelpreisverleihung angenommen.
+<extra_id_0> der Sichtbarkeit verantwortlichen Sinneszellen (L-Zapfen)
+<extra_id_0> der Rechtsprechung zu den persönlichen Rechten des Einzelnen.
+<extra_id_0> der Gesetze????????????????????????????????????????????????????????????????????????????????????????????????????????????? <extra_id_1>??
+<extra_id_0> entmündigte man per definitionem.
+<extra_id_0> der Vergangenheitsform.
+<extra_id_0> der römischen Bevölkerung.
+<extra_id_0> des Kaisers Julian und der Große:
+<extra_id_0> ist die San Diego River.
+<extra_id_0> sind in San Diego die wichtigsten Industriezweige.
+<extra_id_0> einer chronischen Schmerzen.
+<extra_id_0> bestimmte Schmerzen.
+<extra_id_0> in der Karibik und in der Karibik.
+<extra_id_0>? Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Blackness ===== Schwarze
+<extra_id_0> und Feiertage in der Schweiz.
+<extra_id_0> in der Schweiz herrscht die Niederschlagsmenge in der Schweiz.
+<extra_id_0> der Freiheitsentziehung an der Asylpolitik der Schweiz.
+<extra_id_0> Zürich gilt als eines der bedeutendsten deutschsprachigen Theatern der Schweiz.
+<extra_id_0> sowie die öffentlichen SRG-Radioprogramme.
+<extra_id_0> auch in der Schweiz bekannt sind.
+<extra_id_0> der Bevölkerungsentwicklung von Seattle.
+<extra_id_0> des Habsburgerreichs.
+<extra_id_0> wird in Sichuan exportiert.
+<extra_id_0>.
+<extra_id_0> Russlands.
+<extra_id_0> der Familienverfassung.
+<extra_id_0> erscheinen die anderen Götter.
+<extra_id_0> und die Sklavinen in der folgenden Zeit: Caesarea und Caesarea. Caesarea und Caesarea. Caesarea und Caesarea und Caesarea und Caesarea. Caesarea und Caesarea
+<extra_id_0> der Qualität der Software verwenden. ISTQB: ''Die Qualität der Software verwenden soll Vertrauen in die Qualität der Software verwenden''. ISTQB: ''Die Qualität der Software verwenden''. ISTQB:
+<extra_id_0>: Testfall, Testobjekt, Teststufe, Projekt.
+<extra_id_0> Tests === Tests === Tests === Tests === Tests === Tests === Tests
+<extra_id_0> der Zeitzone.
+<extra_id_0> länger bei Sonnenlicht sowie angenehmeren Außentemperaturen möglich.
+<extra_id_0> manuell umgestellt werden. Technischer Aufwand === Technischer Aufwand === Technischer Aufwand
+<extra_id_0> der Osteuropäischen Zeit (Normalzeit) beträgt drei Stunden (UTC+1).
+<extra_id_0> wird um eine Stunde vorgestellt. Herbst: Umstellung von Normalzeit auf Normalzeit – die Uhr wird um eine Stunde vorgestellt. Herbst: Umstellung von Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit auf Standardzeit.
+<extra_id_0> St.-Pauls-Kathedrale im Distrikt St. Pauls-Kathedrale im Distrikt St. Pauls
+<extra_id_0> an der Innenstadt entfernt.
+<extra_id_0> liegt in der Innenstadt.
+<extra_id_0> entstand an der ''Universal Studios'' gegründet.
+<extra_id_0> Strasbourg.
+<extra_id_0> entstand in der historischen Umwallung.
+<extra_id_0> Frankreichs an der Grenze zu Deutschland ist Frankreichs an der Grenze zu Deutschland.
+<extra_id_0> auch in denen, die die folgenden bezeichneten Familienbezeichnungen erhielten.
+<extra_id_0> sind Australien und Neuguinea.
+<extra_id_0> auch bei anderen Gruppen.
+<extra_id_0> bilden sich unterschiedlich aus.
+<extra_id_0> der Säugetiere.
+<extra_id_0> Südostasien ist ein Teil des asiatischen Kontinents Südostasiens.
+<extra_id_0> in Tadschikistan.
+<extra_id_0> ist der Präsident der PIWT.
+<extra_id_0> in Jackson, Tennessee.
+<extra_id_0> der 'Sun' und der News of the Week.
+<extra_id_0> erscheint die Zeitung im kompakten Tabloid-Format. Die Zeitung erscheint im kompakten Tabloid-Format (30 cm × 36,5 cm).
+<extra_id_0> der Bevölkerung stark an Bevölkerung verlieren.
+<extra_id_0> in Thüringen.
+<extra_id_0> des Qing-Kaisers.
+<extra_id_0> des Gesar-Epos.
+<extra_id_0> sondern auch das Wohlstand der tibetischen Nomaden.
+<extra_id_0> der Todesstrafe in den Vereinigten Staaten.
+<extra_id_0> der Todesstrafe in den Vereinigten Staaten.
+<extra_id_0> der Todesstrafe in den Vereinigten Staaten in den Vereinigten Staaten.
+<extra_id_0> der Todesstrafe in den Vereinigten Staaten.
+<extra_id_0> verwendet werden.
+<extra_id_0> auch als Unipolare Transistoren bezeichnet, werden durch eine Spannung gesteuert.
+<extra_id_0>: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal: n-Kanal:
+<extra_id_0> der Insel.
+<extra_id_0> in Edinburgh leben.
+<extra_id_0> auch in der Umgangssprache verwendet wird.
+<extra_id_0> der Tuberkulose-Sanatorium in der Liechtensteiner Gemeinde Triesen verzeichneten Todesfällen in der Liechtensteiner Gemeinde Triesen.
+<extra_id_0> und das National Park Service.
+<extra_id_0> sind nicht gesetzliche Zahlungsmittel.
+<extra_id_0> verwendet.
+<extra_id_0> der US-Dollar Index (USDX) eingeführt.
+<extra_id_0> Gottesmutter Maria, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt, Geburt.
+<extra_id_0> der US Army.
+<extra_id_0> der US-amerikanischen Streitkräfte.
+<extra_id_0> Einheiten ansprechen. Kommandostruktur und Informationsfluss ==== Kommandostruktur und Informationsfluss ==== Kommandostruktur und Informationsfluss ====
+<extra_id_0> der US-Gebirgsjägerdivision.
+<extra_id_0> der Vereinigten Staaten.
+<extra_id_0> von USB-Geräten: USB-Gerät kann:
+<extra_id_0> für USB-Geräte: USB-Standard: Datenraten === Datenraten === Datenraten:
+<extra_id_0> der ATX-Mainboards entwickelt.
+<extra_id_0> erhöhen. USB-3.0-Kabel sind nicht abwärtskompatibel. USB-3.0-Kabel sind nicht abwärtskompatibel.
+<extra_id_0> unterstützt.
+<extra_id_0> verwenden. Die erforderliche Datenrate ist etwas erhöht.
+<extra_id_0> der ''Irish'' ist eine der erfolgreichsten Irish Football-Mannschaften überhaupt.
+<extra_id_0> tragen.
+<extra_id_0> der Universitäten und Hochschulen.
+<extra_id_0> verwenden, vgl. Filesharing.
+<extra_id_0> der Rechteinhaber-Verband............................................................................................................................
+<extra_id_0> des Hochvakuums.
+<extra_id_0> in Valencia gibt es insgesamt über 80.000 Studenten in unbeheizten Räumen.
+<extra_id_0> sowie das nahe Kernkraftwerk Cofrentes sowie das nahe Kernkraftwerk Cofrentes sowie das nahe Kernkraftwerk Cofrentes.
+<extra_id_0> oder ''Paella valenciana'' mit Fisch und Meeresfrüchten, oder ''Paella valenciana'' mit Gemüse, oder ''Paella valenciana'' mit Gemüse, oder ''Paella valenciana'' mit Gemüse.
+<extra_id_0> auch in den Nebenzellen enthalten.
+<extra_id_0> Vergil === Vergil (Bucolica) === Vergil (Bucolica)
+<extra_id_0> des britischen Verteidigungsministeriums.
+<extra_id_0> der Westminster Abbey.
+<extra_id_0> schrieb sie: „Ich war der älteste Sohn. Ich war der älteste Sohn“. In ihrem Tagebuch schrieb sie: „Ich war der älteste Sohn
+<extra_id_0> des Königreichs an ihrem 60. Thronjubiläum.
+<extra_id_0> der Vögel.
+<extra_id_0>.
+<extra_id_0> Holocaust: Holocaust: Holocaust: Holocaust: Holocaust: Holocaust: Holocaust: Holocaust: Holocaust: Holocaust:
+<extra_id_0> der Mitgliedstaaten des Warschauer Vertrages.
+<extra_id_0> der DDR und der Sowjetunion.
+<extra_id_0> in der Tschechoslowakei und Austritt Albaniens in der Tschechoslowakei
+<extra_id_0> Ungarns
+<extra_id_0> der natürlichen Produktion, Zerfall, Zerfall, Zerfall, Zerfall, Zerfall, Zerfall, Zerfall, Zerfall, Zerfall.
+<extra_id_0> sind nicht erforderlich.
+<extra_id_0> der K-Schale, weil die K-Schale nur 2 Elektronen hat.
+<extra_id_0> deren verwendenden Webbrowsern.
+<extra_id_0> Scouts und ihres älteren Bruders,
+<extra_id_0> Sputnik.
+<extra_id_0> der Propagandaschlacht.
+<extra_id_0> der Weltraumolympiade und -Weltraumolympiade
+<extra_id_0> der amerikanischen WWF.
+<extra_id_0> ist die WWE.
+<extra_id_0> spielen. Xbox_360 == Spiele == Xbox_360 == Spiele == Xbox_360 == Spiele == Xbox_360
+<extra_id_0> des Xbox_360 erscheint am 19. November 2008 veröffentlicht.
+<extra_id_0> Xbox_360 === Marketing im Vorfeld === Xbox_360 === Marketing im Vorfeld === Auf der Game Developers Conference 2005 in Leipzig wurde die Show öffentlich ausgestrahlt.
+<extra_id_0> Harvard University in New Haven (Connecticut) an.
+<extra_id_0> der Hinweistafeln:
+<extra_id_0> der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit. Zeit als Medium in der Zeit.
+<extra_id_0> sind. Wirtschaft ist weit verbreitet. Wirtschaft ist weit verbreitet. Wirtschaft ist weit verbreitet. Wirtschaft ist weit verbreitet.
+<extra_id_0> der Zeugen Jehovas.
+<extra_id_0> der Zeugen Jehovas.
+<extra_id_0> Zhejiangs sind die größten natürlichen Provinzen Chinas.
+<extra_id_0> der ICP-MS an.
+<extra_id_0> erhöhten Zinkbedarf ist nicht empfehlenswert.
+<extra_id_0> der Zellen. Wirkung im Körper === Wirkung im Körper === Wirkung im Körper === Wirkung im Körper === Wirkung im Körper:
+<extra_id_0> des Präsidenten Hosni Mubarak vom 26. Februar 2005 ist der Präsident ein freie Wahlen mit mehreren zugelassenen Kandidaten gewählt.
+<extra_id_0> Alexandria. Vom Großreich zur Provinz === Vom Großreich zur Provinz === Vom Großreich zur Provinz === Vom Großreich zur Provinz
+<extra_id_0> entstand.
+<extra_id_0> der Evolutionsbiologie.

pytorch_model.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:1509355aef2f8fd6d7bb4e4cef14bc34d762ddae9f60e4d763f66754c518f4a5
-size 1200724741
+oid sha256:64b5aed4604892e3310d4362d0c004a2429001089c86d166d7ea5e386ec17c34
+size 1200727429

tokenizer.json

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:ff0d2a9b1e74c78117caaf355264121c1391aef3c28f883e132e87710411e3cf
-size 16315302
+oid sha256:4ef4273f90fa3341fdb81c66eb7973b1651a8183e57c8ab9e9144aac61b48f9f
+size 16330550

tokenizer_config.json

@@ -2,7 +2,7 @@
   "additional_special_tokens": null,
   "eos_token": "</s>",
   "extra_ids": 0,
-  "name_or_path": "lmqg_output/mt5-small-dequad-qag/best_model",
+  "name_or_path": "google/mt5-small",
   "pad_token": "<pad>",
   "sp_model_kwargs": {},
   "special_tokens_map_file": "/home/c.c2042013/.cache/huggingface/transformers/685ac0ca8568ec593a48b61b0a3c272beee9bc194a3c7241d15dcadb5f875e53.f76030f3ec1b96a8199b2593390c610e76ca8028ef3d24680000619ffb646276",

trainer_config.json

@@ -0,0 +1 @@
+{"dataset_path": "lmqg/qag_dequad", "dataset_name": "default", "input_types": ["paragraph"], "output_types": ["questions_answers"], "prefix_types": null, "model": "google/mt5-small", "max_length": 512, "max_length_output": 256, "epoch": 3, "batch": 8, "lr": 0.0001, "fp16": false, "random_seed": 1, "gradient_accumulation_steps": 16, "label_smoothing": 0.15}