Hugging Face's logo

universalner
/
uner_ser_set

Token Classification
Transformers
PyTorch
xlm-roberta
Generated from Trainer
Eval Results
Inference Endpoints
Model card Files Community
Shuheng Liu commited on
Commit
bf52f2e
•
1 Parent(s): e1f95f5

Upload model

Browse files
Files changed (14) hide show
  1. .gitattributes +1 -0
  2. README.md +87 -0
  3. all_results.json +25 -0
  4. config.json +51 -0
  5. eval_results.json +12 -0
  6. predict_results.json +10 -0
  7. predictions.txt +521 -0
  8. pytorch_model.bin +3 -0
  9. special_tokens_map.json +15 -0
  10. tokenizer.json +3 -0
  11. tokenizer_config.json +20 -0
  12. train_results.json +8 -0
  13. trainer_state.json +37 -0
  14. training_args.bin +3 -0
.gitattributes CHANGED
@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
 
 
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
36
+ tokenizer.json filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,87 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ base_model: xlm-roberta-large
4
+ tags:
5
+ - generated_from_trainer
6
+ datasets:
7
+ - uner_ser_set
8
+ metrics:
9
+ - precision
10
+ - recall
11
+ - f1
12
+ - accuracy
13
+ model-index:
14
+ - name: uner_ser_set
15
+ results:
16
+ - task:
17
+ name: Token Classification
18
+ type: token-classification
19
+ dataset:
20
+ name: uner_ser_set
21
+ type: uner_ser_set
22
+ config: default
23
+ split: validation
24
+ args: default
25
+ metrics:
26
+ - name: Precision
27
+ type: precision
28
+ value: 0.9338624338624338
29
+ - name: Recall
30
+ type: recall
31
+ value: 0.9489247311827957
32
+ - name: F1
33
+ type: f1
34
+ value: 0.9413333333333335
35
+ - name: Accuracy
36
+ type: accuracy
37
+ value: 0.9930792962561494
38
+ ---
39
+
40
+ <!-- This model card has been generated automatically according to the information the Trainer had access to. You
41
+ should probably proofread and complete it, then remove this comment. -->
42
+
43
+ # uner_ser_set
44
+
45
+ This model is a fine-tuned version of [xlm-roberta-large](https://huggingface.co/xlm-roberta-large) on the uner_ser_set dataset.
46
+ It achieves the following results on the evaluation set:
47
+ - Loss: 0.0440
48
+ - Precision: 0.9339
49
+ - Recall: 0.9489
50
+ - F1: 0.9413
51
+ - Accuracy: 0.9931
52
+
53
+ ## Model description
54
+
55
+ More information needed
56
+
57
+ ## Intended uses & limitations
58
+
59
+ More information needed
60
+
61
+ ## Training and evaluation data
62
+
63
+ More information needed
64
+
65
+ ## Training procedure
66
+
67
+ ### Training hyperparameters
68
+
69
+ The following hyperparameters were used during training:
70
+ - learning_rate: 3e-05
71
+ - train_batch_size: 16
72
+ - eval_batch_size: 16
73
+ - seed: 42
74
+ - optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
75
+ - lr_scheduler_type: linear
76
+ - num_epochs: 5.0
77
+
78
+ ### Training results
79
+
80
+
81
+
82
+ ### Framework versions
83
+
84
+ - Transformers 4.31.0
85
+ - Pytorch 1.10.1+cu113
86
+ - Datasets 2.14.4
87
+ - Tokenizers 0.13.3
all_results.json ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "eval_accuracy": 0.9930792962561494,
4
+ "eval_f1": 0.9413333333333335,
5
+ "eval_loss": 0.04399760439991951,
6
+ "eval_precision": 0.9338624338624338,
7
+ "eval_recall": 0.9489247311827957,
8
+ "eval_runtime": 1.4789,
9
+ "eval_samples": 537,
10
+ "eval_samples_per_second": 363.114,
11
+ "eval_steps_per_second": 22.99,
12
+ "predict_accuracy": 0.9929953594256195,
13
+ "predict_f1": 0.9617422012948793,
14
+ "predict_loss": 0.056257136166095734,
15
+ "predict_precision": 0.9589201877934272,
16
+ "predict_recall": 0.9645808736717828,
17
+ "predict_runtime": 1.4293,
18
+ "predict_samples_per_second": 364.515,
19
+ "predict_steps_per_second": 23.088,
20
+ "train_loss": 0.03677053214830645,
21
+ "train_runtime": 220.3164,
22
+ "train_samples": 3329,
23
+ "train_samples_per_second": 75.55,
24
+ "train_steps_per_second": 4.743
25
+ }
config.json ADDED
@@ -0,0 +1,51 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "_name_or_path": "xlm-roberta-large",
3
+ "architectures": [
4
+ "XLMRobertaForTokenClassification"
5
+ ],
6
+ "attention_probs_dropout_prob": 0.1,
7
+ "bos_token_id": 0,
8
+ "classifier_dropout": null,
9
+ "eos_token_id": 2,
10
+ "finetuning_task": "ner",
11
+ "hidden_act": "gelu",
12
+ "hidden_dropout_prob": 0.1,
13
+ "hidden_size": 1024,
14
+ "id2label": {
15
+ "0": "O",
16
+ "1": "B-PER",
17
+ "2": "I-PER",
18
+ "3": "B-ORG",
19
+ "4": "I-ORG",
20
+ "5": "B-LOC",
21
+ "6": "I-LOC",
22
+ "7": "B-OTH",
23
+ "8": "I-OTH"
24
+ },
25
+ "initializer_range": 0.02,
26
+ "intermediate_size": 4096,
27
+ "label2id": {
28
+ "B-LOC": 5,
29
+ "B-ORG": 3,
30
+ "B-OTH": 7,
31
+ "B-PER": 1,
32
+ "I-LOC": 6,
33
+ "I-ORG": 4,
34
+ "I-OTH": 8,
35
+ "I-PER": 2,
36
+ "O": 0
37
+ },
38
+ "layer_norm_eps": 1e-05,
39
+ "max_position_embeddings": 514,
40
+ "model_type": "xlm-roberta",
41
+ "num_attention_heads": 16,
42
+ "num_hidden_layers": 24,
43
+ "output_past": true,
44
+ "pad_token_id": 1,
45
+ "position_embedding_type": "absolute",
46
+ "torch_dtype": "float32",
47
+ "transformers_version": "4.31.0",
48
+ "type_vocab_size": 1,
49
+ "use_cache": true,
50
+ "vocab_size": 250002
51
+ }
eval_results.json ADDED
@@ -0,0 +1,12 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "eval_accuracy": 0.9930792962561494,
4
+ "eval_f1": 0.9413333333333335,
5
+ "eval_loss": 0.04399760439991951,
6
+ "eval_precision": 0.9338624338624338,
7
+ "eval_recall": 0.9489247311827957,
8
+ "eval_runtime": 1.4789,
9
+ "eval_samples": 537,
10
+ "eval_samples_per_second": 363.114,
11
+ "eval_steps_per_second": 22.99
12
+ }
predict_results.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "predict_accuracy": 0.9929953594256195,
3
+ "predict_f1": 0.9617422012948793,
4
+ "predict_loss": 0.056257136166095734,
5
+ "predict_precision": 0.9589201877934272,
6
+ "predict_recall": 0.9645808736717828,
7
+ "predict_runtime": 1.4293,
8
+ "predict_samples_per_second": 364.515,
9
+ "predict_steps_per_second": 23.088
10
+ }
predictions.txt ADDED
@@ -0,0 +1,521 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ B-LOC O B-LOC O O O O O
2
+ O O B-LOC O B-LOC O O O B-LOC O O O O O O O O O
3
+ O O O O O O O O O B-LOC O O B-LOC O
4
+ O O O B-LOC O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O
5
+ O O O O B-LOC O O B-ORG I-ORG B-PER I-PER O O O O O O O O O O O O O O B-LOC O O
6
+ O O O O O B-PER I-PER O O O O B-LOC O O O B-LOC O O B-LOC O O O O O O O O O O O O
7
+ O B-PER I-PER O O O O O O O O O O O O O O O O B-PER O O O O O B-LOC O O O O O O O O O O B-LOC O
8
+ O O O O B-LOC O O O O O B-LOC O O O O O O O O O O O O O O O
9
+ O O O O O O O O O B-LOC O O O O O O
10
+ O O B-LOC O O O O O O O O O O O B-LOC O O O O O O O O O O O
11
+ O O O O O O O O O O O O O O O B-LOC O B-LOC O
12
+ O O O O O O O O O O O O O O O O O O B-ORG O B-LOC O B-LOC O
13
+ O O B-PER O O O O O O O O O O O O O O O O O O O O O O
14
+ O O O O O O B-LOC O O O B-LOC O O O B-ORG I-ORG I-ORG O O O O O O O O B-LOC O O O O O B-ORG B-PER I-PER O O O B-ORG I-ORG I-ORG O
15
+ O O O O O O O O
16
+ O B-ORG I-ORG I-ORG I-ORG I-ORG B-PER I-PER O O O B-ORG O O O O O O O O O O B-ORG O O O O O O B-LOC O B-LOC O O
17
+ O O O O O O O O B-LOC O B-PER O O O O B-LOC O O O O O O O O O O B-LOC O O O B-ORG I-ORG O O O O
18
+ O O O O B-ORG O I-ORG B-PER I-PER O O B-ORG O O O O O O O O
19
+ O O O B-PER I-PER O O O O O B-LOC O B-LOC O O O O O B-LOC O B-ORG O O O O O B-LOC O
20
+ O O O O O O O O O O B-LOC O O O O B-PER O
21
+ O O O O O O O O
22
+ B-PER I-PER O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O B-LOC O
23
+ O O O O B-LOC O O B-LOC O O O O B-LOC O O O B-ORG I-ORG O O O O B-PER O O O O
24
+ O O B-PER I-PER O O O O O O O O O O O O O O O O O O O O B-LOC O
25
+ O O O O B-LOC O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O
26
+ O B-ORG O O O O O B-ORG I-ORG O O O O O
27
+ O B-PER I-PER I-PER O O O O O B-ORG I-ORG O O O O O O O O O O O
28
+ O O B-LOC I-LOC I-LOC O O O O O O O O O O
29
+ O O O O O B-LOC I-LOC O O O O O O O O O O O B-ORG O O O O B-PER I-PER I-PER O O O O O O O
30
+ O O O O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
31
+ O O O O O O O O O O O O O O O O B-PER I-PER O O O O O B-LOC O O O O O O O O O B-LOC I-LOC O
32
+ O O O O O O O O O O O
33
+ O O O O
34
+ B-ORG I-ORG O O O O O O B-PER I-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O
35
+ O O O O B-ORG O B-LOC O O O O O O O O O O O O O O B-PER I-PER O O O O O O O O O
36
+ O O O O O O O O O O O O O O O O O O O O O B-LOC O O B-ORG O
37
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
38
+ O O O O O O O O O O O O O O O B-LOC O
39
+ O O O O O O O O O O B-ORG I-ORG O O O O B-LOC O O O O
40
+ O O O O O O O O O O O O O O B-ORG O O O O B-PER I-PER I-PER O O O O O O O O O O O O O O O O
41
+ O B-PER I-PER O O O B-PER I-PER I-PER O O O O O O O O O O O O B-LOC I-LOC I-LOC O B-LOC O B-LOC O O O O O O O O O O O B-ORG I-ORG O
42
+ O O O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O
43
+ O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O
44
+ O O O O O O O O O O O O O O O O O O O O O O B-LOC O
45
+ O B-ORG O O O O O O O O O O O B-LOC O O O O O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O
46
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O
47
+ O O O O O O O O O O O O B-ORG O O O O O O O B-LOC O B-LOC O O O O O O O O O O O O O O
48
+ O O O O O O O O O O O B-PER I-PER O O O O O O O O O O O O
49
+ O O B-ORG O B-LOC
50
+ O O O O O O B-ORG O B-LOC O O O O O O O O O O O O O O O O O O O B-LOC O
51
+ O O B-ORG O O O B-LOC O O O O O O O O O O O O O O O O O O O O
52
+ O O O O O O O O B-ORG O B-LOC O O O O O O O O O
53
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O
54
+ O O B-ORG O O O O O B-LOC O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O O
55
+ O O O O O O O O O O O O O O O O O B-LOC I-LOC O
56
+ O O O O O O O O B-ORG O
57
+ O O B-PER I-PER O O O O O B-ORG O O O O O O O O O O B-ORG O
58
+ O O O O O O O O O O O O O O O O
59
+ O O O O O O O O B-PER I-PER O
60
+ O O O O O O O O O B-ORG O B-LOC O
61
+ O B-ORG O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O B-LOC O O O O O O O
62
+ O B-LOC B-PER I-PER O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O
63
+ O O B-LOC O O O O O O O O O O O O O O
64
+ O O O B-LOC O O B-PER I-PER I-PER O O O B-ORG I-ORG O
65
+ O O B-PER O O O O O O O O O O O O O O O O O O O O O O B-LOC O B-LOC I-LOC O O O B-LOC O B-LOC O
66
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
67
+ O O O O O O O O O O O O O O O O O O O O
68
+ O O O O O O O O O O O O O O O B-PER O
69
+ O O O O O O B-LOC O O O B-ORG O
70
+ O B-LOC O O O O O O B-ORG O O O O B-PER O
71
+ O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O
72
+ O B-ORG O O O O O O O O B-ORG O B-LOC I-LOC I-LOC O O O O O O O B-ORG O
73
+ O O O O O O O O O O B-ORG O B-LOC O B-LOC O B-LOC O O O O O O O O O O O O O O O O O O O O O B-ORG O
74
+ O O O O O O O
75
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
76
+ O B-LOC O O O O O O O O O O O O O O O O O O O O
77
+ O O O O O O O O O O O O O O B-LOC O O O O O O O B-LOC O O O O O O
78
+ O O O O O O O O O O O O O O O O O O O
79
+ O O O B-ORG I-ORG I-ORG O B-ORG O O O O O O O O O O O O O O
80
+ O O O O O O O O O O B-LOC O O O O O O O O O
81
+ O O O O O O O O O O O B-LOC O O O O O O O O O O O O
82
+ O O O O O O O O O O O O O O O O O O O
83
+ O O O O O O O O O O O O O
84
+ O O O O O O O O O O O O O O
85
+ O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O
86
+ O O O O O O O O O O O O O
87
+ O O O O O O B-LOC O O O O O O O O O O O O O
88
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
89
+ O O O B-ORG O B-ORG O O O O O O O O O O O O O
90
+ O O O O O O O O O
91
+ O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O B-LOC O
92
+ O O O O O O O O O O O O O O O O O O
93
+ O O O O O O O O O O O O O O B-LOC O
94
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
95
+ O O O O O O O O O
96
+ O O O O O O O O O O O O O O O
97
+ O O O O O O O B-PER I-PER O O O O
98
+ O O O O O O O O O
99
+ O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O O
100
+ O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O
101
+ O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O
102
+ B-LOC O O O O O B-ORG
103
+ O O O O O O O B-ORG O B-LOC O O O O O O O O O B-PER I-PER O
104
+ O O O O O O O O O O O B-ORG I-ORG I-ORG O O O
105
+ O B-PER I-PER O O O O O O O O O O B-LOC O
106
+ O O O O O O O O O O O O O O O O B-PER I-PER O O O O O O O B-ORG O B-LOC O O O O O O
107
+ O O O O O O O O O O O B-ORG I-ORG I-ORG O B-ORG O O O O O O
108
+ B-ORG O O O O O O O O O O B-PER O O O O
109
+ O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O B-ORG O
110
+ O O O O O O O O O O O B-LOC O O O O B-ORG O
111
+ B-LOC O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O
112
+ O B-PER O O O O O O O O O B-LOC O O O O O B-ORG B-PER I-PER O O O O O O
113
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O
114
+ B-PER I-PER O O O O O O B-ORG I-ORG I-ORG O B-ORG O O O O O O O O O B-ORG O O O O O
115
+ B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
116
+ B-ORG O O O B-LOC O O O O B-LOC O
117
+ O O O O O O O O O O O O
118
+ O O O O O O O O B-PER I-PER O O O O O O B-ORG O O O O O O B-PER O
119
+ O O O O O O O O O O O O O O O O O O O O O O O O
120
+ O B-PER O O O O O O O B-PER O O O O O O O O O O B-ORG O O O O O O
121
+ O O O O B-ORG O O B-PER O O O O O O O O O O O O O O O O O O O
122
+ O B-PER I-PER O O B-ORG O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O
123
+ O O O O O O O O O O O
124
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
125
+ O O O O O O O B-LOC O O O O O O O O O O O
126
+ O O O O O O
127
+ O O O O O O O B-PER I-PER I-PER O O O O O O B-PER I-PER O O O O O O O O O O O O
128
+ O O B-PER I-PER I-PER O
129
+ O O O B-PER I-PER O O O O O O O O O O O O
130
+ O O O O B-ORG I-ORG I-ORG I-ORG O B-ORG O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O
131
+ O O O O O O O O O O O B-PER I-PER I-PER O O O O O O O O
132
+ O B-PER O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O
133
+ O O O O O O O O O O O O O O O
134
+ O O O O O O O O B-PER I-PER I-PER O O O O
135
+ B-ORG O O O O O O O
136
+ O O O O O O O O O O O O O
137
+ O O O O O O O O O O O O O O O O O O
138
+ O O O O O B-PER O O O O O O O O O O O O O
139
+ O O O O O B-PER O O O O O O O O O O
140
+ O O O O O O O O O O B-ORG O O B-LOC O O O O O
141
+ B-PER O O O O O O O O O O O O O O O O O O O
142
+ O O O O O O O O O B-PER O O O O O O O O O O O O
143
+ O O O O O B-PER O O O O O O
144
+ O O O O O O O O O O O O O O O O O O O O
145
+ O O O O O O O
146
+ O O B-ORG O O O O O O B-PER I-PER O O O O O O B-ORG O O O O O O O O O O O O
147
+ O O O O B-PER O O O O B-PER O O O O O O O O O O O O O O O O O O O B-ORG O
148
+ O O O B-PER I-PER O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O
149
+ O O O O B-PER I-PER O B-LOC O O O O O O
150
+ O B-ORG I-ORG O O O O O O O O O O O O O O O O O B-LOC O O O O O O
151
+ O O O O O O O O O
152
+ B-ORG O O O O O O O O O
153
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG B-PER I-PER O
154
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
155
+ B-LOC O O O O O O B-PER
156
+ O O O O O O O O O B-LOC O B-PER O O O O O O O O O O O O O
157
+ O O O O O O O O O B-PER I-PER O O O O B-LOC I-LOC O O O O O
158
+ O B-LOC B-PER I-PER O O B-ORG I-ORG O O O O O O O O O O O O O O B-PER I-PER O O O O O O
159
+ B-PER O O O B-PER O O O O O O O O O O O O O O O O O O
160
+ O B-PER I-PER O O O O B-PER O O O O O O O O O O O O
161
+ B-PER O O O O O O O B-ORG I-ORG O O O O O O O O O O O
162
+ O O O B-ORG I-ORG I-ORG I-ORG B-PER I-PER O O B-ORG I-ORG O O O O O O O O O O O
163
+ O O O O O O O O O O O O O O B-ORG I-LOC O
164
+ O O O O O O B-PER O O O O O O O O O O O O
165
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
166
+ O O O O O O O B-PER O O O O O O O O
167
+ O O O B-PER O O O O O O O O O O O O O O O O O
168
+ O O O O O O O O B-ORG I-ORG B-PER I-PER O B-LOC O O O O O
169
+ O O B-PER O O O O O O O O O O O O O O
170
+ O O O B-ORG I-ORG I-ORG I-ORG O B-PER O O O O O O O O O O O O O O O O O O O O O O
171
+ O O O O O O O B-PER O O O O O O O
172
+ B-PER O O O B-PER I-PER O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O B-ORG I-ORG O B-ORG I-ORG I-ORG I-ORG O O O O O O
173
+ O O O B-PER O O O O O O B-PER O O O O O O O O O O O
174
+ O O O O O O O O O O B-PER O O O O O O O O O B-PER I-PER O O O O O O O O O O
175
+ O O O O O O O O O O O B-PER I-PER O O O O O O
176
+ O O O O O O O O O O O O O O O O O O O O B-LOC O
177
+ O O O O O B-ORG I-ORG O B-LOC O O B-LOC O
178
+ O O O O O O O O O O O O O O O
179
+ O O O O O B-PER I-PER O O O O O O O O O
180
+ O O O O O B-ORG I-ORG O O O O
181
+ O O O B-ORG I-ORG O O O O B-ORG I-ORG O O O O O O O O
182
+ O O O O B-LOC O O O O O
183
+ O O O B-ORG O O O O O O O O O B-LOC I-LOC O O O O O O O O O O O
184
+ O O B-ORG O B-ORG O O O O O B-ORG O O O O O O O O O O O O O O O O
185
+ B-LOC O O O O O O O O O O O O O O
186
+ B-PER O O O O O O O O O O O O O
187
+ O O O O O O O B-LOC O O O O
188
+ O O O O O O O O O O O O O O O O O O O
189
+ O O O O O O O O O O O O O O O O O O O O O O O O O
190
+ O O O O O O O O O O O O O O O
191
+ O O O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
192
+ O O O O O O O O O O
193
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
194
+ O O O O O O O O O O O O O O O O O O O O B-ORG O
195
+ O O O O B-LOC O O O O O O O O O O O B-LOC O
196
+ O O O O O O O O O O B-LOC O O O O O O O O O B-LOC I-LOC O O O O O O
197
+ O O O O B-PER O O
198
+ O O O B-ORG I-ORG I-ORG B-LOC I-LOC O
199
+ O O O O O O O O O O O O O O O O O O O B-LOC O
200
+ O O O O O O O O O O O
201
+ O O O O B-ORG I-ORG O O B-ORG I-ORG O B-ORG I-ORG I-ORG I-ORG I-ORG O B-LOC O
202
+ O O B-PER O O O O O O O O
203
+ O O B-LOC O O O O O O O O B-ORG O O O O B-LOC O O O O O O
204
+ O O O O O O B-PER I-PER O O O B-LOC I-LOC O O O O O O
205
+ O O B-PER I-PER O O O O O O O O B-PER I-PER O O O O B-LOC O O O O O O O
206
+ B-PER O O O O O O O O O O O O B-LOC B-ORG O
207
+ O O B-PER I-PER O O O O O O O O O B-LOC O O O O O O O O B-ORG I-ORG I-ORG I-ORG O
208
+ O O O O O O B-PER I-PER O O B-PER I-PER O O O O B-PER I-PER O
209
+ O O O O B-PER O O O O B-LOC O O O O O O
210
+ O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O
211
+ O O B-PER I-PER O O O O O O O O O B-LOC I-LOC O O O O O O O O O
212
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O
213
+ O O O O O O O B-PER I-PER O O B-ORG I-ORG I-ORG I-ORG B-PER I-PER O O O O O O O
214
+ O O O O O O O B-LOC O O O O O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O O O O O O
215
+ O O O O O O O O B-LOC B-PER I-PER O O B-LOC B-PER I-PER O O B-LOC I-LOC B-PER I-PER O
216
+ O O O B-PER I-PER O O O O O O O O O B-LOC O O O O O B-PER I-PER O
217
+ O O B-PER I-PER I-PER O O O O O O O O O O O O O B-PER I-PER O
218
+ O O O O O O O O O O B-LOC I-LOC O
219
+ B-PER O O O O O O B-PER I-PER I-PER O O O O O O O O O O O O O O O O O O O
220
+ O O B-PER I-PER O O O O O O O O O O O O O B-LOC B-PER I-PER O
221
+ O O O O B-LOC O O O
222
+ B-LOC O O O B-LOC O O O O O O O O B-LOC O O O O O
223
+ O O O O B-LOC B-PER I-PER O O O O O O O O O O B-PER I-PER O B-LOC O
224
+ B-LOC O O B-LOC O O O
225
+ O B-ORG O B-LOC O O O O B-LOC
226
+ O B-LOC O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O
227
+ O O O O O O O O O O O O
228
+ O O O O O O O O O O O O O O B-LOC O O O O O O O O B-ORG B-PER I-PER I-PER O
229
+ O O O O O B-LOC O O O O O O O O O B-LOC O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O B-ORG O O O O O O
230
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O B-ORG O O O O
231
+ O O O O O O O O O O O O O O B-LOC O O O O O O B-ORG B-PER I-PER I-PER O O O O
232
+ O O O O O O O O O O O O O O O O O B-LOC O
233
+ O O O O O B-ORG O O O O O O O O O O O O O O B-ORG O O O O O O O
234
+ O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
235
+ O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O
236
+ O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O B-PER O B-LOC O
237
+ O O O O O O O O O B-ORG O
238
+ O O O O O O
239
+ O O O O O O O O O
240
+ O O O O O O O O O O O O O O O O O O O O O O B-PER O
241
+ O O O O O O O O O O O O O O O O O O O O O
242
+ O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
243
+ B-PER O O O O O O O O O O O O B-LOC O
244
+ B-PER O O O O O B-LOC O O O O O
245
+ O O B-ORG B-PER I-PER O O O O O B-ORG I-ORG I-ORG I-ORG O O O O O O O B-LOC O O O O O O O O O
246
+ O O O O B-ORG B-PER I-PER O O O O B-LOC O O O O O O O B-LOC O
247
+ O O O O O O O B-LOC O O O O O O O O O B-ORG B-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O O O
248
+ O O B-ORG I-ORG I-ORG I-ORG O B-ORG O O B-LOC O O B-LOC O B-PER O O O O O O O O O O O O B-LOC O B-LOC O O O O O O O O O O
249
+ B-PER O O O O O O O O O O O
250
+ O O O O O O O O O O O O O O O O O O O O
251
+ O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O
252
+ O O O O O O O O O O O O O O O O O B-LOC O O
253
+ O O O O B-LOC O B-LOC O O O B-ORG O O O O O O O O
254
+ O O O O O O O O O O O O O O O O O O O O B-LOC O
255
+ O B-LOC O O O O O O O O O O O O O O O O O O O O O
256
+ O O O O B-PER O O O O O O O O O B-ORG O
257
+ O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O B-ORG O
258
+ O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O
259
+ O O O O O O O O O O O O O O O O O O O O O O O B-PER O
260
+ O O O O O O B-LOC O O O O O O O O O O O O O O O O
261
+ O O O O O O O O O O
262
+ B-LOC O O O O O O O O O O O O O O
263
+ O B-ORG O O O O O O O B-LOC O O O B-ORG I-ORG O O O B-LOC O B-LOC O B-LOC O B-LOC O B-LOC O B-LOC I-LOC O
264
+ O O O O O O O B-LOC O B-LOC O O O O O O O O O O O O O O O O O O
265
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O O O O O B-ORG O
266
+ O O O O O O O O O O O O O O
267
+ O O O O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O O O
268
+ O B-LOC O O B-LOC O O O O
269
+ O B-LOC B-PER I-PER O O O O O O B-LOC I-LOC I-LOC O O O O O O O O O O O O O O
270
+ O B-LOC B-PER I-PER O O O O B-LOC O
271
+ B-LOC I-LOC I-LOC O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC B-PER I-PER O B-LOC O O O O O O O O O B-LOC O
272
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O
273
+ O O O O O O O O O O O O O O
274
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
275
+ O O O O O O O O O O O O O B-PER O
276
+ O O O O O O
277
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
278
+ O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O O
279
+ O O O O O O B-LOC O O O O O
280
+ O O O O O O O O B-LOC O
281
+ O O O O O O O O O O O B-PER O
282
+ O O O O O B-LOC O O O O O O O O O O O O O O O O O
283
+ O O B-LOC O O O O O O O O B-LOC I-LOC O B-LOC O O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O
284
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O
285
+ O O O O O O O O O O O O O O O O O O O O O O O B-PER O
286
+ O O O O O B-LOC O O B-LOC O O O O O O O
287
+ O O O O O O O O O O O O O O O O O B-LOC O O O O B-PER O
288
+ O B-LOC O O O O O O O O O O
289
+ O O O O O O O O B-LOC O O O O O B-LOC O B-PER O O O O B-ORG O O O O O B-PER I-PER O O O O O O B-ORG B-PER I-PER O
290
+ O O O O O O B-LOC O O O O O O B-PER I-PER O O O B-PER O O O O B-LOC O O B-LOC O O O
291
+ B-PER O O O O O
292
+ O O O O O O B-ORG I-ORG I-ORG O O O O O O O O B-LOC O O O O O O O B-LOC O O O O O O O O
293
+ O O O O B-LOC O O O O O O O B-PER I-PER O
294
+ O O O O O O O O O O O
295
+ B-LOC O O O O O O O B-LOC O O O O O O B-PER I-PER O O O O O O O O O O O O O O O O O O O B-ORG O O O
296
+ B-PER O O O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O B-LOC O O O O O B-LOC O B-LOC O
297
+ O O O O O O O O O O O B-LOC O B-LOC I-LOC O B-LOC O B-LOC O B-LOC O B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O
298
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER I-PER O
299
+ O O O O O O O O O O B-ORG O
300
+ O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O
301
+ B-LOC O O O O O O O O B-LOC I-LOC O O O O O O O O
302
+ B-LOC O O O O O O O O O O B-ORG B-PER I-PER O O O O B-LOC O O O O
303
+ O O O O O O O O O O B-LOC O O O O O O
304
+ B-LOC O O O O O O O O O O O B-LOC O
305
+ O O O B-ORG O O O O O O O O O O B-LOC O B-LOC O O O O B-ORG I-ORG O O O O
306
+ O O O O O B-ORG O O O O O O O O O O O O O
307
+ B-LOC O O O O O O O B-LOC O O O O O O B-ORG O O O O O O
308
+ O O B-ORG O O O B-PER I-PER O O O O O O O B-LOC O O O O O O B-ORG I-ORG O O B-LOC I-LOC O B-LOC O B-LOC O B-LOC O B-LOC O B-LOC I-LOC O O O O O O O O
309
+ O O O O O O O O O B-ORG I-ORG O O O O O O O O O B-PER O O O O O O B-ORG O
310
+ O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O
311
+ O O O O O O O O O O
312
+ O O O O O O B-PER I-PER O O O O O O B-PER O O O O O O O O O B-LOC O O O O O O O O
313
+ O O O O B-LOC O O O O O O O O O B-LOC O
314
+ O O O O O O O O O O O
315
+ B-PER O O O O O O B-PER O O O B-LOC O O O O O O O O O O O O O O O
316
+ O O O O O O O O O O O O O O O O O O O
317
+ O O O O O O O O O O B-LOC O O O O O O O B-PER I-PER O
318
+ O O O O O O B-LOC O O O O O O O O O
319
+ B-PER I-PER O O O O B-ORG O O O O B-ORG O O O O O O O O O O O O B-LOC O O O O O O O O B-LOC O O O O O O O
320
+ O O O O B-LOC O O O O
321
+ O O O O O O O O O O B-LOC O
322
+ O O O O O O O O B-LOC O O O O O O O O O O O B-LOC O O O O O O
323
+ B-LOC O O O O O O O O O O O
324
+ B-LOC O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O
325
+ O O O O O O O O O O O O O O O O O
326
+ O O O O O O O O O O O O
327
+ B-ORG I-ORG O O O B-LOC O O O O O O O O O O O O O O O O O B-ORG I-ORG O
328
+ O O O O B-ORG O O B-PER I-PER O O O O O O O B-ORG O O O O O O
329
+ O B-ORG I-ORG O O O O O O O O O O O O O O O
330
+ O O B-LOC O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG O
331
+ O O O O O O O O O O O O O O O O O O B-LOC O
332
+ O O O O O O O O O O O O B-ORG O O O O O
333
+ O O O O O O O O O O O B-LOC O
334
+ O O O O O O O O O O O B-LOC O
335
+ O O O O O O O O O O O O O O O O
336
+ O O O O O
337
+ O O B-LOC O O O O O O O O O O
338
+ O O O O O O O O O O O O
339
+ O O O B-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O O
340
+ B-PER I-PER O O O O O O O O O O O O
341
+ O O O O B-LOC O O O O O O O O O O B-LOC O
342
+ B-LOC I-LOC I-LOC O O O O O O O
343
+ O O O O O O O O O O O O O O B-LOC I-LOC I-LOC O O O O O O O O O O O O
344
+ B-LOC I-LOC I-LOC O B-LOC O O O O O O O O O O O O O O O O O O O O B-ORG O B-ORG O O O O O O
345
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
346
+ O O O O O O O O O O O O O O O B-LOC O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O O O O O O B-LOC O B-PER I-PER O O O O O O O B-ORG O O O O B-ORG O O O O B-LOC O O O O O O O
347
+ O O B-LOC O O O O O O B-LOC O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O
348
+ O B-ORG O O O O O O O O O O B-LOC O O O O O O O O O O B-ORG O O O O O O O O O
349
+ O O O O O B-ORG O O O O O O O B-LOC O O O O O O O O O O O O O
350
+ O O B-ORG O O O O O B-PER I-PER O O O O O O O O O O O O O O O B-LOC O O B-ORG O
351
+ O B-LOC O O O B-LOC O O O O O O B-PER O O O O B-ORG I-ORG O O O B-ORG I-ORG O
352
+ O O O O O O B-ORG O O O
353
+ O O O O O O O O O B-LOC O O O O O O O O O O O O O O B-PER O
354
+ O O O O O O O O O O B-LOC O O O O O O B-PER O O O O O O O O O B-LOC O O O O O O O
355
+ O O O O O O O O O B-LOC O O O O O O O O O O O O
356
+ O O O O O O O O O O O O O O O O O O O O O O
357
+ B-ORG I-ORG O O O O O O O O O O O
358
+ O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O
359
+ O O O B-PER O O B-ORG O O B-PER I-PER O O O O O O O O O O O O B-LOC O B-ORG O O O O O O O O O O O O B-ORG O
360
+ O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O
361
+ O O B-ORG I-ORG I-ORG O O O O O O O O O O O O O O O
362
+ O O O O B-ORG O O O O O O O B-LOC O O O O O O O O O
363
+ B-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O B-PER O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O
364
+ O O O O O
365
+ O O O O O O O O O O O O O O O O B-LOC I-LOC O O O O
366
+ O O B-LOC O O O
367
+ O O B-ORG I-ORG O O O O O O O O O O O O O O O O B-ORG O O O O O
368
+ O O O O O O O O O O O O O O O O O O O O O
369
+ O O O O O O O O O O
370
+ O O O O O O O O
371
+ O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O
372
+ O O O O O O O O O O
373
+ O O O O O O O O O O O O O O O O O O O O O
374
+ O O O O O O O O O O O O O O O O
375
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
376
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG B-PER I-PER O
377
+ O O O O O O O O O O O O
378
+ O O O O O O
379
+ O O O O O O O O O O O B-LOC O B-LOC I-LOC O O O O O O O O O O O O
380
+ O O O O O O O O O O O O O O O O O O
381
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O O O O O O
382
+ O O O O O O O O O O B-LOC I-LOC O O O O O
383
+ O O O O O O O O O O O O O O O O O O O
384
+ O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG B-PER I-PER O B-ORG O
385
+ O B-ORG I-ORG O O O O O O O O O O O O
386
+ O O O O O O O O O O O O O O O O O O
387
+ O O O O O O O
388
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
389
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O
390
+ O O O B-LOC I-LOC O O O O O O O O O O O O B-ORG B-PER I-PER O O O O O O O O O O O O O O O O
391
+ O O O O O O O
392
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O B-ORG O
393
+ O B-LOC O O O O O O
394
+ O O O O O O O O O O O O O O O O O O
395
+ B-LOC I-LOC O O O O O O B-LOC O
396
+ O O O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O B-ORG O
397
+ O O O O B-LOC O O O O O O O O O O O O O O O
398
+ O O O O O O O O O O O O O O O O B-LOC O
399
+ O O O O O O O O O
400
+ O O O O O O O O B-LOC O O O O O O O O
401
+ O O O O O O O O O O B-PER I-PER O O O B-ORG O O B-ORG O
402
+ O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O
403
+ O O B-ORG I-ORG I-ORG O B-ORG O O O O O O O O O O O O O O O O O
404
+ B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O
405
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O B-PER I-PER O B-ORG O
406
+ O O O O O O O O O O O O O O O O O O O
407
+ O O O O O O O O O O O
408
+ O O O O O O O O O O O O O O O O O
409
+ O O O O O O O O O O O O
410
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
411
+ O O O O O O O O O O O O B-LOC O O O O O O O O O O O
412
+ O O O O O O O O O O O O O
413
+ O O O O O O O O O O O O O O B-PER O
414
+ O O O O O O O O B-LOC O B-PER O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
415
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O O
416
+ B-ORG O O O O O O O O O O O O B-LOC O B-LOC O B-LOC O O O O O O O O
417
+ O O O O O B-LOC O O O O O O O O B-LOC O
418
+ O O O O O O O O O B-LOC O O O O O O O O O
419
+ O O B-LOC O O O O O O B-LOC O B-LOC O B-LOC O B-LOC O B-LOC I-LOC O
420
+ B-LOC O O O O O O O O O O O O O O O O O O O O O O O
421
+ O O O O O B-LOC
422
+ O O O O O O O O O B-LOC O O O O O O O O O O O O O
423
+ O O O O O O O O O O O O O O B-LOC O
424
+ O O O O O O O O O O O O O O O O O
425
+ O O O O B-ORG I-ORG I-ORG O B-LOC O O O O O O O O O O O O O
426
+ O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O B-ORG I-ORG O
427
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG O
428
+ O O O B-ORG I-ORG O O O O O O O O O O O O O B-PER I-PER O O O O O O O O O O O
429
+ O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O
430
+ O O O O O O O O B-LOC O O O O O O O O O O B-PER I-PER O
431
+ O O O O O O O O O O O O O O O O O O B-LOC B-PER I-PER O O O O O O O O O O O O O O O O
432
+ O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O
433
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
434
+ O O O O O O O O O O O O O O O O O O
435
+ O O O O O O O O O O
436
+ O O O O O O O O O O O O O O O O O O O O O
437
+ B-ORG O O O O O O O O O O O O O O O O O O
438
+ B-PER O O O O O O O O O O
439
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O
440
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
441
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
442
+ O O O O B-ORG I-ORG I-ORG
443
+ O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O B-LOC O
444
+ O O O O O O O O O O O
445
+ O O O O O B-PER I-PER O O O O O B-ORG I-ORG O O O O O O O
446
+ O O O O O O O B-ORG O O O O B-ORG O B-ORG I-ORG I-ORG I-ORG I-ORG O B-LOC O O O O O O O O O O B-LOC O O O O O B-LOC O
447
+ O O B-ORG I-ORG I-ORG O O O O O O O O O O O O O O O O O O O B-LOC O
448
+ O O O O O O O O O O O O O O
449
+ O O O O O O B-LOC B-PER I-PER O O O O O B-ORG I-ORG O O O O O O O
450
+ O O O O O O O O O O O O O
451
+ O O B-ORG I-ORG I-ORG O O B-ORG I-ORG I-ORG O B-ORG O O B-ORG I-ORG O B-ORG O O O O O O O O O O O O O
452
+ O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG O O O B-LOC O
453
+ O O O O O O O O O O O O O O O O O O O B-LOC O B-LOC O
454
+ O O O O O O O B-LOC O O O O O O O O O O O O O O B-LOC O O O O
455
+ O O O O O O O O O O B-ORG B-PER I-PER O O O O O O O O O O O O O O B-LOC O B-PER I-PER O O O O O O O O O
456
+ O O O B-PER O O O O O B-PER O O O O B-ORG B-PER I-PER O O B-ORG I-ORG O
457
+ O O O O O O O B-LOC O O O B-ORG O O O O O O O
458
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O
459
+ O O O O O O O O O O O O O O O O O
460
+ O O O O O O
461
+ O O O O O O O O O O O O O O O O O O O
462
+ B-ORG O O O O O O B-LOC
463
+ B-LOC O B-LOC O O O B-ORG O O O O O O O O O O O O O O O B-LOC O
464
+ O O B-PER I-PER O O O O B-ORG O O O O O O B-LOC O O O O
465
+ B-LOC O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O
466
+ O O O O O O O O O O O O O O
467
+ B-PER O O
468
+ B-PER O O O O O O O O O B-LOC O
469
+ O O O O O O O O O O
470
+ O B-PER O O O B-PER I-PER I-PER O O O O O O B-LOC I-LOC O O O B-LOC O
471
+ O O O O O O O O O O O O O O O O B-LOC O
472
+ O O O O O O O O O O O O
473
+ O O O O O B-PER O
474
+ O O O O O O O B-LOC O O O O O B-LOC O O O O
475
+ O O O O O O O B-LOC O
476
+ O O O O O O O O O O O O O O O
477
+ O O O O O O O O O O O O O O O O O
478
+ O O B-LOC O O O O O O O O O O O O O B-PER I-PER O O O B-PER I-PER I-PER O O O O B-PER I-PER O O O O B-PER I-PER O O O B-PER I-PER O B-PER I-PER O
479
+ B-LOC O O O O O O O
480
+ O O O O O O O O O O O O O O O
481
+ O O O O O O O O O O O O B-PER I-PER O
482
+ O O O O O O O O O O O
483
+ O O O O O O O
484
+ O O O O O O O O O O O O B-PER I-PER I-PER O O O O O O B-ORG O O O O O O O O
485
+ O B-PER O O O O O O O O O O O O O O O O O
486
+ O O O O O O O O O O O O O O
487
+ O O O O O O O O O O O O O O O O O O O
488
+ O O O O O O O O O
489
+ B-LOC O O O O O O O O O
490
+ O O O O O O O O O O O O O O O
491
+ O O O O O O O O O O
492
+ O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
493
+ O O O O O O O O O B-PER I-PER I-PER O
494
+ O O O O O O O O
495
+ O O O O O O O O O O O O O O O O O O O O O O
496
+ O O O O O O O O O O
497
+ O O O O O O O O O O O O O O O O O O O
498
+ O O O O O O O O O O
499
+ O O O O O O O O O O O O O O O B-LOC I-LOC O B-LOC O B-LOC I-LOC I-LOC O
500
+ B-ORG I-ORG I-ORG O O O O O O O O O O O O
501
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
502
+ O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O
503
+ B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
504
+ O O O O O O O O O O O B-LOC O O O O O
505
+ O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O
506
+ O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O
507
+ O O O O O O O O O O O O O O O O O O O O O O O O O
508
+ O O O O B-ORG I-ORG I-ORG O B-PER I-PER O O O O O O B-ORG I-ORG I-ORG O B-PER I-PER O
509
+ O O O O O O O O O O O O O O O O O O O O O
510
+ B-PER O O O O O B-LOC O O O O O O B-PER O O O O O O O O O O O O O
511
+ O O O O O O O O O O O O O O O O O
512
+ O O O O O O O O O
513
+ O O O O O O O O B-LOC O B-LOC O
514
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
515
+ O O O O O O O O O O O O O O O
516
+ O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O B-LOC O O O O
517
+ O O O O O O O O O O O O O O O O O O O O B-LOC I-LOC O O O O O
518
+ O O O O O O O O O O O O O O O
519
+ B-ORG O B-ORG O B-ORG O B-ORG O O O O O O O O
520
+ O O O O O
521
+
pytorch_model.bin ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e7f82502ddf6d82a856d461b156c2c7a4554ab30b385d51abc6e8cc50bdb8194
3
+ size 2235532275
special_tokens_map.json ADDED
@@ -0,0 +1,15 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "bos_token": "<s>",
3
+ "cls_token": "<s>",
4
+ "eos_token": "</s>",
5
+ "mask_token": {
6
+ "content": "<mask>",
7
+ "lstrip": true,
8
+ "normalized": false,
9
+ "rstrip": false,
10
+ "single_word": false
11
+ },
12
+ "pad_token": "<pad>",
13
+ "sep_token": "</s>",
14
+ "unk_token": "<unk>"
15
+ }
tokenizer.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f2c509a525eb51aebb33fb59c24ee923c1d4c1db23c3ae81fe05ccf354084f7b
3
+ size 17082758
tokenizer_config.json ADDED
@@ -0,0 +1,20 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "add_prefix_space": true,
3
+ "bos_token": "<s>",
4
+ "clean_up_tokenization_spaces": true,
5
+ "cls_token": "<s>",
6
+ "eos_token": "</s>",
7
+ "mask_token": {
8
+ "__type": "AddedToken",
9
+ "content": "<mask>",
10
+ "lstrip": true,
11
+ "normalized": true,
12
+ "rstrip": false,
13
+ "single_word": false
14
+ },
15
+ "model_max_length": 512,
16
+ "pad_token": "<pad>",
17
+ "sep_token": "</s>",
18
+ "tokenizer_class": "XLMRobertaTokenizer",
19
+ "unk_token": "<unk>"
20
+ }
train_results.json ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "train_loss": 0.03677053214830645,
4
+ "train_runtime": 220.3164,
5
+ "train_samples": 3329,
6
+ "train_samples_per_second": 75.55,
7
+ "train_steps_per_second": 4.743
8
+ }
trainer_state.json ADDED
@@ -0,0 +1,37 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "best_metric": null,
3
+ "best_model_checkpoint": null,
4
+ "epoch": 5.0,
5
+ "global_step": 1045,
6
+ "is_hyper_param_search": false,
7
+ "is_local_process_zero": true,
8
+ "is_world_process_zero": true,
9
+ "log_history": [
10
+ {
11
+ "epoch": 2.39,
12
+ "learning_rate": 1.5645933014354067e-05,
13
+ "loss": 0.0684,
14
+ "step": 500
15
+ },
16
+ {
17
+ "epoch": 4.78,
18
+ "learning_rate": 1.291866028708134e-06,
19
+ "loss": 0.0082,
20
+ "step": 1000
21
+ },
22
+ {
23
+ "epoch": 5.0,
24
+ "step": 1045,
25
+ "total_flos": 2240667629302440.0,
26
+ "train_loss": 0.03677053214830645,
27
+ "train_runtime": 220.3164,
28
+ "train_samples_per_second": 75.55,
29
+ "train_steps_per_second": 4.743
30
+ }
31
+ ],
32
+ "max_steps": 1045,
33
+ "num_train_epochs": 5,
34
+ "total_flos": 2240667629302440.0,
35
+ "trial_name": null,
36
+ "trial_params": null
37
+ }
training_args.bin ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f4011b95e4620a0a723331686db4d78f12db08ab02fcf004641b5baff22f7639
3
+ size 4015