Update nemo_corpus.py

nemo_corpus.py

@@ -289,11 +289,14 @@ class NemoCorpusNestedConfig(datasets.BuilderConfig):
                     ner_tags_4 = []
                 else:
                     splits = line.split(sep)
-                    tokens.append(splits[0])
-                    ner_tags.append(splits[1].rstrip())
-                    ner_tags_2.append(splits[2].rstrip())
-                    ner_tags_3.append(splits[3].rstrip())
-                    ner_tags_4.append(splits[4].rstrip())
+                    tags_line = splits[-4:]
+                    token_line = line[:-len(sep.join(tags_line))].strip()
+                    tokens.append(token_line)
+                    tag1, tag2, tag3, tag4 = tags_line
+                    ner_tags.append(tag1.rstrip())
+                    ner_tags_2.append(tag2.rstrip())
+                    ner_tags_3.append(tag3.rstrip())
+                    ner_tags_4.append(tag4.rstrip())
             
             if tokens:
                 yield guid, {