{ | |
"additional_special_tokens": [ | |
"<|endoftext|>", | |
"<|startoftranscript|>", | |
"<|en|>", | |
"<|zh|>", | |
"<|de|>", | |
"<|es|>", | |
"<|ru|>", | |
"<|ko|>", | |
"<|fr|>", | |
"<|ja|>", | |
"<|pt|>", | |
"<|tr|>", | |
"<|pl|>", | |
"<|ca|>", | |
"<|nl|>", | |
"<|ar|>", | |
"<|sv|>", | |
"<|it|>", | |
"<|id|>", | |
"<|hi|>", | |
"<|fi|>", | |
"<|vi|>", | |
"<|he|>", | |
"<|uk|>", | |
"<|el|>", | |
"<|ms|>", | |
"<|cs|>", | |
"<|ro|>", | |
"<|da|>", | |
"<|hu|>", | |
"<|ta|>", | |
"<|no|>", | |
"<|th|>", | |
"<|ur|>", | |
"<|hr|>", | |
"<|bg|>", | |
"<|lt|>", | |
"<|la|>", | |
"<|mi|>", | |
"<|ml|>", | |
"<|cy|>", | |
"<|sk|>", | |
"<|te|>", | |
"<|fa|>", | |
"<|lv|>", | |
"<|bn|>", | |
"<|sr|>", | |
"<|az|>", | |
"<|sl|>", | |
"<|kn|>", | |
"<|et|>", | |
"<|mk|>", | |
"<|br|>", | |
"<|eu|>", | |
"<|is|>", | |
"<|hy|>", | |
"<|ne|>", | |
"<|mn|>", | |
"<|bs|>", | |
"<|kk|>", | |
"<|sq|>", | |
"<|sw|>", | |
"<|gl|>", | |
"<|mr|>", | |
"<|pa|>", | |
"<|si|>", | |
"<|km|>", | |
"<|sn|>", | |
"<|yo|>", | |
"<|so|>", | |
"<|af|>", | |
"<|oc|>", | |
"<|ka|>", | |
"<|be|>", | |
"<|tg|>", | |
"<|sd|>", | |
"<|gu|>", | |
"<|am|>", | |
"<|yi|>", | |
"<|lo|>", | |
"<|uz|>", | |
"<|fo|>", | |
"<|ht|>", | |
"<|ps|>", | |
"<|tk|>", | |
"<|nn|>", | |
"<|mt|>", | |
"<|sa|>", | |
"<|lb|>", | |
"<|my|>", | |
"<|bo|>", | |
"<|tl|>", | |
"<|mg|>", | |
"<|as|>", | |
"<|tt|>", | |
"<|haw|>", | |
"<|ln|>", | |
"<|ha|>", | |
"<|ba|>", | |
"<|jw|>", | |
"<|su|>", | |
"<|translate|>", | |
"<|transcribe|>", | |
"<|startoflm|>", | |
"<|startofprev|>", | |
"<|nocaptions|>", | |
"<|notimestamps|>", | |
"[AUTOCOR]", | |
"[SIGH]", | |
"[UNINT]", | |
"[MHMH]", | |
"[UHM]", | |
"[LAUGH]", | |
"[NOISE]", | |
"[L-EN]" | |
], | |
"bos_token": { | |
"content": "<|endoftext|>", | |
"lstrip": false, | |
"normalized": false, | |
"rstrip": false, | |
"single_word": false | |
}, | |
"eos_token": { | |
"content": "<|endoftext|>", | |
"lstrip": false, | |
"normalized": false, | |
"rstrip": false, | |
"single_word": false | |
}, | |
"pad_token": { | |
"content": "<|endoftext|>", | |
"lstrip": false, | |
"normalized": false, | |
"rstrip": false, | |
"single_word": false | |
}, | |
"unk_token": { | |
"content": "<|endoftext|>", | |
"lstrip": false, | |
"normalized": false, | |
"rstrip": false, | |
"single_word": false | |
} | |
} | |