File size: 133 Bytes
e8dce21 |
1 2 3 4 5 6 7 8 |
{
"bos_token": "<|BOS|>",
"eos_token": "<|EOS|>",
"pad_token": "<|PAD|>",
"sep_token": "<|SEP|>",
"unk_token": "<|UNK|>"
}
|
e8dce21 |
1 2 3 4 5 6 7 8 |
{
"bos_token": "<|BOS|>",
"eos_token": "<|EOS|>",
"pad_token": "<|PAD|>",
"sep_token": "<|SEP|>",
"unk_token": "<|UNK|>"
}
|