README.md

metadata

license: mit
language:
  - ja

ggmlのTokenizerは日本語に対応していないため、このままでは使えません。

rinna社のjapanese-gpt2のTokenizerはSentencepieceのようで、それに対応できれば動くかもしれないです。

Windows 11で対応予定です。

https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2