SongNet pretrain (songnet-base-chinese) Model

SongNet中文预训练模型

SongNet的网络结构：

Usage

本项目开源在文本生成项目：textgen，可支持SongNet模型。

模型文件组成：

songnet-base-chinese
    ├── pytorch_model.bin
    └── vocab.txt

相关内容

• SongNet paper
• textgen

如果需要训练SongNet模型，请参考https://github.com/shibing624/textgen/blob/main/examples/language_generation/training_zh_songnet_demo.py

Citation

@software{textgen,
  author = {Xu Ming},
  title = {textgen: Implementation of Text Generation models},
  year = {2022},
  url = {https://github.com/shibing624/textgen},
}