Configuration Parsing Warning:Invalid JSON for config file config.json
Модель MagicText-1.3-WMHA (WithMultiHeadAttention) позволяет нашей архитектуре на базе LSTM выявлять большие закономерности и информацию о тексте. Она так же предсказывает каждый символ (char-level), как и другие молдели из линейки MagicText1.x
Модель использует Skip-connection, MHA, LayerNorm, что позволяет ей не путаться в контексте. Так же эта модель может лучше выучить орфографию русского языка. В отличие от MagicText-1.1 и MagicText-1.2 новая модель чуть менее стабильна при обучении, но результаты показывает лучше при качественных данных.
Эта модель имеет 227,188 параметров, чего хватит для небольшой генератции текста. Модель нуждается в дообучении для лучшего опыта.
Примеры генерации:
Приведены примеры модели, обученной на наших данных. как говорилось ранее, нужно ее дообучить под свой стиль.
НЕ ПОДДЕРЖИВАЕМАЯ МОДЕЛЬ
Эта модель больше не будет получать исправления критических ошибок. Используйте версию MagicText 2.0. Модель будет доступна для скачивания всегда. См. Подробности - https://github.com/radmirryan-commits/HF-News/blob/main/MagicText1/%D0%9F%D0%BE%D0%B4%D0%B4%D0%B5%D1%80%D0%B6%D0%BA%D0%B0.txt
- Downloads last month
- 160