metadata
library_name: transformers
license: apache-2.0
language:
- ja
base_model:
- mistralai/Mistral-7B-v0.1
pipeline_tag: text-generation
概要
vecteusは、高性能な日本語大規模言語モデルです。小説のドメインに特化し、かつ自然な日本語の生成や理解において優れた性能を発揮します。
当リポジトリは、vecteus v1をベースとした、フィルター（検閲機能）を削除したabliterated版を提供しています。元モデルに存在した出力に対する制約を取り払うことで、より自由度の高いテキスト生成を可能にしています。 ただし、この変更により、生成されるテキストの内容については一切の責任を負いません。
- 高度な日本語自然言語理解: vecteusは、日本語の文法や意味構造を深く理解し、複雑な日本語の文章を生成することができます。
- 多様なタスクへの対応: テキスト生成、質問応答、要約、翻訳など、幅広い自然言語処理タスクに対応しています。
- 検閲フィルターの削除 (abliterated-vecteus): 初代vecteusに存在した出力フィルターを削除し、より自由なテキスト生成を可能にしました。
参考
https://huggingface.co/blog/mlabonne/abliteration
https://github.com/FailSpy/abliterator
https://www.lesswrong.com/posts/jGuXSZgv6qfdhMCuJ/refusal-in-llms-is-mediated-by-a-single-direction