README.md

metadata

license: other
language:
  - ja

wikipedia 日本語の文を、各種日本語の embeddings や faiss index へと変換したもの。

• RAG用途に使える、Wikipedia 日本語の embeddings とベクトル検索用の faiss index を作った
• HuggingFace Space 上のデモ
• 変換スクリプト

大元のデータ

• https://huggingface.co/datasets/singletongue/wikipedia-utils

検索タスクでのデータ評価

• ベクトル検索のみで、AI王クイズ第一回コンペに臨む - Q&Aタスクでの複数の日本語embeddingsの評価
• OpenAIの新embeddings,text-embedding-3-smallをRAGタスクで評価する

ライセンス

• text-embedding-* のファイルは OpenAI のライセンスに従います。
• それ以外は CC-BY-SA-4.0 です