File size: 1,155 Bytes
9d24e4f 939ac1b 4624246 9d24e4f 4624246 5292e12 939ac1b cee0a0a 939ac1b |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
---
license: other
language:
- ja
---
wikipedia 日本語の文を、各種日本語の embeddings や faiss index へと変換したもの。
- [RAG用途に使える、Wikipedia 日本語の embeddings とベクトル検索用の faiss index を作った](https://secon.dev/entry/2023/12/04/080000-wikipedia-ja-embeddings/)
- [HuggingFace Space 上のデモ](https://huggingface.co/spaces/hotchpotch/wikipedia-japanese-rag-qa)
- [変換スクリプト](https://github.com/hotchpotch/wikipedia-passages-jawiki-embeddings-utils)
## 大元のデータ
- https://huggingface.co/datasets/singletongue/wikipedia-utils
## 検索タスクでのデータ評価
- [ベクトル検索のみで、AI王クイズ第一回コンペに臨む - Q&Aタスクでの複数の日本語embeddingsの評価](https://secon.dev/entry/2023/12/21/080000-vector-search-ai-ou-comp/)
- [OpenAIの新embeddings,text-embedding-3-smallをRAGタスクで評価する](https://secon.dev/entry/2024/01/29/100000-text-embedding-3-small/)
## ライセンス
- `text-embedding-*` のファイルは OpenAI のライセンスに従います。
- それ以外は `CC-BY-SA-4.0` です
|