|
--- |
|
license: other |
|
language: |
|
- ja |
|
--- |
|
|
|
wikipedia 日本語の文を、各種日本語の embeddings や faiss index へと変換したもの。 |
|
|
|
- [RAG用途に使える、Wikipedia 日本語の embeddings とベクトル検索用の faiss index を作った](https://secon.dev/entry/2023/12/04/080000-wikipedia-ja-embeddings/) |
|
- [HuggingFace Space 上のデモ](https://huggingface.co/spaces/hotchpotch/wikipedia-japanese-rag-qa) |
|
- [変換スクリプト](https://github.com/hotchpotch/wikipedia-passages-jawiki-embeddings-utils) |
|
|
|
## 大元のデータ |
|
|
|
- https://huggingface.co/datasets/singletongue/wikipedia-utils |
|
|
|
## 検索タスクでのデータ評価 |
|
|
|
- [ベクトル検索のみで、AI王クイズ第一回コンペに臨む - Q&Aタスクでの複数の日本語embeddingsの評価](https://secon.dev/entry/2023/12/21/080000-vector-search-ai-ou-comp/) |
|
|
|
## ライセンス |
|
|
|
- `text-embedding-*` のファイルは OpenAI のライセンスに従います。 |
|
- それ以外は `CC-BY-SA-4.0` です |
|
|
