Generate.md

## create embeddings

### multilingual-e5-small + passage

```
python datasets_to_embs.py \
  --target="data" \
  --model_name="intfloat/multilingual-e5-small" \
  --output_name="multilingual-e5-small-passage" \
  --input_prefix="passage: "
python datasets_to_embs.py \
  --target="chunked" \
  --model_name="intfloat/multilingual-e5-small" \
  --output_name="multilingual-e5-small-passage" \
  --input_prefix="passage: "
```

### multilingual-e5-small + query

```
python datasets_to_embs.py \
  --target="data" \
  --model_name="intfloat/multilingual-e5-small" \
  --output_name="multilingual-e5-small-query" \
  --input_prefix="query: "
python datasets_to_embs.py \
  --target="chunked" \
  --model_name="intfloat/multilingual-e5-small" \
  --output_name="multilingual-e5-small-query" \
  --input_prefix="query: "
```


## create faiss indexes

```
python embs_to_faiss.py \
  --target="data" \
  --input_name="multilingual-e5-small-query" \
  --use_gpu
  
```

# XXX

- 同じ output があったら skip する