eval_results
/
AIR-Bench_24.04
/bge-m3
/jina-reranker-v1-tiny-en
/results_20240514031039-3d3d95003d2772ffd54db86b8f7bd918.json
[ | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16355 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16205 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5031 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59313 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17609 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52841 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17452 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44732 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32698 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66242 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49047 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23827 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52607 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.175 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28776 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1621 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50608 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55588 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49248 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15679 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47118 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32073 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61658 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44812 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24446 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50715 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18743 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29755 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17081 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51597 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54185 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15887 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50687 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15901 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49369 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34416 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63141 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45418 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25902 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51351 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22632 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32487 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19633 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55218 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.565 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54696 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18401 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52298 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3867 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66035 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4901 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29381 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54622 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36138 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37135 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30835 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60502 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65042 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59338 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2865 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55459 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46795 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68677 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5413 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39342 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59368 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41108 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37794 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35824 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60982 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65946 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37654 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59867 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32437 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55918 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.49142 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69012 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54535 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43032 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59815 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41108 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37794 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35824 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60982 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65946 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37654 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59867 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32437 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55918 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.49142 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69012 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54535 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43032 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59815 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0607 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12253 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0483 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22253 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16233 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0356 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23116 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04883 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27542 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16689 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38844 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20869 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10881 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25257 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10644 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19207 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.08731 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35067 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06578 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36632 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.07818 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39566 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24176 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51747 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31409 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36417 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1254 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22211 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10675 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40425 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37659 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0816 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41148 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09494 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43322 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26886 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55404 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3536 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18638 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40695 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14822 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25254 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12843 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4611 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45283 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10278 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44972 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11494 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.462 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29393 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58071 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39002 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21246 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44843 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19056 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27348 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16477 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49028 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50289 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14591 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46983 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14834 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47557 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31942 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59296 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41333 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24727 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47127 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19971 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27448 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17387 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49123 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5049 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15894 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47069 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15502 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47613 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32343 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59344 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41391 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25402 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47211 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19971 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27448 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17387 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49123 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5049 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15894 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47069 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15502 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47613 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32343 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59344 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41391 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25402 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47211 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0607 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12253 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0483 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22253 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16233 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0356 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23116 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04883 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27542 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16689 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38844 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20869 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10881 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25257 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1495 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23209 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11456 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40558 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34353 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0876 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4233 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09905 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45298 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30555 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56928 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36829 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20394 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42427 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20451 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29508 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16462 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49918 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12978 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5151 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14074 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53286 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38347 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64226 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44786 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26516 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50905 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30596 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38128 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24149 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62378 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59992 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20978 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62209 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21516 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61453 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.49197 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71808 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55067 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36344 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6128 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.73989 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51435 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5628 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76859 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81518 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56047 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76274 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50202 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.71866 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75786 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79707 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70244 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.65259 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.747 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.94907 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54393 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75401 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78843 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85061 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77778 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.787 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64606 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74381 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85694 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.8129 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72196 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80204 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76576 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.94907 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54393 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75401 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78843 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85061 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77778 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.787 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64606 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74381 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85694 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.8129 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72196 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80204 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76576 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16355 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16205 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5031 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59313 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17609 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52841 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17452 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44732 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32698 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66242 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49047 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23827 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52607 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14354 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22265 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14084 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38352 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15137 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36985 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13721 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29295 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21541 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38313 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33738 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1832 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3595 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12324 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18456 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12799 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31561 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41586 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13565 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28471 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12321 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22385 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1707 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27736 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26285 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15734 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28377 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09581 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12909 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10136 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22237 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29786 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11318 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18325 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09895 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.14082 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11626 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16607 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.1725 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11931 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18981 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04967 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03703 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05064 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.05804 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.08424 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04627 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04779 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03423 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04002 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03861 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04522 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04948 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04905 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03234 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01941 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03423 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02978 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04369 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04382 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02381 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0306 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01753 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02351 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01972 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02518 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00323 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00194 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00342 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00298 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00437 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00438 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00238 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00306 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00175 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00235 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00197 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00231 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00252 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1641 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30094 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16205 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5031 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59392 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17609 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.529 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17396 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44732 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32698 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66242 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49047 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23827 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52607 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24257 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36693 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22402 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59387 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67239 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61287 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23186 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51377 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41741 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72708 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57635 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31818 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61677 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2628 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38025 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24471 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60824 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68469 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27465 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6269 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25208 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52576 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43864 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73565 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58915 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34201 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63119 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28044 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38879 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26039 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61617 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69208 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29509 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63363 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26837 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53199 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45249 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74042 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5959 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35816 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63818 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29714 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39331 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27665 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61914 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69543 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31032 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63749 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28357 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53537 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46255 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74214 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59956 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36962 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64131 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29831 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39362 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27784 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61925 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31103 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63763 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28453 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53567 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46308 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59977 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3705 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64141 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29831 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39362 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27784 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61925 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31103 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63763 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28453 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53567 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46308 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59977 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3705 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64141 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.53179 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.54655 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.59172 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.59882 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.60714 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.63662 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64706 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.67473 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.47541 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55676 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41411 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.37389 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.37751 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.49634 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.50306 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.53155 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54248 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.69558 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56017 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.60872 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57952 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61337 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44843 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.56149 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46188 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45557 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.43154 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50698 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.49594 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.48714 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.53083 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55263 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.68448 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56765 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.62483 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.59696 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61978 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45967 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.58701 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.50032 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50767 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46173 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.53377 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.5509 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.53798 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.57155 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.60488 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7318 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.61229 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.67362 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.65115 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.66472 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.51302 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64069 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.55435 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.54113 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.5085 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.5587 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63816 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63281 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65226 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69201 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80102 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66392 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72652 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70593 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71635 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59918 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69628 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.61034 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.58966 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56974 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6015 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64898 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64657 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66339 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70181 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80438 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67024 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73045 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71251 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72243 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.60959 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.70187 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.61691 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.60007 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.5862 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64898 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64657 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66339 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70181 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80438 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67024 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73045 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71251 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72243 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.60959 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.70187 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.61691 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.60007 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.5862 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.16994 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.15471 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.17612 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20487 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.2746 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.2701 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30197 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.31739 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.3588 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.20291 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.2942 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.26409 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.29698 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.21087 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.37751 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.31632 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.29146 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.31577 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.36112 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.46829 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.42283 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.47805 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.46293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.503 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.32528 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.45614 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.3902 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.40517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.33205 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.47657 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.3732 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.34746 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.39119 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.42864 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.54702 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.47485 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52829 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.50874 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.53692 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.36571 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.5 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.42663 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.43969 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.37823 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.49163 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.43724 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.42198 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.4617 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49365 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62287 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.52271 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.57089 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55168 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.57051 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.41158 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.54195 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46137 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45713 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.41517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50206 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47915 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.47144 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50536 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.5388 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.66587 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5472 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59625 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57543 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59464 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44789 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.56552 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48058 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.47158 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.43849 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51215 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.48113 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.47437 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50721 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54076 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.66672 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.54825 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.5968 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59571 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44964 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.56636 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48146 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.47279 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44081 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51294 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.48113 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.47437 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50721 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54076 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.66672 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.54825 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.5968 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59571 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44964 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.56636 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48146 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.47279 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44081 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51294 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.16994 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.15471 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.17612 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20487 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.2746 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.2701 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30197 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.31739 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.3588 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.20291 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.2942 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.26409 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.29698 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.21087 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.37751 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.36374 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.33036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.34851 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.40491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.5071 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.46996 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.55311 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.51481 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.55473 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.37732 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.54898 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48216 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51484 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.38596 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.59438 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46757 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.42729 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.47174 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.52075 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62588 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56114 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.65005 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.60729 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.62117 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.4633 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64309 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.58235 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.63056 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.48325 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.65863 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62532 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.59628 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.62783 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.66927 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77921 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67628 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.76706 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73843 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.7232 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59484 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.76785 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.71556 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.72008 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.6061 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.73494 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.8805 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.86076 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.84757 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.91284 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.95991 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.82316 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.92579 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.90702 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.87515 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.86025 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.95153 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.91774 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.91024 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.81333 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.91968 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92765 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91717 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.89912 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.95626 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.94563 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.94029 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90235 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90892 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97991 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.95245 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.9686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.89631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96787 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92765 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91717 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.89912 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.95626 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.94563 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.94029 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90235 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90892 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97991 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.95245 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.9686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.89631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96787 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.53179 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.54655 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.59172 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.59882 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.60714 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.63662 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64706 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.67473 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.47541 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55676 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41411 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.37389 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.37751 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.42293 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.44344 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.45957 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.45723 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.56703 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.41667 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.43944 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.40803 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.40323 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.34517 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.37658 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.2863 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.23343 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.31279 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.19813 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.3422 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.36156 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.38994 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.37581 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.45489 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.32202 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.32845 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3042 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.2914 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.27104 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.28162 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.21718 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.17626 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.25266 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.13173 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.24162 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.26486 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.27515 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25782 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.30353 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.21071 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.2062 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.19496 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.1828 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.18743 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.18027 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.13957 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.10356 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.16331 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.07349 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.06821 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.07646 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.07544 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.07168 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.07739 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.05381 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.05138 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.04969 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.04704 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.05497 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04551 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.03632 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02682 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.04392 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01839 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.03566 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.04036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.03908 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.03927 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.02765 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.02614 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02555 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02433 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.0233 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.01877 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01424 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02373 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00968 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00357 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00404 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00391 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00372 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.00393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00276 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00261 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00243 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00233 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00188 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.00142 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00237 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00097 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.53468 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.54655 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.59172 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.59882 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6131 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.63662 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64706 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.67473 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.47541 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55676 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.41104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.37389 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46499 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.37751 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62235 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.62713 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65976 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.68486 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.83786 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.67907 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73474 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71102 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.75 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.56694 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.66036 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52505 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.48863 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54202 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.47657 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63651 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64064 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67175 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69518 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84493 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.69187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.74333 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72348 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.75901 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58128 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.67212 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.54346 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51222 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55728 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.49163 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.64679 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.65004 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.68209 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70307 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84767 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.69706 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.74915 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73233 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.76489 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58936 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.67976 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.55393 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52152 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56842 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.50206 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65268 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.65461 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.68572 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70745 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84911 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.70057 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75208 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73541 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.76697 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59725 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68404 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56091 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52832 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57369 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51217 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65286 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.65488 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.68617 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.7078 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84911 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.70085 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75223 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.76713 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59761 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68426 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56117 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52888 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57434 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51296 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "jina-reranker-v1-tiny-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T03:10:39Z", | |
"is_anonymous": false, | |
"revision": "3d3d95003d2772ffd54db86b8f7bd918" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65286 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.65488 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.68617 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.7078 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84911 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.70085 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75223 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73562 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.76713 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.59761 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.68426 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56117 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52888 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57434 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51296 | |
} | |
] | |
} | |
] |