eval_results
/
AIR-Bench_24.04
/multilingual-e5-small
/bge-reranker-large
/results_20240514051634-24cbab5bedc308a5f32b68d8d8acbcc0.json
[ | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80341 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31705 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56511 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58674 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72527 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63874 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56063 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48643 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51356 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74509 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67863 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52744 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63518 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.73624 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29044 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51431 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5612 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68107 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57081 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52506 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42807 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52671 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.65195 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63728 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47277 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58048 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47261 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74754 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29483 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50405 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56331 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6677 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5354 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53851 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40953 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54072 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66035 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64542 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47904 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58263 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47145 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.78874 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30853 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51468 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57972 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68418 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54039 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57426 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4222 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56384 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68608 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66171 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50449 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60387 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48957 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.81188 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32667 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53717 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60779 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72025 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58242 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60349 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44824 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58231 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6969 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67349 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5232 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62689 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51215 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.81273 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32855 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5385 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60888 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7219 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58503 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60453 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44972 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58404 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.69746 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52393 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62832 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51273 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.81273 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32855 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5385 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60888 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7219 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58503 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60453 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44972 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58404 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.69746 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52393 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62832 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51273 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33562 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12449 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16795 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2497 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19638 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2411 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12667 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31754 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38385 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39491 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21416 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2443 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23314 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54696 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19253 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29855 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3889 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38832 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22841 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44579 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51914 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53674 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32911 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39042 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33818 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63726 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2252 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36242 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44882 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48447 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34958 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44005 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27638 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48252 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56619 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57215 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37576 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45473 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37658 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70577 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25329 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4135 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50079 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58593 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41914 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47987 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31801 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51073 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59864 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59282 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41013 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50659 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40822 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72084 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26359 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42812 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51925 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61428 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44552 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49373 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33312 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52079 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60519 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5986 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41929 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52198 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41958 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72098 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26386 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42837 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51948 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6147 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44614 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49393 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33341 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.521 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60528 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59876 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41939 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52232 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41969 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72098 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26386 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42837 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51948 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6147 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44614 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49393 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33341 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.521 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60528 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59876 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41939 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52232 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41969 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33562 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12449 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16795 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2497 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19638 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2411 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12667 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31754 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38385 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39491 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21416 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2443 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23314 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58738 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21772 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.33875 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4328 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41549 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30551 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44481 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26497 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49566 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56636 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5826 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37777 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43568 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38497 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71968 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27377 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43642 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5236 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54983 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41334 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54073 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34463 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56532 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64813 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6474 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46603 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54093 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45589 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.84557 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33267 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52914 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61756 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70754 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53699 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6441 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42915 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6345 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71949 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69636 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55104 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64048 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53296 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.91014 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38282 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58375 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68941 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79274 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63893 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73171 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4952 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69097 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74791 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73149 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60596 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6973 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59643 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.91442 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39219 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58917 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69414 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79896 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64853 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73622 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50099 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70071 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7504 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73595 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60959 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70294 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59865 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.91442 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39219 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58917 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69414 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79896 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64853 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73622 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50099 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70071 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7504 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73595 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60959 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70294 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59865 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80341 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31705 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56511 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58674 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72527 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63874 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56063 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48643 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51356 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74509 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67863 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52744 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63518 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5692 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2295 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44588 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42689 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.606 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53237 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40129 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38319 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32766 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43597 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40359 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36299 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46128 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.339 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4554 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.18956 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37136 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34734 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52268 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45059 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31037 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3138 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24303 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3215 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28813 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28585 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37386 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26303 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2875 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.12543 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23954 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.228 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36373 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30374 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19385 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2051 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.14826 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19023 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16387 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17701 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24023 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16696 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06252 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02946 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05404 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.053 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.08334 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.07279 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04457 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04794 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03325 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04041 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03924 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05418 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03835 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03135 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01494 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02722 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02666 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04196 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03687 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02243 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02421 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01676 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02027 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01771 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0197 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02734 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01927 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00314 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00149 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00272 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00267 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0042 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00369 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00224 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00242 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00168 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00203 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00177 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00197 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00273 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80396 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31705 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56511 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58674 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72543 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56063 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48643 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51356 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74509 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67863 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52744 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.63518 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85251 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36258 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64899 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65324 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78515 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71603 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64167 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57211 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56982 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80137 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73644 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60216 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70826 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56327 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85747 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37052 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6578 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66192 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72443 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65353 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.583 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57664 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80655 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74301 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61316 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71539 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57589 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85892 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37398 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66121 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66569 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79486 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72801 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65949 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58738 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58047 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80818 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74528 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61772 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71904 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58212 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85978 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37573 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66214 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6673 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79566 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72954 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66173 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58866 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58213 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80858 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74632 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61903 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71965 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58418 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85981 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37582 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66217 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66733 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79569 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72958 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66175 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58869 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58226 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80859 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74635 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61907 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71968 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58419 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85981 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37582 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66217 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66733 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.79569 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72958 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66175 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58869 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58226 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80859 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74635 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61907 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71968 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58419 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65607 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.71598 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.76401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.8288 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71268 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70028 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71237 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58197 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60541 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52147 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.42136 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54622 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61554 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.6463 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66812 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.68821 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76693 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58606 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.65322 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63863 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.66267 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.54042 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.6012 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.55322 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.5096 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54095 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60561 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62582 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63425 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66718 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69449 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.75522 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.60046 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.67257 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.66439 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.67263 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.55745 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64066 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.60096 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.55431 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56187 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63308 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.67109 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.68655 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.69733 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.75062 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80066 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64792 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72271 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71044 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71031 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.60492 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69477 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65257 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.59946 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.60955 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.65157 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.71737 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.73319 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.73391 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.78847 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84036 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.68736 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75183 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73939 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74527 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.65055 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73053 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.68421 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.62948 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.64422 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6762 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.71997 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.73487 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.73536 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.78989 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.69069 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75272 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.74118 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.7467 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.65361 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.68662 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.63574 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.64855 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.68013 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.71997 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.73487 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.73536 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.78989 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84187 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.69069 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75272 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.74118 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.7467 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.65361 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.68662 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.63574 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.64855 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.68013 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.21211 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.21109 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.22132 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25867 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.30679 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.27544 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.3464 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3387 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.37661 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.25006 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.33706 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.34763 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.33185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.25813 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.4034 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.39208 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.41809 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.47774 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.52875 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.4407 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52271 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.51279 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.54252 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.39554 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.50107 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.47864 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45858 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.42631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.57363 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.49314 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.48284 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5158 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.5687 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62095 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5047 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.58025 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57176 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.58924 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45521 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55952 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52904 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.48965 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47627 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.58849 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.56613 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.58074 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.60014 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65165 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.70653 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.55762 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.6278 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.613 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.62217 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.50316 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60363 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56718 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51434 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.51837 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.5963 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.59119 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.60966 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.62554 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67619 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73398 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.57813 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.6282 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.63991 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5256 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.61975 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.57911 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52411 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.53509 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60184 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.59167 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.60988 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.62586 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67647 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73439 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.57872 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64309 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.62847 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.64017 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.52609 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62002 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.57937 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52484 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.53568 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60219 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.59167 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.60988 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.62586 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67647 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73439 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.57872 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.64309 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.62847 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.64017 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.52609 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.62002 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.57937 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52484 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.53568 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60219 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.21211 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.21109 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.22132 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25867 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.30679 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.27544 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.3464 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3387 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.37661 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.25006 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.33706 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.34763 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.33185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.25813 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.4557 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.42691 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.45523 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.51284 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.57027 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.48729 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.57645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57266 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59339 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.44393 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.57998 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56414 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57196 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.48874 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.6988 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.59432 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.55565 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.59401 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.64941 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.69589 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.59406 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68675 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.68305 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.6779 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.55599 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69923 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.67683 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.66815 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.58391 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.76707 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.7404 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.74393 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.74043 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.81378 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84558 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71962 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.80511 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.79349 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.76567 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.67867 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.82537 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.79701 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.78783 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.70575 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.82329 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.87322 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.86971 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.83509 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.91419 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.94351 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.83648 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.89132 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.87502 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.86802 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.8139 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.94072 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.91033 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.90232 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.81473 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.93173 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.88521 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.87848 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.84086 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.92045 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.94917 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85085 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.89625 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.8843 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.87432 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.82774 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.94937 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.92413 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.93793 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.83714 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.95582 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.88521 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.87848 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.84086 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.92045 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.94917 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85085 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.89625 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.8843 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.87432 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.82774 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.94937 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.92413 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.93793 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.83714 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.95582 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65607 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.71598 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.76401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.8288 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71268 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70028 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71237 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58197 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60541 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52147 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.42136 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54622 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52794 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.57057 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5789 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.58112 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.63225 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.44444 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.47418 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.45658 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.44803 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.41712 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.4036 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.32822 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.26311 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39963 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.23293 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.4422 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.47508 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.49053 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.47139 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.50598 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.35536 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.35718 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.34902 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.33118 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.33497 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.31297 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.25706 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.19228 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.30364 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.15341 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.29075 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.33153 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.32751 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.31563 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.33342 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.22798 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.22141 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.21232 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.19812 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.21694 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.19541 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.16104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.11602 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.19132 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.08233 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.0685 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.07742 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.07462 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.07192 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.0763 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.05405 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.04963 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.04835 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.0464 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0524 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04519 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.03632 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02682 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.04443 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01863 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.0346 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.03889 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.03754 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03614 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.0384 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.0275 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.0249 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02434 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02339 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.02658 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.02276 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.01834 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01386 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02261 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00956 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00346 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00389 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00375 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00361 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.00384 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00275 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00249 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00243 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00234 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00266 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00228 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00183 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.00139 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00226 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00096 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.65607 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.70571 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.71598 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.76401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.8288 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71268 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70028 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71237 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.58197 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60541 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52147 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.42136 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54622 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.48193 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.74037 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.77077 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.78008 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.82055 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88361 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6994 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.77981 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.77264 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.78763 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.66712 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.69234 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.62526 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.53709 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.63866 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.57363 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.75207 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.77813 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.78703 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.82955 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88659 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.70997 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.78939 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.78385 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79489 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.68051 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.70396 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.64167 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.55579 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.65112 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.58849 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.7558 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.78412 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.7905 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.8335 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88789 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71653 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79267 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.78631 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.79934 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.68848 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71068 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.64845 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.56886 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.65802 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.5963 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.75788 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.7856 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79191 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.83457 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88833 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71833 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.79467 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.78799 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.80103 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.69097 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71449 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65244 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.5728 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.66066 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60185 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.75792 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.78573 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79191 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.83457 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88833 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71846 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.7947 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.78805 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.80103 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.69105 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71459 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65258 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57327 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.66089 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60219 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "multilingual-e5-small", | |
"retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", | |
"reranking_model": "bge-reranker-large", | |
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-14T05:16:34Z", | |
"is_anonymous": false, | |
"revision": "24cbab5bedc308a5f32b68d8d8acbcc0" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.75792 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.78573 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79191 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.83457 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.88833 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.71846 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.7947 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.78805 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.80103 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.69105 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.71459 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.65258 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57327 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.66089 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60219 | |
} | |
] | |
} | |
] |