eval_results
/
AIR-Bench_24.04
/e5-mistral-7b-instruct
/bge-reranker-v2-m3
/results_20240514043026-cc2f97df4216a92a4553f2412ea2a1a1.json
| [ | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76377 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30594 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56276 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59046 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55763 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64265 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43546 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52429 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7707 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73943 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58694 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60309 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6075 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68407 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28192 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5047 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56951 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66474 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49365 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58823 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37654 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55472 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6734 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68624 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53145 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55115 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57192 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68875 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28516 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4924 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57647 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64703 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.46194 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60014 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35985 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57463 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67627 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6935 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53484 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54788 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.57284 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73987 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30327 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51629 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60309 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66693 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47903 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.63414 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37643 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59661 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69668 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71481 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.56523 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57654 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.5955 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.78818 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33393 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55861 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64264 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73368 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55371 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67167 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42184 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62026 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71435 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72987 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60075 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61526 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62667 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7912 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33656 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56179 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6455 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73837 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67481 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42514 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62338 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71472 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.731 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60427 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61845 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62894 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7912 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33656 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56179 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6455 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73837 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67481 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42514 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62338 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71472 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.731 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60427 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61845 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62894 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32054 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11969 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.17098 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26251 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28688 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11639 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32907 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39944 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43164 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25572 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23704 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29279 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50517 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.1878 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29692 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40549 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23286 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45118 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.20065 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47234 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54435 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58542 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.38874 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.37212 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42041 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.57471 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21689 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35441 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46585 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46933 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29079 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50387 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23882 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51258 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58638 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.62291 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43489 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42626 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.46723 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64064 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.24443 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.41018 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52013 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55877 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35301 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54149 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27367 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53901 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.61275 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64778 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47109 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.47535 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50471 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66883 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.2597 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4342 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54371 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60413 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39374 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55875 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29658 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55039 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62192 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65516 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.4876 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49763 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52291 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66946 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26012 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43484 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54431 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39526 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55923 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29717 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55074 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62199 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65534 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48809 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49826 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52332 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66946 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26012 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43484 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54431 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39526 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55923 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.29717 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55074 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62199 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65534 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.48809 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.49826 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52332 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32054 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.11969 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.17098 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26251 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20299 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.28688 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.11639 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.32907 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.39944 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43164 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25572 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23704 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.29279 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54897 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.21702 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33222 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.45098 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.41481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26581 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.50068 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.23274 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53528 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.58431 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6268 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43664 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.4176 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.47268 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66486 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.26918 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.42621 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.54723 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.53763 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35743 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59765 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.30117 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6154 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65754 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69098 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.51925 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50769 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.55572 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.80893 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33521 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54133 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6559 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69382 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.48797 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69484 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38802 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68091 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.71897 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.74976 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61443 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.62022 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64211 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.94298 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42195 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65024 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.76121 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.85677 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67084 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.81038 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.50359 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.75793 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76843 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79485 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72027 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.72015 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72249 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.95641 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43367 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66297 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77254 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87563 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69688 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82575 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51645 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77597 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7699 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80011 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73768 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73342 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73259 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.95641 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43367 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66297 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77254 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.87563 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69688 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.82575 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51645 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.77597 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7699 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.80011 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73768 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.73342 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73259 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76377 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30594 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56276 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59046 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.55763 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64265 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43546 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52429 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.7707 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73943 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58694 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60309 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6075 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52037 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.22191 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43312 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.42668 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58221 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.45589 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43585 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.33278 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34175 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.44511 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.43023 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.39669 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43197 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.40344 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.40385 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17934 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.35687 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34585 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.49071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.38346 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.33052 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27191 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.25438 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.32162 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.304 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30387 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.34308 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.31283 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.26465 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.12082 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.24231 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.23259 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.34262 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.27257 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.20293 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.18277 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.15268 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.1863 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.17539 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.18908 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.2262 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.19731 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0637 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0315 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05942 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.05716 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.08764 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.07607 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04804 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.0486 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03491 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.04106 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.03807 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04523 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.05515 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04712 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03225 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0161 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03023 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02905 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.04461 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.03936 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02439 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02485 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0177 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02059 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.01917 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02301 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.02807 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.02388 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00323 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00161 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00302 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00291 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00446 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00394 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00244 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00249 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00177 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00206 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00192 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.0023 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.00281 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.00239 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.76322 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.30594 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.56276 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59108 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71784 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5587 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.64265 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.43601 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.52429 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.77129 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73943 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.58752 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.60309 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6075 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.81865 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.35749 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.63583 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66274 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78058 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.64408 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.71051 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.51367 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.59506 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82023 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.65858 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.67796 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68492 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82597 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.36584 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6482 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67315 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.78843 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65776 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72211 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.52851 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60481 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82592 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7937 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.66834 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.68708 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69456 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.8303 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37116 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65406 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67884 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79303 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66472 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.72759 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.53684 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.60809 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82718 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79604 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67342 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6938 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.69919 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83205 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.37355 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6564 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68075 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7947 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6677 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73008 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.5406 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6107 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82804 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79733 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.6762 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.6955 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.7007 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83212 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3737 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65648 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68081 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79479 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73021 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54068 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61093 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82805 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79738 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67639 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69558 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70078 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "qa", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.83212 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.3737 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.65648 | |
| }, | |
| { | |
| "domain": "news", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.68081 | |
| }, | |
| { | |
| "domain": "msmarco", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79479 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.66785 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.73021 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.54068 | |
| }, | |
| { | |
| "domain": "finance", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.61093 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.82805 | |
| }, | |
| { | |
| "domain": "wiki", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.79738 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.67639 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "zh", | |
| "dataset": "default", | |
| "value": 0.69558 | |
| }, | |
| { | |
| "domain": "web", | |
| "lang": "en", | |
| "dataset": "default", | |
| "value": 0.70078 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71098 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71772 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71302 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76401 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83967 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67042 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.64986 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68817 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5847 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46626 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.41246 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.45382 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.64895 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.63291 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.66133 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70112 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.75928 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61008 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.654 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.61057 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.64782 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54938 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58764 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.53762 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.49945 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.50774 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.60609 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.64447 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.62569 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.64823 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.70712 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.75333 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61718 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67559 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.63892 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.65771 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.56652 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.63232 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.57828 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5486 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.54867 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.6225 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.69513 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.67452 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.68916 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.75798 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.80039 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.65161 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.72963 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.68488 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.69722 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.62059 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69041 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.63415 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.58931 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.58801 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.65328 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.74608 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73103 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.74098 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80589 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.84855 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70348 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.76895 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73078 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73075 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68284 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73104 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66932 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63201 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.64552 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.67558 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.74824 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.74283 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80993 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85091 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70851 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73411 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73387 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68948 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73484 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.67503 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63767 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.68093 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "ndcg_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.74824 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.73366 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.74283 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.80993 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.85091 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.70851 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77071 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.73411 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.73387 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68948 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.73484 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.67503 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.63767 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.65184 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.68093 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.23272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.2099 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.22242 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.26958 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.31011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27183 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.33114 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.31946 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35901 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2487 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32965 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.31307 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.32938 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.25433 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.45382 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.43674 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.38668 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.42074 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.49775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.52615 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.45716 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.52676 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.48973 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.52906 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.40752 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.49012 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.45743 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.45026 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.39902 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57095 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.51346 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.47378 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.50158 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.58521 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.61913 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.52 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.58121 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.54431 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.57329 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.46485 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.5495 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.50039 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.48287 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4577 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57999 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.58652 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.56224 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.58764 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66164 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.70043 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.56298 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.62876 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.58481 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.60612 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.51725 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.59543 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.53955 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.50567 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.4933 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59245 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.61614 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.59627 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.62 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69129 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73298 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.58961 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64958 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60592 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62271 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54638 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61358 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55288 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51886 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51733 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.5977 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.61649 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.59685 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.62035 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73363 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59052 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64985 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60648 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62318 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54756 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61414 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55359 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51952 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5181 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59821 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "map_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.61649 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.59685 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.62035 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.69204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.73363 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.59052 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.64985 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.60648 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.62318 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.54756 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.61414 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.55359 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.51952 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5181 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59821 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.23272 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.2099 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.22242 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.26958 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.31011 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.27183 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.33114 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.31946 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.35901 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.2487 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.32965 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.31307 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.32938 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.25433 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.45382 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.48489 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.42747 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.45825 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.53204 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.56124 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.51424 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.60487 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.5599 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.58748 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.46631 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.56541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.5688 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56108 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.46768 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.70683 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.60293 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.55547 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.57508 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.66146 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.69599 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.61621 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.70608 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.66843 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.66967 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.57195 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69389 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.66906 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.67038 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.5931 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.74699 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.76166 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.72846 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.73483 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.81407 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.84615 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.71101 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.82941 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.77663 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.76137 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70536 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.82972 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.80271 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.77596 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.69147 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.84337 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.89929 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.88087 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.87123 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.94221 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.96625 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.86282 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.9445 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.91516 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.85806 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.89534 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.96257 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.92612 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.94164 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.8806 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.93976 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.90958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.89201 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.88033 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.96004 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97468 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.88582 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.95276 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.93127 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.87289 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.9257 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.95706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.97354 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.91496 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.97189 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "recall_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.90958 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.89201 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.88033 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.96004 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.97468 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.88582 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.95276 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.93127 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.87289 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.9257 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.98063 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.95706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.97354 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.91496 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.97189 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71098 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71772 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71302 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76401 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83967 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67042 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.64986 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68817 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5847 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46626 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.41246 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.45382 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.54721 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.54855 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.56607 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.588 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.61775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.4623 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.46761 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.43231 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.44713 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.42259 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.39099 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.32618 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.25519 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.36508 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.23561 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.43584 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.45826 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.46213 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.47316 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.49728 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.35714 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.34986 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.32941 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.32742 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.33279 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.30595 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.24663 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.18872 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.29412 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.1494 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.28844 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.31802 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.31775 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.31003 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.32826 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.22173 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.22028 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.20224 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.19785 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.22049 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.19459 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.15706 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.11276 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.18291 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.08434 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.06988 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.07736 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.07609 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.07333 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.07793 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.05518 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.05183 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.04964 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.04629 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.05639 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.04551 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.0365 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.02772 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.04661 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.0188 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.0352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.03907 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.03831 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.03717 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.0394 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.02824 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.02614 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.02518 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.02352 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.02902 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.02324 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.01874 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.0143 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.02389 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00972 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "precision_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.00352 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.00391 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.00383 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.00372 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.00394 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.00282 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.00261 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.00252 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.00235 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.0029 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.00232 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.00187 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.00143 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.00239 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.00097 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.71098 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.71772 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.71302 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.76401 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.83967 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.64881 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.67042 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.64986 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.68817 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.5847 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.58378 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.46626 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.41246 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.51541 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.45382 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_3", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.78324 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.77978 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.77909 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.82694 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89357 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.72669 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.77324 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.7423 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77061 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.68033 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.68243 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.60072 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.52077 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.60738 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57095 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_5", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79191 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.78669 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.78545 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.83461 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89724 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73279 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78282 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75336 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.77679 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69208 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.69689 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.61452 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.54659 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.626 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.57999 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_10", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79713 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79163 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.78949 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.83878 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89934 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73548 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78649 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.75837 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.78161 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.69758 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70474 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62368 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.55746 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63256 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59245 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_50", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79865 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79389 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79238 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.84017 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89982 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73851 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78767 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76056 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.78302 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70213 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70837 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62732 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.56344 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63806 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59769 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_100", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79873 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79392 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79244 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.84033 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89982 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73871 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76073 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.78315 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70233 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70848 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62766 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59821 | |
| } | |
| ] | |
| }, | |
| { | |
| "config": { | |
| "retrieval_model": "e5-mistral-7b-instruct", | |
| "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", | |
| "reranking_model": "bge-reranker-v2-m3", | |
| "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", | |
| "task": "long-doc", | |
| "metric": "mrr_at_1000", | |
| "timestamp": "2024-05-14T04:30:26Z", | |
| "is_anonymous": false, | |
| "revision": "cc2f97df4216a92a4553f2412ea2a1a1" | |
| }, | |
| "results": [ | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_500K-600K", | |
| "value": 0.79873 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_400K-500K", | |
| "value": 0.79392 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_600K-700K", | |
| "value": 0.79244 | |
| }, | |
| { | |
| "domain": "law", | |
| "lang": "en", | |
| "dataset": "lex_files_300K-400K", | |
| "value": 0.84033 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_30K-40K_10-merged", | |
| "value": 0.89982 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_40K-50K_5-merged", | |
| "value": 0.73871 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_2", | |
| "value": 0.78775 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_3", | |
| "value": 0.76073 | |
| }, | |
| { | |
| "domain": "healthcare", | |
| "lang": "en", | |
| "dataset": "pubmed_100K-200K_1", | |
| "value": 0.78315 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "origin-of-species_darwin", | |
| "value": 0.70233 | |
| }, | |
| { | |
| "domain": "book", | |
| "lang": "en", | |
| "dataset": "a-brief-history-of-time_stephen-hawking", | |
| "value": 0.70848 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llama2", | |
| "value": 0.62766 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gpt3", | |
| "value": 0.5638 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "llm-survey", | |
| "value": 0.63846 | |
| }, | |
| { | |
| "domain": "arxiv", | |
| "lang": "en", | |
| "dataset": "gemini", | |
| "value": 0.59821 | |
| } | |
| ] | |
| } | |
| ] |