diff --git a/AIR-Bench_24.05/gte-Qwen2-7B-instruct/NoReranker/results_20241201070411-9615b54759798d70923c93f6fa8ec8c9.json b/AIR-Bench_24.05/gte-Qwen2-7B-instruct/NoReranker/results_20241201070411-9615b54759798d70923c93f6fa8ec8c9.json new file mode 100644 index 0000000000000000000000000000000000000000..aa2c294faf08d30b48e19601315a3801014e9ac6 --- /dev/null +++ b/AIR-Bench_24.05/gte-Qwen2-7B-instruct/NoReranker/results_20241201070411-9615b54759798d70923c93f6fa8ec8c9.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21443 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15051 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57195 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48012 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46203 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3927 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5649 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38672 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55909 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52685 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50148 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57722 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55621 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56515 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48067 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64696 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54962 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48753 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54811 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39266 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76334 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77641 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78125 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6952 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68382 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7529 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7043 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68599 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72254 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7514 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71439 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73274 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4556 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55065 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63212 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62006 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59391 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61659 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56781 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65118 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62032 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65893 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55134 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62066 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12375 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20046 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12245 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50464 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49771 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4274 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38476 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31676 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45467 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49108 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32318 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48874 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45189 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44679 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57386 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47717 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32016 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39794 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5311 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51142 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42224 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55545 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39592 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68359 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70663 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65041 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58898 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58587 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65672 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60527 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56558 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58642 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61788 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6203 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55854 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61599 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38994 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45356 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54415 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56998 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50397 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53868 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50947 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53998 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55685 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49522 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55034 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56005 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48277 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49463 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55737 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12131 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2073 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11999 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48641 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50301 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40863 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3655 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29943 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43786 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45705 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29808 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46578 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42981 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4326 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5883 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45616 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2972 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51574 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37189 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5178 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50697 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39251 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57013 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32397 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40714 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68374 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71388 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64952 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57415 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58462 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65624 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59853 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55184 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56963 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60935 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6188 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.557 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60734 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38802 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.43311 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53191 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56812 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4938 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53075 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50872 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52394 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53933 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47975 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55162 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55134 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49348 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54245 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13146 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22751 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13182 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49759 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52737 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43166 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37634 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30277 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4521 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46436 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30095 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47191 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44129 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44888 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61314 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46552 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54461 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38657 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53784 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53915 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39571 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59231 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34606 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43555 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70315 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73589 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.67504 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59435 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.60539 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67625 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61806 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57052 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59171 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62876 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63965 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58169 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.62949 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41325 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45208 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55156 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58988 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51661 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55558 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53061 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.54107 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55513 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49545 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57538 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57273 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48618 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5145 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55879 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17161 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2752 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17109 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56552 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58994 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.50381 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.45327 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36936 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52519 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5569 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3797 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55901 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51944 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51619 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65184 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54595 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36848 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59982 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47864 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6013 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60075 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4838 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62842 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41585 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4818 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73454 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76431 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71724 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64367 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65342 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71338 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66176 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.62349 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64203 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67272 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67368 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62692 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67616 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47025 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51745 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61343 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64093 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57891 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61459 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58929 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60141 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62637 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56914 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62743 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62469 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55067 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57141 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62129 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18677 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2897 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18419 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.58326 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60321 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52333 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47494 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3907 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5437 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57786 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40634 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.57988 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53644 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53317 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.66253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56516 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39186 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61075 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50426 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61861 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61351 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50756 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6353 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43355 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49558 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74214 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77053 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72677 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65605 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66419 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72253 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67197 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63763 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65451 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68283 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68269 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63952 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68736 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48825 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53526 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62831 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6511 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59376 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62852 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60316 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6153 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64218 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5852 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63962 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63913 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56756 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58601 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63765 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22875 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32624 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22212 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61099 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62209 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55433 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51612 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43655 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57467 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61267 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61031 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56884 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56215 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.675 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59768 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4434 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63185 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.54567 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64602 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63238 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54961 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65303 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46764 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52701 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75608 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77935 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74231 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67783 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68461 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73758 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69104 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66113 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67701 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70186 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69902 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66294 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70558 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52041 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57227 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6507 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.66948 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61715 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65066 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62584 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64028 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66618 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61196 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66043 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66088 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59507 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61102 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66094 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03903 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.08806 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04022 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22144 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2468 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15366 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12975 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.12615 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15553 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09298 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1473 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16096 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18284 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41669 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.17738 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1125 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26358 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10683 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2707 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24992 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12312 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35689 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10765 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21647 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.50359 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.45429 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35354 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.37111 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.38128 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32823 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.31529 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44752 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3578 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21469 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22197 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.27108 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30523 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.246 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27098 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27138 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26294 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21418 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30845 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31636 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24771 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27991 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.27454 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06516 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13489 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06527 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32597 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36575 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25988 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20568 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17574 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.286 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.26194 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15018 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.25388 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26034 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28157 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51098 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2753 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17416 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39581 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18578 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36461 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36807 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21123 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48255 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18113 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32717 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59648 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60858 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53023 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45161 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.4673 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56531 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.4803 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.42201 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43109 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48929 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5359 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4441 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.4837 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28765 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29886 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37851 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42413 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34623 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38124 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.37145 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37745 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37356 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.31749 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41803 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.33415 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37199 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38686 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07676 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15499 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07627 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.36361 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41064 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29724 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23871 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19578 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32132 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30179 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1764 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30686 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3012 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31983 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53395 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31747 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1947 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43153 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22514 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39882 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40989 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24883 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51427 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21619 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.35246 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61821 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64787 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5627 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47994 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49508 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58651 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50773 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44964 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46182 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51489 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55332 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.46918 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3091 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32276 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41837 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46844 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38298 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42354 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41274 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41473 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.35688 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46165 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36446 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40207 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42537 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.089 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17512 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08753 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40099 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45233 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33423 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27397 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21584 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35508 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34951 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20444 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35991 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34164 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35554 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55234 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35665 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21585 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45685 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26899 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.43216 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45031 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29203 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53881 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.25255 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37487 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63568 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67176 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58921 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50712 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5166 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60731 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.53079 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47467 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.4896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53845 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57058 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49062 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53953 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33027 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34968 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45278 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50512 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4203 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45964 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44046 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44686 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4541 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.39229 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4905 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48284 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.39303 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4306 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46115 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10252 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19396 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09954 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43327 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48283 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3663 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30757 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3878 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3959 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23668 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4041 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37919 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38597 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56587 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39434 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24014 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4796 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31064 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46007 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47775 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33276 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55353 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28201 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39052 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64876 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68364 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60786 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52937 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53601 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62261 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54877 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.4972 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51147 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55732 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58357 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.50812 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55995 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34981 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37435 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48119 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52829 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44929 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48695 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46621 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47489 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4887 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42691 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51248 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50573 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42019 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45494 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49172 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10468 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19623 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10136 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43691 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48519 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36991 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31179 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24369 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39143 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40042 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24169 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40874 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38255 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38928 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56731 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39846 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24434 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48145 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31578 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46345 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48013 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33764 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55445 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28504 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39235 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65006 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6846 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60954 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53163 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53792 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62419 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55061 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49978 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51379 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55922 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58506 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51026 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56202 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35264 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37772 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48413 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53012 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45204 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48966 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46866 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47757 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4919 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42996 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51467 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50836 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42342 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45733 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49494 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1069 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19808 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10335 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43913 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48651 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37229 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31514 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24707 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3939 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40365 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24538 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41145 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38513 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39153 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56802 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40126 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48283 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31948 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46567 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48145 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34143 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55524 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39396 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65105 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68519 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61068 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53323 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53933 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62525 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55205 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5016 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5155 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56063 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58615 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51192 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56344 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35482 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38057 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48592 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53136 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45376 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49132 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47028 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47959 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49396 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43201 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51609 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50992 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4255 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45905 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49674 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03903 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.08806 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04022 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22144 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2468 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15366 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12975 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.12615 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15553 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09298 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1473 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16096 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18284 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41669 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.17738 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1125 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26358 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10683 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2707 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24992 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12312 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35689 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10765 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21647 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.50359 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.45429 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35354 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.37111 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.38128 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32823 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.31529 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44752 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3578 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21469 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22197 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.27108 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30523 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.246 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27098 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27138 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26294 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21418 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30845 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31636 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24771 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27991 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.27454 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0799 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16033 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07804 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3582 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.40273 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29383 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23193 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19863 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31156 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28985 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.17172 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27895 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28728 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31362 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56241 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30456 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1983 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44009 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21255 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39497 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41192 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2336 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52761 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20869 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37322 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62677 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63989 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.559 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48208 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.50415 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58839 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.51826 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45161 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46529 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51851 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56108 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51366 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32254 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32885 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41135 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46409 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.37764 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4115 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40898 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40787 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.40068 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34952 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45721 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44462 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36509 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40868 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42168 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1049 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20475 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10418 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42137 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47926 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.35717 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29292 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24145 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37354 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35398 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22068 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36112 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35362 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37885 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6199 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.379 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23866 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51609 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2843 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46172 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48479 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29564 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59395 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27272 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42887 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67171 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7053 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62101 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53359 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56239 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6311 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57356 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50774 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52253 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56925 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59708 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53723 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37409 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38004 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48302 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54224 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4443 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48693 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48003 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47049 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47202 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42267 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53133 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51037 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42432 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46912 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48963 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14625 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26482 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14523 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51036 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45449 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38054 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29871 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46205 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46286 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29633 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47195 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4455 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46962 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.68519 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47181 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30125 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59815 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39182 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55056 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59255 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39094 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65898 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36414 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50346 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72545 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76679 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69073 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60642 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62925 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69117 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64075 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57901 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60025 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63543 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65641 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61051 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64105 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44902 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46099 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5714 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62819 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53716 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58508 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5665 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55769 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5663 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50951 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61031 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59155 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50338 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55065 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57701 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25655 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40531 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25496 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68824 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74541 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64903 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57694 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47203 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.65355 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69073 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49278 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69079 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64701 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64743 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.82104 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67625 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.76294 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.62455 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72441 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.77796 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.77993 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55215 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.66204 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81866 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85685 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.81664 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74644 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77641 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80136 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77138 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.72796 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74704 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76172 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76207 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74621 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77564 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62712 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6375 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7387 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77608 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7102 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.75022 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73846 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72327 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75638 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71023 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.75903 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73948 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6805 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.71457 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.742 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31541 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46834 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30569 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75225 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.79988 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72394 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65427 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54848 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.72023 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76441 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58586 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76378 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.70789 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70989 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.87471 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54773 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.80974 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.79109 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.83214 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68884 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81558 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62119 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.73044 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.851 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.88595 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.85659 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79574 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82051 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83904 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81197 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78406 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79741 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80256 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80066 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79855 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82078 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.70432 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79646 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.81754 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76888 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79694 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.77638 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81582 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7728 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80771 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.79725 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74554 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77564 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.80561 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.5368 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.50769 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.88868 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.90812 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.8839 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.84958 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.76769 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.86977 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.92461 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.79579 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.90826 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.86788 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.85107 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.9553 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.89941 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78145 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.93371 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.9157 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.93147 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.94797 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.87808 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.94742 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.80061 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.93873 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.92814 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.94004 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.94307 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.91232 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.93293 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.9234 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.91196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.90603 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.9179 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.90455 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.89443 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.92692 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.91741 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.88796 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.8832 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.91239 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.92332 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.89619 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.9279 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.92609 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.90351 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.93724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.91493 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.92328 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.9134 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.88656 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.91386 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.9269 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21443 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15051 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57195 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48012 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46203 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3927 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5649 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38672 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55909 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52685 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50148 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57722 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55621 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56515 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48067 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64696 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54962 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48753 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54811 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39266 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76334 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77641 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78125 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6952 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68382 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7529 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7043 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68599 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72254 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7514 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71439 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73274 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4556 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55065 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63212 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62006 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59391 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61659 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56781 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65118 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62032 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65893 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55134 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62066 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10545 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15614 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1054 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38636 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35836 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.35886 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32116 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24917 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34912 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42281 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28307 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4264 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37639 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35386 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29997 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3893 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26219 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.36115 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35578 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37885 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37405 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36927 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33044 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29271 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26298 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.36845 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.44163 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.40923 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38204 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.36569 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.36377 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37655 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37751 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41137 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.38524 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34639 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.34364 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39599 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26715 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33068 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39716 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39629 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.37169 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39213 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36051 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39035 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41372 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38109 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.38025 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.34544 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33035 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40529 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08867 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12852 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08712 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30007 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.28622 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27909 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26246 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.198 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27432 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33363 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22973 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35757 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.30261 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28042 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20966 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31169 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26764 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29867 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28976 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28799 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29863 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24006 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24197 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.19098 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.25056 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.31245 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.28869 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.27262 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.26088 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.24957 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.26511 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.27003 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29292 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.27151 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.23362 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.24313 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28257 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19495 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24559 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30295 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30454 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.28567 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3009 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27688 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29488 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.3208 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.29852 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28464 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28074 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26201 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.24852 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30995 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06463 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09077 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06281 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20094 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.19334 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19006 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18381 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1849 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.23606 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1627 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.25059 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20631 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18783 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.12373 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.21183 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13906 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.16318 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21387 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.18718 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18917 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21311 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14456 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.17078 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.11932 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14522 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17894 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.17202 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.17011 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.15529 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.14862 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.15921 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.16619 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.17861 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.1632 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.13618 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.14698 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.12419 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.16266 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.19485 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.19151 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18901 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19335 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.17604 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.19174 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2104 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.19505 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.1754 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.17695 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.16948 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.15941 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2017 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02397 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03002 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02324 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05973 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05542 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.05786 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.06016 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.04678 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05808 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07662 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0575 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07728 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.0638 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.05666 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03116 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.06651 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04842 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04467 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07056 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.05432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05206 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.07131 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03579 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.05287 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03251 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03612 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04166 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04369 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.04636 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.0416 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03826 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04226 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04666 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04777 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04335 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.0345 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03973 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04582 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0377 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05067 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05539 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05073 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05394 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05351 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.04928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.05434 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06153 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05846 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04762 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04852 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.05122 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04576 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0573 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01468 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01717 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01393 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03333 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02985 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03236 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03436 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02768 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03269 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04259 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03423 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03521 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03158 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01677 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.03713 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.02916 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02393 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04026 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03021 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02795 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04072 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01866 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02946 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01784 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01921 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02163 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02328 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02529 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02249 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02058 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02286 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02571 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0259 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02333 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01858 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02185 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02472 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02153 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.0287 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0303 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02696 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02947 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0291 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02968 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03369 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.032 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02582 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02666 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02858 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02518 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0315 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00243 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00235 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00226 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00333 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00392 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00448 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00395 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00403 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00515 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00467 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00505 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00428 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00186 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00452 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00436 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00502 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00362 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00522 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00207 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00368 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00225 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.0022 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0023 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00262 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00299 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00265 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00236 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00307 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00216 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00265 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00378 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00351 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00303 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00341 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00335 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00352 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00391 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00377 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.003 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00314 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00366 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21443 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15051 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57195 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48012 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46203 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3927 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5649 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38672 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55909 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52685 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50148 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57722 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55621 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56515 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48067 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64696 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54962 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48753 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54811 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39266 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40255 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76334 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77641 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78125 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6952 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68382 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7529 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7043 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68599 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72254 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7514 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71439 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73274 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4556 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55065 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63212 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62006 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59391 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61659 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56781 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65118 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62032 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65893 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55065 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62066 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17647 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25896 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18331 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63594 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57856 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.54958 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53319 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45649 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59413 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64221 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45936 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62946 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58805 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57097 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63503 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62685 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45475 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62762 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.55578 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70164 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61786 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55538 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60108 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45949 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79963 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81078 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8156 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73518 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73836 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78575 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75467 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73707 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77276 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78876 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74786 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71806 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51661 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61915 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.68932 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.68131 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64798 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6724 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63012 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6702 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70145 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64131 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67443 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70379 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62011 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61027 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68697 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18641 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27104 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19344 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64653 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59137 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56107 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54737 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46965 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60656 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6522 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47339 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64132 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59861 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58295 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64543 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6405 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46784 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64175 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57311 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71604 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62608 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56942 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61109 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.47431 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46783 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80605 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81624 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82189 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.7413 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74832 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79223 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76254 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74649 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77944 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79539 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75381 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72744 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78349 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52863 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63395 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7003 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69031 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65827 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68364 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64158 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.68014 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7131 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65486 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68467 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71315 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63261 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62123 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69807 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1952 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27709 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20251 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65351 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59919 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57122 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55614 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47882 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61572 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66196 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48382 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64891 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60655 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59096 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65201 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6486 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47919 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64857 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58349 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72275 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63288 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5797 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61513 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48439 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47497 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80988 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81903 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82488 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74703 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75337 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79603 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7666 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75027 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78346 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79949 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75826 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73448 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78834 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53758 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64257 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70634 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69607 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66561 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69119 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64829 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.68706 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7204 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66231 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69101 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.7194 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63892 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62897 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70448 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20197 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28256 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20957 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65789 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60417 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57628 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.562 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48671 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62076 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66574 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49122 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65366 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6115 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59576 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65703 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65326 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48644 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65315 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58873 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72563 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63734 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58529 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61924 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49166 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48112 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81247 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8207 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82686 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75664 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79862 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76925 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75314 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78603 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80142 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76128 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73752 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79079 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54339 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64773 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70982 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69967 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6692 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69483 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65236 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69093 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72453 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66581 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69495 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72289 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64376 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63363 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70767 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20288 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28333 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21036 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65821 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60455 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57679 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.56262 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48745 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62129 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66607 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49195 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65404 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6119 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59613 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65358 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48709 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65347 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58912 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72592 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63767 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58578 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6196 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49226 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4819 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81264 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82091 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75066 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7568 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79879 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76945 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7534 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78625 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80156 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76152 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73784 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79097 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54398 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64799 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71011 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69989 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66957 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69509 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65271 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69124 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72482 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6662 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69526 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72327 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64411 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63411 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70796 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20371 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28407 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21105 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65841 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6048 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57703 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.5629 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48779 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62146 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66625 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4923 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65419 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61219 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5964 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65767 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65378 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48747 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65372 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58933 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72608 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63793 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58599 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62001 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49259 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48256 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81274 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82102 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82717 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75084 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75693 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7989 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76953 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75356 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78637 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80165 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76167 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73799 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79106 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54432 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64817 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71025 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70007 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6698 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69526 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65297 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69141 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72491 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69542 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72341 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64432 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63434 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70813 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63609 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70109 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58333 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4918 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.33735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.35608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34174 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51445 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55759 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5112 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53145 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51257 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.48044 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45018 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46314 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43846 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33351 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54738 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52178 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.55116 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61703 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.49451 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45776 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50426 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47638 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.35724 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56045 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58441 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57172 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54573 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.53837 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50486 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5248 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40592 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65037 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6664 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65854 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65939 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74595 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59913 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59102 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56909 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57095 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47892 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66485 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67092 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67166 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63652 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61464 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60697 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57758 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5813 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4978 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6778 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69642 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68177 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68348 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76167 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63513 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62251 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58313 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52337 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19984 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.27157 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.21755 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.33735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.28981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.16987 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.308 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.34076 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33264 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.412 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.42023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.38306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.38348 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3269 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.43173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39631 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.2546 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37331 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.40144 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3951 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.45411 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.48607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42589 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.41552 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36287 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42125 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.28438 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43997 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46356 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.55204 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45797 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44437 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46535 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4455 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31728 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48633 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50797 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51409 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48708 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46633 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43515 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47397 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45882 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34286 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48927 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.51067 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51623 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.599 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.49012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4689 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43787 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46005 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3457 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49031 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.51222 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51725 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59963 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.49129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.47046 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43923 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.475 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46052 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34721 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19984 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.27157 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.21755 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.33735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.28981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.16987 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.34745 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.3823 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.37472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.45958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42466 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44108 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55422 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50396 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30756 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.46174 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4842 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5013 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51358 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46249 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65462 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58506 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38472 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.61836 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63039 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69054 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59219 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62057 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58394 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73092 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.71612 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50329 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.86512 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.84893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.88707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.88097 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.93408 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.81644 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.81422 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.84688 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.90763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.88675 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.74949 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.92327 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.90406 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.93728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.93516 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.97464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.89309 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.88125 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.91579 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.95984 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.94214 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.83769 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.99439 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.99581 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99612 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.99107 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.99693 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.9972 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63609 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70109 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58333 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4918 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.33735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.35608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34174 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43644 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46252 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41811 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.36526 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.51359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.37202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31989 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.32878 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.18474 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.21266 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23343 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36697 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37811 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34682 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27718 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.40815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28214 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.23817 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25355 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13092 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.15549 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.18375 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.26006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.26302 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.17549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.27255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.1756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.15269 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.16967 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.07309 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.09881 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.12913 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07538 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04789 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07511 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.0428 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0523 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01815 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02588 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.03938 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.04015 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03935 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03613 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02563 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03932 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02836 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.0236 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.02839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0096 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01383 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02202 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00425 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00381 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63609 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70109 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58333 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4918 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.33735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.35608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34174 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67371 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76993 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63889 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59543 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5806 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.43173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45203 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42951 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68559 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67746 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68836 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78229 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64692 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61022 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47102 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44771 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69333 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72793 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68555 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69439 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7877 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61891 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60598 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46535 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48688 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45933 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69678 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69827 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79035 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65871 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62416 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6132 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47397 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49571 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46677 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69697 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69839 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79049 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62449 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49642 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46757 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-7B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:04:11Z", + "is_anonymous": false, + "revision": "9615b54759798d70923c93f6fa8ec8c9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69703 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73102 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62466 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61367 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.475 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49662 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46793 + } + ] + } +] \ No newline at end of file