[ { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21443 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15051 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.57195 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51548 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48012 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.46203 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.3927 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53368 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5649 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.38672 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55909 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.52685 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50148 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57722 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.55621 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.39291 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56515 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48067 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.54962 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.48753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54811 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39266 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4017 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76334 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77641 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78125 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6952 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68382 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7529 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7043 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68599 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72254 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7514 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71439 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66758 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.73274 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4556 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.55065 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.63212 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62006 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59391 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61659 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.56781 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6155 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65118 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5805 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62032 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.65893 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55134 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.62066 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12375 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20046 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12245 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.50464 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49771 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4274 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38476 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.31676 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45467 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.49108 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.32318 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.48874 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45189 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44679 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57386 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.47717 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32016 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50649 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39794 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5311 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51142 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42224 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55545 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33741 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39592 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70663 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65041 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.58898 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.58587 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65672 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.60527 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.56558 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.58642 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.61788 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6203 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.55854 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61599 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38994 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.45356 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.54415 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56998 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50397 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53868 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50947 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.53998 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55685 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49522 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.55034 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56005 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.48277 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.49463 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.55737 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12131 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2073 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11999 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.48641 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50301 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40863 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3655 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29943 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.43786 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.45705 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29808 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46578 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.42981 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.4326 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5883 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.45616 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2972 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51574 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37189 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5178 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50697 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39251 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57013 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32397 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40714 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68374 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71388 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64952 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.57415 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.58462 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65624 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.59853 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.55184 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.56963 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60935 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6188 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.557 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.60734 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38802 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43311 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.53191 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56812 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4938 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53075 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50872 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.52394 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.53933 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.47975 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.55162 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.55134 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.47 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.49348 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54245 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13146 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22751 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13182 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49759 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52737 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43166 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.37634 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.30277 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.4521 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46436 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.30095 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.47191 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.44129 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44888 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.61314 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46552 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.30289 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54461 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38657 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.53784 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.53915 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39571 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59231 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34606 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.43555 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70315 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73589 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67504 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.59435 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.60539 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67625 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.61806 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.57052 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.59171 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.62876 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.63965 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58169 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62949 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41325 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.45208 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.55156 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58988 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51661 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.55558 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.53061 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.54107 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55513 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49545 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.57538 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.57273 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.48618 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.5145 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.55879 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17161 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2752 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17109 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.56552 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58994 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50381 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.45327 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.36936 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.52519 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5569 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.3797 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55901 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.51944 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51619 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.65184 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54595 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.36848 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59982 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47864 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6013 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.60075 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.4838 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62842 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41585 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4818 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.73454 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76431 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71724 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64367 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.65342 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71338 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.66176 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.62349 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64203 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67272 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67368 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62692 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.67616 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47025 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51745 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61343 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64093 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57891 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61459 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58929 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.60141 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62637 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56914 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62743 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62469 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55067 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.57141 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.62129 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18677 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2897 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18419 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.58326 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60321 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52333 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47494 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.3907 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.5437 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.57786 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40634 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57988 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53644 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.53317 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.66253 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.56516 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.39186 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61075 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50426 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61861 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61351 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50756 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6353 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43355 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49558 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74214 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77053 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72677 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.65605 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66419 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72253 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.67197 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.63763 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.65451 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.68283 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68269 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.63952 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68736 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48825 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.53526 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62831 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59376 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.62852 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60316 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6153 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.64218 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5852 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.63962 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.63913 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.56756 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.58601 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63765 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.22875 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32624 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22212 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61099 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62209 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55433 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.51612 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.43655 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.57467 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.61267 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.4525 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61031 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.56884 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.56215 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.675 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.59768 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.4434 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63185 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54567 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64602 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63238 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54961 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46764 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.52701 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75608 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77935 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74231 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67783 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68461 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.73758 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69104 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.66113 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.67701 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.70186 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.69902 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66294 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70558 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52041 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.57227 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.6507 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66948 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61715 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.65066 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.62584 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.64028 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66618 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.61196 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.66043 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.66088 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59507 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61102 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.66094 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03903 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08806 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04022 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.22144 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2468 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15366 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12975 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.12615 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.2 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.15553 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09298 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1473 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.16096 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.18284 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.41669 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.17738 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26358 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10683 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2707 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.24992 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.12312 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35689 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10765 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21647 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.50359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45429 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41472 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.35354 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.37111 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.47803 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.38128 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.32823 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.31529 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.39574 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.44752 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3578 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.37807 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21469 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.22197 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.27108 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30523 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.246 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.27098 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.26672 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27138 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.26294 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21418 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.30845 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.31636 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.24771 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.27991 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.27454 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06516 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13489 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06527 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.32597 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36575 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25988 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.20568 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.17574 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.286 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.26194 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15018 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.25388 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.26034 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28157 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51098 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2753 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.17416 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39581 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18578 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36461 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.36807 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21123 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48255 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18113 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.32717 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.59648 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60858 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53023 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.45161 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.4673 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.56531 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.4803 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.42201 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.43109 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.48929 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.5359 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.4441 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.4837 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28765 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.29886 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37851 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42413 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34623 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38124 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.37145 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.37745 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.37356 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.31749 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42192 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.41803 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33415 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.37199 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38686 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07676 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15499 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07627 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.36361 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41064 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29724 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23871 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.19578 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.32132 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30179 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.1764 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30686 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.3012 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.31983 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.53395 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31747 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1947 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43153 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22514 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39882 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.40989 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.24883 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51427 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21619 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.35246 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.61821 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64787 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5627 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.47994 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.49508 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58651 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.50773 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.44964 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.46182 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51489 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55332 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.46918 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.51312 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3091 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32276 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41837 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46844 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38298 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.42354 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.40957 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.41274 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41473 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.35688 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.46165 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.45246 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36446 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.40207 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42537 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.089 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17512 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08753 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40099 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45233 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33423 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.27397 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.21584 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.35508 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34951 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.20444 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.35991 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.34164 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.35554 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.55234 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35665 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21585 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45685 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26899 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.43216 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45031 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.29203 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53881 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25255 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37487 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.63568 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67176 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58921 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.50712 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5166 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60731 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.53079 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47467 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.4896 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.53845 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57058 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49062 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.53953 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33027 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34968 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.45278 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50512 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4203 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45964 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44046 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.44686 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4541 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39229 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4905 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.48284 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.39303 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.4306 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.46115 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10252 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19396 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09954 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43327 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3663 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.30757 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3878 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3959 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.23668 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4041 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.37919 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.38597 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56587 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.39434 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.24014 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4796 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31064 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46007 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47775 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.33276 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55353 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28201 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39052 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64876 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68364 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60786 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.52937 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53601 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62261 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.54877 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.4972 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.51147 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55732 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58357 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.50812 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.55995 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34981 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.37435 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48119 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52829 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44929 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.48695 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.46621 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47489 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4887 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42691 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51248 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50573 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42019 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45494 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49172 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10468 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19623 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10136 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43691 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48519 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36991 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31179 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24369 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.39143 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40042 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24169 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40874 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38255 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.38928 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56731 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.39846 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.24434 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48145 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31578 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46345 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48013 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.33764 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55445 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28504 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39235 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65006 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6846 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60954 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53163 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53792 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62419 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55061 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.49978 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.51379 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55922 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58506 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51026 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56202 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35264 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.37772 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48413 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53012 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45204 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.48966 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.46866 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47757 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4919 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42996 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51467 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50836 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42342 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45733 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49494 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1069 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19808 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10335 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43913 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48651 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37229 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31514 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24707 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3939 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40365 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.24538 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41145 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38513 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.39153 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56802 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.40126 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.24815 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48283 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31948 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46567 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48145 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.34143 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55524 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28741 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39396 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65105 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68519 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61068 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53323 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53933 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62525 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55205 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5016 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5155 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56063 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58615 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51192 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56344 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35482 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.38057 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48592 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53136 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45376 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.49132 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.47028 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47959 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.49396 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43201 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51609 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50992 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.4255 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45905 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49674 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03903 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08806 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.04022 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.22144 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2468 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.15366 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12975 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.12615 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.2 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.15553 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09298 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1473 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.16096 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.18284 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.41669 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.17738 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26358 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.10683 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2707 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.24992 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.12312 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.35689 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10765 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21647 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.50359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45429 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41472 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.35354 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.37111 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.47803 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.38128 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.32823 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.31529 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.39574 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.44752 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3578 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.37807 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21469 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.22197 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.27108 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30523 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.246 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.27098 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.26672 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27138 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.26294 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21418 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.30845 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.31636 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.24771 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.27991 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.27454 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0799 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16033 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07804 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3582 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40273 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29383 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23193 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.19863 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.31156 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.28985 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.17172 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.27895 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.28728 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.31362 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56241 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.30456 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1983 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44009 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21255 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39497 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.41192 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.2336 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52761 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20869 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37322 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.62677 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63989 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.559 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48208 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.50415 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58839 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.51826 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.45161 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.46529 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51851 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56108 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.48162 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.51366 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32254 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32885 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41135 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46409 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37764 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4115 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.40898 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.40787 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.40068 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34952 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.45721 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.44462 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36509 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.40868 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42168 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1049 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20475 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10418 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.42137 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47926 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35717 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.29292 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24145 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.37354 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.35398 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22068 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36112 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35362 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37885 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.6199 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.379 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23866 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51609 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2843 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46172 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48479 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.29564 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59395 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27272 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.42887 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67171 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7053 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62101 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53359 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.56239 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6311 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.57356 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.50774 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.52253 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56925 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.59708 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53723 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56873 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37409 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.38004 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48302 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54224 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4443 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.48693 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.48003 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47049 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.47202 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42267 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53133 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.51037 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42432 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.46912 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48963 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14625 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26482 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14523 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51036 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57259 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45449 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38054 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29871 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46205 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46286 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29633 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.47195 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4455 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46962 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.68519 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.47181 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.30125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59815 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39182 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.55056 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.59255 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39094 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65898 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36414 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.50346 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.72545 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76679 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69073 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.60642 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62925 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69117 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.64075 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.57901 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60025 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.63543 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65641 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.61051 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64105 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44902 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.46099 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.5714 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53716 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.58508 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.5665 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55769 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5663 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.50951 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.61031 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.59155 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50338 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55065 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.57701 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25655 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40531 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.25496 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.68824 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74541 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64903 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57694 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.47203 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.65355 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.69073 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49278 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.69079 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.64701 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64743 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.82104 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.67625 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.46663 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.76294 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62455 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72441 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.77796 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.60782 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77993 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55215 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.66204 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.81866 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.85685 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81664 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74644 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.77641 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80136 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.77138 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.72796 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.74704 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.76172 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76207 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74621 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.77564 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62712 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6375 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.7387 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.77608 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7102 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.75022 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73846 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.72327 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.75638 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.71023 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.75903 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73948 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6805 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.71457 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.742 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.31541 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46834 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.30569 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.75225 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.79988 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72394 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.65427 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54848 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.72023 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.76441 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.58586 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.76378 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.70789 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70989 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.87471 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.74466 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54773 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80974 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71685 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.79109 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.83214 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.68884 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.81558 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62119 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.73044 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.851 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.88595 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85659 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.79574 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.82051 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.83904 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81197 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.78406 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79741 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80256 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80066 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.79855 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82078 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70432 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.70282 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.79646 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.81754 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76888 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.80552 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.79694 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.77638 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.81582 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.7728 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.80771 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.79725 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.74554 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77564 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.80561 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.5368 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.69563 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.50769 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.88868 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.90812 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.8839 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.84958 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.76769 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.86977 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.92461 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.79579 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.90826 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.86788 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.85107 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.9553 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.89941 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.78145 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.93371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.9157 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.93147 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.94797 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.87808 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.94742 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.80061 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.93873 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.92814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.94004 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.94307 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.91232 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.93293 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.9234 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.91196 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.90603 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.9179 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.90455 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.89443 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.92692 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.91741 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.88796 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.8832 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.91239 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.92332 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.89619 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.9279 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.92609 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.90351 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.93724 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.91493 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.92328 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.9134 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.88656 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.91386 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.9269 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21443 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15051 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.57195 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51548 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48012 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.46203 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.3927 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53368 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5649 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.38672 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55909 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.52685 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50148 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57722 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.55621 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.39291 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56515 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48067 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.54962 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.48753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54811 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39266 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4017 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76334 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77641 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78125 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6952 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68382 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7529 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7043 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68599 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72254 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7514 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71439 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66758 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.73274 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4556 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.55065 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.63212 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62006 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59391 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61659 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.56781 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6155 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65118 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5805 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62032 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.65893 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55134 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.62066 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10545 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15614 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1054 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38636 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35836 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35886 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.32116 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24917 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34912 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.42281 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.28307 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4264 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.37639 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.35386 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.29997 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3893 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26219 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.36115 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35578 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37885 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37405 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36927 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33044 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29271 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.26298 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.36845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44163 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40923 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.38204 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.36569 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.36377 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37655 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.37751 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.41137 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.38524 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34639 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.34364 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.39599 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26715 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.33068 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.39716 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39629 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37169 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.39213 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.36051 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.39035 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41372 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38109 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.37713 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38025 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.34544 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.33035 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.40529 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08867 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12852 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08712 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.30007 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28622 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27909 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26246 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.198 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.27432 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.33363 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22973 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.35757 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.30261 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28042 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.20966 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31169 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.20332 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26764 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29867 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.28976 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.28799 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.29863 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24006 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24197 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.19098 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.25056 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.31245 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.28869 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.27262 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.26088 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.24957 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.26511 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.27003 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.29292 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.27151 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.23362 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.24313 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28257 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19495 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.24559 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30295 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30454 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28567 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.3009 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.27688 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.29488 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.3208 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.29852 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.28464 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.28074 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.26201 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.24852 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.30995 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06463 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09077 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06281 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.20094 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19334 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19006 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.18381 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13362 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.1849 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.23606 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.1627 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.25059 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.20631 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.18783 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.12373 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.21183 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.13906 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.16318 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21387 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.18718 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.18917 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21311 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14456 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17078 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.11932 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.14522 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17894 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.17202 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.17011 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.15529 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.14862 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.15921 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.16619 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.17861 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.1632 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.13618 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.14698 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.17204 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12419 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.16266 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.19485 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19151 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.18901 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.19335 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.17604 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.19174 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.2104 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19505 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.1754 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.17695 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.16948 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.15941 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.2017 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02397 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03002 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02324 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.05973 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05542 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05786 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.06016 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.04678 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.05808 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.07662 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.0575 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.07728 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.0638 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.05666 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.03116 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.06651 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.04842 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04467 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07056 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.05432 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05206 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.07131 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03579 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05287 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03251 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03612 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.04166 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04369 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.04636 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.0416 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03826 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04226 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.04666 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04777 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04335 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.0345 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.03973 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04582 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0377 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.05067 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.05539 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.05073 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05394 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.05351 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.04928 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.05434 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.06153 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.05846 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.04762 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.04852 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.05122 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.04576 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.0573 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01468 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01717 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01393 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.03333 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02985 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03236 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.03436 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.02768 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03269 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04259 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04291 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03521 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03158 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01677 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03713 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.02916 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02393 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04026 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03021 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02795 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.04072 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01866 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02946 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01784 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01921 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02163 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02328 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02529 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02249 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.02058 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02286 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02571 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.0259 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02333 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01858 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02185 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02472 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02153 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.0287 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.0303 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02696 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02947 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.0291 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02677 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02968 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03369 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.032 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02582 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02666 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.02858 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02518 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.0315 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00243 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00235 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00226 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00333 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00392 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00448 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00395 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00403 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00515 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00467 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00505 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00428 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00387 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00186 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00452 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00436 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00276 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00502 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00362 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00311 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00522 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00207 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00368 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00225 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.0022 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0023 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00262 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00299 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00265 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00236 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00269 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00307 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00305 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00273 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00216 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00265 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00285 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00275 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00378 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00351 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00303 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00341 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00335 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00311 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00352 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00391 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00377 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.003 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00314 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00347 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00302 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00366 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13558 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21443 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15051 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.57195 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51548 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48012 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.46203 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.3927 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53368 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5649 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.38672 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55909 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.52685 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50148 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57722 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.55621 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.39291 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56515 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48067 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.54962 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.48753 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54811 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39266 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40255 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76334 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77641 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78125 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6952 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68382 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7529 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7043 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68599 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72254 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7514 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71439 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66758 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.73274 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4556 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.55065 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.63212 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62006 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59391 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61659 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.56781 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6155 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65118 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5805 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62032 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.65893 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55065 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.62066 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17647 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25896 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18331 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63594 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57856 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.54958 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.53319 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.45649 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59413 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.64221 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.45936 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62946 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58805 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57097 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.63503 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62685 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.45475 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62762 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55578 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70164 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61786 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.55538 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60108 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45949 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.79963 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81078 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.8156 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73518 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73836 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.78575 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75467 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.73707 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77276 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78876 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74786 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71806 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.77751 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51661 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61915 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.68932 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68131 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64798 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6724 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63012 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6702 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.70145 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64131 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.67443 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.70379 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62011 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61027 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68697 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18641 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27104 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19344 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.64653 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59137 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56107 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.54737 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46965 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.60656 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.6522 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.47339 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64132 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.59861 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.58295 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.64543 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.6405 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.46784 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64175 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57311 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.71604 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.62608 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.56942 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61109 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47431 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46783 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80605 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81624 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82189 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.7413 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74832 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79223 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76254 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74649 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77944 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.79539 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75381 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.72744 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78349 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52863 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.63395 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.7003 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69031 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65827 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68364 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64158 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.68014 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.7131 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65486 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68467 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.71315 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.63261 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62123 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.69807 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1952 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27709 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20251 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.65351 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59919 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57122 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55614 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.47882 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.61572 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66196 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48382 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64891 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.60655 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59096 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.65201 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.6486 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.47919 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64857 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58349 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72275 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63288 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.5797 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61513 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48439 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47497 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80988 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81903 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82488 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74703 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75337 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79603 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7666 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75027 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78346 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.79949 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75826 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73448 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78834 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53758 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64257 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.70634 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66561 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.69119 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64829 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.68706 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.7204 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66231 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69101 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.7194 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.63892 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62897 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.70448 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20197 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28256 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20957 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.65789 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60417 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57628 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.562 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48671 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.62076 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66574 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49122 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.65366 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.6115 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59576 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.65703 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.65326 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.48644 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65315 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58873 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72563 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63734 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58529 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61924 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49166 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48112 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.81247 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8207 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82686 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75044 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75664 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79862 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76925 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75314 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78603 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80142 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76128 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73752 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.79079 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54339 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64773 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.70982 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69967 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6692 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.69483 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65236 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69093 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.72453 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66581 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69495 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.72289 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.64376 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.63363 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.70767 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20288 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28333 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21036 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.65821 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60455 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57679 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.56262 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48745 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.62129 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66607 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49195 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.65404 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.6119 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59613 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.6575 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.65358 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.48709 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65347 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58912 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72592 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63767 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58578 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6196 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49226 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4819 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.81264 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82091 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82706 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75066 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7568 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79879 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76945 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.7534 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78625 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80156 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76152 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73784 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.79097 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54398 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64799 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71011 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69989 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66957 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.69509 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65271 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69124 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.72482 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.6662 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69526 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.72327 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.64411 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.63411 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.70796 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20371 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28407 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21105 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.65841 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6048 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57703 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.5629 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48779 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.62146 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66625 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.4923 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.65419 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61219 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.5964 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.65767 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.65378 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.48747 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65372 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58933 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72608 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63793 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.58599 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62001 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49259 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48256 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.81274 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82102 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82717 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75084 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75693 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7989 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76953 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75356 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78637 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.80165 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76167 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73799 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.79106 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54432 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64817 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71025 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70007 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6698 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.69526 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65297 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69141 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.72491 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66643 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.69542 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.72341 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.64432 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.63434 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.70813 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51075 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4918 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.33735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34174 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51445 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55759 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5112 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53145 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48044 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45018 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46314 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43846 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33351 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54738 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52178 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61703 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51362 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49451 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45776 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50426 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47638 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35724 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58441 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57172 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54573 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53837 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50486 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52968 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5248 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40592 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6664 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59913 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59102 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56909 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57095 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47892 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66485 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67092 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61464 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60697 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57758 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5813 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4978 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6778 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63513 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62251 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58313 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58979 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52337 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27157 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21755 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.33735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.28981 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16987 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.308 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.34076 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33264 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42023 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.38306 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38348 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3269 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43173 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39631 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2546 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40144 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3951 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45411 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42589 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36287 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45442 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42125 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28438 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46356 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44437 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39972 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46535 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4455 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31728 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50797 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49694 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48708 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46633 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43515 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47397 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45882 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34286 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48927 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51067 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4689 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43787 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47473 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46005 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3457 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.49031 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51222 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5005 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51725 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59963 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47046 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43923 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.475 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46052 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34721 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27157 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21755 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.33735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.28981 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16987 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34745 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3823 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48473 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.45958 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44108 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38529 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55422 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50396 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30756 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46174 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4842 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57359 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56203 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5013 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51358 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46249 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65462 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58506 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38472 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61836 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63039 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64332 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69054 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62057 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58394 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73092 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71612 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50329 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84893 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.88707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.88097 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.93408 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.81644 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81422 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.84688 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.90763 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.88675 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.74949 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.92327 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.90406 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.93728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.93516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.89309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.88125 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.91579 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.94214 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.83769 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.99439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99612 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99693 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.9972 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51075 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4918 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.33735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34174 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43644 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46252 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.36526 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51359 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31989 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32878 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.18474 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21266 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.23343 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36697 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.34682 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.40815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28214 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.23817 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25355 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13092 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.15549 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18375 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.26006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26302 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.17549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.1756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.15269 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16967 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07309 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.09881 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.12913 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07456 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.0428 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0523 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01815 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.03938 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.0236 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02839 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0096 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01383 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02202 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51075 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4918 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.33735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34174 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66967 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76993 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59543 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5806 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43173 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45203 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42951 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71967 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64692 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61022 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59522 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.45442 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47102 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44771 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69333 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69439 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7877 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61891 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60598 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46535 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48688 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45933 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69678 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65871 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62416 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6132 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47397 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49571 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46677 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69697 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73086 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79049 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62449 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61356 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47473 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49642 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46757 } ] }, { "config": { "retrieval_model": "gte-Qwen2-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-7B-instruct", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:04:11Z", "is_anonymous": false, "revision": "9615b54759798d70923c93f6fa8ec8c9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69703 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73102 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62466 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61367 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.475 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49662 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46793 } ] } ]