metadata
base_model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
datasets:
- hatemestinbejaia/RARAELECTRAandRARABERTusedDATASET
library_name: sentence-transformers
metrics:
- map
- mrr@10
- ndcg@10
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:5000000
- loss:MarginMSELoss
widget:
- source_sentence: أين تم تصوير مسلسل حديقة الحيوان
sentences:
- >-
تم توجيه فيديو Come Undone بواسطة Julien Temple . تم تصوير لقطات للفرقة
في حوض السمك في حديقة حيوان لندن . كانت تتخللها صور قصيرة لأشخاص
يتراجعون بطرق مختلفة .
- >-
First Lido Condominium هو مجتمع جميل يقع في الطرف الجنوبي ، مباشرة على
الشاطئ الأصلي ليدو كي في ساراسوتا ، فلوريدا . كان مجمع الوحدات السكنية ،
الواقع في 1900 Ben Franklin Drive ، أول مجمع سكني تم بناؤه على شاطئ Lido
في عام 1967 . يتمتع First Lido بإطلالات واسعة على خليج المكسيك ، وغروب
الشمس الخلاب ورمال السكر البيضاء . يوفر First Lido جوا ودودا مريحا
ومسبحا ساخنا يتم تدفئته على مدار العام وموظفي الصيانة في الموقع وخدمة
الإنترنت اللاسلكي . .
- >-
امرأة تغمى على مجموعة من . CBS New Series ' Zoo ' الآن تصوير وتوظيف .
مسلسل تلفزيوني جديد على شبكة سي بي اس Zoo يصور الآن في نيو أورلينز ،
لويزيانا . وفقا ل Deadline ، تعمل شبكة سي بي إس على مسلسل تلفزيوني جديد
مبني على فيلم جيمس باترسون الأكثر مبيعا في العالم . تتمحور حديقة
الحيوانات حول عالم شاب منشق مجبر على حل اللغز وراء سلسلة الهجمات العنيفة
الأخيرة على الحيوانات التي تجتاح الكوكب .
- source_sentence: ما هو صافي ثروة فانا وايت ؟
sentences:
- >-
قصف هيروشيما وناجازاكي . في 6 أغسطس 1945 ، أسقطت الولايات المتحدة قنبلة
ذرية ( ليتل بوي ) على هيروشيما في اليابان . بعد ثلاثة أيام ، ألقيت قنبلة
ذرية ثانية ( فات مان ) على مدينة ناغازاكي ، وكانت هذه هي المرات الوحيدة
التي استخدمت فيها الأسلحة النووية في الحرب ، وأسباب القصف ، وقصف
هيروشيما وناجازاكي . في 6 أغسطس 1945 ، أسقطت الولايات المتحدة قنبلة ذرية
( ليتل بوي ) على هيروشيما في اليابان . بعد ثلاثة أيام ، أسقطت قنبلة ذرية
ثانية ( فات مان ) على مدينة ناغازاكي . كانت هذه هي المرات الوحيدة التي
استخدمت فيها الأسلحة النووية في الحرب . أسباب القصف .
- >-
تقدر ثروة فانا ماري روزيش المولودة ب 15 مليون دولار . روزيش ، المعروفة
شعبيا باسم فانا وايت ، هي شخصية تلفزيونية أمريكية وممثلة سينمائية اشتهرت
باسم مضيفة Wheel of Fortune منذ عام 1982 . وقد كسبت White ثروتها بصفتها
مضيفة Wheel of Fortune منذ عام 1982 حتى الآن . ارتفعت شهرة White ؟ ؟
يعود تاريخها عندما ظهرت النسخة المجمعة من Wheel of Fortune لأول مرة في
سبتمبر 1983 .
- >-
بولا وايت نت وورث ولدت بولا ميشيل فور في 20 أبريل 1966 ، في توبيلو ،
ميسيسيبي بالولايات المتحدة الأمريكية ، وكما تعرف باولا وايت بأنها عازفة
تلفزيونية مسيحية ومشهورة تلفزيونية ومؤسس مشارك ل اقرأ المزيد ؟ ؟
- source_sentence: أين ولد ه ب أبيض
sentences:
- >-
بولا وايت نت وورث ولدت بولا ميشيل فور في 20 أبريل 1966 ، في توبيلو ،
ميسيسيبي بالولايات المتحدة الأمريكية ، وكما تعرف باولا وايت بأنها عازفة
تلفزيونية مسيحية ومشهورة تلفزيونية ومؤسس مشارك ل اقرأ المزيد ؟ ؟
- >-
الكاتب | الممثل . إ . ب . ولد وايت في 11 يوليو 1899 في ماونت فيرنون ،
نيويورك ، الولايات المتحدة الأمريكية باسم إلوين بروكس وايت . كان كاتبا
وممثلا ، اشتهر ب Stuart Little ( 1999 ) ، Stuart Little 2 ( 2002 ) و
Charlotte ' s Web ( 2006 ) . كان متزوجا من كاثرين الرقيب أنجيل . توفي في
1 أكتوبر 1985 في نورث بروكلين ، مين ، الولايات المتحدة الأمريكية .
- >-
اذهب إلى : نظرة عامة ( 3 ) | ميني بيو ( 1 ) | الزوج ( 4 ) | التوافه ( 33
) | اقتباسات شخصية ( 2 ) ولد غلين كامبل في 22 أبريل 1936 في ديلايت ،
أركنساس ، الولايات المتحدة الأمريكية باسم جلين ترافيس كامبل . وهو متزوج
من كيم كامبل منذ 25 أكتوبر 1982 . ولهما ثلاثة أطفال . كان متزوجا سابقا
من سارة ديفيس وبيلي جان نونلي وديان كيرك .
- source_sentence: كيف كان الاتحاد السوفياتي قادرا على تطوير القنبلة الذرية
sentences:
- >-
تختلف الإجابة حسب مصدر اللحوم ووزن وصحة الشخص ومقدار التمارين التي
يمارسها والجنس وما إلى ذلك . ومع ذلك ، يجب أن يأكل الشخص البالغ ما بين 5
و 6 أونصات من اللحوم عالية الجودة أو البروتين يوميا ، وتختلف الإجابة حسب
مصدر اللحوم ووزن وصحة الشخص ومقدار التمارين التي يمارسها والجنس وهكذا
دواليك . ومع ذلك ، يجب أن يأكل الشخص البالغ العادي ما بين 5 و 6 أونصات
من اللحوم عالية الجودة أو البروتين يوميا .
- >-
بعد أربعة أيام من اختتام المؤتمر ، ألقت الولايات المتحدة قنبلة ذرية على
هيروشيما في اليابان ؛ في 9 أغسطس ، تم إلقاء قنبلة أخرى على ناغازاكي .
انتهت الحرب العالمية الثانية رسميا في 14 أغسطس 1945 .
- >-
المشروع السوفياتي لتطوير قنبلة ذرية ( الروسية : ' ' · ' ' ' كان برنامج
بحث وتطوير سري للغاية بدأ خلال الحرب العالمية الثانية ، في في أعقاب
اكتشاف الاتحاد السوفيتي للمشروع النووي الأمريكي والبريطاني والكندي ،
سارع السوفييت بالبرنامج بعد القصفين الذريين الأمريكيين لهيروشيما
وناجازاكي . تم تكليف المشروع الذري السوفيتي بجمع المعلومات الاستخبارية
حول مشروع الطاقة النووية الألماني وكذلك الجهود النووية الأمريكية .
- source_sentence: ماونت بيكر نشط
sentences:
- >-
تم تعديل خريطة هيئة المسح الجيولوجي الأمريكية هذه من : Hyde and Crandell
، 1978 ، USGS Professional Paper 1022 - C وتظهر لقطة مقربة لجبل بيكر
وضواحيها ، بما في ذلك أنهار Nooksack و Skagit و Baker . تأثر نهر بيكر في
أسفل اليمين بشدة بانفجار جبل بيكر عام 1792 .
- >-
تمتلك Mount Baker ثاني أكثر فوهة بركانية نشاطا حراريا في سلسلة Cascade
Range بعد Mount Saint Helens . يقع جبل بيكر على بعد حوالي 31 ميلا ( 50
كم ) شرق مدينة بيلينجهام ، مقاطعة واتكوم ، وهو أصغر بركان في حقل جبل
بيكر البركاني . وإلى الجنوب من سياتل ( وفي الأيام الصافية تاكوما )
بواشنطن . عرف السكان الأصليون الجبل منذ آلاف السنين ، لكن أول سجل مكتوب
للجبل هو من الإسبانية .
- >-
وجد أيضا في : القاموس ، قاموس المرادفات ، الاصطلاحات ، الموسوعة ،
ويكيبيديا . تفاصيل . تفاصيل مطالبة أو عناصر منفصلة للحساب . عندما يتم
تفصيلها في شكل منظم لغرض إبلاغ المدعى عليه ، فإن البيان يسمى فاتورة
التفاصيل .
model-index:
- name: >-
SentenceTransformer based on
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
results:
- task:
type: reranking
name: Reranking
dataset:
name: Unknown
type: unknown
metrics:
- type: map
value: 0.5676733464096293
name: Map
- type: mrr@10
value: 0.5691746031746031
name: Mrr@10
- type: ndcg@10
value: 0.6359286839350342
name: Ndcg@10
SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
This is a sentence-transformers model finetuned from sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 on the raraelectr_aand_raraber_tused_dataset dataset. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
Model Details
Model Description
- Model Type: Sentence Transformer
- Base model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
- Maximum Sequence Length: 128 tokens
- Output Dimensionality: 384 dimensions
- Similarity Function: Cosine Similarity
- Training Dataset:
Model Sources
- Documentation: Sentence Transformers Documentation
- Repository: Sentence Transformers on GitHub
- Hugging Face: Sentence Transformers on Hugging Face
Full Model Architecture
SentenceTransformer(
(0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: BertModel
(1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)
Usage
Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("hatemestinbejaia/KDmMiniLML12v2DPR_initialversion00")
# Run inference
sentences = [
'ماونت بيكر نشط',
'تمتلك Mount Baker ثاني أكثر فوهة بركانية نشاطا حراريا في سلسلة Cascade Range بعد Mount Saint Helens . يقع جبل بيكر على بعد حوالي 31 ميلا ( 50 كم ) شرق مدينة بيلينجهام ، مقاطعة واتكوم ، وهو أصغر بركان في حقل جبل بيكر البركاني . وإلى الجنوب من سياتل ( وفي الأيام الصافية تاكوما ) بواشنطن . عرف السكان الأصليون الجبل منذ آلاف السنين ، لكن أول سجل مكتوب للجبل هو من الإسبانية .',
'تم تعديل خريطة هيئة المسح الجيولوجي الأمريكية هذه من : Hyde and Crandell ، 1978 ، USGS Professional Paper 1022 - C وتظهر لقطة مقربة لجبل بيكر وضواحيها ، بما في ذلك أنهار Nooksack و Skagit و Baker . تأثر نهر بيكر في أسفل اليمين بشدة بانفجار جبل بيكر عام 1792 .',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
Evaluation
Metrics
Reranking
- Evaluated with
RerankingEvaluator
Metric | Value |
---|---|
map | 0.5677 |
mrr@10 | 0.5692 |
ndcg@10 | 0.6359 |
Training Details
Training Dataset
raraelectr_aand_raraber_tused_dataset
- Dataset: raraelectr_aand_raraber_tused_dataset at bd59dbf
- Size: 5,000,000 training samples
- Columns:
query
,pos
,neg
, andlabel
- Approximate statistics based on the first 1000 samples:
query pos neg label type string string string float details - min: 4 tokens
- mean: 11.14 tokens
- max: 29 tokens
- min: 13 tokens
- mean: 93.26 tokens
- max: 128 tokens
- min: 17 tokens
- mean: 87.26 tokens
- max: 128 tokens
- min: -2.88
- mean: 12.91
- max: 21.92
- Samples:
query pos neg label القليل من الكافيين جيد أثناء الحمل
نحن لا نعرف الكثير عن تأثيرات الكافيين أثناء الحمل عليك وعلى طفلك . لذلك فمن الأفضل أن تحد من المبلغ الذي تحصل عليه كل يوم . إذا كنت حاملا ، قللي من تناول الكافيين إلى 200 ملليجرام يوميا . هذا هو الكمية الموجودة في فنجان واحد سعة 8 أونصات من القهوة أو فنجان قهوة سعة 12 أونصة .
من الآمن عموما أن تتناول النساء الحوامل الشوكولاتة لأن الدراسات أثبتت وجود فوائد معينة لتناول الشوكولاتة أثناء الحمل . ومع ذلك ، يجب على النساء الحوامل التأكد من أن تناول الكافيين أقل من 200 مجم في اليوم .
4.0280589908361435
ما هي الفاكهة الأصلية في أستراليا
Passiflora herbertiana . فاكهة العاطفة النادرة موطنها أستراليا . الثمار ذات قشرة خضراء ، بيضاء اللون ، مع تصنيف غير معروف للأكل . تسرد بعض المصادر الفاكهة على أنها صالحة للأكل وحلوة ولذيذة ، بينما يسرد البعض الآخر الفاكهة على أنها مرة وغير صالحة للأكل . فاكهة العاطفة النادرة موطنها أستراليا . الثمار ذات قشرة خضراء ، بيضاء اللون ، مع تصنيف غير معروف للأكل . تسرد بعض المصادر الفاكهة على أنها صالحة للأكل وحلوة ولذيذة ، بينما يسرد البعض الآخر الفواكه على أنها مرة وغير صالحة للأكل .
جوز الكولا هو ثمرة شجرة الكولا ، وهي جنس ( كولا ) من الأشجار التي تنتمي إلى الغابات الاستوائية المطيرة في إفريقيا .
10.18145449956258
ما هو حجم الجيش الكندي
القوات المسلحة الكندية . 1 بدأت أول مهمة حفظ سلام كندية واسعة النطاق في مصر في 24 نوفمبر 1956 . 2 هناك ما يقرب من 65000 من القوات النظامية و 25000 من أفراد الاحتياط في الجيش الكندي . 3 في كندا ، تم تحديد يوم 9 أغسطس كيوم حفظة السلام الوطنيين .
المعهد الكندي لصحة الأطباء ( CPHI ) هو برنامج وطني تم إنشاؤه في عام 2012 كتعاون بين الجمعية الطبية الكندية ( CMA ) والمؤسسة الطبية الكندية ( CMF ) والجمعيات الطبية الإقليمية والإقليمية ( PTMAs ) .
16.420575777689614
- Loss:
main.MarginMSELoss
Evaluation Dataset
raraelectr_aand_raraber_tused_dataset
- Dataset: raraelectr_aand_raraber_tused_dataset at bd59dbf
- Size: 10,000 evaluation samples
- Columns:
query
,pos
,neg
, andlabel
- Approximate statistics based on the first 1000 samples:
query pos neg label type string string string float details - min: 3 tokens
- mean: 10.94 tokens
- max: 33 tokens
- min: 23 tokens
- mean: 91.74 tokens
- max: 128 tokens
- min: 24 tokens
- mean: 87.33 tokens
- max: 128 tokens
- min: -0.75
- mean: 13.72
- max: 22.62
- Samples:
query pos neg label ما هو اسم د . كوين
اعرض الشخصيات المختلفة التي لعبها نفس الممثل . الدكتورة ميكايلا كوين . ولدت ميكايلا في 15 فبراير 1833 في بوسطن ، ماساتشوستس ، لأبوين جوزيف وإليزابيث كوين . هناك نشأت مع شقيقاتها الأربع : ماري ( التي تم تغيير اسمها إلى ريبيكا ) ، ومارجوري ، وكلوديت ، ومورين . كان والدها يريد ابنا ، لذلك عندما ولدت أطلق عليها اسم ميكايلا ( الملقب مايك ) .
ليس لدى د . ماكفارلاند أي تأمينات مدرجة . إذا كنت دكتور ماكفارلاند وترغب في إضافة تأمينات تقبلها ، يرجى تحديث ملفك التعريفي المجاني . الانتساب إلى المستشفى ينتمي د . ماكفارلاند إلى المستشفيات التالية .
15.524045944213867
من يلعب دور بيرني مادوف
ساحر الأكاذيب هو واحد من اثنين من مشاريع Madoff التلفزيونية قيد الإعداد . ABC لديها مسلسل قصير قادم يسمى مادوف ، من بطولة ريتشارد دريفوس وبليث دانر . قصص ذات الصلة . روبرت دي نيرو يسجل الدخول للعب بيرني مادوف في فيلم HBO المحتمل .
اتهمت السلطات الأمريكية مسؤول تنفيذي للمحاسبة يزعم أنه ساعد برنارد مادوف في مخطط بونزي الذي تبلغ تكلفته عدة مليارات من الدولارات ، والذي يوسع نطاق تحقيقه في الاحتيال بعد خمس سنوات من اكتشافه .
13.17703644434611
كم قدم مكعب في طن من حصى البازلاء
لذلك 1 طن لديه 2000 - 100 أو 20 قدم مكعب من الحصى . الفناء المكعب هو 3x3x3 = 27 قدما مكعبا من الفناء المكعب ، الإجابة 20 - 27 أو 0 . 74 ياردة مكعبة . العوامل الأخرى التي تؤثر على حجم الحصى هي محتوى الرطوبة ودرجات المواد . يحتوي حصى البازلاء على سبيل المثال على جميع الجزيئات ذات الحجم المحدد ، على سبيل المثال ، 1 - 4 بوصة ، حوالي 120 رطلا للإشارة فقط : 1 قدم مكعب = 6 . 25 جالون ( إمبراطوري ) ، جالون من الماء يزن 10 أرطال ، لذا فإن القدم المكعبة من الماء تزن 62 . 5 رطلا . هذا يعني أن الجاذبية النوعية للحصى هي 120 - 62 . 5 ، أو أقل قليلا من 2 .
1 كيس قدم مكعب واحد ( التربة والمهاد ) يغطي ما يقرب من 8 أقدام مربعة إلى عمق 3 . 2 كيس واحد 75 رطلا ( الحصى والرمل ) يغطي حوالي 4 أقدام مربعة إلى عمق 3 . 3 بوصات سميكة ستغطي حوالي 300 قدم مربع . سيغطي سمك 1 حوالي 150 قدما مربعا .
10.34702980518341
- Loss:
main.MarginMSELoss
Training Hyperparameters
Non-Default Hyperparameters
eval_strategy
: stepsper_device_train_batch_size
: 16gradient_accumulation_steps
: 8learning_rate
: 7e-05warmup_ratio
: 0.07fp16
: Truehalf_precision_backend
: ampload_best_model_at_end
: Truefp16_backend
: amp
All Hyperparameters
Click to expand
overwrite_output_dir
: Falsedo_predict
: Falseeval_strategy
: stepsprediction_loss_only
: Trueper_device_train_batch_size
: 16per_device_eval_batch_size
: 8per_gpu_train_batch_size
: Noneper_gpu_eval_batch_size
: Nonegradient_accumulation_steps
: 8eval_accumulation_steps
: Nonetorch_empty_cache_steps
: Nonelearning_rate
: 7e-05weight_decay
: 0.0adam_beta1
: 0.9adam_beta2
: 0.999adam_epsilon
: 1e-08max_grad_norm
: 1.0num_train_epochs
: 3max_steps
: -1lr_scheduler_type
: linearlr_scheduler_kwargs
: {}warmup_ratio
: 0.07warmup_steps
: 0log_level
: passivelog_level_replica
: warninglog_on_each_node
: Truelogging_nan_inf_filter
: Truesave_safetensors
: Truesave_on_each_node
: Falsesave_only_model
: Falserestore_callback_states_from_checkpoint
: Falseno_cuda
: Falseuse_cpu
: Falseuse_mps_device
: Falseseed
: 42data_seed
: Nonejit_mode_eval
: Falseuse_ipex
: Falsebf16
: Falsefp16
: Truefp16_opt_level
: O1half_precision_backend
: ampbf16_full_eval
: Falsefp16_full_eval
: Falsetf32
: Nonelocal_rank
: 0ddp_backend
: Nonetpu_num_cores
: Nonetpu_metrics_debug
: Falsedebug
: []dataloader_drop_last
: Falsedataloader_num_workers
: 0dataloader_prefetch_factor
: Nonepast_index
: -1disable_tqdm
: Falseremove_unused_columns
: Truelabel_names
: Noneload_best_model_at_end
: Trueignore_data_skip
: Falsefsdp
: []fsdp_min_num_params
: 0fsdp_config
: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap
: Noneaccelerator_config
: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed
: Nonelabel_smoothing_factor
: 0.0optim
: adamw_torchoptim_args
: Noneadafactor
: Falsegroup_by_length
: Falselength_column_name
: lengthddp_find_unused_parameters
: Noneddp_bucket_cap_mb
: Noneddp_broadcast_buffers
: Falsedataloader_pin_memory
: Truedataloader_persistent_workers
: Falseskip_memory_metrics
: Trueuse_legacy_prediction_loop
: Falsepush_to_hub
: Falseresume_from_checkpoint
: Nonehub_model_id
: Nonehub_strategy
: every_savehub_private_repo
: Falsehub_always_push
: Falsegradient_checkpointing
: Falsegradient_checkpointing_kwargs
: Noneinclude_inputs_for_metrics
: Falseeval_do_concat_batches
: Truefp16_backend
: amppush_to_hub_model_id
: Nonepush_to_hub_organization
: Nonemp_parameters
:auto_find_batch_size
: Falsefull_determinism
: Falsetorchdynamo
: Noneray_scope
: lastddp_timeout
: 1800torch_compile
: Falsetorch_compile_backend
: Nonetorch_compile_mode
: Nonedispatch_batches
: Nonesplit_batches
: Noneinclude_tokens_per_second
: Falseinclude_num_input_tokens_seen
: Falseneftune_noise_alpha
: Noneoptim_target_modules
: Nonebatch_eval_metrics
: Falseeval_on_start
: Falseuse_liger_kernel
: Falseeval_use_gather_object
: Falseprompts
: Nonebatch_sampler
: batch_samplermulti_dataset_batch_sampler
: proportional
Training Logs
Epoch | Step | Training Loss | Validation Loss | map |
---|---|---|---|---|
2.7136 | 106000 | 0.0001 | 0.0008 | 0.5660 |
2.7648 | 108000 | 0.0001 | 0.0008 | 0.5654 |
2.8160 | 110000 | 0.0001 | 0.0008 | 0.5611 |
2.8672 | 112000 | 0.0001 | 0.0008 | 0.5668 |
2.9184 | 114000 | 0.0001 | 0.0008 | 0.5675 |
2.9696 | 116000 | 0.0001 | 0.0008 | 0.5677 |
Framework Versions
- Python: 3.10.14
- Sentence Transformers: 3.3.1
- Transformers: 4.45.1
- PyTorch: 2.4.0
- Accelerate: 0.34.2
- Datasets: 3.0.1
- Tokenizers: 0.20.0
Citation
BibTeX
Sentence Transformers
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
MarginMSELoss
@misc{hofstätter2021improving,
title={Improving Efficient Neural Ranking Models with Cross-Architecture Knowledge Distillation},
author={Sebastian Hofstätter and Sophia Althammer and Michael Schröder and Mete Sertkan and Allan Hanbury},
year={2021},
eprint={2010.02666},
archivePrefix={arXiv},
primaryClass={cs.IR}
}