SentenceTransformer based on FacebookAI/xlm-roberta-large

This is a sentence-transformers model finetuned from FacebookAI/xlm-roberta-large. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: FacebookAI/xlm-roberta-large
Maximum Sequence Length: 256 tokens
Output Dimensionality: 1024 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False, 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yjoonjang/MIMO-xlm-roberta-large")
# Run inference
sentences = [
    'Third Ave.',
    'Third Ave.',
    'it',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 1.0000, 0.3277],
#         [1.0000, 1.0000, 0.3277],
#         [0.3277, 0.3277, 1.0000]])

Evaluation

Metrics

Information Retrieval

Datasets: NanoMIRACL-ar, NanoMIRACL-de, NanoMIRACL-en, NanoMIRACL-es, NanoMIRACL-fr, NanoMIRACL-hi, NanoMIRACL-id, NanoMIRACL-ja, NanoMIRACL-ru and NanoMIRACL-zh
Evaluated with InformationRetrievalEvaluator

Metric	NanoMIRACL-ar	NanoMIRACL-de	NanoMIRACL-en	NanoMIRACL-es	NanoMIRACL-fr	NanoMIRACL-hi	NanoMIRACL-id	NanoMIRACL-ja	NanoMIRACL-ru	NanoMIRACL-zh
cosine_accuracy@1	0.24	0.28	0.34	0.44	0.28	0.32	0.18	0.32	0.38	0.36
cosine_accuracy@3	0.48	0.6	0.7	0.7	0.54	0.64	0.48	0.58	0.64	0.62
cosine_accuracy@5	0.64	0.76	0.9	0.78	0.78	0.76	0.54	0.64	0.7	0.78
cosine_accuracy@10	0.84	0.94	0.96	0.98	0.9	0.82	0.72	0.8	0.84	0.88
cosine_precision@1	0.24	0.28	0.34	0.44	0.28	0.32	0.18	0.32	0.38	0.36
cosine_precision@10	0.084	0.094	0.096	0.098	0.09	0.082	0.072	0.08	0.084	0.088
cosine_recall@1	0.24	0.28	0.34	0.44	0.28	0.32	0.18	0.32	0.38	0.36
cosine_recall@10	0.84	0.94	0.96	0.98	0.9	0.82	0.72	0.8	0.84	0.88
cosine_ndcg@10	0.5051	0.5939	0.6571	0.6918	0.5615	0.5788	0.4303	0.5432	0.5998	0.6117
cosine_mrr@10	0.402	0.4848	0.5585	0.6014	0.455	0.4999	0.3396	0.4628	0.5239	0.5259
cosine_map@100	0.4069	0.4902	0.5598	0.6023	0.4601	0.5054	0.3485	0.4693	0.5295	0.5302

Nano MIRACL

Dataset: NanoMIRACL_mean
Evaluated with evaluation.nano_miracl_evaluator.NanoMIRACLEvaluator

Metric	Value
cosine_accuracy@1	0.314
cosine_accuracy@3	0.598
cosine_accuracy@5	0.728
cosine_accuracy@10	0.868
cosine_precision@1	0.314
cosine_precision@10	0.0868
cosine_recall@1	0.314
cosine_recall@10	0.868
cosine_ndcg@10	0.5773
cosine_mrr@10	0.4854
cosine_map@100	0.4902

Training Details

Training Dataset

Unnamed Dataset

Size: 5,647,936 training samples
Columns: anchor, positive, and lang

Approximate statistics based on the first 1000 samples:

	anchor	positive	lang
type	string	string	string
details	min: 5 tokens mean: 27.56 tokens max: 144 tokens	min: 4 tokens mean: 24.68 tokens max: 108 tokens	min: 3 tokens mean: 3.1 tokens max: 4 tokens

Samples:

anchor	positive	lang
`Desidero soltanto far presente che le due proposte presentate dal nostro gruppo sulla questione dei trasferimenti di crediti non sono risultate del tutto compatibili e pertanto sono state respinte.`	`I only wish to draw attention to the two amendments tabled by our group on the question of carry-overs, where the texts are incompatible in their present form. They were rejected.`	`it`
`Dieser ist - so schwierig es ist, die Klimaveränderung mit Rechenexempeln zu demonstrieren - zum Teil von Menschen gemacht.`	`This is partly the work of human hand, as difficult as it is to demonstrate climate change using calculations.`	`de`
`Nel corso della procedura a) il Parlamento sarà consultato in merito al regime linguistico (la decisione in questo caso deve essere assunta dal Consiglio), b) il Parlamento prenderà parte al processo decisionale sul contenuto del regolamento sul brevetto nell'ambito della procedura legislativa ordinaria, c) è previsto il consenso dell'Assemblea sulla giurisdizione del brevetto.`	`The remainder of the procedure will involve a) Parliament being consulted about the language arrangements (the decision in this case must be made by the Council), b) Parliament taking part in deciding on the content of the patent regulation as part of the ordinary legislative procedure, c) Parliament's consent being obtained for the patent jurisdiction. There will be no change in any of these opportunities for Parliament to participate in the process.`	`it`

Loss: custom_losses.embed_distill_loss.EmbedDistillLoss with these parameters:

{
    "distance_metric": "cosine",
    "projection_in": 1024,
    "projection_out": 4096
}

Training Hyperparameters

Non-Default Hyperparameters

per_device_train_batch_size: 128
num_train_epochs: 1.0
learning_rate: 0.0001
warmup_steps: 0.1
bf16: True
eval_strategy: steps
eval_on_start: True
dataloader_num_workers: 4
warmup_ratio: 0.1

All Hyperparameters

Click to expand

per_device_train_batch_size: 128
num_train_epochs: 1.0
max_steps: -1
learning_rate: 0.0001
lr_scheduler_type: linear
lr_scheduler_kwargs: None
warmup_steps: 0.1
optim: adamw_torch_fused
optim_args: None
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
optim_target_modules: None
gradient_accumulation_steps: 1
average_tokens_across_devices: True
max_grad_norm: 1.0
label_smoothing_factor: 0.0
bf16: True
fp16: False
bf16_full_eval: False
fp16_full_eval: False
tf32: None
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
use_liger_kernel: False
liger_kernel_config: None
use_cache: False
neftune_noise_alpha: None
torch_empty_cache_steps: None
auto_find_batch_size: False
log_on_each_node: True
logging_nan_inf_filter: True
include_num_input_tokens_seen: no
log_level: passive
log_level_replica: warning
disable_tqdm: False
project: huggingface
trackio_space_id: trackio
eval_strategy: steps
per_device_eval_batch_size: 8
prediction_loss_only: True
eval_on_start: True
eval_do_concat_batches: True
eval_use_gather_object: False
eval_accumulation_steps: None
include_for_metrics: []
batch_eval_metrics: False
save_only_model: False
save_on_each_node: False
enable_jit_checkpoint: False
push_to_hub: False
hub_private_repo: None
hub_model_id: None
hub_strategy: every_save
hub_always_push: False
hub_revision: None
load_best_model_at_end: False
ignore_data_skip: False
restore_callback_states_from_checkpoint: False
full_determinism: False
seed: 42
data_seed: None
use_cpu: False
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
parallelism_config: None
dataloader_drop_last: True
dataloader_num_workers: 4
dataloader_pin_memory: True
dataloader_persistent_workers: False
dataloader_prefetch_factor: None
remove_unused_columns: True
label_names: None
train_sampling_strategy: random
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
ddp_backend: None
ddp_timeout: 1800
fsdp: []
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
deepspeed: None
debug: []
skip_memory_metrics: True
do_predict: False
resume_from_checkpoint: None
warmup_ratio: 0.1
local_rank: -1
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: proportional
router_mapping: {}
learning_rate_mapping: {}
max_seq_length: 256
stage: 1
distance_metric: cosine
infonce_weight: 0.5
distill_weight: 0.5
infonce_scale: 20.0
mini_batch_size: 32
teacher_query_prompt: None
teacher_max_seq_length: 256
projection_path: None
group_by_language: False
pooling_mode: mean

Training Logs

Click to expand

Epoch	Step	Training Loss	NanoMIRACL-ar_cosine_ndcg@10	NanoMIRACL-de_cosine_ndcg@10	NanoMIRACL-en_cosine_ndcg@10	NanoMIRACL-es_cosine_ndcg@10	NanoMIRACL-fr_cosine_ndcg@10	NanoMIRACL-hi_cosine_ndcg@10	NanoMIRACL-id_cosine_ndcg@10	NanoMIRACL-ja_cosine_ndcg@10	NanoMIRACL-ru_cosine_ndcg@10	NanoMIRACL-zh_cosine_ndcg@10	NanoMIRACL_mean_cosine_ndcg@10
0	0	-	0.0271	0.0612	0.0231	0.0471	0.0086	0.03	0.0167	0.0	0.0126	0.0	0.0227
0.0023	50	0.9894	-	-	-	-	-	-	-	-	-	-	-
0.0045	100	0.7899	-	-	-	-	-	-	-	-	-	-	-
0.0068	150	0.5594	-	-	-	-	-	-	-	-	-	-	-
0.0091	200	0.4789	-	-	-	-	-	-	-	-	-	-	-
0.0113	250	0.4646	-	-	-	-	-	-	-	-	-	-	-
0.0136	300	0.4514	-	-	-	-	-	-	-	-	-	-	-
0.0159	350	0.4400	-	-	-	-	-	-	-	-	-	-	-
0.0181	400	0.4312	-	-	-	-	-	-	-	-	-	-	-
0.0204	450	0.4249	-	-	-	-	-	-	-	-	-	-	-
0.0227	500	0.4151	-	-	-	-	-	-	-	-	-	-	-
0.0249	550	0.4078	-	-	-	-	-	-	-	-	-	-	-
0.0272	600	0.4009	-	-	-	-	-	-	-	-	-	-	-
0.0295	650	0.3930	-	-	-	-	-	-	-	-	-	-	-
0.0317	700	0.3871	-	-	-	-	-	-	-	-	-	-	-
0.0340	750	0.3801	-	-	-	-	-	-	-	-	-	-	-
0.0363	800	0.3738	-	-	-	-	-	-	-	-	-	-	-
0.0385	850	0.3679	-	-	-	-	-	-	-	-	-	-	-
0.0408	900	0.3615	-	-	-	-	-	-	-	-	-	-	-
0.0431	950	0.3565	-	-	-	-	-	-	-	-	-	-	-
0.0453	1000	0.3515	-	-	-	-	-	-	-	-	-	-	-
0.0476	1050	0.3470	-	-	-	-	-	-	-	-	-	-	-
0.0499	1100	0.3429	-	-	-	-	-	-	-	-	-	-	-
0.0500	1104	-	0.0979	0.1943	0.1405	0.2085	0.2280	0.2148	0.0529	0.1503	0.1913	0.2170	0.1695
0.0521	1150	0.3375	-	-	-	-	-	-	-	-	-	-	-
0.0544	1200	0.3343	-	-	-	-	-	-	-	-	-	-	-
0.0567	1250	0.3293	-	-	-	-	-	-	-	-	-	-	-
0.0589	1300	0.3284	-	-	-	-	-	-	-	-	-	-	-
0.0612	1350	0.3255	-	-	-	-	-	-	-	-	-	-	-
0.0635	1400	0.3226	-	-	-	-	-	-	-	-	-	-	-
0.0657	1450	0.3190	-	-	-	-	-	-	-	-	-	-	-
0.0680	1500	0.3171	-	-	-	-	-	-	-	-	-	-	-
0.0703	1550	0.3138	-	-	-	-	-	-	-	-	-	-	-
0.0725	1600	0.3124	-	-	-	-	-	-	-	-	-	-	-
0.0748	1650	0.3100	-	-	-	-	-	-	-	-	-	-	-
0.0771	1700	0.3091	-	-	-	-	-	-	-	-	-	-	-
0.0793	1750	0.3051	-	-	-	-	-	-	-	-	-	-	-
0.0816	1800	0.3054	-	-	-	-	-	-	-	-	-	-	-
0.0839	1850	0.3014	-	-	-	-	-	-	-	-	-	-	-
0.0861	1900	0.3015	-	-	-	-	-	-	-	-	-	-	-
0.0884	1950	0.2995	-	-	-	-	-	-	-	-	-	-	-
0.0907	2000	0.2993	-	-	-	-	-	-	-	-	-	-	-
0.0929	2050	0.2984	-	-	-	-	-	-	-	-	-	-	-
0.0952	2100	0.2967	-	-	-	-	-	-	-	-	-	-	-
0.0975	2150	0.2954	-	-	-	-	-	-	-	-	-	-	-
0.0997	2200	0.2941	-	-	-	-	-	-	-	-	-	-	-
0.1001	2208	-	0.2770	0.4118	0.3220	0.3653	0.4082	0.2972	0.1982	0.3113	0.2614	0.3616	0.3214
0.1020	2250	0.2922	-	-	-	-	-	-	-	-	-	-	-
0.1043	2300	0.2957	-	-	-	-	-	-	-	-	-	-	-
0.1065	2350	0.2931	-	-	-	-	-	-	-	-	-	-	-
0.1088	2400	0.2880	-	-	-	-	-	-	-	-	-	-	-
0.1111	2450	0.2882	-	-	-	-	-	-	-	-	-	-	-
0.1133	2500	0.2866	-	-	-	-	-	-	-	-	-	-	-
0.1156	2550	0.2867	-	-	-	-	-	-	-	-	-	-	-
0.1178	2600	0.2833	-	-	-	-	-	-	-	-	-	-	-
0.1201	2650	0.2840	-	-	-	-	-	-	-	-	-	-	-
0.1224	2700	0.2828	-	-	-	-	-	-	-	-	-	-	-
0.1246	2750	0.2827	-	-	-	-	-	-	-	-	-	-	-
0.1269	2800	0.2812	-	-	-	-	-	-	-	-	-	-	-
0.1292	2850	0.2795	-	-	-	-	-	-	-	-	-	-	-
0.1314	2900	0.2793	-	-	-	-	-	-	-	-	-	-	-
0.1337	2950	0.2780	-	-	-	-	-	-	-	-	-	-	-
0.1360	3000	0.2786	-	-	-	-	-	-	-	-	-	-	-
0.1382	3050	0.2768	-	-	-	-	-	-	-	-	-	-	-
0.1405	3100	0.2757	-	-	-	-	-	-	-	-	-	-	-
0.1428	3150	0.2771	-	-	-	-	-	-	-	-	-	-	-
0.1450	3200	0.2743	-	-	-	-	-	-	-	-	-	-	-
0.1473	3250	0.2746	-	-	-	-	-	-	-	-	-	-	-
0.1496	3300	0.2734	-	-	-	-	-	-	-	-	-	-	-
0.1501	3312	-	0.3314	0.4360	0.3970	0.4664	0.4590	0.4010	0.2853	0.3450	0.2820	0.4377	0.3841
0.1518	3350	0.2715	-	-	-	-	-	-	-	-	-	-	-
0.1541	3400	0.2732	-	-	-	-	-	-	-	-	-	-	-
0.1564	3450	0.2723	-	-	-	-	-	-	-	-	-	-	-
0.1586	3500	0.2720	-	-	-	-	-	-	-	-	-	-	-
0.1609	3550	0.2715	-	-	-	-	-	-	-	-	-	-	-
0.1632	3600	0.2715	-	-	-	-	-	-	-	-	-	-	-
0.1654	3650	0.2702	-	-	-	-	-	-	-	-	-	-	-
0.1677	3700	0.2697	-	-	-	-	-	-	-	-	-	-	-
0.1700	3750	0.2695	-	-	-	-	-	-	-	-	-	-	-
0.1722	3800	0.2691	-	-	-	-	-	-	-	-	-	-	-
0.1745	3850	0.2680	-	-	-	-	-	-	-	-	-	-	-
0.1768	3900	0.2677	-	-	-	-	-	-	-	-	-	-	-
0.1790	3950	0.2668	-	-	-	-	-	-	-	-	-	-	-
0.1813	4000	0.2661	-	-	-	-	-	-	-	-	-	-	-
0.1836	4050	0.2669	-	-	-	-	-	-	-	-	-	-	-
0.1858	4100	0.2651	-	-	-	-	-	-	-	-	-	-	-
0.1881	4150	0.2663	-	-	-	-	-	-	-	-	-	-	-
0.1904	4200	0.2644	-	-	-	-	-	-	-	-	-	-	-
0.1926	4250	0.2646	-	-	-	-	-	-	-	-	-	-	-
0.1949	4300	0.2621	-	-	-	-	-	-	-	-	-	-	-
0.1972	4350	0.2639	-	-	-	-	-	-	-	-	-	-	-
0.1994	4400	0.2628	-	-	-	-	-	-	-	-	-	-	-
0.2002	4416	-	0.4042	0.4630	0.4478	0.5728	0.4772	0.4335	0.3171	0.4485	0.4113	0.5086	0.4484
0.2017	4450	0.2609	-	-	-	-	-	-	-	-	-	-	-
0.2040	4500	0.2624	-	-	-	-	-	-	-	-	-	-	-
0.2062	4550	0.2614	-	-	-	-	-	-	-	-	-	-	-
0.2085	4600	0.2589	-	-	-	-	-	-	-	-	-	-	-
0.2108	4650	0.2596	-	-	-	-	-	-	-	-	-	-	-
0.2130	4700	0.2608	-	-	-	-	-	-	-	-	-	-	-
0.2153	4750	0.2589	-	-	-	-	-	-	-	-	-	-	-
0.2176	4800	0.2604	-	-	-	-	-	-	-	-	-	-	-
0.2198	4850	0.2586	-	-	-	-	-	-	-	-	-	-	-
0.2221	4900	0.2574	-	-	-	-	-	-	-	-	-	-	-
0.2244	4950	0.2605	-	-	-	-	-	-	-	-	-	-	-
0.2266	5000	0.2571	-	-	-	-	-	-	-	-	-	-	-
0.2289	5050	0.2577	-	-	-	-	-	-	-	-	-	-	-
0.2312	5100	0.2580	-	-	-	-	-	-	-	-	-	-	-
0.2334	5150	0.2579	-	-	-	-	-	-	-	-	-	-	-
0.2357	5200	0.2577	-	-	-	-	-	-	-	-	-	-	-
0.2380	5250	0.2577	-	-	-	-	-	-	-	-	-	-	-
0.2402	5300	0.2565	-	-	-	-	-	-	-	-	-	-	-
0.2425	5350	0.2569	-	-	-	-	-	-	-	-	-	-	-
0.2448	5400	0.2557	-	-	-	-	-	-	-	-	-	-	-
0.2470	5450	0.2540	-	-	-	-	-	-	-	-	-	-	-
0.2493	5500	0.2559	-	-	-	-	-	-	-	-	-	-	-
0.2502	5520	-	0.3232	0.5962	0.4887	0.5390	0.5077	0.4342	0.3302	0.4361	0.3901	0.4927	0.4538
0.2516	5550	0.2543	-	-	-	-	-	-	-	-	-	-	-
0.2538	5600	0.2564	-	-	-	-	-	-	-	-	-	-	-
0.2561	5650	0.2538	-	-	-	-	-	-	-	-	-	-	-
0.2584	5700	0.2540	-	-	-	-	-	-	-	-	-	-	-
0.2606	5750	0.2528	-	-	-	-	-	-	-	-	-	-	-
0.2629	5800	0.2529	-	-	-	-	-	-	-	-	-	-	-
0.2652	5850	0.2513	-	-	-	-	-	-	-	-	-	-	-
0.2674	5900	0.2530	-	-	-	-	-	-	-	-	-	-	-
0.2697	5950	0.2509	-	-	-	-	-	-	-	-	-	-	-
0.2720	6000	0.2508	-	-	-	-	-	-	-	-	-	-	-
0.2742	6050	0.2522	-	-	-	-	-	-	-	-	-	-	-
0.2765	6100	0.2514	-	-	-	-	-	-	-	-	-	-	-
0.2788	6150	0.2519	-	-	-	-	-	-	-	-	-	-	-
0.2810	6200	0.2494	-	-	-	-	-	-	-	-	-	-	-
0.2833	6250	0.2499	-	-	-	-	-	-	-	-	-	-	-
0.2856	6300	0.2509	-	-	-	-	-	-	-	-	-	-	-
0.2878	6350	0.2495	-	-	-	-	-	-	-	-	-	-	-
0.2901	6400	0.2495	-	-	-	-	-	-	-	-	-	-	-
0.2924	6450	0.2493	-	-	-	-	-	-	-	-	-	-	-
0.2946	6500	0.2495	-	-	-	-	-	-	-	-	-	-	-
0.2969	6550	0.2480	-	-	-	-	-	-	-	-	-	-	-
0.2992	6600	0.2495	-	-	-	-	-	-	-	-	-	-	-
0.3002	6624	-	0.3894	0.5405	0.5368	0.5867	0.5563	0.4496	0.3344	0.5006	0.4059	0.5476	0.4848
0.3014	6650	0.2493	-	-	-	-	-	-	-	-	-	-	-
0.3037	6700	0.2486	-	-	-	-	-	-	-	-	-	-	-
0.3060	6750	0.2489	-	-	-	-	-	-	-	-	-	-	-
0.3082	6800	0.2483	-	-	-	-	-	-	-	-	-	-	-
0.3105	6850	0.2479	-	-	-	-	-	-	-	-	-	-	-
0.3128	6900	0.2477	-	-	-	-	-	-	-	-	-	-	-
0.3150	6950	0.2468	-	-	-	-	-	-	-	-	-	-	-
0.3173	7000	0.2475	-	-	-	-	-	-	-	-	-	-	-
0.3196	7050	0.2465	-	-	-	-	-	-	-	-	-	-	-
0.3218	7100	0.2473	-	-	-	-	-	-	-	-	-	-	-
0.3241	7150	0.2466	-	-	-	-	-	-	-	-	-	-	-
0.3264	7200	0.2448	-	-	-	-	-	-	-	-	-	-	-
0.3286	7250	0.2469	-	-	-	-	-	-	-	-	-	-	-
0.3309	7300	0.2450	-	-	-	-	-	-	-	-	-	-	-
0.3332	7350	0.2465	-	-	-	-	-	-	-	-	-	-	-
0.3354	7400	0.2478	-	-	-	-	-	-	-	-	-	-	-
0.3377	7450	0.2453	-	-	-	-	-	-	-	-	-	-	-
0.3400	7500	0.2465	-	-	-	-	-	-	-	-	-	-	-
0.3422	7550	0.2437	-	-	-	-	-	-	-	-	-	-	-
0.3445	7600	0.2450	-	-	-	-	-	-	-	-	-	-	-
0.3468	7650	0.2438	-	-	-	-	-	-	-	-	-	-	-
0.3490	7700	0.2432	-	-	-	-	-	-	-	-	-	-	-
0.3503	7728	-	0.3959	0.5747	0.5697	0.5968	0.5232	0.4775	0.3672	0.5345	0.4450	0.5187	0.5003
0.3513	7750	0.2429	-	-	-	-	-	-	-	-	-	-	-
0.3535	7800	0.2447	-	-	-	-	-	-	-	-	-	-	-
0.3558	7850	0.2427	-	-	-	-	-	-	-	-	-	-	-
0.3581	7900	0.2431	-	-	-	-	-	-	-	-	-	-	-
0.3603	7950	0.2425	-	-	-	-	-	-	-	-	-	-	-
0.3626	8000	0.2425	-	-	-	-	-	-	-	-	-	-	-
0.3649	8050	0.2414	-	-	-	-	-	-	-	-	-	-	-
0.3671	8100	0.2431	-	-	-	-	-	-	-	-	-	-	-
0.3694	8150	0.2432	-	-	-	-	-	-	-	-	-	-	-
0.3717	8200	0.2419	-	-	-	-	-	-	-	-	-	-	-
0.3739	8250	0.2427	-	-	-	-	-	-	-	-	-	-	-
0.3762	8300	0.2420	-	-	-	-	-	-	-	-	-	-	-
0.3785	8350	0.2409	-	-	-	-	-	-	-	-	-	-	-
0.3807	8400	0.2421	-	-	-	-	-	-	-	-	-	-	-
0.3830	8450	0.2435	-	-	-	-	-	-	-	-	-	-	-
0.3853	8500	0.2422	-	-	-	-	-	-	-	-	-	-	-
0.3875	8550	0.2429	-	-	-	-	-	-	-	-	-	-	-
0.3898	8600	0.2411	-	-	-	-	-	-	-	-	-	-	-
0.3921	8650	0.2424	-	-	-	-	-	-	-	-	-	-	-
0.3943	8700	0.2418	-	-	-	-	-	-	-	-	-	-	-
0.3966	8750	0.2398	-	-	-	-	-	-	-	-	-	-	-
0.3989	8800	0.2419	-	-	-	-	-	-	-	-	-	-	-
0.4003	8832	-	0.4422	0.5698	0.6192	0.6079	0.5546	0.4539	0.3698	0.5059	0.4580	0.5382	0.5120
0.4011	8850	0.2392	-	-	-	-	-	-	-	-	-	-	-
0.4034	8900	0.2399	-	-	-	-	-	-	-	-	-	-	-
0.4057	8950	0.2389	-	-	-	-	-	-	-	-	-	-	-
0.4079	9000	0.2390	-	-	-	-	-	-	-	-	-	-	-
0.4102	9050	0.2392	-	-	-	-	-	-	-	-	-	-	-
0.4125	9100	0.2390	-	-	-	-	-	-	-	-	-	-	-
0.4147	9150	0.2388	-	-	-	-	-	-	-	-	-	-	-
0.4170	9200	0.2398	-	-	-	-	-	-	-	-	-	-	-
0.4193	9250	0.2398	-	-	-	-	-	-	-	-	-	-	-
0.4215	9300	0.2376	-	-	-	-	-	-	-	-	-	-	-
0.4238	9350	0.2366	-	-	-	-	-	-	-	-	-	-	-
0.4261	9400	0.2393	-	-	-	-	-	-	-	-	-	-	-
0.4283	9450	0.2352	-	-	-	-	-	-	-	-	-	-	-
0.4306	9500	0.2372	-	-	-	-	-	-	-	-	-	-	-
0.4329	9550	0.2372	-	-	-	-	-	-	-	-	-	-	-
0.4351	9600	0.2383	-	-	-	-	-	-	-	-	-	-	-
0.4374	9650	0.2361	-	-	-	-	-	-	-	-	-	-	-
0.4397	9700	0.2367	-	-	-	-	-	-	-	-	-	-	-
0.4419	9750	0.2375	-	-	-	-	-	-	-	-	-	-	-
0.4442	9800	0.2356	-	-	-	-	-	-	-	-	-	-	-
0.4465	9850	0.2372	-	-	-	-	-	-	-	-	-	-	-
0.4487	9900	0.2358	-	-	-	-	-	-	-	-	-	-	-
0.4504	9936	-	0.4396	0.6181	0.6337	0.6153	0.5374	0.4796	0.3569	0.5107	0.4999	0.5109	0.5202
0.4510	9950	0.2354	-	-	-	-	-	-	-	-	-	-	-
0.4533	10000	0.2353	-	-	-	-	-	-	-	-	-	-	-
0.4555	10050	0.2353	-	-	-	-	-	-	-	-	-	-	-
0.4578	10100	0.2363	-	-	-	-	-	-	-	-	-	-	-
0.4601	10150	0.2362	-	-	-	-	-	-	-	-	-	-	-
0.4623	10200	0.2366	-	-	-	-	-	-	-	-	-	-	-
0.4646	10250	0.2343	-	-	-	-	-	-	-	-	-	-	-
0.4669	10300	0.2362	-	-	-	-	-	-	-	-	-	-	-
0.4691	10350	0.2347	-	-	-	-	-	-	-	-	-	-	-
0.4714	10400	0.2358	-	-	-	-	-	-	-	-	-	-	-
0.4737	10450	0.2356	-	-	-	-	-	-	-	-	-	-	-
0.4759	10500	0.2337	-	-	-	-	-	-	-	-	-	-	-
0.4782	10550	0.2339	-	-	-	-	-	-	-	-	-	-	-
0.4805	10600	0.2347	-	-	-	-	-	-	-	-	-	-	-
0.4827	10650	0.2326	-	-	-	-	-	-	-	-	-	-	-
0.4850	10700	0.2342	-	-	-	-	-	-	-	-	-	-	-
0.4873	10750	0.2343	-	-	-	-	-	-	-	-	-	-	-
0.4895	10800	0.2340	-	-	-	-	-	-	-	-	-	-	-
0.4918	10850	0.2330	-	-	-	-	-	-	-	-	-	-	-
0.4941	10900	0.2332	-	-	-	-	-	-	-	-	-	-	-
0.4963	10950	0.2333	-	-	-	-	-	-	-	-	-	-	-
0.4986	11000	0.2334	-	-	-	-	-	-	-	-	-	-	-
0.5004	11040	-	0.4537	0.5822	0.6103	0.6367	0.5626	0.5015	0.3744	0.5308	0.5371	0.5360	0.5325
0.5009	11050	0.2332	-	-	-	-	-	-	-	-	-	-	-
0.5031	11100	0.2333	-	-	-	-	-	-	-	-	-	-	-
0.5054	11150	0.2319	-	-	-	-	-	-	-	-	-	-	-
0.5077	11200	0.2333	-	-	-	-	-	-	-	-	-	-	-
0.5099	11250	0.2318	-	-	-	-	-	-	-	-	-	-	-
0.5122	11300	0.2328	-	-	-	-	-	-	-	-	-	-	-
0.5145	11350	0.2318	-	-	-	-	-	-	-	-	-	-	-
0.5167	11400	0.2311	-	-	-	-	-	-	-	-	-	-	-
0.5190	11450	0.2320	-	-	-	-	-	-	-	-	-	-	-
0.5213	11500	0.2315	-	-	-	-	-	-	-	-	-	-	-
0.5235	11550	0.2316	-	-	-	-	-	-	-	-	-	-	-
0.5258	11600	0.2322	-	-	-	-	-	-	-	-	-	-	-
0.5281	11650	0.2317	-	-	-	-	-	-	-	-	-	-	-
0.5303	11700	0.2312	-	-	-	-	-	-	-	-	-	-	-
0.5326	11750	0.2324	-	-	-	-	-	-	-	-	-	-	-
0.5349	11800	0.2313	-	-	-	-	-	-	-	-	-	-	-
0.5371	11850	0.2295	-	-	-	-	-	-	-	-	-	-	-
0.5394	11900	0.2297	-	-	-	-	-	-	-	-	-	-	-
0.5417	11950	0.2298	-	-	-	-	-	-	-	-	-	-	-
0.5439	12000	0.2304	-	-	-	-	-	-	-	-	-	-	-
0.5462	12050	0.2308	-	-	-	-	-	-	-	-	-	-	-
0.5485	12100	0.2306	-	-	-	-	-	-	-	-	-	-	-
0.5504	12144	-	0.4138	0.5687	0.6253	0.6802	0.5600	0.4895	0.3809	0.5180	0.5423	0.5516	0.5330
0.5507	12150	0.2305	-	-	-	-	-	-	-	-	-	-	-
0.5530	12200	0.2294	-	-	-	-	-	-	-	-	-	-	-
0.5553	12250	0.2297	-	-	-	-	-	-	-	-	-	-	-
0.5575	12300	0.2288	-	-	-	-	-	-	-	-	-	-	-
0.5598	12350	0.2292	-	-	-	-	-	-	-	-	-	-	-
0.5621	12400	0.2299	-	-	-	-	-	-	-	-	-	-	-
0.5643	12450	0.2303	-	-	-	-	-	-	-	-	-	-	-
0.5666	12500	0.2301	-	-	-	-	-	-	-	-	-	-	-
0.5689	12550	0.2287	-	-	-	-	-	-	-	-	-	-	-
0.5711	12600	0.2291	-	-	-	-	-	-	-	-	-	-	-
0.5734	12650	0.2285	-	-	-	-	-	-	-	-	-	-	-
0.5757	12700	0.2285	-	-	-	-	-	-	-	-	-	-	-
0.5779	12750	0.2295	-	-	-	-	-	-	-	-	-	-	-
0.5802	12800	0.2294	-	-	-	-	-	-	-	-	-	-	-
0.5824	12850	0.2288	-	-	-	-	-	-	-	-	-	-	-
0.5847	12900	0.2279	-	-	-	-	-	-	-	-	-	-	-
0.5870	12950	0.2284	-	-	-	-	-	-	-	-	-	-	-
0.5892	13000	0.2279	-	-	-	-	-	-	-	-	-	-	-
0.5915	13050	0.2282	-	-	-	-	-	-	-	-	-	-	-
0.5938	13100	0.2286	-	-	-	-	-	-	-	-	-	-	-
0.5960	13150	0.2276	-	-	-	-	-	-	-	-	-	-	-
0.5983	13200	0.2275	-	-	-	-	-	-	-	-	-	-	-
0.6005	13248	-	0.4649	0.5773	0.6348	0.6750	0.5654	0.4939	0.3855	0.5365	0.5549	0.5411	0.5429
0.6006	13250	0.2281	-	-	-	-	-	-	-	-	-	-	-
0.6028	13300	0.2288	-	-	-	-	-	-	-	-	-	-	-
0.6051	13350	0.2268	-	-	-	-	-	-	-	-	-	-	-
0.6074	13400	0.2267	-	-	-	-	-	-	-	-	-	-	-
0.6096	13450	0.2262	-	-	-	-	-	-	-	-	-	-	-
0.6119	13500	0.2263	-	-	-	-	-	-	-	-	-	-	-
0.6142	13550	0.2269	-	-	-	-	-	-	-	-	-	-	-
0.6164	13600	0.2247	-	-	-	-	-	-	-	-	-	-	-
0.6187	13650	0.2269	-	-	-	-	-	-	-	-	-	-	-
0.6210	13700	0.2260	-	-	-	-	-	-	-	-	-	-	-
0.6232	13750	0.2274	-	-	-	-	-	-	-	-	-	-	-
0.6255	13800	0.2260	-	-	-	-	-	-	-	-	-	-	-
0.6278	13850	0.2266	-	-	-	-	-	-	-	-	-	-	-
0.6300	13900	0.2246	-	-	-	-	-	-	-	-	-	-	-
0.6323	13950	0.2244	-	-	-	-	-	-	-	-	-	-	-
0.6346	14000	0.2256	-	-	-	-	-	-	-	-	-	-	-
0.6368	14050	0.2258	-	-	-	-	-	-	-	-	-	-	-
0.6391	14100	0.2266	-	-	-	-	-	-	-	-	-	-	-
0.6414	14150	0.2254	-	-	-	-	-	-	-	-	-	-	-
0.6436	14200	0.2248	-	-	-	-	-	-	-	-	-	-	-
0.6459	14250	0.2254	-	-	-	-	-	-	-	-	-	-	-
0.6482	14300	0.2255	-	-	-	-	-	-	-	-	-	-	-
0.6504	14350	0.2245	-	-	-	-	-	-	-	-	-	-	-
0.6505	14352	-	0.4799	0.6122	0.6671	0.6975	0.5543	0.5313	0.4372	0.5616	0.5493	0.5633	0.5654
0.6527	14400	0.2240	-	-	-	-	-	-	-	-	-	-	-
0.6550	14450	0.2251	-	-	-	-	-	-	-	-	-	-	-
0.6572	14500	0.2244	-	-	-	-	-	-	-	-	-	-	-
0.6595	14550	0.2244	-	-	-	-	-	-	-	-	-	-	-
0.6618	14600	0.2265	-	-	-	-	-	-	-	-	-	-	-
0.6640	14650	0.2244	-	-	-	-	-	-	-	-	-	-	-
0.6663	14700	0.2250	-	-	-	-	-	-	-	-	-	-	-
0.6686	14750	0.2230	-	-	-	-	-	-	-	-	-	-	-
0.6708	14800	0.2252	-	-	-	-	-	-	-	-	-	-	-
0.6731	14850	0.2248	-	-	-	-	-	-	-	-	-	-	-
0.6754	14900	0.2239	-	-	-	-	-	-	-	-	-	-	-
0.6776	14950	0.2242	-	-	-	-	-	-	-	-	-	-	-
0.6799	15000	0.2236	-	-	-	-	-	-	-	-	-	-	-
0.6822	15050	0.2242	-	-	-	-	-	-	-	-	-	-	-
0.6844	15100	0.2230	-	-	-	-	-	-	-	-	-	-	-
0.6867	15150	0.2236	-	-	-	-	-	-	-	-	-	-	-
0.6890	15200	0.2237	-	-	-	-	-	-	-	-	-	-	-
0.6912	15250	0.2239	-	-	-	-	-	-	-	-	-	-	-
0.6935	15300	0.2234	-	-	-	-	-	-	-	-	-	-	-
0.6958	15350	0.2246	-	-	-	-	-	-	-	-	-	-	-
0.6980	15400	0.2239	-	-	-	-	-	-	-	-	-	-	-
0.7003	15450	0.2231	-	-	-	-	-	-	-	-	-	-	-
0.7006	15456	-	0.5168	0.5934	0.6570	0.6683	0.5526	0.5250	0.4283	0.5442	0.5571	0.5834	0.5626
0.7026	15500	0.2221	-	-	-	-	-	-	-	-	-	-	-
0.7048	15550	0.2240	-	-	-	-	-	-	-	-	-	-	-
0.7071	15600	0.2230	-	-	-	-	-	-	-	-	-	-	-
0.7094	15650	0.2235	-	-	-	-	-	-	-	-	-	-	-
0.7116	15700	0.2241	-	-	-	-	-	-	-	-	-	-	-
0.7139	15750	0.2243	-	-	-	-	-	-	-	-	-	-	-
0.7162	15800	0.2219	-	-	-	-	-	-	-	-	-	-	-
0.7184	15850	0.2223	-	-	-	-	-	-	-	-	-	-	-
0.7207	15900	0.2223	-	-	-	-	-	-	-	-	-	-	-
0.7230	15950	0.2222	-	-	-	-	-	-	-	-	-	-	-
0.7252	16000	0.2215	-	-	-	-	-	-	-	-	-	-	-
0.7275	16050	0.2221	-	-	-	-	-	-	-	-	-	-	-
0.7298	16100	0.2209	-	-	-	-	-	-	-	-	-	-	-
0.7320	16150	0.2214	-	-	-	-	-	-	-	-	-	-	-
0.7343	16200	0.2219	-	-	-	-	-	-	-	-	-	-	-
0.7366	16250	0.2231	-	-	-	-	-	-	-	-	-	-	-
0.7388	16300	0.2218	-	-	-	-	-	-	-	-	-	-	-
0.7411	16350	0.2225	-	-	-	-	-	-	-	-	-	-	-
0.7434	16400	0.2203	-	-	-	-	-	-	-	-	-	-	-
0.7456	16450	0.2212	-	-	-	-	-	-	-	-	-	-	-
0.7479	16500	0.2203	-	-	-	-	-	-	-	-	-	-	-
0.7502	16550	0.2207	-	-	-	-	-	-	-	-	-	-	-
0.7506	16560	-	0.4777	0.6016	0.6386	0.6922	0.5565	0.5169	0.4326	0.5350	0.5606	0.5692	0.5581
0.7524	16600	0.2219	-	-	-	-	-	-	-	-	-	-	-
0.7547	16650	0.2217	-	-	-	-	-	-	-	-	-	-	-
0.7570	16700	0.2207	-	-	-	-	-	-	-	-	-	-	-
0.7592	16750	0.2194	-	-	-	-	-	-	-	-	-	-	-
0.7615	16800	0.2196	-	-	-	-	-	-	-	-	-	-	-
0.7638	16850	0.2215	-	-	-	-	-	-	-	-	-	-	-
0.7660	16900	0.2213	-	-	-	-	-	-	-	-	-	-	-
0.7683	16950	0.2224	-	-	-	-	-	-	-	-	-	-	-
0.7706	17000	0.2198	-	-	-	-	-	-	-	-	-	-	-
0.7728	17050	0.2208	-	-	-	-	-	-	-	-	-	-	-
0.7751	17100	0.2210	-	-	-	-	-	-	-	-	-	-	-
0.7774	17150	0.2208	-	-	-	-	-	-	-	-	-	-	-
0.7796	17200	0.2199	-	-	-	-	-	-	-	-	-	-	-
0.7819	17250	0.2201	-	-	-	-	-	-	-	-	-	-	-
0.7842	17300	0.2220	-	-	-	-	-	-	-	-	-	-	-
0.7864	17350	0.2202	-	-	-	-	-	-	-	-	-	-	-
0.7887	17400	0.2202	-	-	-	-	-	-	-	-	-	-	-
0.7910	17450	0.2193	-	-	-	-	-	-	-	-	-	-	-
0.7932	17500	0.2192	-	-	-	-	-	-	-	-	-	-	-
0.7955	17550	0.2176	-	-	-	-	-	-	-	-	-	-	-
0.7978	17600	0.2189	-	-	-	-	-	-	-	-	-	-	-
0.8000	17650	0.2187	-	-	-	-	-	-	-	-	-	-	-
0.8007	17664	-	0.5384	0.6127	0.6298	0.6778	0.5495	0.5395	0.3978	0.5243	0.5712	0.5825	0.5624
0.8023	17700	0.2190	-	-	-	-	-	-	-	-	-	-	-
0.8046	17750	0.2184	-	-	-	-	-	-	-	-	-	-	-
0.8068	17800	0.2187	-	-	-	-	-	-	-	-	-	-	-
0.8091	17850	0.2195	-	-	-	-	-	-	-	-	-	-	-
0.8113	17900	0.2187	-	-	-	-	-	-	-	-	-	-	-
0.8136	17950	0.2186	-	-	-	-	-	-	-	-	-	-	-
0.8159	18000	0.2180	-	-	-	-	-	-	-	-	-	-	-
0.8181	18050	0.2179	-	-	-	-	-	-	-	-	-	-	-
0.8204	18100	0.2199	-	-	-	-	-	-	-	-	-	-	-
0.8227	18150	0.2201	-	-	-	-	-	-	-	-	-	-	-
0.8249	18200	0.2191	-	-	-	-	-	-	-	-	-	-	-
0.8272	18250	0.2191	-	-	-	-	-	-	-	-	-	-	-
0.8295	18300	0.2180	-	-	-	-	-	-	-	-	-	-	-
0.8317	18350	0.2178	-	-	-	-	-	-	-	-	-	-	-
0.8340	18400	0.2178	-	-	-	-	-	-	-	-	-	-	-
0.8363	18450	0.2190	-	-	-	-	-	-	-	-	-	-	-
0.8385	18500	0.2186	-	-	-	-	-	-	-	-	-	-	-
0.8408	18550	0.2180	-	-	-	-	-	-	-	-	-	-	-
0.8431	18600	0.2179	-	-	-	-	-	-	-	-	-	-	-
0.8453	18650	0.2175	-	-	-	-	-	-	-	-	-	-	-
0.8476	18700	0.2177	-	-	-	-	-	-	-	-	-	-	-
0.8499	18750	0.2178	-	-	-	-	-	-	-	-	-	-	-
0.8507	18768	-	0.5142	0.6209	0.6645	0.7037	0.5580	0.5350	0.4298	0.5350	0.5884	0.5923	0.5742
0.8521	18800	0.2169	-	-	-	-	-	-	-	-	-	-	-
0.8544	18850	0.2169	-	-	-	-	-	-	-	-	-	-	-
0.8567	18900	0.2169	-	-	-	-	-	-	-	-	-	-	-
0.8589	18950	0.2168	-	-	-	-	-	-	-	-	-	-	-
0.8612	19000	0.2174	-	-	-	-	-	-	-	-	-	-	-
0.8635	19050	0.2172	-	-	-	-	-	-	-	-	-	-	-
0.8657	19100	0.2169	-	-	-	-	-	-	-	-	-	-	-
0.8680	19150	0.2177	-	-	-	-	-	-	-	-	-	-	-
0.8703	19200	0.2173	-	-	-	-	-	-	-	-	-	-	-
0.8725	19250	0.2174	-	-	-	-	-	-	-	-	-	-	-
0.8748	19300	0.2176	-	-	-	-	-	-	-	-	-	-	-
0.8771	19350	0.2182	-	-	-	-	-	-	-	-	-	-	-
0.8793	19400	0.2171	-	-	-	-	-	-	-	-	-	-	-
0.8816	19450	0.2163	-	-	-	-	-	-	-	-	-	-	-
0.8839	19500	0.2164	-	-	-	-	-	-	-	-	-	-	-
0.8861	19550	0.2165	-	-	-	-	-	-	-	-	-	-	-
0.8884	19600	0.2163	-	-	-	-	-	-	-	-	-	-	-
0.8907	19650	0.2168	-	-	-	-	-	-	-	-	-	-	-
0.8929	19700	0.2163	-	-	-	-	-	-	-	-	-	-	-
0.8952	19750	0.2159	-	-	-	-	-	-	-	-	-	-	-
0.8975	19800	0.2164	-	-	-	-	-	-	-	-	-	-	-
0.8997	19850	0.2166	-	-	-	-	-	-	-	-	-	-	-
0.9007	19872	-	0.4821	0.6243	0.6507	0.6889	0.5543	0.5559	0.4371	0.5336	0.5674	0.5902	0.5684
0.9020	19900	0.2162	-	-	-	-	-	-	-	-	-	-	-
0.9043	19950	0.2176	-	-	-	-	-	-	-	-	-	-	-
0.9065	20000	0.2153	-	-	-	-	-	-	-	-	-	-	-
0.9088	20050	0.2173	-	-	-	-	-	-	-	-	-	-	-
0.9111	20100	0.2168	-	-	-	-	-	-	-	-	-	-	-
0.9133	20150	0.2159	-	-	-	-	-	-	-	-	-	-	-
0.9156	20200	0.2161	-	-	-	-	-	-	-	-	-	-	-
0.9179	20250	0.2160	-	-	-	-	-	-	-	-	-	-	-
0.9201	20300	0.2158	-	-	-	-	-	-	-	-	-	-	-
0.9224	20350	0.2160	-	-	-	-	-	-	-	-	-	-	-
0.9247	20400	0.2160	-	-	-	-	-	-	-	-	-	-	-
0.9269	20450	0.2149	-	-	-	-	-	-	-	-	-	-	-
0.9292	20500	0.2160	-	-	-	-	-	-	-	-	-	-	-
0.9315	20550	0.2162	-	-	-	-	-	-	-	-	-	-	-
0.9337	20600	0.2151	-	-	-	-	-	-	-	-	-	-	-
0.9360	20650	0.2169	-	-	-	-	-	-	-	-	-	-	-
0.9383	20700	0.2167	-	-	-	-	-	-	-	-	-	-	-
0.9405	20750	0.2159	-	-	-	-	-	-	-	-	-	-	-
0.9428	20800	0.2161	-	-	-	-	-	-	-	-	-	-	-
0.9451	20850	0.2153	-	-	-	-	-	-	-	-	-	-	-
0.9473	20900	0.2157	-	-	-	-	-	-	-	-	-	-	-
0.9496	20950	0.2158	-	-	-	-	-	-	-	-	-	-	-
0.9508	20976	-	0.5051	0.5939	0.6571	0.6918	0.5615	0.5788	0.4303	0.5432	0.5998	0.6117	0.5773
0.9519	21000	0.2144	-	-	-	-	-	-	-	-	-	-	-
0.9541	21050	0.2159	-	-	-	-	-	-	-	-	-	-	-
0.9564	21100	0.2149	-	-	-	-	-	-	-	-	-	-	-
0.9587	21150	0.2163	-	-	-	-	-	-	-	-	-	-	-
0.9609	21200	0.2151	-	-	-	-	-	-	-	-	-	-	-
0.9632	21250	0.2167	-	-	-	-	-	-	-	-	-	-	-
0.9655	21300	0.2141	-	-	-	-	-	-	-	-	-	-	-
0.9677	21350	0.2151	-	-	-	-	-	-	-	-	-	-	-
0.9700	21400	0.2159	-	-	-	-	-	-	-	-	-	-	-
0.9723	21450	0.2148	-	-	-	-	-	-	-	-	-	-	-
0.9745	21500	0.2157	-	-	-	-	-	-	-	-	-	-	-
0.9768	21550	0.2147	-	-	-	-	-	-	-	-	-	-	-
0.9791	21600	0.2153	-	-	-	-	-	-	-	-	-	-	-
0.9813	21650	0.2155	-	-	-	-	-	-	-	-	-	-	-
0.9836	21700	0.2145	-	-	-	-	-	-	-	-	-	-	-
0.9859	21750	0.2150	-	-	-	-	-	-	-	-	-	-	-
0.9881	21800	0.2149	-	-	-	-	-	-	-	-	-	-	-
0.9904	21850	0.2152	-	-	-	-	-	-	-	-	-	-	-
0.9927	21900	0.2142	-	-	-	-	-	-	-	-	-	-	-
0.9949	21950	0.2143	-	-	-	-	-	-	-	-	-	-	-
0.9972	22000	0.2132	-	-	-	-	-	-	-	-	-	-	-
0.9995	22050	0.2150	-	-	-	-	-	-	-	-	-	-	-

Framework Versions

Python: 3.10.12
Sentence Transformers: 5.2.3
Transformers: 5.2.0
PyTorch: 2.8.0+cu128
Accelerate: 1.12.0
Datasets: 4.6.1
Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}