Hugging Face's logo

Luong23
/
e5-finetune-embedding

Sentence Similarity
sentence-transformers
Safetensors
xlm-roberta
feature-extraction
dense
Generated from Trainer
dataset_size:294194
loss:MultipleNegativesRankingLoss
text-embeddings-inference
Model card Files
xet
 Community

SentenceTransformer based on intfloat/multilingual-e5-base

This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Base model: intfloat/multilingual-e5-base
  • Maximum Sequence Length: 256 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity
  • Supported Modality: Text

Model Sources

Full Model Architecture 

SentenceTransformer(
  (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'embedding_dimension': 768, 'pooling_mode': 'mean', 'include_prompt': True})
  (2): Normalize({})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'query: bí quyết dưỡng tóc hiệu quả',
    'passage: Tên sản phẩm: Dầu Gội Dược Liệu Nguyên Xuân Dưỡng Tóc Hương Bưởi 450ml. Danh mục: Chăm Sóc Mẹ. Thương hiệu: NGUYEN XUAN. Mô tả chi tiết: Khám phá bí quyết cho mái tóc óng mượt với Dầu gội Dược liệu Nguyên Xuân Dưỡng Tóc Hương Bưởi 450ml. Sản phẩm là sự hòa quyện hoàn hảo giữa các loại thảo dược quý và tinh dầu bưởi, mang đến khả năng dưỡng tóc vượt trội. Dầu gội giúp làm sạch nhẹ nhàng, loại bỏ bụi bẩn và bã nhờn, đồng thời cung cấp độ ẩm cần thiết, phục hồi tóc khô xơ, hư tổn. Hương bưởi thơm mát mang lại cảm giác thư giãn sảng khoái. Với dung tích 450ml, sản phẩm là người bạn đồng hành lý tưởng cho mái tóc luôn khỏe mạnh, mềm mại và tràn đầy sức sống. Thông tin bổ sung: kích thước/size 450ML, tags NGUYEN XUAN, 450ML.',
    'passage: Tên sản phẩm: Lạp Xưởng Tươi LC Foods Hương Vị Đài Loan 250G. Danh mục: Sản Phẩm Từ Thịt. Thương hiệu: Việt Nam. Mô tả chi tiết: Lạp Xưởng Tươi LC Foods Hương Vị Đài Loan 250G mang đến trải nghiệm ẩm thực độc đáo với hương vị đặc trưng của Đài Loan. Sản phẩm được làm từ thịt heo tươi ngon, kết hợp cùng các gia vị truyền thống như rượu mai quế lộ, tiêu, tỏi, tạo nên hương vị thơm lừng, đậm đà. Lạp xưởng có thể chế biến nhanh chóng bằng cách chiên dầu hoặc nướng, rất thích hợp cho những bữa ăn nhanh hoặc làm phong phú thêm các món ăn gia đình. Bảo quản ở nhiệt độ 0-5 độ C trong ngăn mát tủ lạnh hoặc -18 độ C trong ngăn đá để giữ được hương vị tốt nhất. Sản phẩm 250G tiện lợi cho việc sử dụng và bảo quản. Thông tin bổ sung: chất liệu Thịt heo, chất ổn định, đường, muối, rượu mai quế lộ, tiêu, tỏi, chất điều vị, chất nhũ hóa, chất ch" />, kích thước/size 250G.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 0.5405, 0.0346],
#         [0.5405, 1.0000, 0.1068],
#         [0.0346, 0.1068, 1.0000]])

Training Details

Training Dataset

Unnamed Dataset

  • Size: 294,194 training samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 100 samples:
    anchor positive
    type string string
    modality text text
    details
    • min: 9 tokens
    • mean: 11.77 tokens
    • max: 19 tokens
    • min: 167 tokens
    • mean: 225.41 tokens
    • max: 256 tokens
  • Samples:
    anchor positive
    query: khăn lót vintage phong cảnh passage: Tên sản phẩm: Set 4 Khăn Lót Đĩa Le Reve. Danh mục: Trang trí bàn ăn. Thương hiệu: Nhà Xinh. Mô tả chi tiết: Set 4 khăn lót đĩa Le Reve từ Nhà Xinh mang đến vẻ đẹp cổ điển và tinh tế cho bàn ăn của bạn. Được làm từ 100% vinyl cao cấp nhập khẩu từ Ý, mỗi chiếc khăn lót đĩa có kích thước 43,3 × 33 cm, nổi bật với họa tiết phong cảnh vintage trên nền be nhạt, gợi cảm giác như những bức khắc họa nghệ thuật. Sản phẩm không chỉ bảo vệ bề mặt bàn mà còn tạo chiều sâu và sự trang nhã cho không gian ẩm thực. Với phong cách Vintage và Classic European, bộ khăn lót đĩa này là lựa chọn hoàn hảo để nâng tầm trải nghiệm dùng bữa, phù hợp cho bộ chén đĩa hoặc khay phục vụ, cũng như lót dưới bộ tách trà hay bình nước.
    query: Nước xả Power100 3.2kg passage: Tên sản phẩm: Túi Nước Giặt Xả POWER100 Hương Nước Hoa Pháp 3.2KG. Danh mục: Giặt giũ & Chăm sóc quần áo. Thương hiệu: Power100. Mô tả chi tiết: Nước giặt xả Power100 Hương Nước Hoa Pháp Quyến Rũ 3.2kg mang đến trải nghiệm giặt giũ vượt trội. Với hoạt chất làm sạch nguồn gốc thiên nhiên, sản phẩm không chỉ thân thiện với môi trường mà còn giúp quần áo lưu giữ hương nước hoa Pháp quyến rũ lên đến 72 giờ. Công thức tiên tiến giúp ngăn mùi ẩm mốc hiệu quả, ngay cả khi phơi trong nhà, đồng thời làm bền màu vải và dịu nhẹ với da tay. Nước giặt xả Power100 phù hợp cho cả giặt tay và máy giặt cửa trên, cửa trước, đảm bảo quần áo luôn sạch sẽ, thơm mát và bền màu. Thông tin bổ sung: màu Đam Mê, Quyến rũ, tags Power100, Việt Nam, Không.
    query: thay ruột mực cho bút máy passage: Tên sản phẩm: Parker Ống Mực Xanh 1950384. Danh mục: Ruột Chì, Ruột Viết. Thương hiệu: Parker. Mô tả chi tiết: Ống mực xanh Parker 1950384 là giải pháp thay thế ruột mực tiện lợi, được thiết kế chuyên dụng cho các dòng bút máy Parker. Với khả năng ghép nối dễ dàng, bạn có thể thay mực nhanh chóng mọi lúc mọi nơi, tiết kiệm thời gian và công sức. Mực ER QUINK của Parker nổi bật với sắc xanh đậm, trơn tru và khô nhanh, hạn chế tối đa tình trạng nhòe mực trên giấy. Trải nghiệm những nét chữ uyển chuyển, đầy đặn và tận hưởng cảm giác mực đẹp mắt ngay khi ngòi bút chạm vào trang giấy. Sản phẩm là sự lựa chọn hoàn hảo để duy trì hiệu suất viết của bút máy Parker. Thông tin bổ sung: tags 20.11.
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false,
    "directions": [
        "query_to_doc"
    ],
    "partition_mode": "joint",
    "hardness_mode": null,
    "hardness_strength": 0.0
}

Evaluation Dataset

Unnamed Dataset

  • Size: 15,483 evaluation samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 100 samples:
    anchor positive
    type string string
    modality text text
    details
    • min: 9 tokens
    • mean: 11.45 tokens
    • max: 18 tokens
    • min: 160 tokens
    • mean: 228.92 tokens
    • max: 256 tokens
  • Samples:
    anchor positive
    query: máy in brother màu sắc sống động passage: Tên sản phẩm: Máy in phun màu đa năng Brother DCP-T730DW Wifi. Danh mục: Máy in Brother. Thương hiệu: Brother. Mô tả chi tiết: Nâng cao hiệu suất làm việc với Máy in phun màu đa năng Brother DCP-T730DW Wifi. Thiết bị đa chức năng này không chỉ in ấn màu sắc sống động mà còn scan và copy tiện lợi, kết nối không dây Wifi giúp bạn in ấn mọi lúc mọi nơi. Với thiết kế màu đen sang trọng, máy in Brother DCP-T730DW là giải pháp lý tưởng cho gia đình và văn phòng. Tận hưởng ưu đãi trả góp 0%, bảo hành 2 năm và chính sách 1 đổi 1 trong tháng đầu. Giao hàng nhanh chóng và lắp đặt đơn giản. Thông tin bổ sung: màu Đen, tags Máy in phun màu đa năng Brother DCP-T730DW Wifi, Máy in phun màu Brother DCP-T730DW Wifi, Máy in phun màu Brother DCP-T730DW Wifi, Máy in Máy in phun màu đa năng Brother DCP-T730DW Wifi, giá Máy in phun màu đa năng Brother DCP-T730DW Wifi, thông tin Máy in phun màu đa năng Brother DCP-T730DW Wifi.
    query: Simon Sinek sách kinh doanh hay passage: Tên sản phẩm: Start With Why: How Great Leaders Inspire Everyone To Take Action. Danh mục: Business. Thương hiệu: Portfolio. Mô tả chi tiết: "Start With Why: How Great Leaders Inspire Everyone To Take Action" là cuốn sách truyền cảm hứng, thay đổi cuộc đời, khám phá bí quyết đằng sau thành công của các nhà lãnh đạo vĩ đại. Tác giả Simon Sinek đặt câu hỏi nền tảng: Tại sao một số người và tổ chức lại đổi mới, có ảnh hưởng và lợi nhuận hơn những người khác? Cuốn sách tiết lộ cách các nhà lãnh đạo kiệt xuất như Martin Luther King Jr., Steve Jobs hay anh em nhà Wright đều bắt đầu với "TẠI SAO". Họ nhận ra rằng khách hàng chỉ thực sự tin tưởng vào sản phẩm, dịch vụ hay ý tưởng khi họ hiểu rõ mục đích cốt lõi đằng sau nó. "Start With Why" cung cấp một khuôn khổ mạnh mẽ, giúp bạn xây dựng tổ chức, dẫn dắt phong trào và truyền cảm hứng cho mọi người bằng cách xác định và truyền đạt rõ ràng "TẠI SAO" của bạn.
    query: AI LED Display Anker có gì đặc biệt passage: Tên sản phẩm: Sạc nhanh 3 cổng USB Type-C IQ5 GaN 160W Anker Prime A2687 AI LED Display. Danh mục: Adapter sạc Anker. Thương hiệu: Anker. Mô tả chi tiết: Trải nghiệm sức mạnh sạc siêu tốc với củ sạc Anker Prime A2687, sở hữu công nghệ GaN tiên tiến và công suất lên đến 160W. Thiết bị tích hợp 3 cổng USB Type-C, cho phép bạn nạp đầy năng lượng cho nhiều thiết bị cùng lúc một cách hiệu quả. Màn hình AI LED Display thông minh hiển thị chi tiết quá trình sạc, mang đến trải nghiệm tiện lợi và hiện đại. Sản phẩm chính hãng Anker, đảm bảo chất lượng và độ bền bỉ. An tâm mua sắm với chính sách giao hàng miễn phí toàn quốc trong 1 giờ và đổi 1 trong tháng đầu nếu có lỗi. Thông tin bổ sung: màu Bạc, tags Sạc nhanh 3 cổng USB Type-C IQ5 GaN 160W Anker Prime A2687 AI LED Display, Sạc nhanh 3 cổng Anker Prime A2687 AI LED Display, Adapter sạc Sạc nhanh 3 cổng USB Type-C IQ5 GaN 160W Anker Prime A2687 AI LED Display, giá Sạc nhanh 3 cổng USB Type-C IQ5 GaN 160W Anker Prime A2687 AI LED Disp...
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false,
    "directions": [
        "query_to_doc"
    ],
    "partition_mode": "joint",
    "hardness_mode": null,
    "hardness_strength": 0.0
}

Training Hyperparameters

Non-Default Hyperparameters

  • per_device_train_batch_size: 128
  • num_train_epochs: 5
  • learning_rate: 2e-05
  • warmup_steps: 0.1
  • fp16: True
  • per_device_eval_batch_size: 128
  • load_best_model_at_end: True
  • dataloader_num_workers: 4

All Hyperparameters

Click to expand
  • per_device_train_batch_size: 128
  • num_train_epochs: 5
  • max_steps: -1
  • learning_rate: 2e-05
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: None
  • warmup_steps: 0.1
  • optim: adamw_torch_fused
  • optim_args: None
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • optim_target_modules: None
  • gradient_accumulation_steps: 1
  • average_tokens_across_devices: True
  • max_grad_norm: 1.0
  • label_smoothing_factor: 0.0
  • bf16: False
  • fp16: True
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • use_liger_kernel: False
  • liger_kernel_config: None
  • use_cache: False
  • neftune_noise_alpha: None
  • torch_empty_cache_steps: None
  • auto_find_batch_size: False
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • include_num_input_tokens_seen: no
  • log_level: passive
  • log_level_replica: warning
  • disable_tqdm: False
  • project: huggingface
  • trackio_space_id: None
  • trackio_bucket_id: None
  • trackio_static_space_id: None
  • per_device_eval_batch_size: 128
  • prediction_loss_only: True
  • eval_on_start: False
  • eval_do_concat_batches: True
  • eval_use_gather_object: False
  • eval_accumulation_steps: None
  • include_for_metrics: []
  • batch_eval_metrics: False
  • save_only_model: False
  • save_on_each_node: False
  • enable_jit_checkpoint: False
  • push_to_hub: False
  • hub_private_repo: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_always_push: False
  • hub_revision: None
  • load_best_model_at_end: True
  • ignore_data_skip: False
  • restore_callback_states_from_checkpoint: False
  • full_determinism: False
  • seed: 42
  • data_seed: None
  • use_cpu: False
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • parallelism_config: None
  • dataloader_drop_last: False
  • dataloader_num_workers: 4
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • dataloader_prefetch_factor: None
  • remove_unused_columns: True
  • label_names: None
  • train_sampling_strategy: random
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • ddp_static_graph: None
  • ddp_backend: None
  • ddp_timeout: 1800
  • fsdp: None
  • fsdp_config: None
  • deepspeed: None
  • debug: []
  • skip_memory_metrics: True
  • do_predict: False
  • resume_from_checkpoint: None
  • warmup_ratio: None
  • local_rank: -1
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: proportional
  • router_mapping: {}
  • learning_rate_mapping: {}

Training Logs

Click to expand
Epoch Step Training Loss Validation Loss
0.0217 50 3.4994 -
0.0435 100 2.7946 -
0.0652 150 1.6266 -
0.0870 200 0.8567 -
0.1087 250 0.6700 -
0.1305 300 0.6005 -
0.1522 350 0.5935 -
0.1740 400 0.5749 -
0.1957 450 0.5775 -
0.2175 500 0.5330 0.4814
0.2392 550 0.5480 -
0.2610 600 0.5252 -
0.2827 650 0.4912 -
0.3045 700 0.4974 -
0.3262 750 0.5250 -
0.3480 800 0.4849 -
0.3697 850 0.4685 -
0.3915 900 0.4964 -
0.4132 950 0.4632 -
0.4350 1000 0.4776 0.4242
0.4567 1050 0.4939 -
0.4785 1100 0.4760 -
0.5002 1150 0.4603 -
0.5220 1200 0.4644 -
0.5437 1250 0.4598 -
0.5655 1300 0.4563 -
0.5872 1350 0.4373 -
0.6090 1400 0.4277 -
0.6307 1450 0.4331 -
0.6525 1500 0.4507 0.3899
0.6742 1550 0.4235 -
0.6960 1600 0.4249 -
0.7177 1650 0.4313 -
0.7395 1700 0.4327 -
0.7612 1750 0.4294 -
0.7829 1800 0.4265 -
0.8047 1850 0.4187 -
0.8264 1900 0.4474 -
0.8482 1950 0.4040 -
0.8699 2000 0.4012 0.3686
0.8917 2050 0.4088 -
0.9134 2100 0.3891 -
0.9352 2150 0.4003 -
0.9569 2200 0.4281 -
0.9787 2250 0.4060 -
1.0004 2300 0.3836 -
1.0222 2350 0.3640 -
1.0439 2400 0.3546 -
1.0657 2450 0.3526 -
1.0874 2500 0.3630 0.3578
1.1092 2550 0.3770 -
1.1309 2600 0.3603 -
1.1527 2650 0.3611 -
1.1744 2700 0.3550 -
1.1962 2750 0.3741 -
1.2179 2800 0.3714 -
1.2397 2850 0.3504 -
1.2614 2900 0.3448 -
1.2832 2950 0.3559 -
1.3049 3000 0.3455 0.3476
1.3267 3050 0.3563 -
1.3484 3100 0.3517 -
1.3702 3150 0.3547 -
1.3919 3200 0.3419 -
1.4137 3250 0.3499 -
1.4354 3300 0.3520 -
1.4572 3350 0.3600 -
1.4789 3400 0.3498 -
1.5007 3450 0.3473 -
1.5224 3500 0.3521 0.3422
1.5441 3550 0.3576 -
1.5659 3600 0.3556 -
1.5876 3650 0.3388 -
1.6094 3700 0.3422 -
1.6311 3750 0.3436 -
1.6529 3800 0.3410 -
1.6746 3850 0.3532 -
1.6964 3900 0.3349 -
1.7181 3950 0.3417 -
1.7399 4000 0.3470 0.3345
1.7616 4050 0.3318 -
1.7834 4100 0.3425 -
1.8051 4150 0.3401 -
1.8269 4200 0.3376 -
1.8486 4250 0.3409 -
1.8704 4300 0.3488 -
1.8921 4350 0.3383 -
1.9139 4400 0.3335 -
1.9356 4450 0.3366 -
1.9574 4500 0.3432 0.3290
1.9791 4550 0.3536 -
2.0009 4600 0.3354 -
2.0226 4650 0.2886 -
2.0444 4700 0.2922 -
2.0661 4750 0.2885 -
2.0879 4800 0.3198 -
2.1096 4850 0.2947 -
2.1314 4900 0.2936 -
2.1531 4950 0.3049 -
2.1749 5000 0.3090 0.3263
2.1966 5050 0.2958 -
2.2184 5100 0.2997 -
2.2401 5150 0.2978 -
2.2619 5200 0.3077 -
2.2836 5250 0.3077 -
2.3054 5300 0.2972 -
2.3271 5350 0.2944 -
2.3488 5400 0.3027 -
2.3706 5450 0.2969 -
2.3923 5500 0.3101 0.3238
2.4141 5550 0.2965 -
2.4358 5600 0.3140 -
2.4576 5650 0.2865 -
2.4793 5700 0.3024 -
2.5011 5750 0.2952 -
2.5228 5800 0.2853 -
2.5446 5850 0.3147 -
2.5663 5900 0.3019 -
2.5881 5950 0.2724 -
2.6098 6000 0.3062 0.3194
2.6316 6050 0.3059 -
2.6533 6100 0.3078 -
2.6751 6150 0.2905 -
2.6968 6200 0.2886 -
2.7186 6250 0.2865 -
2.7403 6300 0.2969 -
2.7621 6350 0.3069 -
2.7838 6400 0.2975 -
2.8056 6450 0.3079 -
2.8273 6500 0.2904 0.3139
2.8491 6550 0.3047 -
2.8708 6600 0.3101 -
2.8926 6650 0.3011 -
2.9143 6700 0.2916 -
2.9361 6750 0.2917 -
2.9578 6800 0.2976 -
2.9796 6850 0.2866 -
3.0013 6900 0.2936 -
3.0231 6950 0.2738 -
3.0448 7000 0.2765 0.3128
3.0666 7050 0.2655 -
3.0883 7100 0.2730 -
3.1100 7150 0.2662 -
3.1318 7200 0.2713 -
3.1535 7250 0.2734 -
3.1753 7300 0.2663 -
3.1970 7350 0.2838 -
3.2188 7400 0.2747 -
3.2405 7450 0.2743 -
3.2623 7500 0.2512 0.3107
3.2840 7550 0.2731 -
3.3058 7600 0.2803 -
3.3275 7650 0.2451 -
3.3493 7700 0.2737 -
3.3710 7750 0.2729 -
3.3928 7800 0.2773 -
3.4145 7850 0.2605 -
3.4363 7900 0.2801 -
3.4580 7950 0.2690 -
3.4798 8000 0.2681 0.3089
3.5015 8050 0.2654 -
3.5233 8100 0.2654 -
3.5450 8150 0.2777 -
3.5668 8200 0.2644 -
3.5885 8250 0.2723 -
3.6103 8300 0.2616 -
3.6320 8350 0.2813 -
3.6538 8400 0.2678 -
3.6755 8450 0.2677 -
3.6973 8500 0.2646 0.3081
3.7190 8550 0.2721 -
3.7408 8600 0.2639 -
3.7625 8650 0.2675 -
3.7843 8700 0.2803 -
3.8060 8750 0.2798 -
3.8278 8800 0.2599 -
3.8495 8850 0.2795 -
3.8712 8900 0.2702 -
3.8930 8950 0.2605 -
3.9147 9000 0.2580 0.3061
3.9365 9050 0.2737 -
3.9582 9100 0.2652 -
3.9800 9150 0.2590 -
4.0017 9200 0.2675 -
4.0235 9250 0.2468 -
4.0452 9300 0.2546 -
4.0670 9350 0.2483 -
4.0887 9400 0.2492 -
4.1105 9450 0.2575 -
4.1322 9500 0.2558 0.3047
4.1540 9550 0.2425 -
4.1757 9600 0.2543 -
4.1975 9650 0.2393 -
4.2192 9700 0.2531 -
4.2410 9750 0.2486 -
4.2627 9800 0.2538 -
4.2845 9850 0.2435 -
4.3062 9900 0.2526 -
4.3280 9950 0.2578 -
4.3497 10000 0.2592 0.3035
4.3715 10050 0.2540 -
4.3932 10100 0.2514 -
4.4150 10150 0.2451 -
4.4367 10200 0.2684 -
4.4585 10250 0.2578 -
4.4802 10300 0.2607 -
4.5020 10350 0.2555 -
4.5237 10400 0.2445 -
4.5455 10450 0.2575 -
4.5672 10500 0.2447 0.3029
4.5890 10550 0.2479 -
4.6107 10600 0.2461 -
4.6324 10650 0.2599 -
4.6542 10700 0.2602 -
4.6759 10750 0.2537 -
4.6977 10800 0.2431 -
4.7194 10850 0.2422 -
4.7412 10900 0.2427 -
4.7629 10950 0.2541 -
4.7847 11000 0.2457 0.3016
4.8064 11050 0.2586 -
4.8282 11100 0.2491 -
4.8499 11150 0.2503 -
4.8717 11200 0.2457 -
4.8934 11250 0.2457 -
4.9152 11300 0.2544 -
4.9369 11350 0.2540 -
4.9587 11400 0.2430 -
4.9804 11450 0.2516 -
5.0 11495 - 0.3014
  • The bold row denotes the saved checkpoint.

Training Time

  • Training: 1.6 hours
  • Evaluation: 5.8 minutes
  • Total: 1.7 hours

Framework Versions

  • Python: 3.12.3
  • Sentence Transformers: 5.7.0
  • Transformers: 5.14.1
  • PyTorch: 2.8.0+cu128
  • Accelerate: 1.14.0
  • Datasets: 5.0.1
  • Tokenizers: 0.22.2

Additional Resources

Citation

BibTeX

Sentence Transformers 

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss 

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}
Downloads last month
-
Safetensors
Model size
0.3B params
Tensor type
F32
·
Inference Providers NEW
Sentence Similarity
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Luong23/e5-finetune-embedding

Base model

intfloat/multilingual-e5-base
Finetuned
(152)
this model

Papers for Luong23/e5-finetune-embedding