Hugging Face's logo

Luong23
/
e5-finetune-embedding-v2

Sentence Similarity
sentence-transformers
Safetensors
xlm-roberta
feature-extraction
Generated from Trainer
dataset_size:321881
loss:MultipleNegativesRankingLoss
text-embeddings-inference
Model card Files
xet
 Community

SentenceTransformer based on intfloat/multilingual-e5-base

This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for retrieval.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Base model: intfloat/multilingual-e5-base
  • Maximum Sequence Length: 256 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity
  • Supported Modality: Text

Model Sources

Full Model Architecture 

SentenceTransformer(
  (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'embedding_dimension': 768, 'pooling_mode': 'mean', 'include_prompt': True})
  (2): Normalize({})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'query: thảm nhà xinh kích thước',
    'passage: Tên sản phẩm: Thảm Cotton Vie Recycle (1,6M X 2,3M). Danh mục: Hàng trang trí. Thương hiệu: Nhà Xinh. Mô tả chi tiết: Thảm Cotton Vie Recycle từ Nhà Xinh là sự lựa chọn lý tưởng để nâng tầm không gian sống của bạn. Với kích thước 1,6M X 2,3M, chiếc thảm này không chỉ mang lại sự ấm cúng mà còn góp phần bảo vệ môi trường nhờ chất liệu cotton tái chế. Sản phẩm thuộc danh mục hàng trang trí, phù hợp với nhiều phong cách nội thất từ hiện đại đến cổ điển. Thảm có độ bền cao, dễ dàng vệ sinh và tạo cảm giác êm ái dưới chân, thích hợp cho phòng khách, phòng ngủ hay khu vực sinh hoạt chung. Thảm Cotton Vie Recycle không chỉ là vật dụng trang trí mà còn thể hiện phong cách sống xanh, ý thức bảo vệ môi trường của gia chủ.',
    'passage: Tên sản phẩm: Hộp Bút Dạ Nước GUBKT84640 12 Màu KT. Danh mục: Họa Cụ. Thương hiệu: An Ngọc Sơn. Mô tả chi tiết: Mở ra thế giới sắc màu sống động với Hộp Bút Dạ Nước GUBKT84640 12 Màu từ thương hiệu An Ngọc Sơn. Bộ bút marker này được thiết kế đặc biệt cho những người mới bắt đầu, với đầu bút chất lượng cao cho nét vẽ mượt mà, màu sắc chân thực và khả năng phối màu tinh tế. Bạn có thể dễ dàng tạo hiệu ứng đậm nhạt, pha trộn màu sắc để vẽ phong cảnh, chân dung hay làm bút nhớ. Hộp bút 12 màu với dung tích 300gr, kích thước 13 x 15 x 2 cm, rất gọn nhẹ và tiện lợi mang theo. Sản phẩm đến từ Trung Quốc, đảm bảo chất lượng vượt trội, giúp bạn thỏa sức sáng tạo và thể hiện cá tính nghệ thuật của mình. Màu sắc trẻ trung, năng động phù hợp với mọi lứa tuổi. Thông tin bổ sung: tags SAN.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.6050, -0.0742],
#         [ 0.6050,  1.0000, -0.0808],
#         [-0.0742, -0.0808,  1.0000]])

Training Details

Training Dataset

Unnamed Dataset

  • Size: 321,881 training samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 100 samples:
    anchor positive
    type string string
    modality text text
    details
    • min: 6 tokens
    • mean: 10.74 tokens
    • max: 15 tokens
    • min: 154 tokens
    • mean: 224.09 tokens
    • max: 256 tokens
  • Samples:
    anchor positive
    query: quần dài nữ co giãn passage: Tên sản phẩm: Quần Dài Ống Vểnh Cơ Bản. Danh mục: Quần nữ. Thương hiệu: YODY. Mô tả chi tiết: Sở hữu vẻ ngoài thanh lịch và hiện đại với Quần Dài Ống Vểnh Cơ Bản từ YODY. Chất liệu Double face kim cương cao cấp, với 93% Polyester và 7% Spandex, mang đến sự kết hợp hoàn hảo giữa độ bền, khả năng co giãn nhẹ và khả năng hạn chế nhăn nhàu hiệu quả. Kiểu dệt độc đáo tạo nên sự mới mẻ và thu hút cho trang phục, trong khi thành phần Spandex đảm bảo sự thoải mái và linh hoạt khi vận động. Chất liệu Polyester giúp quần giữ phom dáng tốt, dễ dàng bảo quản và luôn trông như mới. Chiếc quần này là lựa chọn lý tưởng để phối cùng nhiều loại áo, tạo nên phong cách thời trang đa dạng và tinh tế cho phái đẹp. Thông tin bổ sung: chất liệu 93% Polyester, 7%Spandex, màu Than chì 002, ĐEN 002, Navy 001, Nâu 191, kích thước/size S, M, L, XL, tags YODY, Than chì 002, ĐEN 002, Navy 001, Nâu 191.
    query: khăn lau đồ điện tử passage: Tên sản phẩm: Khăn Giấy Đa Năng Let Green 130 Tờ. Danh mục: Giấy. Thương hiệu: Việt Nam. Mô tả chi tiết: Khăn giấy đa năng Let Green 130 tờ, kích thước 10x21cm, là sản phẩm tiện ích làm từ 100% bột giấy nguyên chất, an toàn cho sức khỏe và thân thiện với môi trường. Với thiết kế 2 lớp, giấy có độ dai, mềm mịn, thấm hút tốt và độ bền ướt cao, hương hoa dịu nhẹ không chứa hóa chất tẩy trắng độc hại. Sản phẩm lý tưởng để lau tay, lau miệng khi ăn uống, phù hợp sử dụng tại văn phòng, xe hơi hay các buổi dã ngoại. Bảo quản nơi khô ráo, thoáng mát. Thông tin bổ sung: kích thước/size 10*21Cm.
    query: áo phông thể thao suông passage: Tên sản phẩm: Áo phông active nam dáng suông có hình in. Danh mục: Canifa Active. Thương hiệu: CANIFA. Mô tả chi tiết: Áo phông active nam dáng suông của CANIFA mang đến phong cách năng động và hiệu suất vượt trội. Thiết kế phom regular với điểm nhấn đồ họa in ngực và sau gáy đục lazer khỏe khoắn, tạo nên vẻ ngoài cá tính. Chất liệu 75% nylon và 25% spandex cao cấp đảm bảo độ co giãn tối ưu, giúp bạn vận động thoải mái và thoáng mát. Sản phẩm tích hợp nhiều tính năng ưu việt như Wicking (thấm hút mồ hôi), Anti UV (chống tia cực tím), Stretch (co giãn) và Easy care (dễ bảo quản), rất phù hợp cho các buổi tập luyện thể thao. Áo có nhiều màu sắc và kích cỡ từ S đến XXL. Thông tin bổ sung: chất liệu 75% nylon 25% spandex., màu SA083, SB001, SK010, kích thước/size S, M, L, XL, XXL, tags Áo phông ngắn tay, Áo phông, Áo thun, Canifa Active / Quần áo thể thao, Áo active, Canifa Active, Sản phẩm active, Sản phẩm Xuân Hè, Áo phông basic, Canifa cảm ơn, Áo, Không xoá SP sale check điều k...
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false,
    "directions": [
        "query_to_doc"
    ],
    "partition_mode": "joint",
    "hardness_mode": null,
    "hardness_strength": 0.0
}

Evaluation Dataset

Unnamed Dataset

  • Size: 16,941 evaluation samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 100 samples:
    anchor positive
    type string string
    modality text text
    details
    • min: 8 tokens
    • mean: 10.91 tokens
    • max: 17 tokens
    • min: 163 tokens
    • mean: 226.93 tokens
    • max: 256 tokens
  • Samples:
    anchor positive
    query: polyresin khay đá passage: Tên sản phẩm: Khay phụ kiện | BILLSTA | nhựa polyresin/đá | họa tiết terazzo | R11xD18xC2cm. Danh mục: Đồ phụ kiện. Thương hiệu: BILLSTA. Mô tả chi tiết: Khay phụ kiện BILLSTA là điểm nhấn tinh tế cho không gian phòng tắm của bạn, mang đến sự tiện nghi và phong cách. Sản phẩm được làm từ chất liệu nhựa polyresin kết hợp đá, tạo nên họa tiết terazzo độc đáo và sang trọng. Với kích thước R11xD18xC2cm, khay lý tưởng để sắp xếp gọn gàng các vật dụng nhỏ như xà phòng, bàn chải đánh răng, hoặc các món đồ trang sức. Chất liệu bền bỉ và khả năng chống nước tốt giúp khay dễ dàng vệ sinh và duy trì vẻ đẹp theo thời gian. Khay phụ kiện BILLSTA không chỉ giúp không gian thêm ngăn nắp mà còn góp phần nâng tầm thẩm mỹ cho phòng tắm hiện đại. Thông tin bổ sung: chất liệu nhựa polyresin/đá, màu họa tiết terazzo, kích thước/size R11xD18xC2cm, tags Phòng tắm, BILLSTA.
    query: kệ sách hòa phát passage: Tên sản phẩm: Giá sắt GS5K2. Danh mục: Giá Sắt, Kệ Siêu Thị. Thương hiệu: Nội Thất Hòa Phát. Mô tả chi tiết: Giá sắt thư viện Hòa Phát GS5K2 là lựa chọn hoàn hảo cho việc sắp xếp và lưu trữ tài liệu trong các thư viện, văn phòng. Sản phẩm được làm từ chất liệu sắt và thép cao cấp, đảm bảo độ bền vượt trội và khả năng chịu lực tốt. Với thiết kế 2 khoang sử dụng 2 mặt và 5 tầng để tài liệu, GS5K2 cung cấp không gian lưu trữ rộng rãi. Các đợt và thanh chắn có thể di động linh hoạt, cho phép người dùng dễ dàng điều chỉnh độ cao giữa các tầng, phù hợp với nhiều loại sách, hồ sơ có kích thước khác nhau, mang lại sự tiện lợi tối đa. Thông tin bổ sung: chất liệu ["sắt","thép"], tags GS5K2, giá, sắt, gs5k2, nội-thất-hòa-phát.
    query: NXB Thế Giới bán hàng passage: Tên sản phẩm: Kỹ Năng Bán Hàng Thực Chiến. Danh mục: Bán Hàng. Thương hiệu: NXB Thế Giới. Mô tả chi tiết: Cuốn sách "Kỹ Năng Bán Hàng Thực Chiến" là cẩm nang không thể thiếu cho bất kỳ ai mong muốn chinh phục mục tiêu doanh số và tìm lại niềm vui trong công việc bán hàng. Tác giả đúc kết hơn ba năm nghiên cứu, tổng hợp các nguyên tắc, phương pháp luận và kinh nghiệm thực chiến từ vô số lần thành công lẫn thất bại khi làm việc với các seller chuyên nghiệp. Cuốn sách tập trung vào việc nâng cao hiệu quả bán hàng, đặc biệt là telemarketing/telesale trong bối cảnh khách hàng ngày càng khó tính. Các kỹ năng được trình bày dưới dạng công thức ngắn gọn, dễ nhớ, dễ áp dụng, kèm theo ví dụ thực tế từ chính tác giả và những người bán hàng thành công tại thị trường Việt Nam. Với lối diễn đạt sinh động, không sa vào lý thuyết suông, cùng các "bài văn mẫu" và kịch bản chi tiết, bạn đọc có thể thực hành ngay để cải thiện hiệu suất bán hàng và trở thành một chuyên gia thực thụ.
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false,
    "directions": [
        "query_to_doc"
    ],
    "partition_mode": "joint",
    "hardness_mode": null,
    "hardness_strength": 0.0
}

Training Hyperparameters

Non-Default Hyperparameters

  • per_device_train_batch_size: 128
  • num_train_epochs: 5
  • learning_rate: 2e-05
  • warmup_steps: 0.1
  • fp16: True
  • per_device_eval_batch_size: 128
  • load_best_model_at_end: True
  • dataloader_num_workers: 4

All Hyperparameters

Click to expand
  • per_device_train_batch_size: 128
  • num_train_epochs: 5
  • max_steps: -1
  • learning_rate: 2e-05
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: None
  • warmup_steps: 0.1
  • optim: adamw_torch_fused
  • optim_args: None
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • optim_target_modules: None
  • gradient_accumulation_steps: 1
  • average_tokens_across_devices: True
  • max_grad_norm: 1.0
  • label_smoothing_factor: 0.0
  • bf16: False
  • fp16: True
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • use_liger_kernel: False
  • liger_kernel_config: None
  • use_cache: False
  • neftune_noise_alpha: None
  • torch_empty_cache_steps: None
  • auto_find_batch_size: False
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • include_num_input_tokens_seen: no
  • log_level: passive
  • log_level_replica: warning
  • disable_tqdm: False
  • project: huggingface
  • trackio_space_id: None
  • trackio_bucket_id: None
  • trackio_static_space_id: None
  • per_device_eval_batch_size: 128
  • prediction_loss_only: True
  • eval_on_start: False
  • eval_do_concat_batches: True
  • eval_use_gather_object: False
  • eval_accumulation_steps: None
  • include_for_metrics: []
  • batch_eval_metrics: False
  • save_only_model: False
  • save_on_each_node: False
  • enable_jit_checkpoint: False
  • push_to_hub: False
  • hub_private_repo: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_always_push: False
  • hub_revision: None
  • load_best_model_at_end: True
  • ignore_data_skip: False
  • restore_callback_states_from_checkpoint: False
  • full_determinism: False
  • seed: 42
  • data_seed: None
  • use_cpu: False
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • parallelism_config: None
  • dataloader_drop_last: False
  • dataloader_num_workers: 4
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • dataloader_prefetch_factor: None
  • remove_unused_columns: True
  • label_names: None
  • train_sampling_strategy: random
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • ddp_static_graph: None
  • ddp_backend: None
  • ddp_timeout: 1800
  • fsdp: None
  • fsdp_config: None
  • deepspeed: None
  • debug: []
  • skip_memory_metrics: True
  • do_predict: False
  • resume_from_checkpoint: None
  • warmup_ratio: None
  • local_rank: -1
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: proportional
  • router_mapping: {}
  • learning_rate_mapping: {}

Training Logs

Click to expand
Epoch Step Training Loss Validation Loss
0.0199 50 3.3652 -
0.0398 100 2.6143 -
0.0596 150 1.3979 -
0.0795 200 0.7000 -
0.0994 250 0.5205 -
0.1193 300 0.4562 -
0.1392 350 0.4150 -
0.1590 400 0.4169 -
0.1789 450 0.3794 -
0.1988 500 0.3879 0.3290
0.2187 550 0.3735 -
0.2386 600 0.3747 -
0.2584 650 0.3572 -
0.2783 700 0.3402 -
0.2982 750 0.3253 -
0.3181 800 0.3269 -
0.3380 850 0.3302 -
0.3579 900 0.3281 -
0.3777 950 0.3219 -
0.3976 1000 0.3095 0.2758
0.4175 1050 0.3125 -
0.4374 1100 0.3106 -
0.4573 1150 0.2798 -
0.4771 1200 0.2883 -
0.4970 1250 0.2792 -
0.5169 1300 0.3066 -
0.5368 1350 0.2940 -
0.5567 1400 0.2846 -
0.5765 1450 0.2694 -
0.5964 1500 0.2895 0.2492
0.6163 1550 0.2860 -
0.6362 1600 0.2737 -
0.6561 1650 0.2756 -
0.6759 1700 0.2556 -
0.6958 1750 0.2760 -
0.7157 1800 0.2496 -
0.7356 1850 0.2625 -
0.7555 1900 0.2732 -
0.7753 1950 0.2627 -
0.7952 2000 0.2610 0.2367
0.8151 2050 0.2583 -
0.8350 2100 0.2585 -
0.8549 2150 0.2552 -
0.8748 2200 0.2531 -
0.8946 2250 0.2572 -
0.9145 2300 0.2419 -
0.9344 2350 0.2521 -
0.9543 2400 0.2431 -
0.9742 2450 0.2333 -
0.9940 2500 0.2453 0.2262
1.0139 2550 0.2453 -
1.0338 2600 0.2130 -
1.0537 2650 0.2246 -
1.0736 2700 0.2134 -
1.0934 2750 0.2245 -
1.1133 2800 0.2093 -
1.1332 2850 0.2274 -
1.1531 2900 0.2305 -
1.1730 2950 0.2251 -
1.1928 3000 0.2281 0.2185
1.2127 3050 0.2320 -
1.2326 3100 0.2186 -
1.2525 3150 0.2225 -
1.2724 3200 0.2228 -
1.2922 3250 0.2152 -
1.3121 3300 0.2127 -
1.3320 3350 0.2167 -
1.3519 3400 0.2251 -
1.3718 3450 0.2211 -
1.3917 3500 0.2196 0.2121
1.4115 3550 0.2232 -
1.4314 3600 0.2174 -
1.4513 3650 0.2122 -
1.4712 3700 0.2063 -
1.4911 3750 0.2099 -
1.5109 3800 0.2168 -
1.5308 3850 0.2157 -
1.5507 3900 0.2188 -
1.5706 3950 0.2071 -
1.5905 4000 0.2252 0.2085
1.6103 4050 0.2071 -
1.6302 4100 0.2150 -
1.6501 4150 0.2040 -
1.6700 4200 0.2038 -
1.6899 4250 0.2112 -
1.7097 4300 0.2133 -
1.7296 4350 0.2212 -
1.7495 4400 0.2120 -
1.7694 4450 0.2042 -
1.7893 4500 0.2071 0.2049
1.8091 4550 0.2116 -
1.8290 4600 0.2124 -
1.8489 4650 0.1964 -
1.8688 4700 0.2160 -
1.8887 4750 0.1967 -
1.9085 4800 0.1997 -
1.9284 4850 0.2159 -
1.9483 4900 0.2073 -
1.9682 4950 0.1977 -
1.9881 5000 0.2141 0.2024
2.0080 5050 0.1987 -
2.0278 5100 0.1863 -
2.0477 5150 0.2036 -
2.0676 5200 0.1848 -
2.0875 5250 0.1988 -
2.1074 5300 0.2030 -
2.1272 5350 0.1845 -
2.1471 5400 0.1811 -
2.1670 5450 0.1722 -
2.1869 5500 0.1767 0.1972
2.2068 5550 0.1800 -
2.2266 5600 0.1816 -
2.2465 5650 0.1881 -
2.2664 5700 0.1854 -
2.2863 5750 0.1792 -
2.3062 5800 0.2020 -
2.3260 5850 0.1891 -
2.3459 5900 0.1755 -
2.3658 5950 0.1875 -
2.3857 6000 0.1839 0.1971
2.4056 6050 0.1936 -
2.4254 6100 0.1728 -
2.4453 6150 0.1869 -
2.4652 6200 0.1838 -
2.4851 6250 0.1816 -
2.5050 6300 0.1758 -
2.5249 6350 0.1833 -
2.5447 6400 0.1819 -
2.5646 6450 0.1825 -
2.5845 6500 0.1886 0.1927
2.6044 6550 0.1980 -
2.6243 6600 0.1826 -
2.6441 6650 0.1878 -
2.6640 6700 0.1953 -
2.6839 6750 0.1779 -
2.7038 6800 0.1796 -
2.7237 6850 0.1638 -
2.7435 6900 0.1818 -
2.7634 6950 0.1868 -
2.7833 7000 0.1954 0.1904
2.8032 7050 0.1784 -
2.8231 7100 0.1844 -
2.8429 7150 0.1893 -
2.8628 7200 0.1854 -
2.8827 7250 0.1845 -
2.9026 7300 0.1732 -
2.9225 7350 0.1836 -
2.9423 7400 0.1803 -
2.9622 7450 0.1867 -
2.9821 7500 0.1926 0.1899
3.0020 7550 0.1744 -
3.0219 7600 0.1762 -
3.0417 7650 0.1683 -
3.0616 7700 0.1623 -
3.0815 7750 0.1694 -
3.1014 7800 0.1759 -
3.1213 7850 0.1648 -
3.1412 7900 0.1664 -
3.1610 7950 0.1641 -
3.1809 8000 0.1688 0.1860
3.2008 8050 0.1690 -
3.2207 8100 0.1688 -
3.2406 8150 0.1709 -
3.2604 8200 0.1838 -
3.2803 8250 0.1649 -
3.3002 8300 0.1764 -
3.3201 8350 0.1629 -
3.3400 8400 0.1715 -
3.3598 8450 0.1680 -
3.3797 8500 0.1685 0.1848
3.3996 8550 0.1736 -
3.4195 8600 0.1747 -
3.4394 8650 0.1595 -
3.4592 8700 0.1542 -
3.4791 8750 0.1688 -
3.4990 8800 0.1796 -
3.5189 8850 0.1715 -
3.5388 8900 0.1726 -
3.5586 8950 0.1612 -
3.5785 9000 0.1643 0.1847
3.5984 9050 0.1691 -
3.6183 9100 0.1633 -
3.6382 9150 0.1759 -
3.6581 9200 0.1605 -
3.6779 9250 0.1723 -
3.6978 9300 0.1784 -
3.7177 9350 0.1688 -
3.7376 9400 0.1689 -
3.7575 9450 0.1632 -
3.7773 9500 0.1715 0.1839
3.7972 9550 0.1635 -
3.8171 9600 0.1650 -
3.8370 9650 0.1638 -
3.8569 9700 0.1644 -
3.8767 9750 0.1624 -
3.8966 9800 0.1676 -
3.9165 9850 0.1640 -
3.9364 9900 0.1735 -
3.9563 9950 0.1779 -
3.9761 10000 0.1636 0.1831
3.9960 10050 0.1523 -
4.0159 10100 0.1629 -
4.0358 10150 0.1548 -
4.0557 10200 0.1579 -
4.0755 10250 0.1618 -
4.0954 10300 0.1679 -
4.1153 10350 0.1450 -
4.1352 10400 0.1608 -
4.1551 10450 0.1551 -
4.1750 10500 0.1713 0.1824
4.1948 10550 0.1593 -
4.2147 10600 0.1585 -
4.2346 10650 0.1517 -
4.2545 10700 0.1532 -
4.2744 10750 0.1610 -
4.2942 10800 0.1545 -
4.3141 10850 0.1617 -
4.3340 10900 0.1579 -
4.3539 10950 0.1528 -
4.3738 11000 0.1644 0.1821
4.3936 11050 0.1530 -
4.4135 11100 0.1638 -
4.4334 11150 0.1531 -
4.4533 11200 0.1488 -
4.4732 11250 0.1616 -
4.4930 11300 0.1534 -
4.5129 11350 0.1653 -
4.5328 11400 0.1485 -
4.5527 11450 0.1525 -
4.5726 11500 0.1652 0.1810
4.5924 11550 0.1558 -
4.6123 11600 0.1474 -
4.6322 11650 0.1579 -
4.6521 11700 0.1632 -
4.6720 11750 0.1590 -
4.6918 11800 0.1625 -
4.7117 11850 0.1413 -
4.7316 11900 0.1580 -
4.7515 11950 0.1619 -
4.7714 12000 0.1628 0.1804
4.7913 12050 0.1693 -
4.8111 12100 0.1578 -
4.8310 12150 0.1530 -
4.8509 12200 0.1657 -
4.8708 12250 0.1504 -
4.8907 12300 0.1601 -
4.9105 12350 0.1648 -
4.9304 12400 0.1665 -
4.9503 12450 0.1577 -
4.9702 12500 0.1559 0.1799
4.9901 12550 0.1602 -
5.0 12575 - 0.1799
  • The bold row denotes the saved checkpoint.

Training Time

  • Training: 1.8 hours
  • Evaluation: 7.4 minutes
  • Total: 1.9 hours

Framework Versions

  • Python: 3.12.3
  • Sentence Transformers: 5.6.1
  • Transformers: 5.14.1
  • PyTorch: 2.8.0+cu128
  • Accelerate: 1.14.0
  • Datasets: 5.0.1
  • Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers 

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss 

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}
Downloads last month
11
Safetensors
Model size
0.3B params
Tensor type
F32
·
Inference Providers NEW
Sentence Similarity
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Luong23/e5-finetune-embedding-v2

Base model

intfloat/multilingual-e5-base
Finetuned
(152)
this model

Papers for Luong23/e5-finetune-embedding-v2