Hugging Face's logo

meandyou200175
/
phobert_GISTEmbedLoss

Sentence Similarity
sentence-transformers
Safetensors
roberta
feature-extraction
Generated from Trainer
dataset_size:43804
loss:GISTEmbedLoss
Eval Results
Inference Endpoints
Model card Files Community
phobert_GISTEmbedLoss / README.md
meandyou200175's picture
meandyou200175
Add new SentenceTransformer model
f5a9da4 verified
preview code
|
raw
history blame contribute delete
48.1 kB
metadata
base_model: vinai/phobert-base-v2
library_name: sentence-transformers
metrics:
  - cosine_accuracy@1
  - cosine_accuracy@2
  - cosine_accuracy@5
  - cosine_accuracy@10
  - cosine_accuracy@100
  - cosine_precision@1
  - cosine_precision@2
  - cosine_precision@5
  - cosine_precision@10
  - cosine_precision@100
  - cosine_recall@1
  - cosine_recall@2
  - cosine_recall@5
  - cosine_recall@10
  - cosine_recall@100
  - cosine_ndcg@10
  - cosine_mrr@1
  - cosine_mrr@2
  - cosine_mrr@5
  - cosine_mrr@10
  - cosine_mrr@100
  - cosine_map@100
  - dot_accuracy@1
  - dot_accuracy@2
  - dot_accuracy@5
  - dot_accuracy@10
  - dot_accuracy@100
  - dot_precision@1
  - dot_precision@2
  - dot_precision@5
  - dot_precision@10
  - dot_precision@100
  - dot_recall@1
  - dot_recall@2
  - dot_recall@5
  - dot_recall@10
  - dot_recall@100
  - dot_ndcg@10
  - dot_mrr@1
  - dot_mrr@2
  - dot_mrr@5
  - dot_mrr@10
  - dot_mrr@100
  - dot_map@100
pipeline_tag: sentence-similarity
tags:
  - sentence-transformers
  - sentence-similarity
  - feature-extraction
  - generated_from_trainer
  - dataset_size:43804
  - loss:GISTEmbedLoss
widget:
  - source_sentence: >-
      Nhờ bác sĩ cho biết việc lựa chọn đóng đinh nội tủy và nẹp vít để kết hợp
      xương đòn dựa trên cơ sở nào ạ? Ca phẫu thuật thường kéo dài trong bao
      lâu? Bệnh nhân nằm viện mấy ngày?
    sentences:
      - ' Chào em, là bệnh mãn tính phải điều trị suốt đời, phải kiên nhẫn và kiên trì nên đôi khi lượng đường trong cơ thể không ổn định. Lúc đi khám xét nghiệm thì ổn do bản thân biết mai đi khám nên sẽ kiêng ăn, ăn ít... còn bệnh lâu dài nên trong ngày đôi khi thèm chút này hay thích ăn chút kia, quên uống thuốc, suy nghĩ, mất ngủ cũng làm đường không ổn định. Đường trong cơ thể lúc lên lúc xuống dễ đưa đến biến chứng. Em hay thấy bệnh nhân tiểu đường tháo khớp ngón chân, ngón tay, đôi khi tháo khớp gối, khớp háng, đây là do tê liệt hệ thần kinh nên khi va chạm bệnh nhân không phát hiện. Đến khi phát hiện thì đã nhiễm trùng nặng phải tháo khớp. Theo BS mẹ em có khả năng do biến chứng tiểu đường vì mẹ em bị bệnh khá lâu nên ít nhiều ảnh hưởng thần kinh bị tê liệt gây đau. Em nên nhớ dặn mẹ đi tái khám và điều trị cho thật ổn định nhé! Thân mến!'
      - ' Để lựa chọn phương pháp đóng đinh nội tủy hay nẹp vít cho bệnh nhân cần dựa vào nhiều yếu tố. Trong lòng tủy xương có một cái ống, nếu lòng tủy bệnh nhân nhỏ mà đường gãy không bị gãy thành nhiều mảnh thì nên lựa chọn phương pháp đóng đinh. Phương pháp này có nhược điểm dễ bị lộ phần đinh khi đinh vừa đóng, chưa chắc vào xương. Tuy nhiên, ưu điểm là khi đóng đinh, đường mổ sẽ nhỏ, đơn giản. Đối với nẹp vít, đường mổ dài hơn nhưng phần nắn chỉnh sẽ tuyệt đối, vững chắc hơn. Nhìn chung, giữa 2 phương pháp thời gian mổ không khác biệt nhau nhiều, từ 30-45 phút sẽ hoàn thành cuộc phẫu thuật kết hợp xương. Tại bệnh viện Nhân dân 115, sau khi bệnh nhân được làm phẫu thuật có thể xuất viện rất sớm trong vòng khoảng 3-5 ngày, tùy theo đường mổ lớn hay nhỏ. Giữa việc lựa chọn phẫu thuật hay bảo tồn, đinh nội tủy hay nẹp vít phụ thuộc vào lòng tủy của bệnh nhân và thói quen, sự đánh giá của phẫu thuật viên. Cá nhân tôi thường lựa chọn phương pháp phẫu thuật nẹp vít sẽ cho kết quả nắn chỉnh tốt, chắc hơn và bệnh nhân không bị biến chứng trồi đinh về sau. Thân mến.'
      - >-
        Chào em, Tình trạng người mệt mỏi, khó thở, tim đập nhanh xảy ra khi
        không gắng sức có thể do nhiều nguyên nhân, gồm tim mạch, hô hấp, thần
        kinh cơ, tiêu hóa (chủ yếu là ống tiêu hóa trên), tâm lý, bệnh lý nội
        tiết tố… Viêm dạ dày trào ngược có thể gây các triệu chứng này do dịch
        acid trào ngược từ dạ dày lên thực quản kích thích thần kinh tim. Mặt
        khác bệnh dạ dày là bệnh có thể tái phát, điều trị hết bệnh rồi thì bệnh
        vẫn có thể tái lại. Do đó, nếu em đã khám tim mạch và hô hấp bình
        thường, để biết có phải mình mệt mỏi do bệnh dạ dày gây ra hay không thì
        tốt nhất là em khám chuyên khoa nội tiêu hóa và điều trị trào ngược dạ
        dày thực quản thử, nếu triệu chứng cải thiện nhanh chóng thì chính hắn
        là nguyên nhân, em nhé.
  - source_sentence: >-
      Tôi bị tình trạng nuốt nước miếng có cảm giác bị vướng ở cổ, không đau
      rát, không ho sốt, ăn uống bình thường đã 1 ngày nay. Chỉ có nuốt nước
      miếng là có cảm giác vướng thôi, lỗ tai bên trái thì cảm giác ngứa nhẹ.
      Xin hỏi là bệnh gì vậy ạ?
    sentences:
      - "Em Lan thân mến, Hiện nay, xét nghiệm được xem là một xét nghiệm\r\nthường quy, nên thai kỳ của em cũng rất cần được làm những xét nghiệm này mặc\r\ndù gia đình em không có bệnh lý bất thường. Tuy nhiên, thai kỳ của em đã qua thời gian làm xét nghiệm Double test, bây\r\ngiờ em phải chờ đến lúc thai được 16 – 18 tuần tuổi, làm xét nghiệm Triple test\r\nem nhé! Chúc em và bé khỏe mạnh!"
      - >-
        Trường hợp thoái hóa cột sống thắt lưng gây đau mỏi liên tục dù đã dùng
        thuốc giảm đau liều cao Chào em, Thoái hóa khớp, thoái hóa cột sống là
        tiến trình lão hóa không thể tránh khỏi của con người, đặc biệt có thể
        xảy ra sớm và nhanh hơn ở người nữ sau mãn kinh, sinh nở nhiều, suy dinh
        dưỡng hay ăn uống thiếu chất khoáng, lao động vất vả lúc còn trẻ. Trường
        hợp thoái hóa cột sống thắt lưng gây đau mỏi liên tục dù đã dùng thuốc
        giảm đau liều cao, đặc biệt là đau lan xuống hai chân, tê yếu hai chân
        thì cần chụp MRI cột sống để tầm soát thoát vị đĩa đệm chèn ép tủy sống.
        Trường hợp của em, mới phát hiện thoái hóa cột sống thắt lưng gần đây,
        cũng mới uống thuốc 1 tuần và không duy trì nữa, việc đau lưng vẫn còn
        âm ỉ nhưng không lan xuống hai chân thì chưa đến mức cần chụp MRI cột
        sống thắt lưng. Nhưng mà, em cần tích cực điều trị để bệnh thoái hóa cột
        sống thắt lưng không tiến triển nặng hơn. Bệnh này trị khỏi hoàn toàn là
        không thể, vì sinh lão bệnh tử không thể cải hoàn, nhưng mà việc điều
        trị tích cực sẽ giúp khống chế được bệnh, giảm đau và giảm tốc độ tiến
        triển của bệnh. Về việc sử dụng thuốc, dù là thuốc Tây hay thuốc Đông y,
        em cũng cần phải thăm khám bs ck cơ xương khớp (Tây y) hay ck y học cổ
        truyền (Đông y) để được kê thuốc phù hợp. các thuốc thường dùng là giảm
        đau, giãn cơ, bổ sung vi khoáng chất (canxi, vitamin D3, magie...). Bên
        cạnh đó, về phương pháp giảm đau hỗ trợ không dùng thuốc, em nên chú ý:
        - Chú ý thay đổi tư thế trong quá trình làm việc, không giữ mãi một tư
        thế trong nhiều giờ liền. Ngồi làm việc đúng tư thế để tránh các bệnh
        cột sống. - Vận động đúng cách, khi vác vật nặng không vặn cột sống. -
        Thường xuyên tập thể dục rèn luyện để cột sống vững chắc, cơ thể dẻo
        dai, bơi cũng được mà yoga là tốt nhất. - Ăn uống khoa học, xây dựng chế
        độ dinh dưỡng hợp lý, tăng cường nhóm thực phẩm giàu canxi, vitamin D,
        omega 3… giúp nâng cao độ chắc khỏe của đĩa đệm cũng như xương khớp. -
        Duy trì cân nặng bình thường, tránh để tăng cân quá mức. - Tư thế ngủ:
        nằm ngửa trên ván cứng hay nệm bông ép chặt, tránh nệm lò xo hay nệm cao
        su quá mềm, có thể đệm ở vùng khoeo làm co nhẹ khớp gối và khớp háng,
        nên nằm đầu thấp không gối sẽ tốt cho cột sống cổ. - Có thể thực hiện
        điều trị vật lý và các liệu pháp phản xạ: bao gồm phương pháp nhiệt như
        chườm nóng (túi nước, muối rang, cám rang, lá lốt, lá ngải cứu nóng);
        dùng các dòng điện tại khoa vật lý trị liệu, điều trị bằng laser; châm
        cứu, kéo cơ để hỗ trợ giảm đau cơ cạnh sống. Trân trọng!
      - >-
        Chào bạn, Nuốt vướng ở cổ thường gặp trong một số bệnh lý viêm nhiễm hầu
        họng như viêm họng, viêm amidan mạn, trào ngược dạ dày thực quản, hội
        chứng chảy mũi sau… Đây là có thể là triệu chứng đầu tiên báo hiệu một
        đợt bùng phát cấp tính của viêm nhiễm hô hấp trên do triệu chứng mới chỉ
        xuất hiện 1 ngày. Bạn nên khám bác sĩ Tai mũi họng để thăm khám trực
        tiếp, đánh giá và kê toa điều trị bạn nhé! Thân mến.
  - source_sentence: >-
      Chào bác sĩ, em bị gãy xương gót, đã đóng đinh đến nay được gần 5 tuần.
      Vậy 6 tuần em tháo đinh được chưa ạ?
    sentences:
      - ' Chào em, gồm 2 trị số, trị số lớn nhất gọi là huyết áp tâm thu, bình thường < 140 và > 90 mmHg; trị số thấp nhất gọi là huyết áp tâm trương, bình thường < 90 và > 60 mmHg. Huyết áp có thể tăng khi căng thẳng, do lo lắng, do hội chứng áo choàng trắng (khi vào bv, khi gặp bác sĩ thì huyết áp cao), bệnh lý viêm nhiễm, do cafe, khi khó thở... nhìn chung là các stress đối với cơ thể. Như vậy, huyết áp ghi nhận ở những lúc cơ thể đang lo lắng, bồn chồn, có bệnh thì sẽ không phản ánh chính xác được huyết áp dao động bình thường của người bệnh. Do vậy em nên khám chuyên khoa tim mạch, bác sĩ sẽ thăm khám và làm xét nghiệm kiểm tra xem em có các dấu chứng của tăng huyết áp hay không (như dày thành tim, tiểu đạm, đo huyết áp 24 giờ...) để xác định em có tăng huyết áp hay không và điều trị thích hợp. Những triệu chứng hoa mắt, chóng mặt, đau đầu, đau 1 bên mắt, tiểu nhiều có thể là do bệnh tăng huyết áp gây ra (ảnh hưởng lên mạch máu não, lên thận...) hoặc là 1 bệnh lý khác như thiếu máu, rối loạn tiền đình, viêm nhiễm hệ thống, viêm mũi xoang, bệnh lý mạch máu não... (và tăng huyết áp chỉ là phản ứng của cơ thể khi có stress). Để tìm ra bệnh và giải quyết nỗi lo về bệnh, em nên đến bệnh viện để kiểm tra sức khỏe em nhé. Thân mến! '
      - ' Chào em, Thời điểm 6 tuần là quá sớm để rút đinh cố định xương gót (trừ trường hợp khung cố định xương bên ngoài). Tháo đinh vít kim loại chỉ bắt buộc thực hiện sớm trong những trường hợp bất thường như gãy vít, nhiễm trùng, khớp giả... gây ra các triệu chứng bất thường với bệnh nhân mà thôi. Em nên tái khám tại chuyên khoa Chấn thương Chỉnh hình để bác sĩ kiểm tra lại việc lành xương của em tốt chưa và dặn em lịch trình rút đinh phù hợp, em nhé. Thân mến.'
      - >-
        K dạ dày không điều trị tiên lượng sống khá ngắn Chào em, K dạ dày là
        ung thư dạ dày. Bệnh ung thư dạ dày là bệnh lý ác tính và có chỉ định
        phẫu thuật cắt khối u – cắt dạ dày khi còn có thể cắt được. Nếu đã phát
        hiện ung thư dạ dày mà không điều trị phẫu thuật thì thời gian sống của
        bệnh nhân trung bình là 6 tháng đến 1 năm tùy loại ung thư dạ dày, khi
        ung thư tiến triển di căn có thể gây nhiều đau đớn hơn. Hiện tại chị em
        đang bị suy nhược cơ thể nhiều, không ăn uống được, đau nhiều do ung thư
        dạ dày là có chỉ định vào bệnh viện nằm điều trị luôn rồi, chứ không thể
        nào lấy thuốc mà không tới phòng khám được đâu. Vô bệnh viện chị em sẽ
        được truyền dịch, chích thuốc, nâng thể trạng lên rồi mới tính đến
        chuyện điều trị khối ung thư kia. Em đưa chị em đến bệnh viện càng sớm
        càng tốt, tốt nhất là bệnh viện Ung bướu, em nhé.
  - source_sentence: "Thưa bác sĩ,\r\n\r\nEm bị đục thủy tinh thể do chấn thương và vừa mổ mắt về và em cũng bị cận thị. Thời gian khoảng 1 tuần em thấy mắt mình nhìn chỉ rõ hơn được 1 phần nào. Nhìn xa thì vẫn thấy nhưng vẫn mờ mờ. Bác sĩ cho em lời khuyên nên làm cách nào và mắt em có thể sáng lại như bình thường được không ạ?\r\n\r\nEm xin chân thành cảm ơn! (Minh Tiến - Bình Định)"
    sentences:
      - "Bạn Minh Tiến thân mến, Hiện nay phẫu thuật đục thủy tinh thể đã được y học nói chung và ngành Nhãn khoa Việt Nam thực hiện hoàn chỉnh đến mức tuyệt vời. Phẫu thuật này được xem như một cuộc cách mạng rất đáng tự hào của ngành nhãn khoa. Hàng ngày có thể tới hàng ngàn ca phẫu thuật\_đem lại ánh sáng cho người mù lòa đục thể thủy tinh tại Việt Nam. Nói như vậy để giúp cho bạn hiểu rõ phẫu thuật này các bác sĩ Việt Nam thực hiện rất thường xuyên và rất tốt. Tuy nhiên, với mắt đục thủy tinh thể do chấn thương của bạn là ca phẫu thuật tương đối không đơn giản. Thêm vào đó ngoài đục thủy tinh thể do chấn thương, mắt bạn cũng có thể kèm theo tổn thương ở các bộ phận khác của mắt mà trước mổ bác sĩ khó có thể chẩn đoán được. Với hai lý do nêu trên, nên đôi khi mắt mổ khó có thể tốt theo ý muốn của cả bệnh nhân lẫn thầy thuốc. Bạn cần có thời gian theo dõi và điều trị tiếp sau mổ. Sau thời gian ổn định khoảng 1 tháng, bạn cần đo thử kính xem có cải thiện thị lực thêm không? Chúc bạn may mắn!"
      - >-
        Chào em, Bình thường các hạch trong cơ thể không sưng to lên đến mức có
        thể sờ chạm hay nhận biết được. Vì thế, hạch sưng lên, hay thường gọi là
        nổi hạch, là một triệu chứng bất thường của cơ thể. Cho nên, em lo lắng
        là đúng khi phát hiện hạch ở vùng cổ. Hạch bạch huyết đóng vai trò quan
        trọng đối với hoạt động của hệ miễn dịch. Chúng chứa các tế bào miễn
        dịch như lympho bào, đại thực bào... có chức năng miễn dịch chống lại
        các yếu tố lạ như vi khuẩn, virus, kí sinh trùng... xâm nhập vào cơ thể.
        Trong quá trình đó các hạch có thể bị viêm và sưng lên. Một số trường
        hợp hạch sưng có thể là hạch ung thư hoặc di căn. Đặc điểm của hạch viêm
        là nhỏ, số lượng ít, bờ tròn đều, không phát triển theo thời gian, không
        xâm lấn da xung quanh. Thông thường đối với hạch viêm thì nguồn viêm có
        thể tấn công tại hạch, cũng có khi là hạch viêm phản ứng với ổ viêm
        nhiễm cạnh đó, điều trị hết viêm thì hạch sẽ lặn dần, có thể lặn chậm
        hơn vài tuần đến vài tháng, có một số loại hạch cũng là hạch viêm nhưng
        mà chỉ giảm kích thước rồi cứ "lì" vậy luôn - không lặn hẳn nhưng không
        còn sưng như trước và vẫn giữ hình ảnh của hạch viêm, cũng có loại hạch
        viêm sau lại chuyển sang xơ chai hóa như sẹo cũ và không lặn. Như vậy,
        em có 1 hạch vùng cổ đã được xác định là hạch viêm thông qua sinh thiết
        hạch cách đây 10 năm. Trong vòng 10 năm nay, hạch cổ đó không có triệu
        chứng bất thường. Gần đây, hạch cổ đó có biểu hiện viêm trở lại, mặc dù
        em uống thuốc (tự mua) thì hạch hết sưng đau, nhưng em cũng cần khám lại
        bên chuyên khoa ung bướu để kiểm tra tổng quát lại 1 lần, tìm nguyên
        nhân gây kích thích hạch viêm này tái hoạt động, xem là nguyên nhân lành
        tính hay tiềm ẩn nguyên nhân khác (vì lần kiểm tra trước đã cách đây 10
        năm rồi), em nhé.
      - ' Chào em, Trường hợp em mô tả là những bất thường của hệ hô hấp có thể là bệnh lý tai mũi họng hay hô hấp dưới như viêm phổi, viêm phế quản, em cần đến các cơ sở y tế chuyên sâu tai mũi họng hay hô hấp để khám thêm. Những biểu hiện đó hoàn toàn không có cơ sở nghĩ . Thân mến!'
  - source_sentence: >-
      Bác sĩ cho em hỏi, em bị rạn nứt xương gót chân bên phải. Em bị hơn 1
      tháng nay rồi. Em bỏ thuốc lá. Em muốn hỏi bác sĩ thông thường bó bột hơn
      hay thuốc lá hơn? Như của em khoảng bao lâu thì khỏi? Và giờ em vẫn chưa
      đi được bác sĩ ạ. Em cảm ơn.
    sentences:
      - >-
        Câu hỏi của em rất chân thành. Tự ý thức quyết tâm cai nghiệm là điều
        đáng quý. Nếu em tiếp tục sử dụng thì tình trạng sẽ tồi tệ hơn rất
        nhiều. Ba yếu tố quan trọng nhất và tiến hành đồng thời để cai nghiện
        thành công, đó là: 1. Ý chí 2. Sự hiểu biết thấu đáo 3. Môi trường thân
        thiện. Các Trung tâm cai nghiện sẽ giúp em phần 2 và phần 3, từ đó sẽ
        củng cố phần 1 của em. Trường hợp ở nhà mà em tự cai, thực hành mỗi ngày
        với 3 điều kiện trên, em sẽ thành công như nhiều bạn khác. Không nên nôn
        nóng, sốt ruột. Trước tiên em phải thuộc lòng và thực hành những quy tắc
        này thành thói quen và áp dụng suốt đời. Nhiều trường hợp cai được vài
        năm vẫn tái nghiện. Do đó, nên tránh xa những "nguồn" khiến em tái
        nghiện, tránh xa bạn bè nghiện ngập em nhé. Chúc em quyết tâm và đem lại
        niềm vui cho bố mẹ.
      - >-
        Chào em, Thứ nhất, bắt buộc phải có phim Xquang để biết em có thực sự
        nứt xương gót hay bị gãy phức tạp hơn, vì nhiều trường hợp tưởng chỉ nứt
        xương thôi nhưng thật ra là vỡ phức tạp, phải phẫu thuật mới nhanh ổn
        được. Thứ hai, theo nguyên tắc điều trị nứt gãy xương là phải cố định
        tốt để can xương mọc ra, chỗ nứt gãy mới được nối liền. Do đó, nếu bó
        bột thì chân sẽ được cố định liên tục trong 4-6 tuần, còn bó lá thì phải
        thay thường xuyên, mỗi lần thay là 1 lần xê dịch nên xương khó lành. Tốt
        hơn hết em nên đến Bệnh viện Chấn thương Chỉnh hình để được kiểm tra và
        điều trị thích hợp, em nhé. Thân mến.
      - >-
        Chào bạn, Qua hình ảnh sang thương và mô tả triệu chứng, bệnh lý của bạn
        có khả năng là chàm hay còn gọi là viêm da dị ứng với đặc điểm là viêm
        và nổi mụn nhỏ, ngứa ngáy. Nguyên nhân của chàm hiện nay chưa rõ nhưng
        có thể do cơ địa dị ứng (người mắc hen, viêm mũi dị ứng có nguy cơ cao
        mắc chàm), do kích thích của hóa chất như nước rửa chén, bột giặt, cao
        su, kim loại, chất liệu giày dép (chàm tiếp xúc),... Thời tiết lạnh,
        stress, đổ mồ hôi nhiều và phấn hoa... cũng là những nguyên nhân có thể
        khiến da bị chàm. Chàm cũng có thể gặp ở người bị suy van tĩnh mạch,
        giãn tĩnh mạch chân khiến tình trạng bệnh dai dẳng, kém đáp ứng điều
        trị. Điều trị chàm thường phải sử dụng một số loại thuốc bôi da kéo dài,
        có thể để lại tác dụng phụ, do đó bạn nên khám BS Da liễu để kê toa loại
        thuốc phù hợp. Ngoài ra, bạn nên chú ý xem có yếu tố nào thường kích
        thích khởi phát chàm để tránh cho bệnh tái phát bạn nhé! Thân mến.
model-index:
  - name: SentenceTransformer based on vinai/phobert-base-v2
    results:
      - task:
          type: information-retrieval
          name: Information Retrieval
        dataset:
          name: Unknown
          type: unknown
        metrics:
          - type: cosine_accuracy@1
            value: 0.7154857560262966
            name: Cosine Accuracy@1
          - type: cosine_accuracy@2
            value: 0.7954711468224982
            name: Cosine Accuracy@2
          - type: cosine_accuracy@5
            value: 0.87509130752374
            name: Cosine Accuracy@5
          - type: cosine_accuracy@10
            value: 0.9243973703433163
            name: Cosine Accuracy@10
          - type: cosine_accuracy@100
            value: 0.9923301680058437
            name: Cosine Accuracy@100
          - type: cosine_precision@1
            value: 0.7154857560262966
            name: Cosine Precision@1
          - type: cosine_precision@2
            value: 0.3977355734112491
            name: Cosine Precision@2
          - type: cosine_precision@5
            value: 0.17501826150474797
            name: Cosine Precision@5
          - type: cosine_precision@10
            value: 0.09243973703433161
            name: Cosine Precision@10
          - type: cosine_precision@100
            value: 0.009923301680058436
            name: Cosine Precision@100
          - type: cosine_recall@1
            value: 0.7154857560262966
            name: Cosine Recall@1
          - type: cosine_recall@2
            value: 0.7954711468224982
            name: Cosine Recall@2
          - type: cosine_recall@5
            value: 0.87509130752374
            name: Cosine Recall@5
          - type: cosine_recall@10
            value: 0.9243973703433163
            name: Cosine Recall@10
          - type: cosine_recall@100
            value: 0.9923301680058437
            name: Cosine Recall@100
          - type: cosine_ndcg@10
            value: 0.8180319371481303
            name: Cosine Ndcg@10
          - type: cosine_mrr@1
            value: 0.7154857560262966
            name: Cosine Mrr@1
          - type: cosine_mrr@2
            value: 0.7554784514243974
            name: Cosine Mrr@2
          - type: cosine_mrr@5
            value: 0.7777514000486976
            name: Cosine Mrr@5
          - type: cosine_mrr@10
            value: 0.7842431475877432
            name: Cosine Mrr@10
          - type: cosine_mrr@100
            value: 0.7873446559297155
            name: Cosine Mrr@100
          - type: cosine_map@100
            value: 0.7873446559297155
            name: Cosine Map@100
          - type: dot_accuracy@1
            value: 0.6785975164353543
            name: Dot Accuracy@1
          - type: dot_accuracy@2
            value: 0.7660701241782323
            name: Dot Accuracy@2
          - type: dot_accuracy@5
            value: 0.8602994886778671
            name: Dot Accuracy@5
          - type: dot_accuracy@10
            value: 0.9150840029218408
            name: Dot Accuracy@10
          - type: dot_accuracy@100
            value: 0.9914170927684441
            name: Dot Accuracy@100
          - type: dot_precision@1
            value: 0.6785975164353543
            name: Dot Precision@1
          - type: dot_precision@2
            value: 0.38303506208911614
            name: Dot Precision@2
          - type: dot_precision@5
            value: 0.17205989773557337
            name: Dot Precision@5
          - type: dot_precision@10
            value: 0.09150840029218406
            name: Dot Precision@10
          - type: dot_precision@100
            value: 0.00991417092768444
            name: Dot Precision@100
          - type: dot_recall@1
            value: 0.6785975164353543
            name: Dot Recall@1
          - type: dot_recall@2
            value: 0.7660701241782323
            name: Dot Recall@2
          - type: dot_recall@5
            value: 0.8602994886778671
            name: Dot Recall@5
          - type: dot_recall@10
            value: 0.9150840029218408
            name: Dot Recall@10
          - type: dot_recall@100
            value: 0.9914170927684441
            name: Dot Recall@100
          - type: dot_ndcg@10
            value: 0.7943474893664477
            name: Dot Ndcg@10
          - type: dot_mrr@1
            value: 0.6785975164353543
            name: Dot Mrr@1
          - type: dot_mrr@2
            value: 0.7223338203067933
            name: Dot Mrr@2
          - type: dot_mrr@5
            value: 0.7484782079376682
            name: Dot Mrr@5
          - type: dot_mrr@10
            value: 0.7559475981773283
            name: Dot Mrr@10
          - type: dot_mrr@100
            value: 0.7595637947680328
            name: Dot Mrr@100
          - type: dot_map@100
            value: 0.7595637947680325
            name: Dot Map@100

SentenceTransformer based on vinai/phobert-base-v2

This is a sentence-transformers model finetuned from vinai/phobert-base-v2. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Base model: vinai/phobert-base-v2
  • Maximum Sequence Length: 256 tokens
  • Output Dimensionality: 768 tokens
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture 

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: RobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("meandyou200175/phobert_GISTEmbedLoss")
# Run inference
sentences = [
    'Bác sĩ cho em hỏi, em bị rạn nứt xương gót chân bên phải. Em bị hơn 1 tháng nay rồi. Em bỏ thuốc lá. Em muốn hỏi bác sĩ thông thường bó bột hơn hay thuốc lá hơn? Như của em khoảng bao lâu thì khỏi? Và giờ em vẫn chưa đi được bác sĩ ạ. Em cảm ơn.',
    'Chào em, Thứ nhất, bắt buộc phải có phim Xquang để biết em có thực sự nứt xương gót hay bị gãy phức tạp hơn, vì nhiều trường hợp tưởng chỉ nứt xương thôi nhưng thật ra là vỡ phức tạp, phải phẫu thuật mới nhanh ổn được. Thứ hai, theo nguyên tắc điều trị nứt gãy xương là phải cố định tốt để can xương mọc ra, chỗ nứt gãy mới được nối liền. Do đó, nếu bó bột thì chân sẽ được cố định liên tục trong 4-6 tuần, còn bó lá thì phải thay thường xuyên, mỗi lần thay là 1 lần xê dịch nên xương khó lành. Tốt hơn hết em nên đến Bệnh viện Chấn thương Chỉnh hình để được kiểm tra và điều trị thích hợp, em nhé. Thân mến.',
    'Chào bạn, Qua hình ảnh sang thương và mô tả triệu chứng, bệnh lý của bạn có khả năng là chàm hay còn gọi là viêm da dị ứng với đặc điểm là viêm và nổi mụn nhỏ, ngứa ngáy. Nguyên nhân của chàm hiện nay chưa rõ nhưng có thể do cơ địa dị ứng (người mắc hen, viêm mũi dị ứng có nguy cơ cao mắc chàm), do kích thích của hóa chất như nước rửa chén, bột giặt, cao su, kim loại, chất liệu giày dép (chàm tiếp xúc),... Thời tiết lạnh, stress, đổ mồ hôi nhiều và phấn hoa... cũng là những nguyên nhân có thể khiến da bị chàm. Chàm cũng có thể gặp ở người bị suy van tĩnh mạch, giãn tĩnh mạch chân khiến tình trạng bệnh dai dẳng, kém đáp ứng điều trị. Điều trị chàm thường phải sử dụng một số loại thuốc bôi da kéo dài, có thể để lại tác dụng phụ, do đó bạn nên khám BS Da liễu để kê toa loại thuốc phù hợp. Ngoài ra, bạn nên chú ý xem có yếu tố nào thường kích thích khởi phát chàm để tránh cho bệnh tái phát bạn nhé! Thân mến.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Metric Value
cosine_accuracy@1 0.7155
cosine_accuracy@2 0.7955
cosine_accuracy@5 0.8751
cosine_accuracy@10 0.9244
cosine_accuracy@100 0.9923
cosine_precision@1 0.7155
cosine_precision@2 0.3977
cosine_precision@5 0.175
cosine_precision@10 0.0924
cosine_precision@100 0.0099
cosine_recall@1 0.7155
cosine_recall@2 0.7955
cosine_recall@5 0.8751
cosine_recall@10 0.9244
cosine_recall@100 0.9923
cosine_ndcg@10 0.818
cosine_mrr@1 0.7155
cosine_mrr@2 0.7555
cosine_mrr@5 0.7778
cosine_mrr@10 0.7842
cosine_mrr@100 0.7873
cosine_map@100 0.7873
dot_accuracy@1 0.6786
dot_accuracy@2 0.7661
dot_accuracy@5 0.8603
dot_accuracy@10 0.9151
dot_accuracy@100 0.9914
dot_precision@1 0.6786
dot_precision@2 0.383
dot_precision@5 0.1721
dot_precision@10 0.0915
dot_precision@100 0.0099
dot_recall@1 0.6786
dot_recall@2 0.7661
dot_recall@5 0.8603
dot_recall@10 0.9151
dot_recall@100 0.9914
dot_ndcg@10 0.7943
dot_mrr@1 0.6786
dot_mrr@2 0.7223
dot_mrr@5 0.7485
dot_mrr@10 0.7559
dot_mrr@100 0.7596
dot_map@100 0.7596

Training Details

Training Hyperparameters

Non-Default Hyperparameters

  • eval_strategy: steps
  • per_device_train_batch_size: 16
  • per_device_eval_batch_size: 16
  • learning_rate: 2e-05
  • num_train_epochs: 5
  • warmup_ratio: 0.1
  • fp16: True
  • batch_sampler: no_duplicates

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: steps
  • prediction_loss_only: True
  • per_device_train_batch_size: 16
  • per_device_eval_batch_size: 16
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 2e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1.0
  • num_train_epochs: 5
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.1
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: True
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: False
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: False
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • batch_sampler: no_duplicates
  • multi_dataset_batch_sampler: proportional

Training Logs

Click to expand
Epoch Step Training Loss Validation Loss cosine_map@100
0 0 - - 0.1388
0.0365 100 6.7732 - -
0.0730 200 1.3336 - -
0.1096 300 0.5471 - -
0.1461 400 0.3911 - -
0.1826 500 0.2706 - -
0.2191 600 0.298 - -
0.2557 700 0.2197 - -
0.2922 800 0.2261 - -
0.3287 900 0.2154 - -
0.3652 1000 0.2234 - -
0.4018 1100 0.1897 - -
0.4383 1200 0.224 - -
0.4748 1300 0.2019 - -
0.5113 1400 0.1748 - -
0.5478 1500 0.2115 - -
0.5844 1600 0.1745 - -
0.6209 1700 0.1648 - -
0.6574 1800 0.197 - -
0.6939 1900 0.1471 - -
0.7305 2000 0.1594 - -
0.7670 2100 0.1671 - -
0.8035 2200 0.1446 - -
0.8400 2300 0.1303 - -
0.8766 2400 0.1515 - -
0.9131 2500 0.1945 - -
0.9496 2600 0.1734 - -
0.9861 2700 0.1546 - -
1.0226 2800 0.1605 - -
1.0592 2900 0.1355 - -
1.0957 3000 0.1368 0.1120 0.7427
1.1322 3100 0.1159 - -
1.1687 3200 0.1273 - -
1.2053 3300 0.1074 - -
1.2418 3400 0.0866 - -
1.2783 3500 0.0843 - -
1.3148 3600 0.1019 - -
1.3514 3700 0.0689 - -
1.3879 3800 0.0631 - -
1.4244 3900 0.0646 - -
1.4609 4000 0.0756 - -
1.4974 4100 0.0486 - -
1.5340 4200 0.0376 - -
1.5705 4300 0.0239 - -
1.6070 4400 0.0551 - -
1.6435 4500 0.0353 - -
1.6801 4600 0.0516 - -
1.7166 4700 0.0526 - -
1.7531 4800 0.0413 - -
1.7896 4900 0.0317 - -
1.8262 5000 0.0347 - -
1.8627 5100 0.0346 - -
1.8992 5200 0.0364 - -
1.9357 5300 0.069 - -
1.9722 5400 0.0291 - -
2.0088 5500 0.046 - -
2.0453 5600 0.045 - -
2.0818 5700 0.0301 - -
2.1183 5800 0.0371 - -
2.1549 5900 0.0331 - -
2.1914 6000 0.04 0.1288 0.7661
2.2279 6100 0.0431 - -
2.2644 6200 0.0349 - -
2.3009 6300 0.0226 - -
2.3375 6400 0.0243 - -
2.3740 6500 0.0254 - -
2.4105 6600 0.0239 - -
2.4470 6700 0.0355 - -
2.4836 6800 0.0262 - -
2.5201 6900 0.0097 - -
2.5566 7000 0.0192 - -
2.5931 7100 0.0141 - -
2.6297 7200 0.0088 - -
2.6662 7300 0.0147 - -
2.7027 7400 0.0152 - -
2.7392 7500 0.0065 - -
2.7757 7600 0.005 - -
2.8123 7700 0.0114 - -
2.8488 7800 0.0143 - -
2.8853 7900 0.0087 - -
2.9218 8000 0.0266 - -
2.9584 8100 0.026 - -
2.9949 8200 0.0059 - -
3.0314 8300 0.0182 - -
3.0679 8400 0.0092 - -
3.1045 8500 0.0134 - -
3.1410 8600 0.0079 - -
3.1775 8700 0.0066 - -
3.2140 8800 0.0073 - -
3.2505 8900 0.0062 - -
3.2871 9000 0.0033 0.1232 0.7741
3.3236 9100 0.006 - -
3.3601 9200 0.011 - -
3.3966 9300 0.0034 - -
3.4332 9400 0.0027 - -
3.4697 9500 0.0052 - -
3.5062 9600 0.0019 - -
3.5427 9700 0.0039 - -
3.5793 9800 0.0032 - -
3.6158 9900 0.0132 - -
3.6523 10000 0.0042 - -
3.6888 10100 0.0022 - -
3.7253 10200 0.0038 - -
3.7619 10300 0.0054 - -
3.7984 10400 0.0009 - -
3.8349 10500 0.0003 - -
3.8714 10600 0.0025 - -
3.9080 10700 0.0049 - -
3.9445 10800 0.0042 - -
3.9810 10900 0.0007 - -
4.0175 11000 0.0035 - -
4.0541 11100 0.005 - -
4.0906 11200 0.0016 - -
4.1271 11300 0.0049 - -
4.1636 11400 0.0003 - -
4.2001 11500 0.001 - -
4.2367 11600 0.0012 - -
4.2732 11700 0.0004 - -
4.3097 11800 0.003 - -
4.3462 11900 0.0005 - -
4.3828 12000 0.0008 0.1095 0.7873
4.4193 12100 0.0005 - -
4.4558 12200 0.0025 - -
4.4923 12300 0.0022 - -
4.5289 12400 0.0001 - -
4.5654 12500 0.0008 - -
4.6019 12600 0.0034 - -
4.6384 12700 0.0042 - -
4.6749 12800 0.0 - -
4.7115 12900 0.004 - -
4.7480 13000 0.0012 - -
4.7845 13100 0.0004 - -
4.8210 13200 0.001 - -
4.8576 13300 0.0033 - -
4.8941 13400 0.0009 - -
4.9306 13500 0.0003 - -
4.9671 13600 0.0002 - -

Framework Versions

  • Python: 3.10.14
  • Sentence Transformers: 3.2.1
  • Transformers: 4.45.1
  • PyTorch: 2.4.0
  • Accelerate: 0.34.2
  • Datasets: 3.0.1
  • Tokenizers: 0.20.0

Citation

BibTeX

Sentence Transformers 

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

GISTEmbedLoss 

@misc{solatorio2024gistembed,
    title={GISTEmbed: Guided In-sample Selection of Training Negatives for Text Embedding Fine-tuning},
    author={Aivin V. Solatorio},
    year={2024},
    eprint={2402.16829},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}