techlab-khc/Llama-laboratory-brca

Model Details

• Adapter Name: laboratory-brca Llama3.1-8B Adapter
• Base Model: meta-llama/Llama-3.1-8B
• Adapter Type: LoRA (Low-Rank Adaptation)
• Task: Named Entity Recognition (NER) from free-text LABORATORY-BRCA reports
• Language: Korean
• License: Llama 3.1 is licensed under the Llama 3.1 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.

Model Description

This adapter is a LoRA fine-tuned module designed to enhance Named Entity Recognition (NER) capabilities on free-text LABORATORY-BRCA reports.
It enables structured extraction of key entities related to genetic testing, such as gene names, mutations, results, and testing methods.
The adapter is specifically trained to work on LABORATORY-BRCA records and must be used in conjunction with the Llama-3.1-8B base model.

Example

• Input

[Results]

====================================================================
BRCA2 gene pathogenic variation : Detected
Identified pathogenic variation : c.6553del (p.Ala2185Leufs*6)
====================================================================

[Interpretation]

유전성 유방암/난소암의 원인유전자인 BRCA2 유전자의 모든 exon과 인접 intron의 염기서열을 분석한 결과 pathogenic variation으로 판단되는 c.6553del (p.Ala2185Leufs*6) 변이가 Heterozygote로 관찰되었습니다(rs80359603). 발견된 변이에 대한 가족검사와 유전상담을 추천합니다.

유방암은 유전성, 가족성, 산발성으로 분류되며, 이 중 유전성 유방암은 전체 유방암의 약 5-10%를 차지합니다. 유전성 유방암은 대부분 BRCA1/2 유전자 변이와 관련 있으며, KOHBRA study에 의하면 BRCA 돌연변이는 유방암/난소암 가족력이 있는 한국인 유방암 환자의 약 22% 정도에서 발견되었습니다. BRCA1/2 유전자변이는 상피성난소암 환자의 약 10% 정도에서도 관찰되며, high-grade, fallopian tube tumor, primary peritoneal cancer와 연관있는 것으로 알려져 있습니다. 위험도는 돌연변이 유형과 가족력에 따라서 차이를 보일 수 있습니다.
BRCA1/2 유전자변이를 분석함으로써 이러한 종양들의 발병 원인과 발병 예측에 도움을 줄 수 있으며, 암예방을 위한 효과적인 방법들을 통해 발병률을 감소시킬 수 있습니다.


[Comments]

1. 본 검사는 BRCA 유전자에 대한 염기서열분석법으로 시행되었으며, 약 99%의 염기변이(nucleotide base alterations, small insertions/deletions)를 검출할 수 있습니다.  
2. 검사상 돌연변이가 검출되지 않은 경우 염기서열분석법으로 검출할 수 없는 large deletion/duplication 등의 가능성을 배제할 수 없으며 이 경우 추가검사시행(예,MLPA)이 필요합니다. 또한 BRCA 이외 다른 cancer susceptibility gene(예, TP53, PTEN)에 의한 가능성도 배제할 수 없습니다.
3. 본 검사의 염기변이의 classification은 2015 ACMG-AMP Variant-Interpretation Guidelines를 기반으로 하여 결과보고 당시 문헌보고와 public database를 근거로 합니다. 그러나, 이러한 염기변이의 classification은 후속연구에 의해 바뀌는 경우가 있으며, 이러한 사실이 확인된 경우 결과의 수정보고가 있을 수 있습니다.
4. 본 검사결과는 각 exon별로 5', 3' flanking region, 20bps 범위의 변이만을 보고합니다. 따라서, 이 범위 이외의 변이 존재 (deep intron,  promoter region, regulatory region의 변이) 가능성은 배제할 수 없습니다. 



[Informations]

-Specimen : Genomic DNA isolated from peripheral blood leukocytes
-Target disease : Breast-ovarian cancer, familial,1 (OMIM 604370)
                  Breast-ovarian cancer, familial,2 (OMIM 612555)
-Analyzed gene : BRCA1 on Chr.17q21, BRCA2 on Chr.13q12.3
-Mode of inheritance : Autosomal dominant
-Penetrance : 
 BRCA1, breast cancer (57-60%), ovarian cancer (40-59%)
 BRCA2, breast cancer (49-55%), ovarian cancer (16.5-18%)
 (according to NCCN guidelines)
-Method : sequencing 
 BRCA1, total 22 coding exons; BRCA2, total 26 coding exons 
-Reference sequence: 
 BRCA1- OMIM 113705; NM_007294.3; NG_005905.2 
 BRCA2- OMIM 600185; NM_000059.3; NG_012772.3

• Output

{
  "reported_result": [
    {
      "gene": "BRCA2",
      "refseq_id": [
        "NM_000059.3",
        "NG_012772.3"
      ],
      "spec_site": "peripheral blood leukocytes",
      "spec_method": "sequencing \r\n BRCA1, total 22 coding exons; BRCA2, total 26 coding exons",
      "pathogenicity": "pathogenic variation",
      "detection_result": "Detected"
    },
    {
      "gene": "BRCA2",
      "dbsnp": "rs80359603",
      "zygosity": "Heterozygote",
      "aa_change": "p.Ala2185Leufs*6",
      "dna_change": "c.6553del",
      "pathogenicity": "pathogenic variation"
    }
  ]
}

How to use

Environment

python = "^3.10"
peft = "^0.13.2"
trl = "^0.12.1"
vllm = "^0.8.3"
gunicorn = "^21.2.0"
packaging = "^24.0"
ninja = "^1.11.1.1"
fastapi = "^0.115.12"
uvicorn = {extras = ["standard"], version = "^0.34.0"}

Inference with vLLM

• Serving

python -m vllm.entrypoints.openai.api_server \
  --model meta-llama/Meta-Llama-3-8B \
  --adapter-path techlab-khc/Llama-laboratory-brca \
  --gpu-memory-utilization 0.9

• Request

import requests

prompt = '''
{report text}
'''

response = requests.post(
    "http://localhost:8000/v1/completions",
    headers={"Content-Type": "application/json"},
    json={
        "model": "meta-llama/Meta-Llama-3-8B",
        "prompt": prompt,
        "max_tokens": 1000,
        "temperature": 0.0
    }
)

print(response.json()["choices"][0]["text"])

License

• Base Model: Llama 3.1 is licensed under the Llama 3.1 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.
• Adapter: Inherits the terms of the base model.
• Permitted Use: Research and non-commercial use only.
• Prohibited Use: Commercial use of any kind is not allowed. By using this adapter, you agree to be bound by the Llama 3.1 community License Agreement

Disclaimer

• This adapter is intended for research purposes only.
• Any clinical or diagnostic decision should be made by qualified professionals. Outputs are for reference, not for direct medical or clinical application.

Contact

For questions, bug reports, or collaboration, please open an issue in this repository.