init: add llm logic & fastapi & CLI version

.env_template

@@ -0,0 +1,2 @@
+TYPHOON_CHAT_API = *
+OPENTHAIGPT_CHAT_API = *

.gitignore

@@ -1,162 +1,2 @@
-# Byte-compiled / optimized / DLL files
-__pycache__/
-*.py[cod]
-*$py.class
-
-# C extensions
-*.so
-
-# Distribution / packaging
-.Python
-build/
-develop-eggs/
-dist/
-downloads/
-eggs/
-.eggs/
-lib/
-lib64/
-parts/
-sdist/
-var/
-wheels/
-share/python-wheels/
-*.egg-info/
-.installed.cfg
-*.egg
-MANIFEST
-
-# PyInstaller
-#  Usually these files are written by a python script from a template
-#  before PyInstaller builds the exe, so as to inject date/other infos into it.
-*.manifest
-*.spec
-
-# Installer logs
-pip-log.txt
-pip-delete-this-directory.txt
-
-# Unit test / coverage reports
-htmlcov/
-.tox/
-.nox/
-.coverage
-.coverage.*
-.cache
-nosetests.xml
-coverage.xml
-*.cover
-*.py,cover
-.hypothesis/
-.pytest_cache/
-cover/
-
-# Translations
-*.mo
-*.pot
-
-# Django stuff:
-*.log
-local_settings.py
-db.sqlite3
-db.sqlite3-journal
-
-# Flask stuff:
-instance/
-.webassets-cache
-
-# Scrapy stuff:
-.scrapy
-
-# Sphinx documentation
-docs/_build/
-
-# PyBuilder
-.pybuilder/
-target/
-
-# Jupyter Notebook
-.ipynb_checkpoints
-
-# IPython
-profile_default/
-ipython_config.py
-
-# pyenv
-#   For a library or package, you might want to ignore these files since the code is
-#   intended to run in multiple environments; otherwise, check them in:
-# .python-version
-
-# pipenv
-#   According to pypa/pipenv#598, it is recommended to include Pipfile.lock in version control.
-#   However, in case of collaboration, if having platform-specific dependencies or dependencies
-#   having no cross-platform support, pipenv may install dependencies that don't work, or not
-#   install all needed dependencies.
-#Pipfile.lock
-
-# poetry
-#   Similar to Pipfile.lock, it is generally recommended to include poetry.lock in version control.
-#   This is especially recommended for binary packages to ensure reproducibility, and is more
-#   commonly ignored for libraries.
-#   https://python-poetry.org/docs/basic-usage/#commit-your-poetrylock-file-to-version-control
-#poetry.lock
-
-# pdm
-#   Similar to Pipfile.lock, it is generally recommended to include pdm.lock in version control.
-#pdm.lock
-#   pdm stores project-wide configurations in .pdm.toml, but it is recommended to not include it
-#   in version control.
-#   https://pdm.fming.dev/latest/usage/project/#working-with-version-control
-.pdm.toml
-.pdm-python
-.pdm-build/
-
-# PEP 582; used by e.g. github.com/David-OConnor/pyflow and github.com/pdm-project/pdm
-__pypackages__/
-
-# Celery stuff
-celerybeat-schedule
-celerybeat.pid
-
-# SageMath parsed files
-*.sage.py
-
-# Environments
-.env
 .venv
-env/
-venv/
-ENV/
-env.bak/
-venv.bak/
-
-# Spyder project settings
-.spyderproject
-.spyproject
-
-# Rope project settings
-.ropeproject
-
-# mkdocs documentation
-/site
-
-# mypy
-.mypy_cache/
-.dmypy.json
-dmypy.json
-
-# Pyre type checker
-.pyre/
-
-# pytype static type analyzer
-.pytype/
-
-# Cython debug symbols
-cython_debug/
-
-# PyCharm
-#  JetBrains specific template is maintained in a separate JetBrains.gitignore that can
-#  be found at https://github.com/github/gitignore/blob/main/Global/JetBrains.gitignore
-#  and can be added to the global gitignore or merged into this file.  For a more nuclear
-#  option (not recommended) you can uncomment the following to ignore the entire idea folder.
-#.idea/
+.env

README.md

@@ -0,0 +1 @@
+# Nurse LLM

cli.py

@@ -0,0 +1,21 @@
+from llm.client import NurseCLI
+from llm.llm import VirtualNurseLLM
+
+# model: typhoon-v1.5x-70b-instruct
+# nurse_llm = VirtualNurseLLM(
+#     base_url="https://api.opentyphoon.ai/v1",
+#     model="typhoon-v1.5x-70b-instruct",
+#     api_key=os.getenv("TYPHOON_API_KEY")
+# )
+
+# model: OpenThaiGPT
+
+if __name__ == "__main__":
+    nurse_llm = VirtualNurseLLM(
+    base_url="https://api.aieat.or.th/v1",
+    model=".",
+    api_key="dummy"
+    )
+
+    cli = NurseCLI(nurse_llm)
+    cli.start()

llm/basemodel.py

@@ -0,0 +1,25 @@
+from pydantic import BaseModel, Field
+from typing import List, Optional
+
+class Name(BaseModel):
+    prefix: Optional[str] = Field(None, description="Prefix or title (e.g., Mr., Ms., Dr.)")
+    firstname: Optional[str] = Field(None, description="The patient's first name")
+    surname: Optional[str] = Field(None, description="The patient's surname")
+
+class FamilyHistory(BaseModel):
+    relation: str = Field(..., description="Relation to the patient (e.g., father, sister)")
+    condition: str = Field(..., description="Health condition present in the family member")
+
+class PersonalHistory(BaseModel):
+    type: str = Field(..., description="Type of personal health aspect (e.g., sleep, medication, health behavior)")
+    description: str = Field(..., description="Details about the health aspect")
+
+class EHRModel(BaseModel):
+    name: Optional[Name] = Field(None, description="Structured name of the patient")
+    age: Optional[int] = Field(None, description="The patient's age")
+    gender: Optional[str] = Field(None, description="The patient's gender")
+    chief_complaint: Optional[str] = Field(None, description="The main symptom reported by the patient")
+    present_illness: Optional[str] = Field(None, description="Details about the current illness (e.g., when it started, nature of symptoms)")
+    past_illness: List[str] = Field(default_factory=list, description="Past illnesses, allergies, etc.")
+    family_history: List[FamilyHistory] = Field(default_factory=list, description="Health issues in the family")
+    personal_history: List[PersonalHistory] = Field(default_factory=list, description="Personal health history (e.g., sleep patterns, medications taken)")

llm/client.py

@@ -0,0 +1,57 @@
+from pprint import pprint
+from llm.llm import VirtualNurseLLM
+
+class NurseCLI:
+    def __init__(self, nurse_llm: VirtualNurseLLM):
+        self.nurse_llm = nurse_llm
+        self.nurse_llm.debug = False
+
+    def start(self):
+        print("Welcome to the Nurse LLM CLI.")
+        print("Type your question, or enter 'history' to see chat history")
+        print("Enter 'help' for a list of available commands.")
+
+        while True:
+            user_input = input("\nYou: ")
+
+            if user_input.lower() == 'exit':
+                print("Exiting the CLI. Goodbye!")
+                break
+            elif user_input.lower() == 'history':
+                print("\n--- Chat History ---")
+                pprint(self.nurse_llm.chat_history)
+            elif user_input.lower() == 'ehr':
+                print("\n--- Current EHR Data ---")
+                pprint(self.nurse_llm.ehr_data)
+            elif user_input.lower() == 'status':
+                print("\n--- Current LLM Status ---")
+                pprint(self.nurse_llm.current_prompt)
+            elif user_input.lower() == 'debug':
+                self.nurse_llm.debug = not self.nurse_llm.debug
+                print(f"Debug mode is now {'on' if self.nurse_llm.debug else 'off'}.")
+            elif user_input.lower() == 'reset':
+                self.nurse_llm.reset()
+                print("Chat history and EHR data have been reset.")
+            elif user_input.lower() == 'help':
+                self.display_help()
+            else:
+                # Invoke the LLM with the user input and get the response
+                ehr_response = self.nurse_llm.invoke(user_input)
+
+                # Display the response from the nurse LLM
+                print("\nNurse LLM:", ehr_response)
+
+    def display_help(self):
+        print("""
+        --- Available Commands ---
+        - 'history'   : View the chat history.
+        - 'ehr'       : View the current EHR (Electronic Health Record) data.
+        - 'status'    : View the current LLM status and prompt.
+        - 'debug'     : Toggle the debug mode (on/off).
+        - 'reset'     : Reset the chat history and EHR data.
+        - 'help'      : Display this help message.
+        - 'exit'      : Exit the CLI.
+        """)
+
+
+

llm/llm.py

@@ -0,0 +1,151 @@
+
+from langchain_openai.chat_models import ChatOpenAI
+from langchain.prompts import ChatPromptTemplate, SystemMessagePromptTemplate, HumanMessagePromptTemplate
+from pydantic import ValidationError
+import json
+from pprint import pprint
+from llm.basemodel import EHRModel
+from llm.prompt import field_descriptions, TASK_INSTRUCTIONS, JSON_EXAMPLE
+
+class VirtualNurseLLM:
+    def __init__(self, base_url, model, api_key):
+        self.client = ChatOpenAI(
+            base_url=base_url,
+            model=model,
+            api_key=api_key
+        )
+        self.TASK_INSTRUCTIONS = TASK_INSTRUCTIONS
+        self.field_descriptions = field_descriptions
+        self.JSON_EXAMPLE = JSON_EXAMPLE
+        self.ehr_data = {}
+        self.chat_history = []
+        self.debug = False
+        self.current_prompt = None
+        self.current_question = None
+
+    def create_prompt(self, task_type):
+        if task_type == "extract_ehr":
+          system_instruction = self.TASK_INSTRUCTIONS.get("extract_ehr")
+
+        elif task_type == "question":
+          system_instruction = self.TASK_INSTRUCTIONS.get("question")
+        else:
+          raise ValueError("Invalid task type.")
+
+        # system + user
+        system_template = SystemMessagePromptTemplate.from_template(system_instruction)
+        user_template = HumanMessagePromptTemplate.from_template("response: {patient_response}")
+        prompt = ChatPromptTemplate.from_messages([system_template, user_template])
+        return prompt
+
+    def gather_ehr(self, patient_response, max_retries=3):
+        prompt = self.create_prompt("extract_ehr")
+        messages = prompt.format_messages(ehr_data=self.ehr_data, patient_response=patient_response, example=self.JSON_EXAMPLE)
+        self.current_prompt = messages
+        response = self.client(messages=messages)
+        if self.debug:
+            pprint(f"gather ehr llm response: \n{response.content}\n")
+        
+        retry_count = 0
+        while retry_count < max_retries:
+            try:
+                json_content = self.extract_json_content(response.content)
+                if self.debug:
+                    pprint(f"JSON after dumps:\n{json_content}\n")
+                ehr_data = EHRModel.parse_raw(json_content)
+
+                # Update only missing parameters
+                for key, value in ehr_data.dict().items():
+                    if value not in [None, [], {}]:  # Checks for None and empty lists or dicts
+                        print(f"Updating {key} with value {value}")
+                        self.ehr_data[key] = value
+
+                return self.ehr_data
+
+            except (ValidationError, json.JSONDecodeError) as e:
+                print(f"Error parsing EHR data: {e}")
+                retry_count += 1
+
+                if retry_count < max_retries:
+                    retry_prompt = (
+                        "กรุณาตรวจสอบให้แน่ใจว่าข้อมูลที่ให้มาอยู่ในรูปแบบ JSON ที่ถูกต้องตามโครงสร้างตัวอย่าง "
+                        "และแก้ไขปัญหาทางไวยากรณ์หรือรูปแบบที่ไม่ถูกต้อง รวมถึงให้ข้อมูลในรูปแบบที่สอดคล้องกัน "
+                        f"Attempt {retry_count + 1} of {max_retries}."
+                    )
+                    messages = self.create_prompt("extract_ehr") + "\n\n# ลองใหม่: \n\n{retry_prompt} \n ## JSON เก่าที่มีปัญหา: \n{json_problem}"
+                    messages = messages.format_messages(
+                        patient_response=patient_response, 
+                        example=self.JSON_EXAMPLE, 
+                        retry_prompt=retry_prompt,
+                        json_problem=json_content
+                    )
+                    self.current_prompt = messages
+                    print(f"กำลังลองใหม่ด้วย prompt ที่ปรับแล้ว: {retry_prompt}")
+                    response = self.client(messages=messages)
+
+        # Final error message if retries are exhausted
+        print("Failed to extract valid EHR data after multiple attempts. Generating new question.")
+        return {"result": response, "error": "Failed to extract valid EHR data. Please try again."}
+
+
+    def get_question(self, patient_response):
+        question_prompt = self.create_prompt("question")
+        # Update EHR data with the latest patient response
+        ehr_data = self.gather_ehr(patient_response)
+        if self.debug:
+            pprint(ehr_data)
+
+        for field, description in self.field_descriptions.items():
+            # Find the next missing field and generate a question
+            if field not in self.ehr_data or not self.ehr_data[field]:
+                # Compile known patient information as context
+                context = ", ".join(
+                    f"{key}: {value}" for key, value in self.ehr_data.items() if value
+                )
+                print("fetching for ", f'"{field}":"{description}"')
+                history_context = "\n".join(
+                    f"{entry['role']}: {entry['content']}" for entry in self.chat_history
+                )
+                messages = ChatPromptTemplate.from_messages([question_prompt, history_context])
+                messages = messages.format_messages(description=f'"{field}":"{description}"', context=context, patient_response=patient_response, field_descriptions=self.field_descriptions)
+                self.current_context = context
+                self.current_prompt = messages
+                
+                # format print
+                # pprint(pformat(messages.messages[0].prompt.template, indent=4, width=80))
+                response = self.client(messages=messages)
+
+                # Store generated question in chat history and return it
+                self.current_question = response.content.strip()
+                return self.current_question
+
+        # If all fields are complete
+        self.current_question = "ขอบคุณที่ให้ข้อมูลค่ะ ฉันได้ข้อมูลที่ต้องการครบแล้วค่ะ"
+        return self.current_question
+
+    def invoke(self, patient_response):
+        if patient_response:
+            self.chat_history.append({"role": "user", "content": patient_response})
+        question = self.get_question(patient_response)
+        self.chat_history.append({"role": "assistant", "content": question})
+        return question
+
+    def extract_json_content(self, content):
+        try:
+            content = content.replace('\n', '').replace('\r', '')
+            start = content.index('{')
+            end = content.rindex('}') + 1
+            json_str = content[start:end]
+            json_str = json_str.replace('None', 'null')
+
+            return json_str
+        except ValueError:
+            print("JSON Parsing Error Occured: ", content)
+            print("No valid JSON found in response")
+            return None
+
+
+    def reset(self):
+        self.ehr_data = {}
+        self.chat_history = []
+        self.current_question = None

llm/prompt.py

@@ -0,0 +1,205 @@
+JSON_EXAMPLE = """
+    JSON schema:
+    {
+      "name": {
+        "prefix": "<คำนำหน้าชื่อ>",
+        "firstname": "<ชื่อจริง>",
+        "surname": "<นามสกุล>"
+      },
+      "age": <integer>,
+      "gender": "<string>",
+      "chief_complaint": "<string>",
+      "present_illness": "<string>",
+      "past_illness": ["<โรคประจำตัว 1>", "<โรคประจำตัว 2>"],
+      "family_history": [
+        {
+          "relation": "<ความสัมพันธ์>",
+          "condition": "<โรค>"
+        }
+      ],
+      "personal_history": [
+        {
+          "type": "<ประเภท>",
+          "description": "<คำอธิบาย>"
+        }
+      ]
+    }
+    \n
+    Example 1:
+    {
+      "name": {
+        "prefix": "นางสาว",
+        "firstname": "อรอุมา",
+        "surname": "จันทร์ทอง"
+      },
+      "age": "30",
+      "gender": "หญิง",
+      "chief_complaint": "มีอาการปวดท้อง (abdominal pain)",
+      "present_illness": "อาการเริ่มขึ้นเมื่อ 1 วันก่อน โดยผู้ป่วยมีอาการปวดท้องส่วนล่างและคลื่นไส้ (nausea)",
+      "past_illness": [
+        "กรดไหลย้อน (Gastroesophageal reflux disease)",
+        "อาการซึมเศร้า (Depression)"
+      ],
+      "family_history": [
+        {
+          "relation": "พ่อ",
+          "condition": "โรคไต (Chronic kidney disease)"
+        },
+        {
+          "relation": "น้องสาว",
+          "condition": "โรคซึมเศร้า (Depression)"
+        }
+      ],
+      "personal_history": [
+        {
+          "type": "การนอนหลับ (Sleep)",
+          "description": "นอนหลับได้ 5-6 ชั่วโมงต่อวัน (Sleep duration: 5-6 hours per night)"
+        },
+        {
+          "type": "การทานยา (Medications)",
+          "description": "ทานยากล่อมประสาทเป็นครั้งคราว (Occasional use of anxiolytics)"
+        },
+        {
+          "type": "พฤติกรรมสุขภาพ (Health behaviors)",
+          "description": "ดื่มเครื่องดื่มแอลกอฮอล์เป็นบางครั้ง (Occasional alcohol consumption)"
+        }
+      ]
+    }
+
+    Example 2:
+    {
+      "name": {
+        "prefix": "นางสาว",
+        "firstname": "อรอุมา",
+        "surname": "จันทร์ทอง"
+      }
+    }
+
+    """
+
+JSON_EXAMPLE = JSON_EXAMPLE.replace("\n", "").replace(" ", "")
+
+
+TASK_INSTRUCTIONS = {
+  # parameter: description, context
+  "question": (
+      "คุณคือพยาบาลสาวเสมือนจริงที่ชื่อว่า 'Mali (มะลิ)' มีความเห็นอกเห็นใจ ใส่ใจสุขภาพของผู้ป่วย "
+      "คุณจะถามข้อมูลสุขภาพอย่างเป็นกันเอง อ่อนโยน ใช้หางเสียง คะ, ค่ะ ทุกครั้ง "
+      "พร้อมแนะนำและให้คำปรึกษาเบื้องต้นแบบสุภาพ เรียกตัวเองว่า 'ดิฉัน' \n"
+      "มีหน้าที่รวบรวมข้อมูล ถามคำถามที่ต้องการและ ให้คำปรึกษาเบื้องต้นและให้กำลังใจผู้ป่วย \n"
+
+      "# ที่ปรึกษาผู้ป่วย\n"
+      "เป็นพยาบาลสาวที่มีอารมณ์ขัน เมื่อผู้ป่วยพูดหยอกล้อ คุณสามารถพูดหยอกล้อกลับได้ \n"
+      "คุณสามารถพูดให้กำลังใจและคำแนะนำเบื้องต้นได้เวลาที่คนไข้ไม่สบายใจ แต่ถ้าเกินขอบเขตให้ย้ำทุกครั้งว่าควรปรึกษาแพทย์โดยตรง \n"
+      "ทุกครั้งที่คนไข้พาพูดออกนอกขอบเขตในการถามคำถาม ต้องกลับมาถามคำถามอีกครั้ง \n\n"
+
+      "# การถามคำถามและรวบรวมข้อมูลผู้ป่วย\n"
+      "- คุณจะสอบถามคำถามทีละข้อเพื่อลดความกังวลและบันทึกปร��วัติสุขภาพได้อย่างครบถ้วน\n"
+      "- ให้ทำความเข้าใจบริบทพื้นฐานของผู้ป่วย เช่น อาการหรือข้อมูลสำคัญอื่นที่ทราบแล้ว\n"
+      "## ข้อมูลที่ต้องถามทั้งหมด: {field_descriptions}\n"
+      "### โปรดใช้หลักการลำดับความคิด (Chain of Thought)\n"
+      "- เริ่มด้วยคำถามที่ง่ายที่สุดเพื่อสร้างความคุ้นเคยกับผู้ป่วย\n"
+      "- ถามคำถามตามลำดับที่ทำให้การสนทนาดำเนินไปอย่างราบรื่น เช่น ประวัติอาการ, อาการในปัจจุบัน, "
+      "และความต้องการในการดูแล\n\n"
+      "## ข้อมูลที่ต้องการถามปัจจุบัน: {description}\n"
+      "### ถามคำถาม:\n"
+      "ให้สร้างคำถามทีละข้อในโทนเสียงอบอุ่นและสุภาพสำหรับการพยายามสอบถามเกี่ยวกับ {description}.\n\n"
+      "### ข้อมูลเดิม:\n"
+      "หากมีข้อมูลที่ทราบอยู่แล้ว โต้ตอบกับคนไข้ด้วยข้อมูลที่มีอยู่: {context}\n\n"
+      "---\n\n"
+      "### ตัวอย่างการสนทนา"
+      "#### ตัวอย่าง 1\n"
+      "สวัสดีค่ะ ดิฉัน Mali ค่ะ ดิฉันขอทราบชื่อเต็มของคุณได้ไหมคะ?\n"
+      "คนไข้: สวัสดีค่ะ Mali พยาบาลสาวคนสวย ฉันชื่อ อรุณี สุริยะค่ะ\n"
+      "ขอบคุณค่ะ คุณอรุณี ชมกันแบบนี้ดิฉันเขินเลยนะคะ แต่ยินดีช่วยดูแลเต็มที่ค่ะ คุณอรุณี อายุเท่าไหร่คะ?\n"
+      "คนไข้: 35 ปีค่ะ Mali\n"
+      "35 ปีนะคะ เพื่อความถูกต้อง ดิฉันขอถามเพิ่มนะคะ คุณอรุณีเป็นเพศหญิงใช่ไหมคะ?\n"
+      "คนไข้: ใช่ค่ะ\n"
+      "ขอบคุณค่ะ มีคนไข้น่ารักแบบนี้ ดิฉันยิ่งตั้งใจทำงานเลยค่ะ เรามาคุยกันต่อเรื่องสุขภาพนะคะ มีอาการหลักอะไรที่รู้สึกไม่สบายใจตอนนี้ไหมคะ?\n"
+      "คนไข้: รู้สึกปวดท้องบ่อย ๆ ค่ะ Mali คิดว่ามันคืออะไรคะ?\n"
+      "ขอบคุณที่บอกนะคะ อาการปวดท้องแบบนี้เริ่มมีมาตั้งแต่เมื่อไหร่คะ และปวดเป็นลักษณะยังไงคะ?\n"
+      "คนไข้: ประมาณสองสัปดาห์แล้วค่ะ ปวดแบบแสบท้องค่ะ\n"
+      "เข้าใจค่ะ ดิฉันจะจดบันทึกไว้นะคะ ตอนนี้มีประวัติการแพ้ยาหรือสารอื่น ๆ ที่อยากแจ้งให้ทราบไหมคะ? เพื่อให้การดูแลถูกต้องมากขึ้นค่ะ\n"
+      "คนไข้: เคยแพ้ยาปฏิชีวนะค่ะ\n"
+      "ขอบคุณที่แจ้งข้อมูลนะคะ สำหรับประวัติสุขภาพครอบครัว พอจะมีใครในครอบครัวที่มีโรคประจำตัวไหมคะ เช่น โรคหัวใจ ความดันโลหิตสูง หรือโรคเบาหวาน?\n"
+      "คนไข้: คุณแม่เป็นเบาหวานค่ะ คุณพ่อก็เป็นโรคความดันค่ะ\n"
+      "ขอบคุณค่ะ มีคนไข้ช่วยเล่าให้ฟังแบบนี้ ดิฉันก็เรียนรู้เพิ่มขึ้นทุกวันค่ะ และสุดท้าย ข้อมูลสุขภาพส่��นตัว เช่น ลักษณะการนอนหลับหรือลักษณะการทานยาที่ใช้ประจำ พอจะมีอะไรที่อยากแจ้งเพิ่มเติมไหมคะ?\n"
+      "คนไข้: ช่วงนี้นอนไม่ค่อยพอค่ะ บางทีต้องทานยานอนหลับ\n"
+      "เข้าใจแล้วค่ะ ขอบคุณที่ให้ข้อมูลทั้งหมดนี้นะคะ คุณอรุณี ดิฉันบันทึกไว้เรียบร้อยแล้วเพื่อให้การดูแลเหมาะสมและครบถ้วน ถ้ามีคำถามเพิ่มเติมเกี่ยวกับสุขภาพอีก ดิฉันยินดีให้คำปรึกษาเสมอค่ะ\n"
+
+      "#### ตัวอย่าง 2\n"
+      "สวัสดีค่ะ ดิฉัน Mali ค่ะ คุณคนไข้ชื่อว่าอะไรคะ?"
+      "คนไข้: ชื่อต้อมครับ\n"
+      "ขอทราบชื่อเต็มของคุณต้อมได้ไหมคะ?\n"
+      "คนไข้: อ๋อ ชื่อแค่ ต้อม ครับ ไม่ต้องให้ชื่อเต็มหรอกครับ\n"
+      "ดิฉันขอโทษที่ถามคำถามแบบนี้นะคะ แต่การรู้ชื่อเต็มจะช่วยให้การดูแลเป็นไปได้อย่างถูกต้องค่ะ รบกวนขอชื่อเต็มอีกครั้งได้ไหมคะ ?\n"
+      "คนไข้: ชื่อ ธนานนท์ ศักดิ์เกียรติกุลครับ"
+      "ขอบคุณมากที่ให้ความร่วมมือค่ะ คุณต้อม คำถามต่อไปอยากจะถามว่าคุณต้อมอายุเท่าไหร่คะ?"
+      "คนไข้: อายุ 50 ครับ แต่ไม่เห็นต้องถามอะไรเยอะแยะแบบนี้เลย\n"
+      "ขอบคุณค่ะ คุณต้อม สำหรับข้อมูลนะคะ ดิฉันเข้าใจค่ะว่าคุณต้อมอาจจะไม่สะดวกใจ แต่การถามคำถามทุกข้อเป็นสิ่งสำคัญค่ะ เพื่อให้การดูแลเป็นไปอย่างราบรื่นและครบถ้วนค่ะ ต่อไปนะคะ ขอถามต่อว่า คุณต้อมเป็นเพศชายใช่ไหมคะ?\n"
+      "คนไข้: ใช่ครับ\n"
+      "ขอบคุณค่ะ สำหรับข้อมูลค่ะ ตอนนี้ขอถามเรื่องอาการหลักหน่อยนะคะ คุณต้อมมีอาการอะไรบ้างที่รู้สึกไม่สบายใจตอนนี้คะ?\n"
+      "คนไข้: จริง ๆ ก็ไม่รู้จะพูดว่าอะไรดีครับ ผมแค่รู้สึกไม่ค่อยสบาย\n"
+      "ไม่สบายแบบไหนหรอคะ มีอาการปวดหัว ตัวร้อน มีไข้หรือเปล่าคะ?"
+      "ขอบคุณค่ะที่บอกนะคะ คุณต้อมค่ะ ดิฉันจะถามต่อว่า คุณต้อมเริ่มรู้สึกไม่สบายเมื่อไหร่คะ? หรือมันค่อย ๆ เริ่มมีอาการมาเรื่อย ๆ คะ?\n"
+      "คนไข้: ก็ประมาณสองสามวันมานี้ครับ แต่ไม่ได้รุนแรงมาก\n"
+      "ขอบคุณค่ะ คุณต้อมที่บอกค่ะ เข้าใจค่ะ อาการแบบนี้ดิฉันจะจดบันทึกไว้นะคะ แต่ดิฉันขอถามอีกครั้งนะคะ มีประวัติการแพ้ยาอะไรหรือสารอื่น ๆ ที่อยากแจ้งให้ทราบไหมคะ?\n"
+      "คนไข้: ไม่มีหรอกครับ\n"
+      "ขอบคุณค่ะ คุณต้อม สำหรับข้อมูลค่ะ ต่อไปนะคะ ประวัติสุขภาพในครอบครัวของคุณต้อมเป็นยังไงบ้างคะ เช่น พ่อแม่หรือญาติคนอื่น ๆ เคยมีโรคประจำตัวอะไรบ้างคะ?\n"
+      "คนไข้: พ่อผมเป็นโรคหัวใจครับ ส่วนแม่ผมท่านไม่อยู่แล้ว เสียชีวิตด้วยมะเร็งครับ\n"
+      "ขอบคุณค่ะ คุณต้อมสำหรับข้อมูลค่ะ ตอนนี้สุดท้ายค่ะ ข้อมูลสุขภาพส่วนตัว เช่น การนอนหลับหรือลักษณะการทานยาที่ใช้ประจำคะ? มีอะไรที่อยากแจ้งเพิ่มเติมไหมคะ?\n"
+      "คนไข้: ช่วงนี้นอนไม่ค่อยหลับครับ\n"
+      "ขอบคุณมากค่ะ คุณต้อม ที่ให้ข้อมูลทั้งหมดนี้ค่ะ ดิฉันจะบันทึกข้อมูลเพื่อให้การดูแลเหมาะสมและครบถ้วนค่ะ หากคุณต้อมมีคำถามหรือข้อสงสัยเพิ่มเติม ดิฉันยินดีให้คำปรึกษาค่ะ"
+),
+
+  # parameter: example
+  "extract_ehr": (
+      "คุณคือเครื่องมือวิเคราะห์คำตอบของผู้ป่วย, ดึงข้อมูล, แก้ไขข้อมูล และรวบรวมข้อมูลเฉพาะสำหรับเวชระเบียนอิเล็กทรอนิกส์ (EHR). "
+      "ส่งคืนเฉพาะข้อมูลที่ดึงออกมาในรูปแบบ JSON มีการปรับปรุงและเรียบเรียงข้อมูลเป็นภาษาแพทย์หรือใช้ศัพท์ทางการแพทย์เพื่อให้แพทย์สามารถอ่านได้ง่าย."
+      "หากไม่พบข้อมูลที่กำหนดหรือข้อมูลอธิบายไม่ละเอียดเพียงพอให้ใส่ค่า null หรือ [] ตามรูปแบบข้อมูลโดยไม่มีการข้ามหรือละเว้นใด ๆ.\n\n"
+
+      "ส่งคืนเฉพาะรายละเอียดที่กำหนดโดยไม่มีข้อมูลแยกย่อยไปอีก.\n\n"
+      "## อัพเดทข้อมูลจากข้อมูลที่มีอยู่แล้ว:\n"
+      "### สามารถแก้ไข / เพิ่มเติมข้อมูลใหม่จากเดิมได้เพื่อให้ตรงบริบทของแพทย์ ข้อมูลประเภท list สามารถเพิ่มสมาชิก / แก้ไขข้อมูลได้ เหมือนการ append list\n"
+      "{ehr_data}\n"
+      "## รายละเอียดสำคัญที่ต้องดึงข้อมูล:\n"
+      "### หากข้อมูลประเภท object required ช่องใดช่องหนึ่งเป็น null ทำให้ข้อมูลทั้งหมดเป็น null.\n"
+      "1. **name** (object): ชื่อเต็มของผู้ป่วย โดยมี \"prefix\" (คำนำหน้าชื่อ), \"firstname\" (ชื่อจริง), และ \"surname\" (นามสกุล). "
+        "หากไม่มีข้อมูลให้ใส่ค่า null."
+        "required: firstname, lastname.\n"
+      "2. **age** (integer): อายุหรือรายละเอียดอายุโดยประมาณ. "
+        "หากไม่ทราบให้ใส่ค่า null.\n"
+      "3. **gender** (string): เพศของผู้ป่วย (สามารถอิงได้ตาม name prefix). "
+        "หากไม่มีข้อมูลให้ใส่ค่า null.\n"
+      "4. **chief_complaint** (string): อาการหลักที่ผู้ป่วยรายงาน. "
+        "หากไม่มีข้อมูลให้ใส่ค่า null.\n"
+      "5. **present_illness** (string): รายละเอียดเกี่ยวกับอาการปัจจุบัน (เช่น เริ่มเป็นเมื่อไหร่ ลักษณะอาการ). "
+        "หากไม่มีข้อมูลให้ใส่ค่า null.\n"
+      "6. **past_illness** (list[str]): ประวัติการเจ็บป่วยก่อนหน้�� เช่น โรคประจำตัวหรือการแพ้. "
+        "หากไม่มีข้อมูลให้ใส่ค่า [] ไว้.\n"
+      "7. **family_history** (list[object]): ประวัติสุขภาพในครอบครัว โดยแต่ละรายการมี \"relation\" (ความสัมพันธ์) และ \"condition\" (โรค). "
+        "หากไม่มีข้อมูลให้ใส่ค่า [] ไว้.\n"
+      "8. **personal_history** (list[object]): ประวัติส่วนตัว โดยแต่ละรายการมี \"type\" (ประเภท) และ \"description\" (คำอธิบาย). "
+        "หากไม่มีข้อมูลให้ใส่ค่า [] ไว้.\n\n"
+
+      "## ตัวอย่าง JSON Output:\n\n"
+      "{example}"
+      
+      "\n\n"
+      "ส่งคืนคำตอบในรูปแบบ JSON ที่ถูกต้อง. "
+      "โปรดอย่าตอบคำตอบอื่นนอกจากข้อมูลในรูปแบบ JSON และกรอกค่า null หรือ [] ในทุกช่องที่ไม่มีข้อมูล."
+      
+  )
+
+}
+
+field_descriptions = {
+    "name": "ชื่อเต็มของผู้ป่วย (ไม่รับชื่อเล่น)",
+    "age": "อายุของผู้ป่วย",
+    "gender": "เพศของผู้ป่วย (เพศชายหรือหญิง)",
+    "chief_complaint": "อาการหลักที่ผู้ป่วยรายงาน",
+    "present_illness": "รายละเอียดของการเจ็บป่วยในปัจจุบัน (เช่น เริ่มต้นเมื่อไร ลักษณะของอาการ)",
+    "past_illness": "ประวัติการเจ็บป่วยหรืออาการแพ้ในอดีตที่ผู้ป่วยมี",
+    "family_history": "ประวัติสุขภาพในครอบครัวของผู้ป่วย",
+    "personal_history": "ข้อมูลสุขภาพส่วนตัว เช่น ลักษณะการนอนหลับหรือยาที่ผู้ป่วยทานอยู่"
+}

main.py

@@ -0,0 +1,56 @@
+import uvicorn
+from llm.llm import VirtualNurseLLM
+from fastapi import FastAPI
+from pydantic import BaseModel
+import os
+import dotenv
+dotenv.load_dotenv()
+
+# model: typhoon-v1.5x-70b-instruct
+# nurse_llm = VirtualNurseLLM(
+#     base_url="https://api.opentyphoon.ai/v1",
+#     model="typhoon-v1.5x-70b-instruct",
+#     api_key=os.getenv("TYPHOON_API_KEY")
+# )
+
+# model: OpenThaiGPT
+nurse_llm = VirtualNurseLLM(
+    base_url="https://api.aieat.or.th/v1",
+    model=".",
+    api_key="dummy"
+)
+
+app = FastAPI()
+
+class UserInput(BaseModel):
+    user_input: str
+
+@app.get("/history")
+def get_chat_history():
+    return {"chat_history": nurse_llm.chat_history}
+
+@app.get("/ehr")
+def get_ehr_data():
+    return {"ehr_data": nurse_llm.ehr_data}
+
+@app.get("/status")
+def get_status():
+    return {"current_prompt": nurse_llm.current_prompt}
+
+@app.post("/debug")
+def toggle_debug():
+    nurse_llm.debug = not nurse_llm.debug
+    return {"debug_mode": "on" if nurse_llm.debug else "off"}
+
+@app.post("/reset")
+def data_reset():
+    nurse_llm.reset()
+    print("Chat history and EHR data have been reset.")
+
+@app.post("/nurse_response")
+def nurse_response(user_input: UserInput):
+    response = nurse_llm.invoke(user_input.user_input)
+    return {"nurse_response": response}
+
+if __name__ == "__main__":
+    uvicorn.run("main:app", host="0.0.0.0", port=8000, reload=True)

pyproject.toml

@@ -0,0 +1,21 @@
+[tool.poetry]
+name = "mali-nurse"
+version = "0.1.0"
+description = "Nurse LLM Chatbot for basic Electronic Health Records (EHR) extraction and collection."
+authors = ["microhum <Guntee12123@gmail.com>"]
+license = "MIT"
+readme = "README.md"
+
+[tool.poetry.dependencies]
+python = "^3.10"
+langchain = "^0.3.7"
+langchain-openai = "^0.2.8"
+langchain-community = "^0.3.7"
+pydantic = "^2.9.2"
+fastapi = "^0.115.5"
+uvicorn = "^0.32.0"
+
+
+[build-system]
+requires = ["poetry-core"]
+build-backend = "poetry.core.masonry.api"