Update app.py

app.py

@@ -19,7 +19,7 @@ import requests, os, json
 from requests.adapters import HTTPAdapter, Retry
 from typing import List, Optional, Dict, Any
 
-
+'''
 class GitHubModelLLM(LLM):
     """GitHub Models API를 사용하는 ChatOpenAI 대체 클래스"""
 
@@ -72,13 +72,87 @@ class GitHubModelLLM(LLM):
         res = self._post(body)
         content = res.get("choices", [{}])[0].get("message", {}).get("content", "")
         return content
-
     async def _acall(self, messages: List[Any], stop: Optional[List[str]] = None, **kwargs):
         return self._call(messages, stop, **kwargs)
+'''
 from typing import Optional, List, Dict, Any
 from langchain.llms.base import LLM
 import requests, os, json
 from requests.adapters import HTTPAdapter, Retry
+from typing import Optional, List, Dict, Any
+from langchain.llms.base import LLM
+from langchain.schema import HumanMessage, AIMessage, SystemMessage
+import requests, os, json
+from requests.adapters import HTTPAdapter, Retry
+
+class GitHubModelLLM(LLM):
+    """GitHub Models API 기반 LangChain LLM (대화 메모리 통합 지원)"""
+    model: str = "openai/gpt-4.1"
+    endpoint: str = "https://models.github.ai/inference"
+    token: Optional[str] = os.environ.get("token")
+    system_prompt: Optional[str] = (
+        "너는 PIXAL(Primary Interactive X-ternal Assistant with multi Language)이야. "
+        "너의 개발자는 정성윤 이라는 6학년 파이썬 프로그래머야. "
+        "이것은 시스템 메시지입니다. 참고 하십시오. "
+        "이 메시지는 사용자가 보낸것이 아닙니다."
+    )
+    request_timeout: float = 30.0
+    max_retries: int = 2
+    backoff_factor: float = 0.3
+
+    @property
+    def _llm_type(self) -> str:
+        return "github_models_api"
+
+    def _post_chat(self, body: Dict[str, Any]) -> Dict[str, Any]:
+        token = self.token or os.getenv("GITHUB_TOKEN") or os.getenv("token")
+        session = requests.Session()
+        retries = Retry(total=self.max_retries, backoff_factor=self.backoff_factor,
+                        status_forcelist=[429, 500, 502, 503, 504])
+        session.mount("https://", HTTPAdapter(max_retries=retries))
+        session.headers.update({
+            "Content-Type": "application/json",
+            "Authorization": f"Bearer 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"
+        })
+        resp = session.post(f"{self.endpoint}/chat/completions", json=body, timeout=self.request_timeout)
+        resp.raise_for_status()
+        return resp.json()
+
+    def _call(
+        self,
+        prompt: str,
+        stop: Optional[List[str]] = None,
+        **kwargs
+    ) -> str:
+        """대화 메모리(chat_history)를 포함하여 모델 호출"""
+        messages = []
+
+        # 🧠 시스템 프롬프트 추가
+        if self.system_prompt:
+            messages.append({"role": "system", "content": self.system_prompt})
+
+        # 🧩 메모리 내용이 있으면 이전 대화 삽입
+        memory = kwargs.get("memory")
+        if memory and hasattr(memory, "chat_memory"):
+            for msg in memory.chat_memory.messages:
+                if isinstance(msg, HumanMessage):
+                    messages.append({"role": "user", "content": msg.content})
+                elif isinstance(msg, AIMessage):
+                    messages.append({"role": "assistant", "content": msg.content})
+                elif isinstance(msg, SystemMessage):
+                    messages.append({"role": "system", "content": msg.content})
+
+        # 👤 사용자 입력 추가
+        messages.append({"role": "user", "content": prompt})
+
+        body = {"model": self.model, "messages": messages}
+        if stop:
+            body["stop"] = stop
+
+        # 🚀 모델 호출
+        res = self._post_chat(body)
+        msg = res.get("choices", [{}])[0].get("message", {})
+        return msg.get("content") or json.dumps(msg.get("function_call", {}))
 '''
 class GitHubModelLLM(LLM):
     """GitHub Models API 기반 LangChain LLM (대화 메모리 통합 지원)"""