모델 output 후처리 로직 수정

app.py

@@ -6,6 +6,7 @@ from llama_cpp import Llama
 from huggingface_hub import hf_hub_download
 import uvicorn
 import json
+import ast
 
 # 1. FastAPI 앱 인스턴스 생성
 app = FastAPI()
@@ -74,13 +75,27 @@ async def translate_all_in_one(request: TranslationRequest):
     generated_output = output["choices"][0]["text"].strip()
     
     try:
-        # GGUF 모델은 JSON을 깔끔하게 생성하는 경향이 있음
-        parsed_json = json.loads(generated_output)
-        return parsed_json
-    except (json.JSONDecodeError, IndexError) as e:
-        print(f"JSON 파싱 에러: {e}")
+        # 1. 모델이 생성한 텍스트에서 앞뒤의 불필요한 부분을 정리
+        #    (혹시 모를 따옴표나 공백, 마크다운 코드 블록 제거)
+        clean_output = generated_output.strip().strip("'\"")
+        if clean_output.startswith("```json"):
+            clean_output = clean_output[7:]
+        if clean_output.endswith("```"):
+            clean_output = clean_output[:-3]
+        clean_output = clean_output.strip()
+
+        # 2. ast.literal_eval을 사용해 문자열을 안전하게 파이썬 딕셔너리로 변환
+        #    이것이 바로 홑따옴표 문제를 해결하는 열쇠!
+        parsed_data = ast.literal_eval(clean_output)
+        
+        # 3. 성공적으로 변환된 딕셔너리를 반환 (FastAPI가 JSON으로 만들어줌)
+        return parsed_data
+
+    except (ValueError, SyntaxError) as e:
+        # ast.literal_eval이 실패하면 ValueError 또는 SyntaxError 발생
+        print(f"AST 파싱 에러: {e}")
         print(f"모델 원본 출력: {generated_output}")
-        return {"error": "Failed to parse model output as JSON", "raw_output": generated_output}
+        return {"error": "Failed to parse model output as a dictionary", "raw_output": generated_output}
 
 @app.get("/")
 def read_root():