public_model_fallback.py

#!/usr/bin/env python3
"""
공개 모델을 사용하는 대안 코드
"""

import gradio as gr
import requests
import json

def chat_with_public_model(message, history):
    """공개 모델로 채팅"""
    try:
        # 공개 모델 사용 (토큰 불필요)
        api_url = "https://api-inference.huggingface.co/models/microsoft/DialoGPT-medium"
        
        data = {
            "inputs": message,
            "parameters": {
                "max_new_tokens": 100,
                "temperature": 0.7,
                "do_sample": True
            }
        }
        
        response = requests.post(api_url, json=data, timeout=30)
        
        if response.status_code == 200:
            result = response.json()
            if isinstance(result, list) and len(result) > 0:
                return result[0].get("generated_text", "죄송합니다. 응답을 생성할 수 없습니다.")
            else:
                return "죄송합니다. 응답을 생성할 수 없습니다."
        else:
            return f"API 호출 실패: {response.status_code}"
            
    except Exception as e:
        return f"오류 발생: {str(e)}"

def solve_math_with_public_model(problem):
    """공개 모델로 수학 문제 해결"""
    try:
        # 수학 문제 해결을 위한 프롬프트
        prompt = f"다음 수학 문제를 풀어주세요: {problem}"
        
        # 공개 모델 사용
        api_url = "https://api-inference.huggingface.co/models/gpt2"
        
        data = {
            "inputs": prompt,
            "parameters": {
                "max_new_tokens": 150,
                "temperature": 0.3,
                "do_sample": True
            }
        }
        
        response = requests.post(api_url, json=data, timeout=30)
        
        if response.status_code == 200:
            result = response.json()
            if isinstance(result, list) and len(result) > 0:
                return result[0].get("generated_text", "죄송합니다. 수학 문제를 풀 수 없습니다.")
            else:
                return "죄송합니다. 수학 문제를 풀 수 없습니다."
        else:
            return f"API 호출 실패: {response.status_code}"
            
    except Exception as e:
        return f"오류 발생: {str(e)}"

# Gradio 인터페이스 생성
with gr.Blocks(title="Lily Math RAG System (Public Model)", theme=gr.themes.Soft()) as demo:
    gr.Markdown("# 🧮 Lily Math RAG System (공개 모델)")
    gr.Markdown("수학 문제 해결을 위한 AI 시스템입니다. (공개 모델 사용)")
    
    with gr.Tabs():
        # 채팅 탭
        with gr.Tab("💬 채팅", icon="💬"):
            chatbot = gr.Chatbot(height=400)
            msg = gr.Textbox(
                label="메시지를 입력하세요",
                placeholder="안녕하세요! 수학 문제를 도와주세요.",
                lines=2
            )
            clear = gr.Button("대화 초기화")
            
            def respond(message, chat_history):
                bot_message = chat_with_public_model(message, chat_history)
                chat_history.append((message, bot_message))
                return "", chat_history
            
            msg.submit(respond, [msg, chatbot], [msg, chatbot])
            clear.click(lambda: None, None, chatbot, queue=False)
        
        # 수학 문제 해결 탭
        with gr.Tab("🧮 수학 문제 해결", icon="🧮"):
            with gr.Row():
                with gr.Column():
                    math_input = gr.Textbox(
                        label="수학 문제",
                        placeholder="예: 2x + 5 = 13",
                        lines=3
                    )
                    solve_btn = gr.Button("문제 풀기", variant="primary")
                
                with gr.Column():
                    math_output = gr.Textbox(
                        label="해답",
                        lines=8,
                        interactive=False
                    )
            
            solve_btn.click(solve_math_with_public_model, math_input, math_output)
        
        # 설정 탭
        with gr.Tab("⚙️ 설정", icon="⚙️"):
            gr.Markdown("## 시스템 정보")
            gr.Markdown("**모델**: 공개 모델 (토큰 불필요)")
            gr.Markdown("**상태**: ✅ 작동 중")
            gr.Markdown("**버전**: 1.0.0 (공개 모델)")

if __name__ == "__main__":
    demo.launch()