test_script.py

# /// script
# dependencies = ["transformers", "peft", "torch", "accelerate", "datasets"]
# ///

"""HF Jobs에서 모델 테스트"""

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

# 설정
BASE_MODEL = "Qwen/Qwen2.5-0.5B"
ADAPTER_MODEL = "epinfomax/youtube-thumbnail-trend-analyzer"

print("=" * 60)
print("YouTube 썸네일 트렌드 분석 모델 테스트")
print("=" * 60)

# 모델 로드
print("\n모델 로드 중...")
tokenizer = AutoTokenizer.from_pretrained(ADAPTER_MODEL)

base_model = AutoModelForCausalLM.from_pretrained(
    BASE_MODEL,
    torch_dtype=torch.float16,
    device_map="auto",
    trust_remote_code=True
)

model = PeftModel.from_pretrained(base_model, ADAPTER_MODEL)
model.eval()
print("모델 로드 완료!")

# 테스트 입력
test_input = """다음 썸네일 분석들을 보고 오늘의 트렌드를 요약하고 Midjourney 프롬프트를 추천해줘:

[음악] 순순희 - 소심한 남자
- 배경: 오렌지색 그라데이션
- 인물: 졸린 표정, 고개 숙임
- 텍스트: '소심한 남자' 흰색 세리프체
- 분위기: 감성적, 서정적

[게임] 칼바람 카르텔
- 배경: 어두운 게임 화면
- 인물: 게임 캐릭터들
- 텍스트: '찐행복롤' 노란색 굵은 글씨
- 분위기: 유머러스, 가벼운

[엔터테인먼트] 황정민 유행어
- 배경: 방송 스튜디오
- 인물: 황정민, 웃는 표정
- 텍스트: 없음
- 분위기: 코믹, 친근함

[과학기술] 아이폰 신기술
- 배경: 깔끔한 흰색/회색
- 인물: 없음
- 텍스트: 기술 관련 텍스트
- 분위기: 미래적, 깔끔함

[노하우] 기안84 수영장
- 배경: 수영장, 파란색
- 인물: 기안84, 뛰어드는 모습
- 텍스트: '영하4도' 빨간색
- 분위기: 도전적, 유머러스"""

print("\n" + "=" * 60)
print("입력:")
print("=" * 60)
print(test_input[:500] + "...")

# 응답 생성
print("\n" + "=" * 60)
print("모델 응답 생성 중...")
print("=" * 60)

messages = [{"role": "user", "content": test_input}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=500,
        temperature=0.7,
        top_p=0.9,
        do_sample=True,
        pad_token_id=tokenizer.pad_token_id,
        eos_token_id=tokenizer.eos_token_id,
    )

response = tokenizer.decode(outputs[0], skip_special_tokens=True)

# 프롬프트 부분 제거
if "추천해줘:" in response:
    response = response.split("추천해줘:")[-1].strip()

print("\n" + "=" * 60)
print("모델 출력:")
print("=" * 60)
print(response)

print("\n" + "=" * 60)
print("테스트 완료!")
print("=" * 60)