metadata
base_model: unsloth/llama-3-8b-bnb-4bit
language:
- en
license: apache-2.0
tags:
- text-generation-inference
- transformers
- unsloth
- llama
- trl
Dataset
- review_with_prefix is a combination of 50 reviews gathered from Naver's movie review corpus dataset
- opinion is a result of passing the respective review_with_prefix to gpt-4o-mini along with the below prompt:
You are a helpful assistant that helps me evaluate Korean reviews. For each movie you are given 50 reviews. Analyze the reviews, and for the movie itself return a score(1 to 10) and explanation for each of the following criteria: Emotional, Characters, Plot, Visuals, Pacing. Return the review in Korean. + {review_with_prefix[i]}
Usage
from unsloth import FastLanguageModel
max_seq_length = 2048 # Choose any! We auto support RoPE Scaling internally!
dtype = None # None for auto detection. Float16 for Tesla T4, V100, Bfloat16 for Ampere+
load_in_4bit = True # Use 4bit quantization to reduce memory usage. Can be False.
model, tokenizer = FastLanguageModel.from_pretrained(
model_name = "divakaivan/llama3-finetuned-reviewer-kr",
max_seq_length = max_seq_length,
dtype = dtype,
load_in_4bit = load_in_4bit,
)
FastLanguageModel.for_inference(model) # Enable native 2x faster inference
alpaca_prompt = """Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.
### Instruction:
You are a helpful assistant that helps me evaluate Korean reviews. For each movie you are given 50 reviews. Analyze the reviews, and for the movie itself return a score(1 to 10) and explanation for each of the following criteria: Emotional, Characters, Plot, Visuals, Pacing. Return the review in Korean.
### Input:
{}
### Response:
{}"""
inputs = tokenizer(
[
alpaca_prompt.format(
"", # input - place your input here
"", # output - leave this blank for generation!
)
], return_tensors = "pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens = 1000, use_cache = True)
tokenizer.batch_decode(outputs)
Sample input:
๋ฆฌ๋ทฐ 1: ์ต๊ณ ์ 2d์ํ๊ฐ ์๋๊ฐ์ถ์ผ๋ค....!; ๋ฆฌ๋ทฐ 2: ์นด๋ฆฌ์ค๋ง์๋ ฌ~์ญ๋ํผ๋์
์๋ฆฌ์ฆ1.2.3ไธญ๊ฐ์ฅ์ข์์ก์
์์!!; ๋ฆฌ๋ทฐ 3: ์..๋ณ๋ก๋ค..์ ๋ง๋ก....; ๋ฆฌ๋ทฐ 4: ํ....์ ๋ง ๋ง์ด ์๋์ค๋ ์ํ. ๋ด์ฉ, ์ฐ์ถ, ์นด๋ฉ๋ผ, ์ฐ๊ธฐ๊น์ง ๋ญ ํ๋ ์ ๋๋ก ๋ง์๋๋ ๋ถ๋ถ์ด ์๋ค. ์์ B๊ธ ์ํ ๋๋. '๋ณธ'์ด๋ผ๋ ํ์ดํ์ ๋ฌ๊ณ ์๋ฉ์์
์ ํ์ด์ฃผ๊ธฐ์ ๋๋ฌด๋๋ ๋ถ์กฑํ ์ํ. ๋ณธ์๋ฆฌ์ฆ ํฌ์ผ๋ก์ ์ ๋ง ๋ง์ ์๋๋ ์ํ์๋ค.; ๋ฆฌ๋ทฐ 5: ์ก์
๋ณด๋ค๋ ๋๋ผ๋ง....๋๋ฏธ๋ผํ์ค, ์ฝ๋ฆฐํจ๋ด์ ๊ฐ์ ์ฐ๊ธฐ๊ฐ ์ ๋ง ๊ตณ์ธ ์ํ; ๋ฆฌ๋ทฐ 6: ์์ํ ๊ฐ๋์ ๋ถ๋ฌ ์ผ์ผํค๋ ์ํ... ๊ทธ๋ ์์ง ๋ฆ์ง ์์๋ค~!!; ๋ฆฌ๋ทฐ 7: ์ ์ ๋ง ์ด๋ฐ ํ๋ง์ํ๋ฅผ ์์ํ๋ ์ํ๊ด์ด ํ ๋๊ณณ๋ฐ์ ์๋ค๋๊ฒ ์ ๋ง ์ํ๊น๊ณ ๋ํ๋ฏผ๊ตญ์ ์ํ์์ฅ์ด ์ผ๋ง๋ ํ์ํ๊ณ ๋จ์ํ๋ฉฐ ํ๋ด๋๋์ง ์๊ฑฐ๊ฐ๋ค.; ๋ฆฌ๋ทฐ 8: ๋ ์ผ๋ฐ; ๋ฆฌ๋ทฐ 9: ์ด๋ ์ง๋ฐฉ๋ ์ฐ๊ทน์ํํ๋ถ ์กธ์
์ํ์ด๋ผ๊ณ ํ๋ฉด ์๊ธ๊ฐ๋งํ ์ํ ใ
ใ
; ๋ฆฌ๋ทฐ 10: ํฑ๋ ์๋ ์ ๊ฒฉํ. ๋ฒ ๋ฅผ๋ฆฐ์ํ์ ์ ์์ ๋ฌด์.; ๋ฆฌ๋ทฐ 11: ํ์๊ณผ ๊ท ํ์ ๋ํ ๋ง์ ์๊ฐ์ด ๋ค๊ฒ ๋ง๋๋ ์ํ.; ๋ฆฌ๋ทฐ 12: ํํฉ์์
์ ์ข์ํ๊ณ ๊ทธ๋ค์ ๊ฟ๊พธ๋ ์ฌ๋ ์
์ฅ์ผ๋ก์์ฌํ๊ธฐ๋ํ๊ณ ์ฌ๋ฏธ๋ ์๋ค ๊ณต๊ฐ๋๋ ์๊ณ ๋ง์ง๋ง์ ์ฐจ์์ ๋ฉํ ๋ ๋๋ก๋ฅผ ๋ณด๋Uํดํ๋ผ๋๊ฒ ๋ณด์ด๋๋ฐ ์ฐธ ์์ธํ๋ค; ๋ฆฌ๋ทฐ 13: ์ฌ๋๋ง๋ค ๋๋ฆฌ๋ ์ํ๊ฐ ์๋๋ณด๋ค.; ๋ฆฌ๋ทฐ 14: ํ์กดํ๋ ์ต๊ณ ์ ๋ก๋งจํฑ์ฝ๋ฏธ๋ ๋ผ ์๊ฐ ํฉ๋๋คใ
ใ
; ๋ฆฌ๋ทฐ 15: ๊ทธ๋ํฝ๋ฅ์ด๋ค์ฉ๊ทธ๋ํฝ์ด์ฐธใ
ใ
ใ
ใ
ใ
์ํ๋ฐ๋ก๋ง๋๋; ๋ฆฌ๋ทฐ 16: ๊ตญ์ฐ์ํ๋ด
์๋ค ๋ค์ธํฌ๋ด์ ๊ตญ์ฐ๋ฌผ์ฐ์ฅ๋ ค์ด๋; ๋ฆฌ๋ทฐ 17: ์ ๋ง ์ด๋ ๊ฒ๋ฐ์ ๋ชป๋ง๋๋? ํธ์ง์ด๋ผ๋ ์ข ์ํ์ง.; ๋ฆฌ๋ทฐ 18: ๋ด ์ธ์์ ์ต์
์ ์ํ๋ฅผ ๊ผฝ์ผ๋ผ๋ฉด ์ด ์ํ๊ฐ ๋จ์ฐ ๋ฒ ์คํธ5์ ์์ ๊ฑฐ๋ฌํ ๋๋๊น; ๋ฆฌ๋ทฐ 19: 1๋ฒ์งธ ๋ณผ๋๋ ๋ญ ์ด๋ฐ์กฐ์กํ ์ํ๊ฐ. 2๋ฒ์งธ ๋ณต์ด๋๋ ์ญ์ ํ
์ธ ์ผ ๊ฐ๋
์ด๊ตฌ๋ ๊ฐํ์ด; ๋ฆฌ๋ทฐ 20: ์ ์ ํ๋ค; ๋ฆฌ๋ทฐ 21: ์ฅ๋ํ๋๊ฒ๋์๋๊ณ ๋ฐ์ํ์ด ๋ญ๊ฐ ์ํ๋ค๊ณ ์ธ๊ธฐ๊ฐ ์ค๋ ฅ์ธ๊ฐใ
กใ
กํฌ๋ถ๋ค๋ ๋ค๋ฅธ ์ฌ๋์ ์
์ฅ์ ์๊ฐํ๊ณ ์กด์คํด์ผ์ง ์์๊ธฐ๋ค์ด์ข์ํ๋์ฌ๋์ด๋ผ๊ณ ๋จ๋คํํ
๊ทธ๋ด์์ผ๋ก์ ๊ธฐํ๋๊ฑฐ์์ใ
ใ
์ค๋ ฅ์ผ๋ฃจ ์น๋ถํ๋๊ฑฐ์ง ์ง๋ค์ํ์ง๋ ๋ชปํ ๊ฑฐ๋ฉด์ ์กํฌ์ง๋์ค๊น๊ณ ์์ดใ
ใ
; ๋ฆฌ๋ทฐ 22: ์ถ์ฒํ๊ณ ์ถ์ ์ฌ๋์ํ, ๋ณต์กํ ์ฌ๋..๋ ๋ฐฐ์ฐ์ ์ฐ๊ธฐ, ์ฐ์ถ๋ ฅ์ผ๋ก ๋ ๋๋ณด์์ต๋๋ค.; ๋ฆฌ๋ทฐ 23: ์ฌ์ค๊ฐ๋์น๊ณ ์ฒ์ ํ๊ณ ๊ฑฐ์นจ์๋ ๋งจ๋ชธ์คํผ๋ ์ก์
์ ๋ํ ์ดํํ์ผ๋ก๋ ๋ถ์กฑํ๊ฒ๊ฐ๋ค; ๋ฆฌ๋ทฐ 24: ์ญ์ ๊ฐ์กฑ์ํ๋ ์ด๋ฐ๊ฒ ๋ฑ์ด์์; ๋ฆฌ๋ทฐ 25: 1์ ๋นํด ์กฐ๊ธ ์ค๋ง์ค๋ฌ์ ์ต๋๋ค; ๋ฆฌ๋ทฐ 26: ์๊ฐ ์์ด ์ก์
์ ์ข์ํ๋ค๋ฉด ๊ตฟ ใ
ใ
ใ
ใ
; ๋ฆฌ๋ทฐ 27: ์๋๋ฆฌ. ์์ผ.; ๋ฆฌ๋ทฐ 28: ์ ์ด์ ๊ณตํฌ๋ฅผ ๋ณด์ฌ์ฃผ์ธ์ !; ๋ฆฌ๋ทฐ 29: ์ฑ์ฐ๋ ์ง์
์ด ์์๋?; ๋ฆฌ๋ทฐ 30: ๊ฐ๋ ฌํ ๋ด์ฉ, ๊ฐ๋ ฌํ ์ด๋ฏธ์ง.; ๋ฆฌ๋ทฐ 31: ์ฌ๋ฐ๋๋ฐ ๋ญ๊ฐ ๋ฒค์ ๋ง๋ฎ์; ๋ฆฌ๋ทฐ 32: ์ง ๋ง์ถค๋ฒ์ด๋ ๋ง์ถ๊ณ ์ด์ผ๊ธฐํ์ผ ใ
ใ
ํ์ 10์ ๋ฏธ๊ฐ์์ค ใ
ใ
ใ
; ๋ฆฌ๋ทฐ 33: ์ผ์๋ค์ฌ ใ
ใ
๊ฝ๋๊ณ ๊ฐ์~~; ๋ฆฌ๋ทฐ 34: ์กธ์; ๋ฆฌ๋ทฐ 35: GTA์ํ๋ฒ์ ์ธ์คใทใท๋ฏธ์ฟก ๋ท๊ณจ๋ชฉ ์์์น๋ค์ ์จ๊ฐ๋ฒ์ฃ ์ด๋ง๋ผ~ํ๊ตญ ์ค2๋ณ๋ค์ ๊ฑ ์๋ฅ์ด์~ใ
ใทใท; ๋ฆฌ๋ทฐ 36: ๋๋ด๊ณ ๋ดฃ๋๋ฐ ๋ณด๋ค๋ณด๋ค ๋ชป๋ด์ค์ ๊บผ๋ฒ๋ ท๋ค ์ง์ง .................................; ๋ฆฌ๋ทฐ 37: ์ฅ๋ฅ ์ ๋ ํ๋์ ๊ฑธ์!; ๋ฆฌ๋ทฐ 38: ์........; ๋ฆฌ๋ทฐ 39: ์ ์ ๋์ฌ์ ์ธ๊ณ๋ก ๋ ๋ฐ๋ ค๋ค ์ค ์ํ..; ๋ฆฌ๋ทฐ 40: ์ด ๋คํ๋ฅผ ๋ณด๋๋ด๋ด ์๋ฆ์ด ๋์๋ค. ์ ์กฐ๋์์ ์๋ํจ์, ์ ์กฐ๋์์ ์์ด์๊ธฐ์, ์์ํ์ฑ ์ ์๊ณผ์ ์, ํ๊ฐ์ ๋ค๋ฆฌ์๋ ์์ ๋ฐฐ๋ค๋ฆฌ ๋ง๋๋ ๊ณผ์ ๋ฑ์ ๋ณด๋ฉด์~~~์์ ์ ๋ดค๋ '์ ์กฐ์์ด ๋ฏธ์คํ
๋ฆฌ 8์ผ' ์ด ์๊ฐ๋ฌ๋ค. ์์ฒญ ๊ฐ๋๋ฐ์์๋๋ฐ...; ๋ฆฌ๋ทฐ 41: ์ต๊ทผ์ ๋ดค๋๋ฐ..์๊ฐ๋ ๋๋ฌด ์ด์๊ณ ..๋ค ์๋๋ด์ฉ์ด์ง๋ง ๊ทธ๋๋ ์ข๋ค์~; ๋ฆฌ๋ทฐ 42: ๊ณ ์ฌ2๋ณด๋ค ๋์ผ๋์ด ์ํ์ ๋ฌธ์ ์ ์ ๋ฌด์ญ๋ค๊ธฐ๋ณด๋ค ์์ธํ๊ฒ์ด๊ณ ์ฌ์ค ๊ทธ๋ฆฌ ์์ธํ๊ฒ๋ ์๋๋ผ ์ฐจ๋ผ๋ฆฌ ์์ธํ๊ฒ ๋ง๋ค๊ฑฐ๋ฉด 19์ธ ์ด์ฉ๊ฐ ๊ธ์ผ๋ก ๋ง๋ค์์ด์ผ ํ๋ค. ์คํ ๋ฆฌ๋ ์ง๋ถํ๊ณ ๋ ๊น๊ฒ ํ๊ณ ๋ค์์ด์ผํ๋ค. ์ด์ํ์์ ์นญ์ฐฌ๋ฐ์๋งํ ์ ์ผํ ์์๋ ๋ธ๊ธ.; ๋ฆฌ๋ทฐ 43: ์กฐ์ ์ 3๋ ์๊ตฐ ๊ณ ์ข
์ด๋ ์ง ์ธ์ฒ๋ค๋ก ์ธ๋์ ์น ํ๋ค๊ฐ ๋๋ผ๋ง์๋จน์ ๋ฏผ๋น๋
์ถ์ผ์ธ์ฐ๋ ์ํ ใ
ใ
๊ทธ๋ฐ์ํ ์ข๋ค๊ณ ๊ตญ๋ฝ ๊ฑฐํ๊ฒ ํ์ฌ๋ฐ ํ๋ ๋๋ค ์์ค ใ
ใ
ใ
๊ทธ ์์ค์ ๋ถ์นด๋์คํ ์นํธ๊น์ง ใ
ใ
; ๋ฆฌ๋ทฐ 44: ๋์ด๋ก๊ณ ์ง๋ฃจํ๋ค.๊ฐ๋
์์ ์์๋๋ฅผ์ํํํด๋ด์ง๋ชปํ๋ค.๊ฐ์กฑ์ํ๋ก๋๋น์ถ์ฒ.; ๋ฆฌ๋ทฐ 45: ์๋นํ์ง๋ฃจํ๋ค... ์ ์ ์๋ค ํนํ ๋งฅ๋ผ์ด์ธ์ด.. ๋ณด๋ค๊ฐ ๊ป๋ค.; ๋ฆฌ๋ทฐ 46: ์ํํด์ค๋ณด๊ณ ์ด๋ ๊ฒ ์ค๋งํ๊ฑด ์ฒ์์ด๋ค์ ^^; ๋ฆฌ๋ทฐ 47: ๊ทธ๋ฅ ์ฌ๊ฐํฉ๋๋ค ๊ธ๊ณ ๋ณด์ ์ ๋์ค๋๊ฑด์ง...; ๋ฆฌ๋ทฐ 48: ํ..๊ฒฐ๋ง์ด์์ฝ๋ค์; ๋ฆฌ๋ทฐ 49: 1์ ; ๋ฆฌ๋ทฐ 50: ์ด์์ฐ ๊ฐ๋
์ ์์๋ ฅ์ ๋์ด ๊ถ๊ตผํ๋ค ๊ทธ์ ์ฐจ๊ธฐ์ ์ ๋ชฉ์ ๊ณผ์ฐ?;
Sample output:
์ํ์ ๋ํ ๋ฆฌ๋ทฐ๋ฅผ ๋ถ์ํ ๊ฒฐ๊ณผ๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
1. **๊ฐ์ (Emotional): 5/10**
- ๋ฆฌ๋ทฐ์์ ๊ฐ์ ์ ์ธ ์์๊ฐ ๋ถ์กฑํ๋ค๋ ์ธ๊ธ์ด ๋ง์์ต๋๋ค. ์ผ๋ถ๋ ๊ฐ๋์ ์ฃผ์๋ค๊ณ ํ์ง๋ง, ์ ๋ฐ์ ์ผ๋ก ๊ฐ์ ์ ์ผ๋ก ๊น์ด ์๋ ์์๊ฐ ๋ถ์กฑํ ๊ฒ์ผ๋ก ํ๊ฐ๋ฉ๋๋ค.
2. **์บ๋ฆญํฐ (Characters): 4/10**
- ์บ๋ฆญํฐ์ ๋ํ ๋นํ์ด ๋ง์์ผ๋ฉฐ, ํนํ ๋ช๋ช ๋ฆฌ๋ทฐ์์๋ ์บ๋ฆญํฐ์ ๊น์ด๊ฐ ๋ถ์กฑํ๋ค๊ณ ์ธ๊ธ๋์์ต๋๋ค. ์ด๋ก ์ธํด ์บ๋ฆญํฐ์ ๋ํ ํธ๊ฐ์ด ๋ฎ์ ๊ฒ์ผ๋ก ๋ณด์
๋๋ค.
3. **ํ๋กฏ (Plot): 3/10**
- ํ๋กฏ์ ๋ํ ๋ถ๋ง์ด ๋ง์์ต๋๋ค. ๋ง์ ๋ฆฌ๋ทฐ์์ ์คํ ๋ฆฌ๊ฐ ์ง๋ถํ๊ฑฐ๋ ์ค๋ง์ค๋ฝ๋ค๋ ์ธ๊ธ์ด ์์์ต๋๋ค. ํ๋กฏ์ ์ ๊ฐ๊ฐ ์ผ๊ด์ฑ์ด ์๊ณ , ํฅ๋ฏธ๋กญ์ง ์๋ค๋ ํ๊ฐ๊ฐ ์ง๋ฐฐ์ ์
๋๋ค.
4. **๋น์ฃผ์ผ (Visuals): 6/10**
- ๋น์ฃผ์ผ์ ๋ํ ๊ธ์ ์ ์ธ ์๊ฒฌ๋ ์์ง๋ง, ๊ทธ๋ํฝ์ด๋ ์์๋ฏธ์ ๋ํ ๋ถ์ ์ ์ธ ์ธ๊ธ๋ ๋ง์ต๋๋ค. ๋ฐ๋ผ์ ์ ์ฒด์ ์ผ๋ก ๋น์ฃผ์ผ์ด ์ค๊ฐ ์ ๋๋ก ํ๊ฐ๋ฉ๋๋ค.
5. **ํ์ด์ฑ (Pacing): 4/10**
- ๋ฆฌ๋ทฐ์์ ์ํ๊ฐ ์ง๋ฃจํ๋ค๋ ์๊ฒฌ์ด ๋ง์์ผ๋ฉฐ, ํนํ ์ง๋ฃจํ ๋ถ๋ถ์ด ๋ง์ ๊ฒ์ผ๋ก ๋ณด์
๋๋ค. ํ์ด์ฑ์ด ์ข์ง ์๋ค๋ ํ์ด ์ง๋ฐฐ์ ์
๋๋ค.
์ข
ํฉ์ ์ผ๋ก, ์ด ์ํ๋ ๊ฐ์ , ์บ๋ฆญํฐ, ํ๋กฏ, ํ์ด์ฑ์์ ๋ชจ๋ ๋ฎ์ ์ ์๋ฅผ ์ป์์ต๋๋ค. ๋น์ฃผ์ผ์ ์ค๊ฐ ์ ๋๋ก ํ๊ฐ๋์ง๋ง, ์ ๋ฐ์ ์ผ๋ก ์ค๋ง์ค๋ฌ์ด ์ํ๋ก ํ๊ฐ๋ฉ๋๋ค.
Uploaded model
- Developed by: divakaivan
- License: apache-2.0
- Finetuned from model : unsloth/llama-3-8b-bnb-4bit
This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.