MOGODIK/ssiat-1.0

씨앗 (Ssiat) 1.0

개인 컴퓨터에서 캐릭터 챗봇을 직접 만들 수 있는 254.7M 크기의 한국어 전용 언어모델입니다.

캐릭터 챗봇을 만들려면 보통 유료 API를 써야 합니다. 대화 한 번마다 비용이 나가고, 캐릭터가 늘어나면 비용도 같이 늘어납니다. 모델을 직접 학습시키려 해도 큰 모델은 장비와 시간이 많이 듭니다.

씨앗은 그 문턱을 낮추려고 만들었습니다. 크기를 줄이고 한국어에만 집중해서, 개인 장비로도 학습과 실행이 모두 가능하도록 했습니다.

적은 자원으로 만들 수 있습니다

실행	그래픽카드 한 장 (GGUF 기준 512MB)
캐릭터 하나 학습	예시 50-80개, LoRA로 1-2분
라이센스	Apache License 2.0

파인튜닝 한 번이 몇 분 안에 끝나기 때문에, 데이터를 고치고 다시 학습해서 결과를 확인하는 과정을 하루에도 여러 번 반복할 수 있습니다. 큰 모델로는 한 번의 실험에 몇 시간이 걸리는 일이라, 처음 배우는 학생이 실습용으로 쓰기에 특히 알맞습니다.

캐릭터 성능

이 모델의 강점은 지식의 양이 아니라 캐릭터를 끝까지 유지하는 능력입니다.

• 예시 30개 — 말투와 성격이 뚜렷하면 이 정도만으로도 캐릭터가 잡힙니다.
• 예시 1000개 내외 — 사람과 대화하는 것처럼 느껴질 만큼 캐릭터를 지킵니다. 학습에 없던 질문에도 그 캐릭터가 할 법한 답을 합니다.
• 긴 대화에서도 유지 — 10턴 이상 주고받아도 말투가 무너지지 않습니다. 같은 조건에서 2배 큰 모델들과 비교했을 때, 다른 모델들이 같은 문장을 반복하며 무너지는 동안에도 캐릭터를 유지했습니다.

⚠️ 이 모델 자체(ssiat-1.0)는 아무 캐릭터성도 갖고 있지 않습니다. 이름도, 성격도, 말투도 없는 백지 상태입니다. 캐릭터를 만들려면 직접 학습 데이터를 넣어서 파인튜닝해야 하며, 최소 50개 이상의 예시를 넣는 걸 권장합니다. 30개 미만이면 캐릭터가 약하게만 잡히고, 50개를 넘기면서부터 확실히 안정됩니다.

예시 캐릭터

학습 데이터 양에 따라 캐릭터가 얼마나 뚜렷해지는지 보여주는 예시입니다. examples/error/ 폴더에 GGUF와 Ollama Modelfile이 들어있습니다.

• 캐릭터: ERROR — 기억을 전부 잃은, 정체가 불분명한 존재. 일상적인 질문에도 회피하거나 철학적으로 답합니다.
• 학습 데이터: 801개 (LoRA r=64)
• 이렇게 데이터 양이 많고 컨셉이 뚜렷하면, 어떤 질문을 던져도 캐릭터를 깨지 않고 답하는 수준까지 도달합니다.

cd examples/error
ollama create npc-error -f Modelfile
ollama run npc-error

예시 캐릭터 제공: wifi.error.153@gmail.com

한계

• 세계 지식과 사실 정확도가 약합니다.
• 영어를 하지 못하고, 수학과 계산도 다루지 않습니다.
• 긴 대화에서 앞서 나온 사실을 정확히 기억하는 능력이 제한적입니다.

모델 정보

• 파라미터 수: 254.7M
• 프리트레인 스텝: 781,000
• 컨텍스트 길이: 1024
• 언어: 한국어 전용

사용법

from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("MOGODIK/ssiat-1.0")
model = AutoModelForCausalLM.from_pretrained("MOGODIK/ssiat-1.0")

prompt = "<|im_start|>user\n오늘 하루 어땠어?<|im_end|>\n<|im_start|>assistant\n"
inputs = tokenizer(prompt, return_tensors="pt")
output = model.generate(**inputs, max_new_tokens=60, temperature=0.3, do_sample=True)
print(tokenizer.decode(output[0], skip_special_tokens=True))

권장 설정: temperature 0.3~0.5, repeat_penalty 1.3

대화 포맷

<|im_start|>system
(선택) 시스템 프롬프트
<|im_end|>
<|im_start|>user
사용자 발화
<|im_end|>
<|im_start|>assistant

라이선스

Apache License 2.0