Instructions to use tufanakbas23/Pusula-danisman-ai with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- llama-cpp-python
How to use tufanakbas23/Pusula-danisman-ai with llama-cpp-python:
# !pip install llama-cpp-python from llama_cpp import Llama llm = Llama.from_pretrained( repo_id="tufanakbas23/Pusula-danisman-ai", filename="mistral-nemo-instruct-2407.Q4_K_M.gguf", )
llm.create_chat_completion( messages = [ { "role": "user", "content": "What is the capital of France?" } ] ) - Inference
- Notebooks
- Google Colab
- Kaggle
- Local Apps
- llama.cpp
How to use tufanakbas23/Pusula-danisman-ai with llama.cpp:
Install from brew
brew install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M # Run inference directly in the terminal: llama-cli -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M # Run inference directly in the terminal: llama-cli -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M # Run inference directly in the terminal: ./llama-cli -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama-cli -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Use Docker
docker model run hf.co/tufanakbas23/Pusula-danisman-ai:Q4_K_M
- LM Studio
- Jan
- vLLM
How to use tufanakbas23/Pusula-danisman-ai with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "tufanakbas23/Pusula-danisman-ai" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "tufanakbas23/Pusula-danisman-ai", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/tufanakbas23/Pusula-danisman-ai:Q4_K_M
- Ollama
How to use tufanakbas23/Pusula-danisman-ai with Ollama:
ollama run hf.co/tufanakbas23/Pusula-danisman-ai:Q4_K_M
- Unsloth Studio
How to use tufanakbas23/Pusula-danisman-ai with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for tufanakbas23/Pusula-danisman-ai to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for tufanakbas23/Pusula-danisman-ai to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for tufanakbas23/Pusula-danisman-ai to start chatting
- Pi
How to use tufanakbas23/Pusula-danisman-ai with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @mariozechner/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "tufanakbas23/Pusula-danisman-ai:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Hermes Agent new
How to use tufanakbas23/Pusula-danisman-ai with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama-server -hf tufanakbas23/Pusula-danisman-ai:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default tufanakbas23/Pusula-danisman-ai:Q4_K_M
Run Hermes
hermes
- Docker Model Runner
How to use tufanakbas23/Pusula-danisman-ai with Docker Model Runner:
docker model run hf.co/tufanakbas23/Pusula-danisman-ai:Q4_K_M
- Lemonade
How to use tufanakbas23/Pusula-danisman-ai with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull tufanakbas23/Pusula-danisman-ai:Q4_K_M
Run and chat with the model
lemonade run user.Pusula-danisman-ai-Q4_K_M
List all available models
lemonade list
ProjeDanışmanAI — Pusula
TEKNOFEST ve TÜBİTAK yarışmacıları için Türkçe yapay zeka danışmanı.
Mistral-Nemo-Instruct-2407 (12B) modeli, TEKNOFEST ve TÜBİTAK proje süreçlerine özel hazırlanmış Türkçe veri seti ile QLoRA yöntemiyle fine-tune edilmiştir. Genel amaçlı bir dil modelinin aksine bu model; proje fikri netleştirme, teknik rapor yazımı, başvuru hazırlığı ve jüri hazırlığı gibi görevler için özel olarak yapılandırılmıştır.
Neden Bu Model?
TEKNOFEST ve TÜBİTAK başvuru süreçleri, özellikle ilk kez başvuran öğrenciler için karmaşık olabilir. Problem tanımı nasıl yazılmalı, özgün değer nasıl kurulmalı, jüri hangi noktalara dikkat eder — bu soruların büyük dil modellerinden alınan genel yanıtları çoğu zaman yeterince bağlama duyarlı olmaz.
Bu model, genel amaçlı soru-cevap yerine alan-özel ince ayar yapılmış bir yapıyı tercih ederek kullanıcılara TEKNOFEST ve TÜBİTAK bağlamına doğrudan uygun rehberlik sunmayı hedefler. Başlangıçta RAG tabanlı bir mimari değerlendirilmiş, ancak daha tutarlı ve görev odaklı çıktılar için doğrudan fine-tuning yaklaşımına geçilmiştir.
Model Detayları
| Özellik | Değer |
|---|---|
| Temel Model | mistralai/Mistral-Nemo-Instruct-2407 |
| Yöntem | QLoRA 4-bit + unsloth |
| LoRA Rank | 64 (alpha=128, rsLoRA=True) |
| Eğitim Verisi | 3043 Türkçe instruction-output çifti |
| Epoch | 5 |
| Max Seq Length | 3072 |
| Train Loss | 0.3591 |
Kullanım Alanları
Model, aşağıdaki görevlerde kullanıcıya rehberlik etmek üzere eğitilmiştir:
- Belirsiz proje fikirlerini netleştirme ve kapsam daraltma
- Problem tanımı, amaç, yöntem ve özgün değer yazımı
- TEKNOFEST KTR/PTR teknik rapor bölümü desteği
- TÜBİTAK başvuru mantığına uygun yönlendirme
- Uygulanabilirlik ve risk analizi
- Başlık, özet ve abstract üretimi
- Sunum, pitch ve jüri hazırlığı
Sistem Mimarisi
Model; veri ve eğitim katmanı, davranış katmanı ve uygulama katmanı olmak üzere üç katmanlı bir mimari içinde çalışacak şekilde tasarlanmıştır.
Davranış katmanı, modelin hangi tonda, hangi kapsamda ve hangi görev mantığıyla yanıt vereceğini belirleyen sistem prompt, routing guide ve skill dosyalarından oluşur. Bu sayede model yalnızca metin üretmez; kullanıcının ihtiyacına göre doğru görev yapısına yönlendirilir. Tanımlı skill'ler arasında report_section_writer, project_idea_refinement, feasibility_and_risk_check, title_abstract_generator ve presentation_and_jury_preparation bulunmaktadır.
Veri Seti
3043 Türkçe instruction-output çiftinden oluşan alan-özel veri seti:
| Kategori | Örnek Sayısı |
|---|---|
| rapor_yazimi | 761 |
| sifirdan_proje | 730 |
| genel_ozet | 593 |
| strateji | 505 |
| hata_duzeltme | 324 |
| red (alan dışı red) | 130 |
Veri kümesi; proje fikri geliştirme örnekleri, rapor bölümü yazımı örnekleri, başvuru rehberliği ve sunum/jüri hazırlığına yönelik yapılandırılmış çiftler içermektedir. Alan dışı sorular (red kategorisi) için modelin açıkça reddetme davranışı sergilemesi de eğitimin bir parçasıdır.
Kullanım
GGUF (Ollama ile)
ollama create projedanismanai -f Modelfile
ollama run projedanismanai
Python (unsloth ile)
from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(
model_name = "Rudblest/projedanismanai",
max_seq_length = 3072,
dtype = None,
load_in_4bit = True,
)
FastLanguageModel.for_inference(model)
prompt = "<s>[INST] TEKNOFEST KTR raporunda risk analizi nasıl yazılır? [/INST] "
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
output = model.generate(**inputs, max_new_tokens=512, temperature=0.7)
print(tokenizer.decode(output[0], skip_special_tokens=True))
Hedef Kitle
- TEKNOFEST projesi hazırlayan lise ve üniversite öğrencileri
- TÜBİTAK başvurusu yapacak ekipler
- Proje fikrini netleştirmekte zorlanan kullanıcılar
- Proje raporu yazarken rehber desteğe ihtiyaç duyanlar
Sınırlamalar
- Yalnızca Türkçe yanıt verir
- Alan dışı sorular (yemek, borsa, sağlık vb.) reddedilir
- TEKNOFEST/TÜBİTAK dışı mühendislik konularında performans düşebilir
Lisans
Apache 2.0 — Mistral-Nemo temel modeli lisansına uygun.
- Downloads last month
- 53