TR-Robot-Komut

Masa üstü bir robot kol için Türkçe talimatı, verilen masa sahnesine bakarak yapılandırılmış bir eylem planına çeviren; talimat belirsiz ya da yapılamaz ise netleştirme sorusu soran bir kıyaslama ve veri seti. 1500 öğe, 750 eşli grup. Puanlama metin eşleşmesiyle değil, planı sahnede yürüterek yapılır.

Sınır (önemli). Bu bir talimat anlama katmanıdır (metin + sahne -> plan ya da soru). Robot kontrolü, robot öğrenmesi ya da kavrama/hareket planlaması değildir. Hiçbir şey gerçek bir robotta denenmemiştir. Sahne iki boyutlu, fizik yoktur. Sahne dünyası robot-gorme benzetim üretecimizdeki şekil ve renk kümesiyle aynıdır, ama burada görüntü yok, yalnız koordinatlı sahne JSON'u var.

Dünya

• Şekiller: kutu, silindir, top, disk, cubuk, prizma. Renkler: kirmizi, mavi, yesil, sari, turuncu, mor, siyah, beyaz.
• Masa 100 x 60 birim. x soldan sağa, y önden (robota yakın) arkaya artar.
• Hedefler: raf_1, raf_2 (raflar), kutu_a, kutu_b (kaplar; "kutu" şekilli nesneyle karıştırılmamalı), her zaman geçerli bolge_sol, bolge_orta, bolge_sag (masanın üç şeridi).
• elde: robotun başlangıçta tuttuğu nesne (ya da null).
• Sahne: {"nesneler":[{"id","sekil","renk","x","y","bolge"}], "hedefler":[{"id","tur","x","y"}], "elde": id|null}.

Çıktı biçimi

Plan: {"islem":"plan","adimlar":[{"eylem":"al","nesne":"o3"},{"eylem":"birak","hedef":"raf_1"}]}

Soru: {"islem":"netlestir","soru":"...","eksik":"nesne_belirsiz"}

Kapalı eylem kümesi (ön koşullarıyla):

Eylem	Alanlar	Ön koşul
al	nesne	El boş, nesne var
birak	hedef	Elde nesne var, hedef var
git	hedef (nesne, hedef ya da ev)	Hedef var; yalnız tutucu konumunu değiştirir
it	nesne, yon (sol, sag, on, arka)	El boş; nesne 15 birim kayar ve masadan düşmemeli
sirala	nesneler (sıralı), yon (soldan_saga, sagdan_sola)	El boş; nesneler tek satıra eşit aralıkla dizilir

Netleştirme kodları (eksik): nesne_belirsiz (tarif birden fazla nesneye uyar), nesne_yok, hedef_belirsiz ("rafa" ama iki raf var), hedef_yok, hedef_eksik (nereye?), yon_eksik, yon_imkansiz (itilirse masadan düşer), el_dolu (elde nesne varken önce bırakmak söylenmemiş).

Tasarım: eşli sürümler

Her grup (cift_id) iki öğedir: net sürüm (surum = acik, altın = plan) ve tek bir sorun eklenmiş sorunlu sürüm (belirsiz, imkansiz ya da eksik; altın = soru). Sorun, eksik koduna göre ya sahneye (kopya nesne eklemek, nesneyi çıkarmak, ikinci raf eklemek, hedefi çıkarmak, nesneyi kenara taşımak) ya da talimata (hedefin ya da yönün silinmesi) eklenir; 529 çiftte (%71) iki sürümün talimat metni birebir aynıdır, fark yalnız sahnededir. Net sürümler boş sahneler değildir: tarifin hedefiyle aynı renkte ve aynı şekilde çeldirici nesneler vardır, nesne sayısı 4–10'dur. Çiftler önemlidir: her zaman soran bir model sorunlu sürümlerde tam puan alır ama net sürümlerde sıfır alır; bu yüzden ikisi ayrı ayrı raporlanır.

Tarif türleri (net sürüm): renk + şekil ("kırmızı küp"), yalnız renk ("mavi olanı"), yalnız şekil ("silindiri"), sıra ("en soldaki", "soldan ikinci", "en arkadaki"), ilişki ("mavi topun yanındaki / solundaki / sağındaki / önündeki / arkasındaki kutu"), toplu ("bütün kırmızı nesneleri"), elde tutulan ("elindekini"). Görev türleri: al, koy (al + bırak), it, git, çok adımlı (2–3 parça), hepsini taşı, sırala, elindekini bırak, elde nesne varken önce bırakıp yeni görev.

Ölçülü kurallar (modele istemde verilir): "yanında" = merkezler arası uzaklık en çok 22; "solunda/sağında" = 6–35 birim ve |dy| en çok 14; "önünde/arkasında" = 6–28 birim ve |dx| en çok 14; sıra bildiren tarifte komşuyla fark 6 birimden azsa sıra belirsizdir. Net sürümlerde hiçbir nesne bu sınırların 4 birim yakınında değildir.

Türkçe çeşitliliği: ad durumu ekleri (belirtme, yönelme, tamlayan, çoğul; ünlü uyumu, kaynaştırma ve ünsüz yumuşaması kodla üretilir), eş anlamlılar (küp, küre, sopa, üçgen prizma), günlük dil ve nezaket kalıpları ("alsana", "alır mısın", "bi", "abi", "rica etsem"), sıra değişimi, bağlaç çeşitliliği. Yazım bozulması küçük paydadır: %3,5 aksansız (ASCII) ve %5,3 tek harf hatası (anahtar sözcüklere dokunulmaz).

İçerik

• 1500 öğe: 750 net, 266 belirsiz, 331 yapılamaz, 153 bilgi eksik.
• Benzersiz talimat metni: 964 (sahne farkıyla eşli sürümlerde metin aynı olabilir; sahne + talimat çiftleri 1500 benzersizdir).
• Net sürümlerde plan uzunluğu: 1 adım: 372, 2 adım: 205, 3 adım: 78, 4 adım: 56, 5 adım: 11, 6 adım: 28.
• Sahnede nesne sayısı: 4–10 (ortalama 7.2).

Görev türü (net sürüm)	Öğe
al	136
coklu	98
el_al	15
el_it	15
el_koy	38
elde_birak	30
git_hedef	15
git_nesne	39
hepsi_koy	38
it	91
koy	174
sirala	61

Netleştirme kodu	Öğe
nesne_belirsiz	186
nesne_yok	126
hedef_yok	88
hedef_eksik	88
hedef_belirsiz	80
el_dolu	68
yon_eksik	65
yon_imkansiz	49

Alanlar

Alan	Açıklama
id	Öğe kimliği (TRK-0001 ...)
cift_id	Net ve sorunlu sürümü birleştiren grup kimliği
surum	acik, belirsiz, imkansiz, eksik
beklenen	plan ya da netlestir
istek	Türkçe talimat
sahne	Nesneler, hedefler, elde tutulan
altin	Altın çıktı (plan ya da netlestir; netleştirmede soru ve eksik)
eksik	Netleştirme kodu (net sürümde null)
gorev_turu, tarif_turu	Üretim sınıfları
yazim	temiz, ascii, hata
gorev	Talimatın anlamsal biçimi (tarifler ve parçalar); altın bunun sahneden çözümüdür

Üretim

Tamamen kural tabanlı ve tohumludur (tohum 20261108, kod/uret.py); yeniden üretim bayt düzeyinde aynı dosyayı verir (kod/dogrula.py bunu denetler). Önce sahne rastgele kurulur, ardından görev tarifi sahnedeki bir nesneden türetilir ve çeldiriciler eklenir; altın çıktı, sahneden ve anlamsal görevden kodla çözülür (kod/dunya.py, coz), elle yazılmaz. Sorunlu sürüm bir değişiklikle kurulur ve çözücü sonucun beklenen eksik koduna çıktığını doğrulayana kadar yeniden denenir. Talimat metni şablon + Türkçe ek üretimiyle (kod/turkce.py, kod/metin.py) yazılır. Hiçbir dış veri, Hugging Face verisi ya da başka bir veri seti kullanılmamıştır; içerik bu projeye aittir.

Denetleyici. kod/kontrol.py bir planı sahnede adım adım yürütür: nesne var mı, el boş mu, elde nesne var mı, hedef var mı, itilen nesne masadan düşüyor mu denetlenir; ardından son durum altın planın son durumuyla karşılaştırılır (nesne yerleri, elde tutulan; son eylem git ise tutucu konumu). Aynı sonuca giden farklı adım sıraları (örneğin "bütün kırmızıları" taşımada nesne sırası, fazladan git adımı) doğru sayılır. Geçersiz plan, yanlış nesne ve yanlış sonuç ayrı raporlanır. Birim testleri kod/test_dunya.py içindedir (standart unittest): Türkçe ekler, simülatörle sabit eşleşmesi (robot-gorme/uret.py dosyası okunarak), tarif çözücü, denetleyici ön koşulları, sonuç eşdeğerliği, puanlama sınıfları, üretici değişmezleri ve belirlilik.

Ölçüm yöntemi

Tabakalı 300 öğe: sorunlu sürümler (eksik kodu x görev türü) tabakalarına orantılı 150 grup örneklenir, her grubun iki sürümü de alınır (150 net + 150 sorunlu; tohum 20261108; kimlikler sonuclar/ornek_idleri.json). Modeller: gemma-4-31b, deepseek-v4.1-flash, glm-5.3, qwen3.8-flash-next, mimo-v2.6-pro; barındırılan bir API üzerinden, sıcaklık 0, en çok 4096 jeton, eşzamanlılık 2, tek çalıştırma. Sistem istemi (kod/istem.py) dünyayı, eylemleri, sınır kurallarını, netleştirme kodlarını ve üç örneği verir; tüm modellere aynıdır. Yanıttan ilk JSON nesnesi ayıklanır.

Metrikler (%95 Wilson aralığı):

• Doğru plan: net sürümde planın sahnede geçerli ve altınla aynı sonuca götürmesi.
• Gereksiz soru (false ask): net sürümde netlestir demesi.
• Doğru soru: sorunlu sürümde netlestir demesi (kod eşleşmesi ayrı raporlanır).
• Sessiz plan (wrong silent plan): sorunlu sürümde plan yazması; plan şans eseri çalışır olsa da sessiz plan sayılır.
• JSON üretmeyen, tavana takılan ve API hatasıyla sonuçlanan yanıtlar ayrı sayılır ve ana oranlarda yanlış sayılır.
• Aralıkları çakışan modeller sıralanmaz.

Sonuçlar

Sütunlardaki k/n değerleri modelin yanıtladığı net ve sorunlu öğeler üzerindendir (parantez: %95 Wilson aralığı, alt–üst, puan olarak). Ölçüm 2026-11-09 tarihinde yapıldı.

Model	Doğru plan (net talimat)	Gereksiz soru (net talimat)	Doğru soru (sorunlu talimat)	Sessiz plan (sorunlu talimat)	Tam doğru
deepseek-v4.1-flash	%99 (148/150; 95–100)	%1 (2/150; 0–5)	%99 (149/150; 96–100)	%1 (1/150; 0–4)	%99 (297/300; 97–100)
mimo-v2.6-pro	%99 (148/150; 95–100)	%1 (2/150; 0–5)	%99 (149/150; 96–100)	%1 (1/150; 0–4)	%99 (297/300; 97–100)
qwen3.8-flash-next	%99 (149/150; 96–100)	%0 (0/150; 0–2)	%95 (143/150; 91–98)	%1 (2/150; 0–5)	%97 (292/300; 95–99)
gemma-4-31b	%99 (149/150; 96–100)	%1 (1/150; 0–4)	%94 (141/150; 89–97)	%6 (9/150; 3–11)	%97 (290/300; 94–98)
glm-5.3	%88 (132/150; 82–92)	%3 (4/150; 1–7)	%86 (129/150; 80–91)	%0 (0/150; 0–2)	%87 (261/300; 83–90)

Model	Yanlış plan (net)	Biçim hatası (net / sorunlu)	API hatası	Tavana takılan	Soru sorarken doğru eksik kodu	Çift ikisi de doğru	Ort. gecikme (sn)
deepseek-v4.1-flash	%0 (0/150; 0–2)	0 / 0	0	0	%99 (147/149; 95–100)	%98 (147/150; 94–99)	36.6
mimo-v2.6-pro	%0 (0/150; 0–2)	0 / 0	0	0	%100 (149/149; 97–100)	%98 (147/150; 94–99)	37.9
qwen3.8-flash-next	%0 (0/150; 0–2)	1 / 5	0	6	%100 (143/143; 97–100)	%95 (143/150; 91–98)	23.3
gemma-4-31b	%0 (0/150; 0–2)	0 / 0	0	0	%100 (141/141; 97–100)	%93 (140/150; 88–96)	13.8
glm-5.3	%0 (0/150; 0–2)	14 / 21	22	13	%99 (128/129; 96–100)	%79 (119/150; 72–85)	72.8

Aralıkları ayrık (ayırt edilebilir) çiftler, metrik başına:

• doğru plan: gemma-4-31b ile glm-5.3 ayrışıyor (gemma-4-31b daha yüksek); deepseek-v4.1-flash ile glm-5.3 ayrışıyor (deepseek-v4.1-flash daha yüksek); qwen3.8-flash-next ile glm-5.3 ayrışıyor (qwen3.8-flash-next daha yüksek); mimo-v2.6-pro ile glm-5.3 ayrışıyor (mimo-v2.6-pro daha yüksek)
• gereksiz soru: hiçbir çift ayrışmıyor
• doğru soru: deepseek-v4.1-flash ile glm-5.3 ayrışıyor (deepseek-v4.1-flash daha yüksek); qwen3.8-flash-next ile glm-5.3 ayrışıyor (qwen3.8-flash-next daha yüksek); mimo-v2.6-pro ile glm-5.3 ayrışıyor (mimo-v2.6-pro daha yüksek)
• sessiz plan: gemma-4-31b ile glm-5.3 ayrışıyor (gemma-4-31b daha yüksek)
• tam doğru: gemma-4-31b ile glm-5.3 ayrışıyor (gemma-4-31b daha yüksek); deepseek-v4.1-flash ile glm-5.3 ayrışıyor (deepseek-v4.1-flash daha yüksek); qwen3.8-flash-next ile glm-5.3 ayrışıyor (qwen3.8-flash-next daha yüksek); mimo-v2.6-pro ile glm-5.3 ayrışıyor (mimo-v2.6-pro daha yüksek)

Listelenmeyen çiftler için aralıklar çakışıyor; bu modeller birbirinden farklı diye sıralanmaz. Tablodaki satır sırası yalnız tam doğru oranına göredir ve sıralama iddiası taşımaz.

Sorunlu sürümlerde doğru soru sayısı, eksik koduna göre (betimleyici, hücreler küçüktür):

Model	el_dolu	hedef_belirsiz	hedef_eksik	hedef_yok	nesne_belirsiz	nesne_yok	yon_eksik	yon_imkansiz
deepseek-v4.1-flash	14/14	16/16	17/17	17/17	36/37	26/26	13/13	10/10
mimo-v2.6-pro	14/14	16/16	17/17	17/17	36/37	26/26	13/13	10/10
qwen3.8-flash-next	13/14	16/16	15/17	17/17	33/37	26/26	13/13	10/10
gemma-4-31b	14/14	16/16	15/17	17/17	30/37	26/26	13/13	10/10
glm-5.3	11/14	14/16	16/17	14/17	27/37	26/26	13/13	8/10

Net sürümlerde doğru plan sayısı, görev türüne göre (betimleyici):

Model	al	coklu	el_al	el_it	el_koy	elde_birak	git_hedef	git_nesne	hepsi_koy	it	koy	sirala
deepseek-v4.1-flash	27/27	19/19	3/3	3/3	7/8	6/6	3/3	8/8	7/7	18/18	36/36	11/12
mimo-v2.6-pro	27/27	19/19	3/3	3/3	8/8	6/6	3/3	7/8	7/7	18/18	36/36	11/12
qwen3.8-flash-next	26/27	19/19	3/3	3/3	8/8	6/6	3/3	8/8	7/7	18/18	36/36	12/12
gemma-4-31b	26/27	19/19	3/3	3/3	8/8	6/6	3/3	8/8	7/7	18/18	36/36	12/12
glm-5.3	26/27	16/19	3/3	2/3	7/8	4/6	3/3	5/8	7/7	15/18	35/36	9/12

Toplam kota kullanımı beş model için yaklaşık 2,737,758 jeton eşdeğeridir (önbellek %3 ağırlıkla).

Sınırlar

• Sentetik ve şablon tabanlı. Dil çeşitliliği sınırlıdır ve gerçek kullanıcı dilini temsil etmez; modeller şablon kalıplarını öğrenmiş olabilir. Sonuçlar gerçek robot kullanıcılarının dili için genelleştirilmemelidir.
• Anlaşmaya dayalı uzaysal kurallar. "Yanında", "solunda" gibi ilişkilerin sayısal eşikleri bizim kararımızdır ve modele istemde verilmiştir; gerçek insanlar bu ilişkileri farklı yorumlayabilir. Eşik kurallarını okuma becerisi de ölçülmektedir.
• İki boyut, fizik yok. Düşme, devrilme, çarpışma, ulaşılabilirlik, kavrama ve üst üste istif modellenmez; it sabit 15 birim kaydırır.
• Hiçbir şey gerçek robotta denenmemiştir ve görüntü yok: nesneler algılanmış varsayılır.
• Hangi durumun "sorulması gereken" durum olduğu bizim kararımızdır; bazı sorunlu sürümler makul bir varsayımla da yürütülebilir (örneğin tek bir rafa yerine ilk raf), ama burada beklenen davranış soru sormaktır.
• Tek çalıştırma, tek sıcaklık, tek sistem istemi. Başka bir istemle (özellikle "sorma" eğilimini değiştiren) sıralamalar değişebilir. 150 öğelik hücrelerde aralıklar yaklaşık ±5–8 puandır.
• Altın planlar tekil çözümdür: sonuç eşdeğerliği farklı adım sıralarını kabul eder ama farklı bir ama makul yorumu (ör. "al" yerine yalnız git) kabul etmez.
• Sonuç yalnız bu görev içindir; genel bir model sıralaması değildir.

Dosyalar

• data/tr_robot_komut.jsonl: veri.
• kod/: üretici, çözücü, denetleyici, testler, ölçüm betiği, istem.
• sonuclar/ozet.json, sonuclar/ham/, sonuclar/ornek_idleri.json: ölçüm çıktıları ve ham yanıtlar.
• Görselleştirme: Space mvdelibas/tr-robot-komut-demo (özel).

Lisans

CC0-1.0 (kamu malı bağışı). Veri ve kod tamamen bu projeye aittir.

English summary

TR-Robot-Komut is a Turkish benchmark and dataset (1500 items = 750 paired groups) that turns a natural-language instruction for a tabletop robot arm into a structured action plan over a small closed action set (pick, place, move, push, arrange), and asks a clarifying question when the instruction is ambiguous, impossible or incomplete. Each group has a clear version and a version with exactly one problem (duplicate referent, missing object, missing target or direction, push off the table, hand already full). Gold output is derived from the scene by code, generation is deterministic and rule-based (seed 20261108), and scoring executes the model's plan against the scene instead of matching strings. All content is own work under CC0-1.0; no Hugging Face or other external data was used. This is an instruction-understanding layer, not robot control or robot learning, and nothing was tested on a real robot. Five chat models, queried through a hosted API, were to be measured on a stratified 300-item sample (150 clear, 150 problem items; temperature 0, one run); the table above reports correct plans, correct asks, false asks and wrong silent plans with 95% Wilson intervals, and models whose intervals overlap are not ranked.

İlgili çalışmalar / Related on Hugging Face

Robot görme / Robot vision: robot-v2-seg · robot-v2-obb · robot-v2-pose · robot-v2-gercek-test · tr-robot-komut-demo

Tüm çalışmalar / All work: https://huggingface.co/mvdelibas