File size: 2,325 Bytes
a0e7005 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 | """
CAPRAZ KONTROL: motorun urettigi her GERCEK-kelime cevabini, zeyrek'in
o kok+cekimi COZUMLEYIP ayni yuzey formunu URETIP uretmedigiyle karsilastir.
Zeyrek analiz->uretim (generate) destekliyorsa kullan; yoksa en azindan
cevabin cozumu, beklenen morfem etiketleriyle uyusuyor mu bak.
Amac: 'gecerli form' degil 'DOGRU cekim' garantisi.
"""
import json, sys, zeyrek
data=json.load(open(sys.argv[1] if len(sys.argv) > 1 else "turkmorfbench.json", encoding="utf-8"))
an=zeyrek.MorphAnalyzer()
# gorev -> beklenen morfem etiketleri. Zeyrek etiketleri buyuk/kucuk harf ve
# format farkli olabilir; birden cok olasi etiketi kabul et (esnek eslesme).
GOREV_ETIKET={
"cogul":["A3pl","Pl"], "iyelik_1sg":["P1sg"], "iyelik_3sg":["P3sg"],
"iyelik_1pl":["P1pl"], "hal_belirtme":["Acc"], "hal_yonelme":["Dat"],
"hal_bulunma":["Loc"], "hal_ayrilma":["Abl"],
}
def etiket_var(bulunan, beklenenler):
# esnek: beklenen etiketlerden HERHANGI biri (buyuk/kucuk duyarsiz) bulunanda mi
bl=set(b.lower() for b in bulunan)
return any(e.lower() in bl for e in beklenenler)
gercekler=[x for x in data if x["tip"]=="gercek"]
supheli=[]; onaylı=0
for x in gercekler:
cevap=x["cevap"]; gorev=x["gorev"]
beklenen=GOREV_ETIKET.get(gorev,[])
try:
r=an.analyze(cevap)
if not (r and r[0]):
supheli.append((x["kok"],gorev,cevap,"cozumlenemedi")); continue
# tum analizlerdeki morfem etiketlerini topla
bulunan=set()
for parse in r[0]:
bulunan.update(parse.morphemes)
# beklenen etiket cozumde var mi (esnek eslesme)
if not beklenen or etiket_var(bulunan, beklenen):
onaylı+=1
else:
supheli.append((x["kok"],gorev,cevap,f"beklenen {beklenen} yok, bulunan {sorted(bulunan)[:6]}"))
except Exception as e:
supheli.append((x["kok"],gorev,cevap,str(e)[:40]))
print(f"Gercek kelime cevabi: {len(gercekler)}")
print(f"Zeyrek ile ONAYLANAN (dogru cekim etiketi): {onaylı}")
print(f"SUPHELI (etiket uyusmayan): {len(supheli)}")
if supheli:
print("\n=== SUPHELI CEVAPLAR (elle bakilmali) ===")
for kok,gorev,cevap,sebep in supheli[:20]:
print(f" {kok} {gorev} -> {cevap} [{sebep}]")
else:
print("\n✓ TUM gercek-kelime cevaplari zeyrek etiketleriyle UYUMLU. Benchmark saglam.")
|