Datasets:

Modalities:
Text
Formats:
json
Libraries:
Datasets
pandas

Gold inflections conflict with the EKI agreement norm (EKI teatmik) on 13/1400 samples

#2
by sisesta-kasutajanimi - opened

First of all — great benchmark, and the paper (arXiv:2510.21193) is a real contribution for Estonian NLP. This is a report from someone building a tool on top of inflection_et, not a complaint: the dataset's gold was generated with the Filosoft/Vabamorf synthesizer, which is the right engine for morphological competence, but it does not encode the usage norm for adjective–noun agreement. The result is that 13 of the 1400 gold rows contradict the current EKI standard (EKI teatmik, "Omadussõnalise täiendi ühildumine", S. Mäearu). Details below, all reproducible.

1. -tud past participles declined in gold (12 rows) — EKI says they never agree

Rows for läbimõeldud plaan and rafineeritud maitse (all cases except nominative) carry declined participles as the only gold:

  • läbimõeldud plaanläbimõeldu plaani, läbimõeldut plaani, läbimõeldusse plaanisse, läbimõeldute plaanide, läbimõelduid plaane
  • rafineeritud maitserafineeritu maitse, rafineeritut maitset, rafineeritusse maitsesse

EKI teatmik (current wording): "Mineviku kesksõnad ehk nud- ja tud-kesksõna ning mata-vorm (tud-kesksõna eitav vaste) ei ühildu: tuntud ja vähem tuntud kaubamärke, hankes ettenähtud nõudeid (mitte: ettenähtuid nõudeid), varaga seotud probleeme (mitte: seotuid probleeme), teatud erialadel (mitte: teatutel erialadel), ilmunud kaarte (mitte: ilmunuid kaarte)".

The forms in gold for läbimõeldud/rafineeritud are exactly the pattern EKI marks with "(mitte: ...)".

2. -v present participle kept invariant in gold (1 row) — EKI says it must agree

rahuldav tulemus, ainsuse omastav → gold rahuldav tulemuse. EKI: "Oleviku kesksõnad ehk v- ja tav-kesksõna ühilduvad oma põhjaga: … nähtavaid kehavigastusi ei ole, koostatavale aktile". The standard form is rahuldava tulemuse.

3. The dataset is internally inconsistent about the same rule

Whether a participle is declined in gold depends on Vabamorf's first lexicon entry per word, not on the grammar:

attribute first Vabamorf lemma (POS) gold behaviour
tuntud tundma (V) invariant — matches EKI
hajutatud hajutatu (S) invariant — matches EKI
närbunud närbunu (S) invariant — matches EKI
läbimõeldud läbimõeldud (A) declined — contradicts EKI
rafineeritud rafineerima (V) declined — contradicts EKI
rahuldav rahuldav (A) invariant — contradicts EKI

So tuntud laulja and läbimõeldud plaan encode opposite answers to the same question ("does a -tud eestäiend agree?").

4. The 13 rows, gold vs EKI standard

läbimõeldud plaan (6 rows) — gold declines the -tud participle, EKI keeps it invariant:

case gold (dataset) EKI standard
ainsuse omastav läbimõeldu plaani läbimõeldud plaani
ainsuse osastav läbimõeldut plaani läbimõeldud plaani
ainsuse sisseütlev läbimõeldusse plaanisse, läbimõeldusse plaani läbimõeldud plaanisse
mitmuse omastav läbimõeldute plaanide läbimõeldud plaanide
mitmuse osastav läbimõelduid plaane, läbimõelduid plaanisid läbimõeldud plaane, läbimõeldud plaanisid
mitmuse sisseütlev läbimõelduisse plaanidesse, läbimõeldutesse plaanidesse läbimõeldud plaanidesse

rafineeritud maitse (6 rows) — same pattern:

case gold (dataset) EKI standard
ainsuse omastav rafineeritu maitse rafineeritud maitse
ainsuse osastav rafineeritut maitset rafineeritud maitset
ainsuse sisseütlev rafineeritusse maitsesse rafineeritud maitsesse
mitmuse omastav rafineeritute maitsete rafineeritud maitsete
mitmuse osastav rafineerituid maitseid rafineeritud maitseid
mitmuse sisseütlev rafineerituisse maitseisse, rafineerituisse maitsetesse, rafineeritutesse maitseisse, rafineeritutesse maitsetesse rafineeritud maitseisse, rafineeritud maitsetesse

rahuldav tulemus (1 row) — gold keeps the -v participle invariant, EKI declines it:

case gold (dataset) EKI standard
ainsuse omastav rahuldav tulemuse rahuldava tulemuse

(The mitmuse nimetav rows for both -tud pairs — läbimõeldud plaanid, rafineeritud maitsed — are EKI-correct already, since the nominative of the declined form equals the base, so they are not among the 13.)

5. What is aligned (no action needed)

  • -tu caritives agree in gold (tohutuid laineid, arusaamatusse fraasi) — matches EKI's NB ("erinevalt kesksõnadest ühilduvad tu-liitelised omadussõnad … lugematuid võimalusi, tuuletus kohas").
  • Lexically invariant adjectives stay invariant (täis pudel, ärkvel koer, roostes võti) — matches EKI.
  • The -mata form is absent from the dataset entirely, so the most frequent agreement exception in administrative/legal register is never tested.

Sign up or log in to comment