In this paper we present the results of comparing a statistical tagger for German based on decision trees and a rule-based Brill-Tagger for German. We used the same training corpus (and therefore the same tag-set) to train both taggers. We then applied the taggers to the same test corpus and compared their respective behavior and in particular their error rates. Both taggers perform similarly with an error rate of around 5%. From the detailed error analysis it can be seen that the rule-based tagger has more problems with unknown words than the statistical tagger. But the results are opposite for tokens that are many-ways ambiguous. If the unknown words are fed into the taggers with the help of an external lexicon (such as the Gertwol system) the error rate of the rulebased tagger drops to 4.7%, and the respective rate of the statistical taggers drops to around 3.7%. Combining the taggers by using the output of one tagger to help the other did not lead to any further improvement. In diesem Beitrag beschreiben wir die Resultate aus unserem Vergleich eines statistischen Taggers, der auf Entscheidungsbäumen basiert, und eines regel-basierten Brill-Taggers für das Deutsche. Beim Vergleich benutzten wir dasselbe Trainingskorpus (und damit dasselbe Tagset), um beide Tagger zu trainieren. Danach wurden beide Tagger auf dasselbe Testkorpus angewendet und ihr jeweiliges Verhalten und ihre Fehlerraten verglichen. Beide Tagger liegen ungefähr bei 5% Fehlerrate. Bei der detaillierten Fehleranalyse sieht man, dass der regelbasierte Tagger grössere Probleme bei unbekannten Wortformen hat als der statistische Tagger. Bei vielfach ambigen Wortformen ist das Ergebnis jedoch umgekehrt. Wenn man die unbekannten Wortformen mit Hilfe eines externen Lexikons (z.B. mit dem Gertwol-System) reduziert, sinkt die Fehlerrate des regel-basierten Taggers auf 4,7% und die entsprechende Rate des statistischen Taggers auf 3,7%. Eine Kombination der Tagger, der Output des einen als Hilfestellung für den anderen, brachte keine weitere Verbesserung.
Schneider et al. REF point out the performance loss on unknown words, of a rule-based tagger compared to a statistical tagger.
Comparing a statistical and a rule-based tagger for German
ArXiv
Computer Science