Computational modeling of lexical ambiguity

Lexical ambiguity is a frequent phenomenon that can occur not only for words but also on the phrase level. Natural language processing systems need to efficiently deal with these ambiguities in various tasks, however, we often encounter such system failures in real applications. This thesis studies several complex phenomena related to word/phrase ambiguity at the level of text and proposes computational models to tackle these phenomena. Throughout the thesis, we address a number of lexical ambiguity phenomena varying across the sense granularity line. We start with the idiom detection task, in which candidate senses are constrained toliteral' and idiomatic'. Then, we move on to the more general case of detecting figurative expressions. In this task, target phrases are not lexicalized but rather bear nonliteral semantic meanings. Similar to the idiom task, this one has two candidate sense categories (literal' and nonliteral'). Next, we consider a more complicated situation where words often have more than two candidate senses and the sense boundaries are fuzzier, namely word sense disambiguation (WSD). Finally, we discuss another lexical ambiguity problem in which the sense inventory is not explicitly specified, word sense induction (WSI). Computationally, we propose novel models that outperform state-of-the-art systems. We start with a supervised model in which we study a number of semantic relatedness features combined with linguistically informed features such as local/global context, part-of-speech tags, syntactic structure, named entities and sentence markers. While experimental results show that the supervised model can effectively detect idiomatic expressions, we further improve the work by proposing an unsupervised bootstrapping model which does not rely on human annotated data but performs at a comparative level to the supervised model. Moving on to accommodate other lexical ambiguity phenomena, we propose a Gaussian Mixture Model that can be used not only for detecting idiomatic expressions but also for extracting unlexicalized figurative expressions from raw corpora automatically. Aiming at modeling multiple sense disambiguation tasks within a uniform framework, we propose a probabilistic model (topic model), which encodes human knowledge as sense priors via paraphrases of gold-standard sense inventories, to effectively perform on the idiom task as well as two WSD tasks. Dealing with WSI, we find state-of-the-art WSI research is hindered by the deficiencies of evaluation measures that are in favor of either very fine-grained or very coarse-grained cluster output. We argue that the information theoretic V-Measure is a promising approach to pursue in the future but should be based on more precise entropy estimators, supported by evidence from the entropy bias analysis, simulation experiments, and stochastic predictions. We evaluate all our proposed models against state-of-the-art systems on standard test data sets, and we show that our approaches advance the state-of-the-art. Lexikalische Mehrdeutigkeit ist ein haufiges Phanomen, das nicht nur auf Wort, sondern auch auf phrasaler Ebene auftreten kann. Systeme zur Verarbeitung naturlicher Sprache mussen diese Mehrdeutigkeiten in verschiedenen Aufgaben effizient bewaltigen, doch in realen Anwendungen erweisen sich solche Systeme oft als fehlerhaft. Ziel dieser Dissertation ist es verschiedene komplexe Phanomene lexikalischer und insbesondere phrasaler Mehrdeutigkeit zu erforschen und algorithmische Modelle zur Verarbeitung dieser Phanomene vorzuschlagen. In dieser Dissertation beschaftigen wir uns durchgehend mit einer Reihe von Phanomenen lexikalischer Ambiguitat, die in der Granularitat der Sinnunterschiede variieren: Wir beginnen mit der Aufgabe Redewendungen zu erkennen, in der die moglichen Bedeutungen auf wortlich' und idiomatisch' beschrankt sind; dann fahren wir mit einem allgemeineren Fall fort in dem die Zielphrasen keine feststehenden Redewendungen sind, aber im Kontext eine ubertragene Bedeutung haben. Wir definieren hier die Aufgabe bildhafte Ausdrucke zu erkennen als Disambiguierungs-Problem in der es, ahnlich wie in der Redewendungs-Aufgabe, zwei mogliche Bedeutungskategorien gibt (wortlich' und nicht-wortlich'). Als nachstes betrachten wir eine kompliziertere Situation, in der Worter oft mehr als zwei mogliche Bedeutungen haben und die Grenzen zwischen diesen Sinnen unscharfer sind, namlich Wort-Bedeutungs-Unterscheidung (\textit{Word Sense Disambiguation}, WSD); Schlieslich diskutieren wir ein weiteres Problem lexikalischer Mehrdeutigkeit, in dem das Bedeutungsinventar nicht bereits ausdrucklich gegeben ist, d.h. Wort-Bedeutungs-Induktion (Word Sense Induction, WSI). Auf algorithmischer Seite schlagen wir Modelle vor, die Systeme auf dem aktuellen Stand der Technik ubertreffen. Wir beginnen mit einem uberwachten Modell, in dem wir eine Reihe von Merkmalen basierend auf semantischer Ahnlichkeit mit linguistisch fundierten Merkmalen wie lokalem/globalem Kontext, Wortarten, syntaktischer Struktur, Eigennamen und Satzzeichen kombinieren. Ausgehend von experimentellen Ergebnissen die zeigen, dass das uberwachte Modell effektiv idiomatische Ausdrucke erkennen kann, verbessern wir unsere Arbeit indem wir ein unuberwachtes Bootstrapping-Modell prasentieren, das nicht auf manuell annotierte Daten angewiesen ist aber ahnlich gut funktioniert wie das uberwachte Modell. Um weitere Phanomene lexikalischer Mehrdeutigkeit zu behandeln, schlagen wir des weiteren ein Gauss'sches Mischmodell vor, das nicht nur zur Erkennung von Redewendungen verwendet werden kann, sondern auch dazu effektiv und automatisch neue produktive bildhafte Ausdrucke aus unverarbeiteten Corpora zu extrahieren. Mit dem Ziel mehrere Aufgaben zur Disambiguierung innerhalb eines einheitlichen Systems zu modellieren, schlagen wir ein statistisches Modell (Topic-Modell) vor, um sowohl die Aufgabestellung der Redewendungs-Erkennung als auch die WSD-Probleme effektiv zu bearbeiten. Die A-priori-Wahrscheinlichkeiten dieses Modells kodieren menschliches Wissen, wozu es Gold-Standard-Bedeutungslexika benutzt. Bezuglich WSI stellen wir fest, dass der Stand der WSI-Forschung durch inadequate Evaluationsmase behindert wird, die entweder sehr feinkornige oder sehr grobkornige Cluster-Ergebnisse bevorzugen. Wir behaupten, dass das Informationstheoretische V-Measure' ein vielversprechender Ansatz ist, der zukunftig verfolgt werden konnte, der jedoch mit prazieseren Entropie Schatzern, unterstutzt von Belegen aus der Entropie-Trend-Analyse, Simulationxexperimenten und stochastische Vorhersagen, aufbauen sollte. Wir evaluieren alle unsere vorgeschlagenen Modelle auf standardisierten Testdaten und vergleichen sie mit anderen Systemen auf dem aktuellen Forschungsstand, und wir zeigen dass unsere Ansatze den aktuellen Forschungsstand voranbringen.