Semántica distribucional

A semántica distribucional (SD) é unha área de investigación que busca desenvolver teorías e métodos que permitan analizar as semellanzas semánticas entre elementos lingüísticos en función das súas propiedades distribucionais. Estes métodos a miúdo inclúen o uso de grandes cantidades de texto, que se procesan e abstraen para dar lugar a un modelo distribucional que representa significados dos elementos mediante vectores. A fundamentación teórica da SD atópase na hipótese distribucional, que sostén que os elementos lingüísticos con distribucións similares teñen significados similares. Estes elementos poden ser morfemas, palabras, frases, oracións ou discursos, dependendo da cuestión que se desexe analizar.
O principal obxecto do estudo da semántica distribucional é o léxico, pois busca fórmulas para representar os significados, así como métodos computacionais que permitan aplicar esas representacións en diversas tarefas centradas no tratamento das linguas naturais. Polo tanto, é unha área estreitamente relacionada co procesamento da linguaxe natural, a intelixencia artificial e a lingüística computacional. Hipótese distribucional
A hipótese distribucional provén da teoría semántica do uso da lingua, pola que se entende que as palabras que se empregan en contextos similares tenden a presentar significados similares. Esta idea segue a liña de lingüistas como Firth, que popularizou a idea de que as palabras se ven caracterizadas polas outras palabras coas que se combinan, así como Harris, que establece que unha distribución diferente implica significados diferentes. Así, canto máis semellantes sexan dúas palabras semanticamente, estas presentarán unha distribución máis próxima, polo que é de esperar que aparezan tamén en contextos lingüísticos similares.
Esta hipótese ten a súa orixe na lingüística e supón a base teórica da semántica estatística. Con todo, nos últimos anos está gañando especial atención no eido da ciencia cognitiva, en especial no tocante ao contexto de uso das palabras, así como no ámbito da lingüística computacional, como concepto imprescindible dentro do ámbito do procesamento da linguaxe natural.
Nos últimos anos, a hipótese distribucional serviu de fundamento teórico para a teoría de xeneralización por medio de semellanza relacionada coa aprendizaxe de linguas, que sostén a idea que as e os cativos son capaces de utilizar palabras que apenas viron antes mediante unha estratexia de xeneralización do seu uso a partir da distribución de palabras similares.
Deste xeito, a validez ou non da hipótese distribucional pode ter repercusións significativas no problema da escaseza de datos da modelaxe computacionale na cuestión de como os nenos e nenas son capaces de aprender unha lingua tan rápido, incluso pese a relativa pobreza dos datos que reciben (o que tamén se coñece como a pobreza de estímulos). Modelaxe de distribución semántica en espazos vectoriais
A semántica distribucional favorece o uso da álxebra lineal como ferramenta computacional e framework representacional. O procedemento estándar implica recoller información distribucional en vectores de alta dimensióne definir as semellanzas distributionais/semánticas en termos de semellanzas vectoriais. Dependendo do tipo de información que se obteña dos vectores, pódense distinguir diferentes tipos de semellanzas: as semellanzas tópicas, que se obteñen poboando os vectores de información sobre en que rexións do textos aparecen os elementos lingüísticos en cuestión; as semellanzas paradigmáticas, que se extraen poboando os vectores con información sobre con que outros elementos cos que aparecen os elementos lingüísticos en cuestión. A partir deste último tipo de vectores, é posible tamén extraer semellanzas sintagmáticas mediante o estudo dos compoñentes dos vectores individuais.
A correlación entre as semellanzas distribucionais e semánticas pódese tratar de diversas maneiras. Actualmente, existe unha gran variedade de modelos computacionais que permiten levar a cabo tarefas relacionadas coa semántica distribucional, tales como a análise semántica latente (LSA, das súas siglas en inglés), o hiperespacio análogo á lingua (HAL, das súas siglas en inglés), os modelos baseados na sintaxe ou nas dependencias, a indexación aleatoria e diferentes variantes do modelo temático, entre outros.
En xeral, os procedementos máis sinxelos de construción de vectores de semántica distribucional inclúen: A extracción dos corpus e contabilización das ocorrencias entre elementos lingüísticos e os seus contextos;
A representación das distribucións semánticas nunha matriz, colocando os elementos lingüísticos nas filas, os contextos nas columnas e establecendo a frecuencia das ocorrencias;
A ponderación das frecuencias en bruto en función da importancia dos contextos;
A medición da semellanza semántica entre elementos lingüísticos en función da similitude entre os vectores das filas da matriz.
Con todo, cabe destacar que os modelos de distribución semántica poden diferir en distintos parámetros, entre os cales destacan: O tipo de contexto (rexións textuais vs. elementos lingüísticos)
A magnitude do contexto (tamaño, extensión etc. )
A ponderación das frecuencias (por exemplo, a entropía etc. )
A redución das dimensións (por exemplo, a indexación aleatoria, a descomposición en valores singulares etc. )
A medida de semellanza (por exemplo, a semellanza de coseno, a distancia de Minkowski etc. ) Aplicacións
Os modelos de semántica distribucional aplicáronse con éxito nas seguintes tarefas: Busca da semellanza semántica entre palabras e expresións multipalabra;
Agrupación palabras chave (word clustering) en base a semellanzas semánticas;
Creación automática de tesauros e dicionarios bilingües;
Desambiguación dos diferentes sentidos das palabras;
Expansión de peticións de busca con sinónimos e asociacións;
Definición do tema dun documento;
Agrupación de documentos (document clustering) para a recuperación de información;
Minaría de datos e recoñecemento de entidades nomeadas;
Creación de mapas semánticos de diferentes dominios;
Parafraseado;
Análise de sentimentos;
Modelaxe de preferencias na selección de palabras. Retos e dificultades
Dado que as linguas non se compoñen exclusivamente de elementos lingüísticos con significados inequívocos e estables, a semántica distribucional enfróntase a diversos fenómenos que complican a modelaxe e a análise das semellanzas. Entre eles, destaca a polisemia ou ambigüidade semántica, pola cal as palabras adoptan diferentes significados dependendo do contexto en que aparezan. Para salvar esta dificultade, véñense empregando dúas estratexias principais: A representación de todos os sentidos posibles dun elemento lingüístico nun mesmo vector. Neste caso, cómpre empregar técnicas que permitan desambiguar os significados, que a miúdo se basean no concepto de composicionalidade. A idea é que, se se atende ao contexto concreto e aos elementos cos que interactúa a palabra ou expresión en cuestión, é posible establecer cal dos sentidos se está empregando nunha ocorrencia concreta. Por exemplo, se carreira aparece acompañada de profesional ou empresa, podería tratarse dunha referencia á actividade profesional dunha persoa. Con todo, se o contexto próximo contén elementos como coches ou kilómetros, é probable que se trate dunha competición deportiva.
A representación de cada un dos sentidos dun elemento lingüístico en cadanseu vector. Neste caso, vólvese posible distinguir entre os diversos sentidos que pode adoptar unha palabra mediante a comparación directa dos vectores que a representan en cada contexto. Así, se estes vectores son similares, é probable que se trate do mesmo significado; pola contra, se existe unha distancia considerable entre ambos, cabería considerar se trata de dous sentidos distintos.