Ezkutuko semantikaren analisia

**Ezkutuko semantikaren analisia (LSA)** hizkuntzaren prozesamendurako teknika bat da. Dokumentu-multzo baten eta bertan agertzen diren terminoen arteko erlazioa aztertzeko kontzeptu-multzo bat sortzen da dokumentuetan eta terminoetan oinarrituz. Semantikoki oso antzeko diren hitzak antzeko esanahia duten testuetan agertzen direla ontzat ematen du LSAk. Testuetako paragrafoetako terminoen agerpen maiztasunak kalkulatuz termino-dokumentu matrize bat eraikitzen da (errenkada bat termino bakoitzeko
eta zutabe bat paragrafo bakoitzeko) eta balio singularretan deskonposatzea (SVD) izeneko teknika matematikoa erabiltzen da terminoen eta dokumentuen adierazpen bektorialen dimentsioa murrizteko. Hitzen (terminoen) antzekotasun semantikoa kalkulatzeko errenkada-bektoreen arteko angeluaren kosinua kalkulatzen da (edo biderketa eskalarra). Kosinu-antzekotasuna 1etik gertu badago hitzak semantikoki antzekoak direla interpretatzen da, 0tik gertu badago, aldiz, semantikoki oso desberdinak direla.

1988an ezkutuko egitura semantikoan oinarritzen den informazio-berreskuratze teknika bat patentatu zuten (AEBetako 4,839,853 patentea, orain iraungia), Scott Deerwester, Susan Dumais, George Furnas, Richard Harshman, Thomas Landauer, Karen Lochbaum eta Lynn Streeter ikerlariek. Teknika Informazioa berreskuratzeko testuinguruan erabiltzen denean Ezkutuko Semantikaren Indexatzea **(LSI)**  izenez ezagutu ohi da.

## Ikuspegi orokorra 
### Maiztasunen matrize 
LSAk termino bakoitzeko errenkada bat eta dokumentu bakoitzeko zutabe bat dituen termino-dokumentu matrize bat eraikitzen du. Terminoek dokumentuetan duten agerpen maiztasuna adierazten da bertan; dentsitate gutxiko matrize bat izaten da. Maiztasunen matrizeko elementuak eraldatu egiten dira tf-idf (term frequency–inverse document frequency) ponderazio ereduaren bidez, adibidez: matrizeko elementuen ponderazioa terminoak dokumentuan duen agerpen maiztasunarekiko proportzionala da, dokumentu gutxitan agertzen diren terminoen ponderazioa igo egiten delarik haien garrantzia erlatiboa erakusteko asmoz.

### Dimentsioa murriztea 
Matrizea sortu ondoren, hein txikiagoko hurbilpen matrize bat kalkulatzen du LSAk. Hainbat arrazoi egon daitezke horretarako:
* Jatorrizko termino-dokumentu matrizea oso handia izan daiteke eta horrek konputazio arazoak sortu; halakoetan, hein txikiagoko matrizea jatorrizkoaren *hurbilpen* moduan interpretatzen da.
* Jatorrizko termino-dokumentu matrizean *zarata* egon daiteke. Ikuspuntu honetatik, hurbilpen matrizea *zarata kendutako matrize* moduan interpretatzen da (jatorrizkoa baino hobea).
* Jatorrizko termino-dokumentu matrizea dentsitate gutxikoa izan daiteke "benetako" termino-dokumentu matrizearekin konparatuz. Izan ere, jatorrizko matrizeak dokumentuetako hitzen *benetako* kontaketa besterik ez du erakusten, eta ez dokumentu horiekin zerikusia izan *lezaketen* hitz guztiena— sinonimia dela eta askoz ere hitz gehiago izan daitezke.
Dimentsioa murriztearen ondorioz hainbat dimentsio konbinatzen dira:
:: {(auto), (kamioi), (lore)} --> {(1.3452 * auto + 0.2828 * kamioi), (lore)}
Horrek sinonimiaren arazoa leuntzen du, antzeko esanahia duten terminoak adieraziko dituzten dimentsioak sor daitezkeelako dimentsio murrizketari esker. Polisemia fenomenoarekin sortzen den arazoa ere neurri batean konpontzen da, noranzko "egokian" dauden hitz polisemikoen osagaiak antzeko esanahia duten hitzen osagaiekin batzen direlako. 

### Deskribapena 
Izan bedi X matrizea non matrizeko (i,j) elementuak i. terminoa j. dokumentuan zenbat aldiz
agertzen den adierazten duen, maiztasuna alegia. X
: 
\begin{matrix} 
 & \textbf{d}_j \\
 & \downarrow \\
\textbf{t}_i^T \rightarrow &
\begin{bmatrix} 
x_{1,1} & \dots & x_{1,n} \\
\vdots & \ddots & \vdots \\
x_{m,1} & \dots & x_{m,n} \\
\end{bmatrix}
\end{matrix}

: \textbf{t}_i^T = \begin{bmatrix} x_{i,1} & \dots & x_{i,n} \end{bmatrix}
Era berean, j. zutabea j. dokumentuaren bektore-adierazpena da eta dokumentuak terminoekin duen erlazioa ematen du:
: \textbf{d}_j = \begin{bmatrix} x_{1,j} \\ \vdots \\ x_{m,j} \end{bmatrix}
Aljebra linealeko teoriaren arabera  matrizea beste hiru matrizeren biderketa moduan deskonposa daiteke,  eta  matrize ortogonalak eta  matrize diagonala izanik. Deskonposaketa horri Balio Singularretan Deskonposatzea (SVD) esaten zaio:
: 
Deskonposaketa horrela ikus daiteke:
: 
\begin{matrix} 
 & X & & & U & & \Sigma & & V^T \\
 & (\textbf{d}_j) & & & & & & & (\hat{\textbf{d}}_j) \\
 & \downarrow & & & & & & & \downarrow \\
(\textbf{t}_i^T) \rightarrow 
&
\begin{bmatrix} 
x_{1,1} & \dots & x_{1,n} \\
\\
\vdots & \ddots & \vdots \\
\\
x_{m,1} & \dots & x_{m,n} \\
\end{bmatrix}
&
=
&
(\hat{\textbf{t}}_i^T) \rightarrow
&
\begin{bmatrix} 
\begin{bmatrix} \, \\ \, \\ \textbf{u}_1 \\ \, \\ \,\end{bmatrix} 
\dots
\begin{bmatrix} \, \\ \, \\ \textbf{u}_l \\ \, \\ \, \end{bmatrix}
\end{bmatrix}
&
\cdot
&
\begin{bmatrix} 
\sigma_1 & \dots & 0 \\
\vdots & \ddots & \vdots \\
0 & \dots & \sigma_l \\
\end{bmatrix}
&
\cdot
&
\begin{bmatrix} 
\begin{bmatrix} & & \textbf{v}_1 & & \end{bmatrix} \\
\vdots \\
\begin{bmatrix} & & \textbf{v}_l & & \end{bmatrix}
\end{bmatrix}
\end{matrix}

\sigma_1, \dots, \sigma_l balio singularrak dira eta u_1, \dots, u_l eta v_1, \dots, v_l ezker- eta eskuin-bektore singularrak. U matrizean \textbf{t}_i terminoari ekarpena egiten dion errenkada bakarra i\textrm{'th} da.
Errenkada-bektore hori \hat{\textrm{t}}^T_inotazioaz adieraziko dugu. 
Modu berean, V^T matrizean \textbf{d}_j dokumentuari ekarpena j\textrm{'th} zutabeak egiten dio, \hat{ \textrm{d}}_j. 

Balio handieneko  balio singularrak eta haiei  eta matrizeetan dagozkien bektore-singularrak hautatzean, heina  duen errore txikieneko hurbilpen-matrize bat kalkula daiteke  matrizearentzat (Frobenius norma). Termino-bektoreak eta dokumentu-bektoreak dimentsio murriztuko espazioan erabiltzeko aukera ematen du horrek (espazio semantikoan).  errenkada-bektorearen  osagaiek terminoaren proiekzioa ematen dute dimentsio murriztuko espazioan. Dimentsio berri horiek ez dira berehalakoan interpretatzeko moduko kontzeptuak izaten. Era berean,  "dokumentu"-bektorea jatorrizkoaren hurbilpen bat da dimentsio murriztuko espazioan. Hurbilpen-matrizea honela idatz daiteke:

## References 
## Kanpo estekak