Regressione lineare

La regressione formalizza e risolve il problema di una relazione funzionale tra variabili misurate sulla base di dati campionari estratti da un'ipotetica popolazione infinita. Originariamente Galton utilizzava il termine come sinonimo di correlazione, tuttavia oggi in statistica l'analisi della regressione è associata alla risoluzione del modello lineare. Per la loro versatilità, le tecniche della regressione lineare trovano impiego nel campo delle scienze applicate: astronomia, chimica, geologia, biologia, fisica, ingegneria, medicina, nonché nelle scienze sociali: economia, linguistica, psicologia e sociologia.

Più formalmente, in statistica la regressione lineare rappresenta un metodo di stima del valore atteso condizionato di una variabile dipendente, o endogena, , dati i valori di altre variabili indipendenti, o esogene, : . L'uso dei termini endogeno/esogeno è talvolta criticato, in quanto implicherebbe una nozione di causalità che l'esistenza di una regressione non prevede; in determinati contesti, provocherebbe inoltre confusione, essendo ad esempio il concetto di esogeneità in econometria formalmente definito tramite l'ipotesi di ortogonalità alla base delle proprietà statistiche della regressione lineare col metodo dei minimi quadrati.

Origini storiche 
La prima, e ancora popolare, forma di regressione lineare è quella basata sul metodo dei minimi quadrati (si veda oltre). La prima pubblicazione contenente un'applicazione del metodo nota è datata 1805, a nome di Adrien-Marie Legendre; Carl Friedrich Gauss elabora indipendentemente lo stesso metodo, pubblicando le sue ricerche nel 1809. Sebbene Gauss sostenne di avere sviluppato il metodo sin dal 1795, la paternità delle sue applicazioni in campo statistico è normalmente attribuita a Legendre; lo stesso termine minimi quadrati deriva dall'espressione francese, utilizzata da Legendre, moindres carrés.

Sia Gauss che Legendre applicano il metodo al problema di determinare, sulla base di osservazioni astronomiche, le orbite di corpi celesti intorno al sole. Eulero aveva lavorato allo stesso problema, con scarso successo, nel 1748. Nel 1821 Gauss pubblica un ulteriore sviluppo del metodo dei minimi quadrati, proponendo una prima versione di quello che è oggi noto come teorema di Gauss-Markov.

L'origine del termine regressione è storicamente documentata. L'espressione reversione era usata nel XIX secolo per descrivere un fenomeno biologico, in base al quale la progenie di individui eccezionali tende in media a presentare caratteristiche meno notevoli di quelle dei genitori, e più simili a quelle degli antenati più remoti. Francis Galton studiò tale fenomeno, applicandovi il termine, forse improprio, di regressione verso la media (o la mediocrità).

Per Galton l'espressione regressione ha solo tale significato, confinato all'ambito biologico. Il suo lavoro (1877, 1885) fu in seguito esteso da Karl Pearson e George Udny Yule a un contesto statistico più generale (1897, 1903); i lavori di Pearson e Yule ipotizzano che la distribuzione congiunta delle variabili dipendenti e indipendenti abbia natura gaussiana. Tale ipotesi è in seguito indebolita da Ronald Fisher, in lavori del 1922 e 1925. Fisher in particolare ipotizza che la distribuzione condizionata della variabile dipendente sia gaussiana, il che non implica necessariamente che così sia per quella congiunta di variabili dipendenti e indipendenti. Sotto tale profilo, la formulazione di Fisher è più vicina a quella di Gauss del 1821.

Regressione lineare semplice

Definizione 
Il modello di regressione lineare è:

dove:
  varia tra le osservazioni, ;
  è la variabile dipendente;
  è la variabile indipendente o regressore;
  è la retta di regressione o funzione di regressione della popolazione;
  è l'intercetta della retta di regressione della popolazione;
  è il coefficiente angolare della retta di regressione della popolazione;
  è l'errore statistico.

Possiede delle peculiari assunzioni OLS.

Illustrazione del metodo 
Per ogni osservazione campionaria
si dispone di una determinazione  e di  determinazioni non stocastiche . Si cerca quindi una relazione di tipo lineare tra la variabile  e le  variabili deterministiche. Una prima analisi può essere condotta considerando un modello semplice a due variabili (si suppone in pratica che  sia uguale a ). Un tipico esempio è riscontrabile dall'esperienza economica considerando la relazione tra Consumi () e Reddito (). Ricercando una relazione funzionale in cui i consumi siano "spiegati" dal reddito si può ricorrere alla relazione lineare:

 generica relazione che caratterizza i consumi;
 relazione lineare;

dove  rappresenta l'intercetta e  la pendenza della retta interpolatrice.

Stime dei parametri nel caso bivariato 
Generalizzando il problema a due variabili  e , scriveremo:

 è una generica funzione di  e comunemente si assume . Ponendo tale condizione la formula diviene:

Quindi la variabile dipendente  viene "spiegata" attraverso una relazione lineare della variabile indipendente  (cioè: ) e da una quantità casuale .

Il problema della regressione si traduce nella determinazione di  e  in modo da esprimere al ‘meglio' la relazione funzionale tra  e .
Per avvalorare di un significato statistico la scelta dei coefficienti occorre realizzare alcune ipotesi sul modello lineare di regressione:
  è una variabile deterministica;
 
  costante per ogni 
 

Date queste ipotesi si calcolano i coefficienti  e  secondo il metodo dei minimi quadrati (in inglese Ordinary Least Squares, o OLS, da cui il riferimento agli stimatori di seguito ottenuti come agli stimatori OLS) proposto da Gauss; detta:

le stime si ottengono risolvendo:

Le soluzioni si ricavano uguagliando a zero le derivate parziali di  rispetto ad  e :

Dove  denota il numero delle osservazioni.

Separando le sommatorie per isolare i termini  e , si ottiene:

da cui si ricavano le soluzioni:

Per il calcolo effettivo di  e , possiamo introdurre il concetto di medie aritmetiche  e  rispettivamente dei valori  e  e il concetto di scarti dei valori delle medie aritmetiche, per cui posto:
  

si ha:

Sostituendo nella seconda equazione dei sistema, si ottiene quanto segue:
 

mentre dalla prima equazione:

Essendo la varianza osservata data da

e la covarianza osservata da

i parametri  e  si possono scrivere nella forma

Infine, sostituendo  nell'equazione della retta di regressione , otteniamo la seguente espressione:

da cui si deduce che la retta passa per il punto  le cui coordinate sono le medie aritmetiche.

Correlazione 
Invertendo il ruolo di  e , possiamo ottenere la retta di regressione di  rispetto a :

Le due rette di regressione     e   sono in relazione tra loro.

Le due rette coincidono quando tutti i punti del diagramma a dispersione appartengono ad una stessa retta, mentre quanto maggiore è la dispersione tanto maggiore è l'angolo che esse formano.

La misura dell'intensità e del legame di correlazione tra le due variabili è rappresentata dal coefficiente di correlazione lineare di Bravais-Pearson:

media geometrica dei due coefficienti di regressione, preceduta dal segno  se i due coefficienti sono positivi, dal segno  se sono negativi.

Riprendendo i concetti di varianza e covarianza introdotti in precedenza, essa può anche essere espressa come:

Giustificazione probabilistica del metodo di regressione con i minimi quadrati 
Si consideri il seguente problema teorico: date due variabili casuali  e , quale è il migliore stimatore per il valore atteso di , ossia quale stimatore presenta lo scarto quadratico medio (o MSE, dall'inglese Mean Squared Error) minimo?

Se si utilizza uno stimatore affine che sfrutta l'informazione relativa alla variabile casuale  allora , è possibile dimostrare che lo scarto quadratico medio  è minimizzato se:

Tale osservazione fornisce una giustificazione di tipo probabilistico alle espressioni proposte sopra; si veda oltre per un'analisi formale, nel caso multivariato.

Osservazioni sul metodo di stima 
Il metodo dei minimi quadrati è esaminato nel caso bivariato, deriva una retta che interpola uno scatter di punti minimizzando la somma dei quadrati delle distanze  dei punti stessi dalla retta; il grafico fornisce un'intuizione del procedimento.

La scelta di minimizzare i quadrati degli  non è, ovviamente, arbitraria. Facendo ad esempio riferimento alla semplice somma degli , distanze positive (verso l'alto) e negative (verso il basso) si compenserebbero, rendendo in generale peggiore la qualità dell'interpolazione; se per contro si adottasse una funzione criterio uguale alla somma dei valori assoluti degli , non essendo la funzione valore assoluto derivabile su tutto l'asse reale non si potrebbe ricorrere all'elegante metodo di minimizzazione sopra illustrato.

Si osservi inoltre che gli  rappresentano una distanza di un tipo alquanto particolare. In geometria la distanza di un punto da una retta è infatti data dalla lunghezza del segmento che unisce il punto alla retta, perpendicolare a quest'ultima; evidentemente non è questo il caso degli . La scelta operata trova giustificazione nelle proprietà statistiche delle stime, illustrate in seguito: la particolare forma degli stimatori dei minimi quadrati sopra ottenuti consente un più semplice trattamento delle loro proprietà statistiche.

Due parole infine sul significato di regressione lineare. Il nome di questa tecnica statistica non significa che nella funzione stimata la variabile dipendente  è una funzione lineare della(e) variabile(i) esplicativa(e) , ma dei parametri oggetto di stima ( e  sopra). La stima di una funzione del tipo:

rientra nel raggio d'azione del modello lineare, dal momento che  è una funzione lineare dei parametri , , . Per ulteriori considerazioni al riguardo, si veda l'articolo Regressione nonlineare.

Regressione lineare multipla 
Il metodo sopra illustrato può essere esteso al caso in cui più variabili contribuiscono a spiegare la variabile dipendente :

dove:
  varia tra le osservazioni, ;
  è il valore -esimo della variabile dipendente;
  sono le -esime osservazioni di ciascuno dei  regressori;
  è la retta di regressione;
  è il valore atteso di  quando tutte le  sono uguali a zero (cioè è l'intercetta);
  è il coefficiente angolare di ,  è il coefficiente angolare di , (tenendo costanti gli  non presi in considerazione), ecc.
  è l'errore statistico.

Possiede delle peculiari assunzioni OLS.

Raggruppando le osservazioni delle variabili esplicative in una matrice  di dimensioni , che si ipotizza avere rango pieno e uguale a  (il termine costante, o intercetta, corrisponde ad avere una colonna di  nella ), è possibile scrivere, in notazione matriciale:

Nella formulazione più elementare, si assume che , ossia:   (omoschedasticità),  (assenza di correlazione nei disturbi). Si ipotizza inoltre che:

ossia che non vi sia correlazione tra i regressori e i disturbi casuali — quest'ipotesi riveste un'importanza cruciale, in quanto rende possibile considerare i regressori compresi nella matrice  come variabili esogene (da cui il nome con cui l'ipotesi è spesso indicata: ipotesi di esogeneità). Quest'ultima proprietà è tutt'altro che banale, in quanto soltanto laddove essa è valida è possibile garantire che il vettore di stime dei parametri del modello, , abbia per valore atteso il vero valore dei parametri  (godendo così della proprietà di correttezza; si veda oltre).

Sotto tali ipotesi, è possibile ottenere le stime del vettore di parametri  tramite il metodo dei minimi quadrati risolvendo il problema di minimo:

Le condizioni del primo ordine per un minimo definiscono il sistema (detto delle equazioni normali):

da cui:

Per le proprietà della forma quadratica minimizzanda, si è certi che la soluzione trovata corrisponde a un minimo, non solo locale ma globale.

Interpretazione geometrica delle stime OLS 

Il vettore di stime OLS  consente di ottenere i valori previsti ("teorici") per la variabile dipendente:

Formalmente, l'espressione sopra corrisponde alla proiezione ortogonale del vettore delle osservazioni  sullo spazio generato dalle colonne della matrice ; la figura a lato illustra questo risultato.

Per chiarire questo punto, sia  la proiezione di  sullo spazio generato dalle colonne matrice :

Ciò significa che esisterà un vettore di pesi  tale per cui è possibile ottenere  come , ossia come combinazione lineare delle colonne di . A sua volta  sarà uguale a  più una componente  ortogonale allo spazio generato da :

Dunque ; premoltiplicando per  si ha: ; così che:

ossia l'espressione per il vettore di stime OLS  derivata in precedenza. Questa intuizione geometrica è formalizzata nel teorema di Frisch-Waugh-Lovell.

Proprietà algebriche degli stimatori OLS 
Gli stimatori  degli OLS godono di una serie di interessanti proprietà algebriche; tali proprietà dipendono dal metodo dei minimi quadrati adottato, e non dal particolare modello oggetto di stima.

 Laddove la matrice  dei regressori include il termine costante (una colonna di soli , che si denota col vettore ), la prima riga del sistema delle equazioni normali, scritto in forma matriciale, è data da . Dividendo ambo i membri per il numero delle osservazioni , si ha:

così che l'iperpiano che interpola le  passa per il loro punto medio e i punti medi di tutte le colonne della .

 Da quanto sopra risulta inoltre che il punto medio delle  osservate è uguale a quello dei valori previsti dal modello: ; ciò si ottiene banalmente osservando che .
 Per definizione del vettore dei residui  si ha:

così che la somma dei residui è nulla.

 I residui sono ortogonali ai regressori; infatti:

in base al sistema delle equazioni normali. Si osservi che questa proprietà può essere immediatamente desunta dall'interpretazione geometrica delle stime OLS, considerando che il vettore dei residui collega il vettore  con la sua proiezione ortogonale sullo spazio generato dai regressori, .

 I residui sono inoltre ortogonali al vettore delle previsioni ; ciò è immediato se si osserva che il vettore delle previsioni appartiene allo spazio generato dalla matrice dei regressori ; algebricamente, inoltre: .

Si osservi che le prime tre proprietà valgono solo se la matrice dei regressori include il termine costante, ossia se include un vettore di soli .

Bontà del fitting e R² 
L'R², o coefficiente di determinazione, è una misura della bontà dell'adattamento (in inglese fitting) della regressione lineare stimata ai dati osservati.

Al fine di definire l'R², sia ; questa matrice trasforma i vettori in scarti dalla propria media, così che, ad esempio, . Si osservi che la matrice  è simmetrica () e idempotente (). Dunque la somma degli scarti al quadrato delle  da  è semplicemente: .

L'R² è definito come:

Spesso le quantità al numeratore e al denominatore sono chiamate, rispettivamente, ESS (, dall'inglese Explained Sum of Squares) e TSS (, dall'inglese Total Sum of Squares). Osservando che, per semplice sostituzione:

dove l'ultima uguaglianza segue dal fatto che la media dei residui è zero, si ha:

così che l'R² sarà un numero compreso tra  e  (alcuni pacchetti statistici trasformano tale numero in una percentuale); in analogia con quanto sopra, spesso la quantità  è indicata con la sigla RSS (dall'inglese Residual Sum of Squares), o SSR (Sum of Squared Residuals, grammaticalmente più preciso, ma forse meno usato).

Euristicamente, l'R² misura la frazione della variabilità delle osservazioni  che siamo in grado di spiegare tramite il modello lineare. Due importanti caveat devono in ogni caso essere tenuti a mente:

 L'R² non misura se effettivamente sussista una relazione (di qualsiasi tipo) tra le  e i regressori, ma soltanto fino a che punto un modello lineare consente di approssimare la realtà dei dati osservati; un modello non lineare, ad esempio, potrebbe meglio rappresentare la relazione tra variabile dipendente e regressori, e presentare un buon potere esplicativo, anche in presenza di un R² prossimo allo zero. I due grafici illustrano questo problema; in entrambi i casi, la stima di un modello lineare tipo  porterebbe a un R² molto basso, o addirittura nullo; nel caso del grafico a sinistra, tuttavia, sarebbe arduo escludere che sussista una qualche relazione (probabilmente di tipo quadratico) tra  e il regressore .
 È possibile dimostrare che aggiungere regressori al modello non può che incrementare il valore assunto dall'R²; ciò non significa che il modello sia migliore, nel senso che meglio catturi i fattori che concorrono a spiegare la variabile dipendente, ma soltanto che il fitting è stato reso artificialmente migliore. Al fine di correggere la misura di bontà del fitting indicata, in maniera da penalizzare un modello caratterizzato da un gran numero di regressori, certi pacchetti statistici riportano un R² corretto, definito come:

È evidente che, al crescere del numero di regressori ,  in generale decresce, correggendo l'artificiale incremento dell'R². Si può inoltre dimostrare che  aumenta, aggiungendo un regressore, soltanto se il valore della statistica  associata al coefficiente di tale regressore (si veda oltre) è maggiore di , così che il valore dell'R² corretto è legato alla significatività delle variabili aggiuntive.

È opportuno far emergere alcune credenze sbagliate riguardo l'R². Innanzitutto non può mai assumere valori negativi perché è il rapporto di due varianze; tuttavia i software statistici possono produrre un output di una regressione che presenta un R² negativo. Ciò è dovuto al fatto che in questi programmi l'R² si calcola come differenza tra varianza spiegata e quella dei residui. Tuttavia nel caso di mancata specificazione del modello (si "dimenticano" variabili che il data generating process contiene, intercetta compresa), il valore atteso della stima dei residui è in genere diverso da zero, quindi la media dello stimatore di  è diverso dalla media di . Pertanto il calcolo del software risulta errato perché non tiene conto di ciò.

Proprietà statistiche degli stimatori OLS  

Sotto le ipotesi sopra formulate, il valore atteso dello stimatore  è uguale al vettore di parametri ; tale proprietà è detta correttezza; al fine di verificare la correttezza di , è sufficiente osservare che:

La varianza (in effetti, matrice varianza-covarianza) di  si ottiene come:

Il teorema di Gauss-Markov stabilisce che tale varianza è minima tra quelle degli stimatori di  ottenibili come combinazione lineare delle osservazioni ; in questo senso  è uno stimatore efficiente (in effetti si tratta di uno stimatore BLUE, dall'inglese Best Linear Unbiased Estimator, il migliore stimatore corretto lineare).

Poiché  e le combinazioni lineari di variabili casuali normali indipendenti sono ancora normali, se ne conclude che:

Stimatore per il parametro varianza 
Volendo stimare il parametro , un naturale candidato sarebbe la varianza campionaria:

In effetti lo stimatore sopra sarebbe anche lo stimatore di massima verosimiglianza per . Semplici manipolazioni mostrano tuttavia che tale stimatore non gode della proprietà di correttezza; infatti:

dove . Il valore atteso dell'espressione sopra è:

dove  denota l'operatore traccia di una matrice. Lo stimatore corretto per il parametro  è dunque:

Infatti:

Si osservi inoltre che, poiché ,  ha una distribuzione chi quadro con  gradi di libertà.

Test di ipotesi nel modello lineare 
Le tecniche del modello lineare sopra esposte possono trovare diverse applicazioni; con una qualche semplificazione, due sono i principali usi della regressione lineare:
 Calibrazione di un modello, nota nel contesto dell'analisi numerica come interpolazione, ovvero determinare i valori dei parametri di un modello noto sulla base dei dati osservati;
 Test di ipotesi concernenti i parametri di un modello.
Confinando la nostra attenzione al secondo punto, nell'ambito della statistica classica (cioè non bayesiana) condurre un test statistico non può portare ad accettare un'ipotesi nulla, ma al più a non rifiutarla, un po' come dire che lo statistico assolve per mancanza di prove.

Un primo ordine di test concerne i singoli coefficienti del modello; volere stabilire se la j-esima variabile delle  abbia o meno potere esplicativo nei confronti della  equivale a sottoporre a verifica l'ipotesi nulla che il corrispondente coefficiente  sia nullo. A tal fine si ricorre alla statistica test:

dove , che sotto l'ipotesi nulla  ha distribuzione t di Student.

Un caso più complesso, e di maggiore interesse, riguarda il test di un insieme di restrizioni lineari sui coefficienti del modello; si consideri al riguardo un'ipotesi nulla nella forma:

dove  è una matrice di rango . Ad esempio, volendo testare l'ipotesi che il primo e il terzo coefficiente siano uguali, sarà sufficiente ricorrere la matrice (in questo particolare caso, vettore) , con , così che l'ipotesi nulla risulti: .

Al fine di sottoporre a verifica ipotesi di questo tipo, è sufficiente considerare che, essendo la combinazione lineare di variabili casuali normali ancora normale:

sotto l'ipotesi nulla . Ne consegue che:

per la nota proprietà per cui la combinazione lineare dei quadrati variabili casuali normali standardizzate ha distribuzione chi quadro, con gradi di libertà pari al rango della matrice ,  (si osservi che in generale , e che  sarà solitamente pari al numero di restrizioni imposte sui parametri del modello). Naturalmente in generale il parametro  è incognito, per cui l'espressione sopra non può essere usata direttamente per fare inferenza statistica. Si ricorda tuttavia che:

Essendo noto che il rapporto tra due variabili casuali aventi distribuzione chi quadro, divise per i rispettivi gradi di libertà, è distribuito come una F di Fisher, è possibile utilizzare la statistica test:

avente sotto l'ipotesi nulla distribuzione F di Fisher con  e  gradi di libertà.

Multicollinearità 
Se due o più colonne della matrice dei regressori  sono linearmente dipendenti, non esiste l'inversa  per cui il vettore di stime OLS non può essere determinato. Se da un lato è assai improbabile che questa eventualità si verifichi nelle applicazioni pratiche, è comunque possibile che alcune colonne della matrice  siano prossime alla dipendenza lineare; in tal caso sarà ancora possibile ottenere un vettore di stime OLS, ma sorgerà il problema della multicollinearità.

Si parla di multicollinearità allorché una o più colonne della matrice dei regressori  sono prossime a essere linearmente dipendenti. L'effetto della multicollinearità è che la matrice  è prossima all'essere singolare. Questo ha due conseguenze di particolare rilievo nelle applicazioni:
 la significatività statistica dei singoli coefficienti risulta modesta;
 il fitting della regressione risulta elevato (si osservano elevati valori dell'indice R²).
Il primo punto implica che gli intervalli di confidenza per i valori dei coefficienti saranno relativamente ampi; se tali intervalli includono lo zero, non si può rifiutare l'ipotesi nulla che la variabile corrispondente non abbia alcun effetto sulla variabile dipendente.

Un indicatore di multicollinearità spesso utilizzato nella pratica è il variance inflation factor (fattore di inflazione della varianza), o VIF. Il VIF è calcolato per ciascuna variabile del modello (spesso automaticamente da diversi software statistici), in base all'espressione:

dove  è il coefficiente R² di una regressione della colonna -esima di  su tutti gli altri regressori (incluso il termine costante, se è presente). È possibile dimostrare che la varianza dell'elemento -esimo del vettore delle stime OLS  è proporzionale al VIF; dunque un VIF elevato comporterà una minore significatività del coefficiente , andando a ridurre il valore della statistica  di Student associata. Un  elevato è indice di dipendenza lineare tra la colonna -esima e le restanti colonne della matrice , ossia è un indice di multicollinearità. Non esiste, tuttavia, un particolare valore soglia del VIF che determina inequivocabilmente la multicollinearità; sta alla sensibilità del ricercatore valutare, con l'ausilio dell'indicazione del VIF, se sussista o meno multicollinearità, nel qual caso è opportuno rimuovere il regressore -esimo (colonna -esima della matrice  sulla quale si è riscontrata multicollinearità).

Presentazione dei risultati di stima 
Le stime e le statistiche test presentate sopra costituiscono l'obiettivo del ricercatore che effettua un'analisi di regressione lineare. Sebbene le convenzioni nella presentazione dei risultati varino significativamente a seconda dell'ambito scientifico o del tipo di pubblicazione, alcuni standard sono in generale rispettati. I risultati della stima di un modello di regressione lineare potrebbero e dovrebbero riportare:
 il numero delle osservazioni;
 i valori delle stime dei parametri ( nella notazione sopra adottata);
 i valori delle statistiche test t di Student associati a ciascun parametro, onde valutarne la significatività; tali statistiche sono spesso accompagnate dall'indicazione dell'errore standard associato ( nella notazione sopra), nonché del p-value, pari a  nella notazione sopra, dove  è la funzione di ripartizione della t di Student, che presenta un'indicazione immediata della significatività (e risparmia a chi legge la pena di effettuare un controllo sulle tavole della t di Student); pur variando in funzione del settore scientifico, p-value considerati indice di significatività statistica sono quelli inferiori a 0,10, 0,05, 0,01;
 statistiche atte a valutare la bontà complessiva del modello; queste possono essere a seconda dei casi limitate a misura di bontà del fitting quali R² e R² corretto per i gradi di libertà (v. sopra), ma anche statistiche test quali il test F, ossia la statistica F di Fisher associata all'ipotesi nulla che tutti gli elementi di , salvo l'intercetta, siano al contempo nulli (quest'ultima statistica test è pari al quadrato della statistica t associata al parametro pendenza nel caso univariato);
 eventuali controparti asintotiche delle statistiche test testé menzionate (nel caso, ad esempio, in cui si abbia motivo di ritenere violata l'ipotesi di normalità dei disturbi);
 ulteriori test statistici concernenti le ipotesi del modello classico di regressione lineare, quali test per l'assenza di autocorrelazione nei residui e/o di eteroschedasticità. In quest'ultimo caso, può essere utile presentare anche delle statistiche t robuste rispetto a tali problemi, e con esse i relativi errori standard e p-value.

Regressione e causalità 
Particolare attenzione si deve porre nel ritenere che un modello: 

implichi che le variabili ricomprese nella matrice  "causino" la . È importante osservare che l'esistenza di regressione (formalmente definita nei paragrafi precedenti) non implica altro che l'esistenza di un valore atteso condizionato:

In particolare, non si può in generale affermare che l'espressione sopra significhi che le variabili in  causino il comportamento della . Come espresso con efficacia da Cochrane (2003), "le regressioni non hanno cause al secondo membro e conseguenze al primo membro." Tuttavia resta vero che uno dei principali task dell'analisi di regressione verte proprio sulle indagini di tipo causale; peraltro in contesti sperimentali "controllati" questa possibilità è tipicamente accettata. Inoltre anche in contesti osservazionali l'interpretazione causale, anche se molto più delicata, non si esclude assolutamente, anzi in certi contesti resta il task più importante. Particolare rilievo in questo contesto è giocato dal problema delle variabili omesse, se siamo portati a ritenere che tale problema non sia rilevante, allora l'interpretazione causale è lecita.

Validità 
I concetti di validità esterna ed interna forniscono uno schema di riferimento per valutare se uno studio statistico o econometrico sia utile per rispondere ad una domanda specifica di interesse.

Esterna 
L'analisi è esternamente valida se le sue inferenze e conclusioni possono essere generalizzate dalla popolazione e dal contesto studiati ad altre popolazioni e contesti. Deve essere giudicata usando la conoscenza specifica della popolazione e del contesto usato e di quelli oggetto d'interesse.

Un'ipotesi cruciale del modello classico di regressione lineare è che i regressori siano ortogonali al disturbo stocastico, ossia, formalmente:

Il motivo per cui tale ipotesi — anche nota come ipotesi di esogeneità — è fondamentale è presto illustrato; basta osservare che:

così che:

In altri termini: l'ipotesi di esogeneità dei regressori è condizione necessaria per la correttezza dello stimatore  del metodo dei minimi quadrati (un'analoga argomentazione può essere data in termini asintotici, passando dalla correttezza alla consistenza dello stimatore).

In tutti i casi in cui si ha motivo di credere che l'ipotesi di esogeneità sia violata — tutti i casi in cui si sospetta endogeneità dei regressori — non si può fare affidamento sui risultati di una regressione condotta col metodo dei minimi quadrati ordinari (la soluzione è di ricorrere a una regressione con variabili strumentali).

Differenze di popolazioni 
È la differenza tra la popolazione studiata e la popolazione d'interesse. Un esempio è quello di effettuare lo stesso test sui topi e sugli uomini senza chiedersi se vi siano delle differenze che inficino l'analisi.

Differenze di contesto 
Anche se la popolazione studiata e quella d'interesse fossero uguali, sarebbe opportuno valutarne il contesto. Un esempio è uno studio su una campagna di alcolici su degli studenti universitari e su degli studenti delle classi primarie.

Interna 
Un'analisi statistica è internamente valida se le inferenze statistiche sugli effetti causali sono validi per la popolazione oggetto di studio.

Distorsione da variabile omessa 
La distorsione da variabile omessa nasce quando viene omessa una variabile dalla regressione, che è una determinante di  ed è correlata con uno o più dei regressori.

L'omissione di variabili rilevanti (nel senso precisato in quanto segue) può rendere le stime OLS inconsistenti. Si supponga che il modello "vero" sia:

ma si stimi un modello:

che omette la variabile rilevante  che contribuisce a spiegare la variabile dipendente . Si ha allora:

Poiché , nel secondo modello il regressore  è correlato col disturbo . Per la precisione: 

Risulta così violata una delle ipotesi del modello classico di regressione lineare, e le stime del parametro  col metodo dei minimi quadrati ordinari sono inconsistenti.

Si osservi che, qualora la variabile rilevante  sia ortogonale a  (e, di conseguenza, ), il problema scompare (il teorema di Frisch-Waugh-Lovell precisa ed estende quest'ultima considerazione).

 Soluzione: se l'errore è osservabile bisogna includere la variabile omessa nella regressione multipla. Se non è osservabile è possibile:
1. Usare dati in cui la stessa unità è osservata in momenti diversi;
2. Usare la regressione a variabili strumentali;
3. Effettuare un esperimento randomizzato controllato.

Forma scorretta della regressione 
Questo errore sorge quando la funzione di regressione che descrive i dati non è corretta. Ad esempio una funzione di regressione di una popolazione non lineare è descritta come lineare.

 Soluzione: cambiare la forma della funzione.

Errori nelle variabili 
Tipicamente è un errore di misura o confusione, che va a distorcere l'intero data set.

 Soluzione:
1. Ottenere una misura più accurata di ;
2. Usare la regressione a variabili strumentali.

Causalità simultanea 
La distorsione di causalità simultanea si verifica in una regressione di Y su X quando, in aggiunta al legame causale d'interesse da  a , c'è un legame causale da  a . Questa causalità inversa rende  correlato con l'errore statistico nella regressione d'interesse.

 Soluzione:
1. Effettuare un esperimento causalizzato controllato dove il canale di causalità inversa sia controllato;
2. Usare la regressione a variabili strumentali.

Selezione campionaria 
Si verifica quando il processo di selezione è legato al valore della variabile dipendente; ciò può introdurre la correlazione tra l'errore statistico ed il regressore, portando così ad una distorsione dello stimatore OLS.

Regressori stimati (o generati) 
Si supponga di non poter osservare direttamente un regressore, che deve essere stimato (o generato, secondo una diversa terminologia); per concretezza, si consideri un "vero" modello:

e si ipotizzi di disporre soltanto di una stima di :

Se si procede nella stima di:

Si ottiene:

con:
.

Supponendo che , la stima del parametro  risulta più vicina a zero di quanto non sia il "vero" valore del parametro (questo effetto è noto con termine inglese come attenuation bias). È immediato osservare che il problema è meno pronunciato laddove la varianza dell'errore nell'osservazione di ,  risulta minore della varianza di  stesso — ossia, non sorprendentemente, quando  può essere stimato con relativa precisione.

Si osservi infine che nessun problema si pone nel caso in cui la variabile dipendente —  — sia stimata o generata. In tal caso, il termine di errore in essa contenuto sarà semplicemente incorporato nel disturbo della regressione — , senza ledere la consistenza delle stime OLS.

Proprietà asintotiche del modello classico di regressione lineare 
Le proprietà sopra esposte possono essere generalizzate al caso in cui le ipotesi sulla distribuzione dei termini di errore non siano necessariamente valide per campioni di dimensione finita. In questo caso, si ricorre alle proprietà asintotiche delle stime, supponendo implicitamente che, per campioni di dimensione sufficientemente grande, la distribuzione asintotica delle stime coincida, o approssimi ragionevolmente, quella effettiva. I risultati si fondano sul teorema del limite centrale, o su sue generalizzazioni.

Al fine di illustrare le proprietà asintotiche degli stimatori dei minimi quadrati ordinari, si ipotizzi:
 
 
 
dove  denota la convergenza in probabilità e  la matrice identità.

L'espressione per lo stimatore dei minimi quadrati ordinari può essere riscritta come:

Passando al limite per , si ha allora:

(si osservi che il limite in probabilità dell'inversa di  è l'inversa di ). Dunque, lo stimatore  converge in probabilità al vero valore del vettore di parametri  – si dice dunque che  gode della proprietà di consistenza.

Applicando una banale estensione del teorema del limite centrale al caso multivariato, si ha inoltre:

dove  denota la convergenza in distribuzione. Da quest'ultimo risultato discende allora che:

In altre parole, lo stimatore dei minimi quadrati ordinari è non solo consistente, ma anche asintoticamente normalmente distribuito; l'insieme di queste proprietà si indica con la sigla inglese CAN (Consistent and Asymptotically Normal).

Estensioni del modello lineare classico 
I metodi sopra esposti costituiscono il nucleo del modello classico di regressione lineare; quantunque validi strumenti di analisi per un ampio spettro di discipline e casi di studio, essi prestano il fianco a una serie di critiche, incentrate sulla semplicità delle ipotesi alla base del modello.

Tali critiche hanno portato alla formulazione di modelli più generali, caratterizzati da ipotesi meno restrittive rispetto a quelle poste sopra. L'analisi ha battuto alcune vie principali:
 Rimozione delle ipotesi di assenza di correlazione e omoschedasticità;
 Ipotesi alternative circa la distribuzione di probabilità dei disturbi;
 Analisi delle proprietà asintotiche del modello classico di regressione lineare, ad esempio tramite il delta method.

Ciò ha consentito lo sviluppo di modelli alternativi, o quantomeno complementari, al modello classico; tra i più noti, il metodo dei minimi quadrati generalizzati, metodi di stima tramite variabili strumentali, i vari modelli di regressione robusta, nonché numerosi modelli sviluppati nell'ambito dell'analisi delle serie storiche e dei dati panel.

Note

Bibliografia

Articoli e contributi storici 
 A.M. Legendre, (1805), Nouvelles méthodes pour la détermination des orbites des comètes, (l'Appendice contiene una sezione intitolata "Sur la Méthode des Moindres Quarrés" - Sul Metodo dei Minimi Quadrati);
 C.F. Gauss, (1809), Theoria Motus Corporum Coelestium in Sectionibus Conicis Solem Ambientum;
 C.F. Gauss, (1821/1823), Theoria combinationis observationum erroribus minimis obnoxiae;
 Charles Darwin, (1869), The Variation of Animals and Plants under Domestication (il Capitolo XIII contiene una descrizione di quanto era noto, all'epoca di Galton, sulla reversione; Darwin usa il termine reversione (reversion) in luogo di regressione);
 Francis Galton, (1877), Typical laws of heredity, Nature, 15, 492-495, 512-514, 532-533 (Galton usa il termine reversione (reversion) in questo lavoro, in cui analizza la dimensione dei piselli);
 Francis Galton, (1885), Presidential address, Section H, Anthropology. (Galton usa il termine regressione (regression) in questo lavoro, in cui analizza l'altezza degli esseri umani);
 Francis Galton, (1886), Regression Towards Mediocrity in Hereditary Stature, Journal of the Anthropological Institute, 15:246-263 (Una riproduzione è disponibile presso: );
 George Udny Yule, (1897), On the Theory of Correlation, Journal of the Royal Statistical Society, 812-54;
 Karl Pearson, G. U. Yule, Norman Blanchard and Alice Lee, (1903), The Law of Ancestral Heredity, Biometrika;
 Ronald Fisher, (1922), The goodness of fit of regression formulae, and the distribution of regression coefficients, Journal of the Royal Statistical Society, 85, 597-612;
 Ronald Fisher, (1925), Statistical Methods for Research Workers.

Teoria moderna 
 D.C. Boes, F.A. Graybill, A.M. Mood, (1988), Introduzione alla Statistica, McGraw-Hill Libri Italia, ISBN 88-386-0661-7, il testo di riferimento per i fondamenti della statistica matematica; il Capitolo 10 contiene un'introduzione al modello lineare e tratta la regressione lineare classica nel caso univariato; i Capitoli 3, 5, 7-8 trattano le famiglie di distribuzioni sopra menzionate, problemi relativi a funzioni di variabili casuali, nonché la teoria generale classica della stima per punti e per intervalli di confidenza;
 N.R. Draper, H. Smith, (1998), Applied Regression Analysis, Wiley Series in Probability and Statistics, ISBN 0-471-17082-8, illustra i metodi della regressione lineare classica sopra analizzati, e introduce metodi più avanzati di regressione robusta e bootstrap; dedica i Capitoli 20-21 alle proprietà geometriche degli stimatori OLS (in inglese);
 John R. Taylor, (1999), Introduzione all'analisi degli errori, Zanichelli editore, ISBN 88-08-17656-8, illustra in modo chiaro ed intuitivo i fondamenti della statistica, introducendo il metodo della regressione lineare, le principali famiglie di distribuzioni, la teoria generale classica della stima per punti e per intervalli di confidenza, presentando anche diversi esempi concreti.

Pratica corrente 
Nell'ambito dell'econometria (manuali, si veda anche l'articolo econometria):
 Davidson, J. (2000), Econometric Theory, Blackwell, ISBN 0-631-21584-0, un testo avanzato, di livello master/dottorato; contiene un'analisi approfondita degli aspetti geometrici e statistici del modello di regressione lineare classico, delle sue proprietà statistiche asintotiche, nonché una diffusa trattazione di tecniche più avanzate, relative all'analisi delle serie storiche (in inglese);
 Greene, W.H. (2000), Econometric Analysis, Prentice-Hall, ISBN 0-13-013297-7, analizza nel dettaglio il modello classico di regressione lineare nel caso multivariato, con particolare riferimento alle sue applicazioni nell'ambito dell'econometria, disciplina per cui rappresenta il testo di livello universitario/master di riferimento (in inglese);
 Lancaster, T. (2004), An introduction to Modern Bayesian Econometrics, Blackwell, ISBN 1-4051-1720-6, contiene un'analisi (introduttiva) del modello di regressione lineare nella prospettiva dell'inferenza bayesiana, principale concorrente dell'approccio classico, o frequentista, nell'econometria (in inglese).

Nell'ambito della finanza:
 Campbell, J., A.W. Lo e A.C. MacKinlay, (1996), The Econometrics of Financial Markets, Princeton University Press, ISBN 978-0-691-04301-2, un testo di riferimento per applicazioni dell'analisi statistica, e in particolare di regressione, allo studio dei mercati finanziari (in inglese);
 Cochrane, J. (2003), Asset Pricing — Revised Edition, Princeton University Press ISBN 0-691-12137-0, un testo introduttivo sulla teoria dell'asset pricing, con numerosi capitoli dedicati alle applicazioni del modello di regressione lineare ai test empirici dei modelli di asset pricing.

Nell'ambito della fisica:
 Loreti, M. (1998), Teoria degli errori e fondamenti di statistica, Decibel Zanichelli, ISBN 88-08-09785-4, ottima introduzione alla statistica in fisica, scaricabile anche (legalmente) dal sito dell'autore, 

Nell'ambito della Ricerca sociale:

 Pisati M., Corbetta P. e Gasperoni G., (2001), Statistica per la ricerca sociale, Il Mulino.

Nell'ambito della linguistica, in particolare della psicolinguistica:

 Baayen, R. H., (2006), Analyzing Linguistic Data. A Practical Introduction to Statistics Using R, Cambridge University Press. (scaricabile anche dal sito dell'autore, )

Voci correlate 
 Correlazione (statistica)
 Correlazione spuria
 Econometria
 Metodo dei minimi quadrati
 Metodo della stima tramite variabili strumentali
 Metodo dei minimi quadrati a due stadi
 Regressione con i minimi quadrati generalizzati
 Regressione nonlineare
 Teorema di Frisch-Waugh-Lovell
 Teorema di Gauss-Markov
 Statistica di Durbin-Watson, una statistica test utilizzata per rilevare la presenza di autocorrelazione dei residui in un'analisi di regressione

Altri progetti 

Analisi di regressione
Psicometria