Regresión linear

[350px|miniatura|Exemplo dunha regresión linear cunha [variable dependente e unha variable independente.]]
En estatística a **regresión linear** ou **axuste linear** é un modelo matemático empregado para aproximar a relación de dependencia entre unha variable dependente *Y*, as variables independentes *Xi* e un termo aleatorio ε. Este modelo pode ser expresado como:

onde:
:Y_t: variable dependente, explicada ou regresando.
:X_1, X_2, \cdots, X_p : variables explicativas, independentes ou regresores.
:\beta_0,\beta_1,\beta_2,\cdots ,\beta_p : parámetros, miden a influencia que as variables explicativas teñen sobre o regrediendo.
onde \beta_0 é a intersección ou termo "constante", as \beta_i \ (i > 0) son os parámetros respectivos a cada variable independente, e p é o número de parámetros independentes que hai que ter en conta na regresión. A regresión linear pode ser contrastada coa regresión non linear.

## Historia 
A primeira forma de regresión linear documentada foi o método dos mínimos cadrados que foi publicado por Legendre en 1805. Gauss publicou un traballo onde desenvolvía de xeito máis fondo o método dos mínimos cadrados, e onde se incluía unha versión do teorema de Gauss-Markov.

O termo *regresión* empregouse por primeira vez no estudo de variables antropométricas: ao comparar a estatura de pais e fillos, onde resultou que os fillos con pais cunha estatura moi superior ao valor medio, tendían a igualarse a este, mentres que aqueles con pais moi baixos tendían a reducir a súa diferenza respecto á estatura media; é dicir, "regresaban" á media. A constatación empírica desta propiedade viuse reforzada máis tarde coa xustificación teórica do fenómeno.

O termo *linear* emprégase para distinguilo das demais técnicas de regresión, que utilizan modelos baseados en calquera clase de función matemática. Os modelos lineares son unha explicación simplificada da realidade, moito máis áxiles e cun soporte teórico moito máis extenso por parte da matemática e a estatística.

## O modelo de regresión linear 
O modelo linear relaciona a variable dependente *Y* con *K* variables explícitas  X_k  *(k = 1,...K)*, ou calquera transformación destas que xeren un hiperplano de parámetros  \beta_k  descoñecidos:

onde  \varepsilon  é a perturbación aleatoria que recolle todos aqueles factores da realidade non controlables ou observables e que polo tanto se asocian co azar, e é a que confire ao modelo o seu carácter estocástico.

No caso máis sinxelo, cunha soa variable explícita, o hiperplano é unha recta:

O problema da regresión consiste en escoller uns valores determinados para os parámetros descoñecidos \beta_k, de modo que a ecuación quede completamente especificada.

Para iso precísase dun conxunto de observacións. Nunha observación i-ésima *(i= 1,... I)* calquera, rexístrase o comportamento simultáneo da variable dependente e as variables explícitas (as perturbacións aleatorias supóñense non observables).

{{ecuación| Y_i = \sum \beta_k X_{ki} + \varepsilon_i|4|left}}

Os valores escollidos como estimadores dos parámetros \hat{\beta_k}, son os coeficientes de regresión sen que se poida garantir que coincida *n* con parámetros reais do proceso xerador. Polo tanto, en

{{ecuación| Y_i = \sum \hat{\beta_k} X_{ki} + \hat{\varepsilon_i}|5|left}}

Os valores  \hat{\varepsilon_i}  son estimacións ou erros da perturbación aleatoria.

### Hipótese do modelo de regresión linear clásico 
# **Esperanza matemática nula**: \mathbb{E}(\varepsilon_i) = 0. Para cada valor de X a perturbación tomará distintos valores de forma aleatoria, pero non tomará
sistematicamente valores positivos ou negativos, senón que se supón que tomará algúns valores maiores que cero e outros menores que cero, de tal forma que o seu valor esperado sexa cero.
# **Homocedasticidade**: \text{Var}(\varepsilon_t) = \mathbb{E}(\varepsilon_t - \mathbb{E} \varepsilon_t)^2 = \mathbb{E} \varepsilon_t^2 = \sigma^2 para todo *t*. Todos os termos da perturbación teñen a mesma varianza, que é descoñecida. A dispersión de cada \varepsilon_t arredor do seu valor esperado é sempre a mesma.
# **Incorrelación** ou **independencia**: \text{Cov}(\varepsilon_t,\varepsilon_s ) = (\varepsilon_t - \mathbb{E} \varepsilon_t) (\varepsilon_s - \mathbb{E} \varepsilon_s) = \mathbb{E} \varepsilon_t \varepsilon_s = 0   para todo *t,s* con *t* distinto de *s*. As covarianzas entre as distintas perturbacións son nulas, o que quere dicir que non están correlacionadas. Isto implica que o valor da perturbación para calquera observación da mostra non vén influenciado polos valores das perturbacións correspondentes a outras observacións da mostra.
# **Regresores non estocásticos**.
# **Independencia linear**. Non existen relacións lineares exactas entre os regresores.
# T > k + 1 . Supoñemos que non existen erros de especificación no modelo, nin erros de medida nas variables explicativas.
# **Normalidade** das perturbacións:  \varepsilon \sim N(0, \sigma^2 )

### Supostos do modelo de regresión linear 
Para poder crear un modelo de regresión linear é necesario que se cumpra cos seguintes supostos:
# Que a relación entre as variables sexa linear.
# Que os erros na medición das variables explicativas sexan independentes entre eles.
# Que os erros teñan varianza constante. (Homocedasticidade)
# Que os erros teñan unha esperanza matemática igual a cero (os erros dunha mesma magnitude e distinto signo son equiprobables).
# Que o erro total sexa a suma de todos os erros.

## Tipos de modelos de regresión linear 
Existen diferentes tipos de regresión linear que se clasifican segundo os seus parámetros:

### Regresión linear simple 
Só se manexa unha variable independente, polo que só conta con dous parámetros. Son da forma:

onde \varepsilon_i é o erro asociado á medición do valor X_i e seguen os supostos de modo que \varepsilon_i \sim N(0,\sigma^2) (media cero, varianza constante e igual a un \sigma e \varepsilon_i \perp \varepsilon_j con i\neq j).

Dado o modelo de regresión simple anterior, se se calcula a esperanza (valor esperado) do valor *Y*, obtense:
{{ecuación|
E(y_i) = \hat{y_i}=E(\beta_0) + E(\beta_1 x_i) + E(\varepsilon_i)
|7|left}}
Derivando respecto a \hat{\beta}_0 y \hat{\beta}_1 e igualando a cero, obtense:

{{ecuación| Y_i = \beta_0 + \sum \beta_i X_{ip} + \varepsilon_i|13|left}}

onde \varepsilon_i é o erro asociado á medición i do valor X_{ip} e seguen os supostos de xeito que \varepsilon_i \sim N(0,\sigma^2) (media cero, varianza constante e igual a un \sigma e \varepsilon_i \perp \varepsilon_j con i\neq j).

### Rectas de regresión 
As rectas de regresión son as rectas que mellor se axustan á nube de puntos ou diagrama de dispersión xerado por unha distribución binomial.
Matematicamente, son posibles dúas rectas de máximo axuste:

* a recta de regresión de *Y* sobre *X*:
{{ecuación|y = \bar{y} + \frac{\sigma_{xy}}{\sigma_{x}^2}(x - \bar{x})|14|left}}
* a recta de regresión de *X* sobre *Y*:
{{ecuación|x = \bar{x} + \frac{\sigma_{xy}}{\sigma_{y}^2}(y - \bar{y})|15|left}}

A correlación (*"r"*) das rectas determinará a calidade do axuste. Se *r* é próximo ou igual a 1, o axuste será bo e as predicións realizadas a partir do modelo obtido serán moi fiables (o modelo obtido resulta verdadeiramente representativo); se *r* é próximo ou igual a 0, tratarase dun axuste malo no que as predicións que se realicen a partir do modelo obtido non serán fiables (o modelo obtido non resulta representativo da realidade). Ambas as rectas de regresión intersécanse nun punto chamado centro de gravidade da distribución.

## Aplicacións da regresión linear 
### Liñas de tendencia 
Unha *liña de tendencia* representa unha tendencia nunha serie de datos obtidos a través dun período longo. Este tipo de liñas pode indicar se un conxunto de datos en particular (como por exemplo, o PBI, o prezo do petróleo ou o valor das accións) aumentaron ou decreceron nun determinado período. Pódese debuxar unha liña de tendencia a simple vista facilmente a partir dun grupo de puntos, pero a súa posición e pendente calcúlase de xeito máis preciso mediante técnicas estatísticas como as regresións lineares. As liñas de tendencia son xeralmente liñas rectas, aínda que algunhas variacións utilizan polinomios de maior grao dependendo da curvatura desexada na liña.

### Medicina 
En medicina, as primeiras evidencias relacionando a mortalidade con fumar tabaco viñeron de estudos que empregaban a regresión linear. Os investigadores inclúen unha gran cantidade de variables na súa análise da regresión nun esforzo por eliminar factores que puidesen producir correlacións espurias.

No caso do tabaquismo, os investigadores incluíron o estado socioeconómico para asegurarse de que os efectos de mortalidade por tabaquismo non sexan un efecto da súa educación ou posición económica. Non obstante, é imposible incluír todas as variables posibles nun estudo de regresión. no exemplo do tabaquismo, un hipotético xene podería aumentar a mortalidade e aumentar a propensión a adquirir enfermidades relacionadas co consumo de tabaco. Por esta razón, na actualidade as probas controladas aleatorias son consideradas moito máis fiables cá análise da regresión.

### Informática 
Exemplo dunha rutina que emprega unha recta de regresión linear para proxectar un valor futuro:
Código escrito en PHP

```php
");
      //Calculo de terminos
      $x2 += $xarray[$i]*$xarray[$i];
      $y  += $yarray[$i];
      $x  += $xarray[$i];
      $xy += $xarray[$i]*$yarray[$i];
}
//Coeficiente parcial de regresion
$b=($cantidade*$xy-$x*$y)/($cantidade*$x2-$x*$x);
//Calculo do intercepto
$a=($y-$b*$x)/$cantidade;
//Recta tendencial
//y=a+bx
//Proxeccion en dias para un 100% da execucion:
if ($b!=0) $dias_proxectados=($pm-$a)/$b;
else $dias_proxectados=999999; //Infinitos
$dp=round($dias_proxectados,0);
if($dp Culmina antes dos $pm dias ";
if($dp >$pm) 	print $dp ."---> ALARMA: non culmina antes dos $pm dias ";
?>
```

## Notas 
## Véxase tamén 
### Bibliografía 
* Devore, Jay L.; *Probabilidad y Estadística para Ingeniería y Ciencias*. International Thomson Editores. México. ISBN 970-686-457-1.
* Walpole, Ronald E.; Raymond H.; Myers, Sharon L.; *Probabilidad y Estadística para Ingenieros*. Pretice-Hall Hispanoamericana, S.A. México. ISBN 970-17-0264-6.
* Canavos, George C.; *Probabilidad y Estadística. Aplicaciones y Métodos.* McGraw-Hill. México. ISBN 968-451-856-0.
### Outros artigos 
* Econometría
* Mínimos cadrados
* Regularización de Tikhonov
* Cuarteto de Anscombe
### Ligazóns externas 
* Cálculo de regresiones lineares en liña. 
* ZunZun.com Axuste de curvas e superficies en liña. 
* xuru.org  Herramientas de regresión linear en liña. 
* Titorial para a aprendizaxe dos conceptos de regresión lineal