Գծային ռեգրեսիա

Վիճակագրության մեջ գծային ռեգրեսիան կախյալ և անկախ (բացատրող) փոփոխականների միջև գծային կապի մոդելավորումն է։ Եթե առկա է մեկ բացատրող փոփոխական, ապա այն անվանում են պարզ գծային ռեգրեսիա, իսկ մեկից ավելի բացատրող փոփոխականներ պարունակողը՝ բազմագործոն գծային ռեգրեսիա։  Վերջինս տարբերվում է բազմագործոն ընդհանրացված ռեգրեսիայից, որտեղ կանխատեսվում են միմյանցից կախվածություն ունեցող մի քանի փոփոխականներ։
Գծային ռեգրեսիայում փոփոխականների միջև կապն արտահայտվում է գծային ֆունկցիաների միջոցով, որոնց անհայտ պարամետրերը գնահատվում են տվյալների հիման վրա։ Նման մոդելները կոչվում են գծային մոդելներ։ Տրված բացատրող փոփոխականների պարագայում կախյալ փոփոխականի արժեքների պայմանական միջինը համարվում է այդ փոփոխականների աֆինական ֆունկցիան։ Պայմանական միջինի փոխարեն երբեմն կարող է օգտագործվել է պայմանական մեդիանը կամ որոշ այլ բաժանագծեր (քվանտիլ)։ Ռեգրեսիայի վերլուծության բոլոր ձևերի պես, գծային ռեգրեսիան կենտրոնանում է  տրված բացատրող փոփոխականների դեպքում պատասխանի պայմանական հավանականությունների բաշխման վրա, ոչ թե բոլոր այս փոփոխականների համատեղ հավանականությունների բաշխման վրա, ինչը բազմագործոն վերլուծության տիրույթից է։
Գծային ռեգրեսիան ռեգրեսիոն վերլուծության առաջին տեսակն էր, որը խորապես ուսումնասիրվեց և լայն կիրառություն ստացավ։ Դրա հիմնական պատճառն այն էր, որ մոդելները, որոնք գծայնորեն են կախված իրենց անհայտ պարամետրերից, ավելի հեշտ են ադապտացվել(fit), քան այն մոդելները, որոնք ոչ գծային կախվածություն ունեն իրենց պարամետրերից, ինչպես նաև այն պատճառով, որ արդյունքում ստացված գնահատիչների(estimator) վիճակագրական հատկությունները ավելի հեշտ են որոշել։
Գծային ռեգրեսիան ունի շատ գործնական կիրառություններ։ Կիրառությունները մեծ հաշվով կարելի է բաժանել հետևյալ երկու խմբերի.

Եթե նպատակը կանխատեսումն է կամ սխալի նվազեցումը, գծային ռեգրեսիան կարող է օգտագործվել կանխատեսող մոդելը դիտարկված բացատրող և բացատրվող փոփոխականի արժեքների ամբողջության մեջ ադապտացնելու(ֆիթ անելու) համար։ Նման մոդելի մշակումից հետո, եթե բացատրական փոփոխականների լրացուցիչ արժեքներիի ավելացումը չի փոխում կամ աննշան է փոխում բացատրվող փոփոխականի արժեքը, ապա ադապտացված մոդելը կարող է օգտագործվել կանխատեսելու համար բացատրվող փոփոխականը։
Եթե նպատակը բացատրվող փոփոխականի արժեքների փոփոխությունները բացատրելն է, ապա գծային ռեգրեսիոն վերլուծությունը կարող է կիրառվել բացատրող և բացատրվող փոփոխականների միջև կապի ամրությունը որոշելու համար, մասնավորապես`որոշել, թե արդյոք որոշ բացատրող փոփոխականներ որևէ գծային կապ ունեն բացատրվողի հետ, կամ պարզել, թե բացատրական փոփոխականներից որոնք կարող են պարունակել ավելորդ տեղեկատվություն բացատրվողի վերաբերյալ։Գծային ռեգրեսիայի մոդելները հաճախ ադապտացվում են փոքրագույն քառակուսիների եղանակով, բայց դրանք կարող են ադապտացվել նաև այլ եղանակներով, օրինակ նվազագույնի հասցնելով ՙՙտույժի՚՚ չափը ինչպես ռիջ ռեգրեսիայի (ridge regression, L 2 -norm տույժ) և Լասսոյի (Lasso, L 1 -norm տույժ) դեպքում։ Ինչպես նաև, նվազագույն քառակուսիների եղանակը կարող է օգտագործվել ոչ գծային մոդելների ադապտացման համար։ Այսպիսով, չնայած «նվազագույն քառակունիների եղանակը» սերտորեն կապված է «գծային մոդել» տերմինի հետ, դրանք միմյանց հոմանիշ չեն։


== Ներածություն ==

Տրված n վիճակագրական միավորների 
  
    
      
        {
        
          y
          
            i
          
        
        ,
        
        
          x
          
            i
            1
          
        
        ,
        …
        ,
        
          x
          
            i
            p
          
        
        
          }
          
            i
            =
            1
          
          
            n
          
        
      
    
    {\displaystyle \{y_{i},\,x_{i1},\ldots ,x_{ip}\}_{i=1}^{n}}
   համար գծային ռեգրեսիոն մոդելը ենթադրում է, որ կախյալ փոփոխական y -ի և x ռեգրեսորների վեկտորի միջև կապը գծային է։ Այս կապը մոդելավորվում է սխալի՝ ε  պատահական մեծության միջոցով։ Վերջինս «աղմուկ» է ավելացնում կախյալ փոփոխականի և ռեգրեսորների միջև գծային կապի մեջ։ Այսպիսով, մոդելն ունի հետևյալ տեսքը.

  
    
      
        
          y
          
            i
          
        
        =
        
          β
          
            0
          
        
        +
        
          β
          
            1
          
        
        
          x
          
            i
            1
          
        
        +
        ⋯
        +
        
          β
          
            p
          
        
        
          x
          
            i
            p
          
        
        +
        
          ε
          
            i
          
        
        =
        
          
            x
          
          
            i
          
          
            
              T
            
          
        
        
          β
        
        +
        
          ε
          
            i
          
        
        ,
        
        i
        =
        1
        ,
        …
        ,
        n
        ,
      
    
    {\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i1}+\cdots +\beta _{p}x_{ip}+\varepsilon _{i}=\mathbf {x} _{i}^{\mathsf {T}}{\boldsymbol {\beta }}+\varepsilon _{i},\qquad i=1,\ldots ,n,}
  որտեղ T- ը նշանակում է փոխակերպում/տրանսպոնացում, այնպես որ xiTβ- ը  xi և β վեկտորների ներքին արտադրյալն է։
Հաճախ այդ n հավասարումները հավաքվում են միասին և գրվում են մատրիցային տեսքով՝

  
    
      
        
          y
        
        =
        X
        
          β
        
        +
        
          ε
        
        ,
        
      
    
    {\displaystyle \mathbf {y} =X{\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }},\,}
  որտեղ՝

  
    
      
        
          y
        
        =
        
          
            (
            
              
                
                  
                    y
                    
                      1
                    
                  
                
              
              
                
                  
                    y
                    
                      2
                    
                  
                
              
              
                
                  ⋮
                
              
              
                
                  
                    y
                    
                      n
                    
                  
                
              
            
            )
          
        
        ,
        
      
    
    {\displaystyle \mathbf {y} ={\begin{pmatrix}y_{1}\\y_{2}\\\vdots \\y_{n}\end{pmatrix}},\quad }
  
  
    
      
        X
        =
        
          
            (
            
              
                
                  
                    
                      x
                    
                    
                      1
                    
                    
                      
                        T
                      
                    
                  
                
              
              
                
                  
                    
                      x
                    
                    
                      2
                    
                    
                      
                        T
                      
                    
                  
                
              
              
                
                  ⋮
                
              
              
                
                  
                    
                      x
                    
                    
                      n
                    
                    
                      
                        T
                      
                    
                  
                
              
            
            )
          
        
        =
        
          
            (
            
              
                
                  1
                
                
                  
                    x
                    
                      11
                    
                  
                
                
                  ⋯
                
                
                  
                    x
                    
                      1
                      p
                    
                  
                
              
              
                
                  1
                
                
                  
                    x
                    
                      21
                    
                  
                
                
                  ⋯
                
                
                  
                    x
                    
                      2
                      p
                    
                  
                
              
              
                
                  ⋮
                
                
                  ⋮
                
                
                  ⋱
                
                
                  ⋮
                
              
              
                
                  1
                
                
                  
                    x
                    
                      n
                      1
                    
                  
                
                
                  ⋯
                
                
                  
                    x
                    
                      n
                      p
                    
                  
                
              
            
            )
          
        
        ,
      
    
    {\displaystyle X={\begin{pmatrix}\mathbf {x} _{1}^{\mathsf {T}}\\\mathbf {x} _{2}^{\mathsf {T}}\\\vdots \\\mathbf {x} _{n}^{\mathsf {T}}\end{pmatrix}}={\begin{pmatrix}1&x_{11}&\cdots &x_{1p}\\1&x_{21}&\cdots &x_{2p}\\\vdots &\vdots &\ddots &\vdots \\1&x_{n1}&\cdots &x_{np}\end{pmatrix}},}
  
  
    
      
        
          β
        
        =
        
          
            (
            
              
                
                  
                    β
                    
                      0
                    
                  
                
              
              
                
                  
                    β
                    
                      1
                    
                  
                
              
              
                
                  
                    β
                    
                      2
                    
                  
                
              
              
                
                  ⋮
                
              
              
                
                  
                    β
                    
                      p
                    
                  
                
              
            
            )
          
        
        ,
        
        
          ε
        
        =
        
          
            (
            
              
                
                  
                    ε
                    
                      1
                    
                  
                
              
              
                
                  
                    ε
                    
                      2
                    
                  
                
              
              
                
                  ⋮
                
              
              
                
                  
                    ε
                    
                      n
                    
                  
                
              
            
            )
          
        
        .
      
    
    {\displaystyle {\boldsymbol {\beta }}={\begin{pmatrix}\beta _{0}\\\beta _{1}\\\beta _{2}\\\vdots \\\beta _{p}\end{pmatrix}},\quad {\boldsymbol {\varepsilon }}={\begin{pmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\vdots \\\varepsilon _{n}\end{pmatrix}}.}
  
  
    
      
        
          y
        
      
    
    {\displaystyle \mathbf {y} }
  -ը դիտարկված արժեքների`
  
    
      
        
          y
          
            i
          
        
         
        (
        i
        =
        1
        ,
        …
        ,
        n
        )
      
    
    {\displaystyle y_{i}\ (i=1,\ldots ,n)}
   վեկտոր է։ y-ը անվանում են ռեգրեսանտ, բացատրվող փոփոխական կամ կախյալ փոփոխական։ Այս փոփոխականը երբեմն հայտնի է նաև որպես կանխատեսված փոփոխական, բայց դա չպետք է շփոթել կանխատեսվող արժեքների հետ, որոնք նշվում են 
  
    
      
        
          
            
              y
              ^
            
          
        
      
    
    {\displaystyle {\hat {y}}}
  ։ Որպեսզի որոշենք, թե որն է կախյալ փոփոխականը և որոնք անկախները, պետք է հասկանալ, թե որ փոփոխականի արժեքն է ստացվում մյուսից կամ որն է ուղղակիորեն ազդում մյուսի վրա։

  
    
      
        X
      
    
    {\displaystyle X}
   կարող է դիտվել որպես տողի արժեքների վեկտորների մատրիցա 
  
    
      
        
          
            x
          
          
            i
          
        
      
    
    {\displaystyle \mathbf {x} _{i}}
   կամ n- չափանի սյուների արժեքների վեկտորներից 
  
    
      
        
          X
          
            j
          
        
      
    
    {\displaystyle X_{j}}
  , որոնք հայտնի են որպես ռեգրեսորներ, էկզոգեն փոփոխականներ, բացատրող փոփոխականներ, մուտքային փոփոխականներ կամ անկախ փոփոխականներ (չխառնել անկախ պատահական փոփոխականների հասկացության հետ)։
Սովորաբար հաստատունը համարվում է ռեգրեսորներից մեկը։ Մասնավորապես, 
  
    
      
        
          
            x
          
          
            i
            0
          
        
        =
        1
      
    
    {\displaystyle \mathbf {x} _{i0}=1}
  , երբ 
  
    
      
        i
        =
        1
        ,
        …
        ,
        n
      
    
    {\displaystyle i=1,\ldots ,n}
  ։ β – ի համապատասխան տարրը կոչվում է հաստատուն։ Գծային շատ մոդելների համար հաստատունի առկայությունը պարտադիր է, ուստի այն հաճախ ներառվում է, նույնիսկ եթե տեսական նկատառումները հուշում են, որ դրա արժեքը պետք է լինի զրո։
Երբեմն ռեգրեսորներից մեկը կարող է լինել մեկ այլ ռեգրեսորի հետ ոչ գծային կախվածության մեջ, ինչպես բազմագործոն ռեգրեսիայի դեպքում։ Մոդելը մնում է գծային, քանի դեռ գծային է β պարամետրերի վեկտորի դեպքում։
x ij արժեքները կարող են դիտվել որպես X J պատահական փոփոխականների դիտարկված արժեքներ կամ որպես ֆիքսված արժեքներ, որոնք ընտրված են մինչև կախյալ փոփոխականը դիտարկելը։ Այս երկու մեկնաբանությունները կարող են տեղին լինել տարբեր դեպքերում, և դրանք հիմնականում հանգեցնում են նույն գնահատման ընթացակարգերի. այնուամենայնիվ, այս երկու իրավիճակներում օգտագործվում են ասիմպտոտիկ վերլուծության տարբեր մոտեցումներ։

  
    
      
        
          β
        
      
    
    {\displaystyle {\boldsymbol {\beta }}}
  -ն 
  
    
      
        (
        p
        +
        1
        )
      
    
    {\displaystyle (p+1)}
   - չափանի պարամետրերի վեկտոր է, որտեղ 
  
    
      
        
          β
          
            0
          
        
      
    
    {\displaystyle \beta _{0}}
   հաստատունն է (եթե այն ներառված է մոդելում, հակառակ դեպքում 
  
    
      
        
          β
        
      
    
    {\displaystyle {\boldsymbol {\beta }}}
   վեկտորը p –չափանի է)։ Դրա տարրերը կոչվում են ռեգրեսիայի գործակիցներ/կոեֆիցիենտներ։ Գծային ռեգրեսիայի մեջ վիճակագրական գնահատումը և եզրակացությունը կենտրոնանում են β-ի վրա։ Այս վեկտորի տարրերը մեկնաբանվում են որպես կախյալ փոփոխականի մասնակի ածանցյալներ ըստ անկախ փոփոխականների։

  
    
      
        
          ε
        
      
    
    {\displaystyle {\boldsymbol {\varepsilon }}}
  -ը 
  
    
      
        
          ε
          
            i
          
        
      
    
    {\displaystyle \varepsilon _{i}}
   արժեքների վեկտոր է։ Մոդելի այս հատվածը կոչվում է սխալ, շեղում կամ երբեմն աղմուկ։ Այս փոփոխական ներառում է բոլոր այն գործոնները, որոնք ազդում են կախյալ փոփոխական y-ի վրա, բացառությամբ ռեգրեսորներ X-ը։ Սխալի և ռեգրեսորների միջև կապը, օրինակ՝ դրանց կոռելյացիան, կարևոր է գծային ռեգրեսիայի մոդելի ձևավորման հարցում, քանի որ այն որոշում է գնահատման համապատասխան մեթոդը։


=== Ենթադրություններ ===
Ստանդարտ գծային ռեգրեսիայի մոդելները, որոնք ունեն գնահատման տեխնիկա, մի շարք ենթադրություններ են առաջ քաշում կանխատեսող փոփոխականների, կախյալ փոփոխականների և դրանց փոխհարաբերությունների վերաբերյալ։ Բազմաթիվ փոփոխություններ են մշակվել, որոնք թույլ են տալիս այս ենթադրություններից յուրաքանչյուրը ՙՙմեղմել՚՚, իսկ որոշ դեպքերում վերացնել ամբողջությամբ։ Ընդհանրապես, այդ ընդարձակումները գնահատման կարգը դարձնում են ավելի բարդ և ժամանակատար, և կարող են պահանջվել նաև ավելի շատ տվյալներ՝ հավասարազոր ճշգրիտ մոդել կազմելու համար։ 

Ստորև ստանդարտ գնահատման տեխնիկայով (օրինակ՝ սովորական նվազագույն քառակուսիները) ստանդարտ գծային ռեգրեսիայի մոդելների  կատարված հիմնական ենթադրություններն են.

Թույլ էկզոգենություն։ Սա, ըստ էության, նշանակում է, որ անկախ փոփոխական x- երը կարող են համարվել ֆիքսված արժեքների, այլ ոչ թե պատահական փոփոխականների։ Չնայած այս ենթադրությունը շատ պարամետրերով իրատեսական չէ, այս ենթադրության բացակայությունը հանգեցնում է զգալիորեն ավելի բարդ մոդելների, որոնք փոփոխականներում կան սխալներ։
Գծայնություն։ Սա նշանակում է, որ կախյալ փոփոխականը կոեֆիցիենտների և անկախ փոփոխականների գծային կախվածությունն է։ Քանի որ կանխատեսող փոփոխականները համարվում են հաստատուն (ինչպես նշվեց վերևում), գծայինությունը միայն պարամետրերի վրա է սահմանափակում դնում։ Կանխատեսող փոփոխականներն իրենք կարող են կամայականորեն վերափոխվել, կարող են ավելացվել նույն հիմքով կանխատեսող փոփոխականի մի քանի օրինակներ, որոնցից յուրաքանչյուրը տարբեր կերպ է փոխակերպվում։ Այս տեխնիկան օգտագործվում է, օրինակ, պոլինոմիական ռեգրեսիայի մեջ, որը  գծային ռեգրեսիան դարձնում է եզրակացություն կատարելու հզոր մեթոդ։ Ավելին, բազմագործոն ռեգրեսիայի նման մոդելները հաճախ «չափազանց հզոր են», քանի որ դրանք հակված են գերակատարելուն (overfit)։ Արդյունքում, անհրաժեշտ է լինում օգտագործել որևէկարգավորում/ռեգուլարիզացիա դրանից խուսափելու համար։ Ընդհանուր օրինակներ են ռիջի և լասոյի ռեգրեսիաները։ Կարող է օգտագործվել նաև բայեսյան գծային ռեգրեսիա, որն իր բնույթով քիչ թե շատ կանխում է գերակատարումը։ Ընդ որում, ռիջի և լասոյի ռեգրեսիաները կարող են դիտվել որպես բայեսյան գծային ռեգրեսիայի հատուկ դեպքեր։
Մշտական վարիացիա (a.k.a. homoscedasticity/հոմսկեդաստիկություն)։ Սա նշանակում է, որ կախյալ փոփոխականի տարբեր արժեքները ունեն իրենց սխալների վարիացիան՝ անկախ կանխատեսող փոփոխականների արժեքներից։ Գործնականում այս ենթադրությունն անվավեր է (այսինքն ՝ սխալները հետերոսկեդաստիկ են), եթե կախյալ փոփոխականը կարող է տատանվել ավելի լայն մասշտաբով։  Պարզ գծային ռեգրեսիայի գնահատման մեթոդների դեպքում պարամետրերի գնահատականները ոչ այնքան ճշգրիտ են հետերոսկեդաստիկության առկայության դեպքում։ Այնուամենայնիվ, գնահատման տարբեր մեթոդներ (օրինակ ՝ կշռված նվազագույն քառակուսիները) կարող են կարգավորել հետերոսկեդաստիկությունը միանգամայն ընդհանուր եղանակով։ Բայեսյան գծային ռեգրեսիայի տեխնիկան նույնպես կարող է օգտագործվել այն դեպքում, երբ ենթադրվում է, որ վարիացիան ֆունկցիա է կախված միջինից։ Որոշ դեպքերում խնդիրը հնարավոր է շտկել`կիրառելով կախյալ փոփոխականի փոխակերպումներ(օրինակ` կախյալ փոփոխականը լոգարիթմել, որի դեպքում այն կունենա լոգ-նորմալ բաշխում, նորմալ բաշխման փոխարեն )։
Սխալների անկախություն։ Սա ենթադրում է, որ կախյալ փոփոխականների սխալները միմյանց հետ կապված չեն։ Որոշ մեթոդներ (օր.՝ ընդհանրացված փոքրագույն քառակուսիները) ունակ են վերահսկել կոռելացված սխալներ, չնայած դրանք սովորաբար պահանջում են զգալիորեն ավելի շատ տվյալներ, եթե որոշ տեսակի կարգավորում/ռեգուլարիզացիա չի կիրառվել։ Բայեսյան գծային ռեգրեսիան այս հարցը լուծելու ընդհանուր միջոցներից է։
Կանխատեսող փոփոխականներում կատարյալ բազմակոլինեարության բացակայություն։ Փոքրագույն քառակուսիների գնահատման սովորական մեթոդների համար X  մատրիցը պետք է ունենա  սյունակի ամբողջական ռանգ՝ p ; Հակառակ դեպքում կանխատեսող փոփոխականներում ունենք կատարյալ բազմակոլինեարություն։ Դա կարող է առաջանալ կանխատեսող երկու կամ ավելի կատարյալ փոխկապակցված փոփոխականներ ունենալու պատճառով (օրինակ, եթե նույն կանխատեսող փոփոխականը սխալմամբ տրվում է երկու անգամ նույն տեսքով)։ Դա կարող է պատահել նաև, եթե շատ քիչ տվյալներ կան, որոնք պարամետրեր, որոնք պետք է գնահատվեն։ Կատարյալ բազմակոլինեարության դեպքում պարամետրերի β վեկտորը չի ունենա եզակի լուծում։ Մշակվել են բազմակոլինեարությամբ գծային մոդելների ադապտացման(fitting) մեթոդներ. որոշները պահանջում են լրացուցիչ ենթադրություններ, ինչպիսիք են ՝ «էֆեկտի նոսրությունը», այսինքն էֆեկտների մեծ մասը հավասար է զրոյի։Այս ենթադրություններից բացի, տվյալների մի քանի այլ վիճակագրական հատկություններ ևս խստորեն ազդում են գնահատման տարբեր մեթոդների կատարողականության վրա.

Սխալների և ռեգրեսորների միջև վիճակագրական կապը կարևոր դեր ունի որոշելու համար, թե արդյոք գնահատման ձևն ունի ցանկալի ընտրանքային հատկություններ, ինչպիսիք են անկողմնապահությունը և հետևողականությունը։
x փոփոխականների հավանականությունների բաշխումը մեծ ազդեցություն ունի β-ի գնահատակաների ճշգրտության վրա։ Ընտրանքի ստացումը և ձևավորումը վիճակագրության զարգացած ենթաճյուղեր են, որոնք օգնում են տվյալներ հավաքագրելիս այնպես, որ ստացվի β ճշգրիտ գնահատական։


=== Մեկնաբանություն ===

Ադապտացված գծային ռեգրեսիոն մոդելը կարող է օգտագործվել որևէ xj անկախ և y կախյալ փոփոխականների միջև կապը գտնելու համար, երբ մնացած անկախ փոփոխականները ֆիքսված են։ Մասնավորապես, βj  ցույց է տալիս xj -ի միավոր փոփոխության դեպքում y -ի սպասվող փոփոխության չափը, երբ մնացածները անփոփոխ են։ Այսինքն, y -ի մասնակի ածանցյալը ըստ xj -ի։ y-ի վրա xj-ի սահմանային ազդեցությունը կարելի է գնահատել կոռելյացիայի գործակցի կամ պարզ գծային ռեգրեսիայի մոդելի միջոցով, որը վերաբերում է միայն xj -ին և y-ին։ Այն y-ի ընդհանուր ածանցյալն է ըստ xj -ի։
Ռեգրեսիայի արդյունքները մեկնաբանելիս պետք է զգույշ լինել, քանի որ ռեգրեսորներից որոշները կարող են թույլ չտալ սահմանային փոփոխություններ (օրինակ ՝ կեղծ փոփոխականները կամ հաստատուն արժեքը՝ β0), իսկ մյուսները չեն կարող ֆիքսվել (անհնար կլինի պահել t i ֆիքսված և միևնույն ժամանակ փոխել t i 2- ի արժեքը)։


== Ընդլայնումներ ==
Մշակվել են գծային ռեգրեսիայի բազմաթիվ ընդլայնումներ, որոնք թույլ են մոդելի հիմքում ընկած որոշ ենթադրություններ կամ բոլոր ենթադրությունները ՙՙթեթևացնել՚՚։


=== Պարզ(միագործոն) և բազմագործոն գծային ռեգրեսիա ===

Պարզ կամ միագործոն գծային ռեգրեսիան y- ի կախվածությունն է մեկ x փոփոխականից։ y- ի կախվածությունը մի քանի x փոփոխականից(կամ X անկախ փոփոխականների վեկտորից) կոչվում է բազմակի գծային ռեգրեսիա, որը նաև հայտնի է որպես բազմագործոն գծային ռեգրեսիա։ Իրական աշխարհում ռեգրեսիայի գրեթե բոլոր մոդելները ներառում են բազմաթիվ կանխատեսող փոփոխականներ, և գծային ռեգրեսիայի հիմնական նկարագրությունները հաճախ արտահայտվում են բազմագործոն ռեգրեսիայի մոդելով։ y փոփոխականը այս դեպքում ևս մնում է սկալյար։ - ն առայժմ մասշտաբ է։ Մեկ այլ տերմին՝ բազմագործոն գծային ռեգրեսիան վերաբերում է այն դեպքերին, երբ y- ը վեկտոր է, այսինքն՝ նույնը, ինչ ընդհանուր գծային ռեգրեսիան։


=== Ընդհանուր գծային մոդելներ ===
Ընդհանուր գծային մոդելը հաշվի է առնում այն իրավիճակը, երբ կախյալ փոփոխականը ոչ թե սկալյար է (յուրաքանչյուր դիտարկման համար), այլ վեկտոր՝ y i։ Ենթադրվում է, որ կա պայմանական գծայնություն՝ 
  
    
      
        E
        (
        
          y
        
        ∣
        
          
            x
          
          
            i
          
        
        )
        =
        
          
            x
          
          
            i
          
          
            
              T
            
          
        
        B
      
    
    {\displaystyle E(\mathbf {y} \mid \mathbf {x} _{i})=\mathbf {x} _{i}^{\mathsf {T}}B}
  , B մատրիցը փոխարինում է դասական գծային ռեգրեսիայի մոդելի β վեկտորին։ Մշակվել են սովորական փոքրագույն քառակուսիների (OLS) և ընդհանրացված փոքրագույն քառակուսիների (GLS) բազմաբնույթ անալոգներ։ «Ընդհանուր գծային մոդելները» կոչվում են նաև «բազմաբնույթ գծային մոդելներ»։ Բազմագործոն գծային մոդելները (որոնք նաև կոչվում են «բազմակի գծային մոդելներ») և բազմաբնույթ գծային մոդելները միմյանցից տարբեր են։


=== Հետերոսկեդաստիկ մոդելներ ===
Ստեղծվել են տարատեսակ մոդելներ, որոնք թույլ են տալիս հետերոսկեդաստիկություն, այսինքն՝ տարբեր կախյալ փոփոխականների սխալները կարող են ունենալ տարբեր վարիացիաներ։ Օրինակ՝ կշռված փոքրագույն քառակուսիները գծային ռեգրեսիայի մոդելները գնահատելու մեթոդ է, երբ կախյալ փոփոխականները ունեն տարբեր սխալի վարիացիաներ, հնարավոր է՝ կոռելացված սխալների հետ։ (Տե՛ս նաև Կշռված գծային փոքրագույն քառակուսիները և ընդհանրացված նվազագույն հրապարակները)։ Կայուն հետերոսկեդաստիկությունը ստանդարտ սխալները բարելավված մեթոդ է, որն օգտագործվում է չկոռելացված, բայց պոտենցիալ հետերոսկեդաստիկ սխալների հետ։


=== Ընդհանրացված գծային մոդելներ ===
Ընդհանրացված գծային մոդելները (GLM) հանդիսանում են շրջանակ դիսկրետ կախյալ փոփոխականները մոդելավորելու համար։ Սա օգտագործվում է, երբ՝

մոդելավորվում են դրական քանակություններ (օրինակ՝ գներ կամ բնակչություն), որոնք մեծ մասշտաբներում տատանվում են, և որոնք ավելի լավ են նկարագրվում սքյուդ բաշխման միջոցով, ինչպիսիք են լոգ-նորմալ բաշխումը կամ Պուասոնի (Poisson) բաշխումը (չնայած GLM- ները չեն օգտագործվում լոգ-նորմալ բաշխված տվյալների համար, փոխարենը կախյալ փոփոխականն է վերափոխվում՝ լոգարիթմելու միջոցով);
կատեգորիկ տվյալների մոդելավորման ժամանակ, ինչպիսիք են ընտրություններում տվյալ թեկնածուի ընտրությունը (որն ավելի լավ է նկարագրվում Բեռնուլիի (Bernoulli) բաշխման / բինոմական բաշխման միջոցով՝ երկուական ընտրության համար, իսկ բազմակի ընտրության համար օգտագործվում են կատեգորիկ բաշխումը / բազմանոմիալ բաշխումը, որտեղ կան ընտրությունների ֆիքսված քանակ, որը չի կարող իմաստալից դասակարգվել;
Օրդինալ տվյալների մոդելավորման ժամանակ, օրինակ՝ 0-ից 5 սանդղակով գնահատականների, որտեղ տարբեր արդյունքները կարելի է դասակարգել, բայց որտեղ քանակը ինքնին չի կարող ունենալ որևէ նշանակալի իմաստ (օր.՝ 4 գնահատականը չի կարող լինել «երկու անգամ լավ» 2 գնահատականից, բայց պարզապես ցույց է տալիս, որ այն ավելի լավն է, քան 2 կամ 3, բայց ոչ այնքան լավ, որքան 5)։Ընդհանրացված գծային մոդելները թույլ են տալիս մի ֆունկցիա՝ g, որը կախյալ փոփոխական(ներ)ի միջինը կապում է անկախներին՝ 
  
    
      
        E
        (
        Y
        )
        =
        
          g
          
            −
            1
          
        
        (
        X
        B
        )
      
    
    {\displaystyle E(Y)=g^{-1}(XB)}
  ։ Այս ֆունկցիան հաճախ կապված է կախյալ փոփոխականի բաշխման հետ։
GLM- ների որոշ օրինակներ են՝

Պուասոնի ռեգրեսիա՝ ոչ բացասական ամբողջ թվերով տվյալների համար։
Երկուական տվյալների համար լոգիստիկ ռեգրեսիա և պրոբիթ ռեգրեսիա։
Կատեգորիկ տվյալների համար բազմանոմիալ լոգիստիկ ռեգրեսիա և բազմանոմիալ պրոբիթ ռեգրեսիա։
Դասակարգված լոջիթ (ordered logit) և դասակարգված պրոբիթ (ordered probit) ռեգրեսիա`օրդինալ տվյալների համար։


== Գնահատման/մոտարկման մեթոդներ ==
Պարամետրերի գնահատման և գծային ռեգրեսիայի մշակվել են մեծ թվով ընթացակարգեր։ Այս մեթոդները տարբերվում են ալգորիթմների հաշվարկային պարզությամբ, փակ ձևի լուծման առկայությամբ, տեսական ենթադրություններով, որոնք անհրաժեշտ են ցանկալի վիճակագրական հատկությունները հաստատելու համար, ինչպիսիք են հետևողականությունը և ասիմպտոտիկ արդյունավետությունը և այլն։
Ստորև բերված են գծային ռեգրեսիայի գնահատման ավելի տարածված մեթոդներ։


=== Փոքրագույն քառակուսիների եղանակը և հարակից տեխնիկան ===

Ենթադրենք, որ  
  
    
      
        
          
            
              x
              →
            
          
        
        =
        [
        
          x
          
            1
          
        
        ,
        
          x
          
            2
          
        
        ,
        …
        ,
        
          x
          
            m
          
        
        ]
      
    
    {\displaystyle {\vec {x}}=[x_{1},x_{2},\dots ,x_{m}]}
   անկախ փոփոխականն է, իսկ մոդելի պարամետրն է՝ 
  
    
      
        
          
            
              β
              →
            
          
        
        =
        [
        
          β
          
            0
          
        
        ,
        
          β
          
            1
          
        
        ,
        ⋯
        ,
        
          β
          
            m
          
        
        ]
      
    
    {\displaystyle {\vec {\beta }}=[\beta _{0},\beta _{1},\cdots ,\beta _{m}]}
  , այդ դեպքում մոդելի կանխատեսումը կլինի՝ 
  
    
      
        y
        ≈
        
          β
          
            0
          
        
        +
        
          ∑
          
            i
            =
            1
          
          
            m
          
        
        
          β
          
            i
          
        
        ×
        
          x
          
            i
          
        
      
    
    {\displaystyle y\approx \beta _{0}+\sum _{i=1}^{m}\beta _{i}\times x_{i}}
  ։ Եթե  
  
    
      
        
          
            
              x
              →
            
          
        
        =
        [
        1
        ,
        
          x
          
            1
          
        
        ,
        
          x
          
            2
          
        
        ,
        …
        ,
        
          x
          
            m
          
        
        ]
      
    
    {\displaystyle {\vec {x}}=[1,x_{1},x_{2},\dots ,x_{m}]}
  , ապա 
  
    
      
        y
      
    
    {\displaystyle y}
   կլինի պարամետրի և անկախ փոփոխականի կետային արտադրյալ, այսինքն 
  
    
      
        y
        ≈
        
          ∑
          
            i
            =
            0
          
          
            m
          
        
        
          β
          
            i
          
        
        ×
        
          x
          
            i
          
        
        =
        
          
            
              β
              →
            
          
        
        
        
        .
        
        
          
            
              x
              →
            
          
        
      
    
    {\displaystyle y\approx \sum _{i=0}^{m}\beta _{i}\times x_{i}={\vec {\beta }}\,\,.\,{\vec {x}}}
  ։ Փոքրագույն քառակուսիների դեպքում օպտիմալ պարամետրը սահմանվում է այնպես, որը նվազագույնի է հասցնում միջին քառակուսների կորստի գումարը.

  
    
      
        
          
            
              
                
                  β
                  ^
                
              
              →
            
          
        
        =
        
          
            
              arg min
            
            
              
                β
                →
              
            
          
        
        
        L
        (
        D
        ,
        
          
            
              β
              →
            
          
        
        )
        =
        
          
            
              arg min
            
            
              
                β
                →
              
            
          
        
        
          ∑
          
            i
            =
            1
          
          
            n
          
        
        (
        
          
            
              β
              →
            
          
        
        
        .
        
        
          
            
              
                x
                
                  i
                
              
              →
            
          
        
        −
        
          y
          
            i
          
        
        
          )
          
            2
          
        
      
    
    {\displaystyle {\vec {\hat {\beta }}}={\underset {\vec {\beta }}{\mbox{arg min}}}\,L(D,{\vec {\beta }})={\underset {\vec {\beta }}{\mbox{arg min}}}\sum _{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x_{i}}}-y_{i})^{2}}
  
Այժմ դնելով անկախ և կախված փոփոխականները համապատասխանաբար 
  
    
      
        X
      
    
    {\displaystyle X}
   և 
  
    
      
        Y
      
    
    {\displaystyle Y}
   մատրիցներում, կորստի ֆունկցիան կունենա հետևյալ տեսքը.

  
    
      
        
          
            
              
                L
                (
                D
                ,
                
                  
                    
                      β
                      →
                    
                  
                
                )
              
              
                
                =
                
                  |
                
                
                  |
                
                X
                
                  
                    
                      β
                      →
                    
                  
                
                −
                Y
                
                  |
                
                
                  
                    |
                  
                  
                    2
                  
                
              
            
            
              
              
                
                =
                (
                X
                
                  
                    
                      β
                      →
                    
                  
                
                −
                Y
                
                  )
                  
                    T
                  
                
                (
                X
                
                  
                    
                      β
                      →
                    
                  
                
                −
                Y
                )
              
            
            
              
              
                
                =
                
                  Y
                  
                    T
                  
                
                Y
                −
                
                  Y
                  
                    T
                  
                
                X
                
                  
                    
                      β
                      →
                    
                  
                
                −
                
                  
                    
                      
                        β
                        →
                      
                    
                  
                  
                    T
                  
                
                
                  X
                  
                    T
                  
                
                Y
                +
                
                  
                    
                      
                        β
                        →
                      
                    
                  
                  
                    T
                  
                
                
                  X
                  
                    T
                  
                
                X
                
                  
                    
                      β
                      →
                    
                  
                
              
            
          
        
      
    
    {\displaystyle {\begin{aligned}L(D,{\vec {\beta }})&=||X{\vec {\beta }}-Y||^{2}\\&=(X{\vec {\beta }}-Y)^{T}(X{\vec {\beta }}-Y)\\&=Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}\end{aligned}}}
  
Քանի որ կորուստը ուռուցիկ է, օպտիմալ լուծումը ընկնում է զրո գրադիենտի վրա։ Կորուստի ֆունկցիայի գրադիենտը ունի հետևյալ տեսքը.

  
    
      
        
          
            
              
                
                  
                    
                      ∂
                      L
                      (
                      D
                      ,
                      
                        
                          
                            β
                            →
                          
                        
                      
                      )
                    
                    
                      ∂
                      
                        
                          
                            β
                            →
                          
                        
                      
                    
                  
                
              
              
                
                =
                
                  
                    
                      ∂
                      
                        (
                        
                          
                            Y
                            
                              T
                            
                          
                          Y
                          −
                          
                            Y
                            
                              T
                            
                          
                          X
                          
                            
                              
                                β
                                →
                              
                            
                          
                          −
                          
                            
                              
                                
                                  β
                                  →
                                
                              
                            
                            
                              T
                            
                          
                          
                            X
                            
                              T
                            
                          
                          Y
                          +
                          
                            
                              
                                
                                  β
                                  →
                                
                              
                            
                            
                              T
                            
                          
                          
                            X
                            
                              T
                            
                          
                          X
                          
                            
                              
                                β
                                →
                              
                            
                          
                        
                        )
                      
                    
                    
                      ∂
                      
                        
                          
                            β
                            →
                          
                        
                      
                    
                  
                
              
            
            
              
              
                
                =
                −
                2
                
                  Y
                  
                    T
                  
                
                X
                +
                2
                
                  
                    
                      
                        β
                        →
                      
                    
                  
                  
                    T
                  
                
                
                  X
                  
                    T
                  
                
                X
              
            
          
        
      
    
    {\displaystyle {\begin{aligned}{\frac {\partial L(D,{\vec {\beta }})}{\partial {\vec {\beta }}}}&={\frac {\partial \left(Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}\right)}{\partial {\vec {\beta }}}}\\&=-2Y^{T}X+2{\vec {\beta }}^{T}X^{T}X\end{aligned}}}
  
Գրադիենտը զրո դարձնելու դեպքում ստանում ենք օպտիմալ պարամետր.

  
    
      
        
          
            
              
                −
                2
                
                  Y
                  
                    T
                  
                
                X
                +
                2
                
                  
                    
                      
                        β
                        →
                      
                    
                  
                  
                    T
                  
                
                
                  X
                  
                    T
                  
                
                X
                =
                0
              
            
            
              
              
                
                ⇒
                
                  Y
                  
                    T
                  
                
                X
                =
                
                  
                    
                      
                        β
                        →
                      
                    
                  
                  
                    T
                  
                
                
                  X
                  
                    T
                  
                
                X
              
            
            
              
              
                
                ⇒
                
                  X
                  
                    T
                  
                
                Y
                =
                
                  X
                  
                    T
                  
                
                X
                
                  
                    
                      β
                      →
                    
                  
                
              
            
            
              
              
                
                ⇒
                
                  
                    
                      
                        
                          β
                          ^
                        
                      
                      →
                    
                  
                
                =
                (
                
                  X
                  
                    T
                  
                
                X
                
                  )
                  
                    −
                    1
                  
                
                
                  X
                  
                    T
                  
                
                Y
              
            
          
        
      
    
    {\displaystyle {\begin{aligned}-2Y^{T}X+2{\vec {\beta }}^{T}X^{T}X=0\\&\Rightarrow Y^{T}X={\vec {\beta }}^{T}X^{T}X\\&\Rightarrow X^{T}Y=X^{T}X{\vec {\beta }}\\&\Rightarrow {\vec {\hat {\beta }}}=(X^{T}X)^{-1}X^{T}Y\end{aligned}}}
  
Գծային փոքրագույն քառակուսիների մեթոդները հիմնականում ներառում են.

Սովորական փոքրագույն քառակուսիները
Կշռված փոքրագույն քառակուսիները
Ընդհանրացված փոքրագույն քառակուսիները


=== Մաքսիմում ճշմարտանմանության մեթոդ և հարակից տեխնիկա ===
Առավելագույն ճշմարտանմանության մեթոդը (MLE or Maximum-likelihood estimation) կարող է կիրառվել, երբ սխալի բաշխումը պատկանում է հավանականությունների բաշխումից որոշակի ƒθ պարամետրային ընտանիքի։ Երբ f θ- ն պատկանում է նորմալ բաշխման զրո միջինով և θ վարիացիայով, արդյունքում ստացված գնահատումը նույնական է ՓՔԵ-ի գնահատմանը։ GLS-ի գնահատումները առավելագույն ճշմարտանմանության գնահատումներ են, երբ ε- ն ունի նորմալ բաշխում և հայտնի կովարիացիոն մատրից։
Ridge-ի ռեգրեսիան  և ՙՙտուգանքների՚՚ գնահատման այլ ձևերը, ինչպիսիք են Lasso-ի ռեգրեսիան,  միտումնավոր կողմնակալություն են մտցնում β- ի գնահատման մեջ, որպեսզի նվազեցնեն գնահատականի փոփոխականությունը։ Ստացվող գնահատականները սովորաբար ունենում են ավելի փոքր միջին քառակուսային շեղում, քան ՓՔԵ գնահատականները, հատկապես, երբ առկա է բազմակոլինեարություն կամ գերակատարում։ Նրանք հիմնականում օգտագործվում են այն ժամանակ, երբ նպատակն է կանխատեսել y կախյալ փոփոխականի արժեքը տրված x արժեքների համար, որոնք դեռ չեն դիտարկվել։ Այս մեթոդները այնքան էլ հաճախ չեն օգտագործվում, երբ նպատակը եզրակացություն կատարելն է, քանի որ դժվար է կողմնակալությունը հաշվի առնել։
Նվազագույն բացարձակ շեղման (LAD) ռեգրեսիան գնահատման տեխնիկա է, որը ավելի քիչ զգայուն է հեռու ընկած կետերի (outlier) նկատմամբ, քան ՓՔԵ-ն (բայց ավելի քիչ արդյունավետ է, քան ՓՔԵ-ն, երբ առկա չեն հեռու ընկած կետեր)։ Այն համարժեք է առավելագույն ճշմարտանմանության գնահատմանը՝ ε- ովLaplace բաշխման մոդելի ներքո ։
Հարմարվող մոտարկում (Adaptive estimation)։ Եթե ենթադրենք, որ սխալները անկախ են ռեգրեսորներից՝ 
  
    
      
        
          ε
          
            i
          
        
        ⊥
        
          
            x
          
          
            i
          
        
      
    
    {\displaystyle \varepsilon _{i}\perp \mathbf {x} _{i}}
  , ապա օպտիմալ գնահատականը 2-քայլանոց MLE- ն է, որտեղ առաջին քայլով որոշվում է ոչ պարամետրային ձևով սխալի բաշխման մոտարկումը ։


=== Մոտարկման այլ մեթոդներ ===

Բայեսյան գծային ռեգրեսիա
Քվանտիլային ռեգրեսիա (Quantile regression)
Խառը մոդելները (Mix models)
Հիմնական բաղադրիչի ռեգրեսիա (PCR - principle component regression) 
Փոքրագույն անկյունային ռեգրեսիա 
Theil-Sen-ի գնահատական 
Գնահատման այլ մեթոդներ


== Օգտագործումը ==
Գծային ռեգրեսիան լայնորեն կիրառվում է կենսաբանական, վարքային և սոցիալական գիտություններում `փոփոխականների միջև հնարավոր փոխհարաբերությունները նկարագրելու համար։ Այն համարվում է այս ոլորտներում օգտագործվող ամենակարևոր գործիքներից մեկը։


=== Ֆինանսներ ===
Կապիտալ ակտիվների գնագոյացման մոդելը օգտագործում է ինչպես գծային ռեգրեսիա, այնպես էլ բետա հասկացությունը ներդրումների ռիսկը վերլուծելու և քանակականացնելու համար։ Սա ուղղակիորեն գալիս է գծային ռեգրեսիայի մոդելի բետա գործակցից, որը կապում է ներդրումների վերադարձը բոլոր ռիսկային ակտիվների վերադարձի հետ։


=== Տնտեսագիտություն ===
Գծային ռեգրեսիան տնտեսագիտության էմպիրիկ գործիքներից է։ Օրինակ, այն օգտագործվում է կանխատեսելու համար սպառողական ծախսերը, ֆիքսված ներդրումային ծախսերը, գույքագրման ներդրումները, երկրի արտահանումը, ներմուծման ծախսերը, իրացվելի ակտիվներ պահելու պահանջարկը, աշխատուժի պահանջարկը,  և աշխատուժի առաջարկը։


=== Բնագիտություն ===
Գծային ռեգրեսիան կիրառություն է գտնում նաև բնագիտության մեջ։ Կանադայում շրջակա միջավայրի վրա ազդեցության մոնիտորինգի ծրագիրը օգտագործում է ձկների և բենթիկական հետազոտությունների վերաբերյալ վիճակագրական վերլուծություններ՝ ջրային էկոհամակարգի վրա մետաղի հանքավայրի արտանետումների ազդեցությունը չափելու համար։


=== Մեքենայական ուսուցում ===
Գծային ռեգրեսիան կարևոր դեր է խաղում արհեստական ինտելեկտի բնագավառում, ինչպիսին է մեքենայական ուսումը։ Գծային ռեգրեսիայի ալգորիթմը հարաբերական պարզության և հայտնի հատկությունների շնորհիվ վերահսկվող մեքենայական ուսուցման հիմնարար ալգորիթմներից մեկն է։


== Ծանոթագրություններ ==