Vol. 17, No. 3,  438-446,  May, 2021 DOI: 10.20956/j.v17i3.13192
1 Universitas Muslim Indonesia, 2, 3 Institut Teknologi Sepuluh Nopember Surabaya Email : abdulwahab79@umi.ac.id 1 ; i_nyoman_b@statistika.its.ac.id 2 ; Kartika_f@statistika.its.ac.id 3

## The Estimation of Residual Variance in Nonparametric Regression

## Pendugaan Varians Residual dalam Regresi Nonparametrik
Abdul Wahab 1 , I Nyoman Budiantara 2 , Kartika Fitriasari 3

## ABSTRACT
Given a nonparametric regression model
Y i = g ( x i ) +  i , i = 1, 2, …, n , where Y is a dependent variable, x is an independent variable, g is an unknown function and  is an error assumed to be an independent, identical, and is distributed with mean 0 and variance σ 2 . In  this  research  Rice  estimator  is  used  to  determine  the  biased  value  of  a  residual  variance estimator and the biased value of residual variance estimator of the Rice method. Using the Rice estimator,  the  Tong-Wang  residual  variance  estimator  is  obtained.  Based  upon  the  data simulation by considering the exponential, arithmetical, and trigonometrical models, it is found that the MSE value of the Tong-Wang estimator tends to be less compared to those of the Rice estimator as well as the GSJ (Gasser, Sroka, and Jennen) estimator.
Key words: Nonparametric regression, Rice estimator, GSJ estimator, Tong-Wang estimator.

## ABSTRAK
Diberikan model regresi nonparametrik
Y i = g ( x i ) +  i , i = 1, 2, …, n , dengan Y adalah  variabel  dependen, x variabel  independen, g fungsi  yang  tidak  ditetapkan bentuknya  dan  eror  yang  diasumsikan  independen,  identik  dan  berdistribusi  dengan  rataan  0 dan  varians σ 2 .  Dalam  penelitian  ini  digunakan  penduga  Rice  untuk  mendapatkan  nilai  bias penduga  varians  residual  dan  nilai  bias  penduga  varians  residual  metode  Rice.  Dengan menggunakan penduga Rice  diperoleh penduga  varians residual Tong-Wang. Berdasarkan data simulasi dengan mempertimbangkan model eksponensial, aritmetika dan trigonometri diperoleh nilai MSE penduga Tong-Wang cenderung lebih kecil dibandingkan dengan penduga Rice dan penduga GSJ (Gasser, Sroka, dan Jennen).
Kata kunci: Regresi nonparametrik, Penduga Rice, penduga GSJ, penduga Tong-Wang.

## 1. PENDAHULUAN
Model  regresi  adalah  suatu  model  yang  menjelaskan  hubungan  antara  suatu  variabel independen x dengan variabel dependen Y . Misalkan ( x i ,y i ) , i = 1, 2, …, n , sampel acak berukuran n , dimana hubungan x i dan y i diasumsikan mengikuti model:
Y i = g ( x i ) +  i , (1.1)
dengan g ( x )  merupakan  kurva  regresi,  dan  i   eror  yang  diasumsikan  independen,  identik  dan berdistribusi normal dengan rataan 0 dan varians  2 [1, 3, 4, 13].

## Jurnal Matematika, Statistika & Komputasi

## Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
Untuk menduga kurva g dalam model (1.1), dapat dilakukan dengan dua jenis pendekatan, yaitu pendekatan regresi parametrik dan regresi nonparametrik. Pendekatan yang sering digunakan adalah  model  regresi  parametrik  mengasumsikan  bentuk  kurva g tertentu  dimana  parameternya diduga dari suatu sampel. Menduga kurva g sama dengan  melakukan pendugaan parameter dalam fungsi regresi. Model regresi parametrik relatif lebih sederhana dibandingkan dengan model regresi nonparametrik. Jika model yang diasumsikan ini benar, maka pendugaan parametrik sangat efisien [8, 9, 10].
Jika  dalam  model  regresi  (1.1)  kurva g tidak  ditetapkan  bentuknya  dan  eror  acak  yang diasumsikan  independen,  identik,  dan  berdistribusi  dengan  rataan  0  dan  varians  2 ,  maka  untuk menduga g dapat digunakan regresi nonparametrik.
Penduga  2 dapat dinyatakan dalam bentuk kuadratik dari vektor respon y = ( y 1 , y 2 ,·… , y n )  yaitu:
2 ' ˆ ( ) y D y D   D tr (1.2) dengan ( ) '( ) D I A I A    , dimana A suatu matriks tertentu [2].
Beberapa penduga untuk  2 telah dikembangkan oleh banyak penulis, seperti penduga Rice [11]  yang  mengajukan  penduga difference-based order  pertama  yang  dikenal  sebagai  penduga  R. Gasser,  Sroka  dan  Jennen  (GSJ)  [5]  mengajukan  penduga difference-based order  kedua  yang dikenal  sebagai  penduga  GSJ.  Dari  penduga-penduga  ini  tidak  ada  satu  pun  penduga  tersebut mencapai tingkat asimtotik yang optimal berdasarkan mean squared eror (MSE) [6, 14].
Dari  uraian  di  atas,  permasalahan  yang  akan  disajikan  dalam  penelitian  ini  adalah  (1) bagaimana  menentukan  nilai  bias  penduga  varians  residual  metode  Rice?,  (2)  bagaimana menentukan  penduga  varians  residual  metode  Tong-Wang?.  (3)  bagaimana  kebaikan  penduga Tong-Wang, Rice dan GSJ berdasarkan data simulasi?.

## 2. KAJIAN PUSTAKA

## Penduga Difference Based
Penduga difference-based merupakan penduga yang menggunakan beda (difference) untuk merubah  trend  dalam  fungsi  rataan,  penduga  ini  berasal  dari  gagasan  analisis  runtun  waktu  yang tidak memerlukan dugaan fungsi rataan.
Berikut  ini  diberikan  beberapa  penduga difference-based diantaranya  penduga  Rice  (Rice, 1984), penduga Gasser, Sroka, dan Jennen [5]  dan penduga Tong-Wang [15]).
Penduga  Rice  merupakan  penduga difference-based dengan  order  pertama,  yang  biasa dikenal dengan simbol 2 ˆ R  .   2 2 1 2 1 ˆ 2( 1)        n R i i i Y Y n (2.1)
Penduga  Gasser,  Sroka  dan  Jennen  merupakan  penduga difference-based order  kedua, yang lebih dikenal sebagai penduga GSJ dengan simbol 2 ˆ GSJ  . 2 1 2 1 1 2 2 1 1 ˆ
3( 2) 2 2
 
 
            n GSJ i i i i Y Y Y n , (2.2)
Penduga Tong-Wang merupakan penduga difference-based yang dapat diaplikasikan pada model regresi nonparametrik dengan fungsi multivariat. Penduga tersebut telah dikembangkan pada pemilihan bandwidth dan  telah  menunjukkan  bahwa  penduga  tersebut  mencapai  tingkat  asimtotik yang optimal berdasarkan mean square error (MSE). Penduga Tong-Wang diturunkan dari penduga Rice yang lebih dikenal sebagai penduga TW dengan simbol 2 ˆ  TW [15].

## Jurnal Matematika, Statistika & Komputasi
Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari

## 3. HASIL DAN PEMBAHASAN

## 3.1. Nilai Bias Penduga Varians Residual Metode Rice
Berdasarkan  definisi  penduga  Rice  pada  persamaan  (2.1)  dan  model  regresi  pada persamaan (1.1) dengan g ( x ) mempunyai turunan pertama yang terbatas, maka langkah awal yang digunakan  oleh  metode  Rice  adalah  menentukan  nilai  harapan  ( expectation )  dari  penduga  Rice sebagai berikut:
 
  2 2 1 2 1 ˆ 2( 1)        n R i i i E E Y Y n          2 2 2 2 1 1 2 1
( ) 2 ( ) ( ) ( ) 2( 1)             n i i i i i g x g x g x g x n   2 2 1 2 1 ( ) ( )
2( 1)         n i i i g x g x n (3.1)
Ini  mengindikasikan  bahwa  penduga  Rice  selalu  bias  positif.  Mengingat g mempunyai  turunan pertama  yang  terbatas,  maka  persamaan  (3.1)  dapat  diuraikan  dengan  menggunakan  penderetan Taylor. Dari definisi deret Taylor yang dikembangkan disekitar titik x = z i diperoleh:
                    1 1 1 1 1 1
2 0                    n j j n i i i i n i i i i i i i i
n j x z x z g x g x x x g' z x x g z n!
(3.2)
Berdasarkan definisi little-o, persamaan (3,2) dapat ditulis seperti berikut:
    
   
 1 1 1         i i i i i i i g x g x x x g' z o x x       1 1 1           i i i g x g x g' z o n n ; 1    i i i x z x (3.3)
Sehingga persamaan (3.1) menjadi:
  2 2 2 2 1 1 1 ˆ
'( ) 2( 1)
                    n R i i E g x o n n n
  1 2 2 2 2 0 1 1 1 '( ) 2
g x dx o n n            2 2 2 1 1
          J o n n (3.4)
dimana   1 2 1 2 0 '   J g x dx [12].
Selanjutnya didefinisikan penduga Rice pada lag-k :
    2 2 1 1 ˆ 2( )         n R i i k i k k E Y Y n k (3.5)
kemudian diuraikan serupa seperti persamaan (3.1) dengan menentukan nilai harapan penduga Rice pada lag-k :    
  2 2 1 1 ˆ 2( )         n R i i k i k E k
E Y Y n k
  2 2 1 1 ( ) ( ) 2( )    
     n i i k i k g x g x n k (3.6)
Mengingat g mempunyai turunan pertama yang terbatas, maka serupa dengan persamaan (3.3) yang diuraikan dengan menggunakan penderetan Taylor diperoleh:

## Jurnal Matematika, Statistika & Komputasi
Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
                    1 1 2 0
                   n j j n i i i k i n i i k i i k i i i k i
n j x z x z g x g x x x g' z x x g z n!
                1
2  
               n n i i i k i i k i i i k i i n g z g x g x x x g' z x x x z n!
         
2 3 2 1                  n n n i i i k i i i i k i i k i x z x z x z x z x z                 2 2 2 

               n n i i i k i i k i i i k i i n g z g x g x x x g' z x x x z n!
            2 3 2 1 2                    n n n i i i k i i i i k i i k i i i k x z x z x z x z x z x x
Berdasarkan definisi big-oh dapat ditulis seperti berikut:
          2
        i i k i i k i i i k g x g x x x g' z O x x
      2 2             i i k i k k g x g x g' z O n n ; 1    i i i x z x (3.7)
Sehingga persamaan (3.5) menjadi:
  2 2 2 2 2 1 1 ˆ '( ) 2( )                        n R i i k k k
E g x O n k n n
        2 3 1 2 2 2 3 0 1 1 '( ) 2   
          k k n k g x dx O n n k n
  2 3 1 2 2 2 3 0 1 '( ) 2            k k g x dx O n n Dengan memisalkan   1 2 0 1 '( ) 2   J g x dx maka diperoleh:
( ̂ ) ( )
3 2 3   
       k k Jd O n (3.8)
dimana 3
3 k k Jd O n        merupakan  nilai  bias  penduga  varians  residual  metode  Rice  dengan
2 2 k k d n  .

## 3.2. Penduga Varians Residual Metode Tong-Wang
Pada bagian ini akan dikaji mengenai pendugaan varians berdasarkan metode Tong-Wang dimana  erat  kaitannya  dengan  metode  Rice  karena  metode  Tong-Wang  menggunakan  penduga Rice.

## Jurnal Matematika, Statistika & Komputasi

## Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
Langkah  awal  yang  digunakan  oleh  metode  Tong-Wang  adalah  dengan  terlebih  dahulu mendefinisikan d k dan s k sebagai berikut:
2
2  k k d n dan
    2 1 1 2        n k i i k i k s
Y Y n k , k = 1, 2, … , m
Selanjutnya diberikan data berpasangan ( d k , s k ), k = 1, 2, … , m. Tong dan Wang membuat model regresi:
0 1       k k k
s d , k = 1, 2, … , m .
Parameter 0  dan 1  di  duga  dengan  menggunakan  metode  kuadrat  terkecil  terbobot dengan bobot 
 k n k w
N , dimana  
1     m k N n k ( 1) 2     m m nm yaitu:
    2 2 1 0 1 1 1 ,       
      m m k k k k k k k w w s d 0 Q (3.9)
Dengan  menurunkan  secara  parsial  persamaan  (3.8)  terhadap  0 dan  1 kemudian  menyamakan hasil penurunan dengan nol diperoleh:
      1 0 1 1 0 , 2              m k k k k w s d 0 Q       1 0 1 1 1 , 2              m k k k k k w d s d 0 Q
Sehingga nilai dugaan ˆ  0 dan 1 ˆ  diperoleh dari sistem persamaan:
0 1 1 1 1 ˆ ˆ 0            m m m k k k k k k k k w s w w d (3.10)
2 0 1 1 1 1 ˆ ˆ 0  
         m m m k k k k k k k k k k w s d w d w d (3.11)
Dengan  memisalkan
1    m w k k k s w s dan 1    m w k k k d w d ,  maka  persamaan  (3.10)  dan  persamaan (3.11) memberikan
0 1 1 ˆ ˆ 0        m w k w k s w d (3.12)
2 0 1 1 1 ˆ ˆ 0    
     m m k k k w k k k k w s d d w d (3.13)
Dengan menyederhanakan persamaan (3.12) dan persamaan (3.13), dan memperhatikan
1 1    m k k w
diperoleh 0 ˆ  dan 1 ˆ  sebagai berikut
0 1 ˆ ˆ 0      w w s d 0 1 ˆ ˆ
    w w s d (3.14)
Substitusi persamaan (3.13) ke (3.12) memberikan
    2 1 1 1 ˆ 0          m m k k k w k k w k k w s d d w d d

## Jurnal Matematika, Statistika & Komputasi
Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
    1 1 2 1 ˆ         m k k k w k m k k w k w s d d w d d (3.15)
Penduga varians residual metode Tong-Wang   2 ˆ  Tw ditentukan berdasarkan persamaan 2 0 ˆ ˆ    ,
maka 2 0 1 ˆ ˆ ˆ       w w s d atau dapat ditulis dalam bentuk:
    2 1 2 1 ˆ          m k k k w k TW w w m k k w k w s d d s d w d d (3.16)

## 3.3. Studi Simulasi
Dalam  studi  simulasi  ini  digunakan  tiga  model  yang  berbeda  yaitu  model  eksponensial, model aritmetika dan model trigonometri yang dapat menggambarkan bahwa penduga Tong-Wang lebih baik daripada penduga Rice dan GSJ dengan menggunakan kriteria nilai MSE [8].
Diberikan  model  pada  persamaan  (1.1)  dengan g ( x i )  merupakan  kurva  regresi,  dan   i   adalah eror yang diasumsikan independen, identik dan berdistribusi normal dengan rataan 0 dan varians  2 . Pertama-tama eror (  i ) dibangkitkan dari distribusi normal dengan rataan 0 dan varians  2 .  Dalam  simulasi  ini  digunakan  standar  deviasi 0 1,  0 2,  0 4,   , , , dan  ukuran  sampel n =  50, 100, 200. Selanjutnya diberikan model eksponensial fungsi 5 ( ) 5   x g x e , model aritmetika fungsi   5  g x x dan trigonometri fungsi g ( x ) = 5 sin (  x ) dengan  i i x n , i = 1, 2, ..., n .
Untuk setiap model simulasi dihitung masing-masing penduga Rice, GSJ, dan Tong-Wang serta dilakukan replikasi sebanyak 50 kali untuk mendapatkan hasil yang lebih baik dan menghitung nilai  MSE  masing-masing  penduga.  Dalam  simulasi  ini  penduga  Tong-Wang  digunakan m =10 sehingga penduga Tong-Wang dapat ditulis seperti berikut:
    10 2 1 10 2 1 ˆ          k k k w k TW w w k k w k w s d d s d w d d , k = 1, 2, ...,10.
Berikut ini di berikan hasil simulasi dari ketiga model yang telah ditetapkan sebelumnya.

## 3.3.1 Model Eksponensial
Model  eksponensial  diwakili  model  fungsi
  5 5   x g x e .  Penduga  Tong-Wang cenderung menghasilkan nilai MSE lebih kecil dibandingkan dengan penduga Rice dan GSJ. Nilai- nilai MSE ini diperlihatkan pada Tabel 1 berikut:
Tabel 3.1 . Nilai MSE penduga Rice, GSJ dan Tong-Wang model eksponensial
n 
2 R MSE  2 GSJ MSE  2 TW MSE 
50 0,1 0,00630427 0,00807704 0,00314443 0,2 0,0223638 0,0257054 0,0157560 0,4 0,0564276 0,0622543 0,0452205

## Jurnal Matematika, Statistika & Komputasi
Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
100 0,1 0,00759212 0,00811573 0,00693168 0,2 0,0241701 0,0250514 0,0232366 0,4 0,0550265 0,0566955 0,0541513 200 0,1 0,00793990 0,00806621 0,00792122 0,2 0,0254684 0,0258060 0,0253022 0,4 0,0587375 0,0597955 0,0572666
Perbandingan dari semua nilai MSE masing-masing penduga dengan memperhatikan semua kasus,  penduga  Tong-Wang  mempunyai  nilai  MSE  cenderung  lebih  kecil  dibandingkan  dengan penduga  Rice  dan  GSJ.  Secara  umum  nilai  MSE  penduga  Tong-Wang  cenderung  lebih  kecil dibandingkan dengan nilai MSE penduga Rice dan GSJ.

## 3.3.2 Model Aritmetika
Model  aritmetika  diwakili  model  fungsi   5  g x x .  Penduga  Tong-Wang  cenderung menghasilkan nilai MSE lebih kecil dibandingkan dengan penduga Rice dan GSJ. Nilai-nilai MSE ini diperlihatkan pada Tabel 3.2 berikut:
Tabel 3.2 . Nilai MSE penduga Rice, GSJ dan Tong-Wang model aritmetika
n  2 ˆ R  2 ˆ GSJ  2 ˆ TW 
50 0,1 0,00795866 0,00815830 0,00784188 0,2 0,0251320 0,0254710 0,0248760 0,4 0,0596900 0,0611103 0,0584554 100 0,1 0,00807126 0,00811456 0,00804272 0,2 0,0255882 0,0259366 0,0252618 0,4 0,0609150 0,0616366 0,0588003 200 0,1 0,00805793 0,00807134 0,00804650 0,2 0,0255550 0,0256193 0,0255159 0,4 0,0571781 0,0575031 0,0570076
Perbandingan  komparatif  dari  semua  nilai  MSE  masing-masing  penduga  dengan memperhatikan  semua  kasus,  penduga  Tong-Wang  mempunyai  nilai  MSE  cenderung  lebih  kecil dibandingkan  dengan  penduga  Rice  dan  GSJ.  Secara  umum  nilai  MSE  penduga  Tong-Wang cenderung lebih kecil dibandingkan dengan nilai MSE penduga Rice dan GSJ.

## 3.3.3 Model Trigonometri
Model  trigonometri  diwakili  model  fungsi    
5   g x sin x .  Penduga  Tong-Wang cenderung menghasilkan nilai MSE lebih kecil dibandingkan dengan penduga Rice dan GSJ. Nilai- nilai MSE ini diperlihatkan pada Tabel 3.3 berikut:
Tabel 3.3 . Nilai MSE penduga Rice, GSJ dan Tong-Wang model trigonometri
n 
2 R MSE  2 GSJ MSE  2 TW MSE 
50 0,1 0,00442043 0,00817706 0,00146124 0,2 0,0188804 0,0260000 0,0119870 0,4 0,0509689 0,0630291 0,0375662 100 0,1 0,00707648 0,00814413 0,00705189 0,2 0,0237481 0,0257312 0,0236087 0,4 0,0561481 0,0598329 0,0555613 200 0,1 0,00777726 0,00803215 0,00796694 0,2 0,0250527 0,0255649 0,0253171

## Jurnal Matematika, Statistika & Komputasi
Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
0.4 0.0604095 0.0620450 0.0583181
Perbandingan  dari  semua  nilai  MSE  masing-masing  penduga,  penduga  Tong-Wang mempunyai  nilai MSE cenderung  lebih  kecil  dari penduga  GSJ  dan  Rice  kecuali  untuk  dua  kasus yaitu  ( n,  ) = (200,  0,1)  dan  (200,  0,2)  dimana  nilai  MSE  penduga  Rice  lebih  kecil  dibandingkan dengan  penduga  GSJ  dan  Tong-Wang.  Secara  umum  nilai  MSE  penduga  Tong-Wang  cenderung lebih kecil dibandingkan dengan nilai MSE penduga Rice dan GSJ.

## 4. SIMPULAN
Berdasarkan  hasil  dan  pembahasan  yang  telah  diuraikan  sebelumnya,  maka  dapat  ditarik beberapa simpulan antara lain:
Penduga varians residual metode Rice merupakan penduga bias dengan nilai biasnya adalah
3
3          k k Jd O n , dengan   1 0 1 '( ) 2   J g x dx dan 2 2  k k d n , k = 1, 2, … , m.
Penduga varians residual metode Tong-Wang diberikan oleh
    2 1 2 1 ˆ          m k k k w k TW w w m k k w k w s d d s d w d d
dengan   k n k w N ,   1     m k N n k , 1    m w k k k d w d , 1    m w k k k s w s dan     2 1 1 2        n k i i k i k s
Y Y n k
, k = 1, 2, … , m .
Hasil simulasi dengan standar deviasi 0 1,  0 2,  0 4,
  , , , dan ukuran sampel n =50, 100, 200, untuk  fungsi  eksponensial,  fungsi  aritmetika  dan  fungsi  trigonometri,  penduga  Tong-Wang cenderung  lebih  baik,  karena  mempunyai  nilai  MSE  yang  cenderung  lebih  kecil  dibandingkan dengan penduga Rice dan penduga GSJ.

## DAFTAR PUSTAKA
[1] Buckley, M. J., Eagleson, G. K., & Silverman, B. W. 1988. The Estimation of Residual Variance in Nonparametric Regression. Biometrika , 75 (2), 189. https://doi.org/10.2307/2336166
[2] Dette, H., Munk, A., & Wagner, T. 1998. Estimating the variance in nonparametric regression - what is a reasonable choice? Journal of the Royal Statistical Society B , 60 (4), 751–764.
[3] Drygas, H. 1972. The estimation of residual variance in regression analysis. Mathematische Operationsforschung Und Statistik , 3 (5), 373–388. https://doi.org/10.1080/02331887208801094
[4] Evans, D., & Jones, A. J. 2008. Non-parametric estimation of residual moments and covariance. Proceedings of the Royal Society A: Mathematical, Physical and Engineering Sciences , 464 (2099), 2831–2846. https://doi.org/10.1098/rspa.2007.0195
[5] GASSER, T., SROKA, L., & JENNEN-STEINMETZ, C. 1986. Residual variance and residual pattern in nonlinear regression. Biometrika , 73 (3), 625–633. https://doi.org/10.1093/biomet/73.3.625
[6] Liitiäinen, E., Verleysen, M., Corona, F., & Lendasse, A. 2009. Residual variance estimation in machine learning. Neurocomputing , 72 (16–18), 3692–3703.
https://doi.org/10.1016/j.neucom.2009.07.004

## Jurnal Matematika, Statistika & Komputasi

## Abdul Wahab, I Nyoman Budiantara, Kartika Fitriasari
[8] Mendez, G., & Lohr, S. 2011. Estimating residual variance in random forest regression. Computational Statistics & Data Analysis , 55 (11), 2937–2950.
https://doi.org/10.1016/j.csda.2011.04.022
[9] Octavanny, M. A. D., Budiantara, I. N., Kuswanto, H., & Rahmawati, D. P. 2020. Nonparametric Regression Model for Longitudinal Data with Mixed Truncated Spline and Fourier Series. Abstract and Applied Analysis , 2020 , 1–11. https://doi.org/10.1155/2020/4710745
[10] Purnomo, J., Budiantara, I., & Fitriasari, K. 2008. Weight estimation using generalized moving average. IPTEK The Journal for Techhnology and Science , 19 (4).
[11] Rice, J. 1984. Bandwidth Choice for Nonparametric Regression. The Annals of Statistics ,
12 (4), 1215–1230. https://doi.org/10.1214/aos/1176346788
[12] Rohatgi, V. . 1976. An Introduction to probability theory and mathematical statistics . USA: john Wiley & Sons Inc.
[13] Serfling, R. J. 1980. Approximation theorems of mathematical statistics . USA: john Wiley & Sons Inc.
[14] Spokoiny, V. 2002. Variance Estimation for High-Dimensional Regression Models. Journal of Multivariate Analysis , 82 (1), 111–133. https://doi.org/10.1006/jmva.2001.2023
[15] Tong, T., & Wang, Y. 2005. Estimating residual variance in nonparametric regression using least squares. Biometrika , 92 (4), 821–830. https://doi.org/10.1093/biomet/92.4.821