Vol. 12, No. 2,  120-130,  Januari  2016
Reproducing Kernel dan Estimator Spline dalam Regresi Nonparametrik
Ruliana 

## Abstrak
Spline merupakan polinomial yang memiliki sifat tersegmen yang memberikan fleksibel lebih dari polinomial biasa, yang bisa menyesuaikan diri secara efektif terhadap  karakteristik suatu data. Estimator  Spline didapatkan  dari  meminimalkan  kriteria penalized  least  square yaitu kriteria  kesesuaian  kurva terhadap data ( goodness of fit ) dengan  kekasaran  kurva ( roughness penalty ),  dimana  keseimbangan  antara  kesesuaian  kurva  ini  dikontrol  oleh  suatu  parameter penghalus  , dimana  > 0. Jika suatu data berpasangan {( t i , y i ) , i = 1,2, ..., n }, t i  R, y i  R dan  hubungan  antara t i dan y i ,  diasumsikan  mengikuti  model i i i L ε f y   , i =  1,2,  ..., n , dengan R H  f ,  dan L i , i =  1,2,…, n adalah  fungsional  linear  terbatas  pada H R dimana
1 0 H H H R   ,  maka  estimasi  dari f adalah
      n i i i m v v v 1 1 ˆ ξ β φ α f  1 2   m .  yang merupakan polynomial natural spline . Estimator ini dipengaruhi oleh pemilihan  . Dengan menggunakan data simulasi dalam kasus ini diperoleh bahwa
) ( ) ( opt GCV GCV L L I    , lebih efisien
dari ) ( ) ( opt CV CV L L I    dalam mendapatkan parameter penghalus optimal.
Kata  Kunci :  Spline,  Penalized  Least  Square,  reproducing  Kernel,  parameter penghalus, GCV, CV, asimtotik efisien .

## 1. Pendahuluan
Analisis  regresi  merupakan  salah  satu  alat  statistik  yang  banyak  digunakan  untuk mengetahui hubungan antara sepasang variabel atau lebih. Misalkan diberikan data {( t i , y i ), i = 1,2, ..., n }, t i  R, y i  R dan hubungan antara t i dan y i diasumsikan mengikuti model regresi
] 1 , 0 [ , ) (    i i i i t ε t f y , i =1,2,…, n , (1)
dimana f ( t i ) adalah  fungsi  regresi  dan i ε adalah  sesatan  random  yang  diasumsikan  berdistribusi normal independen dengan mean nol dan variansi 2  .
Ada  dua  metode  yang  dapat  digunakan  untuk  menaksir  fungsi f , yaitu  metode  regresi parametrik  dan  metode  regresi  nonparametrik.  Pertimbangan  untuk  memilih  metode  mana  yang akan  digunakan  ada  kaitannya  dengan  asumsi  dari  fungsi f tersebut.  Metode  regresi  parametrik akan  sesuai  jika  bentuk  fungsi f diketahui  atau  ada  sumber  lain  yang  bisa  digunakan  untuk
 Jurusan Matematika, Fakultas Matematika dan Ilmu Pengetahuan Alam,
Universitas Negeri Makassar,  email: ruliana@yahoo.co.id
Ruliana
menentukan  bentuk  fungsi f tersebut.  Tetapi  jika  fungsi f tersebut  tidak  diketahui  bentuknya, maka metode regresi nonparametrik lebih sesuai digunakan (Eubank, 1988). Dalam hal ini fungsi f hanya  diasumsikan  termuat  dalam  suatu ruang  fungsi  tertentu,  dimana  pemilihan  ruang  fungsi tersebut  biasanya  dimotivasi  oleh  sifat  kemulusan  ( smoothness )  yang  dimiliki  oleh  fungsi f tersebut.
Beberapa  pendekatan  nonparametrik  yang  cukup  populer  dalam  mengestimasi  fungsi f antara lain Estimator Deret Orthogonal (Eubank 1988), Spline (Wahba, 1990), Estimator Kernel (Hardle,  1990),  Histogram  (Green,  1994).  Khusus  untuk  Spline,  pendekatan  ini  merupakan piecewise  polynomial ,  yaitu  polinomial  yang  memiliki  sifat  tersegmen.  Sifat  inilah  yang memberikan  fleksibel  lebih  daripada  polynomial  biasa,  sehingga  memungkinkan  untuk menyesuaikan diri secara efektif terhadap karakteristik lokal dari fungsi atau data.
Dalam  tulisan  ini  pendekatan  regresi  yang  digunakan  adalah  regresi  nonparametrik spline.  Dari  bentuk  (1),  apabila  fungsi f    1 , 0 2 m W = 1 ,..., 1 , 0 , : { ) (   m k k f f , ]} 1 , 0 [ 2 ) ( L m  f , dimana  L 2 [0,1]  menyatakan  himpunan  fungsi-fungsi  kuadrat  terintegral  pada  interval  [0,1], dengan kesesuaian kurva terhadap data adalah  
  n i i i n 1 2 1 )) ( ( t f y dan kekasaran kurva adalah
 1 0 2 )) ( " ( dt t f maka estimasi f diperoleh dengan meminimumkan Penalized Least Square ,
      1 0 2 '' 2 1 1 )} ( { )} ( { dx t n i n i i f t f y  ,  > 0. (2)
Permasalahan  optimasi  pada  (2)  dapat  diselesesaikan  dengan  pendekatan Reproducing  Kernel (Kemildrorf & Wahba, 1971). Sifat dari Reproducing Kernel adalah dapat ditentukan representasi dari  suatu  fungsional  linear  terbatas,  sehingga  kurva  regresi f  ] 1 , 0 [ 2 m W yang  merupakan penyelesaian yang optimal dari persamaan (2) bisa diperoleh (Wahba, 2000).
Dalam  menghasilkan  estimasi  kurva  regresi  yang  baik,  pemilihan  yang  optimal merupakan  hal  yang  penting.  Dengan  menggunakan Reproducing  Kernel untuk  mengestimasi kurva  regresi  pada  (1),  selanjutnya  akan  dipilih  suatu  nilai  yang  optimal.  Beberapa  metode untuk  memilih  yaitu  metode Cross  Validation (CV), Generalized  Cross  Validation (GCV), metode Generalized Maximum Likelihood atau GML (Kou, 2003).
Dalam  tulisan  ini  dibahas  penyelesaian  optimal  dari  (2)  dengan  menggunakan Reproducing Kernel , dan pemilihan parameter penghalus  dengan menggunakan metode GCV dan CV serta melihat sifat efisien dari kedua metode tersebut dengan menggunakan data simulasi.

## 2. Spline dalam Regresi Nonparametrik
Ada  beberapa  pendekatan  nonparametrik  yang  cukup  populer  dalam  mengestimasi f , salah  satunya  adalah  spline.  Spline  adalah  potongan  polinomial  order r .  Titik  bersama  dari potongan-potongan  tersebut  disebut  dengan  knots.  Spline  order r dengan  knots  pada k   ,..., 1 diberikan dalam fungsi S dengan bentuk:
S ( t ) = 1 1 1 0 ) (          r j k j j i r i i t t  δ θ (3)
Ruliana
dengan
            0 ) ( , 0 0 ) ( , ) ( ) ( 1 j j j r j t jika t jika t t     (Eubank, 1988).
Spline (3) mempunyai sifat sebagai berikut:
1. S merupakan potongan polinomial derajat r -1 pada setiap subinterval ] , [ 1  j j   .
2. S mempunyai turunan ke ( r -2) yang kontinu. 3. S mempunyai turunan ke ( r -1) yang merupakan fungsi tangga dengan titik-titik lompatan pada ) ,..., ( 1 k   .

## 3. Reproducing Kernel
Definisi 1. ( Wahba, 2000 )
Reproducing  Kernel  dari  H  adalah  suatu  fungsi  R  yang  didefinisikan  pada [0,1]×[0,1] sedemikian hingga untuk setiap titik tetap t  [0,1] berlaku R t  H dengan R t (s) = R (s,t) dan
L t f = < R t , f > = f (t). (4)
Didefinisikan  ruang 0 H memuat  koleksi  fungsi 0 H ={ ) 0 ( ) 0 ( : ) 1 (   i h h , m i ,..., 1  , ) 1 (  i h kontinu  absolut  pada  [0,1]  dan   1 , 0  m h }. H 0 adalah  ruang  inner  product  yang  lengkap  yang disebut Hilbert  space . H 0 merupakan Reproducing  Kernel  Hilbert Space karena  untuk  setiap h 0 H  dan  pemetaan R H L t  0 : ,  h t L 0 ) (  h t L memenuhi  sifat  linearitas,  dengan domain  [0,1]  didalam  ruang H 0 ,  dengan reproducing  kernel dari H 0 adalah R t 0  H 0 yaitu R t ( s )=   m i i i t s 1 ) ( ) (   , dan untuk titik tetap t berlaku L t h = h h R t  , 0 ) ( t , h 0 H  .
Ruang 1 H memuat  koleksi  fungsi 1 H ={ ,..., 1 , 0 , ) 0 ( ) 0 ( : ) (   k g g k 1  m , ) ( k g kontinu  absolut  pada  [0,1]  dan   1 , 0 2 L g m  }. 1 H adalah Reproducing  Kernel  Hilbert  Space dengan Inner Product
  1 0 ) ( 2 ) ( 1 1 2 1 ) ( ) ( , dt t g t g g g m m (5)
dan Reproducing Kernel dari H 1 adalah
             1 0 2 1 1 1 ! ) 1 ( ) ( ) , ( du m u t u s t s R m m (6)
H adalah  ruang  Hilbert  dan  terdapat  dengan  tunggal reproducing  kernel R t untuk  titik ] 1 , 0 [  t dalam H dan t L  f , t R f = f ) ( t ,  f H , t L adalah fungsional linear terbatas pada H yang memetakan fungsi f didalam ruang H kebilangan riil , ) ( : i i t f f L  . Dalam masalah regresi, untuk data berpasangan {( t i , y i ) , i = 1,2,..., n }, t i  R, y i  R dan hubungan  antara t i dan y i diasumsikan  mengikuti  model  regresi  secara  umum  yaitu i y = i L f i   , i =  1,2,..., n ,  dengan f adalah  fungsi  regresi  dan i  adalah  sesatan  random  yang

## Ruliana
diasumsikan berdistribusi independen dengan mean nol dan varians 2  . Menaksir fungsi f adalah mencari f yang ada didalam ruang Hilbert yang meminimumkan      n i i i L n 1 1 y 2 ) f + 1 P 2 R f .

## 4. Estimator Spline
Misalkan diberikan model data
y i = L i f +  i i = 1,2,…, n , (7)
dengan
R H  f dan L i i =1,2,…, n adalah fungsional linear terbatas pada H R serta H R mempunyai dekomposisi
1 0 H H H R   , estimasi dari f adalah R H  f yang meminimumkan
      n i R i i P L n 1 2 1 2 1 f f y  (Wahba, 1990). (8)
Teorema 1. (Wahba, 1990)
Apabila 1
0 H H H R   dan 1  ,..., m  basis dari ruang 0 H serta nxm T adalah matriks full rank kolom berorder nxm yang diberikan oleh:
 nxm T   v i L φ ,i = 1,2,…,n;dan v = 1,2,…,m
maka f ˆ yang meminimumkan   2 1 1 2 , 1 R n i i i P n f f y        
(9)
adalah       n i i i m v v v 1 1 ˆ ξ β φ α f
dengan  y M T' T M T' 1 1      1 1 ) ( )' ,..., ( m    y M T' T M T' T I M 1 1 1 ) ) ( ( )' ,..., ( 1 1        n   i i P  1  ξ  M  + n I 
     j i ξ ξ Σ , , i , j = 1,2,3,…,n
Bukti:
f ˆ  dapat ditulis dalam bentuk
       n i i i m v v v 1 1 ˆ ξ β φ α f    β ξ' α φ' , R H  
yang tegak lurus dengan
n m     ,..., , ,..., 1 1 .
       n i i i m v v v 1 1 ˆ ξ β φ α f     ' ' 
      f f ˆ , i i L  
; 1 0 H H H R i
   
=   β ξ' α φ'  , i  =   α φ' , i  +   β ξ' , i  , i =1,…, n
Ruliana
= Σβ Tα  (10)
f f f P P P R , 2  = ) ' ' ( ), ' ' (           P P = Σβ β' (11)     f y f y f y L L n L n n i i i       ' 1 ) ( 1 1 2 , dari persamaan (10) selanjutnya
= 2 ) ( Σβ Tα y   (12)
Dari persaman (11) dan (12), maka persamaan (9) dapat ditulis sebagai
  Σβ β' Σβ Tα y β α       2 1 ) , ( n (13)
Selanjutnya akan dicari  dan  yang meminimumkan persamaan (13)
  Σβ β' Σβ Tα y β α       2 1 ) , ( n   β Σβ Tα y β α Σ β'  n      2 ) , ( . (14)
Dengan menurunkan secara parsial persamaan (14) terhadap β dan hasilnya disamakan dengan nol
0 ) ( ) ( 2 2 2              β Σ Σ Σ' Tα Σ' y Σ' β Σ Σ Σ' Tα Σ' y Σ' β λ n n λ ) ( 1 Tα y M β   
(15)
Dengan cara yang sama persamaan (14) diturunkan terhadap  di dapatkan
0 2 2 2        Σβ T' Tα T' y T' α . 0     Σβ T' Tα T' y T' (16) Sehingga
y M T' T M T' α 1 1     1 ) ( (17)
I. Σ M λ n  
Dari persamaan (17) disubtitusi pada persamaan (15)
) ( 1   T y M   
. ) ' ) ' ( ( 1 1 1 1 y M T T M T T I M        (18)
Sehingga terbukti bahwa f ˆ  yang meminimumkan
  2 1 1 2 , 1 R n i i i P n f f y         adalah       m v n i i i v v λ 1 1 ξ β φ α f ,
dengan  dan  yaitu
Ruliana
y M T T M T 1 1 1 ' ) ' (      . ) ' ) ' ( ( 1 1 1 1 y M T T M T T I M       
Bentuk estimator spline, dipengaruhi oleh parameter penghalus  . nilai  yang sangat kecil atau besar akan memberikan bentuk fungsi penyelesaian yang sangat kasar atau sangat mulus (Wahba 1990; Eubank, 1988).
Gambar 1. Estimasi Data  dengan 
yang   Kecil.
Gambar 2. Estimasi Data  dengan  yang   Besar
Gambar 3. Estimasi Data  dengan  Optimal.

## 5. Pemilihan Parameter Penghalus
Dalam  regresi  nonparametrik,  bentuk  fungsi f tidak  diketahui,  fungsi f diasumsikan smooth dalam  arti f merupakan  anggota  ruang  Sobolev   1 , 0 2 m W = 1 ,..., 1 , 0 , : { ) (   m k k f f ,
kontinu absolute pada [0,1] dan
]} 1 , 0 [ 2 ) ( L m  f dengan L 2 [0,1] menyatakan himpunan fungsi- fungsi kuadrat terintegral pada interval [0,1].
Idealnya  akan  dipilih  suatu  nilai  yang  meminimumkan  fungsi  kerugian L (  ),  akan tetapi dalam regresi nonparametrik tidak dapat dilakukan secara nyata sebab L (  ) masih memuat
Ruliana
fungsi f yang  tidak  diketahui.  Sehingga  perlu  mengestimasi  data  dan  kemudian  estimatornya diminimumkan terhadap  untuk mendapat estimator f yang paling baik (Eubank, 1988). Salah satu  pemilihan  parameter  penghalus  adalah  menggunakan  metode Generalized Cross Validation (GCV). Ide dasar dari GCV adalah memodifikasi Cross Validation atau CV (Green & Silverman 1994).
Definisi 2. (Eubank, 1988)
Jika T n λ f f ) ,..., ( 1    f adalah  estimator  untuk f maka  fungsi  kerugian  (loss  function)
didefenisikan sebagai L      n i λi i n 1 2 1 ) ( ) ( f f  .
Teorema 2. ( Craven dan Wahba, 1979 )
Jika f ] 1 , 0 [ 2 m W  dan  GCV ,  res menyatakan nilai  yang meminimumkan EGCV(  ) dan EL(  ), maka terdapat suatu barisan  GCV sedemikian sehingga
1 ) ( ) (    EL EL GCV , n  .
Jika  2 diketahui maka  optimal bisa didapat langsung dari kriteria prediksi mean square error atau fungsi kerugian yang didefenisikan oleh
L      n i i λ i n 1 2 1 ) ( ) ( f f  (19)
fungsi dari persamaan (19) memberikan penaksiran dari kebaikan suatu estimator. Dalam hal  2 tidak  diketahui  maka  dapat  digunakan  metode Cross  Validation (CV)  dan Generalized  Cross Validation (GCV),  untuk  mendapatkan  nilai  optimal. Cross  validation (CV)  adalah  metode untuk memilih  yang meminimumkan
CV(  )=     n j j j t n 1 2 ] [ 1 )) ( (  f y (20)
) ( ] [ t j  f adalah f ] 1 , 0 [ 2 m W  yang meminimumkan
      1 0 2 '' 2 1 1 )} ( { )} ( { dx t t n i n i i f f y  .
Sedangkan Generalized  Cross  Validation (GCV),  adalah  metode  untuk  memilih  yang meminimumkan
       
         n j n i jj j λ j n n GCV 1 2 1 1 2 1 ) ( 1 ) ( ) (   a t f y (5.3)

## Ruliana

## 6. Studi Simulasi Metode GCV dan CV dalam Mendapatkan λ Optimal
Dalam  penelitian  ini,  diselidiki  prilaku  optimal  estimator  spline  berdasarkan  data simulasi, dengan metode GCV dan CV. Data dibangkitkan dari distribusi Beta dengan berbagai nilai a dan b :
) ( ) 1 ( ) ( ) ( ) ( ) , ( ) 1 , 0 ( 1 1 x I x x b a b a b a B b a         .
Gambar 4. Plot Tiga Fungsi Beta dengan a dan b yang Berbeda.
Dalam menentukan  optimal dengan metode Generalized Cross Validation (GCV) dan
Cross Validation CV, dimana I GCV = ) ( ) ( opt GCV L L   , ) ( ) ( opt CV CV L L I    didapatkan hasil yang dapat dilihat dalam Tabel 1.
Ruliana
Tabel 1 . Hasil Simulasi Lambda Optimal.  Optimal n=25 n=50 n=100 n=200  2 =0,0125  nilai  Nilai  Nilai  nilai  (GCV) 0,715  0,0077  0,720  0,0074  0,714  0,0069  0,715  0,0068  (CV) 0,701  0,0106  0,702  0,0081  0,704  0,0071  0,712  0,0069  (LOSS) 0,730  0,0047  0,723  0,0057  0,715  0,0061  0,714  0,0063  2 =0,025  (GCV) 0,734  0,0078  0,721  0,0079  0,718  0,0075  0,712  0,0072  (CV) 0,718  0,0105  0,709  0,0086  0,712  0,0078  0,709  0,0073  (LOSS) 0,73 0,0048  0,718  0,0058  0,721  0,0062  0,715  0,0064  2 =0,05  (GCV) 0,723  0,0101  0,732  0,0097  0,714  0,0091  0,717  0,0093  (CV) 0,696  0,0127  0,714  0,0107  0,702  0,0091  0,708  0,0094  (LOSS) 0,729  0,0052  0,717  0,0061 0,72 0,0062  0,714  0,0064  2 =0,1  (GCV) 0,687  0,0201  0,696  0,0194  0,702  0,0172  0,717  0,0163  (CV) 0,675  0,0213  0,678  0,0208  0,693  0,0173  0,714  0,0164  (LOSS) 0,729  0,0074  0,72 0,0063  0,717  0,0064  0,72 0,0066 Tabel 2 . Ratio GCV dan Ratio CV.  2 Ratio n=25 n=50 n=100 n=200 0,0125 W r (GCV) 1,562904 1,236415 1,10849220 1,05192572 W r (CV) 1,648624 1,220889 1,05407279 1,04367263 0,025 W r (GCV) 1,564278 1,235004 1,10814558 1,05192572 W r (CV) 1,649797 1,219301 1,09358752 1,04367263 0,05 W r (GCV) 1,572061 1,234827 1,10814558 1,05570839 W r (CV) 1,655471 1,219125 1,09341421 1,04745530 0,1 W r (GCV) 1,587077 1,253831 1,12623377 1,06497100 W r (CV) 1,678571 1,239211 1,11168831 1,05672100
Pada Tabel 2 terlihat bahwa, dengan bertambahnya ukuran sampel, nilai ratio dari GCV semakin mendekati 1, begitu juga untuk nilai ratio dari CV, namun dalam hal ini ratio GCV selalu lebih kecil dari ratio CV untuk semua ukuran sampel n dan  2 yang diberikan.
Tabel 3. Nilai I GCV , dan I CV.
 2 efisiensi n=25 n=50 n=100 n=200 0,0125 I GCV 1,021277 1,000000 1,000000 1,000000 I CV 1,042553 1,017544 1,016393 1,000000 0,025 I GCV 1,000000 1,000000 1,000000 1,000000 I CV 1,020833 1,000000 1,000000 1,000000 0,005 I GCV 1,019231 1,000000 1,000000 1,000000 I CV 1,000000 1,000000 1,016129 1,016129 0,1 I GCV 1,040541 1,000000 1,000000 1,000000 I CV 1,054054 1,01587 1,000000 1,000000
Dari Tabel 3 terlihat bahwa nilai I GCV untuk ukuran sampel yang besar lebih banyak yang mendekati 1 dibandingkan dengan nilai I CV .
Hasil simulasi ini adalah dengan melihat ratio dan efisiensi maka  menggunakan metode Generalized Cross Validation (GCV) didalam mencari  yang paling optimal adalah lebih efisien dari metode Cross Validation (CV).

## 6. Kesimpulan
Kesimpulan yang diperoleh dari hasil penelitan ini, yaitu bahwa apabila
1 0 H H H R   dan 1  ,... m  span dari ruang 0 H serta nxm T adalah matriks full rank kolom berorder n x m yang diberikan  oleh   v i nxm L T   , i =  1,2,…, n dan v =  1,2,…, m ,  maka f ˆ   yang  meminimumkan
  2 1 1 2 , 1 R n i i i P n f f y         adalah       n i i i m v v v 1 1 ˆ ξ β φ α f , dengan 
y M T T M T m 1 1 1 1 ' ) ' ( )' ,..., (        dan 
. ) ' ) ' ( ( )' ,..., ( 1 1 1 1 1 y M T T M T T I M n      
   Dengan  melihat  ratio  dan  efisiensi  maka menggunakan  metode Generalized  Cross  Validation (GCV)  didalam  mencari  yang  paling optimal adalah lebih efisien dari metode Cross Validation (CV).

## Daftar Pustaka
[1] Berberian, K. S., 1961, Introduction to Hilbert Space , New York.
[2] Budiantara, I. N. dan Subanar, 1997, Pemilihan parameter penghalus dalam regresi spline terbobot, Majalah Ilmiah Matematika dan IPA-UGM, Yogyakarta.
[3] Cox,  D.,  1981,  Asymptotics  for  M-Type  smoothing  splines, Technical  Report ,  654, University of Wisconsin.
[4] Craven, P. dan Wahba, G., 1979, Smooting noisy data with spline functions estimating the correct  degree  of  smoothing  by  method  of  Generalized  Cross-Validation, Journal Numerische Mathematics , 31, 377-403.
[5] Eubank,  R.  L.,  1988, Spline  smoothing  and  Nonparametrik  Regression ,  Marcel  Dekker, New York.
[6] Green,  P.  J.  dan  Silverman,  B.W.,  1994, Nonparametrik  Regression  and  Generalized Linear Models (a Roughness Penalty Approach ), Chapman & Hall, New York.
[7] Hardle,  G.,  1990, Applied  Nonparametrik  Regression, Cambridge  University  Press,  New York.
[8] Kimeldrof,  G.  dan  Wahba,  G.,  1971,  Some  result  on  Tchebycheffian  spline  function, Journal of Mathematical Analysis and Application , 33, 82-95.
[9] Kou,  S.C.,  2003,  On  efficiency  of  selection  criteria  in  spline  regression , Probab,  Theory Relat. Fields , 127, 153-176.
[10]  Kreyszig,  E.,  1978, Introductory  Functional  Analysis  with  Applications ,  University  of Windsor, John Wiley & Sons, New York.
[11]  Mallows, C., 1973, Some comments on Cp , Journal Technometrics , 15, 661-675.

## Ruliana
[12]  Oeherlet,  G.  W.,  1992,  Relaxed  boundary  smoothing  splines, Journal  the  Annals  of Statistics , 20, 146-160.
[13]  Rohatgi, V. K., 1976, An Introduction to Probability Theory and Mathematical Statistics , John Wiley & Sons, New York.
[14]  Silverman, B., 1984, A fast and efficient cross-validation method for smoothing parameter choice in spline regression, Journal of the American Statistical Association , 79,584-589.
[15]  Silverman,  B.,  1985,  some  aspects  of  the  spline  smoothing  approach  to  non  parametric regression curve fitting (With discussion), Journal Royal Statistical Society , 47, 1-52.
[16]  Speckman,  P.,  1980,  Minimax  estimates  of  linear  functionals  in  a  Hilbert  space, Unpublished Manuscript .
[17]  Speckman, P., 1985, Spline smoothing and optimal rates of convergence in nonparametric regression models, Journal Ann. Statist , 13, 970-983.
[18]  Wahba,  G.,  1975,  Smoothing  noisy  data  by  spline  functions , Journal  Numer.  Math ,  24, 383-393.
[19]  Wahba, G., 1985, A comparison of GCV and GML for choosing the smoothing parameter in  the  generalized  spline  smoothing  problem, Journal  the  Annals  of  Statistics ,  13,  1378- 1402.
[20]  Wahba, G., 1990, Spline model for observational data, Society For Industrial and Applied Mathematics , Philadelphia.
[21]  Wahba, G., 2000, An introduction to model building with reproducing kernel Hilbert spaces, Technical Report , 1020, University of Wisconsin.