2 2第八章第八章 方差分析与回归分析方差分析与回归分析第 第2 2页页§ § 8.18.1方差分析方差分析8.1.18.1.1 问题的提出问题的提出实际工作中我们经常碰到多 个正态实际工作中我们经常碰到多 个正态总体均值的比较问题, 处理这类问总体均值的比较问题, 处理这类问题通常采用 所谓的方差分析方法。题通常采用 所谓的方差分析方法。 3 3第八章第八章 方差分析与回归分析方差分析与回归分析第 第3 3页页例例8.1.18.1.1 在饲料养鸡增肥的研究中, 某在饲料养鸡增肥的研究中, 某研究所提出三种饲料配方:研究所提出三种饲料配方: A A1 1是以鱼粉为主的饲料,粉为主的饲料, A A2 2是以槐树粉为主的饲料,饲料, A A3 3是以苜蓿粉为主的饲料。 为是以苜蓿粉为主的饲料。 为比较三种饲料的效果, 特选比较三种饲料的效果, 特选 24 似的雏鸡随机均分为三组, 每组各喂一种饲料,一种饲料, 6060天后观察它们的重量。天后观察它们的重量。试验结果如下表所示:试验结果如下表所示:是以鱼是以槐树粉为主的24 只相只相似的雏鸡随机均分为三组, 每组各喂 4 4第八章第八章 方差分析与回归分析方差分析与回归分析第 第4 4页页表表8.1.18.1.1 鸡饲料试验数据鸡饲料试验数据1041048 81021029 91031032 21021022 21021021 11081080 01021029 91091093 3A A3 31001001 11121122 21071074 41091090 01101109 99909901091092 21101107 7A A2 21021028 81001009 91011012 21001002 21001001 11061060 01001009 91071073 3A A1 1鸡鸡 重( 克)重( 克)饲料饲料A A 5 5第八章第八章 方差分析与回归分析方差分析与回归分析第 第5 5页页本例中, 我们要比较的是三种饲料对鸡的本例中, 我们要比较的是三种饲料对鸡的增肥作用 是否相同。 为此, 把饲料称为因 因子,子, 记为记为A A, , 三种不同的配方称为因子三种不同的配方称为因子A A的三个的三个水平水平, 记为, 记为A A1 1, , A A2 2, 下第下第 j j 只鸡只鸡6060天后的重量用天后的重量用 y yij ij表示,3, 3, j j=1, 2,=1, 2,\uf0bc\uf0bc, , 1010。 。 我们的目 的是比较三种我们的目 的是比较三种饲料配方下鸡的平均重量是否相等, 为饲料配方下鸡的平均重量是否相等, 为此, 需要做一些基本假定, 把所研究的问此, 需要做一些基本假定, 把所研究的问题归结为一个统计问题, 然后用 方差分析题归结为一个统计问题, 然后用 方差分析的方法进行解决。的方法进行解决。增肥作用 是否相同。 为此, 把饲料称为, A A3 3, 使用 配方, 使用 配方A Ai i表示, i i=1, 2, =1, 2, 6 6第八章第八章 方差分析与回归分析方差分析与回归分析8.1.28.1.2 单因子方差分析的统计模型单因子方差分析的统计模型第 第6 6页页在例在例8.1.1称其为单因子试验。单因子试验。通常, 在单因子试验中, 记因子为 A A, 设其有设其有r r个水平, 记为个水平, 记为A A1 1, 每一水平下考察的指标可以看成一个总体总体 , 现有, 现有 r r 个水平, 故有个水平, 故有 r 体,体,假定:假定:8.1.1中我们只考察了 一个因子,中我们只考察了 一个因子,称其为通常, 在单因子试验中, 记因子为, , A A2 2, ,……, , A Ar r, 在, 在每一水平下考察的指标可以看成一个r 个总个总 7 7第八章第八章 方差分析与回归分析方差分析与回归分析第 第7 7页页1) 1) 每一总体均为正态总体, 记为每一总体均为正态总体, 记为 N N( (\uf06d \uf06di i,,\uf073 \uf073i i 2 2) ), ,i i= = 1, 2,1, 2,……, , r r ; ;2) 2) 各总体的方差相同各总体的方差相同 : : \uf073 \uf0731 12 2= =\uf073 \uf0732 22 2= =……= =\uf073 \uf073r r2 2= =\uf073 \uf0732 2; ;3) 3) 从每一总体中抽取的样本是相互独立从每一总体中抽取的样本是相互独立的,的,即所有的试验结果即所有的试验结果 y yij ij都相互独都相互独立。立。 8 8第八章第八章 方差分析与回归分析方差分析与回归分析第 第8 8页页我们要比较各水平下的均值是否相同我们要比较各水平下的均值是否相同 , ,即要对如下的一个假设进行检验即要对如下的一个假设进行检验: H H0 0: : \uf06d \uf06d1 1= =\uf06d \uf06d2 ( ( 8.1.18.1.1) ): 2 = =……= =\uf06d \uf06dr r备择假设为备择假设为H H1 1: : \uf06d \uf06d1 1, , \uf06d \uf06d2 2, , ……, , \uf06d \uf06dr r不全相等不全相等在不会引 起误解的情况下,在不会引 起误解的情况下,略不写。如果如果H H0 0成立, 因子成立, 因子A A的同称因子同称因子A A的的r个水平间没有显著差个水平间没有显著差H H1 1 通常可省通常可省略不写。的r r个水平均值相个水平均值相 9 9第八章第八章 方差分析与回归分析方差分析与回归分析第 第9 9页页为对假设(为对假设( 8.1.1每一水平下的总体抽取样本, 设从第每一水平下的总体抽取样本, 设从第 i i个水平下的总体获得个水平下的总体获得m m个试验结果, 记y yij ij表示表示第 第 i i个总体的第个总体的第j j次重复试验结果。 共得如下果。 共得如下n=n=r r\uf0b4 \uf0b4m m个试验结果:y yij ij, ,i i= = 1, 2,1, 2,……, , r r , ,8.1.1) 进行检验, 需要从) 进行检验, 需要从个试验结果, 记次重复试验结个试验结果:j j= = 1, 2, 1, 2, ……, , m m, ,其中其中 r r为水平数,为水平数, m m为重复数,编号,编号,j j 为重复编号。为重复编号。为重复数, i i为水平为水平 1010第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 01 0页页在水平在水平A Ai i下的试验结果下的试验结果y yij ij与 与 该水平下该水平下的指标均值的指标均值 \uf06d \uf06di 记记 \uf065 \uf065ij ij= = y yij ij\uf02d \uf02d\uf06d \uf06di i, ,\uf065 \uf065ij ij 称为随机误差。 于是有称为随机误差。 于是有i 一般总是有差距的,一般总是有差距的,y yij ij= = \uf06d \uf06di i+ +\uf065 \uf065ij ij( ( 8.1.28.1.2) )( ( 8.1.28.1.2) ) 式称为试验结果式称为试验结果 y yij ij的的数据结数据结构式。构式。 1111第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 11 1 页页单因子方差分析的统计模型:单因子方差分析的统计模型:( ( 8.1.38.1.3) )总均值与效应总均值与效应: :称诸称诸 \uf06d \uf06di 总均值总均值. i 的平均的平均. 为 为称第称第 i 差差i 水平下的均值水平下的均值 \uf06d \uf06di i 与总均值与总均值 \uf06d \uf06d 的的2,1,2,..., ,1,2,...,(0,)ijiijijyir jmN\uf06d\uf065\uf02b\uf065\uf073\uf03d\uf03d\uf03d\uf0ec\uf0ef\uf0ed\uf0ef\uf0ee诸相互独立, 且都服从1111(\uf06d...)rriirr\uf06d\uf06d\uf02b\uf06d\uf03d\uf03d\uf02b\uf03d \uf0e5 1212第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 21 2页页模型(模型( 8.1.3y\uf06d\uf0ec\uf03d\uf02b\uf0ef\uf0ef\uf03d\uf0ed\uf0ef\uf0ef\uf0ee相互独立, 且都服从8.1.3) 可以改写为) 可以改写为,iijai\uf065\uf02b\uf03d(8.1.8)(8.1.8)ij\uf065假设(假设( 8.1.18.1.1) 可改写为) 可改写为H H0 0: : a a1 1= =a a2 ( ( 8.1.98.1.9) )2 = =……= =a ar r=0 =0 121,2,..., ,1,2,...,0N(0,)ijriir jma\uf073\uf03d\uf03d\uf0e5 1313第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 31 3页页8.1.38.1.3 平方和分解平方和分解一、 试验数据一、 试验数据通常在单因子方差分析中可将试验数通常在单因子方差分析中可将试验数据列成如下页表格形式。据列成如下页表格形式。表8.1.2中的最后二列的和与平均的含义如下:.1jm\uf03d\uf0e511,2,,miiijiriiTTyyirTTTTyr m\uf0d7nnr m\uf03d \uf0d7\uf03d\uf03d\uf03d\uf03d\uf03d\uf03d\uf03d\uf03d\uf0e5\uf04c总试验次数 1414第八章第八章 方差分析与回归分析方差分析与回归分析表表8.1.28.1.2 单因子方差分析试验数据单因子方差分析试验数据第 第1 41 4页页T TT Tr ry yr r1 1 y yr r2 2…… y yrmrmA Ar r┆ ┆┆ ┆┆ ┆┆ ┆T T2 2y y2121 y y2222…… y y2 2m mA A2 2T T1 1y y1111 y y1212…… y y1 1m m A A1 1平均平均和和试试 验验 数数 据据因子水平因子水平1y2yyry 1515第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 51 5页页数据间是有差异的。 数据数据间是有差异的。 数据y yij ij与 与总平均间的偏差可用间的偏差可用 y yij ij\uf02d \uf02d为二个偏差之和为二个偏差之和.()(ijijiyyyy\uf02d\uf03d\uf02d\uf02b总平均y表示, 它可分解表示, 它可分解( ( 8.1.108.1.10) )\uf065\uf03d记记二、 组内 偏差与组间偏差.)iyy\uf02d..1111111,mrrmiijiijjiijmrn\uf065\uf065\uf065\uf065\uf03d\uf03d\uf03d\uf03d\uf03d\uf03d\uf0e5\uf0e5\uf0e5\uf0e5y 1616第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 61 6页页由于由于y( ( 8.1.118.1.11) )所以所以y yij ij- -随机误差, 称为组内 偏差. iyy\uf02d仅反映组内 数据与组内 平均的仅反映组内 数据与组内 平均的组内 偏差; ; 而随机误差, 称为而( ( 8.1.128.1.12) )除了 反映随机误差外, 还反映了 第除了 反映随机误差外, 还反映了 第i i个水平的效应, 称为个水平的效应, 称为组间偏差组间偏差。 。.(\uf06d)(\uf06d)ijiiijiiijiy\uf065\uf02b\uf065\uf02b\uf065\uf065\uf02d\uf02d\uf03d\uf02d\uf03dijy...(\uf06d)(\uf06d)iiiiiyya\uf065\uf02b\uf065\uf02b\uf065\uf02b\uf065\uf02d\uf02d\uf03d\uf02d\uf03d 1717第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 71 7页页\uf0d8 \uf0d8在统计学中, 把在统计学中, 把k k个数据对其均值对其均值和个数据y y1 =(y y1 1+ + … …+ 2)(kyy\uf02b\uf02b\uf04c1 , y, y2 2 , , … …, , y yk k分别分别=(+ y yk k)/ )/k 2)y\uf02d\uf03d\uf0e5k 的偏差平方的偏差平方2()iyy\uf02d和称为称为k k个数据的个数据的偏差平方和量若干个数据分散的程度。偏差平方和, , 它常用 来度它常用 来度量若干个数据分散的程度。三、 偏差平方和及其自 由度y11(kiQy\uf03d\uf03d\uf02d 1818第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 81 8页页\uf0d8 \uf0d8在构成偏差平方和在构成偏差平方和Q Q的y yk k\uf02d \uf02d间有一个恒等式间有一个恒等式明在明在Q Q中独立的偏差只有中独立的偏差只有k k\uf02d \uf02d1 1个。的k k个偏差个偏差y y1 1\uf02d \uf02d , 0\uf03d, … …, y, , 这说, 这说个。\uf0d8 \uf0d8在统计学中把平方和中独立偏差个数称为在统计学中把平方和中独立偏差个数称为该平方和的该平方和的自 由度,自 由度, 常记为度为度为f fQ Q= =k k\uf02d \uf02d1 1。 。 自 由度是偏差平方和的一个自 由度是偏差平方和的一个重要参数。重要参数。常记为f f, 如, 如Q Q的自 由的自 由y1()kiiyy\uf03d\uf02d\uf0e5 1919第八章第八章 方差分析与回归分析方差分析与回归分析第 第1 91 9页页\uf0d8 \uf0d8各各y yij ij间 间 总的差异大小可用总的差异大小可用 总偏差平方和(Tij\uf03d\uf03d\uf0e5 \uf0e5总偏差平方和2)y表示, 其自 由度为表示, 其自 由度为f fT T= =n n\uf02d \uf02d1 1; ;四、 总平方和分解公式\uf0d8 仅由随机误差引 起的数据间的差异可以用组内 偏差平方和表示,也称为误差偏差平方和, 其自 由度为 fe=n\uf02dr ;11rmijSy\uf03d\uf02d2.11()rmeijiijSyy\uf03d\uf03d\uf03d\uf02d\uf0e5\uf0e5 2020第八章第八章 方差分析与回归分析方差分析与回归分析第 第2020页页\uf0d8 \uf0d8由于组间差异除了 随机误差外, 还反由于组间差异除了 随机误差外, 还反映了 效应间的差异, 故由效应不同引映了 效应间的差异, 故由效应不同引起的数据差异可用起的数据差异可用 组间偏差平方和组间偏差平方和表示, 也称为表示, 也称为因子因子A A的偏差平方和,的偏差平方和,其自 由度为其自 由度为 f fA A= =r r\uf02d \uf02d1 1; ;2.1()rAiiSmyy\uf03d\uf03d\uf02d\uf0e5 2121第八章第八章 方差分析与回归分析方差分析与回归分析第 第2121 页页定理定理8.1.1可以分解为因子平方和可以分解为因子平方和S SA A与误差平方和和S Se e之和, 其自 由度也有相应分解公之和, 其自 由度也有相应分解公式, 具体为:8.1.1在上述符号下, 总平方和在上述符号下, 总平方和S ST T与误差平方式, 具体为:S ST T = =S SA A + +S Se e , 8.1.16) ), f fT T = =f fA A + +f fe e( ( 8.1.16( ( 8.1.168.1.16) ) 式通常称为式通常称为总平方和分解式。式。总平方和分解 2222第八章第八章 方差分析与回归分析方差分析与回归分析第 第2222页页偏差平方和偏差平方和Q Q的大小与自 由度有关, 为了的大小与自 由度有关, 为了便于在偏差平方和间进行比较, 统计上引入了入了 均方和均方和的概念, 它定义为的概念, 它定义为MS=Q其意为平均每个自 由度上有多 少平方和,它比较好地度量了 一组数据的离散程度。它比较好地度量了 一组数据的离散程度。如今要对因子平方和 S SA 之间进行比较, 用 其均方和之间进行比较, 用 其均方和 MSMSMSe e= S= Se e / /f fe e 进行比较更为合理, 故可用进行比较更为合理, 故可用作为检验作为检验H H0 0的统计量。的统计量。便于在偏差平方和间进行比较, 统计上引MS=Q/ /f fQ Q , ,其意为平均每个自 由度上有多 少平方和,如今要对因子平方和A 与误差平方和与误差平方和 S Se MSA A= SeMSSe = SA A / /f fA A , ,/eef8.1.4 检验方法/AAAMSSfF\uf03d\uf03d 2323第八章第八章 方差分析与回归分析方差分析与回归分析第 第2323页页定理定理8.1.28.1.2 在单因子方差分析模型在单因子方差分析模型 (8.1.8) 及前述符号下, 有~ \uf063 \uf0632 2( (n n\uf02d \uf02dr r) ) , , 从而\uf073 \uf0732 (8.1.8) 及前述符号下, 有(1) (1) S Se E Se / /\uf073 \uf0732 )A\uf03d2 ~ (r\uf02d从而E E( (S Se e ) ) = = ( (n n\uf02d \uf02dr r) ) 2 , 进一步, 若, 进一步, 若H H0 0成成立, 则有S SA A/ /\uf073 \uf0732 (2) S SA A与 与S Se e独立。立, 则有2 ~ ~\uf063 \uf0632 2( (r r\uf02d \uf02d1) 1) (2) 独立。22i1(1)rima\uf073\uf03d\uf02b \uf0e5 2424第八章第八章 方差分析与回归分析方差分析与回归分析第 第2424页页由定理8.1.2, 若H0成立, 则检验统计量F服从自 由度为fA和fe的F分布, 因此拒绝域为W={F\uf0b3F1\uf02d\uf061(fA,fe)},通常将上述计算过程列成一张表格, 称为方差分析表。表8.1.3 单因子方差分析表自 由自 由度度和和f fT T= =n n\uf02d \uf02d1 1S ST T总和总和MSMSe e= S= Se e/ /f fe ef fe e= =n n\uf02d \uf02dr rS Se e误差误差F F= = MSMSMSe eMSA A/ / MSMSA A= S= SA A/ /f fA Af fA A= =r r\uf02d \uf02d1 1S SA A因子因子F F比比均方和均方和平方平方来源来源 2525第八章第八章 方差分析与回归分析方差分析与回归分析第 第2525页页