Gf'TEcO/vRr*G rEix ? %W.% t So vNnEqD rvEc?C OR VW&IHTLT LT ITA AM 'A ,»" Gr?.. C/N O'"C;f'HURT)A aN X T V\ ii.Lifl.Vi : <;_iA/ i.IN Statistical Methods EIGHTH EDITION LIBRARY JUN 3 1 1990 National Institutes of Health STATISTICAL METHODS STATISTICAL METHODS EIGHTH EDITION ■ GEORGE W. SNEDECOR GEORGE W. SNEDECOR oc< WILLIAM G. COCHRAN WILLIAM G. COCHRAN ra Statistical Statistical Methods Methods ( EEIIGGHHTTHH EEDDIITTIIOONN IOWA STATE UNIVERSITY PRESS / AMES IOWA STATE UNIVERSITY PRESS / AMES 16.12 74.12 671 \LV w 189 X WWilillliiaamm GG. . CCoocchhrraann wwaass pprrooffeessssoor r eemmereirtituus s ooff ssttaattiissttiiccss, , HHaarrvvaarrdd UUnnivievresristiyt,y , aatt tthhee ttiimmee ooff hhiiss ddeeaatthh iinn 11998800. . HHee sseerrvveedd ffoorrmmerelrlyy oonn tthhee ffaaccuultltiieess ooff JJoohhnns s HHooppkiknins s UUnnivievresristiyt,y , NNoortrhth CCaarroolilinnaa SSttaattee UUnnivievresristiyt,y , aanndd IIoowwaa SSttaattee UUninvievresristiyt.y . HHee wwaas s aa mmeemmbebre r ooff tthhee NNaatitioonnala l AAccaaddeemmyy ooff SScciieennccees s aanndd ooff tthhee AAmmereircicaann AAccaaddeemmyy ooff AArtrsts aanndd SScciieennccese;s ; hhee hheelldd hhoonnoorraarryy LLLLDD ddeeggrreeeess ffrroomm GGllaassggooww UUnniviveresristiyty aanndd JJoohhnns s HHooppkiknins s UUnnivievresristiyt.y . HHee wwaas s ppaasst t pprreessiiddeennt t ooff tthhee IInntteerrnnaattiioonnala l SSttaattiissttiiccaal l IInnssttiittuuttee, , tthhee AAmmereircicaann SSttaattiissttiiccaal l AAssssoocicaitaitoion,n , tthhee IInnssttiittuuttee ooff MMatahthemeamtaictiacla l SSttaattiissttiiccs,s , aanndd tthhee BBiioommetertircic SSooccieiteyt.y . HHisis wwriritt-¬ iinnggss iinncclluuddee mmaannyy rreesseeaarrcchh ppaappeersr s iinn pprrooffeessssiioonnala l jjoouurrnnaalsls aanndd tthhee bbooookks s SSaammplpilningg TTeecchh-¬ nniiqquuees,s , 33rrdd eedd.,. , 1199777,7 , aanndd EExxppeerriimmenetnatla l DDeessiiggnns s ((wwitithh GGeerrttrruuddee MM. . CCoox)x,) , 22nndd eedd.,. , 1199557.7 . BBeeffoorere hhiiss ddeeaatthh iinn 1199774,4 , GGeeoorrggee WW. . SSnneeddeeccoro r wwaas s pprrooffeessssoor r eemmereirtituus s ooff ssttaattiissttiiccs,s , IIoowwaa SSttaattee UUnniviveresristiyty, , wwhheerere hhee ttaauugghht t ffrroomm 11991133 ttoo 11995588 aanndd wwhhereere hhee wwaas s ffoor r ffoouurrtteeeenn yyeeaarsrs director of the statistical] laboratory. His writings include a body of scientific journal arti- director of the statistical laboratory. His writings include a body of scientific journal arti¬ cclleess, , rreesseeaarrcchh bbuulllleettiinns,s , aanndd bbooookks,s , iinncclluuddiinngg CCoorrrreelalattiioonn aanndd MMacahcihninee CCaallccuulalatitioonn ((wwitithh H. A. Wallace) and Calculation and Interpretation of Analysis of Variance and Co- H. A. Wallace) and Calculation and Interpretation of Analysis of Variance and Co- variance. He held a master of science degree from the University of Michigan and hon- variance. He held a master of science degree from the University of Michigan and hon¬ oorraarryy ddooccttoor r ooff sscciieennccee ddeeggrreeees s ffrroomm NNoortrhth CCaarroolilinnaa SSttaattee UUnniviveresristiyty aanndd IIoowwaa SSttaattee UUnnii-¬ vveerrssitityy. . HHee wwaas s aa mmeemmbebre r ooff tthhee IInntteerrnnaattiioonnaal l SSttaattiissttiiccaal l IInnssttiittuutete, , ppaasts t pprreessiiddeennt t ooff tthhee AAmmereircicaann SSttaattiissttiiccaal l AAssssoocicaitaitoion,n , aanndd aann hhoonnoorraarryy FFeellllooww ooff tthhee BBrriittiisshh RRooyayla l SSttaattiissttiiccaal l SSooccieietyty. . HHee sseerrvveedd aallssoo aass ccoonnssulutlatantn,t , HHuummana n FFaaccttoorsrs DDiivvisisiioon,n , UU.S.S. . NNaavvyy EElleeccttrroonnicics s LLaabboorartaotoryr,y , SSaann DDiieeggo,o , CCaaliliffoorrnniai.a . TThhee ppuubblilisshheer r ggrraatteeffuullllyy aacckknnoowwleleddggese s tthhee hheellpp ooff DDaavvidid FF. . CCoox,x , pprrooffeessssoor r ooff ssttaattiissttiiccs,s , Iowa State University, in completing the remaining authorial work on the seventh edition Iowa State University, in completing the remaining authorial work on the seventh edition after the death of William Cochran and coordinating the work on the eighth edition. after the death of William Cochran and coordinating the work on the eighth edition. ©© 11998899 Iloowwaa SSttaattee UUnniviveresristityy PPrreesss,s , AAmmese,s , IIoowwaa 5500001100 AAlll l rriigghhttss rreesseerrvveedd MManaunfuafcatcutureredd iinn tthhee UUnnititeedd SSttaatteess ooff AAmmereirciac a NNoo ppaartr t ooff tthhiiss ppuubblliiccaattiioonn mmaayy bbee rreepprroodduuccede,d , ssttoorreedd iinn aa rreettrriieevvaal l ssyysstteemm, , oorr ttrraannssmmitittteedd iinn aannyy ffoorrmm oorr bbyy aannyy mmeeaanns—s—eleecletrcotrnoinci,c , mmeechcahnainciacla,l , pphhoottooccooppyiyning,g , rreeccoorrddiinng,g , oorr ootthheerrwwiissee——wiwtihtohuotu t tthhee pprriioor r wwrirtittteenn ppeerrmmisisssiioonn ooff tthhee ppuubblilisshhere.r . SSiixxtthh eeddiittiioonn bbyy GGeeoorrgge e WW. . SSnneeddeeccoro r aanndd WWilillliiaamm GG. . CCoocchrharna,n , ©© 11996677 IIoowwaa SSttaattee UUnniviveresristiyty PPrreesss;s ; ffiirrsst t tthhrroouugghh ffiifftthh eeddiittiioonnss bbyy GGeeoorrggee WW. . SSnneeddeceocro,r , ©© 1199337,7 , 1199338,8 , 1199440,0 , 11994466, , 11995566 IIoowwaa SSttaattee UUnniviveresristiyty PPrreessss SSeevveennthth eeddiittiioonn, , 11998800 SSeeccoonndd pprriinnttiinngg, , 11998822 EEiigghhtthh eeddiittiioonn, , 11998899 LLiibbrraarryy ooff CCoonngrgersess s CCaattaallooggiinngg-i-inn--PPubulbilcicataitioonn DDaatata SSnneeddeceocro,r , GGeeoorrggee WWadaddedle l SSttaattiissttiiccaal l mmeetthhoodsd.s . IInncclluuddeess bbiibblliiooggrraapphhicicala l rreeffeerreenncceess aanndd iinnddeexx. . 11.. SSttaattiissttiiccs.s . II.. CCoocchhrarna,n , WWilillliiaamm GGeennnenlell.l . IIII. . TTititllee. . QA276.12.S59 1989 519.5 89-15405 QA276.12.S59 1989 519.5 89-15405 ISBN-0-8138-1561-6 ISBN-0-8138-1561-6 CONTENTS CONTENTS PPrreeffaaccee ttoo tthhee EEiigghhtthh EEddititiioonn Xxiiili i PPrreeffaaccee ttoo tthhee FFiirrsst t EEddititiioonn XxVv SSyymmboblosl s FFrreeqquueentnltyly UUsseedd Xx1iXx CChhaaptpetre r 11. . IInnttrroodduuccttiioonn 1.1 IInnttrroodduuccttiioonn 3 t1.2 PPuurrppoossee ooff tthhiiss cchhaappteter r W3 t N tet1W.3 EExxaammplpelse s ooff ssaammpplele ssuurrvveeyyss NSW4 1R.4 PPrroobblleemms s ooff ssaammpplilinngg 5 MN 1 .5 BBiiaasseedd ssaammpplilinngg O6 e1N.6 RRaannddoomm ssaammpplilinngg O6 A 1N.7 TTaabbleless ooff rraannddoomm ddiiggititss 8 C 1 .8 SSaammplpilningg ddiissttrriibbuuttiioonnss ooff eessttiimmaatetes s 8 e 1eo.9 SSttuuddiieess ooff tthhee ccoommpapraartaitvivee eeffffeecctsts ooff ddiiffffeerreennt t aaggeenntsts 1TD 0 1z.10 PPrroobblleemms s iinn ddrraawwiinngg ccoonncclluussiioonns s ffrroomm ccoommpapraartaitvive e ssttuuddiieess 11 1.11 EEffffeeccttiivveenneesss s ooff tthhee SSaallkk ppoolliioo vvaacccciinnee 12 — 1_— .1Ne2 DDeeaathth rraatteess o of f ddiiffffeerreennt t ssmmookkiningg ggrroouupps s 13 1.13 OObbseservrvataitioonnala l ssttuuddiieess 14 1.14 SSuummmmarayry 14 CChhaaptpetre r 22. . FFrreeqquueennccyy DDiissttrriibbuuttiioonnss 2.1 QQuuanatnittiatatitivvee ddaattaa 1177 222.2 FFrreeqquueennccyy ddiissttrriibbuuttiioonnss 1177 22..33 GGrroouuppeedd ffrreeqquueennccyy ddiissttrriibbuuttiioonnss 1188 22..44 CCllaassss lliimmitists 2200 22..55 CCuummulualtaitvive e ffrreeqquueennccyy ddiissttrriibbuuttiioonnss 2200 22..66 PPrroobbabaibliiltityy ddiissttrriibbuuttiioonnss 2233 CChhapatperte r 33. . TThhee MMeeaann aanndd SSttaannddaarrdd DDeevviaiatitioonn 3.1 AArriitthhmmeteitcic mmeeaann 2266 332.2 PPooppuulalatitioonn mmeeaann 2277 33..33 PPooppuulalatitioonn ssttaannddaarrdd ddeevviiaattiioonn 2299 33..44 TTwwo-oc-lcalsass s ppooppuulalatitioonns s 3300 33..55 SSaammplpele ssttaannddaarrdd ddeevviiaattiioonn __ 33]1 33..66 UUssee ooff ffrreeqquueennccyy ddiissttrriibbuuttiioonnss ttoo ccaallccuulalatete XX aanndd ss 3344 v vvii CCoonntetentnst s 33..77 NNuummereirciacla l eexxaammplpele 3344 33..88 CCooefeffifcicieiennt t ooff vvaarriiaattiioonn 3366 CChhaaptpetre r 44. . TThhee NNoorrmmala l DDiissttrriibbuuttiioonn 38 44..11 NNoorrmmalallyly ddiissttrriibbuutteedd ppooppuulalatitioonns s 38 40 44..22 RReeaassoonns s ffoorr uussee ooff tthhee nnoorrmmala l ddiissttrriibbuuttiioonn 40 40 44..33 TTaabbleless ooff tthhee nnoorrmmala l ddiissttrriibbuuttiioonn 40 43 44..44 SSttaannddaarrdd ddeevviiaattiioonn ooff ssaammpplele mmeeaanns s 43 44 44..55 FFrreeqquueennccyy ddiissttrriibbuuttiioonn ooff ssaammplpele mmeeaanns s 44 45 44..66 TThhrreeee iilllluussttrraattiioonnss 45 50 44..77 CCoonnffiiddeennccee lliimmititss ffoorr /» i wwhheenn oa iiss kknnoowwnn 50 52 44..88 SSiizzee ooff ssaammpplele 52 53 44..99 SSttuuddeentn’ts’s t¢ ddiissttrriibbuuttiioonn 53 55 44..1100 CCoonnffiiddeennccee lliimmititss ffoorr /« i bbaasseedd oonn tthhee ¢t ddiissttrriibbuuttiioonn 55 57 44..11]1 EExxppeerriimmenetnatla l ssaammpplilinngg ooff tthhee t¢ ddiissttrriibbuuttiioonn 57 58 4.12 Sample check on confidence interval statements 4.12 Sample check on confidence interval statements 58 59 4.13 Probability plots 4.13 Probability plots 59 62 4.14 A finite population simulating the normal 4.14 A finite population simulating the normal 62 Chapter 5. Tests of Hypotheses Chapter 5. Tests of Hypotheses Introduction 64 5.1 Introduction 64 3) A test of the mean of a normal population (¢ known) 64 5.2 A test of the mean of a normal population (<r known) 64 55..33 TTeesststs ooff ssiiggnniiffiiccaannccee aanndd ccoonnffiiddeennccee iinntteerrvvaalsls 6666 5.4 Practical uses of tests of significance 66 5.4 Practical uses of tests of significance 66 5.5 One-sided or one-tailed tests 67 5.5 One-sided or one-tailed tests 67 55..66 PPoowwere r ooff aa tteesst t ooff ssiiggnniiffiiccaannccee 6688 5.7 Testing a mean when a is not known 71 5.7 Testing a mean when a is not known 71 5.8 Other tests of significance 73 5.8 Other tests of significance 73 5.9 Frequency distribution of s? 73 5.9 Frequency distribution of s1 73 55..1100 IInntteerrvvaal l eessttiimmaatteess ooff ao”1 7755 5.11 Test of a null hypothesis value of o? 75 5.11 Test of a null hypothesis value of a1 75 5.12 The x? test of goodness of fit 76 5.12 The x2 test of goodness of fit 76 5.13 Test of skewness 79 5.13 Test of skewness 79 55..1144 TTeests t ffoorr kkuurrttoossisis 8800 Chapter 6. The Comparison of Two Samples Chapter 6. The Comparison of Two Samples 6.1 EEssttiimmaatetess aanndd tteessttss ooff ddiiffffeerreenncceess 8833 662.2 AA ssiimmuulalatteedd ppaaiirreedd eexxppeerriimmenetn t 8844 66..33 EExxaammplpele ooff aa ppaaiirreedd eexxppeerriimmenetn t 8866 66..44 CCoonndidtiitioonns s ffoorr ppaaiirriinngg 8888 66..55 CCoommpaprairsisoonn ooff tthhee mmeeaanns s ooff ttwwoo iinnddeeppeennddenetn t ssaammplpeles s 8899 66..66 VVaarriiaannccee ooff aa ddiiffffeerreennccee 8899 66..77 AA ppoooolleedd eessttiimmaatete ooff vvaarriiaannccee 9911 6.8 An experiment comparing two samples of equal size 91 6.8 An experiment comparing two samples of equal size 91 66..99 SSaammplpelse s ooff uunneeqquuala l ssiizzeess 9933 66..1100 PPrreeccaauutitioonns s aaggaaiinnsts t bbiiaass: : rraannddoommiziaztaitioonn 9955