# Statistiek

Statistiek is de wetenschap en de techniek van het verzamelen, bewerken, interpreteren en presenteren van gegevens. Statistische methoden worden gebruikt om grote hoeveelheden gegevens, zoals uit een geneeskundig, industrieel of sociaal onderzoek, om te zetten in bruikbare informatie. De principes van de statistiek komen voort uit de regels van de wiskunde en de wetten van de logica. Statistiek sluit in dat de gemeten gegevens voor een belangrijke deel door toeval zijn ontstaan. Toeval en onzekerheid worden binnen deze theorie met behulp van de kansrekening gemodelleerd.
Statistici trachten informatie over een populatie te krijgen uit de waarneming van een meestal beperkt aantal elementen van die populatie, de steekproef. In het geval dat de steekproef de gehele populatie omvat, spreekt men van volledige telling (census, volkstelling). De verkregen informatie is echter bijna altijd onvolledig en daardoor onnauwkeurig. Een goede beheersing van deze onnauwkeurigheid is dan ook een essentieel onderdeel van de statistiek. De uitkomsten kunnen voor allerlei aspecten van de wetenschap, de politiek, de economie, de psychologie en sociologie, de media en de samenleving van belang zijn.

## Naam

Het woord "statistiek" is afkomstig van de moderne Latijnse zin statisticum collegium, wat 'les over staatszaken' betekent. Hiervan is het Italiaanse woord statista afgeleid, dat "staatsman" of "politicus" betekent – vergelijk het woord stand van zaken – evenals het Duitse Statistik, dat oorspronkelijk de staathuishouding betekende, opgezet door Hermann Conring en bekend geworden door Gottfried Achenwall.

## Geschiedenis

De statistiek als gespecialiseerd vakgebied is een 20ste-eeuws gegeven, maar specifieke activiteiten van wiskundig-statistische aard vonden plaats vanaf 1750, toen astronomen en landmeters verschillende waarnemingen begonnen te combineren om een nauwkeuriger resultaat te krijgen. Voor die tijd bestaan al voorbeelden van wetenschappers die een waarneming herhalen om de nauwkeurigheid te vergroten, maar zij zouden er steeds zorg voor dragen dat de opeenvolgende waarnemingen steeds in identieke omstandigheden plaatsvonden, en dus dezelfde intrinsieke nauwkeurigheid vertoonden; een minder nauwkeurige waarneming mocht de nauwkeuriger metingen niet "besmetten". Pas vanaf het midden van de 18de eeuw werden systematische methoden gebruikt om waarnemingen met verschillende nauwkeurigheid te combineren. Zo verkreeg men een gemiddelde waarvan de nauwkeurigheid alle afzonderlijke waarnemingen overtreft. Een vroeg voorbeeld is het onderzoek van Jacques Cassini naar de verandering van de hellingshoek van de evenaar ten opzichte van de ecliptica door het vergelijken van historische waarnemingen over 2000 jaar. Hij maakt gebruik van statistische argumenten om te concluderen dat die verandering niet uniform verloopt.
De volgende stap in de ontwikkeling was de analyse van inferentie of het onderzoek naar de betrouwbaarheid van hypothesen. In het postume werk Ars conjectandi (1713) van Jakob Bernoulli werd dit omgekeerde waarschijnlijkheid genoemd: in de klassieke kansrekening zijn de kansen van elementaire gebeurtenissen bekend en tracht men de kansen van samengestelde gebeurtenissen te achterhalen; het omgekeerde probleem doet zich voor wanneer men door waarnemingen van complexe gebeurtenissen de (onbekende) onderliggende waarschijnlijkheden wil schatten. De eerste doorbraak op dit gebied kwam van Thomas Bayes in zijn eveneens postume verhandeling An Essay towards solving a problem in the Doctrine of Chances (1764), waar uitspraken mogelijk worden over de waarschijnlijkheid van een gebeurtenis aan de hand van wat later het theorema van Bayes zou heten. Een ander, gelijktijdig onderzoeksgebied was de analyse van fouten door onder meer Thomas Simpson, Daniel Bernoulli, Joseph-Louis Lagrange, Carl Friedrich Gauss en vooral Adrien-Marie Legendre, uitvinder van de kleinste-kwadratenmethode.
Vanaf de 19de eeuw werden statistische methoden toegepast op sociale wetenschappen, meer bepaald op bevolkingsstatistieken en op prijsindices. Pioniers waren Adolphe Quetelet en William Stanley Jevons in de interpretatie van gemiddelden over verzamelingen van ongelijke individuen. Wilhelm Lexis, Francis Galton en Francis Ysidro Edgeworth confronteerden micro-modellen, waarin de variaties van individuele leden van de populatie worden opgeteld, met macro-modellen, waarin de populatie zelf wordt gekenmerkt door statistische parameters zoals een normale verdeling. Een dramatisch hoogtepunt van deze nieuwe toepassingen van de statistiek was het publieke debat, in persartikels in de jaren 1910-1911, over eugenetica, sociaal ongewenste eigenschappen en de invloed op kinderen van alcoholisme van hun ouders (dit was het startschot van het debat, in een artikel van Karl Pearson).
De moderne statistiek begint bij Ronald Aylmer Fisher. Hoewel opgeleid als sterrenkundige ging hij werken als bioloog bij een instituut voor landbouwkundig onderzoek. In 1925 publiceerde hij Statistical Methods for Research Workers, waarin hij een groot aantal wiskundige vraagstukken behandelde die in de statistische praktijk opduiken, met name in verband met de wiskundige analyse van genetische problemen. Ook nieuw was zijn analyse van de omstandigheden waarin een klein aantal metingen relatief betrouwbare conclusies kan opleveren. Hij was sterk geïnteresseerd in allerlei significantietesten en, nauw daarmee verbonden, het systematisch ontwerp van experimenten. Een bekende populaire publicatie van zijn hand over dit onderwerp is Mathematics of a Lady Tasting Tea, waarin hij met een zo klein mogelijk aantal waarnemingen wil nagaan of een persoon in staat is vast te stellen of de melk voor of na de thee in het kopje is gegoten.

## Deelgebieden

Traditioneel onderscheidt men in de statistiek de deelgebieden beschrijvende statistiek, inductieve statistiek en exploratieve statistiek.

### Beschrijvende statistiek

De beschrijvende statistiek houdt zich in principe bezig met de beschrijving van bepaalde gegevens van een populatie. Als voorbeeld kan men denken aan een volkstelling of productiestatistiek. De gegevens worden geordend en gereduceerd, indien gewenst tot relevante kengetallen. In overzichtelijke tabellen, grafieken en figuren en diagrammen, zoals histogrammen, staaf- en lijndiagrammen, dendrogrammen en ordinogrammen worden ten slotte de gegevens gepresenteerd. Een belangrijk deel van het werk van het Centraal Bureau voor de Statistiek betreft dit deelgebied.

### Inductieve statistiek

In de inductieve statistiek tracht men aan de hand van een steekproef informatie omtrent de gehele populatie te verkrijgen. Om allerlei redenen kan het ongewenst of onmogelijk zijn de hele populatie te onderzoeken. In plaats daarvan onderzoekt men een deel van de populatie: de steekproef. Men verkrijgt zo echter slechts beperkte informatie over de populatie. De inductieve statistiek geeft geschikte methoden en onderzoekt de kwaliteit daarvan. Bekende methoden zijn toetsen, schattingsmethoden en als combinatie van beide: betrouwbaarheidsintervallen.

### Exploratieve statistiek

Daarnaast is een soort tussenvorm van beide bovenstaande deelgebieden ontstaan: de exploratieve statistiek. Anders dan in de inductieve statistiek, waar uitgegaan wordt van goed gedefinieerde steekproeven, gaat men in de exploratieve statistiek uit van voorhanden zijnde data. Op deze data worden methoden van de beschrijvende statistiek alsook van de inductieve statistiek toegepast met als nadeel dat men over de verdelingen vaak weinig kan zeggen. Daarnaast worden speciale technieken voor dit onderzoeksterrein ontwikkeld.

## Populatie en steekproef

Een belangrijk begrippenpaar in de statistiek is populatie en steekproef. Men dient steeds goed te onderscheiden of men over de populatie (verdeling) spreekt dan wel over de steekproef. De populatie is over het algemeen slechts in formele zin gegeven in termen van een kansverdeling met enkele onbekende parameters. Het zijn deze parameters die men graag zou kennen, maar om uiteenlopende redenen niet kent. Een steekproef verschaft informatie over de parameters, door het geven van een schatting, het toetsen van een hypothese over een parameter, e.d. Zo is er het populatiegemiddelde, meestal onbekend, en als schatting daarvan het steekproefgemiddelde. Evenzo is de steekproefvariantie een schatting van de populatievariantie, enzovoorts.
Doordat de uitkomst van een steekproef meestal sterk door het toeval bepaald wordt, maakt de statistiek veel gebruik van de kansrekening.

## Stromingen

Binnen de inductieve statistiek zijn er twee stromingen te onderscheiden:
* Klassieke statistiek
* Bayesiaanse statistiek
Het essentiële verschil is dat de klassieke statistici ervan uitgaan dat de parameters van de verdelingen die onderzocht worden, een vaste, zij het onbekende, ware waarde hebben. Door middel van statistisch onderzoek probeert men deze waarde te benaderen via schattingen, toetsen en betrouwbaarheidsintervallen.
De bayesianen geloven niet in een "ware" waarde en staan toe dat de parameters zelf stochastische variabelen zijn, met een meestal onbekende verdeling. Wel wordt tevoren een veronderstelling over de verdeling gemaakt; de veronderstelde verdeling heet a-prioriverdeling. Hierdoor kan het theorema van Bayes toegepast worden. Gevolgen hiervan zijn onder meer dat informatie, ook subjectieve informatie, van buiten de steekproef ingebracht kan worden. Verder betekent het dat de interpretatie van de uitkomsten fundamenteel wijzigt.

## Stochastische variabelen en modelveronderstellingen

Een centraal begrip in de statistiek is dat van de stochastische variabele. Deze grootheid vertegenwoordigt in feite de populatieverdeling of de betrokken modelmatige kansverdeling. De steekproefuitkomsten vat men op als waarnemingen aan deze grootheid.
De basisveronderstelling bij een statistische analyse over de betrokken verdeling, is daarmee een veronderstelling omtrent de verdeling van de betrokken stochastische variabele; de veronderstelde verdeling wordt het "model" genoemd.
Als men bijvoorbeeld met een zuivere dobbelsteen gooit, veronderstelt men dat de waarden die men krijgt, metingen zijn van een stochastische veranderlijke die met kans 1/6 elk van de getallen 1 tot en met 6 aanneemt. Twijfelt men aan de zuiverheid van de dobbelsteen, dan neemt men aan dat een uitkomst i wordt aangenomen met kans $p_{i}$. Deze onbekende kansen zijn de in het geding zijnde parameters.

## Onderwerpen van de beschrijvende statistiek

* Steekproef
* Kenmerken
** Kwalitatieve kenmerken (categorische gegevens):
*** Nominaal: benoemen (niet-rangschikbare waarden)
*** Ordinaal: ordening (rangschikbare waarden)
** Binaire (variabelen met twee opties: 0/1, -/+, afwezig/aanwezig, nee/ja, onwaar/waar)
** Kwantitatieve kenmerken (numerieke, scalaire, metrische, kardinale gegevens)
*** Discrete gegevens (aftelbaar aantal numerieke waarden)
**** Natuurlijk getallen (bijvoorbeeld telling)
**** Gehele getallen
*** Continue gegevens (niet-aftelbaar aantal numerieke waarden)
**** Reële getallen (getallen op een getallenlijn)
**** Interval: met gelijke intervallen
**** Ratio: intervallen met een betekenisvol nulpunt
** Circulaire gegevens
* Gemiddelde, centrummaat
** Rekenkundig gemiddelde
** Meetkundig gemiddelde
** Harmonisch gemiddelde
** Modus
** Mediaan
** Wetten van de grote aantallen
* Spreiding
** Spreidingsbreedte
** Gemiddelde absolute afwijking
** Percentiel
** Variantie
** Standaardafwijking

## Onderwerpen op het gebied van toetsen

* Statistische toetsen
** Verdelingsvrije of niet-parametrische toetsen
*** Kolmogorov-Smirnovtoets
*** Kruskal-Wallistoets
*** Wilcoxontoets, Rangtekentoets
*** Wilcoxontoets, Mann-Whitney
*** Chi-kwadraattoets
** Parametrische toetsen
*** t-toets
*** F-toets
** p-waarde
** Significantie
* Correlatie
** Correlatiecoëfficiënt
** Punt-biseriële correlatiecoëfficiënt
** Spearmans rangcorrelatiecoëfficiënt
** Kendalls tau
** Cramérs V
* Regressieanalyse
** Lineaire regressie
** Robuuste regressie
* Theorema van Bayes
* Hidden Markov models
* Inferentie
* Schatting
** Kleinste-kwadratenmethode
** Meest aannemelijke schatter
** Betrouwbaarheidsinterval
* Variantieanalyse (ANOVA)
* Multivariate statistiek
** Correspondentieanalyse (CA, Reciprocal Averaging, RA)
** Factoranalyse
** Hoofdcomponentenanalyse (PCA, Principal Component Analysis)
** Nonmetric multidimensional scaling (NMDS)
** Polaire ordinatie (PO) (Bray-Curtisordinatie, Wisconsinordinatie)
** Principal coordinates analysis (PCoA, "Metric Multidimensional Scaling")
** Redundantieanalyse (RDA, canonische vorm van hoofdcomponentenanalyse)
Statistische gegevens worden regelmatig op een onjuiste manier gebruikt, al dan niet opzettelijk. Zie Misbruik van statistische gegevens.