@Ben: ik begrijp je analyse niet helemaal

Bericht van: Alwin (Zeist-West) , 05-11-2008 14:25 

Hoi Ben,

Ontzettend interessante analyse!
Toch heb ik wat vragen.
De kans op een koude winter is (op basis van jouw 75P definitie) per jaar precies 1/4. Als alle winters onafhankelijk zijn, verwacht je dus dat de kans op een reeks koude winters voor elk tweetal jaren 1/16 is, voor elk drietal 1/64 en voor elk viertal 1/256.

Op basis van de veronderstelde willekeur zou je in een reeks van 300 winters verwachten:

300/16 = 19 koude tweetallen, 300/64 = 5 koude drietallen en 300/256 = 1 koud viertal.

Dat heb je haarfijn uitgelegd.

Maar je kunt het ook omkeren! De kans dat een winter níét koud is is 1 - 1/4 = 3/4. De kans dat twee opeenvolgende winters niet allebei koud zijn is 1 - 1/16 = 15/16. De kans dat drie opeenvolgende winters niet alledrie koud zijn is 1 - 1/64 = 63/64 en de kans dat vier opeenvolgende winters niet allevier koud zijn is 1 - 1/256 = 255/256.
Ik ga er even van uit dat er in een reeks van 300 jaar 300 onafhankelijke winters zitten, 299 onafhankelijke tweetallen... en 297 onafhankelijke viertallen.

De kans dat er 297 keer op rij geen koud viertal optreedt is (255/256)297 = 31%!

Hoe kan het dan zijn dat in slechts 40 van jouw willekeurige 10000 reeksen minstens één koud viertal voorkomt? Daar klopt iets niet in je analyse. Ik begrijp trouwens ook niet waarom je een Monte Carlo-methode toepast waar de kansrekening al een perfecte voorspelling op basis van willekeur levert.

M.i. is de opgetreden reeks een volkomen waarschijnlijke (zo'n 1 op 3 kans) geweest op basis van de statistiek, incl. het gebrek aan een koud viertal. Ik begrijp dus echt niet waarom je stelt: "De kans dat dit toeval is ligt nog boven het significantieniveau van 1% (maar ónder het 5% significantieniveau)."

Groet,
Alwin

Ik neem een aantal dingen aan:

1) Een eventuele opeenvolging van koude winters is het gevolg van een bepaalde 'inwendige' koppeling waardoor opeenvolgende winters qua Hellmann getal (lees: temperatuur) niet onafhankelijk zijn;
2) De relatie tussen het Hellmann getal per maand en de temperatuur kan beschreven worden met een tweedegraads polynoom fit;
3) Een winter is koud als het Hellmann getal de grens van het 75%-percentiel overschrijdt;
4) Een maand kan alleen bijdragen aan het Hellmann getal als deze een gemiddelde temperatuur lager dan 5°C heeft

Het Hellmann getal is afhankelijk van de temperatuur. Deze relatie is heel sterk te zien als je de twee tegen elkaar uitzet in een grafiek (x-as temperatuur, y-as Hellmann):



Bovenstaande grafiek is gefilterd voor maanden met gemiddelde temperaturen van 5°C of meer. Ook getoond is de tweedegraads polynoom fit, die een R² (verklaarde variantie) heeft van 90%. We kunnen dus voor 90% het Hellmann getal van elke maand juist schatten aan de hand van de gemiddelde temperatuur van die maand middels die fit. De afwijking tussen schatting en werkelijk opgetreden getal is +/- 5 punten, ruim afdoende voor dit experiment. Hiermee is de reden van punt 1 van de aannamen beschreven.

Omdat de reeks van maandgegevens 1901-2008 mogelijk te kort is om het vermoedelijke verband bloot te leggen, heb ik gebruik gemaakt van de Labrijn reeks (1706-2008). Deze reeks bestaat uit maandelijkse temperaturen. We zitten nu echter met probleem dat in deze periode sprake is klimaatverandering (vooral de laatste 50 jaar). We gaan er vanuit dat series van koude winters ontstaan niet vanwege klimaat, dus we kunnen het klimaatsignaal eruit filteren. Dit heb ik gedaan door een Savitzky-Golay filter toe te passen op de maandelijkse temperatuurafwijkingen van de Labrijnreeks t.o.v. 1971-2000. De reeks is gefiltered voor fluctuaties met een tijdschaal kleiner dan 30 jaar. Deze klimaatreeks heb ik vervolgens van de oorspronkelijke afwijkingen afgetrokken zodat je de maandafwijkingen overhoudt die onafhankelijk zijn van klimaatverandering (nemen we aan). Vervolgens worden deze maandafwijkingen weer omgezet naar absolute maandtemperaturen door er de gemiddelde temperatuur per maand over 1971-2000 bij op te tellen.

Het resultaat is een reeks van absolute maandtemperaturen sinds 1706 die vrij is van een langjarige trend. Uit deze maandtemperaturen zijn vervolgens weer de Hellmann getallen per maand berekend en daaruit weer de totalen per winter (over december-februari). We hebben nu dus een reeks van Hellmannen per winter sinds 1707 (1706-1707) waarmee we kunnen testen of er ook -toevallig- series van koude winters kunnen voorkomen. Allereerst moeten we echter nog definiëren wat 'koud' is, aanname 3 was dat de grens bij het 75%-percentiel lag. In onze reeks van Hellmann getallen is die waarde 109 punten, wat maar weinig verschilt met de 100 punten die oorspronkelijk geopperd was.

De nulhypothese die ik nu voorstel is dat alle winters wél onafhankelijk zijn, dus dat het Hellmann getal van elke winter in principe ook in een jaar had kunnen voorkomen. Ook hadden bepaalde getallen meer of minder kunnen voorkomen, dat is maar net hoe het toevallig plaatsvindt. Op basis hiervan heb ik de computer 10.000 willekeurige reeksen van 301 jaar laten genereren met voor elk jaar een Hellmann getal uit de verdeling van getallen die mogelijk is. De verdeling van elk van deze 10.000 reeksen zal hierdoor weer overeenkomen met de oorspronkelijke (werkelijke) verdeling, enkel de volgorde van de getallen en precieze waarden verschilt. Vervolgens heb ik gekeken in hoeveel van deze 10.000 reeksen er twee of meer opeenvolgende jaren waren met meer dan 109 Hellmann punten. De resultaten:

- In 617 reeksen kwam tenminste éénmaal een serie van twee opeenvolgende koude winters voor
- In 160 reeksen kwam tenminste eenmaal een serie van drie opeenvolgende koude winters voor
- In 40 reeksen kwam tenminste eenmaal een serie van vier opeenvolgende koude winters voor

De kans op een toevallige serie van drie opeenvolgende koude winters, de langste gevonden reeks in de periode 1707-2008, is dus zo'n 160/10000, dus 1,6% (1 op 63). Dit kan je ook verifiëren met behulp van kansstatistiek: de onafhankelijke kans op een koude winter elk jaar is 1/4, dus de kans op drie op een rij is 1/44 ~ 1,56%. In een reeks van 300 jaar zou je er ruwweg 5 kunnen verwachten. Nu de werkelijkhied: in de periode 1707-2000 is vijf maal een reeks voorgekomen van drie opeenvolgende koude winters, maar niet eenmaal van vier. De reeksen waren: 1776-1778, 1829-1831, 1879-1881, 1940-1942 en 1985-1987. De kans dat dit toeval is ligt nog boven het significantieniveau van 1% (maar ónder het 5% significantieniveau). Daarmee wil m.i. gezegd zijn dat dergelijke series bijzonder zijn, op significant niveau, maar niet zodanig bijzonder dat je serieus kunt twijfelen of het toeval is. We vinden ook precies het verwachte aantal series in de werkelijke reeks dat zou volgen uit de statistiek voor toeval.

Opmerking
De vijf reeksen van drie opeenvolgende koude winters vond ik uiteraard in mijn reeks van Hellmangetallen die ontdaan was van het veronderstelde klimaatsignaal. Opwarming of afkoeling op een tijdschaal van 30 jaar of meer beïnvloed de kansverdeling natuurlijk. Hiermee groeit echter m.i. in alle gevallen de kans dat sprake is van toeval.

Gr. Ben

Ben zijn statistieke kennis   ( 570)
Marcus (Sleidinge) ( 6m) -- 04-11-2008 21:37
1,6 procent is toeval?   ( 227)
Frank (Doetinchem) ( 14m) -- 04-11-2008 22:42
Re : 1,6 procent is toeval?   ( 142)
Remko (Gouda) -- 04-11-2008 22:45
Re : En 1939 t/m 1942 dan?   ( 63)
Roel(Steenwijk) -- 05-11-2008 10:50
Helemaal gelijk.   ( 67)
Remko (Gouda) -- 05-11-2008 11:06
Re : 1,6 procent is toeval?   ( 151)
Ben (Lelystad) ( 13m) -- 04-11-2008 22:55
Re : 1,6 procent is toeval?   ( 110)
Remko (Gouda) -- 04-11-2008 22:57
Re : 1,6 procent is toeval?   ( 115)
Ben (Lelystad) ( 13m) -- 04-11-2008 23:04
Re : 1,6 procent is toeval?   ( 109)
Remko (Gouda) -- 04-11-2008 23:27
Er klopt m.i. iets niet aan Bens analyse   ( 66)
Alwin (Zeist-West) -- 05-11-2008 14:52
Re : Ben zijn statistieke kennis   ( 162)
Ernest (Maassluis) -- 04-11-2008 22:06
Re : Ben zijn statistieke kennis   ( 348)
Ben (Lelystad) ( 13m) -- 04-11-2008 21:47
Re : Ben zijn statistieke kennis   ( 74)
Daniël (Aalsmeer) ( -4m) -- 05-11-2008 09:32
Re : Ben zijn statistieke kennis   ( 173)
Ernest (Maassluis) -- 04-11-2008 22:14
Re : Ben zijn statistieke kennis   ( 133)
Remko (Gouda) -- 04-11-2008 22:41
@Ben: ik begrijp je analyse niet helemaal   ( 102)
Alwin (Zeist-West) -- 05-11-2008 14:25
Re : @Ben: ik begrijp je analyse niet helemaal   ( 64)
Ben (Lelystad) ( 13m) -- 05-11-2008 17:36
Re : @Ben: ik begrijp je analyse niet helemaal   ( 65)
Alwin (Zeist-West) -- 05-11-2008 22:43
Zeer bedankt   ( 137)
Remko (Gouda) -- 04-11-2008 22:37
Re : Zeer bedankt   ( 63)
Alwin (Zeist-West) -- 05-11-2008 14:31
Re : Zeer bedankt   ( 51)
Remko (Gouda) -- 05-11-2008 16:28