Kamys B - Teoria prawdopodobieństwa i statystyka dla fizyki komputerowej.pdf

(758 KB) Pobierz
4402605 UNPDF
TEORIAPRAWDOPODOBIE ´ NSTWAI
STATYSTYKADLAFIZYKIKOMPUTEROWEJ
B.Kamys
Spistre´sci
1Elementyteoriiprawdopodobie´nstwa 3
1.1Definicjepodstawowychpoj¸e´c...................... 3
1.2WÃlasno´sciprawdopodobie´nstwa..................... 4
2Ilo´sciowyopiszmiennychlosowych 6
3Funkcjezmiennejlosowej 8
4Charakterystykiopisowe 10
5Podstawowepoj¸eciateoriiestymacji 14
6RozkÃladnormalny(Gaussa) 16
7PodstawyrachunkubÃl¸ed´ow 19
7.1RozkÃladpomiar´owobarczonychbÃl¸edamiprzypadkowymi ........ 21
7.2Estymatorwarto´scioczekiwanej..................... 22
7.3Estymatorodchyleniastandardowego.................. 23
7.4Zapiswynik´owpomiar´ow........................ 24
7.5BÃl¸adstatystyczny............................ 26
7.6Pomiarypo´srednie............................ 27
7.6.1 EstymatorE(Y)dlapomiarupo´sredniegoY ........... 27
7.6.2 BÃl¸adpomiarupo´sredniego .................... 28
7.6.3 BÃl¸admaksymalny ........................ 28
8EstymacjaprzedziaÃlowa 30
8.1EstymacjaE f X g gdyznamyodchyleniestandardowe ¾f X g ....... 31
8.2EstymacjaE f X g gdynieznamyodchyleniastandardowego ¾f X g .... 33
8.3EstymacjaprzedziaÃlowawariancjiiodchyleniastandardowego...... 34
9Metodyszukania“dobrych”estymator´ow 36
9.1Metodamoment´ow(“MM”)....................... 36
9.2Metodanajwi¸ekszejwiarygodno´sci(“MNW”).............. 40
9.3Metodanajmniejszychkwadrat´ow(“MNK”)............... 45
1
B.Kamys:Fiz.Komp.2003/04 2
10Wielowymiarowe(wektorowe)zmiennelosowe 49
10.1MomentyrozkÃladuwielowymiarowejzmiennejlosowej.......... 52
10.2Estymacjapunktowawarto´scioczekiwanej Ef ~ Y ( ~ X ) g imacierzykowar-
iancji ~ Y ( ~ X ) .............................. 56
10.3Regresjaliniowa............................. 59
10.4Regresjaprzypomocywielomian´owortogonalnych............ 62
10.4.1 Regresjaprzypomocywielomian´owortogonalnychnazbiorzewarto´sci
argumentu ............................ 62
10.4.2 KonstrukcjazespoÃluwielomian´owortogonalnychnazbiorzewarto´sci
argumentu ............................ 65
11MetodaMonteCarlo 67
11.1LiczeniecaÃlekmetod¸aMonteCarlo................... 67
11.2ZmniejszaniebÃl¸educaÃlki......................... 69
11.3Generacjaliczblosowych......................... 72
11.3.1 GeneracjaliczborozkÃladzier´ownomiernym ........... 72
11.3.2 GeneracjaliczblosowychodowolnychrozkÃladachprawdopodobie´nstwa 74
11.3.3 Generacjawielowymiarowychzmiennychlosowych ........ 80
12Testowaniehipotezstatystycznych 81
12.1Definicjeelementarnychpoj¸e´c...................... 81
12.2Testnormalno´scirozkÃladu........................ 82
12.2.1 Testzerowaniasi¸ewsp´oÃlczynnikaasymetriiikurtozy ....... 82
12.2.2 Testzgodno´sci¸-KoÃlmogorowa ................. 84
12.2.3 Testzgodno´sciAndersona-Darlinga ............... 86
12.2.4 Testzgodno´sci 2 -Pearsona .................. 87
12.2.5 Wykresnormalny ........................ 88
12.3Hipotezydotycz¸acewarto´scioczekiwanej ................ 90
12.3.1 Por´ownanieE(X)zliczb¸a(H 0 : E ( X )= X 0 ) ......... 90
12.3.2 Warto´scioczekiwanedwupopulacji(H 0 : E ( X )= E ( Y ) ) ... 91
12.4Hipotezydotycz¸acewariancji ...................... 94
12.4.1 Por´ownaniewariancjiXzliczb¸a(H 0 : ¾ 2 ( X )= ¾ 2 0 ) ...... 94
12.4.2 Por´ownaniewariancjidwupopulacji(H 0 : ¾ 2 ( X )= ¾ 2 ( Y ) ) .. 94
12.5Hipotezajednorodno´sciwariancjikilkupopulacji ............ 96
12.5.1 TestBartletta .......................... 96
12.5.2 TestCochrana .......................... 97
12.6Analizawariancji- klasyfikacjajednoczynnikowa ............. 98
12.7Analizawariancji- dlaregresjiliniowej ................. 102
12.8Testynieparametrycznehipotezpor´ownuj¸acychpopulacje........ 105
12.8.1 TestSmirnowa .......................... 105
12.8.2 Testznak´ow ........................... 108
12.8.3 TestseriiWalda-Wolfowitza ................... 109
12.8.4 TestsumyrangWilcoxona-Manna-Whitneya ........... 111
B.Kamys:Fiz.Komp.2003/04 3
1ELEMENTYTEORIIPRAWDOPODOBIE ´ NSTWA
1.1DEFINICJEPODSTAWOWYCHPOJE¸ ´ C
DEFINICJA: Zbi´orzdarze´nelementarnych -zbi´ortakichzdarze´n,kt´oresi¸ewzajem-
niewykluczaj¸aorazwyczerpuj¸awszystkiemo˙zliwo´sci(tzn.wka˙zdymmo˙zliwym
przypadkuprzynajmniejjednoznichmusizachodzi´c).
DEFINICJA: Zdarzeniem jestdowolnypodzbi´orzdarze´nelementarnych E .
DEFINICJA: Zdarzeniempewnym jestzdarzeniezawieraj¸acewszystkieelementy
zbioru E (zachodzizawsze).
DEFINICJA: Zdarzeniemniemo˙zliwym jestzdarzenieniezawieraj¸ace˙zadnegoele-
mentuzbioru E tj.zbi´orpustyØ.
DEFINICJA: ZdarzenieAzawierasi¸ewzdarzeniuB je˙zelika˙zdezdarzenieelemen-
tarnenale˙z¸acedozbioruAnale˙zydoB: A½B
DEFINICJA: ZdarzeniaAiBs¸ar´owne
gdy A½B i B½A .
DEFINICJA: Sumazdarze´nA+B
tozdarzeniezawieraj¸aceteitylkotezdarzeniaelementarne,kt´orenale˙z¸adokt´oregokolwiek
zezdarze´nA,B(sumalogicznazbior´owzdarze´nelementarnych A S B ).
DEFINICJA: R´o˙znicazdarze´nA-B
tozdarzeniezawieraj¸aceteitylkotezdarzeniaelementarne,kt´orenale˙z¸adozdarzenia
Aanienale˙z¸adozdarzeniaB.
DEFINICJA: Iloczynzdarze´nA.B tozdarzeniezawieraj¸aceteitylkotezdarzeniaele-
mentarne,kt´orenale˙z¸adowszystkichzdarze´nA,B(tzn.wj¸ezykuzbior´ow A T B ).
DEFINICJA: ZdarzeniemprzeciwnymdoA: A nazywamyr´o˙znic¸e E¡A .
DEFINICJA: Zdarzeniemlosowym -nazywamyzdarzeniespeÃlniaj¸aceponi˙zszewarunki:
1. Wzbiorzezdarze´nlosowychznajdujesi¸ezdarzeniepewneorazzdarzenie
niemo˙zliwe.
2. Je˙zelizdarzenia A 1 ;A 2 ;::: wilo´scisko´nczonejlubprzeliczalnejs¸azdarzeniami
losowymitoichiloczyniichsumas¸ar´ownie˙zzdarzeniamilosowymi.
B.Kamys:Fiz.Komp.2003/04 4
3. Je˙zeli A 1 i A 2 s¸azdarzeniamilosowymitoichr´o˙znicajestr´ownie˙zzdarzeniem
losowym.
INTUICYJNEOKRE ´ SLENIE: Zdarzenielosowe totakie,okt´orymniemo˙zemy
powiedzie´cczyzajdziewdanychwarunkachczyte˙zniezajdzie.
DEFINICJA: Zmienn¸alosow¸a nazywamyjednoznaczn¸afunkcj¸erzeczywist¸aX(e)
okre´slon¸anazbiorze E zdarze´nelementarnychtak¸a,˙zeka˙zdemuprzedziaÃlowiwarto´sci
funkcjiXodpowiadazdarzenielosowe.
DEFINICJA:Zmiennalosowa typuskokowego(dyskretnego) totaka,kt´ora
przyjmujetylkoconajwy˙zejprzeliczalnyzbi´orwarto´sci.Zmiennalosowa typu
ci¸agÃlego -mo˙zeprzyjmowa´cdowolnewarto´sciodminusdoplusniesko´nczono´sci.
DEFINICJA: Definicjaprawdopodobie´nstwa
Aksjomat1: Ka˙zdemuzdarzeniulosowemuprzyporz¸adkowanajestjednoznacznie
nieujemnaliczbarzeczywistazwanaprawdopodobie´nstwem.
Aksjomat2: Prawdopodobie´nstwozdarzeniapewnegojestr´ownejedno´sci.
Aksjomat3: Je˙zelizdarzenielosoweZjestsum¸asko´nczonejlubprzeliczalnej
liczby rozÃl¸acznych zdarze´nlosowychZ 1 ,Z 2 ,..toprawdopodobie´nstwozreali-
zowaniasi¸ezdarzeniaZjestr´ownesumieprawdopodobie´nstwzdarze´nZ 1 ,Z 2 ,
..
Aksjomat4: Prawdopodobie´nstwowarunkowe zdarzeniaApodwarunkiem,˙ze
zachodzizdarzeni eB; P ( AjB )wyra˙z asi¸ewzorem:
P ( AjB )= P(A:B)
P(B)
Prawdopodobie´nstwotojestnieokre´slone,gdyprawdopodobie´nstwozdarzenia
Bwynosizero.
1.2WÃLASNO ´ SCIPRAWDOPODOBIE ´ NSTWA
1.)ZdarzenieprzeciwnedoA :
P ( A )=1 ¡P ( A )
Dow´ od:
A + A = E awi¸ec P ( A + A )= P ( E )=1,
zdrugiej s trony A i A wyk lu czaj¸asi¸ewi¸ec
P ( A + A )= P ( A )+ P ( A ).
St¸ad P ( A )= P ( E ) ¡P ( A )czyli P ( A )=1 ¡P ( A )c.b.d.o.
2.)Zdarzenieniemo˙zliwe :
P (Ø)=0
4402605.009.png 4402605.010.png 4402605.011.png 4402605.012.png 4402605.001.png 4402605.002.png
B.Kamys:Fiz.Komp.2003/04 5
Dow´od:
E iØwykluczaj¸asi¸ewi¸ec P ( E +Ø)= P ( E )+ P (Ø)oraz E +Ø= E awi¸ec
P ( E +Ø)= P ( E ),czyli P (Ø)=0
c.b.d.o.
3.)ZdarzenieAzawierasi¸ewB :
P ( A ) ·P ( B )
Dow´od: P ( B )= P ( A +( A:B ))= P ( A )+ P ( A:B ) ¸P ( A )c.b.d.o.
4.)Dowolnezdarzenielosowe :
0 ·P ( A ) · 1
Dow´od:Dlaka˙zdegozdarzeniajestprawdziwe:
Ø ½A +Ø= A = A:E½E
awi¸ecprawdopodobie´nstwazdarze´nØ, A i E speÃlniaj¸a:
0 ·P ( A ) · 1c.b.d.o.
5.)Sumadowolnychzdarze´nA+B :
P ( A + B )= P ( A )+ P ( B ) ¡P ( A:B )
Dow´od:
Zar´owno A + B jaki B mo˙zemyzapisa´cjakosumyrozÃl¸acznych(wykluczaj¸acych
si¸e)zdarze´n:
A + B = A +( B¡A:B )oraz
B = A:B +( B¡A:B ) ;
stosujemyaksjomatnr3definicjiprawdopodobie´nstwa,
P ( A + B )= P ( A )+ P ( B¡A:B ) ;
P ( B )= P ( A:B )+ P ( B¡A:B )
odejmujemystronami: P ( A + B )= P ( A )+ P ( B ) ¡P ( A:B )c.b.d.o.
6.)Iloczynzdarze´nA.B :
P ( A:B )= P ( B ) :P ( AjB )= P ( A ) :P ( BjA )
Dow´od:
Wynikatoautomatyczniez4aksjomatudefinicjiprawdopodobie´nstwa.
DEFINICJA: Zdarzenie Ajestniezale˙zneodB gdy P ( AjB )= P ( A ).
7.)Je˙zeli A niezale˙zyod B to B niezale˙zyodA. Dow´od:
Korzystamyzdwuwzor´ownaprawdopodobie´nstwo A:B podanychwy˙zej,przyczym
wpierwszymznichuwzgl¸edniamy,˙ze A jestniezale˙zneod B .W´owczaszpor´ownania
obuwzor´owdostajemy P ( BjA )= P ( B ).
c.b.d.o.
4402605.003.png 4402605.004.png 4402605.005.png 4402605.006.png 4402605.007.png 4402605.008.png
Zgłoś jeśli naruszono regulamin