ISTATISTIK I: Olasılık ve Dagılım Teorisi Kavramlarının ...yildiz.edu.tr/~tastan/teaching/Istatistik1rev.pdf · Olasılık Teorisi Ornekleme ve¨ Orneklem Dagılımları¨ Rassal

ISTATISTIK I:Olasılık ve Dagılım Teorisi Kavramlarının Gozden

Gecirilmesi

Huseyin Tastan1

1Yıldız Teknik Universitesi

Iktisat Bolumu

22 Eylul 2012

Ekonometri: Olasılık ve Dagılım - H. Tastan 1

Istatistik Biliminin Ugrası Alanları

Veriden anlam cıkarılması, ozetlenmesi

Belirsizlik: neyin oldugu degil, neyin olası oldugu

Ornekleme (sampling): anakutlenin (population) tumune aitbilgi toplamak cogu zaman imkansızdır. Bunun yerineanakutleye iliskin analiz bu anakutleyi en iyi temsil eden birornekleme dayandırılabilir.

Iktisadi iliskilerin analizi: Ekonometrinin alanı

Kestirim (Prediction)

Belirsizlik altında karar alma










































ISTATISTIK

ISTATISTIK I ISTATISTIK II

Olasılık Teorisi Ornekleme ve Orneklem DagılımlarıRassal Degiskenler Nokta ve Aralık Tahmini

Kesikli ve Surekli R.D. Hipotez TestiOlasılık Fonksiyonu Regresyon ve Korelasyon

Beklenen Deger, Moment Parametrik Olmayan TestlerNormal Dagılım Varyans Analizi

Merkezi Limit Teoremi


RASSAL DEGISKENLER ve OLASILIK DAGILIMLARI

Rassal (Stokastik) Degisken (r.d.) : Alacagı deger belli birrassal denemenin sonucuna baglı olan, bu degere iliskinkesinlik bulunmayan degisken. Buyuk harflerle gosterecegiz.

x: rassal degisken X’in aldıgı belli bir deger.

Kesikli r.d. : Alacagı degerler sayılabilir (sonlu ya da sonsuz)olan rassal degiskenler. Ornegin, iki zar atımında uste gelensayıların toplamı, belli bir uretim bandında bir calısanın yaptıgıhata sayısı, bir bankaya 15 dk icinde gelen musteri sayısı, vb.

Surekli r.d.: Belli bir aralıkta her hangi bir degeri alabilenrassal degisken. Bir cok iktisadi degisken bu gruba girer,ornegin, bir sehirdeki ortalama harcanabilir gelir, belli birdonemdeki enflasyon oranı, IMKB100 endeksinin kapanısdegeri, bir yılda yapılan toplam ihracat tutarı, vb.




















OLASILIK DAGILIMLARI - KESIKLI

f(x) ile gosterecegiz,

f(x) ≥ 0,

f(x) = P (X = x),∑

x f(x) = 1, Bu toplam x’in alabilecegi tum degerleruzerinedir,

Birikimli dagılım fonksiyonu:P (X ≤ x0) = F (x0) =

∑

x≤x0f(x)


KESIKLI OLASILIK DAGILIMLARI

Ornek: 3 para atılıyor ve tura (T) gelme sayısı X ilegosteriliyor.Bu deneyde ortaya cıkabilecek sonuclar sunlardır: (TTT),(TTY), (TYT), (YTT), (TYY), (YTY), (YYT), ve (YYY).Bu 8 sonuc karsılıklı olarak bagdasmazdır ve herbirinin gelmeolasılıgı aynıdır. Olasılık: 1/8.X’in alabilecegi degerler: 0, 1, 2, and 3.X rassal degiskeninin dagılımını bulalım.

Sonuclar x f(x)YYY 0 1/8YYT 1YTY 1 3/8TYY 1YTT 2TYT 2 3/8TTY 2TTT 3 1/8


X’in olasılık dagılımı:

x 0 1 2 3

f(x) = P (X = x) 18

38

38

18

∑

x f(x) = 1

P (X ≤ 1) =?

P (1 ≤ X ≤ 3) =?


X’in birikimli olasılık dagılımı

F (x) = P (X ≤ x) =

0, x < 0;18 , 0 ≤ x < 1;12 , 1 ≤ x < 2;78 , 2 ≤ x < 3;1, x ≥ 3.


Kesikli Olasılık Dagılımı

−1 −0.5 0 0.5 1 1.5 2 2.5 3 3.5 40

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

x

f(x)

OLASILIK FONKSIYONU

−1 −0.5 0 0.5 1 1.5 2 2.5 3 3.5 40

0.2

0.4

0.6

0.8

1

x

F(x

)

BIRIKIMLI OLASILIK FONKSIYONU

Kesikli r.d.’lerin BEKLENEN DEGERLERI

Kesikli r. d. X’in beklenen degeri

E(X) =∑

x

xf(x)

g(x), X’in bir fonksiyonu olsun, g(x)’in beklenen degeri

E(g(X)) =∑

x

g(x)f(x)


Kesikli r.d.’lerin BEKLENEN DEGERLERI

Kesikli r. d. X’in beklenen degeri

E(X) =∑

x

xf(x)

g(x), X’in bir fonksiyonu olsun, g(x)’in beklenen degeri

E(g(X)) =∑

x

g(x)f(x)


ORNEK

Onceki ornekte X’in beklenen degerini bulun.

(i) g(x) = x2’nin beklenen degerini bulun.

E(X2) = 01

8+ 1

3

8+ 4

3

8+ 9

1

8= 3


ORNEK

Onceki ornekte X’in beklenen degerini bulun.

(i) g(x) = x2’nin beklenen degerini bulun.

E(X2) = 01

8+ 1

3

8+ 4

3

8+ 9

1

8= 3


Kesikli r.d.’lerin VARYANSları

Tanım:

Var(X) = E[

(X − E(X))2]

= E[

(X2 − 2XE(X) + (E(X))2)]

= E(

X2)

− 2E (XE(X)) + E(

(E(X))2))

= E(

X2)

− 2E(X)2 + (E(X))2

= E(

X2)

− E(X)2

µx = E(X) dersek varyans

Var(X) = E(

X2)

− µ2x

olarak yazılabilir.


Kesikli r.d.’lerin VARYANSları

Tanım:

Var(X) = E[

(X − E(X))2]

= E[

(X2 − 2XE(X) + (E(X))2)]

= E(

X2)

− 2E (XE(X)) + E(

(E(X))2))

= E(

X2)

− 2E(X)2 + (E(X))2

= E(

X2)

− E(X)2

µx = E(X) dersek varyans

Var(X) = E(

X2)

− µ2x

olarak yazılabilir.


Kesikli r.d.’lerin MOMENTLERI

Tanım: Kesikli r.d. X’in knci momenti

µk = E(Xk) =∑

x

xkf(x) k = 0, 1, 2, ...

1. moment µ1 = E(X) =⇒ populasyon ortalaması2. moment µ2 = E(X2) = Var(X) + µ2

1

3. moment µ3 = E(X3)4. moment µ4 = E(X4)


Kesikli r.d.’lerin MERKEZI MOMENTLERI

Tanım: Kesikli r.d. X’in knci merkezi momenti

mk = E((X − µ1)k) =

∑

x

(x− µ1)kf(x) k = 0, 1, 2, ...

1. merkezi moment m1 = 02. merkezi moment m2 = E((X − µ1)

2) = Var(X)3. merkezi moment m3 = E((X − µ1)

3)4. merkezi moment m4 = E((X − µ1)

4)


Kesikli r.d.’lerin STANDART MOMENTLERI

Tanım: Kesikli r.d. X’in knci standart momenti

γk =mk

σkk = 0, 1, 2, ...

Burada σ populasyon standart sapmasıdır:

σ =√

Var(X) =

√

E[

(X − µ1)2]

1. standart moment γ1 = 02. standart moment γ2 = 1 neden?3. standart moment γ3 = m3

σ3 carpıklık (skewness)4. standart moment γ4 = m4

σ4 basıklık (kurtosis)


Bazı Kesikli Dagılımlar

Bernoulli

Binom

Hipergeometrik

Poisson


Bernoulli(p) Dagılımı

f(x) =

{

p, if X = 11− p, if X = 0

Beklenen Deger:

E(X) =∑

x

xf(x) = p · 1 + (1− p) · 0 = p

Ikinci Moment:

E(X2) =∑

x

x2f(x) = p · 1 + (1− p) · 0 = p

Varyans (ikinci merkezi moment):

Var(X) = E(X2)− (E(X))2 = p− p2 = p(1− p)


BINOM DAGILIMI

X, n bagımsız Bernoulli denemesinde 1 degerini alma (basarı)sayısı olsun. Yani eger Y Bernoulli(p) ise X =

∑

(Y ), Binom(n, p)dagılımına uyar. X toplam basarı sayısı.

f(x) =

(

nx

)

px(1−p)n−x =n!

x!(n− x)!px(1−p)n−x, x = 0, 1, 2, . . . , n

E(X) = np

Var(X) = np(1− p)


HIPERGEOMETRIK DAGILIM

Eger Bernoulli denemeleri birbirinden bagımsız degilse, toplambasarı sayısı Binom dagılımına uymaz. Icinde B tane basarıbulunan N nesneli rassal bir orneklemde, toplam basarı sayısı X’inolasılık dagılımı

f(x) =

(

Bx

)(

N −Bn− x

)

(

Nn

)

Burada x max(0, n − (N −B)) ve min(n,B) arasında tamsayıdegerler alabilir

E(X) = np, V ar(X) =N − n

N − 1np(1− p), p =

B

N


POISSON DAGILIMI

Bir olayın belli bir zaman diliminde gerceklesme sayısıNotasyon: X ∼ Poisson(λ), pmf:

f(x, λ) =λxe−λ

x!, x = 0, 1, 2, . . .

E(X) = λ

Var(X) = λ

skewness =1√λ

excess kurtosis =1

λ


Kesikli r.d. icin ORTAK DAGILIMLAR

ORTAK OLASILIK FONKSIYONU: Birden fazla r.d.’in ortakdavranısını betimlemek istiyoruz. Once iki degiskenli durumuinceleyelim. X ve Y iki r.d. olsun. Bunların ortak olasılık fonksiyonu

f(x, y) = P (X = x ∩ Y = y)

Daha genel olarak X1,X2, . . . ,Xk k tane kesikli r.d. ise bunlarınortak olasılık fonksiyonu soyle olur:

f(x1, x2, . . . , xk) = P (X1 = x1 ∩X2 = x2,∩, . . . ,∩Xk = xk)


Ornek

X: Bir bankada 1 nolu gisede sırada bekleyen musteri sayısı, Y : Birbankada 2 nolu gisede sırada bekleyen musteri sayısı. Bu iki r.d.icin ortak olasılık fonksiyonu asagıdaki tabloda verilmistir.

y \ x 0 1 2 3 Toplam

0 0.05 0.21 0 0 0.261 0.20 0.26 0.08 0 0.542 0 0.06 0.07 0.02 0.153 0 0 0.03 0.02 0.05

Toplam 0.25 0.53 0.18 0.04 1.00


MARJINAL OLASILIK FONKSIYONU

Ortak olasılık fonksiyonu biliniyorsa, bundan hareketle marjinal yada tekil olasılık fonksiyonları elde edilebilir.X’in marjinal olasılık fonksiyonu:

f(x) =∑

y

f(x, y)

Y ’nin marjinal olasılık fonksiyonu:

f(y) =∑

x

f(x, y)


KOSULLU OLASILIK FONKSIYONU

Ortak olasılık fonksiyonu biliniyorsa, bundan hareketle kosulluolasılık fonksiyonları elde edilebilir.Y = y verilmisken X’in kosullu olasılık fonksiyonu:

f(x|y) = f(x, y)

f(y)

X = x verilmisken Y ’nin kosullu olasılık fonksiyonu:

f(y|x) = f(x, y)

f(x)


BAGIMSIZLIK

X ve Y r.d.’lerinin istatistik bakımından bagımsız oldugunusoyleyebilmemiz icin asagıdaki kosulun saglanması gerekir:

f(x, y) = f(x)f(y)

Baska bir deyisle

f(x|y) = f(x), vef(y|x) = f(y)


KOVARYANS

g(X,Y ), X ve Y r.d.’lerinin herhangi bir fonksiyonunu ifade etsin.Bu fonksiyonun beklenen degeri:

E [g(X,Y )] =∑

x

∑

y

g(x, y)f(x, y)

g(X,Y ) = (X − µx)(Y − µy) olsun. Bu fonksiyonun beklenendegerine KOVARYANS denir:

Cov (X,Y ) =∑

x

∑

y

(x− µx)(y − µy)f(x, y)


SUREKLI RASSAL DEGISKENLER ve OLASILIKDAGILIMLARI

X surekli bir r.d. ise verilmis bir aralıkta herhangi bir degerialabilir. Bir surekli rassal degiskenin belli bir degere esit olmaolasılıgından (kesikli r.d. gibi) bahsedemeyiz. Ancak verilmis biraralık icine dusme olasılıklarını bulabiliriz.f(x): olasılık yogunluk fonksiyonu. Ozellikleri:

f(x) ≥ 0∫∞

−∞f(x)dx = 1

Pr(a < X < b) =∫ ba f(x)dx




f(x) ≥ 0∫∞

−∞f(x)dx = 1





f(x) ≥ 0∫∞

−∞f(x)dx = 1



Ornek Olasılık Yogunluk Fonksiyonu

x

f(x)

P(a<X<b) =∫ b

af(x)dx

a b0


X surekli r.d. icin birikimli olasılık fonksiyonu, ya da dagılımfonksiyonu, X’in belli bir x degerini asmama olasılıgı olaraktanımlanır ve F (x) ile gosterilir.

F (x) = P (X ≤ x) =

∫ x

−∞

f(t)dt

oyf ile dagılım fonksiyonu arasındaki iliski:

f(x) =dF (x)

dx



F (x)’in ozellikleri:

F (−∞) = 0, F (+∞) = 1

Buna gore F (x), x’in azalmayan bir fonksiyonudur. x1 ≤ x2 olmakuzere F (x1) ≤ F (x2).

P (a < X < b) = F (b)− F (a) =

∫ b

af(x)dx

P (−∞ < X < +∞) = P (−∞ < X < a)+P (a < X < b)+P (b < X < +∫ ∞

−∞

f(x)dx =

∫ a

−∞

f(x)dx+

∫ b

af(x)dx+

∫ +∞

bf(x)dx

F (+∞)−F (−∞) = [F (a)−F (−∞)]+P (a < X < b)+[F (+∞)−F (b)]

1 = F (a)− 0 + P (a < X < b) + 1− F (b)

P (a < X < b) = F (b)− F (a)


Ornek oyf ve Birikimli oyf

x

f(x)

a b0

∫ b

af(x)dx = F (b)−F (a)

F (a) −F (−∞) = F (a)

F (+∞)−F (b) = 1 −F (b)

SUREKLI r.d.’lerin BEKLENEN DEGERLERI

E(X) ≡ µx =

∫ ∞

−∞

xf(x)dx

g(x), X’in bir fonksiyonu ise,

E(g(X)) =

∫ ∞

−∞

g(x)f(x)dx

Var(X) =

∫ ∞

−∞

(x− µx)2f(x)dx


Varyans

Integral ozellikleri kullanılarak V ar(X) asagıdaki gibi yazılabilir:

Var(X) = E[

(X − E(X))2]

≡∫ ∞

−∞

(x− µx)2f(x)dx

=

∫ ∞

−∞

x2f(x)dx+ µ2x

∫ ∞

−∞

f(x)dx− 2µx

∫ ∞

−∞

xf(x)dx

=

∫ ∞

−∞

x2f(x)dx−(∫ ∞

−∞

xf(x)dx

)2

= E(X2)− µ2x

Burada∫∞

−∞f(x)dx = 1 ve

∫∞

−∞xf(x)dx = E(X) ≡ µx

ozelliklerini kullandık. Bunu kesikli r.d.ler icin de gostermistik.


Surekli r.d.’lerin MOMENTLERI

Tanım: Surekli r.d. X’in knci momenti

µk = E(Xk) =

∫

x∈Xxkf(x)dx k = 0, 1, 2, ...

1. moment µ1 = E(X) =⇒ populasyon ortalaması2. moment µ2 = E(X2) = V ar(X) + µ2

1

3. moment µ3 = E(X3)4. moment µ4 = E(X4)


Surekli r.d.’lerin MERKEZI MOMENTLERI

Tanım: Surekli r.d. X’in knci merkezi momenti

mk = E((X − µ1)k) =

∫

x∈X(x− µ1)

kf(x)dx k = 0, 1, 2, ...

1. merkezi moment m1 = 02. merkezi moment m2 = E((X − µ1)

2) = V ar(X)3. merkezi moment m3 = E((X − µ1)

3)4. merkezi moment m4 = E((X − µ1)

4)


BEKLENTI ISLEMCISININ OZELLIKLERI

Dogrusallık: X rassal degiskeninin dogrusal bir fonksiyonuY = a+ bX olsun. Y ’nin beklenen degeri:

E[Y ] = E[a+ bX] = a+ bE(X)

X1,X2, . . . ,Xn rassal degiskenlerinin asagıdaki gibi birfonksiyonu tanımlanıyor:

Y = b1X1 + bnX2 + . . .+ bnXn

Y ’nin beklenen degeri:

E[Y ] = b1E[X1] + b2E[X2] + . . .+ bnE[Xn]

ya da kısaca

E(Y ) = E

(

n∑

i=1

biXi

)

=n∑

i=1

biE(Xi)



Dogrusallık: X rassal degiskeninin dogrusal bir fonksiyonuY = a+ bX olsun. Y ’nin beklenen degeri:

E[Y ] = E[a+ bX] = a+ bE(X)

X1,X2, . . . ,Xn rassal degiskenlerinin asagıdaki gibi birfonksiyonu tanımlanıyor:

Y = b1X1 + bnX2 + . . .+ bnXn

Y ’nin beklenen degeri:

E[Y ] = b1E[X1] + b2E[X2] + . . .+ bnE[Xn]

ya da kısaca

E(Y ) = E

(

n∑

i=1

biXi

)

=n∑

i=1

biE(Xi)



X’in dogrusal olmayan bir fonksiyonu icin genellikle

E[h(X)] 6= h(E(X))

Ornegin, E(X2) 6= (E(X))2, E(ln(X)) 6= ln(E(X))

X ve Y gibi iki r.d. icin

E

(

X

Y

)

6= E(X)

E(Y )




E[h(X)] 6= h(E(X))



E

(

X

Y

)

6= E(X)

E(Y )




E[h(X)] 6= h(E(X))



E

(

X

Y

)

6= E(X)

E(Y )


VARYANSIN OZELLIKLERI

Herhangi bir c sabit sayısı icin

Var(c) = 0

Y = bX’in varyansı, b sabit

Var(Y ) = Var(bX) = b2Var(X)

Y = a+ bX’in varyansı

Var(Y ) = Var(a+ bX) = b2Var(X)

X ve Y iki bagımsız r.d. ise

Var(X + Y ) = Var(X) + Var(Y )

Var(X − Y ) = Var(X) + Var(Y )

Bu kural n r.d. icin genellestirilebilir.




Var(c) = 0












Var(c) = 0












Var(c) = 0










Surekli Standart Uniform (Tekduze) Dagılım

Notasyon: X ∼ U(0, 1), oyf:

f(x) =

{

1, if 0 < x < 1,0, otherwise.

(1)

E(X) =1

2

Var(X) =1

12


(Genel) Uniform (Tekduze) Dagılım

Notasyon: X ∼ U(a, b), oyf:

f(x; a, b) =

{ 1b−a if a < x < b,

0, otherwise.

E(X) =b− a

2

Median =b− a

2

Var(X) =(b− a)2

12

Skewness = 0

Excess kurtosis = −6

5


X ∼ U(a, b) icin beklenen deger ve varyans

E(X) =

∫ b

a

x

b− adx

=1

b− a

[

b2 − a2

2

]

=(b− a)(b+ a)

2(b− a)

=a+ b

2


X ∼ U(a, b) icin g(x) = x2 fonksiyonunun beklenen degerinibulalım.

E[g(x)] =

∫ b

ax2

1

b− a

=b3 − a3

3(b− a)

=(b− a)(b2 + ab+ a2)

3(b− a)

=a2 + ab+ b2

3= E[X2].


X ∼ U(a, b) icin varyans

Var(X) = E[(X − E(X))2] = E(X2)− [E(X)]2

=(a2 + ab+ b2)

3− (a+ b)2

4

=(b− a)2

12


U ∼ (a, b) icin dagılım fonksiyonu

F (x) = P (X ≤ x)

=

∫ x

a

1

b− adt

=t

b− a

∣

∣

∣

∣

x

a

=x− a

b− a, a ≤ x ≤ b aralıgı icin

yazılabilir. Oyleyse X ∼ U(a, b)’nin bof’nu soyle olur:

F (x) =

0, x < a icin;x−ab−a , a ≤ x ≤ b icin;

1, x > b icin.


Uniform Dagılım

a b 0

a b 0

1

1

b −a

x x

f(x) F (x)

ORNEK

Asagıda verilen fonksiyonu dusunelim.

f(x) =

{

e−x, 0 < x < ∞ ise;0, degilse.

1 Bunun bir oyf oldugunu gosterin.

2 Bu fonksiyunun grafigini cizin ve X > 1 olasılıgı ile ilgili alanıisaretleyin.

3 P (X > 1) olasılıgını hesaplayın.

4 Birikimli olasılık fonksiyonunu bulun.


ORNEK


f(x) =

{







ORNEK


f(x) =

{







ORNEK


f(x) =

{







CEVAP

1 Olasılık yogunluk fonksiyonları ozelliklerini saglayıpsaglamadıgına bakalım:

1 (i) Ilk olarak, f(x) ≥ 0 kosulunun 0 < x < ∞ aralıgındaki herx degeri icin saglandıgı acıktır.

2 (ii) Ayrıca, x’in degerler aralıgında oyf’nin integralinin 1 olmasıgerekir.

∫

∞

0

e−xdx = 1

−e−x

∣

∣

∞

0= 1

−e−∞ − (−e0) = 1

0 + 1 = 1

−e−∞ = limx→∞ −e−x = 0 olarak dusunulmelidir. Bu kosulda saglandıgına gore fonksiyon bir oyf’dir.


CEVAP




∫

∞

0

e−xdx = 1

−e−x

∣

∣

∞

0= 1

−e−∞ − (−e0) = 1

0 + 1 = 1



CEVAP




∫

∞

0

e−xdx = 1

−e−x

∣

∣

∞

0= 1

−e−∞ − (−e0) = 1

0 + 1 = 1



1 P (X > 1) olasılıgı grafikte gosterilmistir.2

P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

∣

∞

1

= e−1

≈ 0.36787

3

F (x) =

∫ x

0e−tdt

= −e−t∣

∣

x

0

= −e−x + e0

= 1− e−x

Buradan birikimli olasılık fonksiyonu

F (x) =

{

0, x < 0;1− e−x, 0 < x < ∞.

olarak bulunur.Ekonometri: Olasılık ve Dagılım - H. Tastan 48


P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

∣

∞

1

= e−1

≈ 0.36787

3

F (x) =

∫ x

0e−tdt

= −e−t∣

∣

x

0

= −e−x + e0

= 1− e−x


F (x) =

{

0, x < 0;1− e−x, 0 < x < ∞.



P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

∣

∞

1

= e−1

≈ 0.36787

3

F (x) =

∫ x

0e−tdt

= −e−t∣

∣

x

0

= −e−x + e0

= 1− e−x


F (x) =

{

0, x < 0;1− e−x, 0 < x < ∞.


Ustel (Exponential) Dagılım

0 1 2 3 4 50

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1oyf : f( x) =e−x

x

f ( x )

0 1 2 3 4 50

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1bof : f( x) =1 −e−x

x

F ( x )

P( X > 1) =∫∞

1e−xdx

ORTAK OLASILIK YOGUNLUK FONKSIYONU

X ve Y , sırasıyla, −∞ < X < +∞ ve −∞ < Y < +∞aralıklarında tanımlı iki surekli r.d. olsun. Bu iki r.d. icin ortakolasılık yogunluk fonksiyonu, f(x, y) ile gosterilir ve asagıdaki gibitanımlanır.

f(x, y) ≥ 0,∫ ∞

−∞

∫ ∞

−∞

f(x, y)dxdy = 1,

P r(a < X < b, c < Y < d) =

∫ d

c

∫ b

af(x, y)dxdy.


f(x, y) = xye−(x2+y2), x > 0, y > 0, icin ortak olasılık yogunlukfonksiyonu

00.5

11.5

22.5

3

0

0.5

1

1.5

2

2.5

30

0.02

0.04

0.06

0.08

0.1

0.12

0.14

0.16

0.18

0.2

xy

f(x,y)


Ornek

Asagıda verilen iki degiskenli fonksiyonun bir ortak olasılıkyogunluk fonksiyonu olmasını saglayacak k sabit sayısını bulun.Elde ettiginiz ooyf’nu kullanarakP(

0 < X < 12 , 1 < Y < 2

)

olasılıgını bulun.

f(x, y) =

{

k(x+ y), 0 < x < 1, 0 < y < 2 ise;0, degilse.


Ornek: devam

Oncelikle f(x, y) > 0 kosulunun saglanabilmesi icin k > 0 olmalı.Ikinci kosuldan hareketle

∫ 2

0

∫ 1

0k(x+ y)dxdy = 1

= k

∫ 2

0

(

1

2+ y

)

dy = k

(

1

2y +

y2

2

)∣

∣

∣

∣

2

0

= 3k = 1

k = 13 bulunur. Oyleyse ooyf

f(x, y) =

{

13(x+ y), 0 < x < 1, 0 < y < 2 ise;0, degilse.


Istenen olasılık ooyf’nun altındaki hacim olarak bulunur:

P

(

0 < X <1

2, 1 < Y < 2

)

=

∫ 2

1

∫ 1

2

0

1

3(x+ y) dxdy

=1

3

∫ 2

1

(

1

8+

1

2y

)

dy =1

3

(

1

8y +

y2

4

)

=7

24


MARJINAL YOGUNLUK FONKSIYONU

X’in myf:

f(x) =

∫ ∞

−∞

f(x, y)dy

Integralin sınırları y’nin tanım aralıgıdır.

Y ’nin myf:

f(y) =

∫ ∞

−∞

f(x, y)dx

Integralin sınırları x’in tanım aralıgıdır.


Ornek

Onceki ornekteki ooyf’nu kullanarak X ve Y rassal degiskenlerininmarjinal olasılık yogunluk fonksiyonlarını bulalım.

f(x) =

∫ 2

0

1

3(x+ y)dy

=1

3

(

xy +y2

2

)∣

∣

∣

∣

2

0

=2

3(x+ 1)


Ornek: moyf

Boylelikle X icin moyf’nu soyle yazılır:

f(x) =

{

23(x+ 1), 0 < x < 1 ise;0, degilse.

Benzer sekilde Y ’nin moyf’nu

g(y) =

{

13(y + 1

2), 0 < y < 2 ise;0, degilse.

olur.


KOSULLU OLASILIK YOGUNLUK FONKSIYONU

Y = y degeri verilmisken X’in kosullu yogunluk fonksiyonu:

f(x|y) = f(x, y)

f(y)

Benzer sekilde X = x verilmisken Y ’nin kosullu yogunlukfonksiyonu

f(y|x) = f(x, y)

f(x)


BAGIMSIZLIK

Hatırlarsak asagıdaki kosul saglanıyorsa A ve B bagımsız olaylardırdenir:

P (A ∩B) = P (A)P (B)

Benzer sekilde X ve Y iki bagımsız surekli r.d. ise

f(x, y) = f(x)f(y)

kosulu saglanmalıdır.i.e., ortak yogunluk fonksiyonu, marjinal yogunlukların carpımıolarak yazılabiliyorsa bu iki r.d. birbirinden bagımsızdır.


BAGIMSIZLIK

Onceki kosul genellestirilebilir.X1,X2, . . . ,Xn rassal degiskenlerinin ortak olasılık yogunlukfonksiyonu marjinal yogunluk fonksiyonlarının carpımı olarakyazılabiliyorsa

f(x1, x2, . . . , xn) = f1(x1) · f2(x2)·, . . . , ·fn(xn)

=

n∏

j=1

fj(xj)

bu rassal degiskenler birbirinden bagımsızdır denir. Bu ozellikkullanılarak Maksimum Olabilirlik (Maximum Likelihood) tahminedicileri turetilebilmektedir. Bu konuya Tahmin Yontemleri baslıgıaltında deginecegiz.


BAGIMSIZLIK ORNEK

Onceki ornekteki ortak oyf ve marjinal oyf’nı kullanarak X veY ’nin bagımsız olup olmadıgını bulalım.

f(x)g(x) =2

3(x+ 1)

1

3(y +

1

2)

6= f(x, y)

oldugundan X ve Y rassal degiskenleri bagımsız degildir.


BAGIMSIZLIK ORNEK

Asagıda verilen ooyf’nu kullanarak moyf’nı bularak bagımsız olupolmadıklarına karar verelim.

f(x, y) =

{

19 , 1 < x < 4, 1 < y < 4 ise;0, degilse.

Marjinal olasılık yogunluk fonksiyonları

f(x) =

∫ 4

1

1

9dy =

1

3

g(y) =

∫ 4

1

1

9dx =

1

3

Buradan

f(x, y) =1

9= f(x)g(y) =

(

1

3

)(

1

3

)

kosulu saglandıgı icin X ve Y rassal degiskenleri bagımsızdır.


NORMAL DAGILIM

Notasyon: X ∼ N(µ, σ2)

f(x;µ, σ2) =1

σ√2π

exp

(

− 1

2σ2(x− µ)2

)

, −∞ < x < ∞

E(X) = µ

Var(X) = σ2

skewness = 0

kurtosis = 3


Normal Dagılım oyf, σ2 = 1, farklı lokasyon parametreleri(µ)

−10 −8 −6 −4 −2 0 2 4 6 8 100

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4Normal Dagilim, σ2=1

x

φ(x)

µ = −5

µ = −2

µ = 0 µ = 2µ = 5

Normal Dagılım oyf, µ = 0, farklı varyans (scale)parametreleri

−10 −8 −6 −4 −2 0 2 4 6 8 100

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

x

φ(x)

Normal Dagilim, µ=0

σ2 = 1, µ = 0

σ2 = 2, µ = 0

σ2 = 3, µ = 0

STANDART NORMAL DAGILIM

Z = X−µσ ,

φ(z) =1√2π

exp

(

−1

2z2)

, −∞ < z < ∞

E(Z) = 0

Var(Z) = 1

Birikimli dagılım fonksiyonu:

Φ(z) = P (Z ≤ z) =

∫ z

−∞

1√2π

exp

(

−1

2t2)

dt


−4 −3 −2 −1 0 1 2 3 40

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4STANDART NORMAL DAGILIM φ(z)

−4 −3 −2 −1 0 1 2 3 40

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1STANDART NORMAL DAGILIM Φ(z)

NORMAL DAGILIM OLASILIKLARININ HESAPLANMASI

X ∼ N(µ, σ2) olsun. Asagıdaki olasılıgı hesaplamak istiyoruz:

P (a < X < b) =

∫ b

a

1

σ√2π

exp

(

− 1

2σ2(x− µ)2

)

dx

Bu integralin acık bir cozumu yoktur. Ancak numerik yontemlerleistenen kesinlik duzeyinde hesaplanabilir. Bunun icin her seferindebilgisayarda hesap yapmak yerine, standart normal dagılımtablolarını kullanabiliriz. Istenen olasılıgı asagıdaki gibi yazalım:

P

(

a− µ

σ<

X − µ

σ<

b− µ

σ

)

= P

(

a− µ

σ< Z <

b− µ

σ

)



P

(

a− µ

σ< Z <

b− µ

σ

)

= Φ

(

b− µ

σ

)

− Φ

(

a− µ

σ

)

Burada Φ(z) = P (Z ≤ z) standart normal dagılımın z’dekidegeridir.



Bu tabloda sadece pozitif degerler icin dagılım fonksiyonu degerleriverilmistir. Negatif degerler icin Φ(z) = P (Z ≤ z)’nin simetriozelligi kullanılabilir:

Φ(−z) = P (Z ≤ −z)

= P (Z ≥ z)

= 1− P (Z ≤ z)

= 1− Φ(z)

e.g.:

P (Z ≤ −1.25) = Φ(−1.25)

= 1− Φ(1.25)

= 1− 0.8944 = 0.1056


−4 −3 −2 −1 0 1 2 3 40

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

−4 −3 −2 −1 0 1 2 3 40

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

Φ(−1.25) = 0.1056

1 − Φ(1.25) = 0.1056

P(−1.25<Z<1.25) = Φ(1.25) −Φ(−1.25)= Φ(1.25) − (1−Φ(1.25))= 0.8944 − 0.1056 = 0.7888

MERKEZI LIMIT TEOREMI (CENTRAL LIMITTHEOREM)

X1,X2, . . . ,Xn herbirinin ortalaması µ ve varyansı σ2 olan ve aynı

dagılıma uyan n tane bagımsız r.d. olsun. Baska bir sekilde ifadeetmek istersek:

Xi ∼ i.i.d (µ, σ2), i = 1, 2, . . . , n

iid: turdes (identical), ve bagımsız (independent) dagılımlıBurada dagılımın ne oldugunu belirtmedigimize dikkat edin. Bur.d.’lerin toplamlarının beklenen degeri ve varyansı:

E[X1 +X2 + . . . +Xn] = E[X1] + E[X2] + . . .+ E[Xn] = nµ

Var[X1+X2+ . . .+Xn] = Var[X1]+Var[X2]+ . . .+Var[Xn] = nσ2


MERKEZI LIMIT TEOREMI (CENTRAL LIMITTHEOREM)

Bu r.d.’lerin toplamına X diyelim. Yani, X = X1 +X2 + . . . +Xn

Z =X − E(X)√

Var(X)=

X − nµ√nσ2

=Xn − µ

n1/2

n σ

=X − µ

σ/√n

∼ N(0, 1)

MLT’ye gore gozlem sayısı arttıkca, yani, n → ∞, yukarıdaki ifadestandart normal dagılıma yakınsar, yani, Z → N(0, 1)


MERKEZI LIMIT TEOREMI

0 0.2 0.4 0.6 0.8 10

500

1000

1500

2000n= 1

0 0.2 0.4 0.6 0.8 10

1000

2000

3000

4000n= 2

0 0.2 0.4 0.6 0.8 10

1000

2000

3000

4000n= 3

0 0.2 0.4 0.6 0.8 10

2000

4000

6000n= 10

0.2 0.3 0.4 0.5 0.6 0.70

1000

2000

3000

4000

5000n= 30

0.35 0.4 0.45 0.5 0.55 0.6 0.650

2000

4000

6000n= 50

0.35 0.4 0.45 0.5 0.55 0.6 0.650

2000

4000

6000n= 75

0.35 0.4 0.45 0.5 0.55 0.6 0.650

2000

4000

6000n= 100

0.44 0.46 0.48 0.5 0.52 0.54 0.560

2000

4000

6000n= 1000

BUYUK SAYILAR KANUNU (LAW of LARGE NUMBERS)

Merkezi Limit Teoremi, Buyuk Sayılar Kanunu ile yakındaniliskilidir. Buyuk Sayılar Kanununa gore, turdes dagılımlı (aynıanakutle beklenen degeri µ ve varyansına σ2 sahip), birbirindenbagımsız ve sonlu varyanslı n r.d.’in aritmetik ortalaması (orneklemortalaması) n buyudukce anakutle ortalamasına yakınsar.Xn = 1

n(X1 +X2 + . . .+Xn) orneklem ortalaması olsun. Buyuksayılar yasasına gore

n −→ ∞, Xn −→ µ

Baska bir deyisle, istedigimiz kadar kucuk secebilecegimiz ε gibipozitif herhangi bir sayı icin:

limn→∞

P[

|Xn − µ| < ε]

= 1


MERKEZI LIMIT TEOREMI ORNEK

X1,X2, . . . ,X12 birbirinden bagımsız ve herbiri U ∼ (0, b), b > 0dagılımına sahip rassal degiskenler olsun. Merkezi Limit Teoreminikullanarak P ( b4 < X < 3b

4 ) olasılıgının yaklasık 0.9973 oldugunugosterelim.CEVAP: Bu 12 bagımsız r.d. uniform anakutleden geldigine goreonce anakutledeki ortalama ve varyansı bulmamız gerekir.Uniform(a, b) dagılım icin beklenen deger ve varyans

µx =b+ a

2, σ2

x =(b− a)2

12

olduguna gore, ornegimizde

µx =b

2, σ2

x =b2

12

olur.


MERKEZI LIMIT TEOREMI: Ornek

Var(X) =σ2x

n=

b2

144

CEVAP (devam): MLT’yi kullanarak:

P

(

b

4< X <

3b

4

)

= P

(

b4 − b

2b12

<X − µx√

σ2x/n

<3b4 − b

2b12

)

= P (−3 < Z < 3) = Φ(3)− (1− Φ(3))

= 0.99865 − (1− 0.99865) = 0.9973


Student t Dagılımı

TANIM: Z ve Y su sekilde dagılan birbirinden bagımsız iki r.d.olsun: Z ∼ N(0, 1), ve Y ∼ χ2

ν . Asagıda tanımlanan r.d. νserbestlik derecesi ile Student t Dagılımına uyar.

tν =Z

√

Y/ν∼ tν

tν rassal degiskeni ν s.d. ile Student t dagılımına uyar. Buradaki νs.d. paydada yer alan ki-kare r.d.’nin serbestlik derecesidir.

ν serbestlik derecesine sahip Student t Dagılımının o.y.f.:

f(t) =Γ(

ν+12

)

Γ(ν/2)√πν

1

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞

Tek parametreli (ν) ve simetrik bir dagılımdır. E(tν) = 0 veν ≥ 3 icin Var(tν) = ν/(ν − 2)

ν → ∞, tν → N(0, 1)

Izleyen grafikler cesitli s.d.ne sahip t yogunluklarını std normalile karsılastırmalı olarak gostermektedir.





tν =Z

√

Y/ν∼ tν



f(t) =Γ(

ν+12

)

Γ(ν/2)√πν

1

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞


ν → ∞, tν → N(0, 1)






tν =Z

√

Y/ν∼ tν



f(t) =Γ(

ν+12

)

Γ(ν/2)√πν

1

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞


ν → ∞, tν → N(0, 1)






tν =Z

√

Y/ν∼ tν



f(t) =Γ(

ν+12

)

Γ(ν/2)√πν

1

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞


ν → ∞, tν → N(0, 1)



t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

Standart Normaltν ν=1

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

tν ν=4

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

tν ν=4

tν ν=5

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

tν ν=20

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4


tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

tν ν=20

tν ν=30


Olasılıkların hesaplanması:tν , ν s.d. ile Student t dagılımına uyan bir rassal degikeni ifadeetsin. tν,α asagıdaki esitligi saglayan sayı olarak tanımlanır:

P (tν > tν,α) = α

Ornegin ν = 5 ve α = 0.05 icin yukarıdaki esitligi saglayan sayıtν,α = 2.015’dir:

P (t5 > 2.015) = 0.05

Standart Normal dagılımla karsılastırırsak:

P (Z > 2.015) ≈ 1− 0.9781 = 0.0219

Ya da esik degerlerini karsılastırırsak:

P (Z > 1.645) = 0.05

Burada 2.015 > 1.645 olduguna dikkat edin. Genel olaraktν,α ≥ zα yazılabilir. P (Z > zα) = α oldugunu hatırlayın.


t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.45 s.d. Student t dagilimi

t5

α

1−αP(t

5>2.015)=α=0.05

STUDENT t DAGILIMI

Olasılıkların hesaplanması:Kucuk orneklemlerde Student t dagılımı Normal Dagılıma goredaha yayvandır. Bu nedenle kuyruk olasılıkları daha buyuktur. νbuyudukce bu olasılıklar birbirine yaklasır. Ornegin ν = 60 icin

P (t60 > 1.671) = 0.05, ve P (Z > 1.671) =≈ 1−0.9525 = 0.0475

Yani, ν → ∞, tν,α → zα


t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.45 s.d. t dagilimi ve standard normal dagilim

Std Normal

t5

STUDENT t DAGILIMI

Olasılıkların hesaplanması (Ek Cizelge 6, s.941):ν serbestlik derecesine sahip bir t rassal degiskeninin %100(1 − α)olasılıkla icinde yer alacagı iki deger bulmak istiyoruz. t esikdegerleri tablosundan ve simetri ozelliginden hareketle

P(

tν > tν,α/2)

=α

2, ve P

(

tν < −tν,α/2)

=α

2

Olasılık parantezi icinde yer alan olaylar birbiriyle bagdasmaz vebutunu kapsayıcı olduguna gore:

P (−tν,α/2 < tν < tν,α/2) = 1− P (tν > tν,α/2)− P (tν < −tν,α/2)

= 1− α

2− α

2= 1− α

Ornegin ν = 10 ve 1− α = 0.95 icin t10,0.025 = 2.228,P (t10 > 2.228) = 0.025 ve P (t10 < −2.228) = 0.025, buradan

P (−2.228 < t10 < 2.228) = 1− 0.025 − 0.025 = 0.95


t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.410 s.d. Student t dagilimi

2.228−2.228

1−α = 0.95α = 0.025α = 0.025

P(−2.228<t10

<2.228) = 1−α

Ki-kare Dagılımı

Standart normal dagılan bir rassal degiskenin karesi 1serbestlik derecesi ile ki-kare dagılımına uyar:

If Z ∼ N(0, 1) then Z2 ∼ χ21

Birbirinden bagımsız n standart normal rassal degisken nserbestlik derecesi ile ki-kare dagılımına uyar:

If Zi ∼ i.i.d. N(0, 1) i = 1, 2, . . . , n thenn∑

i=1

Z2i ∼ χ2

n

Ki-kare dagılımının bir parametresi vardır: ν (nu) serbestlikderecesi. χ2

ν icin olasılık yogunluk fonksiyonu:

f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0

where Γ: gamma fonksiyonu:

Γ(α) =

∫ ∞

0xα−1e−xdx, α > 0


Ki-kare Dagılımı


If Z ∼ N(0, 1) then Z2 ∼ χ21



i=1

Z2i ∼ χ2

n



f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0


Γ(α) =

∫ ∞



Ki-kare Dagılımı


If Z ∼ N(0, 1) then Z2 ∼ χ21



i=1

Z2i ∼ χ2

n



f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0


Γ(α) =

∫ ∞



Ki-kare Dagılımı

χ2ν , ν serbestlik derecesi ile ki-kare dagılan bir rassal degisken

olsun. Bu rassal degiskenin beklenen deger ve varyansı:

E(χ2ν) = ν ve Var(χ2

ν) = 2ν

Normal dagılan bir populasyon icin:

(n− 1)s2

σ2=

∑ni=1(Xi −X)2

σ2∼ χ2

n−1

Serbestlik derecesi: n ortalamadan sapma, (Xi −X), bilgisi(n− 1) matematiksel bagımsız bilesene esdegerdir.


Ki-kare Dagılımı




ν) = 2ν


(n− 1)s2

σ2=

∑ni=1(Xi −X)2

σ2∼ χ2

n−1



Ki-kare Dagılımı




ν) = 2ν


(n− 1)s2

σ2=

∑ni=1(Xi −X)2

σ2∼ χ2

n−1



Ki-kare Dagılımı

Saga carpık bir dagılımdır. Yani sag kuyrugu sol kuyruga goredaha uzundur. Bu nedenle ucuncu momenti pozitiftir.

Serbestlik derecesi parametresi ν buyudukce daha simetrikdagılır. Limitte normal dagılıma yakınsar.

Ki-kare olasılıkları uygun tablolar ya da bilgisayar aracılıgıylakolayca hesaplanabilir.


Ki-kare Dagılımı





Ki-kare Dagılımı





Ki-kare dagılımı

0 5 10 15 20 25 300

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

0.5ν serbestlik dereceli ki−kare dagilimi

ν = 2

ν = 4

ν = 6

ν = 12

Ki-kare dagılımı

0 5 10 15 20 25 300

0.01

0.02

0.03

0.04

0.05

0.06

0.07

0.08

0.09

0.1ν=10 serbestlik dereceli ki−kare dagiliminin olasilik yog.fonks.

f(χ 1

02

)

χ2(10)

P(χ102 >15.99) = 0.10

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

birbirinden bagımsız ki-kare dagılımınauyan iki rassal degisken olsun:

Asagıda tanımlanan rassal degisken k1 ve k2 serbestlikdereceleri ile F dagılımına uyar:

F =X1/k1X2/k2

∼ F (k1, k2)

F dagılımının iki parametresi vardır:

k1 payın serbestlik derecesi

k2 paydaın serbestlik derecesi


F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2



F =X1/k1X2/k2

∼ F (k1, k2)





F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2



F =X1/k1X2/k2

∼ F (k1, k2)





F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2



F =X1/k1X2/k2

∼ F (k1, k2)





F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2



F =X1/k1X2/k2

∼ F (k1, k2)





F Dagılımı

0 1 2 3 4 50

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

F(2,8)F(6,8)F(6,20)F(10,30)


ISTATISTIK I: Olasılık ve Dagılım Teorisi Kavramlarının ...yildiz.edu.tr/~tastan/teaching/Istatistik1rev.pdf · Olasılık Teorisi Ornekleme ve¨ Orneklem Dagılımları¨ Rassal

Documents