Gamma taqsimot va uning xossalari. 2.1.-Ta’rif. Agar t.m. zichlik funksiyasi
1
x
f (x) () x e
0,
, x 0,
x 0,
(1.2.1)
ko’rinishda bo’lsa, u holda t.m. gamma taqsimotiga ega deyiladi, bu yerda 0 ,
0 va
() t 1et dt
0
- gamma funksiya:
() ( 1)( 1) ,
(n) (n 1)!,
(1/ 2) .
Gamma taqsimotni , orqali belgilaymiz.
: , t.m. xarakteristik funksiyasini hisoblaymiz:
it
itx
1
x
1
( it ) x
(t) M e
e () x e dx () x e dx
0 0
(( it) x) 1e(it)xd ( it) x
1
it
.
()( it)
1 0 4 4 4 4 4 2 4 4 4 4 4 3
( )
( it)
Demak,
t Meit
1
it
. Xarakteristik funksiya yordamida gamma
taqsimot momentlarini oson hisoblash mumkin: M , D .
Xossalari:
2
Agar
,..., bog’liqsiz t.m.lar bo’lib, :
, i 1,..., n
bo’lsa, u
holda
Sn j
j 1
ning taqsimoti
1
, n j
bo’ladi.
Bu xossani isbotlash uchun xarakteristik funksiyalardan foydalanamiz.
,
it
taqsimotning xarakteristik funksiyasi t 1
ga teng. Bog’liqsiz t.m.lar
yig’indisining xarakteristik funksiyasi xarakteristik funksiyalar ko’paytmasiga teng
ekanligidan foydalansak,
Sn j
j 1
t.m. xarakteristik funksiyasi
n
n n j j
t t 1 it 1 it j1
Sn j
j 1
j 1
1 j
funksiyasidir. ■
Agar standart normal taqsimotga ega bo’lsa, u holda 2
tasodifiy
miqdor1/2, 1/2
taqsimotga ega bo’ladi.
Buni ko’rsatish uchun avval
2 t.m.ning taqsimotini topamiz. Agar
x 0
bo’lsa: F 2
x P 2 x 0 ,
x 0
bo’lsa:
F 2 x P 2 x P
x F
x F x
bo’ladi. Bu yerda
F x- standart normal taqsimotning taqsimot funksiyasi. Endi
2 t.m.ning zichlik funksiyasini topamiz.
x 0
da:
f 2 x F 2 x F
x 1 F
x 1
1 f
x
f
2
x
1 f
2
x 1 e x/2 .
x 0
da:
2
f 2 x 0 .
Demak, 2 t.m.ning zichlik funksiyasi
e
f 2
x 1 x/ 2
2 x
1 / 212
1 / 2
x1/ 21e x/ 2 , x 0 ,
1/ 2,1/ 2
taqsimot zichlik funksiyasiga teng ekan. ■
,1 taqsimot parametrli ko’rsatkichli taqsimotdir.
Agar : ,1 bo’lsa, uning zichlik funksiyasi:
ex ,
f (x)
0,
x 0,
x 0
parametrli ko’rsatkichli taqsimot zichlik funksiyasidir.
Agar1,2 , ,k bog’liqsiz va standart normal taqsimotga ega t.m.lar
1 2
bo’lsa, u holda 2 2 K
2 :
1/2, k /2
bo’ladi.
k
Momentlar usulida noma’lum parametrni baholash, eng sodda va keng qo`llaniladigan usullardan biridir. Gamma taqsimotining momentlar usulidagi bahosini topamiz. Gamma funksiyaning zichlik funksiyasi quyidagicha:
f (x; ;
x2 1 exp x /
2 1
) 2
Birinchi tartibli nazariy moment quyidagiga teng:
x2 exp x /
1
x 2
x
x
0 0
MX1
2 dx
e 1 dx
t
(2 ) 1 2
(2 )
1 1
1 t 2 e
(2) 0
tdt 1 t 2 de t
(2) 0
=
1 t 2 e t |
2
t
0
2 1e
tdt X
Endi ikkinchi tartibli nazariy momentni hisoblaymiz:
x2 1 exp x /
x
2
1
MX 2
(
) 2
dx t
1
(
t 2 1e
)
tdt
0 2 1
2
1
2 (
2 0
1)
1
2
t 2 1e t |
(
1) t 2 e
0
tdt 1 2
2
t 2 e
0
tdt
2 ( 1)
1 2
2
t 2 e t |
t
0
2 1e
tdt 2 ( 2
) X 2
Bu tenglamalardan foydalanib 1 va 2
larni topamiz.
µ S 2
µ ( X )2
baho bo`lar ekan. Bu baholar momentlar usuli bahosi hossasiga ko`ra asosli baho bo`ladi.
Gamma taqsimot haqiqatga maksimal o`xshashlik bahosini topishimiz uchun biz, avvalambor, uning haqiqatga o`xshashlik funksiyasini tuzib olishimiz kerak bo`ladi. Gamma taqsimot haqiqatga o`xshashlik funksiyasi quyidagiga teng:
n
x n xi
)
L(x, )
2 (
x 2
)
e 1
n2 n (
xi 2
e i 1 1 .
Haqiqatga o`xshashlik funksiyasini logarifmlaymiz:
l( x; ) ln L( x; ) n
ln nln( ) (
1)ln x xi
n
n
2 1 2 2
i
i1
i1 1
(1.2.3)
Yuqoridagi funksiyadan avval 1
bo`yicha keyin esa 2
bo`yicha hosila olib
ularni 0 ga tenglab 1
bahosini olamiz:
va 2
lar uchun haqiqatga maksimal o`xshashlik usuli
l n2
xi 0 .
n
1
1 1 1
Bundan,
2
i1
1 2 X , (1.2.4)
ga teng ekanligi kelib chiqadi. Endi 2 bo`yicha hosila olamiz:
l '( ) n
n ln1 n 2 ln xi 0 ,
'(2) ( )
deb belgilaymiz.
2
n
( ) 2
n ln1 n(2) ln xi 0
i1
noma’lum parametrlarni bir tomonga qolganlarini esa ikkinchi tomonga o`tkazamiz:
i
n
1 n
ln x
ln
( ) .
i
ln xn ln (2 ) ,
i1 2
i
n 1
quyidagicha belgilash kiritamiz
x% xn , natijada tenglama quyidagi ko`rinishga
kelib qoladi.
i1
ln x%
(2) ln2
, (1.2.5)
x
bu tenglamani yechishda sonli usullardan foydalanish kerak ana shunday usullardan biri Nyuton-Rafson usuli deb ataladi. Bu usul bilan biz keying paragrafda batafsil tanishamiz.
1.3-§. Nyuton-Rafson usuli
Nyuton-Rafson usuli Nyuton usuli nomi bilan ham mashhur bo`lib,
f (x) 0,
(1.3.1)
tenglamaning yechimini topishda umumiy usul hisoblanadi.
Faraz qilaylik,
f ( x)
funksiya J intervalda ikki marta uzluksiz hosilaga ega
bo`lib, uning biror nuqtasida nolga teng bo`lsin:
f ( ) 0, J.
Agar
x1 J
nuqta ga yaqin bo`lsa, u holda bu nuqtani dastlab Nyuton
tomonidan taklif etilgan va keyinchalik Rafson tomonidan yaxshilangan usul yordamida aniqlash mumkin. Dastlab shu usulning geometrik ma’nosini ko’rib
o’taylik (1-rasm).
f ( x)
funksiya grafigini nuqta atrofida ifodalaymiz:
1
T (x)
f (x1)
f '(x ) . (1.3.2)
x x1
T to’g’ri chiziq x o’qni
(x2 ;0)
nuqtada kesib o’tadi, bu yerda
x2 x1
f ( x1) /
f '( x1)
nuqtani (1) dan
x x2
, T (x2 ) 0
bo`lganida topamiz. Bu
jarayonni davom ettirib,
x1, x2 ,...
ketma-ketlikni aniqlaymiz. 1-rasmdan
ko’rinadiki, bu ketma-ketlik nuqtaga monoton ravishda o’ngdan yaqinlashar
ekan. Demak, bu ketma-ketlik biror
x*0; x1 nuqtaga yaqinlashadi va
x x
f (xn ) ,
(1.3.3)
n1 n
f '(xn )
tenglamadan
lim
n
f ( xn ) 0
f '( xn )
, ya’ni
f ( x*) 0 .
Demak,
x* 0
ekan. Biz masala yechimiga
x1 ni dan o’ng tomonda
tanlaganimiz uchun erishdik. Agar 1-rasmda ko’rsatilganidek, jarayonni x '
nuqtadan boshlaganimizda edi, u holda T '
urinma x'; f (x')
nuqtadan o’tib x
o’qi bilan kesishish nuqtasi dan
x ' ga nisbatan uzoqroqda bo’lib qolar edi.
Demak,
f ( x)
qanday bo’lganida xn
ketma-ketlik ga yaqinlashadi
degan savol tabiiydir. Quyidagi shartlar bu masala yechimini ta’minlaydi:
xn1 qiymati
xn va lar orasida yotadi;
1-rasmda a) shart bajarilishi
x1 ning dan o’ngdaligi va f funksiya va x1
orasida pastga qavariqligidan kelib chiqadi.
sign{ f (x1)} 1.
x1 ni to’g’ri tanlanishidan,
Yuqoridagilarni e’tiborga olgan holda quyidagi teoremani yoza olamiz.
Unda Nyuton-Rafsonning xn
yetarli shartlari jamlangandir.
ketma-ketligining ga monoton yaqinlashishining
Teorema
f ( x)
funksiya
J ; x1
kesmada differensiallanuvchi bo`lib,
f ( ) 0 va
x J \ uchun
f ( x) 0
bo`lsin. Agar
f ( x)
funksiya J intervalda
pastga qavariq va
f ( x1) 0
yoki
f ( x)
funksiya J da yuqoriga qavariq va
f ( x1) 0
bo’lsa, u holda Nyuton-Rafsonning xn
ketma-ketligi ga monoton
yaqinlashadi.
Bu teoremadagi shartlarni biroz qisqartirish natijasida Nyuton-Rafson usuli yaqinlashishining quyidagi Fyure shartlariga ega bo’lamiz.
Natija. Faraz qilaylik,
f ( x)
funksiya
J a; x1
kesmada ikki marta
differensiallanuvchi bo’lsin. Barcha x J
lar uchun
f '( x) 0 va
f ''( x) 0
bo’lib,
f '' hosila J da ishora saqlasin. Agar bundan tashqari,
sign{ f ( x1)} sign{ f ''( x1)} sign{ f ( a)} bo’ladi va Rafson ketma-ketligi ga monoton yaqinlashadi.
x1 dan qurilgan xn
Nyuton-
Ko’p hollarda haqiqatga maksimal o’xshashlik usuli tenglamasi
ln L ( X (n); )
n 0 . (1.3.4)
Noma’lum parametrga nisbatan aniq yechimga ega bo’lmaydi. Bu yerda
L ( X ; ) f ( X
n
(n)
n k
k 1
; ) ,
funksiya
X (n) ( X ,..., X )
-statistik tanlanmaga nisbatan haqiqatga o’xshashlik
1 n
funksiyasi. Bunga misol ko’raylik. Kuzatilayotgan tasodifiy miqdor zichlik
funksiyasi
f ( x; )
bo’lgan gamma taqsimoti bo’lsin.Yuqorida ko’rganimizga ko’ra
(1.3.4) tenglama quyidagiga teng:
n 1 X
i
ln xn ln
(2 ) .
i1 2
Ko’rinib turibdiki yuqoridagi tenglama ga nisbatan aniq yechib bo’lmaydi. Shuning uchun biz Nyuton-Rafson usulidan foydalanamiz. Buning
bahosini belgilab olib, bu tenglama chap tomonidagi funksiyani ˆ qatorga yoyamiz:
nuqta atrofida
0 ln L ( X (n);?)
ln L ( X (n); )
n
n 1
( 1) 2 ln Ln ( X ;1 q( 1)),
bu yerda 0 q 1 va 1 -boshlang’ich yechim. Agar (1.3.5) da
q 0 deb olsak, u
holda ˆ
uchun 2-approksimatsiyani olishimiz mumkin:
ln L ( X (n); )
2 1
n 1 .
2
(1.3.6)
ln L ( X (n); )
2 n 1
Endi 1
o’rniga 2
ni qo’yib, (1.3.6) dan 3
ni aniqlaymiz va hokazo. Bu
jarayonni davom ettirib, boshlang’ich yaqinlashish 1
ketlikni hosil qilamiz:
dan k , k 1
ketma-
k 1
k
ln L ( X (n); )
n k
,
2
ln L ( X (n); )
k 1, 2,....
(1.3.7)
2 n k
Agar (1.3.7) jarayonda boshlang’ich yechim 1 asosiy yechim ˆ ga yaqin
2 ( n)
tanlangan bo’lib, 2 ln Ln ( X ;k ) k 1, 2,... musbat bo’lsa, u holda bu jarayon
tezda yaqinlashadi.
II Bob. Noklassik modelda noma’lum parametrlarni baholash 2.1-§.To`liq bo`lmagan tanlanmalar modellari
Ta’rif: Tanlanma o`ng tomondan
x(2)
nuqtada 1-tur senzurlangan deyiladi,
agar kuzatilayotgan tegishli bo’lsa.
X1,..., Xn
tanlanma qiymatlari
M ; x(2)
to’plamga
O’ng tomondan senzurlanishda tanlanma zichlik funksiyasi quyidagiga teng:
f (t) f c (t) S (1t) (t) ,
bu yerda:
S( t) P( T t) 1 F( t)
, ci
1 , i qiymatsenzurlanmagan,
0 ,i qiymatsenzurlangan,
ga teng.
O’ng tomondan senzurlangan tanlanma haqiqatga o’xshashlik funksiyasi quyidagicha bo’ladi:
n
L f ci t S1ci t .
i i
i1
Ta’rif: Tanlanma chap tomondan
x(1)
nuqtada 1-tur senzurlangan deyiladi,
agar kuzatilayotgan tegishli bo’lsa.
X1,..., Xn
tanlanma qiymatlari
M x(1) ;
to`plamga
Chap tomondan senzurlanishda tanlanma zichlik funksiyasi quyidagiga teng:
f ( t) f c ( t) F (1t) ( t) .
Chap tomondan senzurlangan tanlanma haqiqatga o’xshashlik funksiyasi quyidagicha bo’ladi:
n
L f ci t F 1ci t .
i i
i1
2.2-§.Statistik baholashning EM algoritmi
Bundan keyingi masalalarda endi biz X vektorni to`liq tanlanma, Z vektorni senzurlangan tanlanma deb belgilaymiz.
gc ( x; )
ni X tasodifiy miqdorning zichlik funksiyasi deb belgilaymiz. U
holda X ning(agar u haqiqatdan kuzatilayotgan bo`lsa ) haqiqatga o`xshashlik funksiyasi logarifmi quyidagicha bo`ladi:
ln Lc ( x) ln gc ( x; ).
(2.2.1)
EM algoritmi to`liq bo`lmagan tanlanmalarda haqiqatga o`xshashlik funksiyasi tenglamasini yechishda qo`llaniladi. Tanlanma to`liq bo`lmaganda
ln L( ) 0,
tenglamani yechimi aniq emas. Agarda X tasodifiy miqdor kuzatilmayotgan bo`lsa,
u holda ln Lc ( )
ham kuzatilmaydi va shuning uchun kuzatilayotgan Y tasodifiy
miqdorning ln Lc ( )
shartli matematik kutilmasidan foydalanamiz. EM
algoritmning iteratsiyalarini qo`llaymiz:
Dostları ilə paylaş: |