1 Giới thiệu nguyên lý độ chệch lớn

Do vày

1

^

- log P{\Sn\>



6^

6)-^--



khi n ^ 00



(2.1.3)



hay là

P{\Sn\ >ó)^e~~



khin^oo.



Ta co (2.1.3) là mot vi du cùa dò chéch lón. Hòn nùa, cà (2.1.1) va

(2.1.2) van eó già tri khi ma càc bién ngàu nhién {Xi} dòc làp, cùng

phàn phói vói ky vong bang 0 va phudng sai bang 1. Vày (2.1.3) con

dùng hay khòng khi ma {X^} khòng eó phàn phói chuan? Va càu tra

lòi là lim - log P{\Sn\ > ó) luòn tèn tai va già tri cùa nò phu thuòc vào

n—»oo n



phàn phói cùa Xi.

Dò chéch lón nham nghién cùu chình xàc toc dò bòi tu dén 0 cùa

biéu thùc P{\Sn\ > 6).



2.1.2



Nguyén ly dò chéch lón



Nguyén ly dò chéch lón (ki hiéu là LDP) dàc trUng cho toc dò hòi

tu khi £: ^ 0 cùa mot ho dò do xàc suit {^^} trén (A', B) thòng qua mot

hàm tèe dò. Dàc trUng này thòng qua tiém càn trén va tiém càn duói

cùa giói h^n mù ma /ie giao vói càc tap con cùa X.

Dinh nghla 2.1.1. {/le} thòa man nguyén ly dò chéch lón vói hàm toc

dò / néu vói moi F G ^

— inf I(x) < lim inf £ log//e (r) < Hmsup£:log/X£(r) < - inf/(x).

(2.1.4)

Ben phài va ben trai cùa (2.1.4) tUdng ùng dUdc goi là càn trén dùng

va càn duói dùng.

Chù y: 1. Chù y ràng trong (2.1.4) B khòng nhat thiét là a-truòng

Borei. Nhu vày ò day eó su tàch biét giùa tàp trén dò co dò do xàc suit

va tàp già tri bi chàn.



12



2. Càc càu " /Xe thòa man LDP " dude su dung de viét tàt cho > £

thòa man LDP vói hàm toc do I".

Rò ràng là néu fi^ thòa man LDP vkT e B sao cho

i n f / ( x ) = inf/(x) = /r.



(2.1.5)



Khi dò

limelog/i,(r) = -Ir.



(2.1.6)



Tap r thòa man (2.1.5) dUdc gpi là tap / lién tue. Nói chung, nguyén

ly dò chéch lón bao hàm dò chinh xàc giói han trong (2.1.6) cho tap /

lién tue.

Già su / là mot hàm toc dò va ipj{a) là tàp mùc cùa no. Khi do

(2.1.4) tifdng dudng vói giói han sau day:

(a) (Càn trén dùng) Vói mpi a < oc va vói mpi tàp do diTdc F vói



r e Mc^Tlimsupe:log//e(r) < —a.



(21-7)



e—>0



(b) (Càn duói dùng) Vói mpi x G P / va vói mpi tàp do dUdc F vói

XGF^:



liminf£log/i,(F) > - / ( x ) .



(2.1.8)



Khi B;^: e B, LDP tiTdng diTdng vói càc giói han sau:

(a) (Càn trén dùng) Vói mpi tap dóng F C X:

lìmsupe log fie{F) < - inf/(x).

e—»0



(2.1.9)



xeF



(b) (Càn duói dùng) Vói mpi tàp mò G C ;\:':

liminf £log/i,(G) > - inf /(x).

£—•0



(2.1.10)



xeG



Trong nhicu truòng bop, mot hp dém dUdc càc dò do fin dUde xem

xét (vi du khi /in là luàt trung bình thuc nghiém cùa n bién ngàu nhién).



13



Khi dò LDP tUdng ùng dUdc phàt bieu nhu sau

- inf /(x) < lim infanlpg/in(r) < lim supanlog/i„(r)

x€l



n—•oo

" —



n—>oc



^



(2.1.11)



< - inf/(x) V {an},an ^ 0 khi n — oo.

^

Chù y ràng ò day a„ thay thè cho e cùa (2.1.4) va tUdng ùng vói càc

phàt bieu tu (2.1.7) dén (2.1.10) dUde sua dói cho thich hdp.

Ta thóng n h i t quy Uóe a^ = - va /z^ = Ma-M - J • Ò day, a~^ ki hiéu

n

\n/

nghich dào cùa n i—>• a„.

B ò d e 2.1.2. Cho N là mot so nguyén co dmh. Khi dò vói moi a^ > 0

N



limsup£:log( > a^) = max hmsupeloga!.-



(2.1.12)



Chùng minh. Truóc hét ta chù y rang vói mpi e:

N



0 < £ log( V ^ al) — max e log al < e log A'".

^^-^



\


1=1



Vi N co dinh, e log A'" ^ 0 khi £ -^ 0 va do dò

limsup max slogai. = max Hmsups Ioga!..

£^0



l


\


e-^Q



D

Dinh nghla 2.1.3. Già su rang mpi tàp con compact cùa X thuòc B.

Mot hp càc dò do xàc suit {//J dudc gpi là thòa man LDP yéu vói hàm

toc dò / néu càn trén dùng cùa (2.1.7) dùng vói mpi a < oc va mpi tàp

con cpmpact cùa ipi{aY, va càn duói dùng cùa (2.1.8) dùng vói mpi tàp

dp dUdc.

Dò là dièu quan trpng de nhàn ra ràng hp càc dò do xàc suit do dUde

thòa man LDP yéu vói hàm tèe dò tòt nhung nò khòng thòa man LDP

dù. Vi du fie là dò do xàc suit suy bién tai - . Hp này thòa man LDP

yéu trong R vói hàm toc dò tòt /(x) = oo, mat khàc nò khòng khó de

14



chùng minh ràng /x^ khòng thòa man LDP vói hàm này hay vói mpi hàm

toc dò khàc.

7



Chù y: 1. 0 day néu /le thòa man LDP yéu hoàc /ie là chat mù néu nò

sé dUóc mac nhién già dinh ràng càc tàp con compact cùa X thuòc B.

2. Rò ràng, cho {//J là chat mù, nò phài thòa man K^ compact dùng

cho (1.1.3).

B ò d e 2.1 A. Cho {fie} là mot ho chat mù.

(a) Néu càn trén dùng cùa (2.1.7) dùng vói moi a < oo va vói moi tap

con compact cùa '^/(a)^, khi do no cùng dùng cho mot tap do duac T

vói r C ì}ji{ay. Dàc biét néu B^ ^ B va càn tren dùng cùa (2.1.9)

dùng cho moi tàp compact, khi dò no cùng dùng cho moi tap dóng.

(h) Néu càn duói dùng cùa (2.1.8) (càn duói dùng cùa (2.1.10) trong

truòng hóp B^ C B) dùng cho moi tàp do duac (moi tàp mò). Khi

dò /(•) là hàm toc dò tòt.

Do vày, khi mot ho chat mù cùa ho càc do do xàc suàt thòa man LDP

yéu vói hàm toc do /(•) thi I là hàm toc do tòt va LDP dùng,

Chùng minh. Chùng ta xem xét tnròng hdp tòng quàt, bao gòm cà



B^CB.

(a) De thiét làp (2.1.7) ta eó dinh mot tàp T e B vk a < oc sao cho

F C Ì^[{aY. Cho Ka là mot tàp compact trong (1.1.3). Chù y ràng

T n Ka e B vk Ka' e B. RÒ ràng

/ie{r)



TnKaC



i)i(aY do



inf



< /is{T n Ka) +



M^al



/(x) > a. Két hdp vói bit dàng thùc (1.1.3),



xeTr\Ka



_



càn trén dùng cùa (2.1.7) dùng elio mpi tàp compact F n Ka va Bò de

2.1.2. Tu dò suy ra

limsup£log//.(F) <



-a.



e-»0



(b) Ap dung càn duói dùng (2.1.8) cho tàp mò Ka' G B. két luàn tu

(1.1.3) ràng \ni J(x) > a. Do dò ^pi(a) C Ka ticn hành tu tàp khòng

15



compact cùa tàp dóng mùc ipi{a). Làp luàn này dùng cho a < oo va sau

dò /(•) là hàm toc dò tòt.

•



2.2



D i n h ly S a n o v



2.2.1



Dinh ly Sanov



Cho P^ kì hieu cho luàt xàc suit /i^+ lién két vói mot day hùu han càc

bién ngàu nhién (b.n.n) cùng phàn phói {Yj}, /i e A/i(E).

»



_



V



B ò d e 2.2.1. Néu y G Tn{j) vói moi 7 G Cn, khi dò

p^((yi,...,yn) = ?/) = e-"i^w^^(^i'^)i.



Chiìng minh. Dò do thue nghiém ngàu nhién L^ tàp trung trén kiéu

j E Cn ma E-y C E^, nghla là Ili-yl/i) < 00. Do dò khòng giàm tòng

quàt già su ràng L^ = 7 va E-^ C E^. Khi dò



PM(m>->>^n)=?/) = n^(^^)"'^"'^ = ^""[//(7)+//(7lM)j

1= 1



trong dò

H(j) + //(7|/i) = - ^ 7 ( a . ) log/i(a,).

2= 1



Dàc biét vi



H{/L\II)



= 0 vói mpi /i e Cn va y G Tn[/-L) nén



P,((>l,...,>^n) = ?/) = e-"^^^).



(2.2.1)

D



Bó de 2.2.2. VÓI moi 7 G £„; (n + l)-l^le"^(^) < 1T,(7)| < e"^^^).

Chicng minh. Theo P^ kiéu lóp co xàc suit tai moi diém là bang nhau.

Do vay vói mpi 7 G Cn, theo (2.2.1)

1 > P,{Ll = 7) = A((Vi



K.) e T„(7)) = e-""'^* • |7;(7)|.

16



Tu dò suy ra càn trén dùng cùa |Tn(7)|. Bay giò, ta chuyén sang

chùng minh càn duói dùng. Cho 7' G Cn sao cho Ey C E^, va de thuàn

tién ve ki hiéu ta giàm E sao cho Ey = E. Khi dò



i=\



l^|(n7(a.))! ^^^^^

m\ ( l \ ^"'^

Biéu dién cuòi cùng là so hang co dang ^ r ( ~ ) • Xét triròng hdp

.



7



riéng biét là m > / va m < /, suy ra

m!



>r-',



^m,l^7L^.



t.



Do do, tién hành dàng thùc triróc



Chù y ràng P^(Ll = 7') > 0 chi khi Ey C E. va -r' G £,,. Do vày



PJLl = ^^)>P,{Ll = i).

7

Dodo

1 = Y. ^^^^^n = 7 ) < Knl • P.(Lr = 7) = K.I • e-"^^^) • |T„(7)I

7'e£n

''



,



V



va càn duói dùng cùa \Tn{-r)\ suy ra tu phàn (a) cùa bò de 1.2.2.

BÓ de 2.2.3. (Xàc suàt dò chéch lón) Vói moi -j e Cn ta co

(n + i)-lsie-'^(-i^) < P^{Ll = 7) < e-"^^^!'^).

DAI HOC Q U ^ ' ' - ' ^ ' ^ ^ ' ^ ^ .



17



D



Chùng minh. Theo bo de 2.2.1

P,iLl



= 7) = \Tnh)\PMYu



...,Yn) ^y.Ll



= 7)



= |T„(7)| .e-"[^(^)+-^(^l'^)].

Ap dung bp de 2.2.2 suy ra dièu phài chùng minh.



D



Dinh ly 2.2.4. (Sanov) Vói moi tap F cùa vector xàc suàt trong i\/i(E),

- inf //(7|/i) < lim inf ilogP^(L^ G F)

76ro



n^oo



n



^



< lim sup - log P^(Ll G F) < - inf



n->oo



n



7er



H{-Ì\/Ì).



0 day, F° là phàn trong cùa F dùdc xem nhu mot tap con cùa R'^L

Chùng minh. Truóc hét tu Bo de 2.2.3, càn trén dùng va càn duói dùng

cho n hùu han dUòe suy ra. Theo càn trén dùng cùa Bo de 2.2.3,



P.iLler)^



Yl PÀLl = i)< E <^""''*'

,„



^ ,



-^



<\VV\Cn\-e



inf



H{'^\u)



.



,|T-| —n



^ernz:„ ''"^^ < (n + l)l^le



inf



//(7|/i)



-^^-^"

(2.2.3)



76rn£„



7ern£„

^ IVI - n



> (n + l)"l^le



inf



H{j\fi)



^^^"^"

(2.2.4)



Vi hm -log(n-h 1)'^' = 0, liy giói han logarit chuan cùa (2.2.3) va

n—»c« n



(2.2.4)



lim sup i log P^(L^ e n = - lim inf( inf H{-f\/i)]

n-^00 n

^^ "

n—oc i.-yernr^

>



(2.2.5)



lim inf i log P^(L^ e F) - - lim supj



(2.2.6)



va



18



inf



II{i\/i)].



Tu dò suy ra càn trén dùng cùa (2.2.2) vi F D £„ C F vói moi n. Bàv

giò ta chùng minh cho càn duói dùng cùa (2.2.2) . Ta eó dinh mot diém

7 tùy y trong phàn trong cùa F sao cho E.^ C E^. Khi dò, vói (5 > 0 dù

nhò {V : d^(-f,i) < 6} dUdc chùa trong F. Do vày theo phàn (b) cùa

Bo de 1.2.2, ton tai mot day 7^ G F n >C^ sao cho 7^ -^ 7 khi n ^ 00.

Hdn nùa khòng giàm tong quàt, ta co thè già su ràng E^^ C E^, va do

dò

n



•oo



^ 7 t i I IJL„



n—*oc



J



Nhàc lai ràng H{j\/i) = 00, vói mpi i G {1, 2,..., |E|}, 7(0,) > 0 trong

khi ii{ai) = 0. Do vày theo bit dàng thùc truóc, ta eó

- n--oo supl17ern£n Hh\ii)\ j > - ^^po Nhìa)

Hm

inf

inf

^ i*"^ ^ ^^^

va càn duói dùng cùa (2.2.2) suy ra bòi (2.2.6).



2.2.2



D



D ò chéch lón cho phu'dng p h à p lày m à u khòng

h o à n lai



Pham vi cùa phudng phàp kiéu khòng dUde giói han cho dò chéch

lón cùa dò do thuc nghiém eùa b.n.n cùng phàn phói. Vi du. khi xem

xét càc thiét làp cùa phUdng phàp liy màu khòng hoàn lai. mot thù

tue pho bién trong nhièu vin de thóng ké. Tu màu ban dàu, góp lai m

so bang phàn biét, y = (?/i, ...,ym)- Mot n-bò y := (yt,, •••, ?/iJ là mot

phudng phàp liy màu khòng hoàn lai, cu thè là, chi so {zi, ...,in} d^óc

chpn ngàu nhién sao cho mòi tàp n phàn tu phàn biét cùa {1.2, ...,m}

eó khà nàng bang nhau.

Già su ràng, vói mpi 77?, {YI'^\ ...,?/L^^) là càc phàn tu cùa tàp hùu

han E - {ai, ••., a|E|}- Hdn nùa, già su ràng m = m{n) va khi n ^ 00

vector



19



hòi tu ve do do xàc suàt fi e Mi (E). Nhàc lai ràng

-



m



z = l,2,...,|E

3=1



Già su thém rang Y là mot vector ngàu nhién thu dUdc bang càch

liy ngàu nhién khòng hoàn lai cùa n trong m phàn tu phàn biét dà cho.

Mot dièu tra dUde làm tiép eùa LDP cho dò do thue nghiém ngàu nhién

L^ lién két vói vector Y. Dàc biét, tUdng tu dinh ly Sanov dUde thành

làp cho m = m{n) va



lim ( ^ ) =P,

n-* 00



m{n)

V m n



0


/



Xem xét cho hàm tèe dò



1-/3, //i-/?7



//(7|/x) + ^ ^ ^ ( T ^ TP ^ )

I



" ^ ^ " ^ - ^ ^ ^ ' ^'

^ ^^

^^^



00



/(7l/?,/i)



khàc.



(2.2.7)

Nhàn thày ràng, khi /? -> 0, hàm toc dò l{-\0,ii) tiép càn tói hàm

//(•|/i), trong khi /? ^ 1, mièn xàc dinh cùa 7 cho /(7I/?,/i) < oc de dò

do ddn 7 = /i. Dièu này phàn ành viéc giàm so lUdng ngàu nhién nhung

P tàng. Chù y ràng L^ thuòc tàp £„, co nhóm xàc suàt bang n theo Bò

de 2.1.2. Hdn nùa, du doàn sau day cùa dò chéch lón cho L^ thu dUde

bòi tó hdp càc phàn tu.

B ò d e 2.2.5. Vói moi vector xàc suàt -y e Cn-'

(a) Néu l(j



—, L ^ ) < oc, khi dò

n



Y



-\ogP{rZ = j) + l(i

n

^ ra



< 2(|E| + 1)



log(m + 1)

n



(h) Néu 7 ( 7 - , L ^ ) = 00, khi dò

P(Ll



= 7) = 0.

20



(2.2.8)



Chùng mmh. Theo phUdng phàp liy màu khòng hoàn lai, xàc suit cùa

bién eó {L^ = 7} cho 7 G £„ là só chình xàc cùa n-bò ii ^ 12^" • • • ^ in



^ l'miniai)

n-f{ai)



i=l



P{Ll = 7)



(2.2.9)



m

n

Mot ùng dung cùa Bò de 2.2.2 cho |E| = 2, ò day |T„(7)| = | n | khi

k

7(^1) = - ) l((^2) = 1

n

max log

0


k

, két qua trong

n

(2.2.10)



L)-"^(SI=^2'°S("+^)



ò day H(p) :— —plogp— (1 — p) log(l — p). Càch khàc, (2.2.10) sau day

bòi còng thùc Stirling's. Két hdp (2.2.9) va càn trén dùng (2.2.10) diTdc

két qua



i log p(Lr=7) - E ^ ^ ^ ^ ^ / / ( ^ # ; ^ + - / / ( - ) )

n

< 2 ( | E | + 1)



^^

n

log(mi=ì 1)

+



\mL^{ai)



n



<



Vm//



n



(2.2.11)



(b) Chù y ràng:

l(^ —, Ll^ = oo <^ n^{a^) > m[Zia^),

\



TU



Va, G E.



/



Khi dò, già su theo phUdng phàp lày màu khòng hoàn lai, ta co

Li - 7, vi

nLl{a^) < inlZia^)

D



vói mpi a» G E.

21



H e qua 2.2.6. Vói m -



m{n),



limsup-logP(L;^GF) = - liminfj



inf



(2.2.12)



I ( ^ - ^ L I ] \



va

lim inf i log P ( L ^ G F ) = - lim s u p j inf 7 ( 7 - , L ^ ) ) .

n-00

n

n^oG

l7ern£„ \ m

J)



(2.2.13)

'



B ò d e 2.2.7. Chopne (0,1),/z„ và7„ G Mi (E) sao cho Pn-^ p e (0,1)

va fin ^^ fJ' khi n —• 00.

>

(a) Néu ^n^l



va /(7n|/?n, Mn) < O vói moi n dù lón. Khi dò

O

l i m /(7n|/?n,Mn) =



J(l\P,ll)-



n—•oc



(^6^ A/'en I{'y\p,fi)



< cx), /:/iz cfd idn tai mot day {7^} 5ao cho 7^ G /^n;



7n ^ 7 ^^

lim /(7n|/?n,/^n) = / ( 7 | / 5 , / i ) .

n—>oo



Chùng minh. Vi /(7n|/?n5/^n) < oc vói mpi n dù lón. Khi dò

l^nidi) >



PnlnM



vói mpi a, G E. Theo (2.2.7)

1

I{ln\Pn.lin)



= ^H(fin)



Pn



- H(^n)



"



^



^



(



^



T



^



)



và /(7„|/?n,/in) -> / ( 7 | / ? , M ) vi //(•) là lién tue trén A/i(E) va {3n] bi

chàn bòi 0 và 1.

(b) Truóc hét xét 7 G A/i(E) ma

mm{fi{ai)-Pi{a,))>Q.



(2.2.14)



Theo phàn (b) cùa Bò de 1.2.2, ton tai 7n e Cn sao cho ->„ - - khi

n -^ 00. Do dò, bàt dàng thùc (2.2.14) bao hàm ràng vói n dù lón

min{/in(at) - Pnln{ai)} > 0



22