Chương 1. Các kiến thức chuẩn bị

va chi néu

lim inf/(xn) > /(x),

Xfi



"ixeX.



^x



D i n h nghia 1.1.2. Cho hàm toc do / va vói moi 6 > 0, (5-hàm toc dò

dUdc dinh nghla là

l\x):=mm!^T{x)-6,^y



(1.1.1)



Trong truòng hdp tong quàt nói chung I^ khòng là hàm toc dò, trù

khi nò dudc su dung tu truòng hdp. Vói moi tàp F,

liminf/'^(x) = inf/(x).



(1.1.2)



D i n h nghla 1.1.3. Già su vói mpi tap con compact cùa X ^ B. Mot

hp càc dò do xàc suàt {fie} trén X là chat mù néu vói mpi a < oc, ton

tai mot tap compact K^ C X sao cho

limsup^log^f(/^^) < - a .



(1.1.3)



e—>0



1.2



K y t h u à t t ò h d p cho bang chiJ cài hù'u

han



Trong suót phàn này, tàt cà càc bién ngàu nhién già su nhàn già tri

trong tap hù'u han E = {ai, a2,..., a/v}- S cùng dildc gpi là bang chù cài

ed bàn thòa man |E| = A^. 0 day vói moi tàp Ti, |.4| kì hiéu cho lue ludng

hoàc so phàn tu cùa A. Già su A/i(E) là ki hiéu cho khòng gian cùa t i t

cà càc dò do xàc suit (luàt xàc suit) trén bang chù cài E. 0 day A/i(E)

dUdc xàc dinh vói xàc suit tiéu chuan ddn gian trén R'^', tàp hdp cùa

t i t cà càc vector thuc |E| chièu vói càc thành phàn khòng àm va co tòng

bang 1. Càc tàp mò trong A/i(E) là rò ràng cho bòi càc tàp mò trong

Rl^l.

Cho Fi, V2, •••, K là day càc bién ngàu nhién dòc làp cùng phàn phói

vói luàt n e A/i(E). Cho E^ là ki hiéu cho già cùa luàt /i, tue là

E^ = {a, : /i(a,) > 0}



Nói chung, E^ co the là tàp con thuc su cùa E. Khi xem xét dò do

riéng p, khòng giàm tong quàt ta co thè già su E^ = E bang càch bò

qua nhùng ki hiéu cho ràng xàc suit bang 0.

Dinh nghia 1.2.1. Kièu L^ cùa mot day hùu han y = (yi, ?/2, ••, ^n)

thuòc E" là dò do thuc nghiem càm sinh bòi day này. Rò ràng

L^ = (L^(ai),...,L^(a|^,))

là càc phàn tu cùa Afi(E), ò day



Ll{ar) = -J2Kiyj),



i = l,2,...,|El.



Tue là, L^(ai) là tàn so xuit bién cùa aj trong day yi, ...,?/„•

Cho Cn kì hiéu tàp t i t cà càc kiéu cùa day co dò dai n. Do dò



Cn-{iy-.1^ = 11 Vy}cRl^l

va do do thuc nghiém L^ hén két vói day T = ("Ki, ....Yn) là day càc

phàn tu ngàu nhién cùa £„.

"^



_



N



Bò de 1.2.2. (a) \Cn\ < (n + 1)1^1.

(h) Vói moi vector xàc suàt 7 G A/i(E),

ci,(7;£,)-inf(i,(7,7')<^-



(1-2.1)



Trong dà 6^^(7,7') = sup[7(yl) - 7'(^)] là khoàng càch bién phàn

Aci:



giUa do do 7 va •y'.

Chiùng minh. Chù y ràng moi thành phàn cùa vector V^ thuòc vào tàp

1^, ^,..., ^ | . Fuc luóng cùa tàp này bang (n + 1).

Phàn (a) cùa bó de dude suy ra tu dièu sau day: vi vector l'^ dUdc

quy dinh bòi it nhàt so ludng cùa |E|.

De chùng minh phàn (b) ta thày ràng £„ chùa tàt cà càc vector xàc



suit thành phàn cùa |E| thiét làp tìf tàp ( - , ^,..., ^ 1 Do dò vói moi

7 e A/i(E), ton tai 7' € £ „ vói \j{a^) - y{ai)\ < J Vi = 1,2,..., |E|.

Chàn cùa (1.2.1) dUdc suy ra tu tình hùu han cùa E.

1 ""

1=1



D

Chù y:

(a) Vi L^ là mot vector xàc suàt dUdc quy dinh bòi |E| - 1 thành phàn

va do vày

|>C.|<(n-f 1)1^1-1.

(b) Bó de 1.2.2 biéu dién lue ludng cùa tap £„, già cùa dò do thuc

nghiem ngàu nhién L^. Cà hai tình chit dèu sai khi |E| = 00.

Dinh nghla 1.2.3. Fóp kiéu Tni'y) eùa luàt xàc suit 7 6 £„ là tàp



Tnii) = {y e r^ : L^ = ^}.

Chù y ràng mot lóp kiéu bao gom càc hoàn vi cùa càc vector trong tap

dinh nghla sau day, quy iróc OlogO := 0 va Olog - := 0.

Dinh nghla 1.2.4. (a) Entropy cùa mot vector xàc suàt 7 là

^ ( 7 ) : = - ^ 7 ( ^ 2 ) log 7(^1).



(b) Entropy tirdng dói cùa mot vector xàc suàt 7 vói mot vector xàc

suàt khàc fi là



Chù y: Bang càch àp dung b i t dàng thùc Jensen's dói vói hàm lèi

a:Ioga:, ta ehi ra rang H{-\ÌL) là khòng àm. Chù y ràng / / ( » là hùu han

va lién tue trén tàp compact {7 G A/i(E) : E^ C E^}. Bòi vi xlogx là

lién tue vói 0 < .r < 1. Hdn nùa //(-[/i) là hàm toc dò tòt.



1.3



P h é p bién dói Fenchel-Legrendre



Cho Xi, X2,..., Xn là day bién ngàu nhién dòc làp, cùng phàn phói

d-chièu, vói Xi cùng phàn phói vói p e A^i(R^). //„ kì hieu cho luàt cùa

1 "

Sn := — y Xj



Foga cùa hàm sinh moment lién quan dén luàt xàc suit fi dudc dinh

nghia là

A(A) :=logAf(A) : = l o g E

(1.3.1)

Òday < X,x >:= Yl ^^^^ là tìch vò huóng trong R^, x^ là toa dò thù

j cùa X. Tén goi chung cho A(-) là hàm sinh tìch lùy, |x| = >/< x,x >

là chuàn Euclide. Chù y ràng A(0) = 0, trong khi A(A) > - 0 0 vói mgi

A, eó thè già su A(A) = 00. Cho /in ki hi^u cho dò do xàc suit cùa S^

va X := ^'[Xi]. Khi x tèn tai va huu han, va E[\Xi — xp] < 00. Khi dò

n



^ X khi n —• 00 vi

>



E[|4 - 5|'j = ^ E ^[l^^ - 5^1'] = -El\X, - xf] "-=2?0.

n^ ^—'



n



Do dò trong truòng hdp này Pn{F) —^ 0 khi n ^ 00 vói moi tàp dóng

F sao cho X ^ F.

D i n h nghia 1.3.1. Bién dòi Fenchel-Fegendre cùa A(A) là:

A*(x) := sup{< A,x > -A(A)}.

BÓ de 1.3.2. (a) A là hàm lèi va A* là hàm toc dò lèi.

(h) Néu D^ = {0}, khi dò A* dèng nhàt 0. Néu A(A) < 00 vói moi

A > 0, khi dò X < 00 (ed thèx — -00y) va vói mgi x > x,

A*(x) = sup|Ax-A(A)]

A>0



(1.3.2)



vói moi X > X, là hàm khòng giàm. Tuang tu néu A (A) < ce vói moi

A < 0, khi dóx> - o o (co thèx = oo^, vói moi x
A*(x) = sup[Ax-A(A)]



(1.3.3)



À<0



vói moi X
luòn co inf A*(x) = 0.

(c) A(-) là khà vi tren Dj vói A'irj) = —^E[Xie"^^] va A'{r]) = y suy

ra

A*{y) = ny-A{r]).

(1.3.4)

Chtìng minh. (a) Tình lèi eùa A sau day suy ra tu bit dàng thùc Holder's

vi

A(^Ai 4- (1 - e)X2) =



\ogE{{e^'^'f{e^'^'Y^-^^]



< \oglEle^'^'fE[e^'^'f-^A



= 6'A(Ai) + (1 - ^)A(A2)



vói moi 9 G [0,1]. Tình lèi eùa A* suy ra tu dinh nghla vi

OA*{xi) + (1 - 6')A*(x2) - sup{^Axi - ^A(A)}+

+ sup{(l-^)Ax2-(l-^)A(A)}

> sup{(^xi + (1 - ^)X2)A - A(A)}

XeR



= A*{exi +



{ì-9)x2)



ma A(0) = logE[l] = 0, do vày A*(x) > Ox - A(0) = 0 là khòng àm.

Ta chùng minh A* là nùa lién tue duói va do dò là hàm tèe dò. Co dinh

mOt day {xn} -^ x. Khi dò vói moi A G R,

lim inf A*(x„) > lim inf[Axn - A(A)] = A*(x).

x„—»I



(b) Néu



DA



Xn—•X



= {0}, khi dò A*(x) = A(0) = 0 vói mpi x G R. Néu

A(A) = log A/(A) < oo

8



vói moi A > 0.



Khi dò



OD

OD



M{X)



xd/i < — - — < 00

/



A



0

2 —



tue là X < oc (co the x = -CXD). Bay giò, vói mpi A 6 R, theo bàt dàng

thùc Jensen

A(A) = log£;[e^^^] > £;[loge^^^] = Xx.

Néu X = - o c , khi do A(A) = oc. Cho A < 0 va (1.3.2) hién nhién

dung. Khi X là hùu han, theo bàt dàng thùc triróc day suy ra A*(x) = 0.

Trong triròng hdp này, vói mpi x >x vk vói mpi A < 0

Xx - A(A)


A(A) < A*(x) = 0



suy ra (1.3.2). Tu do suy ra tình ddn dieu cùa A*(x) trén (x, oc), vi vói

mpi A > 0, Ax — A(A) là hàm khòng giàm nhir mot hàm so cùa x.

Khi A(A) < oc vói mpi A < 0, khi do cà (1.3.3) va tinh ddn dieu cùa

A* trén (—oo,x) difdc xem xét tu Ioga cùa hàm sinh moment cùa —X,

àp dung cho mot triròng hdp ddn giàn triróc.

Cuòi cùng ta chùng minh inf A*(x) = 0. Dièu nàv thòa man cho

xeR

D\ = {0}, X 6 M trong triròng hdp A* = 0 va khi x là hùu han, trong

truòng hdp này

A*(x) = 0.

Bay giò xem xét truòng hdp khi x = — C D trong khi A(A) < oc vói

X

moi A > 0. Khi dò theo b i t dàng thùc Chebyeheffs va (1.3.2)

log/i([x,oo)) < inf logE[e^(^i-^^] = - sup{Ax - A(A)} = -A*(x).

^>0



A>0



Dodo

lim A*(x) <

X—> —00



lim { - l o g / i ( [ x , o c ) ) } - 0

X—»—oo



va (1.3.3) sau day.

Truòng bop x = C D trong khi A (A) < oo vói moi A < 0 là òn dinh

X

theo Ioga eùa hàm sinh moment cùa —X.

(c) Ta co fe{x) =



hòi tu diém tói xe'^'' khi e ^ 0, vk

fe{x)



< —^

ó

9



:= h(x)

^^



vói mpi e e (-6,6), trong khi £;[|/i(Xi)|] < oo vói moi J > 0 dù nhò.

Cho A'{rj) ^ y vk xem xét hàm ^(A) := \y - A(A). VI g{-) là hàm lòm

va g'{r)) = 0, g{r]) = sup^(A) va (1.3.4) là thòa man.

D

XeR



BÓ de 1.3.3. Néu 0 G D^, khi do A* là mot hàm toc dò tot. Han nùa

néu DA — R, khi dò

hm —~^ = oo.



(1.3.5)



Chiing minh. 0 e D^, khi dò tèn tai A_ < 0 va A+ > 0 sao cho cà hai

nàm trong DA- Vi vói moi A G R

A*(x)

, . , , A(A)

> Asign X - - ^ .

\x\

\x\



—\^



Suy ra

A*fxì

lim i n f ^ - ^ > min{A+:-A_} > 0,

Ixl-oo



X'



Trong truòng hdp dàc biét A*(x) — 0 khi |x| ^ oo va tàp mùc là

>

dóng, bi chàn nén suy ra là tàp compact. Do dò A' là hàm toc dò tòt.

Chù y ràng (1.3.5) trén day DA — R duòe xem xét — A_ = A-|_ —• oo. D

>



10



Chu'dng 2



N g u y é n ly dò chéch lón

2.1

2.1.1



Giói thiéu nguyén ly dò chech lón

D ò chéch lón



Cho Xi,X2, ...,X„ là day bién ngàu nhién dòc làp, co phàn phói

1 "

"

chuàn A^(0,1) va nhan già tri thirc. Xét thuc nghiém 5^ = — y^ ^i- Khi

Ti .



1=1



do, Sn lai là mot bién ngàu nhién co phàn phòi chuàn vói k}^ vpng bang

0 va phifdng sai bang —. Do vày, vói moi < > 0, ta co

5

n

P{\Sn\ > ^) -^ 0



khi n -^ oc



(2.1.1)



va vói mpi A\

PiV^Sn e A ) ^ ^



f e~^dx



khi n ^ oc.



V 27r J

A



Ma ta lai co

P(|5„| > ^) ^ 1 - - i = /



11



e - f rfx.



(2.1.2)



Do vày

1

^

- log P{\Sn\>



6^

6)-^--



khi n ^ 00



(2.1.3)



hay là

P{\Sn\ >ó)^e~~



khin^oo.



Ta co (2.1.3) là mot vi du cùa dò chéch lón. Hòn nùa, cà (2.1.1) va

(2.1.2) van eó già tri khi ma càc bién ngàu nhién {Xi} dòc làp, cùng

phàn phói vói ky vong bang 0 va phudng sai bang 1. Vày (2.1.3) con

dùng hay khòng khi ma {X^} khòng eó phàn phói chuan? Va càu tra

lòi là lim - log P{\Sn\ > ó) luòn tèn tai va già tri cùa nò phu thuòc vào

n—»oo n



phàn phói cùa Xi.

Dò chéch lón nham nghién cùu chình xàc toc dò bòi tu dén 0 cùa

biéu thùc P{\Sn\ > 6).



2.1.2



Nguyén ly dò chéch lón



Nguyén ly dò chéch lón (ki hiéu là LDP) dàc trUng cho toc dò hòi

tu khi £: ^ 0 cùa mot ho dò do xàc suit {^^} trén (A', B) thòng qua mot

hàm tèe dò. Dàc trUng này thòng qua tiém càn trén va tiém càn duói

cùa giói h^n mù ma /ie giao vói càc tap con cùa X.

Dinh nghla 2.1.1. {/le} thòa man nguyén ly dò chéch lón vói hàm toc

dò / néu vói moi F G ^

— inf I(x) < lim inf £ log//e (r) < Hmsup£:log/X£(r) < - inf/(x).

(2.1.4)

Ben phài va ben trai cùa (2.1.4) tUdng ùng dUdc goi là càn trén dùng

va càn duói dùng.

Chù y: 1. Chù y ràng trong (2.1.4) B khòng nhat thiét là a-truòng

Borei. Nhu vày ò day eó su tàch biét giùa tàp trén dò co dò do xàc suit

va tàp già tri bi chàn.



12