Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (23.47 MB, 60 trang )
Nói chung, E^ co the là tàp con thuc su cùa E. Khi xem xét dò do
riéng p, khòng giàm tong quàt ta co thè già su E^ = E bang càch bò
qua nhùng ki hiéu cho ràng xàc suit bang 0.
Dinh nghia 1.2.1. Kièu L^ cùa mot day hùu han y = (yi, ?/2, ••, ^n)
thuòc E" là dò do thuc nghiem càm sinh bòi day này. Rò ràng
L^ = (L^(ai),...,L^(a|^,))
là càc phàn tu cùa Afi(E), ò day
Ll{ar) = -J2Kiyj),
i = l,2,...,|El.
Tue là, L^(ai) là tàn so xuit bién cùa aj trong day yi, ...,?/„•
Cho Cn kì hiéu tàp t i t cà càc kiéu cùa day co dò dai n. Do dò
Cn-{iy-.1^ = 11 Vy}cRl^l
va do do thuc nghiém L^ hén két vói day T = ("Ki, ....Yn) là day càc
phàn tu ngàu nhién cùa £„.
"^
_
N
Bò de 1.2.2. (a) \Cn\ < (n + 1)1^1.
(h) Vói moi vector xàc suàt 7 G A/i(E),
ci,(7;£,)-inf(i,(7,7')<^-
(1-2.1)
Trong dà 6^^(7,7') = sup[7(yl) - 7'(^)] là khoàng càch bién phàn
Aci:
giUa do do 7 va •y'.
Chiùng minh. Chù y ràng moi thành phàn cùa vector V^ thuòc vào tàp
1^, ^,..., ^ | . Fuc luóng cùa tàp này bang (n + 1).
Phàn (a) cùa bó de dude suy ra tu dièu sau day: vi vector l'^ dUdc
quy dinh bòi it nhàt so ludng cùa |E|.
De chùng minh phàn (b) ta thày ràng £„ chùa tàt cà càc vector xàc
suit thành phàn cùa |E| thiét làp tìf tàp ( - , ^,..., ^ 1 Do dò vói moi
7 e A/i(E), ton tai 7' € £ „ vói \j{a^) - y{ai)\ < J Vi = 1,2,..., |E|.
Chàn cùa (1.2.1) dUdc suy ra tu tình hùu han cùa E.
1 ""
1=1
D
Chù y:
(a) Vi L^ là mot vector xàc suàt dUdc quy dinh bòi |E| - 1 thành phàn
va do vày
|>C.|<(n-f 1)1^1-1.
(b) Bó de 1.2.2 biéu dién lue ludng cùa tap £„, già cùa dò do thuc
nghiem ngàu nhién L^. Cà hai tình chit dèu sai khi |E| = 00.
Dinh nghla 1.2.3. Fóp kiéu Tni'y) eùa luàt xàc suit 7 6 £„ là tàp
Tnii) = {y e r^ : L^ = ^}.
Chù y ràng mot lóp kiéu bao gom càc hoàn vi cùa càc vector trong tap
dinh nghla sau day, quy iróc OlogO := 0 va Olog - := 0.
Dinh nghla 1.2.4. (a) Entropy cùa mot vector xàc suàt 7 là
^ ( 7 ) : = - ^ 7 ( ^ 2 ) log 7(^1).
(b) Entropy tirdng dói cùa mot vector xàc suàt 7 vói mot vector xàc
suàt khàc fi là
Chù y: Bang càch àp dung b i t dàng thùc Jensen's dói vói hàm lèi
a:Ioga:, ta ehi ra rang H{-\ÌL) là khòng àm. Chù y ràng / / ( » là hùu han
va lién tue trén tàp compact {7 G A/i(E) : E^ C E^}. Bòi vi xlogx là
lién tue vói 0 < .r < 1. Hdn nùa //(-[/i) là hàm toc dò tòt.
1.3
P h é p bién dói Fenchel-Legrendre
Cho Xi, X2,..., Xn là day bién ngàu nhién dòc làp, cùng phàn phói
d-chièu, vói Xi cùng phàn phói vói p e A^i(R^). //„ kì hieu cho luàt cùa
1 "
Sn := — y Xj
Foga cùa hàm sinh moment lién quan dén luàt xàc suit fi dudc dinh
nghia là
A(A) :=logAf(A) : = l o g E
(1.3.1)
Òday < X,x >:= Yl ^^^^ là tìch vò huóng trong R^, x^ là toa dò thù
j cùa X. Tén goi chung cho A(-) là hàm sinh tìch lùy, |x| = >/< x,x >
là chuàn Euclide. Chù y ràng A(0) = 0, trong khi A(A) > - 0 0 vói mgi
A, eó thè già su A(A) = 00. Cho /in ki hi^u cho dò do xàc suit cùa S^
va X := ^'[Xi]. Khi x tèn tai va huu han, va E[\Xi — xp] < 00. Khi dò
n
^ X khi n —• 00 vi
>
E[|4 - 5|'j = ^ E ^[l^^ - 5^1'] = -El\X, - xf] "-=2?0.
n^ ^—'
n
Do dò trong truòng hdp này Pn{F) —^ 0 khi n ^ 00 vói moi tàp dóng
F sao cho X ^ F.
D i n h nghia 1.3.1. Bién dòi Fenchel-Fegendre cùa A(A) là:
A*(x) := sup{< A,x > -A(A)}.
BÓ de 1.3.2. (a) A là hàm lèi va A* là hàm toc dò lèi.
(h) Néu D^ = {0}, khi dò A* dèng nhàt 0. Néu A(A) < 00 vói moi
A > 0, khi dò X < 00 (ed thèx — -00y) va vói mgi x > x,
A*(x) = sup|Ax-A(A)]
A>0
(1.3.2)
vói moi X > X, là hàm khòng giàm. Tuang tu néu A (A) < ce vói moi
A < 0, khi dóx> - o o (co thèx = oo^, vói moi x
A*(x) = sup[Ax-A(A)]
(1.3.3)
À<0
vói moi X
luòn co inf A*(x) = 0.
(c) A(-) là khà vi tren Dj vói A'irj) = —^E[Xie"^^] va A'{r]) = y suy
ra
A*{y) = ny-A{r]).
(1.3.4)
Chtìng minh. (a) Tình lèi eùa A sau day suy ra tu bit dàng thùc Holder's
vi
A(^Ai 4- (1 - e)X2) =
\ogE{{e^'^'f{e^'^'Y^-^^]
< \oglEle^'^'fE[e^'^'f-^A
= 6'A(Ai) + (1 - ^)A(A2)
vói moi 9 G [0,1]. Tình lèi eùa A* suy ra tu dinh nghla vi
OA*{xi) + (1 - 6')A*(x2) - sup{^Axi - ^A(A)}+
+ sup{(l-^)Ax2-(l-^)A(A)}
> sup{(^xi + (1 - ^)X2)A - A(A)}
XeR
= A*{exi +
{ì-9)x2)
ma A(0) = logE[l] = 0, do vày A*(x) > Ox - A(0) = 0 là khòng àm.
Ta chùng minh A* là nùa lién tue duói va do dò là hàm tèe dò. Co dinh
mOt day {xn} -^ x. Khi dò vói moi A G R,
lim inf A*(x„) > lim inf[Axn - A(A)] = A*(x).
x„—»I
(b) Néu
DA
Xn—•X
= {0}, khi dò A*(x) = A(0) = 0 vói mpi x G R. Néu
A(A) = log A/(A) < oo
8
vói moi A > 0.