Důkazy o konvergenci náhodných proměnných - Proofs of convergence of random variables

Tento článek obsahuje a seznam doporučení, související čtení nebo externí odkazy, ale jeho zdroje zůstávají nejasné, protože mu chybí vložené citace. Prosím pomozte zlepšit tento článek představuji přesnější citace. (Listopad 2010) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

Tento článek doplňuje „Konvergence náhodných proměnných “A poskytuje důkazy pro vybrané výsledky.

Několik výsledků bude dosaženo pomocí portmanteau lemma: Sekvence {X_n} konverguje v distribuci do X pouze za předpokladu, že je splněna některá z následujících podmínek:

1. E[F(X_n)] → E [F(X)] pro všechny ohraničený, spojité funkce F;
2. E[F(X_n)] → E [F(X)] pro všechny ohraničené, Funkce Lipschitz F;
3. limsup {Pr (X_n ∈ C)} ≤ Pr (X ∈ C) pro všechny uzavřené sady C;

Konvergence téměř jistě znamená konvergenci v pravděpodobnosti

${ displaystyle X_ {n} { xrightarrow {as}} X quad Rightarrow quad X_ {n} { xrightarrow {p}} X}$

Důkaz: Pokud {X_n} konverguje k X téměř jistě to znamená, že množina bodů {ω: lim X_n(ω) ≠ X(ω)} má nulu; označte tuto sadu Ó. Nyní opravte ε> 0 a zvažte posloupnost sad

${ displaystyle A_ {n} = bigcup _ {m geq n} vlevo { vlevo | X_ {m} -X vpravo |> varepsilon vpravo }}$

Tato posloupnost sad klesá: A_n ⊇ A_n+1 ⊇ ... a klesá směrem k televizi

${ displaystyle A _ { infty} = bigcap _ {n geq 1} A_ {n}.}$

Pro tuto klesající posloupnost událostí jsou jejich pravděpodobnosti také klesající posloupností a klesá směrem k Pr (A_∞); nyní ukážeme, že toto číslo se rovná nule. Nyní libovolný bod ω v doplňku Ó je takový, že lim X_n(ω) = X(ω), což znamená, že |X_n(ω) - X(ω) | <ε pro všechny n větší než určité číslo N. Proto pro všechny n ≥ N bod ω nebude patřit do množiny A_n, a následně nebude patřit A_∞. Tohle znamená tamto A_∞ je disjunktní s Ónebo ekvivalentně A_∞ je podmnožinou Ó a proto Pr (A_∞) = 0.

Nakonec zvažte

${ displaystyle operatorname {Pr} left (| X_ {n} -X |> varepsilon right) leq operatorname {Pr} (A_ {n}) { underset {n to infty} { rightarrow}} 0,}$

což podle definice znamená, že X_n konverguje v pravděpodobnosti k X.

Konvergence v pravděpodobnosti neznamená téměř jistou konvergenci v diskrétním případě

Li X_n jsou nezávislé náhodné proměnné za předpokladu hodnoty jedna s pravděpodobností 1 /n a jinak tedy nula X_n s pravděpodobností konverguje k nule, ale ne téměř jistě. To lze ověřit pomocí Lemata Borel – Cantelli.

Konvergence v pravděpodobnosti znamená konvergenci v distribuci

${ displaystyle X_ {n} { xrightarrow {p}} X quad Rightarrow quad X_ {n} { xrightarrow {d}} X,}$

Důkaz pro případ skalárních náhodných proměnných

Lemma. Nechat X, Y být náhodné proměnné, nechť A být reálné číslo a ε> 0. Potom

${ displaystyle operatorname {Pr} (Y leq a) leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (| Y-X |> varepsilon).}$

Důkaz lemmatu:

${ displaystyle { begin {zarovnaný} operatorname {Pr} (Y leq a) & = operatorname {Pr} (Y leq a, X leq a + varepsilon) + operatorname {Pr} (Y leq a, X> a + varepsilon) & leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (YX leq aX, aX <- varepsilon) & leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (YX <- varepsilon) & leq operatorname {Pr} (X leq a + varepsilon) + operatorname { Pr} (YX <- varepsilon) + operatorname {Pr} (YX> varepsilon) & = operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (| YX |> varepsilon) end {zarovnáno}}}$

Kratší důkaz lemmatu:

My máme

${ displaystyle { begin {zarovnáno} {Y leq a } podmnožina {X leq a + varepsilon } cup {| Y-X |> varepsilon } end {zarovnáno}}}$

pro jestli ${ displaystyle Y leq a}$ a ${ displaystyle | Y-X | leq varepsilon}$, pak ${ displaystyle X leq a + varepsilon}$. Proto je svaz vázán,

${ displaystyle { begin {aligned} operatorname {Pr} (Y leq a) leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (| YX |> varepsilon). end {zarovnáno}}}$

Důkaz věty: Připomeňme, že k prokázání konvergence v distribuci je třeba ukázat, že posloupnost kumulativních distribučních funkcí konverguje k F_X v každém bodě kde F_X je spojitý. Nechat A být takový bod. Pro každé ε> 0 vzhledem k předchozímu lemmatu máme:

${ displaystyle { begin {aligned} operatorname {Pr} (X_ {n} leq a) & leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} (| X_ {n } -X |> varepsilon) operatorname {Pr} (X leq a- varepsilon) & leq operatorname {Pr} (X_ {n} leq a) + operatorname {Pr} (| X_ {n} -X |> varepsilon) end {zarovnáno}}}$

Takže máme

${ displaystyle operatorname {Pr} (X leq a- varepsilon) - operatorname {Pr} left ( left | X_ {n} -X right |> varepsilon right) leq operatorname {Pr } (X_ {n} leq a) leq operatorname {Pr} (X leq a + varepsilon) + operatorname {Pr} left ( left | X_ {n} -X right |> varepsilon že jo).}$

Vezmeme-li limit jako n → ∞, získáváme:

${ displaystyle F_ {X} (a- varepsilon) leq lim _ {n až infty} operatorname {Pr} (X_ {n} leq a) leq F_ {X} (a + varepsilon) ,}$

kde F_X(A) = Pr (X ≤ A) je kumulativní distribuční funkce z X. Tato funkce je spojitá v A podle předpokladu, a tedy obojí F_X(A−ε) a F_X(A+ ε) konvergovat k F_X(A) jako ε → 0⁺. Vezmeme-li tento limit, získáme

${ displaystyle lim _ {n to infty} operatorname {Pr} (X_ {n} leq a) = operatorname {Pr} (X leq a),}$

což znamená, že {X_n} konverguje k X v distribuci.

Důkaz pro obecný případ

Důsledek následuje pro kdy X_n je náhodný vektor pomocí tato vlastnost se později ukázala na této stránce a tím, že Y_n = X.

Konvergence v distribuci na konstantu implikuje konvergenci v pravděpodobnosti

${ displaystyle X_ {n} { xrightarrow {d}} c quad Rightarrow quad X_ {n} { xrightarrow {p}} c,}$ pokud C je konstanta.

Důkaz: Opravte ε> 0. Let B_ε(C) být otevřený míč poloměru ε kolem bodu C, a B_ε(C)^C jeho doplněk. Pak

${ displaystyle operatorname {Pr} left (| X_ {n} -c | geq varepsilon right) = operatorname {Pr} left (X_ {n} v B _ { varepsilon} (c) ^ {c} vpravo).}$

Lematem portmanteau (část C), pokud X_n konverguje v distribuci do C, pak limsup druhé pravděpodobnosti musí být menší nebo rovné Pr (C ∈ B_ε(C)^C), což se samozřejmě rovná nule. Proto,

${ displaystyle { begin {aligned} lim _ {n to infty} operatorname {Pr} left ( left | X_ {n} -c right | geq varepsilon right) & leq limsup _ {n to infty} operatorname {Pr} left ( left | X_ {n} -c right | geq varepsilon right) & = limsup _ {n to infty} operatorname {Pr} left (X_ {n} v B _ { varepsilon} (c) ^ {c} right) & leq operatorname {Pr} left (c v B _ { varepsilon} (c) ^ {c} vpravo) = 0 konec {zarovnáno}}}$

což podle definice znamená, že X_n konverguje k C pravděpodobně.

Konvergence v pravděpodobnosti k posloupnosti konvergující v distribuci znamená konvergenci ke stejné distribuci

${ displaystyle | Y_ {n} -X_ {n} | { xrightarrow {p}} 0, X_ {n} { xrightarrow {d}} X quad Rightarrow quad Y_ { n} { xrightarrow {d}} X}$

Důkaz: Tuto větu dokážeme pomocí lemmatu portmanteau, část B. Jak je v tomto lematu požadováno, zvažte jakoukoli omezenou funkci F (tj. |F(X)| ≤ M) což je také Lipschitz:

${ displaystyle existuje K> 0, forall x, y: quad | f (x) -f (y) | leq K | x-y |.}$

Take some ε> 0 and majorize the expression | E [F(Y_n)] - E [F(X_n)] | tak jako

${ displaystyle { begin {zarovnáno} left | operatorname {E} left [f (Y_ {n}) right] - operatorname {E} left [f (X_ {n}) right] right | & leq operatorname {E} left [ left | f (Y_ {n}) - f (X_ {n}) right | right] & = operatorname {E} left [ left | f (Y_ {n}) - f (X_ {n}) right | mathbf {1} _ { left {| Y_ {n} -X_ {n} | < varepsilon right }} right] + operatorname {E} left [ left | f (Y_ {n}) - f (X_ {n}) right | mathbf {1} _ { left {| Y_ {n} - X_ {n} | geq varepsilon right }} right] & leq operatorname {E} left [K left | Y_ {n} -X_ {n} right | mathbf {1 } _ { left {| Y_ {n} -X_ {n} | < varepsilon right }} right] + operatorname {E} left [2M mathbf {1} _ { left { | Y_ {n} -X_ {n} | geq varepsilon right }} right] & leq K varepsilon operatorname {Pr} left ( left | Y_ {n} -X_ {n } right | < varepsilon right) + 2M operatorname {Pr} left ( left | Y_ {n} -X_ {n} right | geq varepsilon right) & leq K varepsilon + 2M operatorname {Pr} left ( left | Y_ {n} -X_ {n} right | geq varepsilon right) end {aligned}}}$

(tady 1_{...} označuje funkce indikátoru; očekávání funkce indikátoru se rovná pravděpodobnosti odpovídající události). Proto,

${ displaystyle { begin {aligned} left | operatorname {E} left [f (Y_ {n}) right] - operatorname {E} left [f (X) right] right | & leq left | operatorname {E} left [f (Y_ {n}) right] - operatorname {E} left [f (X_ {n}) right] right | + left | operatorname {E} left [f (X_ {n}) right] - operatorname {E} left [f (X) right] right | & leq K varepsilon + 2M operatorname {Pr } left (| Y_ {n} -X_ {n} | geq varepsilon right) + left | operatorname {E} left [f (X_ {n}) right] - operatorname {E} left [f (X) right] right |. end {aligned}}}$

Vezmeme-li limit v tomto výrazu jako n → ∞, druhý člen se vynuluje od {Y_n-X_n} pravděpodobnost konverguje k nule; a třetí člen bude také konvergovat k nule, lemmatem portmanteau a skutečností, že X_n konverguje k X v distribuci. Tím pádem

${ displaystyle lim _ {n to infty} left | operatorname {E} left [f (Y_ {n}) right] - operatorname {E} left [f (X) right] right | leq K varepsilon.}$

Protože ε bylo libovolné, dospěli jsme k závěru, že limit musí být ve skutečnosti roven nule, a proto E [F(Y_n)] → E [F(X)], což opět podle lemmatu portmanteau znamená, že {Y_n} konverguje k X v distribuci. QED.

Konvergence jedné sekvence v distribuci a druhé na konstantu znamená společnou konvergenci v distribuci

${ displaystyle X_ {n} { xrightarrow {d}} X, Y_ {n} { xrightarrow {p}} c quad Rightarrow quad (X_ {n}, Y_ {n }) { xrightarrow {d}} (X, c)}$ pokud C je konstanta.

Důkaz: Toto tvrzení dokážeme pomocí lemmatu portmanteau, část A.

Nejprve chceme ukázat, že (X_n, C) konverguje v distribuci na (X, C). U lemu portmanteau to bude pravda, pokud můžeme ukázat, že E [F(X_n, C)] → E [F(X, C)] pro jakoukoli omezenou spojitou funkci F(X, y). Tak ať F být taková libovolně ohraničená spojitá funkce. Nyní zvažte funkci jedné proměnné G(X) := F(X, C). To bude samozřejmě také omezené a spojité, a proto lemmatem portmanteau pro sekvenci {X_n} konvergující v distribuci do X, budeme mít E [G(X_n)] → E [G(X)]. Druhý výraz je však ekvivalentní „E [F(X_n, C)] → E [F(X, C)] “, A proto nyní víme, že (X_n, C) konverguje v distribuci na (X, C).

Zadruhé zvažte | (X_n, Y_n) − (X_n, C)| = |Y_n − C|. Tento výraz s pravděpodobností konverguje k nule, protože Y_n konverguje v pravděpodobnosti k C. Takto jsme prokázali dvě skutečnosti:

${ displaystyle { begin {cases} left | (X_ {n}, Y_ {n}) - (X_ {n}, c) right | { xrightarrow {p}} 0, (X_ {n}, c) { xrightarrow {d}} (X, c). end {případy}}}$

U nemovitosti prokázáno dříve, tato dvě fakta znamenají, že (X_n, Y_n) konvergují v distribuci na (X, C).

Konvergence dvou sekvencí v pravděpodobnosti znamená společnou konvergenci v pravděpodobnosti

${ displaystyle X_ {n} { xrightarrow {p}} X, Y_ {n} { xrightarrow {p}} Y quad Rightarrow quad (X_ {n}, Y_ {n }) { xrightarrow {p}} (X, Y)}$

Důkaz:

${ displaystyle { begin {aligned} operatorname {Pr} left ( left | (X_ {n}, Y_ {n}) - (X, Y) right | geq varepsilon right) & leq operatorname {Pr} left (| X_ {n} -X | + | Y_ {n} -Y | geq varepsilon right) & leq operatorname {Pr} left (| X_ {n} -X | geq varepsilon / 2 right) + operatorname {Pr} left (| Y_ {n} -Y | geq varepsilon / 2 right) end {aligned}}}$

kde poslední krok následuje na principu pigeonhole a subaditivitě míry pravděpodobnosti. Každá z pravděpodobností na pravé straně konverguje k nule jako n → ∞ podle definice konvergence {X_n} a {Y_n} s pravděpodobností X a Y resp. Vezmeme-li limit, dojde k závěru, že levá strana také konverguje k nule, a proto posloupnost {(X_n, Y_n)} konverguje v pravděpodobnosti na {(X, Y)}.

Viz také

• Konvergence náhodných proměnných

Reference