Dany jest ciąg zmiennych losowych \(X_n: \Omega \to \r \), \(n = 1,2,3, \dots \). Dana jest zmienna losowa \(X : \Omega \to \r \).
Rozróżniamy kilka rodzajów zbieżności \(X_n \to X\), gdy \(n \to \infty \). W trakcie tego kursu dyskutujemy głownie:
1. Zbieżność z prawdopodobieństwem 1.
2. Zbieżność stochastyczna.
3. Zbieżność według rozkładów.
Nie rozważa się zbieżności punktowej zmiennych losowych!
Powód: Jeżeli zmienną losową, powiedzmy \(X\), zmienimy na zbiorze miary zero otrzymując zmienną, powiedzmy \(Y\), to obydwie te zmienne mają taki sam rozkład, patrz uwaga poniżej, więc z punktu widzenia rachunku prawdopodobieństwa są sobie równe. Jednak, gdy \(X_n \to X\) punktowo, to wtedy \(X_n\) nie może być zbieżny w niektórych punktach do \(Y\).
Mówimy, że dwa wektory losowe \(X\), \(Y\) określone na przestrzeni probabilistycznej (Ω, Σ, P ) są równe prawie (\(X = Y\) p.w.) względem miary \(P\), gdy \(P(X=Y) =1 \). Często wiadomo, o którą miarę chodzi i wtedy nie musimy tego podkreślać. Można łatwo pokazać następujący fakt.
Ogólniej.
Niech \(F_n\), \(n = 1,2,3, \dots \), oraz \(F\) będą dystrybuantami.
Wtedy:
\[ X_n \stackrel {d}{\longrightarrow } X \rwn \, F_{X_n} \stackrel {d}{\longrightarrow } F_X. \]
Uwagi.
Słabe Prawo Wielkich Liczb, Twierdzenie 7.6, 2 Niech \(X_n\) będą niezależnymi zmiennymi losowymi o wspólnej nadziei matematycznej \(m\) i wspólnie ograniczonych wariancjach. Niech \(S_n = X_1+ \dots + X_n\). Wtedy \(\di \frac {S_n}{n} \stackrel {s}{\longrightarrow } m\).
Centralne twierdzenie graniczne, Twierdzenie 9.1 Niech \(X_n\) będą niezależnymi zmiennymi losowymi o takim samym rozkładzie. Niech \(m\) oznacza nadzieję matematyczną, a \(\sigma \) odchylenie standardowe tego rozkładu. Niech \(\di Z_n = \frac {S_n- m}{\sigma \sqrt {n}}\). Wtedy
\[ F_{Z_n} \stackrel {d}{\longrightarrow } \Phi , \]
gdzie \(\Phi \) jest dystrybuantą rozkładu \(N(0,1)\).
Zbieżność rozkładów geometrycznych do rozkładu wykładniczego. Twierdzenie 8.8 mówi o zbieżności ciągu dystrybuant rozkładów czasu oczekiwania na pierwszy sukces w ciągu niezależnych prób Bernoulliego, gdy odcinki czasowe są coraz krótsze a prawdopodobieństwo sukcesu zmniejsza się proporcjonalnie wraz z ich długością.
Twierdzenie – 10.6 (Przybliżenie rozkładu dwumianowego rozkładem Poissona.) Niech liczby \(p_n >0\) tworzą taki ciąg, że:
\[\lim _{n\rightarrow \infty }n p_n = \lambda >0.\]
. Wtedy:
\[ F_{B(n,p_n)} \stackrel {d}{\longrightarrow } F_{P_\lambda }. \]
Dowód. Miech \(a\) będzie punktem ciągłości dystrybuanty rozkładu Poissona \(P_\lambda \). Korzystając z Twierdzenia 8.2 mamy:
\[\di F_{P_\lambda } (a) = \sum _{k \le a } e^{-\lambda }\frac {\lambda ^k}{k!} = \sum _{k \le a } \lim _{n\rightarrow \infty } \binom {n}{k}p_n^k(1 - p_n)^{n-k} =\]
\[\lim _{n\rightarrow \infty } \sum _{k \le a } \binom {n}{k}p_n^k(1 - p_n)^{n-k} = \lim _{n\rightarrow \infty } F_{B(n,p_n)}(a).\]
\(\Box \)
Twierdzenie – 10.7 \(X_1,X_2, X_3, \dots \), \(X\) – zmienne losowe. Zachodzą implikacje:
1. \(X_n \stackrel {1}{\longrightarrow } X \imp X_n \stackrel {s}{\longrightarrow } X\).
2. \(X_n \stackrel {s}{\longrightarrow } X \imp X_n \stackrel {d}{\longrightarrow } X\).
3. \(X_n \stackrel {d}{\longrightarrow } X\), \(X \equiv c \in \r \imp X_n \stackrel {s}{\longrightarrow } X\).
Dowód.
Ad 1. Niech \(A = \{\o \in \Omega : X_n(\o ) \to X(\o ), n \to \infty \}\). Z założenia wiemy, że \(P(A) = 1\). Ustalmy \(\ve > 0\). Wiemy, że \(A \subset A_\ve \), gdzie \(\di A_\ve = \bigcup _{N+1}^\infty A_{\ve N}\), gdzie \(A_{\ve N} = \{\o : |X_n(\o ) - X(\o )| < \ve , \mbox {dla } n \ge N\}\). Zbiory \(A_{\ve N}\) tworzą ciąg wstępujący. Mamy więc: \(\di 1 = P(A) \le P(A_\ve ) = \lim _{N\to \infty } P(A_{\ve N}) \le \lim _{N\to \infty } P(\{\o : |X_N(\o ) - X(\o )| < \ve \})\). \(\Box \)
Ad 2. Niech \(a\) będzie punktem ciągłości dystrybuanty \(F_X\) i niech \(\varepsilon > 0\) będzie ustalone. Dla każdego \(n\) zachodzą dwie oczywiste inkluzje
\[ \{X \le a - \varepsilon \} \subset \{|X_n - X|\ge \varepsilon \} \cup \{X_n \le a\} \]
oraz
\[ \{X_n \le a\} \subset \{|X_n - X|\ge \varepsilon \} \cup \{X \le a +\varepsilon \}. \]
To oznacza, że
\[ F_X(a-\varepsilon ) \le P(\{|X_n - X|\ge \varepsilon \}) + F_{X_n}(a) \le 2 P(\{|X_n - X|\ge \varepsilon \}) + F_X(a + \varepsilon ). \]
Ponieważ \(P(\{|X_n - X|\ge \varepsilon \}) \longrightarrow 0,\) dla \(n \longrightarrow \infty ,\) więc dla każdego \(\varepsilon > 0\) mamy
\[ F_X(a - \varepsilon ) \le \liminf _n F_{X_n}(a) \le \limsup _n F_{X_n}(a) \le F_X(a +\varepsilon ). \]
Przechodząc z \(\varepsilon \) do zera i korzystając z ciągłości \(F_X\) w punkcie \(a\) otrzymujemy w powyższym wzorze same równości, co oznacza istnienie granicy i równość \(\lim _{n\rightarrow \infty }F_{X_n}(a) = F_X(a).\) \(\Box \)
Ad 3. Dystrybuanta rozkładu skupionego w jednym punkcie \(c\) jest nieciągła tylko w punkcie \(c\). Weźmy dwa punkty ciągłości dystrybuanty \(F_X\), mianowicie punkty \(c - \varepsilon \) oraz \(c +\varepsilon \), gdzie \(\varepsilon > 0\). Dostajemy
\[ P(\{|X_n - c| \le \varepsilon \}) = P(c - \varepsilon \le X_n \le c + \varepsilon ) \ge P(c - \varepsilon < X_n \le c + \varepsilon ) = \]
\[ F_{X_n}(c + \varepsilon ) - F_{X_n}(c - \varepsilon ) \longrightarrow 1 - 0 =1, \]
co oznacza, że dla każdego \(\varepsilon >0\) mamy \(\lim _{n\rightarrow \infty } P(\{|X_n - c| \le \varepsilon \}) = 1\), a to daje stochastyczną zbieżność \(X_n \) do \(c\). \(\Box \)
Twierdzenie odwrotne do Twierdzenia 10.7,2 nie jest prawdziwe.
Przykład – 10.8 Niech \(X\) oraz \(Y\) będą dwiema niezależnymi próbami Bernoulliego o prawdopodobieństwie sukcesu \(1\over 2\) każda. Ciąg \(X_n = X\) ma w sposób trywialny dystrybuanty zbieżne do dystrybuanty \(F_Y\).
Z drugiej strony, z niezależności zmiennych losowych \(X\) oraz \(Y\), \(P(|X_n - Y| \ge 1) = \frac {1}{2},\) więc \(X_n\) nie są zbieżne stochastycznie do \(Y\).
Twierdzenie odwrotne do Twierdzenia 10.7,1 nie jest prawdziwe.
Przykład – 10.9 Niech \((\Omega ,\Sigma ,P)\) będzie przestrzenią probabilistyczną taką, że \(\Omega = [0,1]\), \(\Sigma \) składa się ze zbiorów borelowskich zawartych w odcinku \([0,1]\), a \(P\) jest miarą Lebesgue’a na tym odcinku. Rozważamy ciąg zmiennych losowych \(X_{11},X_{21},X_{22},X_{31},\dots \), zdefiniowanych na \(\Omega \) w sposób następujący:
\[ X_{kl}(\omega ) = \left \{ \begin {array}{ll} 1, & \mbox { dla } \frac {l-1}{k} < \omega \le \frac {l}{k}\\ 0, & \mbox { dla pozostaÅĆych } \omega , \end {array} \right . \]
gdzie \(k=1,2,3,\dots ,\;l=1,\dots k\). Zobacz sam.
Dla dowolnego \(0<\varepsilon <1\) widzimy, że \(P(|X_{kl}|\ge \varepsilon ) = \frac {1}{k}\). Tak więc nasz ciąg jest zbieżny stochastycznie do 0.
Dla każdego ustalonego \(\omega \) ciąg \(X_{kl}(\omega )\) zawiera nieskończenie wiele zer i nieskończenie wiele jedynek, więc nie jest ciągiem zbieżnym. Tym bardziej ciąg \(X_{kl}\) nie jest zbieżny prawie wszędzie do żadnej granicy.