(image)

Rachunek prawdopodobieństwa 1, 2

Rozdział 11 Zbieżność rozkładów i funkcje charakterystyczne

Przypominamy, że zdefiniowaliśmy już zbieżność ciągu dystrybuant, patrz Definicja 10.5:

Niech \(F_n\), \(n = 1,2,3, \dots \), oraz \(F\) będą dystrybuantami.

Zbieżność rozkładów. \(F_n \stackrel {d}{\longrightarrow } F \rwn \)

\[ \forall a \in \r , \mbox { punktu ciÄĚgÅĆoÅŻci } F , \, \lim _{n \to \infty } F_n(a) = F(a).\]

Wtedy: \(X_n \stackrel {d}{\longrightarrow } X \rwn \, F_{X_n} \stackrel {d}{\longrightarrow } F_X. \)

Możemy mówić o zbieżności samych rozkładów. Można postawić następującą definicję.

Niech \(P_n\), \(n = 1,2,3, \dots \), oraz \(P\) będą jednowymiarowymi rozkładami.

  • Definicja – 11.1 (Zbieżność rozkładów)

    \[P_n \stackrel {d}{\longrightarrow } P \ \rwn \ F_{P_n} \stackrel {d}{\longrightarrow } F_P. \]

11.1 Charakteryzacja zbieżności ciągu rozkładów

Okazuje się, że powyżej sformułowana definicja zbieżności ciągu rozkładów może być sformułowana równoważnie na kilka innych sposobów, co nieraz jest wygodne.

Zanim sformułujemy i udowodnimy odpowiednie twierdzenia przytoczymy ważny rezultat pomocniczy.

  • Twierdzenie – 11.2 (twierdzenie o wyborze) Niech \(F_1,\,F_2,\,F_3,\dots \) będzie dowolnym ciągiem dystrybuant. Wtedy istnieje podciąg tego ciągu \(F_{k_1},F_{k_2},F_{k_3},\dots \) oraz funkcja \(F : \r \longrightarrow \r \) taka, że dla każdego \(x\) punktu ciągłości \(F\)

    \[ \lim _{n\rightarrow \infty }F_{k_n}(x) = F(x) \]

    oraz

    • 1. \(0 \le F(x) \le 1\), dla każdego \(x \in \r \),

    • 2. \(F\) jest funkcją niemalejącą: \(x < y \Rightarrow F(x) \le F(y)\),

    • 3. \(F\) jest prawostronnie ciągła: \(\lim _{x\rightarrow a^+} F(x) = F(a)\), dla każdego \(a \in \r \).

Funkcja \(F\) nie musi być dystrybuantą Na przykład, biorąc dystrybuanty rozkładów jednopunktowych, \(F_{\delta _n}\), dla \(n = 1,2,3, \dots \), widzimy, że funkcja \(F = 0\).

Dowód. (szkic) Wybieram dowolny zbiór \(D \subset \r \), który jest przeliczalny i gęsty w \(\r \). Iloczyn kartezjański \([0,1]^D\) jest zbiorem zwartym, bo \([0,1]\) jest zwarty. Zacieśnienia \(F_n|D\) są elementami tego zbioru, więc istnieje podciąg \(k_n\) oraz \(F|D \in [0,1]^D\), takie, że \(\forall x \in D\) \(F_{k_n}(x) \to F|D(x)\), gdy \(n \to \infty \). Określamy: \(\di F : \r \to \r \) przez warunek \(F(x) = \inf \{F|D(y): y > x, y \in D \}\). Można teraz sprawdzić , że \(F\) oraz \(F_{k_n}\) spełniają wszystkie żądane warunki.   \(\Box \)

Niech \(\cal P\) oznacza ustaloną rodzinę rozkładów.

  • Definicja – 11.3 (warunek Prochorowa) Mówimy, że \(\cal P\) spełnia warunek Prochorowa (rodzina \(\cal P\) jest ścisła) \(\rwn \forall \ \ve > 0 \ \exists \ K \, {\rm zwarty} \subset \r \ \forall \ P \in {\cal P} \ \‚P(K) \ge 1 - \ve \).

Rodzina jednoelementowa \({\cal P} = \{ P \}\) spełnia warunek Prochorowa: dla \(\ve > 0\) dobieramy tak \(a < b\), że \(F_P(a) < \frac {\ve }{2}\) oraz \(F_P(b) > 1 - \frac {\ve }{2}\). Niech \(a' < a\). Wtedy \(P[a',b] \ge P(a,b] = F_P(b) - F_P(a) \ge 1-\ve \).

Łatwo widać, że jeżeli dwie rodziny rozkładów spełniają warunek Prochorowa, to ich suma też spełnia ten warunek. Przez indukcję przenosi się to na skończoną liczbę rodzin rozkładów.

Rodzina rozkładów jednopunktowych \({\cal P } = \{\delta _n: n = 0,1,2, \dots \}\) nie spełnia warunku Prochorowa: dla dowolnego zbioru zwartego \(K\), \(P_{\delta _n}(K) = 0\) dla prawie wszystkich \(n\).

Podobnie rodzina \(\{N(m,1) : m \in \r \}\) oraz rodzina \(\{U(a,b): a < b < 100\}\) nie spełnia warunku Prochorowa. Natomiast rodzina \(\{N(0,\sigma ) : 0 < \sigma < 1 \}\) spełnia ten warunek (ćwiczenie).

  • Twierdzenie – 11.4 Niech \(\{P_n\}\) będzie ciągiem rozkładów, \(P\) rozkładem, takimi, że: \(\forall \ f: \r \to \r \) ciągłej o suporcie zwartym \(\di \int _\r f\,dP_n \to \int _\r f\,dP\), gdy \(n \to \infty \).

    Wtedy rodzina \(\{P_n\}\) spełnia warunek Prochorowa.

Dowód. Niech \(\ve > 0\). Istnieje takie, \(N\), że \(P[-N,N] \ge 1 -\frac {\ve }{2}\). Biorę taką funkcję ciągłą \(g : \r \to \r \), że \(g(x) = 1\) dla \(|x| \le N\), \(g(x) = 0\) dla \(|x | \ge N+1\) oraz \(g\) jest afiniczna na przedziałach \([-N-1, - N]\), \([N, N+1]\). \(\di \int _\r g\,dP \ge \int _\r I_{[-N,N]}dP = P[-N,N] \ge 1 - \frac {\ve }{2}\). Istnieje \(n_0\), takie, że dla \(n \ge n_0\) \(\int _\r g\,dP_n \ge 1 - \ve \). Wtedy

\[ P_n[-N-1,N+1] = \int _\r I_{[-N-1,N+1]} dP_n \ge \int _\r g\,dP_n \ge 1 - \ve . \]

  \(\Box \)

  • Twierdzenie – 11.5 (o względnej zwartości) Niech rodzina \(\cal P\) spełnia warunek Prochorowa. Wtedy dla każdego ciągu \(\{P_n\} \subset {\cal P}\) istnieje podciąg \(k_n\) oraz rozkład \(P\) taki, że \(P_{k_n} \stackrel {d}{\longrightarrow } P\), gdy \(n \to \infty \)

Dowód. Biorę ciąg \(k_n\) oraz funkcję \(F\) z Twierdzenia 11.2 o wyborze zastosowanego do \(F_n = F_{P_n}\). Z monotoniczności \(F\) wynika, że isnieją granice, powiedzmy \(F(-\infty ) = \lim _{x \to - \infty } F(x)\), \(F(\infty ) = \lim _{x \to \infty } F(x)\). Pytamy czy \(F(\infty ) - F(-\infty ) = 1\). Niech \(\ve > 0\). Istnieje zbiór zwarty \(K \subset \r \), taki, że dla każdego \(k_n\) \(P_{k_n}(K) \ge 1 - \ve \). Biorę \(a, b\) – punkty ciągłości \(F\), takie, że \((a,b] \supset K\) (można je znaleźć ). \(F_{k_n}(b) - F_{k_n}(a) = P_{k_n}(a,b] \ge P_{k_n}(K) \ge 1 - \ve \).

W granicy: \(F(b) - F(a) \ge 1 - \ve \). Więc: \(F(\infty ) - F(-\infty ) \ge F(b) - F(a) \ge 1 - \ve \).   \(\Box \)

Naszym celem jest udowodnienie równoważności czterech warunków charakteryzujących na różne sposoby zbieżność ciągu rozkładów, twierdzenie 11.11. Dowód będzie przebiegał etapowo. Na początku wykażemy:

  • Twierdzenie – 11.6 \(P_n \stackrel {d}{\longrightarrow } P \imp \)
    \(\forall a < b\): \(P(a) = P(b) = 0\) \(P_n(a,b] \to P(a,b]\), gdy \(n \to \infty \).

Dowód. Warunek \(P(a) = P(b) = 0\) oznacza, że \(F_P\) jest ciągła w tych punktach, więc \(P_n(a,b] = F_{P_n}(b) - F_{P_n}(a) \to F_P(b) - F_P(a) = P(a,b]\).   \(\Box \)

  • Lemat – 11.7 Niech \(P_1, P_2\) będą rozkładami. Jeżeli dla każdej funkcji \(f :\r \to \r \) ciągłej o suporcie zwartym \(\di \int _\r f\,dP_1 = \int _\r f\,dP_2\), to \(P_1 = P_2\).

Dowód.

Niech \(a < b\). Określamy ciąg funkcji ciągłych:

\[ g_n(x) = \left \{ \begin {array}{lll} 1 & , & \mbox {dla } a + \frac {1}{n} \le x \le b\\ 0 & , & \mbox {dla } x \le a \mbox { lub } x \ge b + \frac {1}{n}\\ \mbox {afiniczna} &, & \mbox {na pozostaÅĆych przedziaÅĆach}. \end {array} \right . \]

Ponieważ \(I_{(a,b]} = \lim _{n\to \infty } g_n\), więc z Twierdzenie Lebesgue’a:

\[ P_1(a,b] = \int _{\bf R}I_{(a,b]}\,dP_1 = \lim _{n\rightarrow \infty } \int _{\bf R}g_n\,dP_1 = \]

\[ \lim _{n\rightarrow \infty } \int _{\bf R}g_n\,dP_2 = \int _{\bf R}I_{(a,b]}\,dP_2 = P_2(a,b]. \]

\(F_{P_1}(b) - F_{P_1}(a) = F_{P_2}(b) - F_{P_2}(a) \) i przechodząc z \(a\) do \(-\infty \) otrzymujemy równość dystrybuant, a więc i rozkładów.   

  • Twierdzenie – 11.8 Jeżeli \(\forall \ a < b\): \(P(a) = P(b) = 0\) \(P_n(a,b] \to P(a,b]\), gdy \(n \to \infty \), to \(\forall \ f : \r \to \r \), \(f\) ciągła i ograniczona,

    \[\di \int _\r f\,dP_n \to \int _\r f\,dP,\]

    gdy \(n \to \infty \).

  • Lemat – 11.9 Zbiór punktów \(\{a \in \r : P(a) > 0\}\) jest co najwyżej przeliczalny.

Jest to uogólnienie twierdzenia mówiącego, że rozkład dyskretny jest skupiony na zbiorze co najwyżej przeliczalnym. Dowód jest ten sam (ćwiczenie).

Dowód Twierdzenia 11.8

Krok I. Ustalam \(a < b\) takie, że \(P(a) = P(b) = 0\) oraz funkcję ciągłą i ograniczoną \(f : [a,b] \to \r \). Wykażemy, że:

\[ \int _a^bf\,dP_n \longrightarrow \int _a^bf\,dP. \]

\(f\) jest jednostajnie ciągła na \([a,b]\), więc korzystając z prostego Lematu:

Dla każdego \(\delta > 0\) istnieje podział \(a = x_0 < x_1 < \dots < x_N = b\) taki, że dla każdego \(k = 1,\dots ,N\) oraz \(x\in [x_{k-1},x_k]\) mamy \(|f(x) - f(x_k)| \le \delta ,\) przy czym P(\(x_0) = \dots = P(x_N) = 0.\)

Ustalamy \(\varepsilon > 0\) i dla \(\delta = {\varepsilon \over 3}\) rozważamy powyższy podział \(a = x_0 < x_1 < \dots < x_N = b\), Zdefiniujmy pomocniczą funkcję \(g\)

\[ g(x) = f(x_k) \;\;\; \mbox { dla } x \in (x_{k-1},x_k], \;\;\;k= 1,\dots ,N. \]

Z nierówności trójkąta otrzymujemy oszacowanie

\[ \left |\int _a^bf\,dP_n - \int _a^bf\,dP\right | \le I_1 + I_2 +I_3, \]

gdzie

\[ I_1 = \int _a^b|f-g|\,dP_n, \;\;\; I_2 = \left |\int _a^bg\,dP_n - \int _a^bg\,dP\right |,\;\;\; I_3 = \int _a^b|f-g|\,dP. \]

Całki \(I_1\) oraz \(I_3\) są szacowane z góry odpowiednio przez \(\delta P_n[a,b]\) oraz \(\delta P[a,b],\) a więc każda z nich jest \(\le \delta .\) Natomiast, ponieważ \(g\) jest funkcją schodkową,

\[ I_2 = \left |\sum _{k=1}^Nf(x_k)P_n(x_{k-1},x_k] - \sum _{k=1}^Nf(x_k)P(x_{k-1}, x_{k}]\right | = \]

\[ \left |\sum _{k=1}^Nf(x_k)[ P_n(x_{k-1},x_k]- P(x_{k-1},x_k]]\right | \]

i zmierza do \(0\), gdy \(n\longrightarrow \infty \), więc jest \(\le \delta \) dla dużych \(n\). Dla takich \(n\)
\(\di \left |\int _a^bf\,dP_n - \int _a^bf\,dP\right | \le \varepsilon . \).

Krok 2. Dowodzimy teraz właściwej tezy. Niech \(M = \sup _{\r } | f |\). Ustalamy \(\varepsilon > 0\) i dobierzmy liczby \(a' < b'\) tak, aby \(P(a') = P(b') = 0\) oraz: \(M\,P({\r }\setminus (a',b') ) <{\varepsilon \over 4}\).

Ponieważ \(P_n(a',b'] \longrightarrow P(a',b'],\) dla \(n\longrightarrow \infty \), bierzemy \(n\) tak duże, że \(M\,P_n({\r }\setminus (a',b'] ) \le {\varepsilon \over 4}\). Niech \(a < a'\) oraz \(b > b'\) będą punktem takimi, że \(P(a) = P(b) = 0\). Mamy teraz

\[ \left |\int _{\r }f\,dP_n -\int _{\r }f\,dP\right | \le \]

\[ \left |\int _a^bf\,dP_n -\int _a^bf\,dP\right | + \left |\int _{{\r }\setminus (a,b)}f\,dP_n -\int _{{\r }\setminus (a,b)}f\,dP\right | \le \]

\[ \left |\int _a^bf\,dP_n -\int _a^bf\,dP\right | + M\,P_n({\r }\setminus (a,b)) + M\,P({\r }\setminus (a,b)) \le \varepsilon , \]

dla dużych \(n\).   

  • Twierdzenie – 11.10 Niech \(\{P_n\}\) będzie ciągiem rozkładów, \(P\) rozkładem takimi, że: \(\forall \ f: \r \to \r \) ciągłej o suporcie zwartym \(\di \int _\r f\,dP_n \to \int _\r f\,dP\), gdy \(n \to \infty \). Wtedy \(P_n \stackrel {d}{\longrightarrow } P\).

Dowód. Z Twierdzenia 11.4 wynika, że ciąg \(\{P_n\}\) spełnia warunek Prochorowa. Z Twierdzenia o względnej zwartości dostajemy podciąg \(k_n\) oraz rozkład, powiedzmy \(Q\), taki, że \(P_{k_n} \stackrel {d}{\longrightarrow } Q\). Z Twierdzenia 11.8 \(\di \int _\r f\,dP_{k_n} \to \int _\r f\,dQ\), Ponieważ także: \(\di \int _\r f\,dP_{k_n} \to \int _\r f\,dP\), więc:

dla każdej funkcji ciągłej o suporcie zwartym zachodzi: \(\di \int _\r f\,dQ = \int _\r f \,dP\).

Z Lematu 11.7, \(Q = P\). Dowodzimy dalej nie wprost. Gdyby \(\sim (P_n \stackrel {d}{\longrightarrow } P)\), to istniałby \(a\) – punkt ciągłości \(F_P\) oraz podciąg \(l_n\) takie, że dla pewnego \(\ve > 0\) \(|F_{l_n} (a) - F_P(a)| \ge \ve \) dla wszystkich \(l_n\). Stosując poprzednie rozumowanie dla ciągu \(P_{l_n}\) otrzymamy jego podciąg, \(P_{m_{l_n}} \stackrel {d}{\longrightarrow } P\), co stanowi sprzeczność.   \(\Box \)

Wykazane poprzednio twierdzenia pozwalają na sformułowanie czterech warunków równoważnych charakteryzujących zbieżność.

Niech \(P_n\) będzie ciągiem rozkładów, \(P\) rozkładem.

  • Twierdzenie – 11.11 (o zbieżności rozkładów) Następujące warunki są równoważne:

    • 1. \(P_n \stackrel {d}{\longrightarrow } P\) ( to znaczy: \(\forall a \in \r \mbox { punktu ciÄĚgÅĆoÅŻci } F_P , \, \lim _{n \to \infty } F_{P_n}(a) = F_P(a).\) ),

    • 2. \(\forall a < b\): \(P(a) = P(b) = 0\) \(P_n(a,b] \to P(a,b]\), gdy \(n \to \infty \).

    • 3. \(\forall \ f: \r \to \r \) ciągłej i ograniczonej \(\di \int _\r f\,dP_n \to \int _\r f\,dP\), gdy \(n \to \infty \).

    • 4. \(\forall \ f: \r \to \r \) ciągłej o suporcie zwartym \(\di \int _\r f\,dP_n \to \int _\r f\,dP\), gdy \(n \to \infty \).

Dowód.

(1) \(\imp \) (2) – Twierdzenie 11.6

(2) \(\imp \) (3) – Twierdzenie 11.8

(3) \(\imp \) (4) – oczywiste.

(4) \(\imp \) (1) – Twierdzenie 11.10   \(\Box \)