W poprzednich rozdziałach mieliśmy już, raczej incydentalnie, do czynienia z wektorami losowymi i ich rozkładami. Obecnie zajmiemy się tą sprawą bardziej dokładnie. Naszym głównym celem jest omówinie podstawowych własność rozkładu normalnego. Wspomnimy też o problemie regresji, który w przypadku rozkładów anormalnych sprowadza się do projektu regresji liniowej.
Nasze rozważania poprzedzimy przypomnieniem przydatnych faktów z algebry liniowej.
Niech \(M(m,n)\) oznacza zbiór macierzy rzeczywistych o \(m\) wierszach i \(n\) kolumnach.
Rozważamy macierze kwadratowe stopnia \(n\), \(M(n) = M(n,n)\).
Macierz \(C\in M(n)\) jest symetryczna, gdy \(C^T = C\).
Macierz symetryczna \(C\) jest nieujemnie (dodatnio) określona, gdy
\[\forall x \in \rn \setminus \{0\} \ x^TCx = \sum _{i,j}c_{ij}x_ix_j \ge 0 \ \ \ \ (x^TCx > 0).\]
Piszemy wtedy \(C \ge 0\) (\(C > 0\)).
\[\s (C) = \{\lambda \in \C : \exists \ z \in \C ^n \setminus \{0\}: \ Cz = \lambda z \}.\]
jest zbiorem wszystkich wartości własnych macierzy \(C\).
Łatwo wykazać:
Twierdzenie – 18.1 Jeżeli \(C\in M(n)\), \(C = C^T\), to \(\s (C) \subset \r \).
Jednym z ważniejszych twierdzeń leżących u podstaw matematyki stosowanej jest:
Twierdzenie – 18.2 (o diagonalizacji macierzy symetrycznej) Jeżeli \(C\in M(n)\), \(C = C^T\), to istnieje macierz \(P \in M(n)\), \(PP^T =I\), taka że \(\di C = P\,diag(\lambda _1, \dots , \lambda _n)\,P^T\), gdzie \(\lambda _1, \dots , \lambda _n \in \r \).
Wtedy
\[\s (C) =\{\lambda _1, \dots , \lambda _n\}.\]
Łatwo widać, że jeżeli \(C \ge 0\) (\(C > 0\)), to również \(diag(\lambda _1, \dots , \lambda _n) \ge 0\) (\(C > 0\)), co z kolei jest równoważne temu, że wszystkie wartości własne \(\lambda _i\) są nieujemne (dodatnie).
Wniosek – 18.3 Jeżeli \(C \ge 0\), to \(\det C \ge 0\) oraz wtedy:
\(C > 0 \rwn \det C > 0 \rwn C\) jest nieosobliwa.
W takich przypadkach można rozważać macierz \(B = P\,diag(\sqrt {\lambda _1}, \dots , \sqrt {\lambda _n})\,P^T\). Łatwo sprawdzić, że \(B^2 = C\). Będziemy używać oznaczenia \(C^{\frac {1}{2}} := B\).