Teorie Náhodné vektory

Opakování teorie – Podmíněné náhodné veličiny

Diskrétní veličiny $X$ a $Y$	Spojité veličiny $X$ a $Y$
Sdružená hustota	Sdružená hustota
$P(X = x, Y = y)$	$f_{X, Y}(x, y)$
Podmíněná hustota $X$ za podmínky $Y = y$	Podmíněná hustota $X$ za podmínky $Y = y$
$P(X = x \vert Y = y) = \frac{P(X = x, Y = y)}{P(Y = y)}$	$f_{X\vert Y}(x \vert y) = \frac{f_{X, Y}(x, y)}{f_Y(y)}$
Normalizace podmíněné hustoty	Normalizace podmíněné hustoty
$\sum_k P(X = x_k \vert Y = y) = 1$	$\int_{-\infty}^{\infty} f_{X \vert Y}(x \vert y)dx = 1$
Podmíněná střední hodnota $X$ za podmínky $Y = y$	Podmíněná střední hodnota $X$ za podmínky $Y = y$
$E(X \vert Y = y) = \sum_k x_k P(X = x_k \vert Y = y)$	$E(X \vert Y = y) = \int_{-\infty}^{\infty} x f_{X \vert Y}(x \vert y)dx$
Střední hodnota $X$	Střední hodnota $X$
$E(X) = \sum_y E(X \vert Y = y) P(Y = y)$	$E(X) = \int_{-\infty}^{\infty} E(X \vert Y = y)f_Y(y)dy$
Střední hodnota $X$	Střední hodnota $X$
$E(X) = \sum_x xP(X = x)$	$E(X) = \int_{-\infty}^{\infty} xf_X(x)dx$

Opakování teorie – Kovariance

Kovariance:
$$\text{cov}(X, Y) = E[(X - E[X])(Y - E[Y])] = E[XY] - E[X]E[Y].$$

Rozptyl součtu:
$$\text{var}(X + Y) = \text{var}(X) + \text{var}(Y) + 2 \text{cov}(X, Y).$$

Vektorový pohled $X = (X_1, X_2)^T$: $\Omega \rightarrow \mathbb{R}^2$:
$$E[X] = \begin{pmatrix} E[X_1] \\ E[X_2] \end{pmatrix}, \text{var}(X) = \begin{pmatrix} \text{var}(X_1) & \text{cov}(X_1, X_2) \\ \text{cov}(X_2, X_1) & \text{var}(X_2) \end{pmatrix}.$$

Lineární transformace vektoru $X = (X_1, ..., X_n)^T$: $Y = a + BX$, kde $a \in \mathbb{R}^m$, $B \in \mathbb{R}^{m,n}$. Pak:
$$E[Y] = a + B E[X], \text{var}(Y) = B(\text{var}(X))B^T.$$

Opakování teorie – Vícerovněrné normální rozdělení

Nechť $X = (X_1, ..., X_n)^T$ je náhodný vektor, $\mu \in \mathbb{R}^n$ je vektor a $\Sigma \in \mathbb{R}^{n,n}$ je symetrická pozitivně semidefinitní matice.

$X \sim N(\mu, \Sigma)$, jestliže pro všechna $c \in \mathbb{R}^n$ platí:
$$c^TX \sim N(c^T \mu, c^T \Sigma c).$$

Je-li $\Sigma$ pozitivně definitní, pak $X \sim N(\mu, \Sigma)$ právě když $X$ má spojité rozdělení s hustotou:
$$f_X(x) = \frac{1}{(2\pi)^{n/2}|\Sigma|^{1/2}} \exp\left(-\frac{1}{2}(x-\mu)^T \Sigma^{-1} (x-\mu)\right).$$

$X \sim N(\mu, \Sigma) \Rightarrow Y = a + BX \sim N\left(a + B\mu, B\Sigma B^T\right)$.

Je-li $X \sim N(\mu, \Sigma)$ a $\{v_1, ..., v_n\}$ je ortonormální báze tvořená vlastními vektory matice $\Sigma$. Pak $Y_i = v_i^T X$, $i = 1, ..., n$ jsou nezávislé náhodné veličiny s rozdělením $Y_i \sim N(v_i^T \mu, v_i^T \Sigma v_i)$.