Условное математическое ожидание

Получите для условных математических ожиданий аналоги Задач 33.4, 33.5 и 33.9.

В контексте Примеров 33.5 и 33.12, покажите, что условное математическое ожидание $Y$ (если оно интегрируемо) при заданном $X$ равно $g(X)$, где

Покажите, что из независимости $X$ и $Y$ следует $E[Y \mid X]=E[Y]$, откуда, в свою очередь, следует $E[X Y]=E[X] E[Y]$. Покажите на примерах в $\Omega$ из трёх точек, что оба обратных утверждения ложны.

Равенство (34.5) было доказано путём показа того, что левая часть является версией правой части. Докажите его, показав, что правая часть является версией левой части.

Докажите для ограниченных $X$ и $Y$, что $E[Y E[X \mid \mathscr {E}]]=E[X E[Y \mid \mathscr {E}]]$.

$33.9 \uparrow$ Обобщите Теорему 34.5, заменив $X$ на случайный вектор

Предположим, что $X$ неотрицательна, но не обязательно интегрируема. Покажите, что всё же можно определить неотрицательную случайную величину $E[X \mid \mathscr {G}]$, измеримую $\mathscr {G}$, такую что выполняется (34.1). Докажите варианты теоремы о монотонной сходимости и леммы Фату.

Пусть $\mathscr {G}_{1}, \mathscr {G}_{2}, \mathscr {G}_{3}$ — $\sigma$-алгебры в $\mathscr {F}$, пусть $\mathscr {G}_{i}$, — $\sigma$-алгебра, порождённая $\mathscr {G}_{i} \cup \mathscr {G}_{j}$, и пусть $A_{i}$ — произвольное множество из $\mathscr {G}_{i}$. Рассмотрим три условия:

(i) $P\left[A_{3} \mid \mathscr {G}_{12}\right]=P\left[A_{3} \mid \mathscr {G}_{2}\right]$ для всех $A_{3}$.

(ii) $P\left[A_{1} \cap A_{3} \mid \mathscr {G}_{2}\right]=P\left[A_{1} \mid \mathscr {G}_{2}\right] P\left[A_{3} \mid \mathscr {G}_{2}\right]$ для всех $A_{1}$ и $A_{3}$.

(iii) $P\left[A_{1} \mid \mathscr {G}_{23}\right]=P\left[A_{1} \mid \mathscr {G}_{2}\right]$ для всех $A_{1}$.

Если $\mathscr {G}_{1}, \mathscr {G}_{2}$ и $\mathscr {G}_{3}$ интерпретировать как описания прошлого, настоящего и будущего соответственно, то (i) является общим вариантом марковского свойства: условная вероятность будущего события $A_{3}$ при заданных прошлом и настоящем $\mathscr {G}_{12}$ такая же, как условная вероятность при заданном одном лишь настоящем $\mathscr {G}_{2}$. Условие (iii) — то же самое с обращённым временем. А (ii) утверждает, что прошлое и будущее события $A_{1}$ и $A_{3}$ условно независимы при заданном настоящем $\mathscr {G}_{2}$. Докажите равносильность этих трёх условий.

$33.734 .11 \uparrow$ Используйте Пример 33.10, чтобы вычислить $P\left[N_{s}=k \mid N_{u}, u \geq t\right](s \leq t)$ для пуассоновского процесса.

Пусть $L^{2}$ — гильбертово пространство квадратично интегрируемых случайных величин на $(\Omega , \mathscr {F}, P)$. Для $\sigma$-алгебры $\mathscr {A}$ в $\mathscr {F}$ пусть $M_{\mathscr {G}}$ — подпространство элементов $L^{2}$, измеримых $\mathscr {A}$. Покажите, что оператор $P_{\mathscr {G}}$, определённый для $X \in L^{2}$ равенством $P_{\mathscr {G}} X=E[X \mid \mathscr {G}]$, является ортогональной проекцией на $M_{\mathscr {G}}$.

$\uparrow$ Предположим в условиях Задачи 34.13, что $\mathscr {I}=\sigma (Z)$ для случайной величины $Z$ из $L^{2}$. Пусть $S_{Z}$ — одномерное подпространство, натянутое на $Z$. Покажите, что $S_{Z}$ может быть намного меньше $M_{\sigma (Z)}$, так что $E[X \mid Z]$ (для $X \in L^{2}$ ) отнюдь не является проекцией $X$ на $Z$. Указание: возьмите в качестве $Z$ тождественную функцию на единичном интервале с лебеговой мерой.

↑ Задачу 34.13 можно обратить, чтобы получить альтернативный подход к условной вероятности и математическому ожиданию. Для $\sigma$-алгебры $\mathscr {G}$ в $\mathscr {F}$ пусть $P_{\mathscr {G}}$ — ортогональная проекция на подпространство $M_{\mathscr {G}}$. Покажите, что $P_{\mathscr {G}} X$ обладает для $X \in L^{2}$ обоими свойствами, требуемыми от $E[X \mid \mathscr {G}]$. Используйте это, чтобы определить $E[X \mid \mathscr {G}]$ для $X \in L^{2}$, а затем распространите его на все интегрируемые $X$ путём приближения случайными величинами из $L^{2}$. Теперь определите условную вероятность.

Перемешивающиеся последовательности. Последовательность $A_{1}, A_{2}, \ldots$ множеств из $\mathscr {F}$ в вероятностном пространстве $(\Omega , \mathscr {F}, P)$ называется перемешивающейся с константой $\alpha$, если

для каждого $E$ из $\mathscr {F}$. Тогда $\alpha =\lim_{n} P\left(A_{n}\right)$.

$\uparrow$ Применение перемешивания к центральной предельной теореме. Пусть $X_{1}, X_{2}, \ldots$ — случайные величины на $(\Omega , \mathscr {F}, P)$, независимые и одинаково распределённые со средним 0 и дисперсией $\sigma^{2}$, и положим $S_{n}=X_{1}+\cdots +X_{n}$. Тогда $S_{n} / \sigma \sqrt{n} \Rightarrow N$ по теореме Линдеберга—Лёви. Покажите с помощью приведённых ниже шагов, что это по-прежнему верно, если $P$ заменить любой вероятностной мерой $P_{0}$ на $(\Omega , \mathscr {F})$, которую $P$ доминирует. Например, центральная предельная теорема применима к суммам $\sum_{k=1}^{n} r_{k}(\omega )$ функций Радемахера, если $\omega$ выбирается согласно равномерной плотности на единичном интервале, и этот результат показывает, что то же самое верно, если $\omega$ выбирается согласно произвольной плотности.

Пусть $Y_{n}=S_{n} / \sigma \sqrt{n}$ и $Z_{n}=\left(S_{n}-S_{[\log n]}\right) / \sigma \sqrt{n}$, и пусть $\mathscr {P}$ состоит из множеств вида $\left[\left(X_{1}, \ldots , X_{k}\right) \in H\right], k \geq 1, H \in \mathscr {R}^{k}$. Докажите последовательно:

Предположим, что $\mathscr {G}$ — достаточная подалгебра для семейства вероятностных мер $P_{\theta }, \theta \in \Theta$, на $(\Omega , \mathscr {F})$. Предположим, что для каждых $\theta$ и $A, p(A, \omega )$ является версией $P_{\theta }[A \mid \mathscr {G}]_{\omega }$. и предположим далее, что для каждого $\omega , p(\cdot , \omega )$ является вероятностной мерой на $\mathscr {F}$. Определим $Q_{\theta }$ на $\mathscr {F}$ равенством $Q_{\theta }(A)=\int_{\Omega } p(A, \omega ) P_{\theta }(d \omega )$, и покажите, что $Q_{\theta }=P_{\theta }$.

Идея состоит в том, что наблюдатель, располагающий информацией из $\mathscr {I}$ (но не знающий самого $\omega$), в принципе знает значения $p(A, \omega )$, поскольку каждая $p(A, \cdot )$ измерима $\mathscr {G}$. Если у него есть подходящее устройство рандомизации, он может извлечь $\omega^{\prime }$ из $\Omega$ согласно вероятностной мере $p(\cdot , \omega )$, и его $\omega^{\prime }$ будет иметь то же распределение $Q_{\theta }=P_{\theta }$, что и $\omega$. Таким образом, каково бы ни было значение неизвестного $\theta$, наблюдатель может на основе одной лишь информации из $\mathscr {G}$, не зная самого $\omega$, построить вероятностную копию $\omega$.

34.13 ↑ В контексте обсуждения на стр. 252, пусть $\overline{\mathscr {F}}$ — $\sigma$-алгебра множеств вида $\Theta \times A$ для $A \in \mathscr {F}$. Покажите, что относительно вероятностной меры $Q, t_{0}$ является условным математическим ожиданием $\bar{g}_{0}$ при заданной $\overline{\mathscr {F}}$.