Случайные величины и математические ожидания

$2.11 \uparrow$ Необходимое и достаточное условие того, чтобы $\sigma$-алгебра $\mathscr {G}$ была порождена счётным семейством множеств, состоит в том, что $\mathscr {G}=\sigma (X)$ для некоторой случайной величины $X$. Указание: Если $\mathscr {G}= \sigma \left(A_{1}, A_{2}, \ldots \right)$, рассмотрите $X=\sum_{k=1}^{\infty } f\left(I_{A_{k}}\right) / 10^{k}$, где $f(x)$ равно 4 при $x=0$ и 5 при $x \neq 0$.

Если $X$ — положительная случайная величина с плотностью $f$, то $X^{-1}$ имеет плотность $f(1 / x) / x^{2}$. Докажите это с помощью (20.16), а также прямым рассуждением.

Предположим, что двумерная функция распределения $F$ имеет непрерывную плотность $f$. Покажите, что $f(x, y)=\partial^{2} F(x, y) / \partial x \partial y$.

Построение в Теореме 20.4 требует лишь меры Лебега на единичном интервале. Используйте эту теорему, чтобы доказать существование меры Лебега на $R^{k}$. Сначала постройте $\lambda_{k}$, ограниченную на $(-n, n] \times \cdot \times (-n, n]$, а затем перейдите к пределу $(n \rightarrow \infty )$. Идея состоит в том, чтобы рассуждать исходя из первых принципов, не используя предыдущие построения, такие как в Теоремах 12.5 и 18.2.

Предположим, что $A$, $B$ и $C$ — положительные независимые случайные величины с функцией распределения $F$. Покажите, что квадратный трёхчлен $A z^{2}+B z+C$ имеет вещественные нули с вероятностью $\int_{0}^{\infty } \int_{0}^{\infty } F\left(x^{2} / 4 y\right) d F(x) d F(y)$.

Покажите, что $X_{1}, X_{2}, \ldots$ независимы, если $\sigma \left(X_{1}, \ldots , X_{n-1}\right)$ и $\sigma \left(X_{n}\right)$ независимы при каждом $n$.

Пусть $X_{0}, X_{1}, \ldots$ — возвратная неприводимая марковская цепь, и для фиксированного состояния $j$ пусть $T_{1}, T_{2}, \ldots$ — моменты последовательных прохождений через $j$. Пусть $Z_{1}=T_{1}$ и $Z_{n}=T_{n}-T_{n-1}, n \geq 2$. Покажите, что $Z_{1}, Z_{2}, \ldots$ независимы и что $P\left[Z_{n}=k\right]=f_{j f}^{(k)}$ при $n \geq 2$.

Ранги и рекорды. Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины с общей непрерывной функцией распределения. Пусть $B$ — $\omega$-множество, на котором $X_{m}(\omega )=X_{n}(\omega )$ для некоторой пары различных целых чисел $m, n$, и покажите, что $P(B)=0$. Удалите $B$ из пространства $\Omega$, на котором определены $X_{n}$. Это не меняет совместных распределений $X_{n}$ и делает совпадения невозможными.

Пусть $T^{(n)}(\omega )=\left(T_{1}^{(n)}(\omega ), \ldots , T_{n}^{(n)}(\omega )\right)$ — та перестановка $\left(t_{1}, \ldots , t_{n}\right)$ чисел $(1, \ldots , n)$, для которой $X_{t_{1}}(\omega )<X_{t_{2}}(\omega )<\cdots <X_{t_{n}}(\omega )$. Пусть $Y_{n}$ — ранг $X_{n}$ среди $X_{1}, \ldots , X_{n}$: $Y_{n}=r$ тогда и только тогда, когда $X_{i}<X_{n}$ ровно для $r-1$ значений $i$, предшествующих $n$.

$\uparrow$ Рекордные значения. Пусть $A_{n}$ — событие, состоящее в том, что рекорд наступает в момент $n$: $\max_{k<n} X_{k}<X_{n}$.

Используйте теорему Фубини, чтобы доказать, что свёртка конечных мер коммутативна и ассоциативна.

Предположим, что $X$ и $Y$ независимы и имеют плотности. Используйте (20.20), чтобы найти совместную плотность для $(X+Y, X)$, а затем используйте (20.19), чтобы найти плотность для $X+Y$. Проверьте с помощью (20.38).

Если $F(x-\epsilon )<F(x+\epsilon )$ для всех положительных $\epsilon$, то $x$ называется точкой роста $F$ (см. Задачу 12.9). Если $F(x-)<F(x)$, то $x$ называется атомом $F$.

Предположим, что $\mu$ и $\nu$ состоят из масс $\alpha_{n}$ и $\beta_{n}$ в точке $n, n=0,1,2, \ldots$. Покажите, что $\mu * \nu$ состоит из массы $\sum_{k=0}^{n} \alpha_{k} \beta_{n-k}$ в точке $n, n=0,1,2, \ldots$. Покажите, что свёртка двух распределений Пуассона (параметры которых могут различаться) даёт распределение Пуассона.

Распределение Коши имеет плотность

при $u>0$. (В силу (17.9), плотность интегрируется к 1.)

$18.18 \uparrow$ Пусть $X_{1}, \ldots , X_{n}$ независимы и каждая имеет стандартное нормальное распределение. Покажите, что

имеет плотность

на $(0, \infty )$. Это называется распределением хи-квадрат с $n$ степенями свободы.

↑ Гамма-распределение имеет плотность

на $(0, \infty )$ при положительных параметрах $\alpha$ и $u$. Проверьте, что (20.47) интегрируется к 1. Покажите, что

Заметьте, что (20.46) есть $f\left(x ; \frac{1}{2}, n / 2\right)$, и из (20.48) снова выведите, что (20.46) есть плотность $\chi_{n}^{2}$. Заметьте, что экспоненциальная плотность (2010) есть $f(x ; \alpha , 1)$, и из (20 48) выведите (20 39) ещё раз.

$\uparrow$ Пусть $N, X_{1}, X_{2}, \ldots$ независимы, где $P[N=n]=q^{n-1} p, n \geq 1$, и каждая $X_{k}$ имеет экспоненциальную плотность $f(x ; \alpha , 1)$. Покажите, что $X_{1}+\cdots +X_{N}$ имеет плотность $f(x ; \alpha p, 1)$.

Пусть $A_{n m}(\epsilon )=\left[\left|Z_{k}-Z\right|<\epsilon , n \leq k \leq m\right]$. Покажите, что $Z_{n} \rightarrow Z$ с вероятностью 1 тогда и только тогда, когда $\lim_{n} \lim_{m} P\left(A_{n m}(\epsilon )\right)=1$ для всех положительных $\epsilon$, тогда как $Z_{n} \rightarrow_{p} Z$ тогда и только тогда, когда $\lim_{n} P\left(A_{n \eta }(\epsilon )\right)=1$ для всех положительных $\epsilon$.

Предположим, что последовательность $\left(X_{n}\right)$ фундаментальна по вероятности в том смысле, что для положительного $\epsilon$ существует $N_{\epsilon }$ такое, что $P\left[\left|X_{m}-X_{n}\right|>\epsilon \right]<\epsilon$ при $m, n>N_{\epsilon }$.

Если $X_{n} \rightarrow 0$ с вероятностью 1, то $n^{-1} \sum_{k=1}^{n} X_{k} \rightarrow 0$ с вероятностью 1 в силу стандартной теоремы о средних Чезаро [A30]. Покажите на примере, что это не так, если сходимость с вероятностью 1 заменить сходимостью по вероятности.

$20.21, 20.24 \uparrow$ Пусть $d(X, Y)$ — инфимум тех положительных $\epsilon$, для которых $P[\left|X-Y\right| \geq \epsilon ] \leq \epsilon$.

Постройте в $R^{k}$ случайную величину $X$, равномерно распределённую на поверхности единичной сферы в том смысле, что $\left|X\right|=1$ и $U X$ имеет то же распределение, что и $X$, для ортогональных преобразований $U$. Указание. Пусть $Z$ равномерно распределена в единичном шаре в $R^{k}$, определите $\psi (x)=x /\left|x\right|$ ($\psi (0)=(1,0, \quad 0)$, скажем) и возьмите $X=\psi (Z)$.

$\uparrow$ Пусть $\Theta$ и $\Phi$ — долгота и широта случайной точки на поверхности единичной сферы в $R^{3}$. Покажите, что $\Theta$ и $\Phi$ независимы, $\Theta$ равномерно распределена на $[0,2 \pi )$, а $\Phi$ распределена на $[-\pi / 2,+\pi / 2]$ с плотностью $\frac{1}{2} \cos \phi$.

Докажите

продифференцируйте $k$ раз по $t$ под знаком интеграла (обоснуйте) и снова выведите (21.7).

Покажите, что если $X$ имеет стандартное нормальное распределение, то $E\left[|X|^{2 n+1}\right]= 2^{n} n!\sqrt{2 / \pi }$.

$20.9 \uparrow$ Рекорды. Рассмотрите последовательность рекордов в смысле Задачи 20.9. Покажите, что математическое ожидание времени ожидания следующего рекорда бесконечно.

20.14 ↑ Покажите, что распределение Коши не имеет математического ожидания.

Докажите первую лемму Бореля—Кантелли, применяя Теорему 16.6 к индикаторным случайным величинам. Почему Теоремы 16.6 недостаточно для второй леммы Бореля—Кантелли?

Докажите (21.9) с помощью теоремы Фубини.

Докажите, что для интегрируемой $X$

Предположим, что $X$ и $Y$ — случайные величины с функциями распределения $F$ и $G$.

↑ Пусть $X$, $Y$ и $Z$ — независимые случайные величины такие, что $X$ и $Y$ принимают значения $0,1,2$ с вероятностью $\frac{1}{3}$ каждое, а $Z$ принимает значения 0 и 1 с вероятностями $\frac{1}{3}$ и $\frac{2}{3}$. Пусть $X^{\prime }=X$ и $Y^{\prime }=X+Z(\bmod 3)$.

Предположим, что $X$ и $Y$ — независимые неотрицательные случайные величины и $E[X]=\infty$ и $E[Y]=0$. Каково общее значение $E[X Y]$ и $E[X] E[Y]$? Используйте соглашения (15.2) как для произведения случайных величин, так и для произведения их математических ожиданий. Что если $E[X]=\infty$ и $0<E[Y]<\infty$?

Предположим, что $X$ и $Y$ независимы и $f(x, y)$ неотрицательна. Положим $g(x)=E[f(x, Y)]$ и покажите, что $E[g(X)]=E[f(X, Y)]$. Покажите более общо, что $\int_{X \in A} g(X) d P=\int_{X \in A} f(X, Y) d P$. Распространите на $f$, которая может принимать отрицательные значения.

$\uparrow$ Интегрируемость $X+Y$ не влечёт интегрируемости $X$ и $Y$ по отдельности. Покажите, что влечёт, если $X$ и $Y$ независимы.

$20.25 \uparrow$ Положим $d_{1}(X, Y)=E[\left|X-Y\right| /(1+\left|X-Y\right|)]$. Покажите, что это метрика, эквивалентная метрике из Задачи 20.25.

Для плотности $C \exp \left(-|x|^{1 / 2}\right),-\infty <x<\infty$, покажите, что моменты всех порядков существуют, но производящая функция моментов существует только при $s=0$.

16.6 ↑ Покажите, что производящая функция моментов $M(s)$, определённая на $\left(-s_{0}, s_{0}\right)$, $s_{0}>0$, может быть продолжена до функции, аналитической в полосе $\left[z:-s_{0}<\operatorname {Re} z<s_{0}\right]$. Если $M(s)$ определена на $\left[0, s_{0}\right), s_{0}>0$, покажите, что она может быть продолжена до функции, непрерывной на $\left[z: 0 \leq \operatorname {Re} z<s_{0}\right]$ и аналитической на $\left[z \cdot 0<\operatorname {Re} z<s_{0}\right]$.

Используйте (21.28), чтобы найти производящую функцию (20.39).

Для независимых случайных величин, имеющих производящие функции моментов, покажите с помощью (21.28), что дисперсии складываются.

20.17 Покажите, что гамма-плотность (20.47) имеет производящую функцию моментов $(1-s / \alpha )^{-u}$ при $s<\alpha$. Покажите, что $k$-й момент равен $u(u+1) \cdots (u+k-$ 1) $/ \alpha^{k}$. Покажите, что распределение хи-квадрат с $n$ степенями свободы имеет математическое ожидание $n$ и дисперсию $2 n$.

Пусть $X_{1}, X_{2}, \ldots$ — одинаково распределённые случайные величины с конечным вторым моментом. Покажите, что $n P\left[\left|X_{1}\right| \geq \epsilon \sqrt{n}\right] \rightarrow 0$ и $n^{-1 / 2} \max_{k \leq n}\left|X_{k}\right| \rightarrow_{p} 0$.

Предположим, что $X_{1}, X_{2}, \ldots$ — независимая последовательность и $Y$ измерима относительно $\sigma \left(X_{n}, X_{n+1}, \ldots \right)$ при каждом $n$. Покажите, что существует константа $a$ такая, что $P[Y=a]=1$.

Предположим, что $\left\{ X_{n}\right\}$ независимы, и определим $X_{n}^{(c)}$ как в Теореме 22.8. Докажите, что для сходимости $\sum \left|X_{n}\right|$ с вероятностью 1 необходимо, чтобы $\sum P\left[\left|X_{n}\right|>c\right]$ и $\sum E\left[\mid X_{n}^{(c)}\right] \mid$ сходились при всех положительных $c$, и достаточно, чтобы они сходились при некотором положительном $c$. Если три ряда (22.13) сходятся, но $\Sigma E\left[\left|X_{n}^{(c)}\right|\right]=\infty$, то с вероятностью 1 $\sum X_{n}$ сходится условно, но не абсолютно.

Покажите, что при гипотезе Теоремы 22.6 $\sum X_{n}$ имеет конечную дисперсию, и распространите Теорему 22.4 на бесконечные последовательности.

$20.1422 .1 \uparrow$ Предположим, что $X_{1}, X_{2}, \ldots$ независимы и каждая имеет распределение Коши (20.45) с общим значением $u$.

Если $X_{1}, X_{2}, \ldots$ независимы и одинаково распределены, и если $P\left[X_{1} \geq 0\right]=1$ и $P\left[X_{1}>0\right]>0$, то $\sum_{n} X_{n}=\infty$ с вероятностью 1. Выведите это из Теоремы 22.1 и следствия из неё, а также непосредственно: найдите положительное $\epsilon$ такое, что $X_{r}>c$ бесконечно часто с вероятностью 1.

Предположим, что $X_{1}, X_{2}, \ldots$ независимы и одинаково распределены и $E\left[\left|X_{1}\right|\right]=\infty$. Используйте (21.9), чтобы показать, что $\sum_{n} P\left[\left|X_{n}\right| \geq a n\right]=\infty$ для каждого $a$, и заключите, что $\sup_{n} n^{-1}\left|X_{n}\right|=\infty$ с вероятностью 1. Теперь покажите, что $\sup_{n} n^{-1}\left|S_{n}\right| =\infty$ с вероятностью 1. Сравните со следствием из Теоремы 22.1.

Уравнение Вальда. Пусть $X_{1}, X_{2}, \ldots$ независимы и одинаково распределены с конечным математическим ожиданием, и положим $S_{n}=X_{1}+\cdots +X_{n}$. Предположим, что $\tau$ — момент остановки: $\tau$ принимает положительные целые значения и $[\tau =n] \in \sigma \left(X_{1}, \ldots , X_{n}\right)$; примеры см. в Разделе 7. Предположим также, что $E[\tau ]<\infty$.

$20.9 \uparrow$ Пусть $Z_{n}$ равно 1 или 0 в зависимости от того, наступает или нет рекорд в момент $n$ в смысле Задачи 20.9. Пусть $R_{n}=Z_{1}+\cdots +Z_{n}$ — число рекордов до момента $n$. Покажите, что $R_{n} / \log n \rightarrow_{P} 1$.

Предположим, что $X_{0}, X_{1}, \ldots$ независимы и каждая равномерно распределена на $[0,2 \pi ]$. Покажите, что с вероятностью 1 ряд $\sum_{n} e^{i X_{n}} z^{n}$ имеет единичную окружность в качестве своей естественной границы.

Докажите (что по существу является законом нуля и единицы Колмогорова), что если $A$ независимо от $\pi$-системы $\mathscr {P}$ и $A \in \sigma (\mathscr {P})$, то $P(A)$ равно либо 0, либо 1.

Предположим, что $\mathscr {A}$ — полукольцо, содержащее $\Omega$.

$22.12 \uparrow$ Теорема Бурстина. Пусть $f$ — борелевская функция на $[0,1]$ со сколь угодно малыми периодами: для каждого $\epsilon$ найдётся $p$ такое, что $0<p<\epsilon$ и $f(x)=f(x+p)$ при $0 \leq x \leq 1-p$. Покажите, что такая $f$ постоянна почти всюду:

Предположим, что $X_{1}, \ldots , X_{n}$ независимы и $s, t, \alpha$ неотрицательны. Пусть

Покажите, что минимум независимых экспоненциальных времён ожидания снова является экспоненциальной случайной величиной и что параметры складываются.

20.17 ↑ Покажите, что время $S_{n}$ наступления $n$-го события в пуассоновском потоке имеет гамма-плотность $f(x ; \alpha , n)$, определённую формулой (20.47). Это иногда называется плотностью Эрланга.

Пусть $A_{i}=t-S_{N_{1}}$ — время назад до самого недавнего события в пуассоновском потоке (или до 0), и пусть $B_{i}=S_{N_{t}+1}-t$ — время вперёд до следующего события. Покажите, что $A_{t}$ и $B_{t}$ независимы, что $B_{t}$ распределена как $X_{1}$ (экспоненциально с параметром $\alpha$), и что $A_{t}$ распределена как $\min \left\{ X_{1}, t\right\}$: $P\left[A_{t} \leq i\right]$ равно $0,1-e^{-\alpha x}$ или 1 при $x<0,0 \leq x<t$ или $x \geq t$ соответственно.

$\uparrow$ Пусть $L_{t}=A_{t}+B_{t}=S_{N_{t}+1}-S_{N_{t}}$ — длина интервала между поступлениями, покрывающего $t$.