Задачи

Покажите, что если $\operatorname {Var}\left(X\right) = 0$, то $X$ почти наверное постоянна; то есть существует $a \in \mathbb {R}$ такое, что $\mathbb {P}\left(X = a\right) = 1$. (Сначала покажите, что если $\mathbb {E}\left[X^{2}\right] = 0$, то $\mathbb {P}\left(X = 0\right) = 1$.)

Пусть $\Omega = \left\{ \omega_{1}, \omega_{2}, \omega_{3}\right\}$, где $\mathbb {P}\left(\omega_{1}\right) = \mathbb {P}\left(\omega_{2}\right) = \mathbb {P}\left(\omega_{3}\right) = \frac{1}{3}$. Определим $X, Y, Z: \Omega \rightarrow \mathbb {R}$ следующим образом

Покажите, что $X$ и $Y$ имеют одинаковые функции вероятностей. Найдите функции вероятностей $X+Y, X Y$ и $X / Y$. Найдите условные функции вероятностей $f_{Y \mid Z}$ и $f_{Z \mid Y}$.

При каких значениях $k$ и $\alpha$ функция $f$ является функцией вероятностей, если:

Пусть $X$ и $Y$ — независимые пуассоновские случайные величины с параметрами $\lambda$ и $\mu$ соответственно. Покажите, что:

Если $X$ имеет геометрическое распределение, покажите, что $\mathbb {P}\left(X = n+k \mid X > n\right) = \mathbb {P}\left(X = k\right)$ для $k, n \geq 1$. Как вы думаете, почему это свойство называется свойством «отсутствия памяти»? Обладает ли этим свойством какое-либо другое распределение на положительных целых числах?

Покажите, что сумма двух независимых биномиальных случайных величин, $\operatorname {bin}(m, p)$ и $\operatorname {bin}(n, p)$ соответственно, имеет распределение $\operatorname {bin}(m+n, p)$.

Пусть $N$ — число выпадений орла при $n$ подбрасываниях несимметричной монеты. Запишите функцию вероятностей $N$ через вероятность $p$ выпадения орла при каждом подбрасывании. Докажите и используйте тождество

для вычисления вероятности $p_{n}$ того, что $N$ чётно. Сравните с Задачей (1.8.20).

Урна содержит $N$ шаров, из которых $b$ синих и $r( = N-b)$ красных. Случайная выборка из $n$ шаров извлекается из урны без возвращения. Покажите, что число $B$ синих шаров в этой выборке имеет функцию вероятностей

Это распределение называется гипергеометрическим с параметрами $N, b$ и $n$. Далее покажите, что если $N, b$ и $r$ стремятся к $\infty$ таким образом, что $b / N \rightarrow p$ и $r / N \rightarrow 1-p$, то

Вы показали, что при малых $n$ и больших $N$ распределение $B$ почти не зависит от того, возвращаются ли шары в урну сразу после извлечения.

Пусть $X$ и $Y$ — независимые случайные величины с распределением $\operatorname {bin}(n, p)$, и пусть $Z = X+Y$. Покажите, что условное распределение $X$ при условии $Z = N$ является гипергеометрическим распределением из Задачи (3.11.10).

Предположим, что $X$ и $Y$ принимают значения в $\left\{ 0,1\right\}$, с совместной функцией вероятностей $f(x, y)$. Обозначим $f(0,0) = a$, $f(0,1) = b, f(1,0) = c, f(1,1) = d$, и найдите необходимые и достаточные условия для того, чтобы $X$ и $Y$ были:

Пусть $X_{1}, X_{2}, \ldots , X_{n}$ — независимые случайные величины, и предположим, что $X_{k}$ имеет распределение Бернулли с параметром $p_{k}$. Покажите, что $Y = X_{1}+X_{2}+\cdots +X_{n}$ имеет математическое ожидание и дисперсию, задаваемые формулами

Покажите, что при фиксированном $\mathbb {E}\left[Y\right]$ дисперсия $\operatorname {Var}\left(Y\right)$ максимальна, когда $p_{1} = p_{2} = \cdots = p_{n}$. То есть разброс суммы наибольший, когда отдельные слагаемые наиболее похожи друг на друга. Противоречит ли это интуиции?

Пусть $\mathbf{X} = \left(X_{1}, X_{2}, \ldots , X_{n}\right)$ — вектор случайных величин. Ковариационная матрица $\mathbf{V}(\mathbf{X})$ вектора $\mathbf{X}$ определяется как симметричная матрица размера $n$ на $n$ с элементами $\left(v_{i j}: 1 \leq i, j \leq n\right)$, заданными как $v_{i j} = \Cov {X_{i}, X_{j}}$. Покажите, что $\left|\mathbf{V}(\mathbf{X})\right| = 0$ тогда и только тогда, когда величины $X_{i}$ линейно зависимы с вероятностью единица, то есть $\mathbb {P}\left(a_{1} X_{1}+a_{2} X_{2}+\cdots +a_{n} X_{n} = b\right) = 1$ для некоторых $\mathbf{a}$ и $b$. ($\left|\mathbf{V}\right|$ обозначает определитель $\mathbf{V}$.)

Пусть $X$ и $Y$ — независимые случайные величины Бернулли с параметром $\frac{1}{2}$. Покажите, что $X+Y$ и $\left|X-Y\right|$ зависимы, хотя и некоррелированы.

Секретарь роняет на лестнице $n$ подходящих друг другу пар писем и конвертов, а затем вкладывает письма в конверты в случайном порядке. Используя индикаторы, покажите, что число $X$ правильно совпавших пар имеет математическое ожидание и дисперсию, равные 1, при всех $n \geq 2$. Покажите, что функция вероятностей $X$ сходится к функции вероятностей Пуассона при $n \rightarrow \infty$.

Пусть $\mathbf{X} = \left(X_{1}, X_{2}, \ldots , X_{n}\right)$ — вектор независимых случайных величин, каждая из которых имеет распределение Бернулли с параметром $p$. Пусть $f:\left\{ 0,1\right\}^{n} \rightarrow \mathbb {R}$ возрастает, то есть $f(\mathbf{x}) \leq f(\mathbf{y})$, если $x_{i} \leq y_{i}$ для каждого $i$.

Пусть $R(p)$ — функция надёжности сети $G$ с заданными источником и стоком, каждое ребро которой работает с вероятностью $p$, и пусть $A$ — событие, состоящее в том, что существует рабочее соединение от источника к стоку. Покажите, что

где $\omega$ — типичная реализация (т.е. исход) сети, $N(\omega )$ — число рабочих рёбер в $\omega$, а $m$ — общее число рёбер $G$.

Выведите, что $R^{\prime }(p) = \Cov {I_{A}, N} /\left\{ p(1-p)\right\}$, и, следовательно, что

Пусть $R(p)$ — функция надёжности сети $G$, каждое ребро которой работает с вероятностью $p$.

В определённом жанре детективной литературы сыщик должен произнести: «у преступника есть необычные приметы...; найдите этого человека, и вы найдёте своего преступника». Предположим, что любой отдельно взятый человек обладает этими необычными приметами с вероятностью $10^{-7}$ независимо от всех остальных людей, и что рассматриваемый город насчитывает $10^{7}$ жителей. Вычислите математическое ожидание числа таких людей в городе.

Арбетнот заметил, что число рождений мальчиков превышало число рождений девочек в Лондоне на протяжении 82 лет подряд. Утверждая, что это показывает, что оба пола не могут быть равновероятны, поскольку $2^{-82}$ очень мало, он приписал эту череду преобладания мужского пола Божественному Провидению. Предположим, что каждые роды приводят к рождению девочки с вероятностью $p = 0.485$, и что исходы разных родов независимы друг от друга. Игнорируя возможность рождения близнецов (и тому подобное), покажите, что вероятность того, что число девочек превысит число мальчиков среди $2 n$ живорождений, не превосходит $\binom {2 n}{n} p^{n} q^{n}\left\{ q /(q-p)\right\}$, где $q = 1-p$. Предположим, что в течение каждого из 82 лет подряд рождается 20 000 детей. Покажите, что вероятность того, что каждый год число мальчиков превышает число девочек, составляет не менее 0.99. Вам может понадобиться формула Стирлинга.

Рассмотрим симметричное случайное блуждание с поглощающей границей в $N$ и отражающей границей в 0 (так что, когда частица находится в $0$, на следующем шаге она переходит в 1). Пусть $\alpha_{k}(j)$ — вероятность того, что частица, начавшая движение в точке $k$, посетит 0 ровно $j$ раз до поглощения в $N$. Договоримся, что если $k = 0$, то начальная точка засчитывается как одно посещение. Покажите, что

Задача о разделе ставки (3.9.4). Монета подбрасывается многократно, орёл выпадает с вероятностью $p$ при каждом подбрасывании. Игрок A выигрывает партию, если орёл выпадет по крайней мере $m$ раз до того, как решка выпадет $n$ раз; в противном случае выигрывает игрок B. Найдите вероятность того, что выиграет A.

Монета подбрасывается многократно, орёл выпадает при каждом подбрасывании с вероятностью $p$. Игрок начинает с начальным капиталом $k$ (где $0 < k < N$); он выигрывает одно очко за каждый орёл и проигрывает одно очко за каждую решку. Если его капитал когда-либо становится равным 0, он разоряется, а если он когда-либо достигает $N$, игрок прекращает игру, чтобы купить «Ягуар». Предположим, что $p < \frac{1}{2}$. Покажите, что игрок может увеличить свои шансы на выигрыш, удвоив ставки. Можно считать, что $k$ и $N$ чётны.

Какова соответствующая стратегия, если $p \geq \frac{1}{2}$?

Заядлый игрок никогда не бывает удовлетворён. На каждом этапе он выигрывает $£ 1$ с вероятностью $p$ и в противном случае проигрывает $£ 1$. Найдите вероятность того, что он в конце концов разорится, начав с начальным капиталом $£ k$.

Пусть $\left\{ X_{n}: n \geq 1\right\}$ — независимые одинаково распределённые случайные величины, принимающие целые значения. Пусть $S_{0} = 0, S_{n} = \sum_{i = 1}^{n} X_{i}$. Размах $R_{n}$ последовательности $S_{0}, S_{1}, \ldots , S_{n}$ — это число различных значений, принимаемых этой последовательностью. Покажите, что $\mathbb {P}\left(R_{n} = R_{n-1}+1\right) = \mathbb {P}\left(S_{1} S_{2} \cdots S_{n} \neq 0\right)$, и выведите, что при $n \rightarrow \infty$

Отсюда покажите, что для простого случайного блуждания $n^{-1} \mathbb {E}\left[R_{n}\right] \rightarrow \left|p-q\right|$ при $n \rightarrow \infty$.

Закон арксинуса для максимумов. Рассмотрим симметричное случайное блуждание $S$, начинающееся в начале координат, и пусть $M_{n} = \max \left\{ S_{i}: 0 \leq i \leq n\right\}$. Покажите, что для $i = 2 k, 2 k+1$ вероятность того, что блуждание впервые достигает $M_{2 n}$ в момент времени $i$, равна $\frac{1}{2} \mathbb {P}\left(S_{2 k} = 0\right) \mathbb {P}\left(S_{2 n-2 k} = 0\right)$.

Пусть $S$ — симметричное случайное блуждание с $S_{0} = 0$, и пусть $N_{n}$ — число точек, которые были посещены $S$ ровно один раз до момента времени $n$. Покажите, что $\mathbb {E}\left[N_{n}\right] = 2$.

Рассмотрим следующий отрывок стихотворения под названием «Заметка для учёного».

Те, у кого уже три дочери, пробуют снова, И тогда с вероятностью пятьдесят на пятьдесят у них будет четверо, Те же, у кого есть сын или сыновья, на этом остановятся, Отсюда весь этот избыток женщин, ч.т.д.

Пусть $\beta > 1$, пусть $p_{1}, p_{2}, \ldots$ обозначают простые числа, и пусть $N_1, N_2, \ldots$ — независимые случайные величины, где $N_i$ имеет функцию вероятностей $\mathbb {P}\left(N_i = k\right) = \left(1-\gamma_{i}\right) \gamma_{i}^{k}$ при $k \geq 0$, где $\gamma_{i} = p_{i}^{-\beta }$ для всех $i$. Покажите, что $M = \prod_{i = 1}^{\infty } p_{i}^{N_i}$ — случайное целое число с функцией вероятностей $\mathbb {P}\left(M = m\right) = C m^{-\beta }$ при $m \geq 1$ (это распределение можно назвать распределением Дирихле), где $C$ — константа, удовлетворяющая

$N+1$ тарелок расставлены по кругу обеденного стола, и горячий пирог передаётся между ними по правилу симметричного случайного блуждания: каждый раз, попадая на тарелку, он перебрасывается на одну из двух соседних тарелок, причём каждый вариант имеет вероятность $\frac{1}{2}$. Игра останавливается в момент, когда пирог побывал на каждой тарелке хотя бы один раз. Покажите, что для любой тарелки, кроме той, с которой пирог начал движение, вероятность оказаться последней посещённой тарелкой равна $1 / N$.

Имеется $\binom {n}{m}$ точек, упорядоченных по достоинству без совпадений. Вы стремитесь достичь наилучшей точки $B$. Если вы находитесь в точке, занимающей $j$-е место по достоинству, вы переходите в одну из $j-1$ точек, превосходящих её, с равной вероятностью перехода в каждую из них. Пусть $r_{j}$ — математическое ожидание числа шагов до достижения $B$ из вершины, занимающей $j$-е место. Покажите, что $r_{j} = \sum_{k = 1}^{j-1} k^{-1}$. Приведите асимптотическое выражение для математического ожидания времени достижения $B$ из наихудшей вершины при больших $m, n$.

В ряд расположены $n$ нестабильных молекул, $m_{1}, m_{2}, \ldots , m_{n}$. Одна из $n-1$ пар соседних молекул, выбранная случайным образом, соединяется, образуя устойчивый димер; этот процесс продолжается до тех пор, пока не останется $U_{n}$ изолированных молекул, никакие две из которых не являются соседними. Покажите, что вероятность того, что $m_{1}$ останется изолированной, равна $\sum_{r = 0}^{n-1}(-1)^{r} / r! \rightarrow e^{-1}$ при $n \rightarrow \infty$. Выведите, что $\lim_{n \rightarrow \infty } n^{-1} \mathbb {E}\left[U_{n}\right] = e^{-2}$.

Пусть $\left\{ I_{r}: 1 \leq r \leq n\right\}$ — независимые случайные величины Бернулли с параметрами $\left\{ p_{r}: 1 \leq r \leq n\right\}$ соответственно, удовлетворяющими условию $p_{r} \leq c < 1$ для всех $r$ и некоторого $c$. Пусть $\lambda = \sum_{r = 1}^{n} p_{r}$ и $X = \sum_{r = 1}^{n} X_{r}$. Покажите, что

Длина хвоста $r$-й особи в стаде из $N$ химер равна $x_{r}$. Случайная выборка из $n$ химер извлекается (без возвращения), и их хвосты измеряются. Пусть $I_{r}$ — индикатор события, состоящего в том, что $r$-я химера попала в выборку. Положим

Покажите, что $\mathbb {E}\left[\bar{Y}\right] = \mu$, и $\operatorname {Var}\left(\bar{Y}\right) = (N-n) \sigma^{2} /\left\{ n(N-1)\right\}$.

Любой человек в группе $G$ заболевает некоторой болезнью $C$ с вероятностью $\gamma$; такие люди госпитализируются с вероятностью $c$. Независимо от этого, любой человек в $G$ может оказаться в больнице с вероятностью $a$ по какой-либо другой причине. Пусть $X$ — число людей в больнице, а $Y$ — число людей в больнице, у которых есть $C$ (включая тех, кто с $C$ был госпитализирован по любой другой причине). Покажите, что корреляция между $X$ и $Y$ равна

где $p = a+c-a c$. Ошибочно утверждалось, что, когда $\rho (X, Y)$ близко к единице, это свидетельствует о причинно-следственной связи между принадлежностью к $G$ и заболеванием $C$.

Телефонная компания по продажам многократно пытается продать новые кухни каждой из $N$ семей в деревне. Семья $i$ соглашается купить новую кухню после того, как к ней обратились $K_{i}$ раз, где $K_{i}$ — независимые одинаково распределённые случайные величины с функцией вероятностей $f(n) = \mathbb {P}\left(K_{i} = n\right)$. Допускается значение $\infty$, так что $f(\infty ) \geq 0$. Пусть $X_{n}$ — число проданных кухонь на $n$-м раунде обращений, так что $X_{n} = \sum_{i = 1}^{N} I_{\left\{ K_{i} = n\right\} }$. Предположим, что $N$ — случайная величина с распределением Пуассона с параметром $v$.

Частица совершает случайное блуждание по неотрицательным целым числам следующим образом. Находясь в точке $n$ $( > 0)$, она переходит в следующую позицию, равномерно распределённую на множестве $\left\{ 0,1,2, \ldots , n+1\right\}$. Когда она впервые попадает в 0, происходит поглощение. Предположим, что она начинает движение в точке $a$.

Пусть $G$ — конечный граф без петель и кратных рёбер, и обозначим через $d_{v}$ степень вершины $v$. Независимым множеством называется множество вершин, никакая пара которых не соединена ребром. Пусть $\alpha (G)$ — размер наибольшего независимого множества графа $G$. Используя вероятностный метод, покажите, что $\alpha (G) \geq \sum_{v} 1 /\left(d_{v}+1\right)$.

Ставки по Келли, или пропорциональное инвестирование. Игрок (или «инвестор») делает последовательность ставок следующего типа: при каждой ставке, для данной ставки $S$, выигрыш составляет либо потерю ставки с вероятностью $q( = 1-p)$, либо выигрыш на общую сумму $(1+r) S$ с вероятностью $p$. (Предполагается обычная независимость.) Плата за участие составляет $c S$, где $c < r$. Покажите, что средний выигрыш за одну игру при ставке $S$ равен $g S$, где $g = p r-q-c$ (отрицательное значение означает проигрыш).

Игрок решает ставить фиксированную долю $f$ своего текущего капитала на каждом этапе. То есть, имея текущий капитал $F$, она ставит $f F$ при некотором фиксированном $f$. Покажите, что её итоговый капитал равен

где $I$ — индикаторная функция выигрыша. Предположим, что $p > (1+c) /(1+r)$. Игрок рассматривает две стратегии выбора $f$: при заданном $F$,

Пусть $x_{1}, x_{2}, \ldots , x_{r}$ — заданные вещественные числа, где $r \geq 2$, и пусть последовательность случайных величин $\left\{ X_{n}: n \geq 1\right\}$ задана следующим образом. Сначала $X_{n} = x_{n}$ при $n \leq r$. При $n \geq r$ положим $X_{n+1} = X_{U_{n}}+X_{V_{n}}$, где $U_{n}, V_{n}$ равномерно распределены на $\left\{ 1,2, \ldots , n\right\}$, и семейство $\left\{ U_{n}, V_{n}: n \geq r\right\}$ независимо. Покажите, что

Желающие могут также показать, что при $r = 1 = x_{1}$ и $n \rightarrow \infty$,

Пусть $X_{1} = 1$. При $n \geq 1$ положим $X_{n+1} = X_{U_{n}}-X_{V_{n}}$, где $U_{n}, V_{n}$ равномерно распределены на $\left\{ 1,2, \ldots , n\right\}$, и семейство $\left\{ U_{n}, V_{n}: n \geq 1\right\}$ независимо. Покажите, что

Вам может быть полезно вспомнить формулу синуса Эйлера:

Голлум спрятал Кольцо Всевластия в одной из коробок, выбранной случайным образом из ряда, состоящего из $n \geq 1$ таких коробок. Бильбо открывает случайно выбранную коробку. Если кольца там нет, его оккультных способностей достаточно, чтобы узнать, находится ли кольцо справа или слева, и он открывает следующие коробки соответственно. Найдите выражение для математического ожидания $b_{n}$ числа открытых коробок до нахождения кольца, и выведите, что $b_{n} \sim 2 \log n$ при $n \rightarrow \infty$.

В варианте предыдущей задачи $n = 2^{r}-1$, и Бильбо неизменно выбирает среднюю коробку. Найдите математическое ожидание $m_{r}$ числа осмотренных коробок и асимптотику $m_{r}$ при $r \rightarrow \infty$.

Злая фея прокляла вас. Добрая фея спрятала волшебное слово, снимающее проклятие, в одной из $n$ пронумерованных коробок, и сказала вам, что оно находится в коробке $i$ с вероятностью $p_{i}$, для $i = 1,2, \ldots , n$. Каждый день вам разрешается заглянуть в одну коробку.

Гвен и Джон играют матч «до $2 n+1$ партий», и игра останавливается, как только один из них выиграет $n+1$ партий. Гвен выигрывает каждую партию с вероятностью $\gamma \in (0,1)$, а Джон — в противном случае (с вероятностью $\delta = 1-\gamma$). Победители разных партий независимы. Запишите выражение для вероятности $f_{r}$ того, что Гвен выиграет ровно $r$ партий всего, при условии, что матч выиграл Джон, и выведите, что $r f_{r} = (n+r) \gamma f_{r-1}$ для $0 < r \leq n$.

Отсюда, или иным способом, докажите, что математическое ожидание общего числа партий $T_{n}$ в матче равно

где $P_{n}$ — вероятность того, что матч выиграет Гвен. Когда $p = \frac{1}{2}$, покажите, что

Пусть $S(n, k)$ — число способов разбить $N = \left\{ 1,2, \ldots , n\right\}$ на $k$ непустых частей. Предположим, что каждый элемент $N$ окрашен в один из $c$ различных цветов. Докажите, что

Выведите, что $n$-й момент распределения Пуассона с параметром 1 равен числу $b_{n}$ способов разбить $N$, то есть $b_{n} = \sum_{k = 1}^{n} S(n, k)$.

Пусть $\beta , \gamma \in [0,1]$. Берта и Гарольд играют партию в рэкетс. Берта выигрывает очко с вероятностью $\beta$, когда подаёт она, а Гарольд выигрывает с вероятностью $\gamma$, когда подаёт он. Первый игрок, выигравший $n$ очков, выигрывает партию, и первой подаёт Берта. Рассмотрим следующие правила смены подающего.

Пусть $X, Y$ — дискретные случайные величины с функциями вероятностей $f_{X}, f_{Y}$ соответственно и совместной функцией вероятностей $f_{X, Y}$. Определим:

Пусть $\beta > 1$, и пусть $M, L$ — независимые случайные величины с распределением Дирихле с параметром $\beta$ из Задачи (3.11.31).

Строгий оксфордский секрет — это секрет, который можно рассказать не более чем одному другому человеку. В группе из $n+1$ оксфордцев один узнаёт строгий секрет. В соответствии с правилами, она рассказывает его одному другому человеку, выбранному равномерно случайным образом из остальной части группы. Каждый посвящённый рассказывает секрет ровно одному человеку, выбранному случайным образом из остальной части группы, за исключением того человека, от которого он услышал секрет. Когда кто-то, кто уже знает секрет, слышит его повторно, весь процесс прекращается.

Пусть $S$ — общее число людей, которые в итоге узнают секрет. Найдите распределение $S$, и покажите, что

Обозначая через $n^{\underline{r}}$ выражение $n!/(n-r)$!, вам может пригодиться, что

Из колоды в $n$ карт случайным образом выбираются две различные карты, и они переставляются местами. Пусть $p_{r}$ — вероятность того, что данная карта (скажем, верхняя карта) находится на своём исходном месте после $r > 0$ таких независимых транспозиций.