Эффективное оценивание методом максимального правдоподобия

Пусть $X$ имеет биномиальное распределение $b(p, n), 0 \leq p \leq 1$. Определите MLE для $p$

В предыдущей задаче покажите, что MLE не существует, когда $p$ ограничено условием $0<p<1$, а $x=0$ или $=n$.

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением $N\left(\xi , \sigma^{2}\right)$. Определите MLE для

Предположим, что $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением $N(\xi , 1)$, где $\xi >0$. Покажите, что MLE есть $\bar{X}$, когда $\bar{X}>0$, и не существует, когда $\bar{X} \leq 0$.

Пусть $X$ принимает значения 0 и 1 с вероятностями $p$ и $q$ соответственно. Если известно, что $1 / 3 \leq p \leq 2 / 3$,

Когда $\Omega$ конечно, покажите, что MLE состоятельна тогда и только тогда, когда она удовлетворяет (3.2).

Покажите, что Теорема 3.2 остаётся верной, если предположение A1 ослабить до A1': Существует непустое множество $\Omega_{0} \in \Omega$, такое что $\theta_{0} \in \Omega_{0}$, и $\Omega_{0}$ содержится в носителе каждого $P_{\theta }$.

Докажите существование и единственность $0<a_{k}<a_{k-1}, k=1,2, \ldots$, удовлетворяющих (3.4).

Докажите (3.9).

В Примере 3.6 с $0<c<1 / 2$ определите состоятельную оценку $k$.

Проверьте характер корней в Примере 3.9.

Пусть $X$ имеет распределение $N(\theta , 1)$. Покажите, что при условии $a<X<b$ переменная $X$ стремится по вероятности к $b$ при $\theta \rightarrow \infty$.

Рассмотрим выборку $X_{1}, \ldots , X_{n}$ из распределения Пуассона, обусловленного положительностью, так что $P\left(X_{i}=x\right)=\theta^{x} e^{-\theta } / x!\left(1-e^{-\theta }\right)$ при $x=1,2, \ldots$. Покажите, что уравнение правдоподобия имеет единственный корень при всех значениях $x$.

Пусть $X$ имеет отрицательное биномиальное распределение (2.3.3). Найдите ELE для $p$.

Для каждой из следующих плотностей $f(\cdot )$ определите,

(a) является ли она строго унимодальной, и

(b) является ли $x f^{\prime }(x) / f(x)$ строго убывающей при $x>0$.

Соответственно прокомментируйте, имеют ли соответствующие параметры сдвига и масштаба единственные MLE:

Если $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с плотностью $f\left(x_{i}-\theta \right)$ или $a f\left(a x_{i}\right)$, и $f$ — логистическая плотность $L(0,1)$, уравнение правдоподобия имеет единственные решения $\hat{\theta }$ и $\hat{a}$ как в случае сдвига, так и в случае масштаба. Определите предельное распределение $\sqrt{n}(\hat{\theta }-\theta )$ и $\sqrt{n}(\hat{a}-a)$.

В Задаче 3.15(b), при $f$ — плотности Коши $C(0, a)$, уравнение правдоподобия имеет единственный корень $\hat{a}$, и $\sqrt{n}(\hat{a}-a) \xrightarrow {\mathcal{L}} N\left(0,2 a^{2}\right)$.

Если $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением $C(\theta , 1)$, то при любом фиксированном $n$ существует положительная вероятность того,

Если $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с гамма-распределением $\Gamma (\theta , 1)$, уравнение правдоподобия имеет единственный корень.

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением Вейбулла с плотностью

которое не принадлежит ни экспоненциальному семейству, ни семейству сдвига, ни семейству масштаба. Тем не менее покажите, что существует единственный внутренний максимум функции правдоподобия.

В условиях Теоремы 3.2 покажите, что

стремится по распределению к $N(0,1)$.

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением $N\left(\theta , a \theta^{2}\right), \theta >0$, где $a$ — известная положительная константа.

Проверьте, что предположения Теоремы 3.10 выполнены в Примере 3.12.

Для $X_{1}, \ldots , X_{n}$ — независимых одинаково распределённых случайных величин с распределением $D E(\theta , 1)$ покажите, что

В Примере 3.12 покажите непосредственно, что $(1 / n) \Sigma T\left(X_{i}\right)$ является асимптотически эффективной оценкой $\theta =E_{\eta }[T(X)]$, рассмотрев её предельное распределение.

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением $\theta g(x)+(1-\theta ) h(x)$, где $(g, h)$ — пара заданных плотностей вероятности относительно $\mu$, и $0<\theta <1$.

В условиях Теоремы 3.7 предположим, что $\hat{\theta }_{1 n}$ и $\hat{\theta }_{2 n}$ — две состоятельные последовательности корней уравнения правдоподобия. Докажите, что $P_{\theta_{0}}\left(\hat{\theta }_{1 n}=\hat{\theta }_{2 n}\right) \rightarrow 1$ при $n \rightarrow \infty$. [Указание:

Чтобы установить измеримость последовательности корней $\hat{\theta }_{n}^{*}$ из Теоремы 3.7, можно следовать доказательству Serfling (1980, Раздел 4.2.2), где доказана измеримость аналогичной последовательности.