Допустимость и минимаксность в экспоненциальных семействах

Покажите, что если $\theta^{*}$ минимизирует $g(\theta )$ и $\hat{g}(x)$ является несмещённой оценкой $g(\theta )$, то существует $\epsilon >0$ такое, что множество $A_{\epsilon }=\left\{ x \in \mathcal{X}: \hat{g}(x)<g(\theta )-\epsilon \right\}$ удовлетворяет $P\left(A_{\epsilon }\right)>0$. Аналогичный вывод верен, если $g\left(\theta^{*}\right)$ является максимумом.

Предположим, что $g\left(\theta^{*}\right)$ является минимумом. (Случай максимума рассматривается аналогично.) Покажите, что оценка

удовлетворяет $R(\delta , \theta )-R(\hat{g}(x), \theta )<0$.

Для ситуации из Примера 2.3 примените Лемму 8.1, чтобы установить недопустимость UMVU-оценки $\sigma_{A}^{2}$. Также объясните, почему предположения Леммы 8.1 не выполняются для оценивания $\sigma^{2}$.

если $E_{\theta }(X) \geq 0$ для всех $\theta$ и $b<0$;

если $E_{\theta }(X) \leq k$ для всех $\theta$ и $a k+b>k$.

если $\operatorname {var}_{\theta }(X) / E_{\theta }^{2}(X)>\lambda >0$ и $\varepsilon >0$,

если $\operatorname {var}_{\theta }(X) / E_{\theta }^{2}(X)<\lambda$ и $\varepsilon <0$.

если $E_{\theta }(X)>0$ для всех $\theta , b>0$ и $\varepsilon >0$;

если $E_{\theta }(X)<0$ для всех $\theta , b<0$ и $\varepsilon >0$ (Gupta 1966).

Покажите, что из (2.7) следует

и, следовательно, если $R(\theta , \delta ) \leq R(\theta , \bar{X})$, то $\frac{2 b^{\prime }(\theta )}{n}+b^{2} \leq 0$.

Покажите, что нетривиальное решение $b(\theta )$ привело бы к улучшенной оценке $x-g(x)$ при $p=1$ в Следствии 4.7.2.

без потери общности ограничение $\theta \in [a, b]$ можно свести к $\theta \in [-m, m]$, $m>0$.

Если $\Lambda$ — априорное распределение, помещающее массу 1/2 в каждую из точек $\pm m$, то байесовская оценка при квадратичной функции потерь есть

Для $m<1 / \sqrt{n}$

и, следовательно, по Следствию 1.6, $\delta^{\Lambda }$ является минимаксной. [Указание: Задача 2.8 может быть использована, чтобы показать, что производная функции риска может иметь не более одной перемены знака, с отрицательного на положительный, и, следовательно, любой внутренний экстремум может быть только минимумом.]

Для $m>1.05 / \sqrt{n}$ оценка $\delta^{\Lambda }$ из пункта (b) больше не является минимаксной. Объясните, почему это так, и предложите альтернативную оценку в этом случае. [Указание: Рассмотрите $R\left(0, \delta^{\Lambda }\right)$.]

$\max_{\theta \in [-m, m]} R(\theta , a \bar{X}+b)=\max \left\{ R(-m, a \bar{X}+b), R(m, a \bar{X}+b)\right\}$.

Оценка $a^{*} \bar{X}$ с $a^{*}=m^{2} /\left(\frac{1}{n}+m^{2}\right)$ является линейной минимаксной оценкой для всех $m$ с минимаксным риском $a^{*} / n$.

$\bar{X}$ является линейной минимаксной оценкой для $m=\infty$.

допустимость оценки $a Y+b$ в Примере 2.13 эквивалентна допустимости $c S^{2}+d$ при подходящем выборе $c$ и $d$.

риск $c S^{2}+d$ задаётся формулой $R\left(c S^{2}+d, \sigma^{2}\right)=2 n c^{2} \sigma^{2}+\left[(n c-1) \sigma^{2}+d\right]^{2}$

при $d=0, R\left(c S^{2}, \sigma^{2}\right)<R\left(0, \sigma^{2}\right)$, когда $c<2 /(n+2)$, и, следовательно, оценка $a Y+b$ в Примере 2.13 недопустима при $a=b=0$.

Покажите, что риск оценки $\delta =\varphi (z) s^{2}$ при квадратичной функции потерь минимизируется при выборе

Stein (1964) показал, что $\varphi_{\mu , \sigma }^{*}(z) \leq \varphi_{0,1}^{*}(z)$ для всех $\mu , \sigma$. Предполагая это, выведите, что $\varphi_{s}(Z) S^{2}$ доминирует над $[1 /(n+1)] S^{2}$ при квадратичной функции потерь, где

Покажите, что $\varphi_{0,1}^{*}(z)=\left(1+z^{2}\right) /(n+2)$, и, следовательно, $\varphi_{s}(Z) S^{2}$ задаётся формулой (2.31).

Наилучшая эквивариантная оценка вида $\varphi (Z) S^{2}$ была получена Brewster и Zidek (1974) и задаётся формулой

(2.26) и (2.27),

(2.34) и (2.35) при $c=\sqrt{(n-1) /(n+1)}$, и

(2.38) и (2.39).

$X$ имеет распределение Пуассона.

$X$ имеет отрицательное биномиальное распределение (Gupta 1966).

Используя рассуждение, аналогичное рассуждению из Примера 2.9, покажите, что $X$ не является минимаксной оценкой и что наименее благоприятное априорное распределение должно иметь множество $w_{\wedge }$ [из (1.5)], состоящее из конечного числа точек.

Пусть $\Lambda_{a}$ — априорное распределение, помещающее массу $a_{i}, i=1, \ldots , k$, в точки параметра $b_{i}, i=1, \ldots , k$. Покажите, что байесовская оценка, соответствующая этому априорному распределению, есть

Пусть $m_{0}$ — решение уравнения $m=e^{-m}\left(m_{0} \approx .57\right)$. Покажите, что при $0 \leq \lambda \leq m$, $m \leq m_{0}$, одноточечное априорное распределение $(a_{i}=1, b_{1}=m)$ даёт минимаксную оценку. Вычислите минимаксный риск и сравните его с риском $X$.

Пусть $m_{1}$ — первый положительный нуль уравнения $\left(1+\delta^{\Lambda }(m)\right)^{2}=2+m^{2} / 2$, где $\Lambda$ — двухточечное априорное распределение $(a_{1}=a, b_{1}=0 ; a_{2}=1-a, b_{2}=m)$. Покажите, что при $0 \leq \lambda \leq m$, $m_{0}<m \leq m_{1}$, двухточечное априорное распределение даёт минимаксную оценку (используйте Следствие 1.6). Вычислите минимаксный риск и сравните его с риском $X$. [С ростом $m$ ситуация усложняется, и точные минимаксные решения становятся труднодостижимыми. В этих случаях линейные приближения могут быть вполне удовлетворительными. См. Johnstone и MacGibbon 1992, 1993.]

Покажите, что $\beta (\theta )=1-\theta^{2}$.

Покажите, что $a X+b$ допустима для оценивания $E_{\theta }(X)$ при квадратичной функции потерь тогда и только тогда, когда $0 \leq a \leq 1 / 2$.