3.2

Принцип эквивариантности

[28/0%]
LaTeX
Задача 3.2.1

Покажите, что класс G(C)G(\mathcal{C}) является группой.

?
Задача 3.2.2

В Примере 2.2(ii) покажите, что преобразования x′=−x\mathbf{x}^{\prime }=-\mathbf{x} вместе с тождественным преобразованием образуют группу.

?
Задача 3.2.3

Пусть {gX,g∈G}\left\{ g X, g \in G\right\} — группа преобразований, оставляющих модель (2.1) инвариантной. Если распределения Pθ,θ∈ΩP_{\theta }, \theta \in \Omega различны, покажите, что индуцированные преобразования gˉ\bar{g} являются взаимно однозначными преобразованиями Ω\Omega. [Указание: Чтобы показать, что из gˉθ1=gˉθ2\bar{g} \theta_{1}=\bar{g} \theta_{2} следует θ1=θ2\theta_{1}=\theta_{2}, используйте тот факт, что из Pθ1(A)=Pθ2(A)P_{\theta_{1}}(A)=P_{\theta_{2}}(A) для всех AA следует θ1=θ2\theta_{1}=\theta_{2}.]

2{ }^{2} Сообщено P. Bickel.

?
Задача 3.2.4

При условиях Задачи 2.3 покажите, что

?
(a)

преобразования gˉ\bar{g} удовлетворяют g2g1‾=gˉ2⋅gˉ1\overline{g_{2} g_{1}}=\bar{g}_{2} \cdot \bar{g}_{1} и (gˉ)−1=(g−1‾)(\bar{g})^{-1}=\left(\overline{g^{-1}}\right);

(b)

преобразования gˉ\bar{g}, соответствующие g∈Gg \in G, образуют группу.

(c)

установите (2.3) и (2.4).

Задача 3.2.5

Покажите, что функция потерь удовлетворяет (2.9) тогда и только тогда, когда она имеет вид (2.10).

?
Задача 3.2.6
?
(a)

Преобразования g∗g^{*}, определённые формулой (2.12), удовлетворяют (g2g1)∗=g2∗⋅g1∗\left(g_{2} g_{1}\right)^{*}=g_{2}^{*} \cdot g_{1}^{*} и (g∗)−1=(g−1)∗\left(g^{*}\right)^{-1}= \left(g^{-1}\right)^{*}.

(b)

Если GG — группа, оставляющая (2.1) инвариантной, и G∗={g∗,g∈G}G^{*}=\left\{ g^{*}, g \in G\right\}, то G∗G^{*} является группой.

Задача 3.2.7

Пусть XX имеет распределение N(ξ,σ2),−∞<ξ<∞,0<σN\left(\xi , \sigma^{2}\right),-\infty <\xi <\infty , 0<\sigma, и пусть h(ξ,σ)=σ2h(\xi , \sigma )=\sigma^{2}. Задача инвариантна относительно преобразований x′=ax+c;0<a,−∞<c<∞x^{\prime }=a x+c ; 0<a,-\infty <c<\infty. Покажите, что единственной эквивариантной оценкой является δ(X)≡0\delta (X) \equiv 0.

?
Задача 3.2.8

Покажите, что:

?
(a)

Если выполняется (2.11), то преобразования g∗g^{*}, определённые формулой (2.12), являются взаимно однозначными отображениями H\mathcal{H} на себя.

(b)

Если из L(θ,d)=L(θ,d′)L(\theta , d)=L\left(\theta , d^{\prime }\right) для всех θ\theta следует d=d′d=d^{\prime }, то g∗g^{*}, определённое формулой (2.14), единственно и является взаимно однозначным преобразованием D\mathcal{D} на себя.

Задача 3.2.9

Если θ\theta — истинная температура в градусах Цельсия, то θ′=gˉθ=θ+273\theta^{\prime }=\bar{g} \theta =\theta +273 — истинная температура в градусах Кельвина. Пусть дано наблюдение XX в градусах Цельсия:

?
(a)

Покажите, что оценка δ(X)\delta (X) функционально эквивариантна, если она удовлетворяет δ(x)+a=δ(x+a)\delta (x)+a= \delta (x+a) для всех aa.

(b)

Предположим, что наша оценка есть δ(x)=(ax+bθ0)/(a+b)\delta (x)=\left(a x+b \theta_{0}\right) /(a+b), где xx — наблюдённая температура в градусах Цельсия, θ0\theta_{0} — априорная догадка о температуре, а aa и bb — константы. Покажите, что для некоторой константы KK δ(x+K)≠δ(x)+K\delta (x+K) \neq \delta (x)+K, так что δ\delta не удовлетворяет принципу функциональной эквивариантности.

(c)

Покажите, что оценки из пункта (b) не будут удовлетворять принципу формальной инвариантности.

Задача 3.2.10

Чтобы проиллюстрировать различие между функциональной эквивариантностью и формальной инвариантностью, рассмотрим следующий пример. Для оценки количества электроэнергии, которое можно получить от реки, можно использовать оценку

δ(x)=cmin⁡{100,x−20} \delta (x)=c \min \left\{ 100, x-20\right\}

где x=x= расход воды в потоке в m3/sec,100 m3/sec\mathrm{m}^{3} / \mathrm{sec}, 100 \mathrm{~ m}^{3} / \mathrm{sec} — пропускная способность трубы, ведущей к турбине, а 20 m3/sec20 \mathrm{~ m}^{3} / \mathrm{sec} — уменьшение расхода, необходимое, чтобы не нанести вред форели. Константа cc, измеряемая в киловаттах /m3/sec/ \mathrm{m}^{3} / \mathrm{sec}, переводит расход в оценку мощности в киловаттах.

?
(a)

Если бы измерения вместо этого производились в литрах и ваттах, так что g(x)=1000xg(x)=1000 x и gˉ(θ)=1000θ\bar{g}(\theta )=1000 \theta, покажите, что функциональная эквивариантность приводит к оценке

gˉ(δ(x))=cmin⁡{105,g(x)−20,000}. \bar{g}(\delta (x))=c \min \left\{ 10^{5}, g(x)-20,000\right\} .
(b)

Принцип формальной инвариантности приводит к оценке δ(g(x))\delta (g(x)). Покажите, что эта оценка не является разумной оценкой мощности в ваттах.

(Сообщено L. LeCam.)

Задача 3.2.11

В инвариантной вероятностной модели запишем X=(T,W)X=(T, W), где TT достаточна для θ\theta, а WW — вспомогательная статистика.

?
(a)

Если групповая операция транзитивна, покажите, что любая инвариантная статистика обязательно является вспомогательной.

(b)

Что можно сказать об инвариантности вспомогательной статистики?

Задача 3.2.12

В инвариантной задаче оценивания запишем X=(T,W)X=(T, W), где TT достаточна для θ\theta, а WW — вспомогательная статистика. Если группа преобразований транзитивна, покажите:

?
(a)

Наилучшая эквивариантная оценка δ∗\delta^{*} является решением задачи min⁡dEθ[L(θ,d(x))∣W=w]\min_{d} E_{\theta }[L(\theta , d(x)) \mid W=w].

(b)

Если ee — единичный элемент группы (g−1g=e)\left(g^{-1} g=e\right), то δ∗=δ∗(t,w)\delta^{*}=\delta^{*}(t, w) можно найти, решая для каждого ww задачу min⁡dEe{L[e,d(T,w)]∣W=w}\min_{d} E_{e}\left\{ L[e, d(T, w)] \mid W=w\right\}.

Задача 3.2.13

Для ситуации из Примера 2.11:

?
(a)

Покажите, что класс преобразований является группой.

(b)

Покажите, что эквивариантные оценки должны удовлетворять δ(n−x)=1−δ(x)\delta (n-x)=1-\delta (x).

(c)

Покажите, что при использовании инвариантной функции потерь риск эквивариантной оценки симметричен относительно p=1/2p=1 / 2.

Задача 3.2.14

Для ситуации из Примера 2.12:

?
(a)

Покажите, что класс преобразований является группой.

(b)

Покажите, что оценки вида φ(xˉ/s2)s2\varphi \left(\bar{x} / s^{2}\right) s^{2}, где xˉ=1/nΣxi\bar{x}=1 / n \Sigma x_{i} и s2=Σ(xi−xˉ)2s^{2}=\Sigma \left(x_{i}-\bar{x}\right)^{2}, эквивариантны, где φ\varphi — произвольная функция.

(c)

Покажите, что при использовании инвариантной функции потерь риск эквивариантной оценки является функцией только от τ=μ/σ\tau =\mu / \sigma.

Задача 3.2.15

Теорема 2.7 утверждает: если δ\delta — эквивариантная оценка в задаче, инвариантной относительно группы преобразований GG, то функция риска δ\delta удовлетворяет R(gˉθ,δ)=R(θ,δ)R(\bar{g}\theta ,\delta )=R(\theta ,\delta ) для всех θ\theta и всех g∈Gg\in G.

Следствие 2.13 утверждает: при условиях Теоремы 2.7 функция риска любой эквивариантной оценки постоянна на орбитах GG.

Докажите Следствие 2.13.

?
Задача 3.2.16
?
(a)

Если gg — преобразование (2.20), найдите gˉ\bar{g}.

(b)

В Примере 2.12 покажите, что (2.22) не только достаточно для (2.14), но и необходимо.

Задача 3.2.17
?
(a)

В Примере 2.12 найдите наименьшую группу GG, содержащую и G1G_{1}, и G2G_{2}.

(b)

Покажите, что единственной оценкой, инвариантной относительно GG, является δ(X,Y)≡0\delta (\mathbf{X}, \mathbf{Y}) \equiv 0.

Задача 3.2.18

Если δ(X)\delta (X) — эквивариантная оценка h(θ)h(\theta ) относительно группы GG, то таковой же является и g∗δ(X)g^{*} \delta (X), где g∗g^{*} определено формулами (2.12) и (2.13), при условии, что G∗G^{*} коммутативна.

?
Задача 3.2.19

Покажите, что:

?
(a)

В Примере 2.14(i) XX не является риск-несмещённой.

(b)

Группа преобразований ax+ca x+c вещественной прямой (0<a,−∞<c<∞)(0<a,-\infty <c<\infty ) не коммутативна.

Задача 3.2.20

В Примере 2.14 найдите совокупность всех эквивариантных оценок Δ\Delta относительно наименьшей группы GG, содержащей G1G_{1} и G2G_{2}.

?
Задача 3.2.21

Пусть θ\theta вещественнозначен, а hh строго возрастает, так что (2.11) выполняется тривиально. Пусть L(θ,d)L(\theta , d) — потери от оценивания θ\theta величиной dd, и предположим, что потери от оценивания θ′=h(θ)\theta^{\prime }=h(\theta ) величиной d′=h(d)d^{\prime }=h(d) равны M(θ′,d′)=L[θ,h−1(d′)]M\left(\theta^{\prime }, d^{\prime }\right)=L\left[\theta , h^{-1}\left(d^{\prime }\right)\right]. Покажите, что:

?
(a)

Если задача оценивания θ\theta с функцией потерь LL инвариантна относительно GG, то и задача оценивания h(θ)h(\theta ) с функцией потерь MM также инвариантна.

(b)

Если δ\delta эквивариантна относительно GG для оценивания θ\theta с функцией потерь LL, покажите, что h[δ(X)]h[\delta (X)] эквивариантна для оценивания h(θ)h(\theta ) с функцией потерь MM.

(c)

Если δ\delta является MRE для θ\theta с LL, то h[δ(X)]h[\delta (X)] является MRE для h(θ)h(\theta ) с MM.

Задача 3.2.22

Если δ(X)\delta (\mathbf{X}) является MRE для оценивания ξ\xi в Примере 2.2(i) с функцией потерь ρ(d−ξ)\rho (d-\xi ), сформулируйте свойство оптимальности eδ(X)e^{\delta (\mathbf{X})} как оценки eξe^{\xi }.

?
Задача 3.2.23

Пусть Xij,j=1,…,ni,i=1,…,sX_{i j}, j=1, \ldots , n_{i}, i=1, \ldots , s, и WW распределены с плотностью вида

[∏i=1sfi(xi−ξi)]h(w) \left[\prod _{i=1}^{s} f_{i}\left(\mathbf{x}_{i}-\xi _{i}\right)\right] h(w)

где xi−ξi=(xi1−ξi,…,xini−ξi)\mathbf{x}_{i}-\xi_{i}=\left(x_{i 1}-\xi_{i}, \ldots , x_{i n_{i}}-\xi_{i}\right), и рассмотрим задачу оценивания θ=Σciξi\theta =\Sigma c_{i} \xi_{i} с функцией потерь L(ξi,…,ξs;d)=ρ(d−θ)L\left(\xi_{i}, \ldots , \xi_{s} ; d\right)=\rho (d-\theta ). Покажите, что:

?
(a)

Эта задача остаётся инвариантной относительно преобразований

Xij′=Xij+ai,ξi′=ξi+ai,θ′=θ+Σaici,d′=d+Σaici. \begin{align} X_{i j}^{\prime }=X_{i j}+a_{i}, \quad & \xi _{i}^{\prime }=\xi _{i}+a_{i}, \quad \theta ^{\prime }=\theta +\Sigma a_{i} c_{i}, \\ & d^{\prime }=d+\Sigma a_{i} c_{i}. \end{align}
(b)

Оценка δ\delta величины θ\theta эквивариантна относительно этих преобразований, если

δ(x1+a1,…,xs+as,w)=δ(x1,…,xs,w)+Σaici. \delta \left(\mathbf{x}_{1}+a_{1}, \ldots , \mathbf{x}_{s}+a_{s}, w\right)=\delta \left(\mathbf{x}_{1}, \ldots , \mathbf{x}_{s}, w\right)+\Sigma a_{i} c_{i}.
Задача 3.2.24

Теорема 1.4 утверждает: пусть XX имеет распределение с плотностью (1.9), и пусть δ\delta — эквивариантная оценка ξ\xi относительно функции потерь (1.15). Тогда смещение, риск и дисперсия δ\delta являются постоянными (т.е. не зависят от ξ\xi).

Обобщите Теорему 1.4 на ситуацию Задачи 2.23.

?
Задача 3.2.25

Если δ0\delta_{0} — произвольная эквивариантная оценка θ\theta в Задаче 2.23, и если yi=(xi1−xini,xi2−xini,…,xini−1−xini)\mathbf{y}_{i}=\left(x_{i 1}-x_{i n_{i}}, x_{i 2}-x_{i n_{i}}, \ldots , x_{i n_{i}-1}-x_{i n_{i}}\right), покажите, что наиболее общая эквивариантная оценка θ\theta имеет вид

δ(x1,…,xs,w)=δ0(x1,…,xs,w)−v(y1,…,ys,w). \delta \left(\mathbf{x}_{1}, \ldots , \mathbf{x}_{s}, w\right)=\delta _{0}\left(\mathbf{x}_{1}, \ldots , \mathbf{x}_{s}, w\right)-v\left(\mathbf{y}_{1}, \ldots , \mathbf{y}_{s}, w\right).
?
Задача 3.2.26

Теорема 1.10 утверждает: пусть X=(X1,…,Xn)X=(X_{1}, \ldots , X_{n}) имеет распределение согласно (1.9), пусть Yi=Xi−XnY_{i}=X_{i}-X_{n} (i=1,…,n−1)(i=1, \ldots , n-1) и Y=(Y1,…,Yn−1)Y=(Y_{1}, \ldots , Y_{n-1}). Предположим, что функция потерь задаётся (1.15) и что существует эквивариантная оценка δ0\delta_{0} параметра ξ\xi с конечным риском. Предположим, что для каждого yy существует число v(y)=v∗(y)v(y)=v^{*}(y), минимизирующее E0{ρ[δ0(X)−v(y)]∣y}E_{0}\left\{ \rho [\delta_{0}(X)-v(y)] \mid y\right\}. Тогда существует эквивариантная относительно сдвига оценка δ\delta параметра ξ\xi с минимальным риском, задаваемая формулой δ∗(X)=δ0(X)−v∗(Y)\delta^{*}(X)=\delta_{0}(X)-v^{*}(Y).

Следствие 1.12 утверждает: в условиях Теоремы 1.10: (i) если ρ(d−ξ)=(d−ξ)2\rho (d-\xi )=(d-\xi )^{2}, то v∗(y)=E0[δ0(X)∣y]v^{*}(y)=E_{0}[\delta_{0}(X) \mid y]; (ii) если ρ(d−ξ)=∣d−ξ∣\rho (d-\xi )=\left|d-\xi \right|, то v∗(y)v^{*}(y) — произвольная медиана δ0(X)\delta_{0}(X) относительно условного распределения XX при заданном yy.

?
(a)

Обобщите Теорему 1.10 и Следствие 1.12 на ситуацию Задач 2.23 и 2.25.

(b)

Покажите, что MRE-оценки из пункта (a) можно выбрать не зависящими от ww.

Задача 3.2.27

Предположим, что переменные XijX_{i j} в Задаче 2.23 независимо распределены как N(ξi,σ2)N\left(\xi_{i}, \sigma^{2}\right), σ\sigma известно. Покажите, что:

?
(a)

MRE-оценка θ\theta тогда равна ΣciXˉi−v∗\Sigma c_{i} \bar{X}_{i}-v^{*}, где Xˉi=(Xi1+⋯+Xini)/ni\bar{X}_{i}=\left(X_{i 1}+\cdots +X_{i n_{i}}\right) / n_{i}, а v∗v^{*} минимизирует (1.24) при X=ΣciXˉiX=\Sigma c_{i} \bar{X}_{i}.

(b)

Если ρ\rho выпукла и чётна, то MRE-оценка θ\theta равна ΣciXˉi\Sigma c_{i} \bar{X}_{i}.

(c)

Результаты пунктов (a) и (b) остаются справедливыми, когда σ\sigma неизвестно, а распределение WW зависит от σ\sigma (но не от ξ\xi).

Задача 3.2.28

Покажите, что преобразование из Примера 2.11 и тождественное преобразование являются единственными преобразованиями, оставляющими семейство биномиальных распределений инвариантным.

?