% $Header: /cvsroot/latex-beamer/latex-beamer/examples/beamerexample4.tex,v 1.4 2004/10/07 20:53:07 tantau Exp $

\documentclass[envcountsect,cjk]{beamer}
%\setbeamertemplate{theorems}[numbered]
% Copyright 2003 by Till Tantau <tantau@users.sourceforge.net>.
%
% This program can be redistributed and/or modified under the terms
% of the LaTeX Project Public License Distributed from CTAN
% archives in directory macros/latex/base/lppl.txt.
%
% Many thanks to Huang Yushuo for helping me with this file
% (I don't speak Chinese...)
%\setbeamercovered{dynamic}
\setbeamercovered{transparent}
%\usepackage{times}
%\usepackage{mathtime}
\usepackage{graphicx}
\usepackage{Picins}
\usepackage{indentfirst}
\usepackage{amsmath,amssymb,amsfonts,amsthm}
\usepackage{multirow}
\usepackage{textcomp}

\usepackage{mathrsfs}
\usepackage{latexsym}
\usepackage{makeidx}% 制作索引
\usepackage{accents}
\usepackage{slashbox}
\usepackage{picinpar}
%\makeindex
\usepackage{undertilde}
\usepackage{bm}

%\usepackage{textcomp}
\setlength{\abovedisplayskip}{2pt plus1pt minus1pt}     %公式前的距离
\setlength{\belowdisplayskip}{2pt plus1pt minus1pt}     %公式后面的距离
\setlength{\arraycolsep}{2pt}   %在一个array中列之间的空白长度, 因为原来的太宽了
\allowdisplaybreaks[4]  % \eqnarray如果很长, 影响分栏、换行和分页
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\renewcommand{\theequation}{\thesection.\arabic{equation}}
\newtheorem{remark}{Remark}
\makeatletter\@addtoreset{equation}{section}\makeatother
%\makeatletter\@addtoreset{section}{part}\makeatother
\newcommand{\D}{\scriptscriptstyle}
\setlength{\parindent}{20pt}                %Paragraph indent amounts.
\setlength{\parskip}{3pt plus1pt minus2pt}  %Vertical distance between par
\setlength{\baselineskip}{20pt plus2pt minus1pt}%Distance between lines in a par.
%\usepackage{graphicx}
\makeatletter
\def\widebar{\accentset{{\cc@style\underline{\mskip10mu}}}}
\def\Widebar{\accentset{{\cc@style\underline{\mskip8mu}}}}
\makeatother
\def\dl{\displaystyle}

\usepackage{CJK}


%\usetheme{Warsaw}
%\usetheme{Hannover}
%\usetheme{Darmstadt}
\usetheme{JuanLesPins}
\AtBeginSection[]{\frame{\tableofcontents[current]}}
\AtBeginPart{\frame{\partpage}}
\begin{document}
  \begin{CJK*}{GBK}{rm}

\renewcommand{\raggedright}{\leftskip=0pt \rightskip=0pt plus 0cm}


    \title[贝叶斯分析]{\bf 贝~~~~叶~~~~斯~~~~分~~~~析}
    \author{姓名：韦来生~~~张伟平}
\date[\today]{中~~国~~科~~大~~出~~版~~社 \\ \vskip 1cm
     第一版, ~2013}


    \frame{\titlepage}


\begin{frame}
  \titlepage
\end{frame}

\begin{frame}{第4章 ~贝叶斯统计决策}
\scriptsize \tableofcontents
\end{frame}


\section{4.1 引言}

\frame{\frametitle{ 1. 贝叶斯统计决策四要素}

\begin{itemize}

\item {\bf 样本空间和样本分布族~$\{\mathscr{X},~F_\theta\}$:}
取值于样本空间~$\mathscr{X}$ 内的随机变量~$X$
及其分布族~$\{F_\theta(x),~\theta\in \Theta\}$
是构成统计决策问题的第一个要素.
\medskip\pause

\item {\bf 行动空间~$\mathscr{D}$:}
~某个统计决策问题可能采取的行动所构成的非空集合, 被称为行动空间,
记为~$\mathscr{D}.$ 估计问题中, $\mathscr{D}=\Theta.$
检验问题中~$\mathscr{D}=\{d_0,d_1\}$ 只有两个行动组成, $d_0$
表示接受原假设~$H_0,~d_1$ 表示拒绝~$H_0.$\medskip\pause

\item {\bf 损失函数~$L(\theta,d)$：}
~损失函数是定义于~$\Theta \times\mathscr{D}$ 上的非负函数,
记为~$L(\theta,d).$ 它表示参数为~$\theta$ 时采取行动
~$d\in\mathscr{D}$ 所蒙受的损失.
常用的有平方损失、绝对值损失和线性损失等.\medskip\pause

\item {\bf 先验分布~$\pi(\theta)$} 在贝叶斯统计决策问题中还要求有一个定义于参数空间~$\Theta$~上的
先验分布%函数~$F^\pi(\theta)$(其概率函数记为
~$\pi(\theta).$\medskip\pause

\item 统计决策问题就是研究如何根据样本~$
X$ 的值恰当地选取行动~$d$ 使得引起的平均损失最小.
\end{itemize}
}


\frame{\frametitle{2. 统计决策问题的一个例子}

\begin{itemize}

\item  为了说明什么是决策~(判决) 问题, 请看下例:\medskip\pause


\item {例~4.1.1} 一位投资者有一笔资金要进行投资，有如下几个投资方案供他选择:
$a_1:$ 买股票, 根据市场情况可净赚~5000元,\\
\noindent 但也可能亏损~10000元. ~$a_2:$ 购买基金，
根据市场情况可净赚~3000元, 但也可能亏损~8000元. $a_3:$ 存入银行,
不管市场情况如何, 总可净赚~1000元.
 他应如何决策?\medskip\pause


\item 这位投资者在与金融市场博弈. 未来的金融市场也有两种情况: 看涨
~($\theta_1$) 与看跌~($\theta_2$). 根据上述情况,
可写出投资者的收益矩阵如下:\vspace{-2mm}
$$\begin{tabular}{|c|c|c|c|}\hline
行动       & $a_1$ & $a_2 $ & $a_3$ \\\hline $\theta_1 $& 5000  &
3000  & 1000  \\\hline $\theta_2 $&-10000 & -8000  & 1000  \\\hline
\end{tabular}$$
\end{itemize}
}

\frame{\frametitle{3. 统计决策问题过程}

\begin{itemize}

\item 投资者将依据收益矩阵决定资金投向何方. 这种人与自然界
~(或社会) 的博弈问题称为决策问题. 在决策问题中，
主要寻求人对自然界~(或社会) 的最优策略.
决策问题也不一定要涉及统计方法. 如果它满足以下条件，
那就必然与统计方法有关, 因而就可以称为统计决策问题. 这条件是:
在作出决策时所依据的事实中, 至少有一个部分是受到随机性影响的观察值
~(或试验数据) $X.$\medskip\pause


\item 决策实际上是一个过程,
它可分为两部分：第一部分是把决策问题描述清楚；
第二部分是如何做决策使得收益最大~(或损失最小).
显然第二部分是我们研究的重点, 但首先要把第一部分搞清楚,
这就需要下面一些基本概念.
\end{itemize}
}


\section{4.2 ~后验风险最小原则}
\subsection{4.2.1 ~后验风险的定义}

\frame{\frametitle{后验风险的定义}
\vspace{-2mm}

\begin{itemize}

\item 设~$L(\theta,\delta(x))$
为损失函数，我们知道将损失函数按样本分布求平均就得到风险函数，若将损失函数按后验分布
~$\pi(\theta|x)$ 求期望就得到后验风险，其定义如下:
\medskip\pause

\item {\bf 定义~4.2.1} ~设~$\delta$ 是一个决策函数,
称平均损失\vspace{-2mm}
\begin{eqnarray*}
&&R(\delta(x)| x)=E^{\theta| x}[L(\theta,
\delta(x))]\nonumber\\
&&=\left\{\begin{array}{ll}
\dl\int_{\Theta}L(\theta,\delta(x))\pi(\theta|x)d\theta &\mbox{当}
~\theta~\mbox{为连续型随机变量}\vspace{2mm}\\
\dl\sum_{i}L(\theta_i,\delta(x))\pi(\theta_i|x)&\mbox{当}~\theta~\mbox{为离散型随机变量}\end{array}\right.
\end{eqnarray*}\\\vspace{-3mm}
为决策函数~$\delta(x)$ 的后验风险.
\medskip\pause

\item 若存在决策函数~$\delta^{*}(x),$ 使得\vspace{-2mm}
$$
~~R(\delta^{*}| x)=\min_{\delta}R(\delta(x)|
x),~~\mbox{对}~\forall~\mbox{判决函数}~\delta(x),~~(4.2.2)\vspace{-2mm}
$$
则称~$\delta^{*}(x)$ 为后验风险最小准则下的最优贝叶斯决策函数.
\end{itemize}
}

\subsection{4.2.2 ~后验风险与贝叶斯风险的关系}
\frame{\frametitle{后验风险与贝叶斯风险的关系}
\vspace{-2mm}

\begin{itemize}

\item 利用下列事实：~$f(x, \theta)=f(x|\theta)\pi(\theta)=\pi(\theta|
x)m(x),$ 将~$\S 1.3$\\
\noindent 中贝叶斯风险~$R_{\pi}(\delta)$
表达式改写如下：\vspace{-2mm}
\begin{eqnarray*}
R_{\pi}(\delta)\!\!\!\!&&=E^{\theta} [R(\theta,\delta(x))]
=\int_{\Theta}R(\theta,\delta(x))\pi(\theta)d\theta \nonumber\\
&&=\int_{\Theta}\Big[\int_{\mathscr{X}}L(\theta,
\delta(x))f(x|\theta)dx\Big]\pi(\theta)d\theta\nonumber\\
&&=\int_{\mathscr{X}}\Big[\int_{\Theta}L(\theta,
\delta(x))\pi(\theta|
x)d\theta\Big]~\!m(x)dx\nonumber\\
&&=\int_{\mathscr{X}}R(\delta(x)|
x)m(x)dx%=\int_{\mathfrak{X}}R(\delta(x)|x)dP(x)
=E^{X}\big[R(\delta(x)|x)\big]
\end{eqnarray*}\\\vspace{-2mm}
\pause

\item 可见贝叶斯风险有两种表达式
$$R_\pi(\delta(x))
\!=\!E^{\theta}\big[R(\theta,\delta(x))\big]=E^{X}\big[R(\delta(x)|x)\big],$$
即将风险函数~$R(\theta,\delta(x))$ 按~$\theta$
的先验分布~$\pi(\theta)$ 求均值，或者将后验风险按~$X$
的绝对分布~(边缘分布)~$m(x)$ 求均值.
\end{itemize}
}

\subsection{4.2.3 ~后验风险最小的原则}

\frame{\frametitle{ 后验风险最小的原则}
\begin{itemize}

\item 我们将证明由~(4.2.2) 式定义的后验风险最小准则下的决策函数就是
贝叶斯解. 贝叶斯解在第一章中给过定义，它是使贝叶斯风险
~$R_{\pi}(\delta)$ 达到最小的决策函数，即如果存在~$\delta^{*},$
使得~$R_{\pi}(\delta^{*})$ $=\min\limits_{\delta} R_{\pi}(\delta),$
对一切决策函数~$\delta(x)$ 成立.\medskip\pause

\item {\bf 定理~4.2.1} ~对任何样本~$x,$ 若存在决策函数~$\delta_{\pi}(x)\in\mathscr{D},$ 满足\vspace{-2mm}
$$R(\delta_{\pi}| x)=\inf_{\delta \in \mathscr{D}}
R(\delta(x)|x)=\inf_{\delta \in \mathscr{D}}\int_\Theta
L(\theta,\delta(x))\pi(\theta|x)d\theta, \vspace{-2mm}
$$
则~$\delta_{\pi}$ 为先验分布~$\pi(\theta)$ 之下的贝叶斯
解.\medskip\pause

{\bf 定义~4.2.2} ~若~$\pi(\theta)$
为广义先验分布，且~$\delta_{\pi}(x)$ 是按~(4.2.2)
求得的最优决策函数，则称~$\delta_{\pi}(x)$ 为
广义贝叶斯解.\medskip\pause

\item {\bf 注~4.2.1} ~当~$\theta$ 的先验为广义先验分布,
定理的结果仍是对的. 此时后验风险最小准则下的决策函数, 称为广义贝叶斯
解.
\end{itemize}
}

\frame{\frametitle{一个例子}

\noindent {\bf 例~4.2.1}~~(续例~3.1.1)
~通过血液可以帮助说明一个人是否患有某种疾病, 化验结果为阳性~(以~X=1
表示)~或者为阴性~(以~X=0 表示). 令~$\theta_{1}$
表示有病，$\theta_{2}$ 表示无病，
记~$P(X\!=\!x|\theta)=p(x|\theta),$ 则\vspace{-2mm}
$$p(1|\theta_{1})=0.8,~p(0|\theta_{1})=0.2,~
p(1|\theta_{2})=0.1,~p(0|\theta_{2})=0.9,\vspace{-2mm}$$
设先验信息为~$\pi(\theta_{1})=0.05,~\pi(\theta_{2})=0.95,$
~\!此即该地区患病和不患病的比例.
知道化验结果后可能的决策行为是~$a_1,~\!a_2$ 和~$a_3,$ 其中~$a_1$
表示"治疗", ~$a_2$ 表示"不治疗", ~$a_3$ 表示"继续观察",
~\!损失函数~$L(\theta,a)$ 如下表：\vspace{-2mm}
$$\begin{tabular}{c|c|c|c}\hline
 \backslashbox{$\theta$}{a}& ~~\quad $a_1$ ~~~\quad & ~~\quad $a_2$ ~~~\quad &
 ~~\quad $a_3$ ~\quad
\\\hline
 $\theta_1$ & ~~\quad 0~~~~\quad & ~~\quad 10~~~~\quad & ~~\quad 6~~~~\quad
\\\hline
 $\theta_2$ & ~~\quad 4~~~~\quad & ~~\quad 0~~~~\quad & ~~\quad  2~~~~\quad
\\\hline
\end{tabular}\vspace{-1mm}$$
求决策函数的后验风险和最优决策函.
%\end{itemize}
}

\frame{\frametitle{解例~4.2.1}

\begin{itemize}

\item 由例~3.1.1 可知参数~$\theta$
~(只取~$\theta_1$ 和~$\theta_2$ 两个值) 的后验分布如下:\vspace{-2mm}
\begin{eqnarray*}
&&\pi(\theta_1|x=0)=0.012,\quad
\pi(\theta_2|x=0)=0.988,\\
&&\pi(\theta_1|x=1)=0.296,\quad \pi(\theta_2|x=1)=0.704~\!.
\end{eqnarray*}\\\vspace{-2mm}\pause

\item 故决策行为的后验风险分别为\vspace{-2mm}
\begin{eqnarray*}
R(a_1\!\!\!\!&&|x=0)=E^{\theta|x}\big[L(a_1,\theta)\big]\\
&&=L(a_1,\theta_1)\times\pi(\theta_1|x=0)+L(a_1,\theta_2)\times\pi(\theta_2|x=0)\\
&&=0\times 0.012 +4\times 0.988=3.952;
\end{eqnarray*}
\end{itemize}
}

\frame{\frametitle{解例~4.2.1}
\begin{itemize}

\item 类似地有\vspace{-2mm}
\begin{eqnarray*}
&&R(a_2|x=0)=10\times 0.012+0\times 0.988=0.12;\\
&&R(a_3|x=0)=6\times 0.012+2\times 0.988=2.048;
\end{eqnarray*}
因此按后验风险最小原则，当~$x=0$
时取最优决策函数为~$\delta^*(0)=a_2.$
\medskip\pause

\item 同理, 当~$x=1$ 时可算得\vspace{-2mm}
\begin{eqnarray*}
&&R(a_1|x=1)=0\times 0.296 +4\times0.704=2.816,\\
&&R(a_2|x=1)=10\times 0.296+0\times 0.704=2.96,\\
&&R(a_3|x=1)=6\times 0.296+2\times 0.704=3.184~.
\end{eqnarray*}\\\vspace{-2mm}
按后验风险最小原则，当~$x=1$ 最优决策函数为~$\delta^*(1)\!=\!a_1.$
\item 因此，最优决策函数为~$\delta^*(x)=\bigg\{\begin{array}{ll}
a_2 &\mbox{当} ~x=0,\\
a_1 &\mbox{当}~x=1\end{array}$
\end{itemize}
}


\section{4.3 ~一般损失函数下的贝叶斯估计}
\subsection{4.3.1 ~平方损失下的贝叶斯估计}

\frame{\frametitle{平方损失下的贝叶斯估计}

\begin{itemize}

\item {\bf 定理~4.3.1} ~在平方损失~$L(\theta,a)=(a-\theta)^2$ 下,
$\theta$ 的贝叶斯估计为后验期望值, 即\vspace{-2mm}
$$
\hat\theta_B(x)=E(\theta|x).\vspace{-6 mm}
$$\pause

\item {\bf 例~4.3.1} ~设~$X\sim N(\theta,\sigma^2),~\theta$ 的先验分布是
~$N(\mu,\tau^2).$ 求平方损失下~$\theta$ 的贝叶斯估计.\medskip\pause

\item {\bf 例~4.3.2} ~设~$\mathbf{X}=(X_1,\cdots,X_n)$ 是从
泊松分布~$P(\theta)$ 中抽取的简单样本. 取~$\theta$
的先验分布为~$\Gamma(\alpha,~\lambda),$ 即\vspace{-2mm}
$$\pi(\theta)=\frac{\lambda^\alpha}{\Gamma(\alpha)}
\theta^{\alpha-1}\exp\{-\lambda\theta\}I_{(0,\infty)}(\theta),\vspace{-2mm}
$$
其中~$\lambda>0$ 已知, 求平方损失下~$\theta$ 的贝叶斯估计.
\end{itemize}
}

\subsection{4.3.2 ~加权平方损失下的贝叶斯估计}
\frame{\frametitle{加权平方损失下的贝叶斯估计}

\begin{itemize}

\item {\bf 定理~4.3.2}
~在加权平方损失~$L(\theta,a)=w(\theta)(\theta-a)^2$ 下, $\theta$
的贝叶斯估计为\vspace{-2mm}
$$
\hat{\theta}_B=\frac{E(\theta w(\theta)| x)}{E(w(\theta)|x)},
$$
其中~$w(\theta)$ 为参数空间上的正值函数.\medskip\pause

\item {\bf 例~4.3.3}
~设~$\mathbf{X}=(X_1,\cdots,X_n)$
是从下列指数分布中抽取的简单样本,\vspace{0mm}
$$
f(x|\theta)=\theta^{\D -1}\exp\{-x/\theta\}I_{(0,\infty)}(x),
\vspace{-1mm}
$$
此处~$\theta>0.$ 设~$\theta$ 的先验分布服从逆伽玛
分布~$\Gamma^{-1}(\alpha,~\lambda),$ 即先验密度是\vspace{-3mm}
$$
\pi(\theta)=\frac{\lambda^{\alpha}}{\Gamma(\alpha)}\theta^{-(\alpha+1)}~
\exp\{-\lambda/\theta\}I_{(0,\infty)}(\theta).\vspace{-3mm}
$$
求~$\theta $
在加权平方损失~$L(\theta,\delta)=(\theta-\delta)^2/\theta^2$
下的贝叶斯估计.
\end{itemize}
}

\subsection{4.3.3 ~绝对损失下的贝叶斯估计}
\frame{\frametitle{绝对值损失下的贝叶斯解}

\begin{itemize}

\item {\bf 定理~4.3.3} ~在绝对损失~$L(\delta,a)=~|\theta-a|$
下，$\theta$ 的贝叶斯估计为后验中位数.\medskip\pause

\item {\bf 例~4.3.4} ~设~$\mathbf{X}=(X_1,\cdots,X_n)$ 是从均匀分布
~$U(0,\theta)$ 中抽取的简单样本, $\theta$ 的先验分布是~Pareto 分布,
其密度函数为\vspace{-2mm}
$$
H(\theta)=1-\big(\theta_0/\theta\big)^\alpha,\quad \pi(\theta)
=\frac{\alpha{\theta_{\D 0}}^{\alpha}}{\theta^{\alpha+1}},
~~\theta>\theta_0，\vspace{-2mm}
$$
求~$\theta$ 的在绝对值损失下的贝叶斯估计.\medskip\pause

\item {\bf 注~4.3.1} ~当后验分布是单峰对称时, 后验均值也是后验中位数, 二者相同. 如在例~3.5.1 儿童智商测验的例子中,
后验分布仍为正态，后验均值也是后验中位数，故绝对值损失下的贝叶斯
解也为~$E(\theta| x)=\mu(x).$
\end{itemize}
}

\subsection{4.3.4 ~线性损失函数下的贝叶斯估计}
\frame{\frametitle{线性损失函数下的贝叶斯估计}
\begin{itemize}

\item {\bf 定理~4.3.4}
~在线性损失函数\vspace{-2mm}
\begin{eqnarray*}
L(\theta,a)=\bigg\{\begin{array}{ll}k_0(\theta-a)
&\mbox{当~~}\theta-a\ge 0
\\k_1(a-\theta) &\mbox{当~~}\theta-a<0\end{array}%\right.
\end {eqnarray*}\\\vspace{-3mm}
下，后验风险最小准则下的贝叶斯估计为后验分布的~$\frac{k_0}{k_0+k_1}$
分位数.
\medskip\pause

\item {\bf 例~4.3.5}
~(续例~3.5.1) ~在估计那个儿童智商~IQ
时，若认为低估比高估的损失高两倍，则使用线性损失是合理的.
其损失函数为\vspace{-2mm}
\begin{eqnarray*}
L(\theta,a)=\bigg\{\begin{array}{ll} 2(\theta-a)
&\mbox{当~~}\theta-a\ge 0\\ (a-\theta)
&\mbox{当~~}\theta-a<0\end{array}%\right.
\end {eqnarray*}
求儿童智商~$\theta$ 的贝叶斯估计.
\end{itemize}
}


\section{4.4 假设检验和有限行动（分类）问题}

\frame{\frametitle{ 引言}

\begin{itemize}

\item 在估计问题中，一般有无穷多个行动可供选择. 然而有不少统计决策问题只能在有限个行动中选择.
最重要的有限行动问题是假设检验.\medskip\pause

\item 对这类问题使用贝叶斯统计决策方法是很容易解决的. 例如行动空间
有~$r$ 个行动组成，即行动空间~$\mathscr{D}=\{a_1,\cdots,a_r\}.$
设在采取行动~$a_i$ 下的损失为~$L(\theta,a_i),~i=1,\cdots,r,$
则贝叶斯决策就是选择使后验风险~$R(a_i|\mathbf{x})=E^{\theta|\mathbf{x}}[L(\theta,a_i)]$
达到最小 的那个行动.\medskip\pause

\item 以下我们将分别讨论两行动~(假设检验) 问题和多行动~(分类) 问题.
\end{itemize}
}

\subsection{4.4.1 假设检验问题}

\frame{\frametitle{检验问题：~$0-1$ 损失情形} \vspace{-2mm}

\begin{itemize}

\item 设有如下的两个假设\vspace{-2mm}
$$H_0:~\theta \in \Theta_0 \longleftrightarrow H_1:~\theta \in
\Theta_1,~~~\mbox{且}~\Theta_0\cup\Theta_1=\Theta.\vspace{-2mm}
$$
决策行动有两个:~$a_i~(i=0,1)$ 表示接受~$H_i$ 的行动.\smallskip\pause

\item 若为~0-1 损失\vspace{-2mm}
$$
L(\theta,a_i)=\left\{\begin{array}{ll}0, &\mbox{若~}\theta \in
\Theta_i~,
\\1, &\mbox{若~}\theta \notin \Theta_i~,\end{array}\right.
\quad i=0,1.\vspace{-6mm}
$$\pause

\item 其后验风险为\vspace{-2mm}
\begin{eqnarray*}
&&R(a_0|x)=E_{\theta|x}\big[L(\theta,a_0)\big]=P(\Theta_1| x),\\
&&R(a_1|x)=E_{\theta|x}\big[L(\theta,a_1)\big]=P(\Theta_0| x).
\end{eqnarray*}\vspace{-5mm}
\\\pause

\item 按后验风险最小准则, 若\vspace{-2mm}
$$
P(\Theta_1|x)\geq P(\Theta_0|
x)~~\mbox{时否定}~H_0,~\mbox{接受}~H_1.\vspace{-2mm}
$$
因此, 贝叶斯决策就是接受具有较大后验概率的假设. 这与贝叶斯
统计推断中的结论是一致的.
\end{itemize}
}


\frame{\frametitle{检验问题：~$0-k_i$ 损失情形}

\begin{itemize}

\item 若为~$\bf {0-k_i}$ 损失\vspace{-2mm}
$$
L(\theta,a_i)=\left\{\begin{array}{ll}0, &\mbox{若~}\theta \in
\Theta_i~;
\\k_i, &\mbox{若~}\theta \notin \Theta_i~;\end{array}\right.
\qquad i=0,1.\vspace{-5mm}
$$\pause

\item 此时后验风险分别为\vspace{-2mm}
\begin{eqnarray*}
&&R(a_0|x)=E_{\theta| x}\big[L(\theta,~a_0)\big]=k_0 P(\Theta_1|x),\\
&&R(a_1|x)=E_{\theta| x}\big[L(\theta,~a_1)\big]=k_1 P(\Theta_0|x).
\end{eqnarray*}\vspace{-6mm}
\\\pause

\item 按后验风险最小准则, 若\vspace{-2mm}
$$P(\Theta_1|x)\geqslant
\frac{k_1}{k_0+k_1}~~\mbox{时否定}~H_0,~\mbox{否则接受}~H_0.\vspace{-5mm}
$$
\end{itemize}
}


\frame{\frametitle{例子}
\begin{itemize}

\item {\bf 例~4.4.0}~(续例~3.5.1)
~在儿童智商问题的例子中, 设测验结果~$X \sim N(\theta,100),$
其中~$\theta$ 为这个孩子测验中的智商~IQ 真值, $\theta$
的先验分布为~$N(100,225).$ 该儿童测验得分~$x=115.$
取损失函数为~$0-1$ 损失, 求下列检验问题:\vspace{-2mm}
$$H_{0}:\theta\leq105\leftrightarrow H_{1}:\theta>105.\vspace{-5mm}
$$\pause

\item {\bf  例~4.4.1}
~设~$X\sim N(\theta, \sigma^2),$ 此处~$\sigma^2$ 已知. $\theta$
的先验分布为~$ N(\mu,\tau^2),$ 损失函数为~$"0-k_i"$ 损失.
令~$X_1,\cdots,X_n$ 为从总体~$X$ 中抽取的简单样本.
求检验问题：\vspace{-2mm}
$$H_0:~\theta\geq\theta_0\longleftrightarrow
 H_1:~\theta<\theta_0.$$
\end{itemize}
}

\subsection{4.4.2 ~多行动~(分类) 问题)}
\frame{\frametitle{多行动~(分类) 问题}

\begin{itemize}

\item 很多决策问题可能采取的行动多于两个.
例如在假设检验问题中常常存在两者皆可的区域. 即除了~$\theta \in
\Theta_0$ 及~$\theta \in \Theta_1$ 分别采取行动~$a_0$ 和~$a_1$ 之外,
还存在第三个行动~$a_2,$ 它表示当\\
\noindent $\theta \in \Theta_2$ 时采取两者皆可的行动. 例如,
若要求检验两种药物的治愈率, 合理方法是检验下列三个假设:\vspace{-2mm}
$$H_0:\theta_1-\theta_2<-\varepsilon,~~H_1:\theta_1-\theta_2>\varepsilon,~~H_2:
| \theta_1-\theta_2|\leqslant\varepsilon,\vspace{-2mm}
$$
其中~$\varepsilon>0$ 选择使得
当~$|\theta_1-\theta_2|\leqslant\varepsilon$
时两种药物被认为等效.\medskip\pause

\item 即使在经典的假设检验中，也有三个行动可供选择: $a_0$ 表示接受
~$H_0,~a_1$ 表示拒绝~$H_0,$ 而~$a_2$ 表示接受~$H_0$ 或~$H_1$
都无足够的证据. 经典方法是通过犯错误概率来做选择. 下面将利用贝叶斯
统计决策方法来研究, 采用后验风险最小的原则.\medskip\pause

\item 常见的有限行动问题的另一个类型是分类问题. 获得观测值后,
将未知参数分到几个可能的区域中去，这与前面的多行动检验类似,
采用的准则仍是后验风险最小的原则.
\end{itemize}
}

\frame{\frametitle{例子} \vspace{-2mm}
%\begin{itemize}

{\bf 例~4.4.2}~(续例~4.3.5) 在儿童智商~IQ 测试问题的例子中,
对那个孩子的智商作出如下三个假设:\vspace{-2mm}
$$\quad
H_1:~\theta<90,~~ H_2:~90\leq\theta\leq 110,~~
H_3:~\theta>110.\quad(4.4.5)\vspace{-2mm}
$$
设有三个行动: $a_i~(i=1,2,3)$ 表示接受~$H_i,$
取下列损失函数:\vspace{-3mm}\pause
\begin{eqnarray*}
&& L(\theta,a_1)=\left\{\begin{array}{cl}0 &\mbox{当~~~~}\theta<90
\\ \theta-90&\mbox{当~~~~}90\leqslant\theta\leqslant
110
\\2(\theta-90)&\mbox{当~~~~}\theta>110\end{array}\right.   \\
\smallskip
&&L(\theta,a_2)=\left\{\begin{array}{cl}90-\theta
&~~~\mbox{当~~~~}\theta<90
\\ 0&~~~\mbox{当~~~~}90\leqslant\theta\leqslant
110
\\ \theta-110&~~~\mbox{当~~~~}\theta>110\end{array}\right.     \\
\vspace{.2cm} &&L(\theta,a_3)=\left\{\begin{array}{cl}2(110-\theta)
&\mbox{当~~~~}\theta<90
\\ 110-\theta&\mbox{当~~~~}90\leqslant\theta\leqslant
110
\\ 0&\mbox{当~~~~}\theta>110.\end{array}\right.
\end{eqnarray*}\vspace{-4mm}
\\
\noindent 已知后验分布~$\pi(\theta| x)$ 是~$N(110.38,8.32^2),$
求检验问题~(4.4.5)~\!.
}

\subsection{4.4.3 ~统计决策中的区间估计问题$^*$}

\frame{\frametitle{区间估计问题}

\begin{itemize}

\item 区间估计问题也可以用统计决策的方法去考虑. 为简单计,
设~$C(x)=(d_1(x),~d_2(x))$ 为~$\theta$ 的一个区间估计.\medskip\pause

\item 损失函数的一种取法为\vspace{-2mm}
$$L(\theta,~C(x))=m_1[d_2(x)-d_1(x)]+m_2[1-I_{\D C(x)}(\theta)],\vspace{-2mm}
$$
此处~$m_1>0,~m_2>0$ 为给定常数. 显见，
第一部分表示区间长度引起的损失, 第二部分表示当~$\theta$ 不属于~C(x)
引起的损失.\medskip\pause

\item 按后验风险
最小的原则, 应使区间估计的后验风险\vspace{-2mm}
\begin{eqnarray*}
&&R(C(x)| x)=E_{\theta|x}[L(\theta,~C(x))]\\
&&=m_1(d_2(x)-d_1(x))+m_2P_{\theta| x}(\theta\notin C(x))
\end{eqnarray*}\vspace{-6mm}
\\
越小越好. 但是要找出最优解, 并非易事. 优化问题能够得以解决的不多.
\end{itemize}
}


\section{4.5  ~Minimax 准则*}
\subsection{4.5.1 引言及定义}

\frame{\frametitle{引言}

\begin{itemize}

\item 前一节已经说过, 一致最优的决策函数通常不存在，
因此我们必须把标准放宽些,
引进一些比一致最优准则更弱的优良性准则.\medskip\pause

\item 途径之一, 是用某种方法制定优良性的综合指标，以之作为比较的标准.
贝叶斯准则属于这一类. 和贝叶斯风险~$R_\pi(\delta)$ 一样,
下列定义的最大风险~$M(\delta)$ 也是一种优良性的综合指标,
用它作为比较决策函数的标准, 称为~Minimax 准则. 因此~Minimax
准则是从综合指标考虑的另一种优良性准则.\medskip\pause

\item 设~$\delta$ 为一决策函数, $R(\theta,\delta)$ 为其风险函数,
令\vspace{-2mm}
$$
M(\delta)=\sup_{\theta\in\Theta}R(\theta,\delta). \vspace{-2mm}
$$
易见~$M(\delta)$ 表示采用~$\delta$ 时所遭受的最大风险.
\!\!如果在某项应用中，使这个最大风险尽可能小是很重要的话,
我们就可以制定如下准则, 通常称为~Minimax 准则或极小极大准则.
\end{itemize}
}


\frame{\frametitle{Minimax 准则的定义}

\begin{itemize}

\item {\bf 定义~4.5.1} ~设~$\delta_1$ 和~$\delta_2$ 为同一个统计决策
问题的两个决策函数, 若~$M(\delta_1)<M(\delta_2),$
则称决策函数~$\delta_1$ 优于~$\delta_2.$
如果存在某个决策函数~$\delta^{*},$ 对任何决策函数~$\delta$
都有\vspace{-2mm}
$$
M(\delta^{*})\leq M(\delta)\vspace{-2mm}
$$
则称~$\delta^{*}$ 为该统计决策问题的~Minimax 解, 或称~$\delta^{*}$
为~Minimax 决策函数. 当统计决策问题为估计或检验时, 称~$\delta^{*}$
为~Minimax 估计或~Minimax 检验.\smallskip\pause

\item {\bf 注~4.5.1} ~以最大风险的大小作为评判决策函数的标准,
是考虑最不利的情形, 使最不利情形尽可能地好. 因此~Minimax
准则是一种偏保守的准则.\smallskip\pause

\item 在实际中常使用~Minimax 准则这种策略思想作决策. 形象地说，
这一准则“不求得到很多, 但求不失去很多”. 例如, 在地震多发地区,
重要建筑物的建筑设计按~Minimax 准则, 要求在可抗八级地震的条件下,
尽量减少建造费用.
\end{itemize}
}

\frame{\frametitle{注释及图} \vspace{-2mm}

\begin{figure}[h,p,t]\label{fig451} \vspace{-5mm}
\centering{\includegraphics[scale=0.62,angle=0]{fig451.pdf}}\vspace{-5mm}
\centerline{\bf\it
图~4.5.1~~风险函数与Minimax准则}\vspace{-3mm}\label{fig451}
\end{figure}

常有如图~4.5.1 的情形, 其中~$M(\delta_1)<M(\delta_2),$ 故按~Minimax
准则, $\delta_1$ 优于~$\delta_2.$ 但细看二者的风险函数,
发现对大多数~$\theta$ 而言, $\delta_2$ 优于~$\delta_1,$
仅当~$a<\theta<b$ 时, $\delta_1$ 优于~$\delta_2.$
如果没有足够的先验信息说明~$\theta$ 处在~$a,b$ 之间,
就很难说~$\delta_1$ 优于~$\delta_2$ 了. \!故贝叶斯学派认为，
只在人们对~$\theta$ 的先验分布很没把握时，作为一种替代, 才
使用~Minimax 解. 只要对先验分布有一定把握, 则宁肯用贝叶斯准则. }


\subsection{4.5.2 Minimax 解的求法}


\frame{\frametitle{ Minimax 解的求解方法一}

\begin{itemize}

\item 求~Minimax 解通常比较困难, 下列两个定理与其说是求~Mini- max 解的方法,
不如说是验证某一特定的解为~Minimax 解的方法.\medskip\pause

\item {\bf 定理~4.5.1} ~设~$\delta^*$ 为在先验分布~$H(\theta)$ 之下的贝叶斯解,
且~$\delta^*$\\
\noindent 的风险函数为常数~$c$, 即~$R(\delta^*,\theta)=c$
对任何~$\theta\in\Theta,$ 则~$\delta^*$ 为一个~Minimax
解.\medskip\pause

\item {\bf 例~4.5.1} ~设~$X\sim B(n,\theta),~\theta$ 的先验分布是~$
Be(a,b).$ 损失函数为~$L(\theta,d)=(\theta-d)^2,$ 求~$\theta$
的~Minimax 估计.
\end{itemize}
}

\frame{\frametitle{ Minimax 解的求解方法二}

\begin{itemize}

\item 定理~4.5.1 的使用面较窄，
因为一般很难找到一个其风险函数为常数的贝叶斯解.
下面定理的应用要广泛的多.\medskip\pause

\item {\bf 定理~4.5.2}
~设~$\delta_k$ 为一个统计决策问题在先验分布~$H_k$ 之下的贝叶斯解,
假定~$\delta_k$ 的贝叶斯风险为~$r_k,~\!k=1,2,\cdots,$
且有\vspace{-2mm}
$$
\lim_{k\rightarrow\infty} r_k =r <\infty.\vspace{-2mm}
$$
又设~$\delta^*$ 为同一问题的一个决策函数, 满足条件
~$M(\delta^*)\leqslant r,$ 则~$\delta^*$ 为此决策问题的~Minimax
解.\medskip\pause

\item {\bf 例~4.5.2}
~设~$\mathbf{X}=(X_1,\cdots,X_n)$ 是从正态总体~$N(\theta,1)$
中抽取的简单样本, 取损失函数为~$L(\theta,d)=(\theta-d)^2,$
求~$\theta$ 的~Mini-max 估计.
\end{itemize}
}


\section{4.6 同变估计及可容许性*}
\subsection{4.6.1 同变估计及例子}

\frame{\frametitle{1. ~同变估计的概念，位置同变估计}
\vspace{-2mm}

\begin{itemize}

\item 另一类制定优良性准则的方法是对决策函数提出合理要求, 缩小所考虑的
决策函数的范围, 从中找一致最优者. 如无偏性准则就是这样一种要求,
UMVUE 就是属于由这类准则获得的最优估计. 本节介绍另一个这类准则,
称为同变原理.\medskip\pause

\item 例如, 为估计某物重~$a,$ 将它放在某一架天平上称~n 次,
设获得的样本~$X_1,\cdots,X_n,~i.i.d.\sim N(a,\sigma^2).$
用~$\delta(X_1,\cdots,X_n)$ 去估计~$a;$ 如果
用另一架不精确的天平去称同样的物体, 得到数据~$X_1',\cdots,X_n',$
$X_i'=X_i+c,~i=1,2,\cdots,n,$ 用~$\delta (x_1',\cdots,x_n')$
$=\delta(x_1+c,\cdots,$ $x_n+c),~c>0$ 估计~$a$ 是系统地偏高了,
它的均值是~$a+c,$ 应当用~$\delta(x_1+c,\cdots,x_n+c)-c$ 估计~$a$
的值.\medskip\pause

\item 合理的要求是: 估计值不应与天平的系统偏差有关，应消除这种偏差. 即要求估计量
~$\delta$ 满足条件: 对一切实数~$c$ 有\vspace{-1mm}
$$
\delta(x_1',\cdots,x_n')\!=\!\delta(x_1+c,\cdots,x_n+c)\!=\!
\delta(x_1,\cdots,x_n)+\!c,~(4.6.1)\vspace{-1mm}
$$
满足~(4.6.1) 的估计量称为在平移变换下的位置同变估计.
\end{itemize}
}


\frame{\frametitle{同变估计的概念，刻度同变估计}

\begin{itemize}

\item 考虑另外一种情形，例如测量两地间的距离~$n$ 次，
\!获得的样本~$X_1,\cdots,X_n~i.i.d.\sim N(a,\sigma^2).$
用原来长度单位~(如米) 得到距离~$a$
的估计值为~$\delta(x_1,\cdots,x_n),$ 若把测量单位改变~(如将~$m$
改为~$cm$), 得到数据为~$X_1',\cdots,X_n',~X_i'=cX_i,~i=1,2\cdots,n,$
用~$\delta(x_1',\cdots,x_n')$ $=\delta(cx_1,\cdots,cx_n),c>1$
去估计~$a,$ 显然偏高, 它的平均值应当是~$c\cdot a.$\medskip\pause

\item 因此, 应当用~$\delta(x_1,$
$\cdots,x_n)=\delta(x_1',\cdots,x_n')/c$ 作为~$a$
的估计才与单位无关. 我们提出合理要求: 估计~$a$ 应当与单位无关,
即要求所用的估计量~$\delta$ 满足条件\vspace{-2mm}
$$
\delta(x_1',\cdots,x_n')\!=\!\delta(cx_1,\cdots,cx_n)\!=\!
c\delta(x_1,\cdots,x_n),~c\!>\!0.~(4.6.2)\vspace{-2mm}
$$
满足~(4.6.2) 的估计量称为在刻度变换下的刻度同变估计.
\end{itemize}
}

\frame{\frametitle{一个统计决策问题称为不变的需满足如下要求}
\begin{itemize}

\item (1) ~存在样本空间~$\mathscr{X}$ 到其自身上的一一对应变换,
所有这些变换构成群~$G$, 而且群~$G$
内的每个变换把样本分布变换到样本分布族内的另一个分布，不能越出这个
样本分布族. \medskip\pause

\item 如上述第一个例子中，变换~$Y_i=X_i+c,~\!-\infty<c<\infty,~i=$ $1,\cdots,n,$ 是由样本空间~$\mathscr{X}$
到其自身上的一一对应变换，若\vspace{-2mm}
$$X_i~iid\sim
\{N(\theta,\sigma^2):~\sigma^2~\mbox{已知},~-\infty<\theta<\infty\},\vspace{-2mm}
$$
则\vspace{-2mm}
$$Y_i~iid\sim
\{N(\theta+c,\sigma^2):~\sigma^2~\mbox{已知},~-\infty<\theta<\infty\}.\vspace{-2mm}
$$
可见这两个分布族是同一个分布族. \medskip\pause

\item 经过这样变换，样本分布族中的参数也发生相应的如下变换：$\theta\rightarrow\eta$
~(即~$\eta=\theta+c$), 一切这样的变换构成群~$\widebar{G},$
它是由~$G$ 诱导出的变换群，它与~$G$ 同态.

\end{itemize}
}

\frame{\frametitle{一个统计决策问题称为不变的需满足如下要求}

\begin{itemize}

\item (2) ~损失函数和行动空间满足下列要求：样本空间~$\mathscr{X}$ 上的
变换群~$G$ 中的变换将~$X\rightarrow Y,$
引起分布族中相应参数的变换~$\theta\rightarrow\eta,$
引进行动空间~$\mathscr{D}$ 上的变换~$d\rightarrow d^*$ 使得
~$L(d^*,\eta)$ $=L(d,\theta).$\medskip\pause

\item 如上述第一个例子中，变换~$Y_i=X_i+c,~\!i=1,\cdots,n,$ 诱导参数空间上的变换~$\eta=\theta+c,$
定义行动空间上的变换如下:\\
\noindent $d^*=d+c,$ 则使平方损失函数~$L(\theta,d)=(\theta-d)^2$
满足如下条件：$L(d,\theta)=L(d^*,\eta).$ \medskip\pause

\item 满足上述两条要求的统计决策问题在变换前和变换后的统计结构是相同的. 我们称这样的统计决策问题
在变换群~$G$ 下是不变的.

\end{itemize}
}


\frame{\frametitle{同变估计的描述性定义}

\begin{itemize}

\item 综上所述, 我们可以给出同变估计的一个描述性定义如下,
其严格定义见参考文献~[1] P$_{163}.$\medskip\pause

\item {\bf 定义~4.6.1} ~设~$\delta(x_1,\cdots,x_n)$ 是参数~$\theta$ 的一个估计量.
假如对样本作了某种变换, 估计量 ~$\delta(x_1,\cdots,x_n)$
仍保持此变换的统计特性, 则称~$\delta(x_1,\cdots,x_n)$
是在该变换下~$\theta$ 的同变估计. 在变换是明确无误的情形下,
可简称~$\delta(x_1,\cdots,x_n)$ 是参数~$\theta$
的同变估计.\medskip\pause

\item 例如, 若对样本作平移变换,
则位置参数~$\theta$ 的同变估计满足性质~(4.6.1); 若对样本作刻度变换,
则刻度参数~$\theta$ 的同变估计满足性质~(4.6.2).
\end{itemize}
}

\frame{\frametitle{2. 最优同变估计的定义及例}

\begin{itemize}

\item 引入损失函数后, 我们可以在同变估计类中找最优同变估计.
设~$R(\delta,\theta)$ 为同变估计~$\delta$ 的风险函数,
则有如下定义:\medskip\pause

\item {\bf 定义~4.6.2}
~设~$\delta^*(x_1,\cdots,x_n)$ 是某特定变换下~$\theta$
的一个同变估计, 如果对此种变换下的
任一同变估计~$\delta(x_1,\cdots,x_n)$ 有\vspace{-2mm}
$$R(\theta,\delta^*)\leqslant R(\theta,\delta),~~\mbox{对一切}~\theta\in \Theta,\vspace{-2mm}
$$
则称~$\delta^*(x_1,\cdots,x_n)$ 是此种变换下~$\theta$
的最优同变估计.\medskip\pause

\item 下面我们来看一个最优同变估计的例子. 为此需要下述引理: \\
{\bf 引理~4.6.1} ~设 ~$\mathbf{X}=(X_1,\cdots,X_n)$
为从正态总体~$N(a,\sigma^2)$ 中抽取的简单样本, 而~$f(X_1,\cdots\!,$
$X_n)$ 满足条件\vspace{-2mm}
$$f(X_1+c,\cdots,X_n+c)=
f(X_1,\cdots,X_n),~\forall~c,\vspace{-2mm}
$$
则~$\widebar X$ 与~$f(X_1,\cdots,X_n)$ 独立.\medskip\pause

\item {\bf 例~4.6.1}
~设~$X_1,\cdots,X_n$ 为从正态总体~$N(a,\sigma^2)$ 中抽取的简单样本,
则样本均值~$\widebar X$ 是~$a$ 的最优同变估计.
\end{itemize}
}

\frame{\frametitle{ 3. ~不变性与无信息先验}
\begin{itemize}

\item 由~$\S2.4$ 节的“位置参数无信息先验”推导过程，可见一个位置参数的最优不变估计也是无信息先验
~$\pi(\theta)=1$ 下的广义贝叶斯估计.
更一般，可以得出结论：通常最优不变估计是参数空间
“广义无信息先验”下的广义贝叶斯解.
这里需要测度论和高等群论，故将这一结论的 推导略去. \medskip\pause

\item
找广义无信息先验下的贝叶斯解要比找最优不变估计容易的多，下面看一个例子：\medskip\pause

\item {\bf 例~4.6.2}
~(续例~4.6.1) ~设~$\mathbf{X}=(X_1,\cdots,X_n)$
为从正态总体~$N(a,\sigma^2)$ 中抽取的简单样本,
利用最优同变估计和无信息先验的关系求~$a$ 的最优同变估计.
\medskip\pause

\item {\bf 注释：} 由例~4.6.1 和例~4.6.2 可见，广义无信息先验下的贝叶斯解和最优不变估计相同，
但找广义无信息先验下的贝叶斯解要比找最优不变估计容易的多.
\end{itemize}
}

\subsection{4.6.2 决策函数的可容许性}

\frame{\frametitle{1. 可容许性的定义}

\begin{itemize}

\item 在统计决策问题中找一致最优的决策函数常常难以实现,
于是降低要求，寻找可容许决策函数.
容许性这个概念本身并不是一个优良性准则，但在很大程度上可以说,
它是任何优良决策函数所应具备的条件.% 下面给出它的定义.
\smallskip\pause

\item {\bf 定义~4.6.3} ~记~$R(\theta,\delta)$ 为决策函数~$\delta$ 的风险函数.
若存在决策函数~$\delta_1$ 使得\pause

~~~~(1) ~对任何~$\theta\in \Theta,$ 有~$R(\theta,\delta_1) \leq
R(\theta,\delta);$\pause

~~~~(2) ~至少存在一个~$\theta_0\in \Theta,$ 使~$R(\theta_0,\delta_1)
< R(\theta_0,\delta);$\pause\\
则称~$\delta_1$ 一致地优于~$\delta,$ 而称~$\delta$
是不可容许的决策函数. 反之, 若不存在一致地优于~$\delta$
的决策函数, %~$\delta_1,$
则称~$\delta$ 是可容许.%的决策函数.
\smallskip\pause

\item 确定一个决策函数是否可容许的, 并不容易. 有时
可限制在一定范围内讨论可容许性. 例如,
限制在线性估计类中讨论可容许性, 是最有兴趣也是文献中研究最多的情形.
可容许性的研究工作难度很大, 因为缺乏一般的有效方法.
下面的几个定理分别讨论贝叶斯解和~Minima 解的可容许性.
\end{itemize}
}


\frame{\frametitle{2. ~可容许性的判别方法}

\begin{itemize}

\item {\bf 定理~4.6.1} ~在贝叶斯决策问题中, 设~$\delta_{\D
H}$ 为先验分布~$H(\theta)$ 下的贝叶斯解, 若~$H(\theta)$
和~$\delta_{\D H}$ 满足下列条件\pause

~~~~(1) 先验分布~$H$ 对参数空间~$\Theta$ 的任何开子集有正概率.\pause

~~~~(2) %$\delta_{\D H}$ 的风险函数~$R(\delta_{\D H},\theta)<\infty$
%为~$\theta$ 的连续函数,
$\delta_{\D H}$ 的贝叶斯风险~$R_{\D H}(\delta_{\D H})<\infty;$\pause

~~~~(3) 对任何决策函数~$\delta,~R(\theta,\delta)$ 为~$\theta$ 的连续函数;\pause\\
则~$\delta_{\D H}$ 为可容的.\medskip\pause

\item {\bf 注~4.6.1} ~此定理的价值在于:
~1. 它说明一大批贝叶斯估计是可容许的, 如由共轭先验分布得到的贝叶斯
估计都是可容许的. 2. 要证明“一个估计是可容许的”, 只要找到
满足定理条件的先验分布，则%, 使得在此先验分布下 的
相关的贝叶斯估计即为所求.\medskip\pause

\item {\bf 定理~4.6.2} ~在给定的贝叶斯决策问题中，
若在给定的先验分布~$H(\theta)$ 下之贝叶斯估计~$\delta_{\D H}$
是唯一的, 则它也是可容许的.
\end{itemize}
}

\frame{\frametitle{3. 例子}

\begin{itemize}

\item {\bf 定理~4.6.3} ~在统计决策问题中, 假~$\delta_{\D
0}$ 为参数~$\theta$ 的唯一~Mini- max 估计, 则~$\delta_{\D 0}$
也是~$\theta$ 的可容许估计.\medskip\pause

\item {\bf 例~4.6.3} ~设随机变量~$X\sim b(n,\theta),$ $\theta$ 的先验分布为
~$Be(a,b),$ 损失函数为~$L(\theta,d)=(\theta-d)^2.$
~证明参数~$\theta$ 的~Minimax 估计~$\delta_{\sqrt n/2,\sqrt
n/2}(x)=\frac{x+\sqrt n/2}{n+\sqrt n/2}$ 是可容许的.\medskip\pause

\item 用上述方法不能证明常见估计~$X/n$ 的可容许性,
因为找不到适合定理~7.6.1 条件的先验分布, 使得~$X/n$ 成为~$\theta$
的贝叶斯估计. 此估计确是可容许的,
但需要用其它方法来证明.\medskip\pause

\item {\bf 例~4.6.4}
~设~$X_{1},\cdots,X_{n}$ 为从正态分布~$N(\theta,1)$
中抽取的简单样本, 其中~$-\infty<\theta<\infty.$
令损失函数是~$L(\theta,d)=(\theta-d)^2,$ $0<c<1$ 为常数,
则~$c\widebar X$ 是~$\theta$ 的可容许估计.
\end{itemize}
}

%\frame{\frametitle{\bf{补充内容：}证明$\widebar X$ 是~$\theta$
%的可容许估计 $^*$}
%
%\begin{itemize}
%
%\item  在上例中若令~$c\rightarrow 1,$ 则得到~$c\widebar X\rightarrow \widebar X.$
%于是~$\widebar X$
%是容许估计的极限，容许估计的极限不见得是可容许的，故这样还不能证明~$\widebar
%X$ 是~$\theta$ 的可容许估计. $\widebar
%X$的可容许性也不能有上述定理~4.6.1 的方法直接证明.\medskip\pause
%
%\item 下面的方法是基于~$C-R$ 不等式的.\medskip\pause
%
%\item 下面证明~$\widebar
%X$ 是~$\theta$ 的可容许估计. 现设 $\delta=\delta(\bm{X})$
%为~$\theta$ 的任一估计，满足条件\vspace{-2mm}
%$$R(\delta,\theta)\leq R(\widebar X,\theta)=\frac{1}{n},~~\mbox{一切}~\theta\in\Theta.\vspace{-2mm}
%$$
%我们将证明:~除了~$\delta(\bm{X})=\widebar X,$ 否则上式是不会成立的.
%因此我们找不出比~$\widebar X$ 一致优的决策函数，故~$\widebar X$ 为
%$\theta$ 的可容许估计.
%
%\end{itemize}
%}

\frame{\frametitle{4. James-Stein 估计}

\begin{itemize}

\item 设~${\bm X}_{1},\cdots,{\bm X}_{n}$ 为从~$p$ 维正态分布~$N(\bm{\theta},I_p)$ 中抽取的简单样本,
取损失函数~$L(\bm\theta,\bm d)=||\bm d-\bm\theta||^2,$
此处~$\bm\theta,~\bm d$ 皆为~$p$ 维向量. $\bm\theta$
的通常估计~$\widebar {\bm X}= \frac{1}{n}\sum\limits_{i=1}^n{\bm
X}_i$ 是否为可容许的呢?\medskip\pause

\item 在~$p=1,\,2$ 时, 回答是肯定的, 我们自然猜想对~$p>2$ 时~$\widebar
{\mathbf X}$ 也是可容许的. C. Stein 在~1955 年证明了: 当~$p\geqslant
3$时，样本均值向量~$\widebar {\bm X}$ 是正态均值向量~$\bm\theta$
的不可容许估计.\medskip\pause

\item 这一结果曾在当时引起轰动.
1960 年~James 和~Stein 给出了比~$\widebar {\bm X}$
更优的估计\vspace{-3mm}
$$\hat\theta_{JS}=\bigg(1-\frac{p-2}{||\widebar {\bm X}||^2}\bigg)\widebar{\bm X}.\vspace{-3mm}
$$
这个估计称为~James-Stein 估计.
\end{itemize}
}




\end{CJK*}
\end{document}



\frame{\frametitle{}
\begin{itemize}

\item

\item

\item

\end{itemize}
}

\frame{\frametitle{}

\begin{itemize}

\item

\item

\item

\end{itemize}
}
