% $Header: /cvsroot/latex-beamer/latex-beamer/examples/beamerexample4.tex,v 1.4 2004/10/07 20:53:07 tantau Exp $

\documentclass[envcountsect,cjk]{beamer}
%\setbeamertemplate{theorems}[numbered]
% Copyright 2003 by Till Tantau <tantau@users.sourceforge.net>.
%
% This program can be redistributed and/or modified under the terms
% of the LaTeX Project Public License Distributed from CTAN
% archives in directory macros/latex/base/lppl.txt.
%
% Many thanks to Huang Yushuo for helping me with this file
% (I don't speak Chinese...)
%\setbeamercovered{dynamic}
\setbeamercovered{transparent}
%\usepackage{times}
%\usepackage{mathtime}
\usepackage{graphicx}
\usepackage{Picins}
\usepackage{indentfirst}
\usepackage{amsmath,amssymb,amsfonts,amsthm}
\usepackage{multirow}
\usepackage{textcomp}

\usepackage{mathrsfs}
\usepackage{latexsym}
\usepackage{makeidx}% 制作索引
\usepackage{accents}
\usepackage{slashbox}
\usepackage{picinpar}
%\makeindex
\usepackage{undertilde}


%\usepackage{textcomp}
\setlength{\abovedisplayskip}{2pt plus1pt minus1pt}     %公式前的距离
\setlength{\belowdisplayskip}{2pt plus1pt minus1pt}     %公式后面的距离
\setlength{\arraycolsep}{2pt}   %在一个array中列之间的空白长度, 因为原来的太宽了
\allowdisplaybreaks[4]  % \eqnarray如果很长, 影响分栏、换行和分页
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\renewcommand{\theequation}{\thesection.\arabic{equation}}
\newtheorem{remark}{Remark}
\makeatletter\@addtoreset{equation}{section}\makeatother
%\makeatletter\@addtoreset{section}{part}\makeatother
\newcommand{\D}{\scriptscriptstyle}
\setlength{\parindent}{20pt}                %Paragraph indent amounts.
\setlength{\parskip}{3pt plus1pt minus2pt}  %Vertical distance between par
\setlength{\baselineskip}{20pt plus2pt minus1pt}%Distance between lines in a par.
%\usepackage{graphicx}
\makeatletter
\def\widebar{\accentset{{\cc@style\underline{\mskip10mu}}}}
\def\Widebar{\accentset{{\cc@style\underline{\mskip8mu}}}}
\makeatother
\def\dl{\displaystyle}

\usepackage{CJK}


%\usetheme{Warsaw}
%\usetheme{Hannover}
%\usetheme{Darmstadt}
\usetheme{JuanLesPins}
\AtBeginSection[]{\frame{\tableofcontents[current]}}
\AtBeginPart{\frame{\partpage}}
\begin{document}
  \begin{CJK*}{GBK}{rm}

\renewcommand{\raggedright}{\leftskip=0pt \rightskip=0pt plus 0cm}

    \title[贝叶斯分析]{\bf 贝~~~~叶~~~~斯~~~~分~~~~析}
    \author{姓名：韦来生,~张伟平}
\date[\today]{中~~国~~科~~大~~出~~版~~社 \\ \vskip 1cm
     第一版, ~2013}

    \frame{\titlepage}






\begin{frame}
  \titlepage
\end{frame}

\begin{frame}{第一章：绪论}
\scriptsize
  \tableofcontents
\end{frame}

\section{1.1 引言}
\subsection{1.1.1 从贝叶斯公式说起}

\frame{\frametitle{全概率公式、贝叶斯公式}


\begin{itemize}
\item  设~$B_1,B_2,\cdots B_n$~($n$~为有限或无穷) 是样本空间~$\Omega$
 中的一个完备事件群~(又称为~$\Omega$ 的一个分划), 令~$A$~为~$\Omega$~中的一个事件, 则全概率公式为:\vspace{-2mm}
\begin{equation*}
 P(A)=P\bigg(\sum_{i=1}^n AB_i\bigg)=\sum_{i=1}^n P(A|B_i)P(B_i).
\end{equation*} \medskip\pause\vspace{-3mm}

\item 这个公式将整个事件~$A$~分解成一些两两不相交的事件之并, 直接计算~$P(A)$~不容易，
但分解后的那些事件的概率容易计算，从而使~$P(A)$ 的计算变得容易了.
\smallskip\pause

\medskip
\item ~在全概率公式条件下，设~$A$~为~$\Omega$~中的一个事件, $P(B_i)> 0,$ $i=1,2,\cdots,
n,~ P(A)>0$, 则按条件概率计算方法有\vspace{-1mm}
\begin{equation*}
 P(B_i|A)=\frac{P(A|B_i)P(B_i)}{P(A)}=\frac{P(A|B_i)P(B_i)}{\sum\limits_{j=1}^n
 P(A|B_j)P(B_j)}.\vspace{-2mm}
\end{equation*}
这个公式称为贝叶斯~(Bayes) 公式.
   \end{itemize}
    }


 \frame{\frametitle{贝叶斯公式的意义}
 \begin{itemize}
\item 从形式上看这个公式不过是条件概率定义与全概率公式的
简单推论. 之所以著名，是在这个公式的哲理意义上： 在没有进一步信息
~(不知道~$A$~发生) 下，人们对~$B_1,B_2,\cdots
B_n$~发生可能性大小的认识通过~$P(B_1),P(B_2),$~
~$\cdots,P(B_n)$~来体现；在有了新信息~(知道~$A$~发生)
后，\!人们对事件~$B_1,B_2,\cdots
B_n$~发生可能性大小新认识体现在~$P(B_1|A),
P(B_2|A),\cdots,P(B_n|A).$\medskip\pause

\item 如果把事件~$A$~看成“结果”，把诸事件~$B_1,B_2,\cdots,B_n$~看成导致这一结果
的可能“原因”，则可以形象地把全概率公式看成由“原因”推“结果”.
而贝叶斯公式正好相反， 其作用在于由“结果”推“原因”.
现在有了结果~$A,$ 在导致~$A$
发生的众多原因中，到底是哪个原因导致了~$A$~发生~(或曰：到底是哪个原因导致~$A$~发生
的可能性最大)？ 这是日常生活和科学技术研究中常见到的问题. 请看下例：
\end{itemize}
}

\frame{\frametitle{一个例子}
\begin{itemize}
\item {\bf 例~1.1.1} ~一种诊断某癌症的试剂, 经临床试验有如下记录:
癌症病人试验结果是阳性的概率为~95\%, 非癌症病人试验结果是阴性的概率
为~95\%. 现用这种试剂在某社区进行癌症普查,
设该社区癌症发病率为~0.5\%,
问某人反应为阳性时该如何判断他是否患有癌症.
\medskip \pause

\item 设~$A$ 表示“反应为阳性”的事件, $B$
表示“被诊断者患癌症”的事件,则~$B_1=B$~和~$B_2=\bar{B}$~构成完备事件群.
由题意\vspace{-2mm}
\begin{eqnarray*}
 &&P(A|B_1)= 0.95, \quad P(A|B_2)==1-0.95=0.05, \\
 &&P(B_1)=0.005, ~\quad P(B_2)=0.995.
\end{eqnarray*}\\
\vspace{-4mm}
\medskip\pause

\item 现在要算的是~$P(B_1|A)$~和~$P(B_2|A).$ 由贝叶斯公式易得
\begin{eqnarray*}\vspace{-2mm}
\hspace{-5mm}&&\hspace{-5mm}P(B_1|A)=\frac{P(A|B_1)P(B_1)}{P(A|B_1)P(B_1)+P(A|B_2)P(B_2)}
=
0.087 =8.7\%\\
&&\hspace{-5mm} P(B_2|A)=1-0.087=0.913=91.3\%.
\end{eqnarray*}
\end{itemize}
}


 \frame{\frametitle{贝叶斯方法}
\begin{itemize}
\item 导致某人试验结果为阳性，可能原因有两个，一个是他患有癌症使试验结果呈阳性；
另一个原因是他根本就没有患有癌症, 但也可以使试验结果呈阳性.
某人真正患癌症的可能性很小，只有~$8.7\%,$ 告诉他不必紧张，可以到医院
 去做进一步的检查，以便排除这一疑点.
\medskip\pause

\item 贝叶斯方法的基本观点是由贝叶斯公式引伸而来的. 从形式上看
这一公式不过是条件概率定义的一个简单推论，但它却包含了归纳推理的一种思想，
后来学者把它发展成一种关于统计推断的系统理论和方法，称为{\bf
贝叶斯方法}. \medskip\pause

\item 由这种方法获得的统计推断的全部结果, 构成了{\bf 贝叶斯统计学}的内容. 信奉贝叶斯统计,
乃至鼓吹贝叶斯观点是关于统计推断的唯一正确方法
的那些学者形成了数理统计学中的{\bf 贝叶斯学派}. 经典~(频率) 学派
与贝叶斯学派近几十年来的争论推动了数理统计学的发展.
\end{itemize}
}

\subsection{1.1.2 三种信息}
\frame{\frametitle{三种信息和贝叶斯统计学}
\begin{itemize}

\item 当把样本视为随机变量，它有概率分
布，称为总体分布.
如果我们已经知道总体的分布形式，这就给了我们一种信息，称为总体信息.
 \medskip\pause

\item 另外一种信息是样本本身的信息，就是从总体中抽取的样本所提供的信息.
这是最“鲜活”的信息. 样本越多，提供的信息越多.
总体信息和样本信息放在一起,称为抽样信息.
\medskip\pause

\item 基于总体信息和样本信息~(或统称为抽样信息) 进行统计推断的理论和方法称为{\bf 经典（古典）
统计学}. \medskip\pause

\item 另外一种信息称为先验信息，就是在抽样之前，有关问题中
 未知参数的信息. 一般先验信息来自经验和历史资料. \medskip \pause

\item 基于上述三种信息进行统计推断的方法和理论称为{\bf 贝叶斯统计学}.
它与经典统计学的主要区别在于是否利用 先验信息.
在使用样本上也是存在差别的. 贝叶斯方法重视已出现的样本,
对尚未发生的样本值不予考虑.
\end{itemize}
}

\frame{\frametitle{先验信息存在的例子} \vspace{-2mm}

\begin{itemize}

\item {\bf 例~1.1.2} ~英国统计学家~L. J. Savage
(1961) 提出一个令人信服的例子说明先验信息有时是很重要的，且看
 下面两试验：

 (1) 一位常饮牛奶和茶的女士说她能辨别先倒进杯子里的是茶还是牛奶. 对此做了~10 次试验她多说对了.

 (2) 一位音乐家说他能够从一页乐谱辨别是海顿~(Haydn 还是莫扎特~(Mozart) 的作品，在~$10$ 次试验中
 他都说对了. \medskip \pause

\item 在上面两次试验中，如果认为试验者是猜对的，每次成功概率为~0.5，则~10 次都猜中的概率为~$(1/2)^{10}
=0.0009766,$ 这是一个很小的概率，几乎不可能发生.
%这不能认为是猜测，而是经验帮了忙.
%故每次猜对概率0.5的假设被否定. 他们每
%次说对的概率比0.5要大得多，. 可见经验（先验信息）在推断中不可
%忽视，应当加以利用.
\medskip \pause

\item {\bf 例~1.1.3} ~某工厂生产一种产品,
每日抽查一部分产品以检查废品率~$\theta,$ 经过一段时间后获得大量数
据, 对~$\theta$ 做出估计. 就当日被抽查的那批产品的废品率~$\theta$
而言, 它只是一个固定的数, 并无随机性可言;
但逐日的废品率~$\theta$~受随机因素的影响会有些波动. 从长期看,
将“一日废品率~$\theta$” 视为随机变量,
而要估计的某日的废品率是这个随机变量的一个观察值.
\end{itemize}
}

\frame{\frametitle{经验贝叶斯方法}
\begin{itemize}

\item 根据历史资料可构造一个分布\vspace{-2mm}
\begin{eqnarray*}
P\Big(\theta=\frac{i}{n}\Big)=\pi_{i},~~i=0,1,2,\cdots,n; \quad
\sum_{i=1}^n\pi_i=1.
\end{eqnarray*}\\\vspace{-3mm}
这个对先验信息进行整理加工而得到的分布称为先验分布.
该分布总结了工厂过去产品质量情况.
\medskip\pause

\item 贝叶斯方法的一个主要问题是如何确定先验分布,
先验分布的确定有很大的主观随意性. 当先验分布完全未知或部分未知时,
如果人为地给出的先验分布与实际情形偏离较大时, 贝叶斯解的性质就较差.
针对这一问题, Robbins~(1955) 首先提出了经验贝叶斯~(简称~EB) 方法.
它的实质是利用历史样本对先验分布或先验分布的某些数字特征作出直接或间接的估计,
因此~EB 方法是对贝叶斯方法的改进和推广. 它
是介于经典统计学和贝叶斯统计学之间的一种统计推断方法.
\end{itemize}
}

\subsection{1.1.3 历史}
\frame{\frametitle{发展史}
\begin{itemize}

\item 贝叶斯统计起源于英国学者~T. Bayes
于~1763 年发表的一篇论文--《机遇理论中 一个问题的解》. 在此论文中,
他提出著名的贝叶斯公式和一种归纳推理的方法.
\medskip\pause

\item 贝叶斯在~1742
年当选英国皇家统计学会会员~(相当于科学院院士)，因而可以想见，它必定以某
种方式表现出其学术造诣而为当时的学术界所承认.
他是一个生性孤僻、哲学气味重于数学气味的怪杰.\medskip\pause

\item 贝叶斯在他逝世之前~4
个月，他在一封遗书中将此文及~100
英镑托付给一个叫普莱斯的学者，所幸的是后来普莱斯在贝叶斯
的文件中发现了此论文. 他于~1763 年~12 月
在英国皇家学会上宣读了此文，并在次年全文分两次得以发表. 贝叶斯
的遗著在此后近~200
年中没有引起学术界重视，其主要原因可能是可能是在~20
世纪初著名的统计学家如费希尔、奈曼等对贝叶斯方法持否定态度.
%在~18
%世纪上半叶的欧洲学术界私人通信是传播和交流科学成果的一种重要方式.
%许多这类信件得以保存下来并发表传世，成为科学史上的重要文献.
%对贝叶斯来说这方面的材料有一 些，但不多.

.%\medskip\pause
\end{itemize}
}

\frame{\frametitle{发展史}
\begin{itemize}


\item  20 世纪上半叶正是经典统计学大发展的一个时期,
发现了一些具有普遍应用意义的有力的统计方法,
如创建假设检验理论~(Neyman-Pearson
引理)、似然比检验、拟合优度检验、列联表检验和估计的最优性理论等.
在这种情况下，人们不会感到有要“ 另寻出路”的想法.\medskip\pause

\item  自~20 世纪中叶以来, 经典统计学的发展遇到一些问题, 如数学化程度越来越高,
小样本方法缺乏进展从而越来越转向大样本理论的研究,
在应用工作中产生了不满. 在这种背景下贝叶斯统计以其操作简单,
加之在解释上的某些合理性吸引了不少应用统计学者. 1958
年国际权威性的统计杂志《Biometrika》全文重新刊登了贝叶斯的文章.\medskip\pause

\item 贝叶斯学派自~$20$ 世纪下半叶进入全盛时期, 在这中间起过重要作用的有~H.
Jeffreys, L.J. Savage, 还有~D.V. Lindley、G.P. Box \& G.C. Tiao
和~J.O. Berger 等.
\end{itemize}
}

\subsection{1.1.4 古典学派和贝叶斯学派的论争}
\frame{\frametitle{1. 频率学派对贝叶斯学派的批评}

\begin{itemize}

\item
凡是坚持概率的频率解释, 因而对数理统计学中的概念、
结果和方法性能的评价等, 必须在大量重复的意义上去理解的,
都属于频率学派. 频率学派对贝叶斯学派的批评,
主要集中在主观概率以及相关的先验分布的确定上.\smallskip\pause

\item 贝叶斯学派常使用主观概率. 主观概率定义为认识主体对事情发生机会的个人信念,
即不同的人对同一事件的概率可以得到不同的结果.
坚持频率解释的人认为这不仅难以捉摸, 是主观随意性的产物, 没有客观性,
因而也就没有科学性,
当然也不能接受建立在这个基础上的统计方法.\smallskip\pause

\item 频率学派还认为在许多情况下将~$\theta$ 视为随机变量是不合理的. 例如,
估计某矿体内一种金属的含量, 很难把这一问题纳入~贝叶斯 观点的模式中.
此外, 就算在某些问题中将~$\theta$ 看作随机变量有一定的合理性,
但关于~$\theta$ 的先验知识, 往往不是确切到可以提出一定的先验分布来.
在这种情况下, 指定一种先验分布 不免带有人为性, 缺乏合理性.
\end{itemize}
}

%\begin{frame}
\frame{\frametitle{2. 贝叶斯学派对频率学派的批评}

\begin{itemize}

\item 贝叶斯学派对频率学派的批评，主要在以下方面：首先涉及“频率解释”本身.
贝叶斯 学派认为许多应用问题是一次性的,
在诸多自然现象、社会现象和经济决策问题中, {\bf
事件}常常是不能大量重复的. 例如灾害预报中,
像地震、水灾等都不可在相同条件下重复.\medskip\pause

\item 贝叶斯学派认为, 虽然频率学派没有明白使用先验分布, 但事实上,
经典统计中的一些重要统计推断方法之所以能站住脚,
只是它暗合于某个合理的贝叶斯解. 如~$N(\theta,1)$ 中的~$\theta$
的无偏估计~$\widebar{X},$ 恰好是当~$\theta$ 有广义先验
密度~$\pi(\theta)\equiv 1,$ 即所谓无信息先验分布之下的贝叶斯
解.\medskip\pause

\item 频率学派承认贝叶斯方法在一些情况下可用,
但限于先验分布可给予某种频率解释的时候. 至于两派涉及的基本哲学观点,
看来是无法调和的.
\end{itemize}
%\end{frame}
}

%\begin{frame}
\frame{\frametitle{评论}
\begin{itemize}

\item 频率学派与贝叶斯学派有不少共同点, 如都承认样本有概率分布, 概率的计算遵循共同的准则. 分歧在
于把未知参数~$\theta$ 看成一个未知的固定量呢, 还是看成一个随机变量,
其余的分歧多少都是由此派生而来.\medskip\pause

\item 对上述争论有一个至高无上的裁判者, 即应用的结果.
统计方法无论在理论上如何精细高明, 总要用实践来检验. 迄今为止,
实践显示这两派得分都不低, 也正是因为它们在应用上表现不错,
才能各自聚合了一些追随者形成各自的学派.\medskip\pause

\item 作为一个统计学者, 可以不执著于任何一派的观点,
而是各取其所长为我所用.
\end{itemize}
%\end{frame}
}

\section{1.2 贝叶斯统计推断的若干基本概念}
\subsection{1.2.1 先验分布与后验分布}

\frame{\frametitle{先验分布与后验分布的定义}
\begin{itemize}

\vspace{-2mm}
\item {\bf
定义~1.2.1}~(先验分布)~~参数空间~$\Theta$~上的任一概率分布都称先验分布.

~~~~本教材中用~$\pi(\theta)$~表示~$\theta$ 的先验分布.
这里~$\pi(\theta)$~是随机变量 ~$\theta$~的概率函数 ~(即当~$\theta$
为离散型随机变量 时，$\pi(\theta_i),$
$~i=1,2,\cdots$~表示事件~$\{\theta=\theta_i\}$~的概率分布.
当~$\theta$ 为连续型随机变量时，$\pi(\theta)$~表示的密度函数).
$F^\pi(\theta)$~表示分布函数.
 \medskip\pause

\item {\bf 定义~1.2.2}~(后验分布)
~在获得样本~$x$
后，$\theta$~的后验分布就是给定~$X=x$~条件下~$\theta$
的条件分布，记为~$\pi(\theta |x).$ 在有密度的情形,
它的密度函数为\vspace{-1mm}
$$\qquad
\qquad \pi(\theta |x)=\frac{f(x, \theta)}{m(x)}=
  \frac{f(x |\theta) \pi(\theta)}{\dl\int_{\Theta}f(x |\theta)
  \pi(\theta)d\theta},\qquad(1.2.1)\vspace{-2mm}
$$ 其中~$f(x, \theta)=f(x |\theta) \pi(\theta)$
为~$X$~和~$\theta$ 的联合分布. 而\vspace{-2mm}
\begin{eqnarray*}
m(x)= \int_{\Theta}f(x |\theta) \pi(\theta)d\theta
\end {eqnarray*}\\\vspace{-2mm}
为~$X$ 的边缘分布.
\end{itemize}
}


\frame{\frametitle{后验分布的定义}
\begin{itemize}

\vspace{-2mm}
\item
先验分布~$\pi(\theta)$~是在抽取样本~$X$~之前对参数~$\theta$~可能取值的认识.
由于样本也 包含~$\theta$~的信息，一旦获得抽样信息后，人们对~$\theta$
的认识发生了变化和调整，
调整的结果获得对~$\theta$~的新认识称为后验分布，
故后验分布是人们用总体信息和样本信息对先验分布作调整
的结果，是三种信息的综合.
 \smallskip\pause

\item (1.2.1) 就是贝叶斯公式的密度形式,
它集中了总体、样本和先验三种信息中有关~$\theta$~的一切信息,
从贝叶斯学派的观点看, 获取后验分布~$\pi(\theta |x)$ 后,
一切统计推断都须从~$\pi(\theta |x)$~出发.
\smallskip\pause

\item 当~$\theta$ 是离散随机变量时，先验分布可用先验分布列~$\{\pi(\theta_i),$ $~i=1,2,$ $\cdots\}$ 表示，
这时后验分布是如下离散形式\vspace{-1mm}
$$\qquad\quad
\pi(\theta_i|x)=f(x |\theta_i) \pi(\theta_i)\Big/\sum_i f(x
|\theta_i)\pi(\theta_i),\qquad(1.2.2)\vspace{-2mm}
$$ 若~$X$ 为离散时, 把~$(1.2.2)$ 中密度~$f(x
|\theta_i)$ 看着事件~$\{X=x|\theta_i\}$ 的概率~$P(X=x|\theta_i),$
此时，(1.2.2) 就是贝叶斯公式.
\end{itemize}
}



\subsection{1.2.2 点估计问题}

\frame{\frametitle{点估计问题 }
\begin{itemize}

\item 在获得参数~$\theta$ 的后验分布后，$\theta$ 的估计可以用后验均值
$$\hat{\theta}_B=E(\theta |x)=\int_{\Theta} \theta
\pi(\theta|x)d\theta=
 \frac{\int_{\Theta} \theta f(x |\theta) \pi(\theta)d\theta}{m(x)}.
$$\pause

\item 也可以用后验分布的中位数或后验众数作为~$\theta$ 的估计量.

\end{itemize}
}

\subsection{1.2.3 假设检验问题}
\frame{\frametitle{假设检验问题}
\begin{itemize}

\item 设假设检验问题的一般形式是：\vspace{-2mm}
$$
H: \theta \in \Theta_{\D H} \longleftrightarrow K: \theta \in
\Theta_{\D K}\vspace{-2mm}
$$
此处~$\Theta_{\D H}\bigcup \Theta_{\D K}=\Theta,$ 其中~$\Theta$
是参数空间, $\Theta_{\D H}$ 是~$\Theta$ 的非空真子集
\medskip\pause

\item 获得参数~$\theta$ 的后验分布后，计算~$\Theta_{H}$ 和~$\Theta_{K}$ 的后验概率\vspace{-2mm}
$$p_{\D H}(x)=P(\theta \in \Theta_{\D H} |x), \qquad p_{\D K}(x)=P(\theta \in
\Theta_{\D K} |x).\vspace{-2mm}
$$
若~$p_{\D H}(x)>1/2,$ 则接受~H，否则拒绝~H.
\end{itemize}
}



\subsection{1.2.4 区间估计问题及例}
\frame{\frametitle{区间估计问题}
\begin{itemize}

\item 在求得~$\theta$ 的后验密度~$\pi(\theta|x)$ 后，求统计量~$A(x)$ 和~$B(x),$使得\vspace{-2mm}
\begin{eqnarray*}
P\big(A(x) \leq \theta \leq B(x)\big|x\big)=1-\alpha,
\end {eqnarray*}\\\vspace{-1mm}
其中~$\alpha \in (0,1)$ 为给定的常数，则称~[A(x),B(x)] 为~$\theta$
的可信度为~$1-\alpha$ 的可信区间.
\medskip\pause

\item {\bf 例~1.2.1} ~设随机变量~(r.v.)~$X$ 服从二项分布
~$B(n,\theta),~\theta$ 的先验分布为~(0,1)
上的均匀分布~U(0,1)，求~$\theta$ 的贝叶斯点估计.
\end{itemize}
}



\section{1.3 贝叶斯统计决策的若干基本概念}

\subsection{1.3.1 统计判决三要素}
%\begin{frame}
\frame{\frametitle{统计决策三要素} \vspace{-2mm}


\begin{itemize}

\item {\bf 样本空间和样本分布族:}
~取值于样本空间 ~$\mathscr{X}$ 内的随机变量~$X$
及其分布族~$\{F_\theta(x),~\theta\in \Theta\}$
是构成统计决策问题的第一个要素. 这里~$F_\theta(x)$ 是~$X$
的分布函数, $\theta$ 是未知参数, $\Theta$ 为参数空间,
$\mathbf{X}=(X_1,\cdots,X_n)$ 是总体~$X$ 的简单样本.\smallskip\pause

\item {\bf 行动空间:}
~决策者或统计工作者对某个统计决策问题可能采取的行动所构成的非空集合,
被称为行动空间, 记为~$\mathscr{D}.$ 在估计问题中, $\mathscr{D}$
由一切估计量~$d(x)$ 构成, 常取~$\mathscr{D}=\Theta.$
在检验问题中~$\mathscr{D}$ 只有两个行动组成,
即~$\mathscr{D}=\{d_0,d_1\},$ 其中~$d_0$ 表示接受原假设~$H_0,~d_1$
表示拒绝~$H_0.$\smallskip\pause

\item {\bf 损失函数：}
~损失函数是定义于~$\Theta \times\mathscr{D}$ 上的非负函数,
记为~$L(\theta,d).$ 它表示参数为~$\theta$ 时采取行动
~$d\in\mathscr{D}$ 所蒙受的损失. %损失函数的类型很多,
常用的有平方损失、绝对值损失和线性损失等.\smallskip\pause

\item 统计决策问题就是研究如何根据样本~$
X$ 的值恰当地选取行动~$d$ 使得引起的平均损失最小.
\end{itemize}
%\end{frame}
}

\subsection{1.3.2 风险函数和一致最优决策函数}
%\begin{frame}
\frame{\frametitle{1. 风险函数}

\begin{itemize}

\item {\bf 定义~1.3.1} ~定义于样本空间~$\mathscr{X}$ 内而取值于
行动空间~$\mathscr{D}$ 内的函数~$\delta =\delta(\mathbf{x})$
称为{\bf 决策函数}或{\bf 判决函数}.\medskip\pause

\item 设~$\delta$ 是决策行动,
参数为~$\theta,$ 损失函数是~$L(\theta,\delta),$
这个量与样本~$\mathbf{X}$ 有关, 因而是随机的. 故采取行动~$\delta$
的效果用平均损失去度量是相对合理的.
这就引入如下风险函数的概念.\medskip\pause

\item {\bf 定义~1.3.2} ~设~$\delta(\mathbf{x})$ 是一个决策函数, 称平均损失\vspace{-2mm}
\begin{eqnarray*}%\label{1.3.1}
\!\!\!&&R(\theta,\delta)=E[L(\theta,\delta(\mathbf{X}))]=\int_{\mathscr{X}}
L(\theta,\delta(\mathbf{x}))
dF(\mathbf{x}|\theta)\nonumber\\
\!\!\!&&=\left\{\begin{array}{ll}\dl\int_{\mathscr{X}}L(\theta,\delta(\mathbf{x}))
f(\mathbf{x}|\theta)d\mathbf{x},
&\mbox{当}~X~\mbox{为连续随机变量,}\vspace{2mm}
\\\sum\limits_{\mathbf{x}\in\mathscr{X}}L(\theta,\delta(\mathbf{x}))f(\mathbf{x}|\theta),
&\mbox{当}~X~\mbox{为离散随机变量.}\end{array}\right.
\end {eqnarray*}\\\vspace{-2mm}
为~$\delta$ 的风险函数, 此处~$F(\mathbf{x}|\theta)$ 是给定~$\theta$
时~$\mathbf{X}$ 的分布函数.

\end{itemize}
%\end{frame}
}

%\begin{frame}
\frame{\frametitle{2. 一致最优决策函数}

\begin{itemize}

\item 按照~Wald 的统计决策理论, 评价一个决策函数的唯一依据, 就是其风险函数.
风险函数愈小愈好.
\medskip\pause

\item {\bf 定义~1.3.3} %(一致最优决策函数)
~设~$\delta_{1}(\mathbf{x})$ 和~$\delta_{2}(\mathbf{x})$ 为~$\theta$
的两个不同的决策函数, 若~$R(\theta, \delta_{1}(\mathbf{x})) \leq
R(\theta, \delta_{2}(\mathbf{x})),~~\mbox{对一切}~\theta \in
\Theta,$ 且至少存在一个~$\theta_{0} \in \Theta$ 使严格不等号成立,
则称~$\delta_{1}(\mathbf{x})$ 优于~$\delta_{2}(\mathbf{x}).$
若存在~$\delta^*(\mathbf{x}),$ 使得对任一决策函数
~$\delta(\mathbf{x})$ 有\vspace{-2mm}
\begin{equation*}%\label{1.3.2}
R(\theta, \delta^*(\mathbf{x})) \leq R(\theta,
\delta(\mathbf{x})),~~\mbox{对一切}~\theta \in \Theta,
\end{equation*}\\\vspace{-2mm}
则称~$\delta^*(\mathbf{x})$ 为一致最优解
或一致最优决策函数.\medskip\pause

\item 对决策函数~$\delta(\mathbf{x}),$ 若不存在一致优于它的决策函数，则称
~$\delta(\mathbf{x})$ 为可容许的决策函数.
\end{itemize}
%\end{frame}
}

\subsection{1.3.3 贝叶斯风险和贝叶斯解}
\frame{\frametitle{贝叶斯风险和贝叶斯解}
\begin{itemize}

\item  {\bf定义~1.3.5.}
~设~$R(\theta,\delta(\mathbf{x}))$ 为风险函数，$\pi(\theta)$
为~$\theta$ 的先验分布 ，则称\vspace{-2mm}
\begin{eqnarray*}
&&R_{\pi}(\delta(\mathbf{x}))=\int_{\Theta}R(\theta,
\delta(\mathbf{x}))dF^\pi(\theta)=E^{ \pi} [R(\theta,
\delta(\mathbf{X}))]\\
&&=\int_{\Theta}\int_{\mathscr{X}}L(\theta,\delta(\mathbf{x}))dF(\mathbf{x}|\theta)dF^\pi
(\theta)
\end {eqnarray*}\\\vspace{-2mm}
是~$\delta(\mathbf{x})$ 的贝叶斯风险, 即它是将风险函数对~$\theta$
的先验分布再求一次均值.
\smallskip\pause

\item {\bf定义~1.3.6} ~设~$\delta_1(\mathbf{x})$ 和~$\delta_2(\mathbf{x})$
为~$\theta$ 的两个决策函数，$\pi(\theta)$ 为~$\theta$
的先验分布，若~$R_{\pi}(\delta_1(\mathbf{x})) \leq R_{
\pi}(\delta_2(\mathbf{x}))$，则称~$\delta_{1}(\mathbf{x})$
在贝叶斯风险下优于~$\delta_{2}(\mathbf{x}).$
若存在~$\delta^{*}(\mathbf{x}),$ 使得对任一决策函数
~$\delta(\mathbf{x})$ 有\vspace{-2mm}
\begin{eqnarray*}
R_{\pi}(\delta^{*}(\mathbf{x}))\leq R_{\pi}(\delta(\mathbf{x})),
\end {eqnarray*}\\\vspace{-2mm}
则称~$\delta^*(\mathbf{x})$ 为所考虑的统计判决问题的贝叶斯解.
\end{itemize}
}


\end{CJK*}
\end{document}





%\section{1.1 引言}
%\subsection{1.1.1 从贝叶斯公式说起}
%
%\frame{\frametitle{全概率公式、贝叶斯公式}
%
%
%\begin{itemize}
%\item  设~$B_1,B_2,\cdots B_n$~($n$~为有限或无穷) 是样本空间~$\Omega$
% 中的一个完备事件群 (又称为~$\Omega$ 的一个分划), 令~$A$~为~$\Omega$~中的一个事件, 则全概率公式为:\vspace{-2mm}
%\begin{equation*}
% P(A)=P\bigg(\sum_{i=1}^n AB_i\bigg)=\sum_{i=1}^n P(A|B_i)P(B_i).
%\end{equation*} \medskip\pause\vspace{-3mm}
%
%\item 这个公式将整个事件~$A$~分解成一些两两不相交的事件之并, 直接计算~$P(A)$~不容易，
%但分解后的那些事件的概率容易计算，从而使~$P(A)$ 的计算变得容易了.
%\smallskip\pause
%
%\medskip
%\item ~在全概率公式条件下，设\!~$A$~\!为~\!$\Omega$\!~中的一个事件,\!~$P(B_i)> 0,$\! $i=1,2,\cdots,
%n,~ P(A)>0$, 则按条件概率计算方法有\vspace{-1mm}
%\begin{equation*}
% P(B_i|A)=\frac{P(A|B_i)P(B_i)}{P(A)}=\frac{P(A|B_i)P(B_i)}{\sum\limits_{j=1}^n
% P(A|B_j)P(B_j)}.\vspace{-2mm}
%\end{equation*}
%这个公式称为贝叶斯~(Bayes) 公式.
%\end{itemize}
%}
%
%
% \frame{\frametitle{贝叶斯公式的意义}
% \begin{itemize}
%\item 从形式上看这个公式不过是条件概率定义与全概率公式的
%简单推论. 之所以著名，是在这个公式的哲理意义上： 在没有进一步信息
%(不知道~\!$A$~\!发生) 下，人们对\!~$B_1,B_2,\cdots
%B_n$~\!发生可能性大小的认识通过\!~$P(B_1),P(B_2),$~\!
%~\!$\cdots,P(B_n)$~\!来体现；在有了新信息（知道~\!$A$~\!发生）后，人们对事件\!~$B_1,B_2,\cdots
%B_n$~\!发生可能性大小新认识体现在\!~$P(B_1|A),
%P(B_2|A),\cdots,P(B_n|A).$\medskip\pause
%
%\item 如果把事件~$A$~看成“结果”，把诸事件~\!$B_1,B_2,\cdots,B_n$\!~看成导致这一结果
%的可能“原因”，则可以形象地把全概率公式看成由“原因”推“结果”.
%而贝叶斯公式正好相反，其作用在于由“结果”推“原因”.
%现在有了结果~$A,$ 在导致~$A$
%发生的众多原因中，\!\!到底是哪个原因导致了~\!$A$\!~发生~\!(或曰:\!
%到底是哪个原因导致~$A$~发生 的可能性最大)
%？这是日常生活和科学技术研究中常见到的问题. 请看下例：
%\end{itemize}
%}
%
%\frame{\frametitle{一个例子}
%\begin{itemize}
%\item {\bf 例~1.1.1} ~一种诊断某癌症的试剂, 经临床试验有如下记录:
%癌症病人试验结果是阳性的概率为~95\%, 非癌症病人试验结果是阴性的概率
%为~95\%. 现用这种试剂在某社区进行癌症普查,
%设该社区癌症发病率为~0.5\%,
%问某人反应为阳性时该如何判断他是否患有癌症.
%\medskip \pause
%
%\item 设~$A$ 表示“反应为阳性”的事件, $B$
%表示“被诊断者患癌症”的事件,则~$B_1=B$~和~$B_2=\bar{B}$~构成完备事件群.
%由题意\vspace{-2mm}
%\begin{eqnarray*}
% &&P(A|B_1)= 0.95, \quad P(A|B_2)==1-0.95=0.05, \\
% &&P(B_1)=0.005, ~\quad P(B_2)=0.995.
%\end{eqnarray*}\\
%\vspace{-2mm}
%\medskip\pause
%
%\item 现在要算的是~$P(B_1|A)$~和~$P(B_2|A).$ 由贝叶斯公式易得
%\begin{eqnarray*}\vspace{-2mm}
%&&P(B_1|A)=\frac{P(A|B_1)P(B_1)}{P(A|B_1)P(B_1)+P(A|B_2)P(B_2)} =
%0.087 =8.7\%\\
%&& P(B_2|A)=1-0.087=0.913=91.3\%.
%\end{eqnarray*}
%\end{itemize}
%}
%
%
% \frame{\frametitle{贝叶斯方法}
%\begin{itemize}
%
%\item 导致某人试验结果为阳性，可能原因有两个，一个是他患有癌症使试验结果呈阳性；
%另一个原因是他根本就没有患有癌症,但也可以使试验结果呈阳性.
%某人真正患癌症的可能性很小，只有~8.7\%, 告诉他不必紧张，可以到医院
% 去做进一步的检查，以便排除这一疑点.
%\medskip\pause
%
%\item 贝叶斯方法的基本观点是由贝叶斯公式引伸而来的. 从形式上看
%这一公式不过是条件概率定义的一个简单推论，但它却包含了归纳推理的一种思想，
%后来学者把它发展成一种关于统计推断的系统理论和方法，称为{\bf
%贝叶斯方法}. \medskip\pause
%
%\item 由这种方法获得的统计推断的全部结果, 构成了{\bf 贝叶斯统计学}的内容. 信奉贝叶斯统计,
%乃至鼓吹贝叶斯观点是关于统计推断的唯一正确方法
%的那些学者形成了数理统计学中的{\bf 贝叶斯学派}. 经典(频率)学派
%与贝叶斯学派近几十年来的争论推动了数理统计学的发展.
%\end{itemize}
%}
%
%\subsection{1.1.2 三种信息}
%\frame{\frametitle{三种信息和贝叶斯统计学}
%\begin{itemize}
%
%\item 当把样本视为随机变量，它有概率分
%布，称为总体分布.
%如果我们已经知道总体的分布形式，这就给了我们一种信息，称为总体信息.
% \medskip\pause
%
%\item 另外一种信息是样本本身的信息，就是从总体中抽取的样本所提供的信息.
%这是最“鲜活”的信息. 样本越多, 提供的信息越多.
%总体信息和样本信息放在一起, 称为抽样信息.
%\medskip\pause
%
%\item 基于总体信息和样本信息（或统称为抽样信息）进行统计推断的理论和方法称为{\bf 经典（古典）
%统计学}. \medskip\pause
%
%\item 另外一种信息称为先验信息，就是在抽样之前，有关问题中
% 未知参数的信息. 一般先验信息来自经验和历史资料. \medskip \pause
%
%\item 基于上述三种信息进行统计推断的方法和理论称为{\bf 贝叶斯统计学}.
%它与经典统计学的主要区别在于是否利用了先验信息.\!
%在使用样本上也是存在差别的. 贝叶斯方法重视已出现的样本,
%对尚未发生的样本值不予考虑.
%\end{itemize}
%}
%
%\frame{\frametitle{先验信息存在的例子}
%\begin{itemize}
%
%\item {\bf 例~1.1.2} ~英国统计学家~\!L. J. Savage
%(1961)\! 提出一个令人信服的例子说明先验信息有时是很重要的，且看
% 下面两试验：
%
% (1) 一位常饮牛奶和茶的女士说她能辨别先倒进杯子里的是茶还是牛奶. 对此做了~\!10\! 次试验她多说对了.
%
% (2) 一位音乐家说他能够从一页乐谱辨别是海顿\!（Haydn）\!还是莫扎特\!（Mozart）\!的作品，在~\!10\! 次试验中
% 他都说对了. \medskip \pause
%
%\item 在上面两次试验中，如果认为试验者是猜对的，每次成功概率为~0.5，则~10 次都猜中的概率为~$(1/2)^{10}
%=0.0009766,$ 这是一个很小的概率，几乎不可能发生.
%%这不能认为是猜测，而是经验帮了忙.
%%故每次猜对概率0.5的假设被否定. 他们每
%%次说对的概率比0.5要大得多，. 可见经验（先验信息）在推断中不可
%%忽视，应当加以利用.
%\medskip \pause
%
%\item {\bf 例~1.1.3} ~某工厂生产一种产品,
%每日抽查一部分产品以检查废品率~$\theta,$ 经过一段时间后获得大量数
%据, 对~$\theta$ 做出估计. 就当日被抽查的那批产品的废品率~$\theta$
%而言, 它只是一个固定的数, 并无随机性可言；
%但逐日的废品率~$\theta$~受随机因素的影响会有些波动. 从长期看,
%将“一日废品率~$\theta$” 视为随机变量,
%而要估计的某日的废品率是这个随机变量的一个观察值.
%\end{itemize}
%}
%
%\frame{\frametitle{经验贝叶斯方法}
%\begin{itemize}
%
%\item 根据历史资料可构造一个分布\vspace{-2mm}
%\begin{eqnarray*}
%P\Big(\theta=\frac{i}{n}\Big)=\pi_{i},~~i=0,1,2,\cdots,n; \quad
%\sum_{i=1}^n\pi_i=1.
%\end{eqnarray*}\\\vspace{-3mm}
%这个对先验信息进行整理加工而得到的分布称为先验分布.
%该分布总结了工厂过去产品质量情况.
%\medskip\pause
%
%\item 贝叶斯方法的一个主要问题是如何确定先验分布,
%先验分布的确定有很大的主观随意性. 当先验分布完全未知或部分未知时,
%如果人为地给出的先验分布与实际情形偏离较大时, 贝叶斯解的性质就较差.
%针对这一问题, Robbins~(1955) 首先提出了经验贝叶斯~(简称~\!EB) 方法.
%它的实质是利用历史样本对先验分布或先验分布的某些数字特征作出直接或间接的估计,
%因此~EB 方法是对贝叶斯方法的改进和推广. 它
%是介于经典统计学和贝叶斯统计学之间的一种统计推断方法.
%\end{itemize}
%}
%
%\subsection{1.1.3 历史}
%\frame{\frametitle{发展史}
%\begin{itemize}
%
%\item 贝叶斯 统计起源于英国学者~Thomas 贝叶斯
%~(1701-1761) 在他去世两年后~(1763~年) 发表的一篇论文.
%在此论文中他提出著名的~贝叶斯公式和一种归纳推理的方法.
%\smallskip\pause
%
%\item 20 世纪上半叶正是
%经典统计学大发展的一个时期,
%发现了一些具有普遍应用意义的有力的统计方法,
%如创建假设检验理论~(Neyman-Pearson
%引理)、似然比检验、拟合优度检验、列联表检验和估计的最优性理论等.
%自~20 世纪中叶以来, 经典统计学的发展遇到一些问题，
%如数学化程度越来越高，
%小样本方法缺乏进展从而越来越转向大样本理论的研究，
%在应用工作中产生了不满. 在这种背景下~贝叶斯 统计以其操作简单，
%加之在解释上的某些合理性吸引了不少应用统计学者. \smallskip\pause
%
%\item 贝叶斯 学派自~\!20\! 世纪下半叶进入全盛时期, 在这中间起过重要作用的有~H.
%Jeffreys, L.J. Savage, 还有~D.V. Lindley、G.P. Box \& G.C. Tiao
%和~J.O. Berger 等.
%\end{itemize}
%}
%
%\subsection{1.1.4 古典学派和贝叶斯学派的论争}
%\frame{\frametitle{频率学派对贝叶斯学派的批评}
%
%\begin{itemize}
%
%\item
%凡是坚持概率的频率解释, 因而对数理统计学中的概念、
%结果和方法性能的评价等, 必须在大量重复的意义上去理解的，
%都属于频率学派. 频率学派对贝叶斯学派的批评，
%主要集中在主观概率以及相关的先验分布的确定上.\smallskip\pause
%
%\item 贝叶斯学派常使用主观概率.
%主观概率定义为认识主体对事情发生机会的个人信念，
%即不同的人对同一事件的概率可以得到不同的结果.
%坚持频率解释的人认为这不仅难以捉摸，是主观随意性的产物，没有客观性，
%因而也就没有科学性，
%当然也不能接受建立在这个基础上的统计方法.\smallskip\pause
%
%\item 频率学派还认为在许多情况下将~$\theta$ 视为随机变量是不合理的.
%例如，估计某矿体内一种金属的含量，很难把这一问题纳入~贝叶斯
%观点的模式中. 此外，就算在某些问题中将~$\theta$
%看作随机变量有一定的合理性，但关于~$\theta$ 的先验知识，
%往往不是确切到可以提出一定的先验分布来. 在这种情况下，
%指定一种先验分布 不免带有人为性，缺乏合理性.
%\end{itemize}
%}
%
%%\begin{frame}
%\frame{\frametitle{贝叶斯学派对频率学派的批评}
%
%\begin{itemize}
%
%\item 贝叶斯 学派对频率学派的批评，主要在以下方面：首先涉及“频率解释”本身.
%贝叶斯 学派认为许多应用问题是一次性的,
%在诸多自然现象、社会现象和经济决策问题中, {\bf
%事件}常常是不能大量重复的. 例如灾害预报中,
%像地震、水灾等都不可在相同条件下重复.\medskip\pause
%
%\item 贝叶斯学派认为, 虽然频率学派没有明白使用先验分布, 但事实上,
%经典统计中的一些重要统计推断方法之所以能站住脚,
%只是它暗合于某个合理的贝叶斯解. 如~$N(\theta,1)$ 中的~$\theta$
%的无偏估计~$\widebar{X},$ 恰好是当~$\theta$ 有广义先验
%密度~$\pi(\theta)\equiv 1,$ 即所谓无信息先验分布之下的~贝叶斯
%解.\medskip\pause
%
%\item 频率学派承认贝叶斯方法在一些情况下可用,
%但限于先验分布可给予某种频率解释的时候. 至于两派涉及的基本哲学观点,
%看来是无法调和的.
%\end{itemize}
%%\end{frame}
%}
%
%%\begin{frame}
%\frame{\frametitle{评论}
%\begin{itemize}
%
%\item 频率学派与贝叶斯学派有不少共同点, 如都承认样本有概率分布, 概率的计算遵循共同的准则. 分歧在
%于把未知参数~$\theta$ 看成一个未知的固定量呢, 还是看成一个随机变量,
%其余的分歧多少都是由此派生而来.\medskip\pause
%
%\item 对上述争论有一个至高无上的裁判者, 即应用的结果.
%统计方法无论在理论上如何精细高明, 总要用实践来检验. 迄今为止,
%实践显示这两派得分都不低, 也正是因为它们在应用上表现不错,
%才能各自聚合了一些追随者形成各自的学派.\medskip\pause
%
%\item 作为一个统计学者, 可以不执著于任何一派的观点,
%而是各取其所长为我所用.
%\end{itemize}
%%\end{frame}
%}
%
%\section{1.2 贝叶斯统计推断的若干基本概念}
%\subsection{1.2.1 先验分布与后验分布}
%
%\frame{\frametitle{先验分布与后验分布的定义}
%\begin{itemize}
%
%\vspace{-2mm}
%\item {\bf
%定义~1.2.1}~(先验分布)~~参数空间~$\Theta$~上的任一概率分布都称先验分布.
%
%~~~~本教材中用~$\pi(\theta)$~表示~$\theta$ 的先验分布.
%这里~$\pi(\theta)$~是随机变量 ~$\theta$~的概率函数
%~(~\!即当~$\theta$ 为离散型随机变量 时，$\pi(\theta_i)$
%~表示事件~$\{\theta=\theta_i\}~(i=1,2,\cdots)$~的概率分布.
%当~$\theta$ 为连续型随机变量时，$\pi(\theta)$~表示的密度函数).
%$F^\pi(\theta)$~表示分布函数.
% \medskip\pause
%
%\item {\bf 定义~1.2.2}~(后验分布)
%~在获得样本~$x$ 后,
%\!$\theta$~的后验分布就是给定~$X=x$~条件下~$\theta$
%的条件分布，记为~$\pi(\theta |x).$ 在有密度的情形,
%它的密度函数为\vspace{-1mm}
%$$
%\qquad \qquad\pi(\theta |x)=\frac{f(x, \theta)}{m(x)}=
%  \frac{f(x |\theta) \pi(\theta)}{\dl\int_{\Theta}f(x |\theta)
%  \pi(\theta)d\theta},\qquad\quad (1.2.1)
%$$\\\vspace{-2mm} 其中~$f(x, \theta)=f(x |\theta) \pi(\theta)$
%为~$X$~和~$\theta$ 的联合分布. 而\vspace{-2mm}
%\begin{eqnarray*}
%m(x)= \int_{\Theta}f(x |\theta) \pi(\theta)d\theta
%\end {eqnarray*}\\\vspace{-2mm}
%为~$X$ 的边缘分布.
%\end{itemize}
%}
%
%
%\frame{\frametitle{后验分布的定义}
%\begin{itemize}
%
%\vspace{-2mm}
%\item
%先验分布~$\pi(\theta)$~是在抽取样本~$X$~之前对参数~$\theta$~可能取值的认识.
%由于样本也 包含~$\theta$~的信息，一旦获得抽样信息后，人们对~$\theta$
%的认识发生了变化和调整，
%调整的结果获得对~$\theta$~的新认识称为后验分布，
%故后验分布是人们用总体信息和样本信息对先验分布作调整
%的结果，是三种信息的综合.
% \smallskip\pause
%
%\item 式~\!(1.2.1)\!~就是贝叶斯公式的密度形式,
%它集中了总体、样本和先验三种信息中有关~\!$\theta$~\!的一切信息,
%从贝叶斯学派的观点看, 获取后验分布~\!$\pi(\theta |x)$\! 后,
%一切统计推断都须从~\!$\pi(\theta |x)$\!~出发.
%\smallskip\pause
%
%\item 当~$\theta$ 是离散随机变量时，先验分布可用先验分布列~$\{\pi(\theta_i),$ $~i=1,2,$ $\cdots\}$ 表示，
%这时后验分布是如下离散形式\vspace{-2mm}
%$$
%\qquad\pi(\theta_i|x)=f(x |\theta_i) \pi(\theta_i)\Big/\sum_i f(x
%|\theta_i)\pi(\theta_i), \qquad \quad(1.2.2)
%$$\\\vspace{-4mm}
%若~\!$X$\! 为离散时,把~\!$(1.2.2)$\! 中密度~\!$f(x |\theta_i)$\!
%看着事件~\!$\{X=x|\theta_i\}$\! 的概率~$P(X=x|\theta_i),$
%此时，式~(1.2.2) 就是贝叶斯公式.
%\end{itemize}
%}
%
%
%
%\subsection{1.2.2 点估计问题}
%
%\frame{\frametitle{点估计问题 }
%\begin{itemize}
%
%\item 在获得参数~$\theta$ 的后验分布后，$\theta$ 的估计可以用后验均值
%$$\hat{\theta}_B=E(\theta |x)=\int_{\Theta} \theta
%\pi(\theta|x)d\theta=
% \frac{\int_{\Theta} \theta f(x |\theta) \pi(\theta)d\theta}{m(x)},
%$$\pause
%
%\item 也可以用后验分布的中位数或后验众数作为~$\theta$ 的估计量.
%
%\end{itemize}
%}
%
%\subsection{1.2.3 假设检验问题}
%\frame{\frametitle{假设检验问题}
%\begin{itemize}
%
%\item 设假设检验问题的一般形式是：\vspace{-2mm}
%$$
%H: \theta \in \Theta_{\D H} \longleftrightarrow K: \theta \in
%\Theta_{\D K}\vspace{-2mm}
%$$
%此处~$\Theta_{\D H}\bigcup \Theta_{\D K}=\Theta,$ 其中~$\Theta$
%是参数空间, $\Theta_{\D H}$ 是~$\Theta$ 的非空真子集
%\medskip\pause
%
%\item 获得参数~$\theta$ 的后验分布后，计算~$\Theta_{H}$ 和~$\Theta_{K}$ 的后验概率\vspace{-2mm}
%$$p_{\D H}(x)=P(\theta \in \Theta_{\D H} |x), \qquad p_{\D K}(x)=P(\theta \in
%\Theta_{\D K} |x).\vspace{-2mm}
%$$
%若~$p_{\D H}(x)>1/2,$ 则接受~H，否则拒绝~H.
%\end{itemize}
%}
%
%
%
%\subsection{1.2.4 区间估计问题及例}
%\frame{\frametitle{区间估计问题}
%\begin{itemize}
%
%\item 在求得~$\theta$ 的后验密度~$\pi(\theta|x)$ 后，求统计量~$A(x)$ 和~$B(x),$ 使得\vspace{-2mm}
%\begin{eqnarray*}
%P\big(A(x) \leq \theta \leq B(x)\big|x\big)=1-\alpha,
%\end {eqnarray*}\\\vspace{-2mm}
%其中~$\alpha \in (0,1)$ 为给定的常数，则称~[A(x),B(x)] 为~$\theta$
%的可信度为~$1-\alpha$ 的可信区间.
%\medskip\pause
%
%\item {\bf 例~1.2.1} ~设随机变量~r.v. $X$ 服从二项分布
%~$B(n,\theta),~\theta$ 的先验分布为~(0,1)
%上的均匀分布~U(0,1)，求~$\theta$ 的贝叶斯点估计.
%\end{itemize}
%}
%
%
%
%\section{1.3 贝叶斯统计决策的若干基本概念}
%
%\subsection{1.3.1 统计判决三要素}
%%\begin{frame}
%\frame{\frametitle{统计决策三要素}
%
%\begin{itemize}
%
%\item {\bf 样本空间和样本分布族:}
%~取值于样本空间 ~$\mathscr{X}$ 内的随机变量\\
%\noindent $X$\! 及其分布族~$\{F_\theta(x),\theta\in \Theta\}$
%是构成统计决策问题的第一个要素. 这里~$F_\theta(x)$ 是~$X$
%的分布函数, $\theta$\! 是未知参数, $\Theta$\! 为参数空间,
%$\mathbf{X}=(X_1,\cdots,X_n)$ 是总体~$X$ 的简单样本.\smallskip\pause
%
%\item {\bf 行动空间:}
%~决策者或统计工作者对某个统计决策问题可能采取的行动所构成的非空集合,
%被称为行动空间, 记为~\!$\mathscr{A}.$\! 在估计问题中, $\mathscr{A}$
%由一切估计量~$\delta(x)$ 构成, 常取~$\mathscr{A}=\Theta.$
%在检验问题中~$\mathscr{A}$ 只有两个行动组成,
%即~$\mathscr{A}=\{a_0,a_1\},$ \!其中~\!$a_0$\!
%表示接受原假设~$H_0,~a_1$ 表示拒绝~$H_0.$\smallskip\pause
%
%\item {\bf 损失函数：}
%~损失函数是定义于~$\Theta \times\mathscr{A}$ 上的非负函数,
%记为\\
%\noindent $L(\theta,a).$ 它表示参数为~$\theta$ 时采取行动
%~$a\in\mathscr{A}$ 所蒙受的损失. %损失函数的类型很多,
%常用的有平方损失、绝对值损失和线性损失等.\smallskip\pause
%
%\item 统计决策问题就是研究如何根据样本~\!$
%X$\! 的值恰当地选取行动\\
%\noindent $a$ 使得引起的平均损失最小.
%\end{itemize}
%%\end{frame}
%}
%
%\subsection{1.3.2 风险函数和一致最优决策函数}
%%\begin{frame}
%\frame{\frametitle{1. 风险函数}
%
%\begin{itemize}
%
%\item {\bf 定义~1.3.1} ~定义于样本空间~\!$\mathscr{X}$\! 内而取值于
%行动空间~\!$\mathscr{A}$\! 内的函数~$\delta =\delta(\mathbf{x})$
%称为{\bf 决策函数}或{\bf 判决函数}.\medskip\pause
%
%\item 设~$\delta$ 是决策行动,
%参数为~$\theta,$ 损失函数是~$L(\delta,\theta),$
%这个量与样本~$\mathbf{X}$ 有关, 因而是随机的. 故采取行动~$\delta$
%的效果用平均损失去度量是相对合理的.
%这就引入如下风险函数的概念.\medskip\pause
%
%\item {\bf 定义~1.3.2} ~设~$\delta(\mathbf{x})$ 是一个决策函数, 称平均损失\vspace{-2mm}
%\begin{eqnarray*}%\label{1.3.1}
%\!\!\!\!&&R(\theta,\delta)=E[L(\theta,\delta(\mathbf{X}))]=\int_{\mathscr{X}}
%L(\theta,\delta(\mathbf{x}))
%dF(\mathbf{x}|\theta)\nonumber\\
%\!\!\!\!&&=\left\{\begin{array}{ll}\dl\int_{\mathscr{X}}L(\theta,\delta(\mathbf{x}))
%f(\mathbf{x}|\theta)d\mathbf{x},
%&\mbox{当}~X~\mbox{为连续随机变量,}\vspace{2mm}
%\\\sum\limits_{\mathbf{x}\in\mathscr{X}}L(\theta,\delta(\mathbf{x}))f(\mathbf{x}|\theta),
%&\mbox{当}~X~\mbox{为离散随机变量.}\end{array}\right.
%\end {eqnarray*}\\\vspace{-2mm}
%为~$\delta$ 的风险函数, 此处~$F(\mathbf{x}|\theta)$ 是给定~$\theta$
%时~$\mathbf{X}$ 的分布函数.
%\end{itemize}
%%\end{frame}
%}
%
%%\begin{frame}
%\frame{\frametitle{2. 一致最优决策函数}
%
%\begin{itemize}
%
%\item 按照~Wald 的统计决策理论, 评价一个决策函数的唯一依据, 就是其风险函数.
%风险函数愈小愈好.
%\medskip\pause
%
%\item {\bf 定义~1.3.3}
%~设~$\delta_{1}(\mathbf{x})$ 和~$\delta_{2}(\mathbf{x})$ 为~$\theta$
%的两个不同的决策函数, 若~$R(\theta, \delta_{1}(\mathbf{x})) \leq
%R(\theta, \delta_{2}(\mathbf{x})),~~\mbox{对一切}~\theta \in
%\Theta,$ 且至少存在一个~$\theta_{0} \in \Theta$ 使严格不等号成立,
%则称~$\delta_{1}(\mathbf{x})$ 优于~$\delta_{2}(\mathbf{x}).$
%若存在~$\delta^*(\mathbf{x}),$
%使得对任一决策函数~$\delta(\mathbf{x})$ 有\vspace{-2mm}
%\begin{equation*}%\label{1.3.2}
%R(\theta, \delta^*(\mathbf{x})) \leq R(\theta,
%\delta(\mathbf{x})),~~\mbox{对一切}~\theta \in \Theta,
%\end{equation*}\\\vspace{-2mm}
%则称~$\delta^*$ 为一致最优解 或一致最优决策函数.\medskip\pause
%
%\item 对决策函数~\!$\delta(\mathbf{x}),$ \!若不存在一致优于它的决策函数, \!则称
%~\!$\delta(\mathbf{x})$\!\\
%\noindent 为可容许的决策函数.
%\end{itemize}
%%\end{frame}
%}
%
%\subsection{1.3.3 贝叶斯风险和贝叶斯解}
%\frame{\frametitle{贝叶斯风险和贝叶斯解}
%\begin{itemize}
%
%\item  {\bf定义~\!1.3.5.}
%~设~$R(\theta,\delta(\mathbf{x}))$ 为风险函数，\!$\pi(\theta)$
%为~$\theta$ 的先验分布，则称\vspace{-2mm}
%\begin{eqnarray*}
%&&R_{\pi}(\delta(\mathbf{x}))=\int_{\Theta}R(\theta,
%\delta(\mathbf{x}))dF^\pi(\theta)=E^{ \pi} [R(\theta,
%\delta(\mathbf{X}))]\\
%&&=\int_{\Theta}\int_{\mathscr{X}}L(\theta,\delta(\mathbf{x}))dF(\mathbf{x}|\theta)dF^\pi
%(\theta)
%\end {eqnarray*}\\\vspace{-2mm}
%是~$\delta(\mathbf{x})$ 的贝叶斯风险，即它是将风险函数对~$\theta$
%的先验分布再求一次均值.
%\smallskip\pause
%
%\item {\bf定义~1.3.6} ~设~$\delta_1(\mathbf{x})$ 和~$\delta_2(\mathbf{x})$
%为~$\theta$ 的两个决策函数, \!$\pi(\theta)$\! 为\\
%\noindent $\theta$ 的先验分布，若~$R_{\pi}(\delta_1(\mathbf{x}))
%\leq R_{ \pi}(\delta_2(\mathbf{x}))$，则称~$\delta_{1}(\mathbf{x})$
%在贝叶斯风险下优于~$\delta_{2}(\mathbf{x}).$
%若存在~$\delta^{*}(\mathbf{x}),$ 使得对任一决策函数\\
%\noindent $\delta(\mathbf{x})$ 有\vspace{-2mm}
%\begin{eqnarray*}
%R_{\pi}(\delta^{*}(\mathbf{x}))\leq R_{\pi}(\delta(\mathbf{x})),
%\end {eqnarray*}\\\vspace{-2mm}
%则称~$\delta^*(\mathbf{x})$ 为所考虑的统计判决问题的贝叶斯解.
%\end{itemize}
%}
%
%
%\end{CJK*}
%\end{document}



\frame{\frametitle{}

\begin{itemize}

\item

\item

\item

\end{itemize}
}
