贝叶斯例题（一）先验分布与后验分布

第一章 先验分布与后验分布

例1.2.1

设事件A的概率是$\theta$，有n次独立观测，事件A出现的次数为x，求后验分布
解：
首先写出先验分布$\pi (\theta )$，由于没有，故采用0-1上的均匀分布$\pi (\theta )=\{\begin{array}{ll}1& 0<\theta <1\\ 0& other\end{array}$
再求解x的分布函数$p(x|\theta )=C_n^x{\theta }^x(1-\theta {)}^{n-x}$
可有联合密度函数$h(x,\theta )=p(x|\theta )\pi (\theta )=C_n^x{\theta }^x(1-\theta {)}^{n-x},0<\theta <1$
可有x边缘分布函数$m(x)={\int }_0^{1}h(x,\theta )d\theta =C_n^x\frac{\Gamma (x+1)\Gamma (n-x+1)}{\Gamma (n+2)}$
可解得后验分布$\pi (\theta |x)=\frac{h(x,\theta )}{m(x)}=\frac{\Gamma (n+2){\theta }^x(1-\theta {)}^{n-x}}{\Gamma (x+1)\Gamma (n-x+1)}$
此为贝塔分布$Be(x+1,n-x+1)$

例1.2.2

已知先验为$\pi ({\theta }_1)=0.4,\pi ({\theta }_2)=0.6$，进行5次抽样，全满足，求后验分布
解：
有先验分布$\pi ({\theta }_1)=0.4,\pi ({\theta }_2)=0.6$
有x的样本函数$p(x|\theta )=C_5^5{\theta }^5(1-\theta {)}^0$
可有联合密度函数h(x,θ1)=θ15∗0.4=0.236196,h(x,θ2)=θ25∗0.6=0.100842h(x,\theta_1)=\theta_1^5*0.4=0.236196,h(x,\theta_2)=\theta_2^5*0.6=0.100842h(x,θ1​)=θ