贝叶斯（三）先验分布的确定

最新推荐文章于 2025-06-11 06:02:10 发布

麓山君陌

最新推荐文章于 2025-06-11 06:02:10 发布

阅读量5.9k

点赞数 4

CC 4.0 BY-SA版权

分类专栏：贝叶斯科研生文章标签：机器学习人工智能深度学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_40851744/article/details/121589393

本文详细介绍了在贝叶斯统计中如何确定先验分布，包括主观概率方法、直方图法、利用历史资料修正、选择先验密度函数形式、矩方法以及无信息先验分布的选择。通过这些方法，可以为连续型和离散型参数建立合适的先验分布，进而进行后验概率的推断。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

三、先验分布的确定

主观概率（离散型）
1. 利用对立事件的比较确定主观概率，例如成功的概率比失败高一倍
2. 利用专家意见确定主观概率
3. 利用多位专家确定主观概率
4. 利用历史资料，考虑现有信息加以修正
利用先验信息确定先验分布（连续型）：
1. 直方图法：
  1. 将参数空间分成小区间
  2. 在每个小区间上决定主观概率或依据历史数据确定其频率
  3. 绘制频率直方图
  4. 在直方图上做一条光滑曲线，即为先验分布
2. 选定先验密度函数形式再估计超参数
  1. 根据先验信息选定 $θ\theta$ 的先验密度函数 $π(θ)\pi(\theta)$ 形式
  2. 对分布中的超参数给出估计值，使最接近先验信息
3. 定分度法与变分度法
  1. 定分度法：长度一样，概率不同的小区间，给出每个小区间的主观概率
  2. 变分度法：概率一样，长度不同的小区间，给区间进行划分
利用边缘分布确定先验密度，就是极大似然法
1. 边缘分布m(x)
  1. 传统用 $p(x∣θ)p(x|\theta)$
  2. 贝叶斯用边缘分布 $m(x∣λ)m(x|\lambda)$
    1. $∫Θp(x∣θ)π(θ)dθ,当θ为连续∑θ∈Θp(x∣θ)π(θ),当θ为离散m(x)=\begin{cases}\int_{\Theta}p(x|\theta)\pi(\theta)d\theta,当\theta为连续\\\sum_{\theta\in\Theta}p(x|\theta)\pi(\theta),当\theta为离散\end{cases}$
    2. 当先验分布有未知数的时候，例如 $π(θ)=π(θ∣λ)\pi(\theta)=\pi(\theta|\lambda)$ ，那么被积分之后m(x)变为与 $λ\lambda$ 相关的函数，可记为 $m(x∣λ)m(x|\lambda)$
  3. 我们所需要做的就是求使 $m (x)$ 达到最大的 $λ\lambda$ ，也就是最大似然估计（最大似然二型估计）
2. 混合分布：
  1. 变量x依概率 $π\pi$ 在总体 $F_1$ 中取值，以 $1−π1-\pi$ 在总体 $F_2$ 中取值，若 $F1(x∣θ1),F2(x∣θ2)F_1(x|\theta_1),F_2(x|\theta_2)$ 分别是两个总体的分布函数，则x的分布函数为两个分布函数的加权相加：

最低0.47元/天解锁文章

200万优质内容无限畅学

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。