PRML读书会第十一章 Sampling Methods（MCMC Markov Chain Monte Carlo，细致平稳条件；Metropolis-Has

资 源 简 介

PRML读书会第十一章 Sampling Methods（MCMC Markov Chain Monte Carlo，细致平稳条件；Metropolis-Has

详 情 说 明

在统计建模和机器学习中，MCMC（Markov Chain Monte Carlo）是一种强大的采样方法，尤其适用于高维概率分布或难以直接采样的场景。PRML第十一章的核心内容围绕这一技术展开，主要涵盖马尔可夫链的构造、细致平稳条件以及Metropolis-Hastings算法等关键概念。

### MCMC的基本思想 MCMC的核心是通过构造一个马尔可夫链，使其平稳分布与目标分布一致。通过足够长的采样过程，马尔可夫链的状态可以作为目标分布的近似样本。这种方法的优势在于不需要显式计算目标分布，只需知道其未归一化的形式即可。

### 细致平稳条件 细致平稳条件是马尔可夫链收敛到目标分布的关键数学保证。它要求对于链中的任意两个状态，从一个状态转移到另一个状态的概率必须与反向转移的概率满足某种平衡关系。这一条件确保马尔可夫链最终会达到目标分布的平衡状态。

### Metropolis-Hastings算法 Metropolis-Hastings是最经典的MCMC算法之一。其核心是通过一个提议分布生成候选样本，并结合接受概率来决定是否采纳该样本。算法的巧妙之处在于，即使提议分布与目标分布不完全匹配，通过接受概率的调整，仍能保证最终采样序列收敛到目标分布。

MCMC方法的广泛应用包括贝叶斯推断、统计物理和深度学习等领域。理解其理论基础和实现细节，对于处理复杂的概率模型至关重要。