贝叶斯网络学习前置课程:概率论基础概念 CS188 Note11 学习笔记

更好的阅读体验这一个Note包括的内容基本上与高中数学所涵盖的概率部分无差异所以说下的功夫少一点不过多解释了Probability RundownRandom Variables Distributions首先了解的就是概率的表示方式:P(A)表示未知事件A发傻鞥的概率其中概率分布给每个可能的结果赋予了一个概率值它们满足所有概率0所有概率之和 1Joint Ditribution( 联合分布 )P(A, B, C)表示A, B, C三个变量同时发生的概率表示的顺序不影响结果Chain Rule( 链式法则 )P ( A , B ) P ( A ∣ B ) P ( B ) P ( B ∣ A ) P ( A ) P ( A 1 , A 2 , … , A k ) P ( A 1 ) P ( A 2 ∣ A 1 ) ⋯ P ( A k ∣ A 1 , … , A k − 1 ) \LARGE \begin{align*} P(A,B) P(A\mid B)\,P(B) P(B\mid A)\,P(A)\\ P(A_1,A_2,\ldots,A_k) P(A_1)\,P(A_2\mid A_1)\cdots P(A_k\mid A_1,\ldots,A_{k-1}) \end{align*}P(A,B)P(A1​,A2​,…,Ak​)​P(A∣B)P(B)P(B∣A)P(A)P(A1​)P(A2​∣A1​)⋯P(Ak​∣A1​,…,Ak−1​)​Marginalization( 边缘化 )P ( A ) ∑ b P ( A , B b ) P ( A , B ) ∑ c P ( A , B , C c ) \Large \begin{align*} P(A) ∑_b P(A, Bb)\\ P(A,B) ∑_c P(A,B,Cc) \end{align*}P(A)b∑​P(A,Bb)P(A,B)c∑​P(A,B,Cc)​Normalization( 归一化 )如果概率表求和不为1将每个值除以总和使其成为合法分布Bayes’ RuleP ( A ∣ B ) P ( B ∣ A ) P ( A ) P ( B ) \Large \begin{align*} P(A\mid B) \frac{P(B\mid A)\,P(A)}{P(B)} \end{align*}P(A∣B)​P(B)P(B∣A)P(A)​​Independence( 独立性 )A ⊥⊥ B表示P(A,B) P(A)P(B),即P(A|B) P(A)A ⟂⟂ B | C表示在已知 C 的情况下A 和 B 独立P(A,B|C) P(A|C)P(B|C)这个比较好理解可以理解成C为一种绝对正确的公理这样转化格式变为P(A,B) P(A)P(B)P(A|B,C) P(A|C)Inference by EnumerationSeasonTemperatureWeatherProbabilitysummerhotsun0.30summerhotrain0.05summercoldsun0.10summercoldrain0.05winterhotsun0.10winterhotrain0.05wintercoldsun0.15wintercoldrain0.20步骤选择所有S winter的行对T求和sun: 0.10 0.15 0.25rain: 0.05 0.20 0.25归一化sun: 0.25 / (0.250.25) 0.5rain: 0.25 / 0.5 0.5结果P(W sun | S winter) 0.5P(W rain | S winter) 0.5