借助贝叶斯方程对写成条件概率形式的似然函数进行推导

奥力佛

  似然函数给出的表达式是这个样子的：L(pH=a|HH) = P(HH|pH=a).从这个公式中，似然函数似乎可以看作是条件概率的逆反，但是为何要写成这样的形式,以及似然函数真的是完完全全的条件概率的逆反吗？以下是本人结合一些资料进行的推导。
  考虑投掷一枚硬币的实验：
  假如已知投出的硬币正面朝上的概率是PH=a，便可以知道投掷若干次后出现各种结果的可能性。比如说，投两次都是正面朝上的概率是：PH=a2；
  在统计学中，我们关心的是在已知一系列投掷的结果时，关于硬币投掷时正面朝上的可能性的信息。
我们可以建立一个统计模型：假设硬币投出时会有PH 的概率正面朝上，而有 1-PH 的概率反面朝上。给定“投两次都是正面朝上”的观测，则硬币正面朝上的概率为a的似然是?似然函数可以理解为，在已知“投两次都是正面朝上”投掷结果的前提下，对某一个参数（pH）的猜想的概率，这样表示成(条件)概率就是：

L(pH=a|HH) = P(HH|pH=a).

为什么可以写成这样？以下借助贝叶斯方程进行推导：

似然函数本身也是一种概率，我们可以把L(pH=a|HH)写成P(pH=a|HH);
根据贝叶斯公式，P(pH=a|HH) = P(HH/PH=a)/P(HH),其中HH是已经发生的事件，P(HH) = 1,所以：

P(pH=a|HH)  = P(HH/PH=a)

值得注意的是，后面的这个PH其实是作为参数存在的(如前所述，似然函数可以理解为，在已知“投两次都是正面朝上”投掷结果的前提下，对某一个参数（pH）的猜想的概率)，而不是一个随机变量，因此不能算作是条件概率，所以说，似然函数并不简简单单是条件概率的逆反，此处，更严谨的写法应该是P(pH=a|HH)  =  p(HH ; PH=a).

P(HH/PH=a) ，这个计算我们很熟悉了，就是已知头朝上概率为a，求抛两次都是H的概率，即a*a=a2.

所以，我们可以得到:

L(pH=a|HH) = P(HH|pH=a) =a2 .

上文很大程度上是源于对作者zhsuiy博文的整理及扩充，原文地址：
http://www.cnblogs.com/zhsuiy/p/4822020.html