初学者贝叶斯3:概率推理中的先验

在本文中，贝叶斯初学者系列的最后一篇专栏文章中，C. Randy Gallistel解释了先验分布在决定从实验数据中可能得出的相互矛盾的结论中的作用。欲了解更多信息，请阅读初学者贝叶斯和初学者贝叶斯2．

如前一栏所述先验是统计模型中参数可能值的概率分布。先验分布允许我们在分析数据之前将已有的知识和信念纳入我们的预测中。贝叶斯计算将先验分布乘以似然函数，一个点一个对应点。在第一列中解释过的似然函数只依赖于数据。它表达了给定数据下模型参数值的不确定性。在贝叶斯假设检验中，相互竞争的假设由相互竞争的先验分布表示，这可以看作是对可能性函数高的地方的相互竞争的“赌注”。

假设我们测试一个受试者预测连续投掷10次均匀硬币结果的能力，她预测成功了6次。我们可能会接受两个相互竞争的假设:1)她有点幸运，她成功预测这些结果的真实机会是0.5，或者2)她有千里眼，她预测这些结果的真实机会大于0.5。

在传统的(非贝叶斯)方法中，我们只检验第一个假设(零假设)。当它失败时(当结果“显著”时)，我们得出结论，第二个假设可能是正确的，即使我们既没有定量地表述它，也没有检验它。如果零假设不成立(p我们什么也得不到，因为我们记住了那微不足道的东西p不能提供值来支持零假设(即使它们经常这样提供)。

在贝叶斯概念框架中，我们精确地制定了这两个假设，并根据数据对它们进行了测试。我们的计算提供了“贝叶斯因子”，它告诉我们数据在多大程度上支持一个假设或另一个假设。

我们将假设表述为先验概率分布。假设可以被看作是对数据会落在哪里的赌注。为了进行这些赌注，我们给每个假设分配相同数量的概率“筹码”。这些筹码是概率分布中的概率位，总和总是为1。不同假设的概率芯片的分布是不同的(下图1的上面板)。

为了理解贝叶斯推理，它有助于在它们的共同轴上绘制竞争的先验概率分布和似然函数——在这种情况下，为的可能值p(见图1)。当我们将先验中的不同概率乘以似然函数(基本贝叶斯计算)时，我们确定可能性对该先验中的每个概率有利的程度。把筹码放在可能性高的地方是好的赌注;把筹码放在筹码低的地方是糟糕的赌注。数据支持的假设是其筹码(例如，概率位)具有最高总体可能性的假设。相对的“胜利”越不平等，数据就越倾向于“胜利假设”。

图1所示。上面的面板绘制了代表几个不同假设的先验概率分布(相对于左轴)和概率函数(相对于右轴)，给出了10次投掷的6次成功预测(相对于右轴)，在它们的共同轴上(正确预测概率的可能值)。为了确定数据的权重，我们将给定先验概率分布中的每个概率位乘以似然函数的相应值。那些与高可能性相对应的比特是正确的赌注;那些对应于低可能性的赌注是糟糕的赌注。假设的总体可能性是这些乘积的总和。下面的面板绘制了支持洞察力(vs.机会)的证据的权重，作为我们对冲洞察力假设(最大预测效应大小)的强烈程度的函数。当我们将可能的洞察力程度的上限降低到0.5时，洞察力假设与零假设变得无法区分。

对千里眼假设的最简单形式下注意味着将筹码均匀地分布在概率高的那一半p轴(图1中的洋红色分布)，而对零假设下注意味着将我们所有的筹码放在0.5(垂直重黑色箭头)。为了接受更多的千里眼假设的对冲形式，我们减小了最大假设效应大小。有人可能会说，没有人是永远有洞察力的，所以把洞察力芯片放在上面是不合理的，比如，p= 0.75(绿色分布)——或者甚至认为受试者最多只能有一点点透视能力——所以在上面放透视芯片是不合理的p= .6(蓝色分布)。请注意，在从简单形式的千里眼假设(洋红色)到对冲形式(绿色和蓝色)的过程中，我们将处于坏赌注区域的筹码移到了好赌注区域，这就是为什么对冲千里眼假设提高了其可能性。

与其思考什么是对洞察力假设的适当对冲程度，不如计算“证据权重”(贝叶斯因子的公共对数)作为对冲程度的函数(图1的下面板)，这是有指导意义的。取贝叶斯因子的对数将贝叶斯因子< 1(那些倾向于零的)转换为负数，它等于负和正的赔率。因此，到权重0的距离相等(水平虚线)表示对一个假设或另一个假设的支持程度相等。

从下图中我们可以看到，无论我们如何对冲千里眼假设，这些数据最多只能非常微弱地支持它而不是机会假设，因为只有当证据权重的绝对值大于0.5(即贝叶斯因子>.3或< 0.33)时，证据通常才被认为值得考虑。

这些都与最简单的千里眼假说相矛盾。≤5p≤1)，因为它做了很多错误的赌注。它们的重量稍微偏重于对冲形式，因为它们的筹码放置得更精确。然而，大多数情况下，我们看到这些数据并没有从本质上支持我们的任何一个千里眼假设，而不是其他任何假设或零假设。然而，重要的是数据可以强烈支持零假设任何千里眼假设的公式与零有很大的不同。例如，如果她在1000次投掷中做出了490次成功的预测，他们就会这样做，如果她只是猜测，这是一个完全合理的结果。œ