贝叶斯概率(Bayesian Probability)是由贝叶斯理论所提供的一种对概率的解释,它采用将概率定义为某人对一个命题信任的程度的概念。贝叶斯理论同时也建议
贝叶斯定理可以用作根据新的信息导出或者更新现有的
置信度的规则。
历史背景
贝叶斯理论和贝叶斯概率以
托马斯·贝叶斯(1702-1761)命名,他证明了称为
贝叶斯定理的一个特例。术语贝叶斯却是在1950年左右开始使用,很难说贝叶斯本人是否会支持这个以他命名的概率非常广义的解释。
皮埃尔-西蒙·拉普拉斯证明了贝叶斯定理的一个更普遍的版本,并将之用于解决
天体力学、
医学统计中的问题,在有些情况下,甚至用于
法理学。但是皮埃尔-西蒙·拉普拉斯并不认为该定理对于
概率论很重要。他还是坚持使用了概率的经典解释。
Frank P. Ramsey在《数学基础》(1931年)中首次建议将主观
置信度作为概率的一种解释。Ramsey视这种解释为概率的频率解释的一个补充,而频率解释在当时更为广泛接受。统计学家Bruno de Finetti于1937年采纳了Ramsey的观点,将之作为概率的频率解释的一种可能的代替。L. J. Savage在《统计学基础》(1954年)中拓展了这个思想。
有人试图将“置信度”的直观概念进行形式化的定义和应用。最普通的应用是基于打赌:
置信度反映在
行为主体愿意在命题上下注的意愿上。
当信任有程度的时候,
概率计算的定理测量信任的理性程度,就像
一阶逻辑的定理测量信任的理性程度一样。很多人将置信度视为经典的真值(真或假)的一种扩展。
Harold Jeffreys, Richard T. Cox, Edwin Jaynes和I. J. Good研探了
贝叶斯理论。其他著名贝叶斯理论的支持者包括John Maynard Keynes和B.O. Koopman。
变种
术语:
主观概率,
个人概率, 认知概率和
逻辑概率描述了通常成为贝叶斯学派的思想中的一些。这些概念互相重叠,但有不同的侧重。这里提到的一些人物不会自称是
贝叶斯学派的。
贝叶斯概率应该测量某一个体对于一个不确定命题的置信程度,因此在这个意义下是主观的。有些自称贝叶斯学派的人并不接受这种
主观性。
客观主义学派的主要代表是
Edwin Thompson Jaynes和Harold Jeffreys。也许还在世的主要客观贝叶斯学派人物是
杜克大学逻辑(或者说,客观认知)概率的推崇者,例如Harold Jeffreys,
鲁道夫·卡尔纳普(Rudolf Carnap), Richard Threlkeld Cox和Edwin Jaynes, 希望将能够在两个有相同关于某个不确定命题的真实性相关的信息的人计算出同样的概率的技术规律化。这种概率不和个人相关,而只和认知情况相关,因此位于主观和客观之间。但是,他们推荐的方法有争议。批评者对这个声称发起挑战,在关于相关事实的信息缺乏的时候,更偏好某一个
置信度是有现实依据的。另一个问题是迄今为止的技术对于处理实际问题还是不够的。
相关比较
贝叶斯概率和频率概率相对,它从确定的分布中观测到的频率或者在
样本空间中的比例来导出概率。
采用频率概率的统计和概率的理论由R.A. Fisher, Egon Pearson和Jerzy Neyman在20世纪上半叶发展起来。A. N. Kolmogorov也采用频率概率来通过
勒贝格积分为
测度论中的概率奠定数学基础(《概率论基础》(1933年))。Savage, Koopman, Abraham Wald和其他一些学者自1950年以来发展了贝叶斯概率。
贝叶斯学派和频率学派在概率解释上的分歧在统计学实践上有重要的结果。例如,在用同样的数据比较两个假设的时候,假设测试理论基于概率的频率解释,它允许基于错误推出数据更支持另外那个模型/假设的概率来否定或接受一个模型/假设(
零假设)。出现这种错误的概率称为一类误差,它要求考虑从同样的
数据源导出的假想的
数据集合要比实际观测到的数据更为极端。这个方法允许论断'或者两个假设不同或者观测到的数据是误导性的集合'。相对应的是,
贝叶斯方法基于实际观测到的数据,因此能够对于任何数量的假设直接赋予
后验概率。对于代表每个假设的模型的参数必须赋予概率的要求是这种直接方法的代价。
应用
自1950年代以来,
贝叶斯理论和贝叶斯概率通过考克斯定理, Jaynes的
最大熵原理以及
荷兰书论证得到了广泛的应用。在很多应用中,
贝叶斯方法更为普适,也似乎较频率概率能得出更好的结果。贝叶斯因子也和
奥卡姆剃刀一起使用。
数学应用请参看贝叶斯推论和
贝叶斯定理。
有些人将贝叶斯推论视为
科学方法的一种应用,因为通过贝叶斯推论来更新概率要求从对于不同假设的初始信任度出发,采集新的信息(例如通过做试验),然后根据新的信息调整原有的信念。调整原有的信念可以意味着(更加接近)接受或者推翻初始的假设。
贝叶斯技术最近被应用于
垃圾邮件的过滤上。贝叶斯垃圾邮件过滤器采用
电子邮件的一个参考集合来定义什么最初被认为是垃圾邮件。定义了参考之后,过滤器使用参考中的特点
来将新的邮件判定为垃圾邮件或有效邮件。新电子邮件作为新的信息出现,并且如果用户在垃圾邮件和有效邮件的判定中发现错误,这个新的信息会更新初始参考集合中的信息,以期将来的判定可以更为精确。参看贝叶斯推论和贝叶斯过滤。