MATH · 数学与概率后人归纳

035大数定律与样本量Law of Large Numbers

样本越大,平均值越靠近真相;样本小,极端结果多半只是运气。

01原理

大数定律说的是一件朴素的事:同一个随机过程重复足够多次,而且每次之间互不牵连,结果的平均值会越来越靠近它真正的期望值。抛硬币十次出现七次正面不稀奇,抛一万次还是七成正面,就该怀疑硬币有问题。赌场单桌会输,整年稳赚;保险公司算不准哪栋房子着火,却算得准一万栋里大约烧几栋。这条定律由雅各布·伯努利花了二十多年证明,1713 年发表;“大数定律”这个名字是泊松 1837 年起的。

对小公司更有用的是它的反面:样本小的时候,平均值会乱跳。“小样本极端值多”不是偏见,而是算术。15 个人的样本里出现极端比例,比 45 个人的样本容易得多;一周的数据、三十道题、五个客户,都属于小样本。卡尼曼和特沃斯基把人们无视这一点的习惯叫作“对样本量不敏感”,还挖苦说,大家相信的是一条并不存在的“小数定律”,以为小样本也能像总体一样有代表性。

所以这个模型落到决策上有两个方向。一是在下结论之前先问:这个数字背后有多少次独立的观察?二是在设计生意的时候反过来用它:尽量让你的结果来自大量彼此独立的小赌注,而不是少数几个大赌注。前者帮你少被噪音骗,后者让运气在长期里被平均掉,留下来的才是你的真实优势。

为什么成立

数学上,平均值的波动幅度(标准误)大致等于单次波动除以样本量的平方根。按这个公式估算,一个真实成功率 50% 的东西,测 30 次,结果的标准误约 9 个百分点;测 100 次约 5 个百分点;测 500 次约 2 个百分点。样本量翻四倍,误差才减半。这就是为什么小样本的“提升”经常在加大样本后消失:它本来就在误差带里。

这条定律有两个经常被忽略的前提。第一,观察要大体独立:一千个用户如果都来自同一个渠道、同一个周末,有效样本远小于一千;一场飓风会让几百张保单同时出险。第二,期望值要存在而且有限:在肥尾分布里,一次极端事件就能改写整个平均值,样本再多也收敛得很慢,甚至不收敛。芒格强调的“初等概率”管用,前提是先检查这两件事,再相信平均数。

02芒格怎么说

芒格没有专门讲过大数定律,也没有在我们核对过的演讲稿里用过这个词。把它放进他的格栅,是后人的归纳,依据是三处相关的观点:1994 年南加大商学院演讲里,他说不把“初等概率”这套有点反直觉的数学装进脑子,一辈子都要吃亏;2005 年修订版《人类误判心理学》里,他把费马和帕斯卡的概率算术当作对付过度乐观的标准解药;2003 年的《学院派经济学》里,他又提醒人们会高估能被数出来的东西。伯克希尔的保险生意(见“浮存金”一章)是他和巴菲特把这条定律用在真钱上的地方,相关的信件出自巴菲特之手。本章的统计部分是我们补充的。

If you don’t get this elementary, but mildly unnatural, mathematics of elementary probability into your repertoire, then you go through a long life like a one-legged man in an ass-kicking contest.

如果你不把这套初等、但有点反直觉的初等概率数学装进自己的工具箱,你就会像一个参加踢屁股比赛的独腿人那样,度过漫长的一生。

1994 年南加州大学马歇尔商学院演讲,讲费马和帕斯卡的排列组合 · A Lesson on Elementary, Worldly Wisdom As It Relates to Investment Management & Business (USC Marshall School of Business)
Well practically everybody (1) overweighs the stuff that can be numbered, because it yields to the statistical techniques they’re taught in academia

几乎每个人都会(1)过分看重能被数出来的东西,因为它能套用学校里教的统计技术。

2003 年加州大学圣巴巴拉分校演讲《学院派经济学》,讲学科的通病 · Academic Economics: Strengths and Weaknesses, Considering Interdisciplinary Needs (UC Santa Barbara)

03怎么用

  1. 01

    看指标之前,先写下样本量和误差带

    任何周报、评测、实验结果,都在数字旁边写上 n 和一个粗略的误差范围(按“单次波动÷√n”估)。如果两个版本的差距小于误差带,就写“没看出区别”,不要写“提升了 4%”。这一条规矩能挡掉团队里一半的伪结论。

  2. 02

    实验前先算要多少样本

    小团队流量少,最常见的错误是跑两天、看着好看就停。开跑之前先定下:想检测多大的差距、需要多少样本、到量才看结果。如果算出来要跑三个月,就说明这个问题现在不适合用 A/B 测试回答,改用用户访谈或更大的改动。

  3. 03

    把生意拆成很多个独立的小赌注

    收入来自三个大客户的公司,每年的结果基本由运气决定;来自三百个中小客户的公司,大数定律站在你这边。定价、获客、产品线设计时,有意识地降低单个客户、单个渠道、单个模型供应商在结果里的权重。

  4. 04

    排名里的头尾,先怀疑是样本小

    看到“表现最好的销售”“转化率最高的渠道”“留存最差的地区”,先看它们的样本量。头部和尾部经常都挤满了样本最小的那几个。比较时只拿样本量相近的放在一起,或者先把小样本向整体平均收缩一点再排名。

  5. 05

    规模变大时,把罕见事件当作必然

    大数定律对小概率事件同样成立:百万分之一的错误,在一亿次调用里大约会出现一百次。产品还小时可以忽略的边缘情况,到了一定量级就会每天发生。上线前按“概率 × 调用量”算一下每天会出几次,再决定要不要为它做防护。

04案例

经典案例1974 年

两家医院的男婴比例:大多数人觉得差不多

特沃斯基和卡尼曼在 1974 年《科学》上的论文里问被试:镇上有两家医院,大的每天约 45 个婴儿出生,小的约 15 个。一年里,哪家医院记录到更多“男婴超过 60%”的日子?56% 的人选“差不多”,选大医院和小医院的各占 22%。正确答案是小医院。按二项分布估算,每天 15 个婴儿时出现 10 个以上男婴的概率约 15%,一年约 55 天;每天 45 个时出现 28 个以上男婴的概率约 7%,一年约 25 天,相差一倍多。人们知道“男女各半”,却没把“每天多少个”算进去。两人更早的 1971 年论文还发现,受过统计训练的心理学家同样会忽略样本量。[3][4]

经典案例2006 年

肾癌发病率最低和最高的县,是同一类县

统计学家霍华德·韦纳和哈里斯·兹沃林指出:美国肾癌发病率最低的县,大多是乡村、人口稀少,位于中西部、南部和西部;而发病率最高的县,同样大多是乡村、人口稀少,位于同样的地区。如果只看其中一张榜单,很容易编出“乡村空气好”或“乡村医疗差”的故事。真正的原因是人口少,发病率就更容易偏离平均值,往两头跑。他们用同样的道理质疑“小学校成绩更好”的说法,论文标题就是《小学校并不能提高学生成绩的证据》:小学校在最好的名单里多,在最差的名单里也多。[3]

经典案例1990 年代

伯克希尔的超级巨灾保险:长期赔付九成,单年从赚一亿到亏两亿

大数定律是保险业的地基,但伯克希尔在 1990 年代大量承保的“超级巨灾”再保险偏偏不享受它:真正的大灾一年也就零星几次,而且一场飓风会同时触发许多保单。巴菲特在 1991 年的信里写,大约 1 亿美元的年保费,长期预计赔出约 90%,但单独某一年可能赚 1 亿,也可能亏 2 亿,一年期的会计周期不适合这门生意。1995 年他又写,这门生意多数年份大赚,偶尔巨亏,要很多年才能看出好坏;他和芒格宁愿要“起伏的 15%”,也不要“平滑的 12%”,同时盯住总敞口,把最坏情况控制在承受得了的范围内。换句话说,单年样本太小,他们把检验的时间窗口拉长到很多年,再用资本厚度熬过等待期。[5][6]

AI 团队2025 年 4 月

三十道题的 AIME:换一个随机种子,分数差两位数

图宾根大学和剑桥大学的六位研究者在《冷静看待语言模型推理的进展》里,把一批推理模型在数学基准上反复跑了 20 次。AIME’24 只有 30 道题,AMC’23 只有 40 道,多答对或答错一道,Pass@1 就变动 2.5 到 3.3 个百分点;换随机种子,分数的标准差在 5 到 15 个百分点之间,经常出现两位数的摆动。同一个模型在两套集群上,分数也能差 4 个百分点,比标准差还大。论文的结论是,不少强化学习方法报告的提升,其实落在基础模型自身的波动范围里。他们给的办法很朴素:多种子取平均,在 AIME’24 上大约要 30 次以上才稳定;论文还提到,DeepSeek 报告 Pass@1 时用了 64 次运行,DeepScaleR 用了 16 次。这是一支学术小团队,不是创业公司,但它说明的问题对任何拿公开榜单选模型、拿小评测集验收改动的小团队都适用。[7]

AI 团队 · 情景推演推演

5 人团队的提示词改版,周一“提升 6%”,周五回到原点

假设一个 5 人团队做 AI 客服插件,每天约 200 个会话。周一上线新提示词,第一天的“问题已解决”率从 62% 升到 68%,群里开始庆祝,有人提议马上把这套写法推到其他功能。按“单次波动÷√n”估算,200 个会话的标准误约 3.4 个百分点,6 个点的差距还没到两倍误差;而且这 200 个会话里有一半来自同一个大客户的同一次批量导入,彼此并不独立。到周五累计约 1000 个会话,差距缩到 1 个点,落在误差之内。更好的做法是:上线前约定看满一周、按客户分层统计,只在差距稳定超过误差带时才宣布结果。

05误用与边界

  • 把“长期会回归平均”当成“下一次该轮到我了”

    大数定律说的是平均值会靠拢,不是说偏差会被“补回来”。连续十次反面之后,下一次正面的概率还是一半,这是赌徒谬误。连续几个月增长不好的产品,不会因为“概率上该好了”而变好,原因要另找。

  • 样本大,不等于样本对

    一百万条数据如果都来自同一种用户、同一个渠道或同一个时间段,就只是把同一个偏差重复了一百万次。大数定律只能消掉随机误差,消不掉系统偏差。数据量大时更要先问它是怎么采来的。

  • 在肥尾的地方相信平均数

    单个客户的收入、单次事故的损失、单个模型输出的危害,常常是肥尾分布。这时候平均值收敛得很慢,一个极端值就能改写它。对这类东西,先看最坏情况和集中度,再看平均数,就像伯克希尔给巨灾保单设总敞口上限那样。

  • 只信能数出来的,忘了数不出来的

    芒格批评过学院派过分看重能被统计的东西。样本量思维不是要求凡事都等到 n 足够大:很多早期决策永远凑不够样本,靠的是对机制的理解和少量深入的观察。知道样本小、结论弱,然后照样做一个可撤回的决定,比假装有统计显著性更诚实。

06检查清单

下次做相关决策前逐条过一遍。勾选只保存在你的浏览器里。

0 / 7

08来源

  1. 1
  2. 2
  3. 3
    Insensitivity to sample sizeWikipedia(引 Tversky & Kahneman 1971、1974;Wainer & Zwerling 2006)二手
  4. 4
    Law of large numbersWikipedia二手
  5. 5
    Chairman's Letter - 1991Warren E. Buffett · 1992一手
  6. 6
    Chairman's Letter - 1995Warren E. Buffett · 1996一手
  7. 7
    A Sober Look at Progress in Language Model Reasoning: Pitfalls and Paths to ReproducibilityAndreas Hochlehnert, Hardik Bhatnagar, Vishaal Udandarao, Samuel Albanie, Ameya Prabhu, Matthias Bethge · 2025一手