01原理
大数定律说的是一件朴素的事:同一个随机过程重复足够多次,而且每次之间互不牵连,结果的平均值会越来越靠近它真正的期望值。抛硬币十次出现七次正面不稀奇,抛一万次还是七成正面,就该怀疑硬币有问题。赌场单桌会输,整年稳赚;保险公司算不准哪栋房子着火,却算得准一万栋里大约烧几栋。这条定律由雅各布·伯努利花了二十多年证明,1713 年发表;“大数定律”这个名字是泊松 1837 年起的。
对小公司更有用的是它的反面:样本小的时候,平均值会乱跳。“小样本极端值多”不是偏见,而是算术。15 个人的样本里出现极端比例,比 45 个人的样本容易得多;一周的数据、三十道题、五个客户,都属于小样本。卡尼曼和特沃斯基把人们无视这一点的习惯叫作“对样本量不敏感”,还挖苦说,大家相信的是一条并不存在的“小数定律”,以为小样本也能像总体一样有代表性。
所以这个模型落到决策上有两个方向。一是在下结论之前先问:这个数字背后有多少次独立的观察?二是在设计生意的时候反过来用它:尽量让你的结果来自大量彼此独立的小赌注,而不是少数几个大赌注。前者帮你少被噪音骗,后者让运气在长期里被平均掉,留下来的才是你的真实优势。
为什么成立
数学上,平均值的波动幅度(标准误)大致等于单次波动除以样本量的平方根。按这个公式估算,一个真实成功率 50% 的东西,测 30 次,结果的标准误约 9 个百分点;测 100 次约 5 个百分点;测 500 次约 2 个百分点。样本量翻四倍,误差才减半。这就是为什么小样本的“提升”经常在加大样本后消失:它本来就在误差带里。
这条定律有两个经常被忽略的前提。第一,观察要大体独立:一千个用户如果都来自同一个渠道、同一个周末,有效样本远小于一千;一场飓风会让几百张保单同时出险。第二,期望值要存在而且有限:在肥尾分布里,一次极端事件就能改写整个平均值,样本再多也收敛得很慢,甚至不收敛。芒格强调的“初等概率”管用,前提是先检查这两件事,再相信平均数。
02芒格怎么说
芒格没有专门讲过大数定律,也没有在我们核对过的演讲稿里用过这个词。把它放进他的格栅,是后人的归纳,依据是三处相关的观点:1994 年南加大商学院演讲里,他说不把“初等概率”这套有点反直觉的数学装进脑子,一辈子都要吃亏;2005 年修订版《人类误判心理学》里,他把费马和帕斯卡的概率算术当作对付过度乐观的标准解药;2003 年的《学院派经济学》里,他又提醒人们会高估能被数出来的东西。伯克希尔的保险生意(见“浮存金”一章)是他和巴菲特把这条定律用在真钱上的地方,相关的信件出自巴菲特之手。本章的统计部分是我们补充的。
If you don’t get this elementary, but mildly unnatural, mathematics of elementary probability into your repertoire, then you go through a long life like a one-legged man in an ass-kicking contest.
如果你不把这套初等、但有点反直觉的初等概率数学装进自己的工具箱,你就会像一个参加踢屁股比赛的独腿人那样,度过漫长的一生。
Well practically everybody (1) overweighs the stuff that can be numbered, because it yields to the statistical techniques they’re taught in academia
几乎每个人都会(1)过分看重能被数出来的东西,因为它能套用学校里教的统计技术。
03怎么用
- 01
看指标之前,先写下样本量和误差带
任何周报、评测、实验结果,都在数字旁边写上 n 和一个粗略的误差范围(按“单次波动÷√n”估)。如果两个版本的差距小于误差带,就写“没看出区别”,不要写“提升了 4%”。这一条规矩能挡掉团队里一半的伪结论。
- 02
实验前先算要多少样本
小团队流量少,最常见的错误是跑两天、看着好看就停。开跑之前先定下:想检测多大的差距、需要多少样本、到量才看结果。如果算出来要跑三个月,就说明这个问题现在不适合用 A/B 测试回答,改用用户访谈或更大的改动。
- 03
把生意拆成很多个独立的小赌注
收入来自三个大客户的公司,每年的结果基本由运气决定;来自三百个中小客户的公司,大数定律站在你这边。定价、获客、产品线设计时,有意识地降低单个客户、单个渠道、单个模型供应商在结果里的权重。
- 04
排名里的头尾,先怀疑是样本小
看到“表现最好的销售”“转化率最高的渠道”“留存最差的地区”,先看它们的样本量。头部和尾部经常都挤满了样本最小的那几个。比较时只拿样本量相近的放在一起,或者先把小样本向整体平均收缩一点再排名。
- 05
规模变大时,把罕见事件当作必然
大数定律对小概率事件同样成立:百万分之一的错误,在一亿次调用里大约会出现一百次。产品还小时可以忽略的边缘情况,到了一定量级就会每天发生。上线前按“概率 × 调用量”算一下每天会出几次,再决定要不要为它做防护。
04案例
两家医院的男婴比例:大多数人觉得差不多
特沃斯基和卡尼曼在 1974 年《科学》上的论文里问被试:镇上有两家医院,大的每天约 45 个婴儿出生,小的约 15 个。一年里,哪家医院记录到更多“男婴超过 60%”的日子?56% 的人选“差不多”,选大医院和小医院的各占 22%。正确答案是小医院。按二项分布估算,每天 15 个婴儿时出现 10 个以上男婴的概率约 15%,一年约 55 天;每天 45 个时出现 28 个以上男婴的概率约 7%,一年约 25 天,相差一倍多。人们知道“男女各半”,却没把“每天多少个”算进去。两人更早的 1971 年论文还发现,受过统计训练的心理学家同样会忽略样本量。[3][4]
肾癌发病率最低和最高的县,是同一类县
统计学家霍华德·韦纳和哈里斯·兹沃林指出:美国肾癌发病率最低的县,大多是乡村、人口稀少,位于中西部、南部和西部;而发病率最高的县,同样大多是乡村、人口稀少,位于同样的地区。如果只看其中一张榜单,很容易编出“乡村空气好”或“乡村医疗差”的故事。真正的原因是人口少,发病率就更容易偏离平均值,往两头跑。他们用同样的道理质疑“小学校成绩更好”的说法,论文标题就是《小学校并不能提高学生成绩的证据》:小学校在最好的名单里多,在最差的名单里也多。[3]
伯克希尔的超级巨灾保险:长期赔付九成,单年从赚一亿到亏两亿
大数定律是保险业的地基,但伯克希尔在 1990 年代大量承保的“超级巨灾”再保险偏偏不享受它:真正的大灾一年也就零星几次,而且一场飓风会同时触发许多保单。巴菲特在 1991 年的信里写,大约 1 亿美元的年保费,长期预计赔出约 90%,但单独某一年可能赚 1 亿,也可能亏 2 亿,一年期的会计周期不适合这门生意。1995 年他又写,这门生意多数年份大赚,偶尔巨亏,要很多年才能看出好坏;他和芒格宁愿要“起伏的 15%”,也不要“平滑的 12%”,同时盯住总敞口,把最坏情况控制在承受得了的范围内。换句话说,单年样本太小,他们把检验的时间窗口拉长到很多年,再用资本厚度熬过等待期。[5][6]
三十道题的 AIME:换一个随机种子,分数差两位数
图宾根大学和剑桥大学的六位研究者在《冷静看待语言模型推理的进展》里,把一批推理模型在数学基准上反复跑了 20 次。AIME’24 只有 30 道题,AMC’23 只有 40 道,多答对或答错一道,Pass@1 就变动 2.5 到 3.3 个百分点;换随机种子,分数的标准差在 5 到 15 个百分点之间,经常出现两位数的摆动。同一个模型在两套集群上,分数也能差 4 个百分点,比标准差还大。论文的结论是,不少强化学习方法报告的提升,其实落在基础模型自身的波动范围里。他们给的办法很朴素:多种子取平均,在 AIME’24 上大约要 30 次以上才稳定;论文还提到,DeepSeek 报告 Pass@1 时用了 64 次运行,DeepScaleR 用了 16 次。这是一支学术小团队,不是创业公司,但它说明的问题对任何拿公开榜单选模型、拿小评测集验收改动的小团队都适用。[7]
5 人团队的提示词改版,周一“提升 6%”,周五回到原点
假设一个 5 人团队做 AI 客服插件,每天约 200 个会话。周一上线新提示词,第一天的“问题已解决”率从 62% 升到 68%,群里开始庆祝,有人提议马上把这套写法推到其他功能。按“单次波动÷√n”估算,200 个会话的标准误约 3.4 个百分点,6 个点的差距还没到两倍误差;而且这 200 个会话里有一半来自同一个大客户的同一次批量导入,彼此并不独立。到周五累计约 1000 个会话,差距缩到 1 个点,落在误差之内。更好的做法是:上线前约定看满一周、按客户分层统计,只在差距稳定超过误差带时才宣布结果。
05误用与边界
把“长期会回归平均”当成“下一次该轮到我了”
大数定律说的是平均值会靠拢,不是说偏差会被“补回来”。连续十次反面之后,下一次正面的概率还是一半,这是赌徒谬误。连续几个月增长不好的产品,不会因为“概率上该好了”而变好,原因要另找。
样本大,不等于样本对
一百万条数据如果都来自同一种用户、同一个渠道或同一个时间段,就只是把同一个偏差重复了一百万次。大数定律只能消掉随机误差,消不掉系统偏差。数据量大时更要先问它是怎么采来的。
在肥尾的地方相信平均数
单个客户的收入、单次事故的损失、单个模型输出的危害,常常是肥尾分布。这时候平均值收敛得很慢,一个极端值就能改写它。对这类东西,先看最坏情况和集中度,再看平均数,就像伯克希尔给巨灾保单设总敞口上限那样。
只信能数出来的,忘了数不出来的
芒格批评过学院派过分看重能被统计的东西。样本量思维不是要求凡事都等到 n 足够大:很多早期决策永远凑不够样本,靠的是对机制的理解和少量深入的观察。知道样本小、结论弱,然后照样做一个可撤回的决定,比假装有统计显著性更诚实。
06检查清单
下次做相关决策前逐条过一遍。勾选只保存在你的浏览器里。
08来源
- 1
- 2
- 3
- 4
- 5
- 6
- 7