01原理
上一章讲的是人会怎样被激励推着走;这一章换个位置,站在写规则的人这边。激励机制设计要回答三个问题:按什么付钱(指标),谁来核实(证据),钻空子的人会做什么(对手模型)。多数失败不是指标选错了方向,而是第三个问题根本没问。一旦奖励和某个可观察的信号挂钩,组织里最聪明、最想拿奖励的那些人,就会去找生产这个信号的最便宜办法。
芒格把这件事说得很工程化。收银机之所以是“道德工具”,不是因为它劝人诚实,而是因为它让不诚实变得难做、容易被看见。好的激励设计也是这样:与其指望人人自律,不如让正确的事成为最省力的事,让作弊的成本高过收益。所以他说防作弊是系统设计的大头,而不是附录。
第二条原则是取舍要明算。佣金制省钱、效率高,但芒格提醒,纯佣金的队伍更难守住操守;按成本加利润的合同好谈判,但它奖励的是花钱。没有一种方案只有好处,设计者要把副作用写在纸上,再决定能不能承受、拿什么去压住它。
对 10 人以内的 AI 公司,激励机制远不止工资单:给外包标注员的计件价、给开源贡献者的赏金、给智能体写的评测脚本、给销售伙伴的分成,每一条都是一台小机器。团队越小,单条规则的影响越大,也越容易在出事前改掉。
为什么成立
经济学里这叫委托代理问题:出钱的人看不见干活的人的全部努力,只能按看得见的信号付钱,于是干活的人会把力气挪到信号上。古德哈特定律是同一件事的另一种说法:指标一旦成了目标,就不再是好指标。信号越容易单独生产,比如尾巴、行数、跑分、新开账户数,偏离就越快。
设计上能用的杠杆大致有四个。一是选难以伪造、离结果更近的信号,比如“成熟保单的承保利润”而不是“签了多少单”。二是把信号放进对方够不着的地方,比如保密的测试集、独立的审计。三是给配对约束,让单刷一个维度不划算。四是把奖励和对方承担的后果绑在一起,比如延期支付、按多年业绩算。四个杠杆都在提高造假成本,而不是提高道德要求。
02芒格怎么说
芒格在 2005 年修订的《人类误判心理学》里,讲第一种倾向“奖惩超级反应倾向”时,花了不少篇幅谈制度设计:人总会去“玩”系统,设计者得事先防住。他举的例子偏向工程而不是心理:让偷钱变难的收银机、被立法禁止的“按成本百分比加利润”的国防合同、把早期收入记得太好看的贷款会计。他的结论是,防作弊不是事后补丁,而是几乎所有系统设计里必须占大头的部分;佣金制、记账规则这些看似技术性的选择,决定了一个组织的道德水位。
Anti-gaming features, therefore, constitute a huge and necessary part of almost all system design.
因此,防作弊的设计,是几乎所有系统设计中分量很重、也必不可少的一部分。
the cash register was a great moral instrument when it was created.
收银机刚被发明出来时,是一件了不起的道德工具。
a sales force living only on commissions will be much harder to keep moral
一支只靠佣金过活的销售队伍,会难得多才能保持操守。
Never, ever, think about something else when you should be thinking about the power of incentives.
该想激励的力量时,千万、千万别去想别的。
03怎么用
- 01
上线任何奖励前,先做一次“红队”
写下奖励规则后,请团队里一个人专门扮演只想拿钱的对手,限时二十分钟列出最省力的达标办法。凡是能在不产生真实价值的情况下拿到奖励的路径,要么堵上,要么换指标。这比上线后再查作弊便宜得多。
- 02
把付费的证据放在对方够不着的地方
给外包标注、模型评测或赏金任务付钱时,验收用的样本要由你抽、对方事先看不到。标注按件付费,就随机抽检并让返工扣钱;智能体任务按通过率评估,就留一份从不公开的测试集。证据一旦能被对方提前优化,就等于在给“会考试”付钱。
- 03
少而准,并且贴着各自的生意
巴菲特写 GEICO 的奖金时只用两个变量,并要求目标贴合该业务的经济特性、简单可量、和员工每天做的事直接相关。小团队照着做:每个角色最多两个衡量项,写成一句话能讲清楚;如果一个人需要看表格才知道自己这季度在为什么努力,指标就太多了。
- 04
写明你接受的副作用
每种方案都有代价。比如销售伙伴按首年合同额分成,会多出难续约的客户;按续约分成,起量会慢。把选中的方案和它的已知副作用写在同一页,配上压住副作用的手段(例如退款回扣佣金),季度复盘时对照看副作用有没有超出预期。
04案例
国防部的“成本加百分比”合同:奖励花钱,后来被直接禁止
芒格在《人类误判心理学》里举过这个例子:如果承包商的利润按成本的一定百分比算,花得越多赚得越多,节约反而吃亏。承包商照此行事之后,政府的办法不是要求军官更警惕,而是把规则本身判死,芒格的说法是让国防部的合同官签这种合同成了一种罪。今天的美国法典第 10 编第 3322 条仍写着:不得使用“成本加成本百分比”的合同制度(该句由原第 2306 条转来,2022 年 1 月 1 日起按现编号生效)。这个案例的教训是,当一种付费结构必然奖励坏行为时,最省事的防作弊就是不让它存在。[1][4]
GEICO 的奖金只看两个数
巴菲特在 1996 年致股东信里说明,GEICO 包括 Tony Nicely 在内的几十名高管,奖金只取决于两个变量:自愿车险保单的增长,以及“成熟”车险业务(在册超过一年的保单)的承保利润。信里只给了定义,没解释为什么这样切;按我们的理解,它让两个变量互相牵制:只看增长会奖励低价抢单,只看全部业务的利润又会让拓客显得吃亏,把利润限定在成熟保单上,新单的头一年就不拖累考核。同样的尺子也用来算利润分享计划的提取,全部 9000 名员工每季度都能看到结果,1996 年的提取比例是创纪录的 16.9%(4000 万美元)。信里还列了伯克希尔的原则:目标要贴合具体生意的经济特性、简单易量、和参与者每天的工作直接相关,并避开像期权这样的“彩票式”安排。[2]
河内的老鼠尾巴:按证据付钱,就会有人生产证据
据萨克拉门托州立大学历史学家 Michael Vann 在法国档案里的研究,1902 年法国殖民当局先雇人在河内下水道里捕杀老鼠,档案里的统计单日最高是 6 月 12 日的 20114 只,却看不出鼠患减轻;于是改为向市民悬赏,凭老鼠尾巴领钱,市政厅很快收到成千上万条尾巴。后来卫生官员在城郊发现了养鼠场:有人在养老鼠、剪尾巴来换赏金。Vann 的评价是,就灭鼠而言这项计划是一场灾难。问题出在证据和结果之间的距离:当局要的是城里老鼠变少,付钱的却是尾巴,而尾巴可以离开“城里少一只老鼠”单独生产。[3]
ARC Prize 2024:想清楚奖励什么,就把规则写进比赛
ARC Prize 是 François Chollet 和 Mike Knoop 等人发起的 AI 推理比赛,2024 年技术报告署名作者四人。他们要奖励的是“能泛化的方法”,而不是“更多算力”或“背过题”,于是把这个意图写成了规则:Kaggle 赛道的方案必须在单块 P100 GPU、12 小时内、断网运行;成绩只按 100 道完全不公开的私有测试题计算;只有开源方案的团队才能被列为获奖者、领取奖金。结果 1430 支队伍提交了 17789 次,私有集最高分从 33% 涨到 55.5%,而那支拿到 55.5% 的 MindsAI 因为没有开源,不在获奖名单上。60 万美元的大奖要求 85%,当年无人领走。这几条规则分别堵住了买算力、背题和闭源三种拿奖的捷径。[5]
tinygrad:用行数卡住复杂度,再专门禁止“压行”
tinygrad 是早期公司 tiny corp 维护的开源深度学习框架,它用现金赏金吸引外部贡献者,并把代码行数当作控制复杂度的指标:持续集成里有一步“仓库行数 ≤ 26000 行”的检查(实际阈值设为 26500)。行数是很容易被刷的指标,删掉换行就能“变短”,所以 README 的贡献指南第一条就是禁止“代码高尔夫”,明说真正的目标是降低复杂度、提高可读性。指南还要求任何“提速”都必须附基准测试,赏金代码必须高质量、有测试;面对 AI 生成代码泛滥,又加了一条:新贡献者的 PR 只要看起来像 AI 写的,就会不加反馈直接关闭,并可能被封禁。一个小团队的审阅时间有限,这些条款等于给每种廉价刷法都标好了价格。[6][7]
05误用与边界
以为指标越多越防作弊
堆指标看似周全,实际让每个指标的权重变小,人会挑最好刷的那几个使劲,而你也说不清到底在奖励什么。巴菲特给 GEICO 只用两个变量,靠的是两者互相牵制,而不是数量。先找互相牵制的少数几个,再考虑加。
把所有动机都变成钱
不是每件事都适合计件付费。研究型工作、代码审阅、帮同事救火,一旦按件算钱,人会只做能计数的部分,原本出于责任心的投入反而被挤掉。对难以计量的工作,更好的办法往往是固定报酬加股权,再配上明确的评审,而不是硬造一个指标。
只防外人,不防自己
设计者自己也在激励之中。创始人给自己定的融资里程碑、给投资人看的增长口径,同样会被自己“优化”。芒格批评设计坏会计制度的高层负有责任,这对写规则的人一样成立:至少让一个和结果无利害关系的人审一遍你给自己设的尺子。
06检查清单
下次做相关决策前逐条过一遍。勾选只保存在你的浏览器里。
08来源
- 1
- 2
- 3
- 4
- 5
- 6
- 7