肯尼亚此前宣布将 AI 引入医保系统，本意是让低收入群体也能享受更好的医疗，现在却适得其反，让穷人的经济状况雪上加霜。
肯尼亚这轮医保改革叫 SHA，自 2024 年 10 月启动。它要替代运行了几十年的国家医保制度，把日工、小贩、农民、自由职业这些长期被传统医保覆盖不到的人拉进体系。
事实上，这些人群占到肯尼亚总人口的 83%，算是国家的大多数。
先解释下他们要如何将 AI 引入医保系统：这是一套预测性 AI 算法，核心任务是利用 AI 估算一个家庭有多少钱，然后决定这个家庭应该缴多少医保费。
那 AI 应该如何估算呢？
肯尼亚使用的是一种叫 PMT 的代理经济状况审查方法。简单说，不直接看你真实收入，而是看你家里有什么、住得怎么样、生活条件如何，再用模型推断你的经济能力。
志愿者会上门登记屋顶材料、厕所类型、有没有牲畜、子女数量、是否独居、有没有电力、是否拥有住房等信息，然后把答案填进手机端问卷，系统返回这个家庭当年应缴的公共医保金额。
听到这，你就算不仔细思考，也肯定会隐隐觉得有哪不对劲。
没错，结果与你的直觉非常一致：在抽样了数千个真实家庭进行人工审计后发现，SHA 系统会系统性高估贫困家庭收入，低估较高收入家庭收入。
超过一半贫困家庭疑似被多收费，而且算法偏离实际很远，很多本就揭不开锅的人，得拿出收入的 20% 来缴纳医保。
有些穷人之前只要缴纳 500 肯尼亚先令，现在却被要求支付 1030 肯尼亚先令。
原因在哪呢？
一方面这些低收入群体文化程度有限，可能完全听不懂志愿者在问什么，导致刚开始的数据输入就有很大偏差。
另一方面当然是 AI 本身的训练问题。SHA 用于判断财富的基础数据过度代表中等收入家庭，来自贫困集中地区的数据点很少。
也就是说，系统拿来学习的样本，本来就不够理解最穷的人。此外，因为肯尼亚正遭遇多重经济冲击，所以最初拿到训练的数据集可能早就过时了。
那肯尼亚有关部门意识到问题了吗？
曾为肯尼亚卫生部提供咨询的卫生经济学家 David Khaoya 说，相关部门研究后发现，目前这套 AI 算法要么会更准确评估贫困家庭，要么更准确评估富裕家庭。而肯尼亚卫生部肯定选择优先准确评估富人，即使这会导致穷人被多收费。
简单来说，如果把富人误判成穷人，让他们少缴费，他们不会主动站出来说自己应该多交。
但如果把穷人误判成中产，让他们多缴费，那多缴也就多缴了，或者无非就是闹一闹最后缴纳正常的费用。
所以系统宁可把风险压到穷人身上。
目前这套系统不止肯尼亚自己在用。它被世界银行和其他国际捐助方长期推动，在非洲、亚洲、太平洋地区、拉丁美洲广泛用于判断哪些家庭处在贫困之中，从而获得现金、食品补贴和其他福利。
虽然此前也被质疑偏差太大，但因为是用在福利项目，引起的讨论倒还好。但肯尼亚硬是要把它引入医保项目，结果捅了大篓子。
目前在肯尼亚 SHA 项目中，已经有超过 75% 的覆盖人群拒绝继续缴纳医保，肯尼亚前副总统 Rigathi Gachagua 在 3 月预测，这套 AI 医保系统可能在六个月内崩溃。
所谓“不让任何肯尼亚人掉队”，最后变成了最需要保障的人先被算法踢了出去。
