大讲堂上周三晚上十点半，我攥着皱巴巴的工牌摸进小区楼下的便利店。玻璃门刚弹开，货架边的冷气机吹得我后颈一缩。
收银台边站着常碰到的兼职学生小宇，黑框眼镜滑到鼻尖，盯着屏幕皱眉头。我凑过去扫了一眼，屏幕上跳着系统的提示：“检测到常购商品匹配度92%，建议推送第二件半价活动”。
小宇看见我就开始吐槽，说这破系统这半个月快把他折腾疯了。之前系统记了他连续三周早上买的菜包和热豆浆，结果上周他连着三天晚上下班顺路买啤酒和卤味，系统直接弹出来个“是否需要为您预定下周的早餐套餐”——完全不搭边。
别被“AI自主学习”的噱头骗了
好多人对机器学习的第一印象，停留在新闻里赢了围棋选手的机器人，觉得这东西是有自主意识的，会自己攒经验，哪天突然醒了就要接管世界。
真的。没有玄学。
我之前跟做算法的朋友聊过，这玩意儿的逻辑，跟你家猫学会“扒拉沙发就能得到猫条”的路径差不了多少——甚至还没猫聪明。它根本不知道“冰美式”是什么，“卤味”是什么，更懂不了深夜买这俩东西的人，是刚加完班需要靠咖啡因和咸口零食缓神的打工人。它所有的判断，本质上都是在数数字。
数什么？数人类提前喂给它的、带好标签的历史记录里，哪个商品组合出现的次数够多。数过去三个月里，买了罐装气泡酒的人，有多少比例会顺手拿一包卤藕。它不会推理，不会共情，甚至没有基本的常识。
机器学习的所有“判断”，本质上都是对已有历史数据的平移复刻。它从来没有真的“理解”过任何东西，只是在找过去的规律，然后把这个规律套到现在的场景里。
上次我刷到个乡村振兴的项目案例，之前做的作物种植推荐模型，训练时用的全是平原地区的作物生长记录，结果给海拔八百多米的山民推了需要平整大片坡地才能种的玉米品种。模型根本不知道脚下的地是斜的，是石头多的，是温度比训练数据里低好几度的。它见都没见过这种场景，自然就照着老经验给建议了。
你每天被它“安排”的瞬间，都在悄悄给它交学费
很多人应该都有过类似的经历：刚跟朋友在微信里聊了两句想吃重庆火锅，打开短视频APP就刷到三公里外火锅店的团购券。第一反应往往是——这软件是不是在偷听我说话？
真不是。
你过去半年的浏览记录里，有十几次点开过川味美食的视频，上周搜过“重庆火锅蘸料配方”，甚至三个月前你给朋友发过“周末约饭”的消息——这些数据早就在你当初点了“同意”的隐私协议里，被打包喂给了模型。它根本不需要偷听你的实时对话，就足够拼出你最近可能的需求。
说实话，第一次想明白这事儿的时候我鸡皮疙瘩都起来了。不是怕。是觉得有点好笑。
你以为你在刷手机，挑自己喜欢的内容看。其实是手机在翻你过去留下的所有痕迹，给你拼一个你早就知道答案的内容列表。你以为你在做选择，其实是你的历史选择，在给现在的你做提示。没有例外。
你试过的。点过一次“不感兴趣”的宠物视频，接下来三天刷到的同类内容会少一半。这不是模型懂你了。是它记着——你之前给它打了个“这类内容我不要”的标签。它甚至不会去想你为什么不喜欢，只是机械地减少这类内容的推送权重。
它从来不是万能的，甚至经常闹笑话
之前刷到过很多宣传，说机器学习能帮医生看CT片，能帮老师批改主观题，能帮工厂挑出有瑕疵的零件。听着确实挺厉害的对吧？我上周跟在医院影像科工作的朋友吃饭，他说现在的模型看肺结节确实快，比人眼快三倍，但上次模型把患者穿的卫衣上的黑块印花，判断成了早期的结节阴影——差点把患者吓出高血压。
为什么会出这种错？因为训练模型的时候，喂进去的所有标注好的“结节”样本，都是患者脱掉外套、只穿病号服拍的CT片。训练数据里从来没有“患者穿带图案的卫衣做CT”的样本。模型见都没见过这种情况，自然就把视野里的黑块块当成异常了。
小宇在便利店碰到的离谱事儿更多。系统看他连续五天在凌晨两点买东西，直接判定他是“深夜高频用户”，给他的手机推了整整一周的24小时药店优惠券。他说他连个头疼脑热都很少有，要那么多退烧药优惠券干嘛。
我后来跟做算法的朋友聊，他说现在很多人对机器学习的态度挺极端的。要么吹得神乎其神，说这东西要接管所有行业，再过几年就没人能赶得上它的效率；要么怕得不行，说这东西哪天要抢所有人的饭碗，普通人再也找不到工作。
其实都没必要。
它就是个工具。跟你手里的螺丝刀没区别。螺丝刀能拧螺丝，也能不小心砸到脚。你不能因为它能拧螺丝，就说它能帮你盖完整栋房子；也不能因为它砸过你的脚，就说它是个会咬人的怪物。
好多人总觉得这东西越复杂越厉害，堆的神经网络层数越多就越智能。真不是。你花三个月时间，喂给它十万条准确的、贴合真实场景的用户消费记录，做出来的推荐效果，比那些堆了几十层结构、但训练数据全是从网上扒来的公开数据集的模型，要好上不知道多少。
数据错了。全白搭。
上周我再去便利店，小宇说他给系统运营方提了个反馈：能不能把用户购买记录的时间权重改一改，别拿三个月前的记录给现在的人推东西。对方真的改了。现在我再走进便利店，系统不会一上来就给我推早上的菜包了。
那天我买了冰美式，走的时候玻璃门弹回来，夹了一下我的衣角。我突然觉得，机器学习这东西，其实跟这扇自动玻璃门挺像的。它能自动弹开，省得你伸手推。但有时候也会反应慢半拍，夹到你。你不能因为被夹过一次，就再也不进这家店。
作者|科技
排版|科技
审核|乐乐