上周帮朋友盯他创业公司的标注进度，一推办公室门，仨姑娘挤在工位上，对着屏幕给猫的耳朵打框，桌边堆着半箱剥了皮的橘子。
风从窗户钻进来，吹得打印出来的标注规范哗啦响。
没人理我。
我搬了个凳子坐在角落，盯着屏幕看了整整三天。以前总觉得机器学习是个飘在天上的黑科技，看完才发现，这玩意儿的本质，比我高中时候的错题本还朴素。
所谓的”学习”，就是攒几十万道错题
很多人第一次听机器学习，总觉得是电脑自己长出了脑子，能自己看书自己悟，甚至能猜中你心里想什么。
哪有那好事。
我盯着标注员的操作看了俩小时，一张橘猫趴在沙发上的照片，她们要在猫的耳朵尖、胡须根、尾巴尖上一个一个打框，连猫嘴边沾的半粒猫粮，都要特意标成”无关杂物”——怕模型把那粒猫粮当成猫的一部分，以后认错。
就这么一张图，前前后后要花5分钟，有时候遇到光线暗的，标完还要再核对两遍。
这些标好的图，最后都会送到模型那边，相当于给它递了一本标准答案。
最开始的模型傻得很，第一次见这张图，能把沙发的边角当成猫腿，把靠垫上的绒球当成猫脑袋，错得五花八门。这时候人就会把它的错误揪出来，让它把”橘色+圆眼睛+胡须”这个组合的打分权重调高一点，把”长条状沙发腿+绒球”的组合打分调低一点。模型从来没有”学会”什么是猫，它只是把”什么样的特征组合更容易被标成猫”记成了一套打分规则。
就这么一次一次错，一次一次调，攒够几十万张标好的图之后，它终于能分清楚，哪个是猫，哪个是沙发，哪个是靠垫了。
它根本不知道”猫”是什么。
它只记得，符合这些打分条件的色块，大概率要被归到”猫”的类别里。
你以为它懂你，其实它在背套路
我第三天闲着没事，拉着他们训了三周的猫识别模型做测试。
我把室友拽到镜头前，他刚好穿了件橘色的连帽卫衣，脸圆乎乎的，还留了一圈小胡茬。
模型转了三秒，弹出来一行字：加菲猫，置信度92%。
我当时笑到把手里的橘子砸在了键盘上。
它根本不知道加菲猫长啥样，也不知道我室友是个活生生的人。它只是记住了之前训练图里，所有被标成”加菲猫”的图，都符合”橘色、圆脸、没有明显脖子”的特征，我室友刚好踩中了所有的打分点而已。所谓的”懂你”，从来都不是共情，只是基于历史数据的概率匹配。
这事放在平时的推荐系统里更明显。
你刚在购物APP上搜了一次”猫砂”，接下来三天，首页全给你推猫砂、猫粮、猫爬架。你以为它懂你是个准备养猫的人？
才不是。
它只是从之前几百万个用户的行为里，总结出了一个套路：搜过猫砂的人，大概率会点猫相关的内容。它根本不管你是不是帮朋友问的，是不是已经把猫送人了，是不是现在看见猫砂就犯恶心。
对吧？你有没有过那种，刚跟朋友聊了一句想买个铁锅，打开APP全是锅具的经历？别总觉得它在监听你，它没那闲工夫。它只是把别人的行为攒成了一张打分表，对着你的行为挨个套而已。
我上次跟那个算法工程师聊起这事，他翻了个白眼说，上次他们把模型拿去测，遇到一只把脸埋在爪子里睡觉的猫，模型直接判成了”灰色毛线团”，气得老板把手里的冰美式都洒在了键盘上。
别神化它，也别把它当洪水猛兽
现在网上关于机器学习的说法特别两极。
有人吹它再过两年就能替代医生、替代老师、替代所有上班的人，也有人怕它抢自己的饭碗，连碰都不敢碰。
我蹲了三天的感受是，这玩意儿真的没那么玄乎。
就我朋友他们这小团队，做了快两个月的猫识别模型，现在连”猫在睡觉”和”猫在伸懒腰”都分不清楚，每次遇到猫蜷成一团的图就卡壳。真要拿去给宠物医院用，还差得远。
说白了，它就是个特别擅长记套路的工具。
你给它喂多少标注好的数据，它就能学多少东西。你要是给它喂的全是错的标注，它学出来的东西，错得比你还离谱。
我临走的时候，那个标注的小姑娘跟我说，她上周标了一张柯基的图，不小心标成了”橘猫”，结果那个模型连着三天，见了所有短腿的狗都判成猫，笑了整个办公室的人。
哪有什么黑科技。
所有看起来很智能的反应，背后都是人一点一点标出来的，错了就调，调完再错，来来回回磨出来的。
它没有创造力，也没有坏心思。
就像你手里的计算器，你让它算加减，它就给你出结果，你要是按错了数字，它算出来的数也准不了。
哦对，最后补一句，我昨天收到那个模型的测试推送，它给我推了三箱猫粮。
合着我上次把室友凑到镜头前的事，它还记着打分呢。
作者|科技
排版|科技
审核|白杨