上周整理旧手机，内存红条跳得晃眼，本来想花一下午删重复截图、糊到看不清的废片，突然想起之前存的那个本地跑的深度学习模型。
我把整个相册文件夹拖进去。
十分钟。
所有照片按时间、场景、甚至情绪标签分好了类。我本来没当回事，直到划到一个标着”情绪低落”的文件夹——里面躺着那张我三年前在出租屋地板上蹲着想哭的糊照片，边角还带着当时贴的便签纸的反光。我当时甚至没给它喂过我那天的照片参数——它只是看着照片上我皱着的眉头、地板上掉的半罐可乐，就把这个文件夹归到了”情绪低落”的分类里。
我盯着屏幕愣了半分钟。
这东西怎么知道我那天很难过？
你以为它在“学习”，其实它只是在数“巧合”
很多人对深度学习的误解，从第一次听到这个词就开始了。觉得它是个像人一样会思考、会举一反三的聪明大脑，能看懂图、听懂话，甚至能猜中你心里想什么。
根本不是。
它从来没有真正“理解”过输入的内容，所有的判定本质上都是基于统计规律的概率输出。
就拿认猫这件事来说，你小时候见着第一只猫，大人指着说”这是猫”，你下次见着耳朵尖、长胡子、尾巴翘得老高的动物，就知道这也是猫——哪怕这只猫是三花的、是黑的、是缺了半只耳朵的，你都能认出来。但深度学习认猫的逻辑完全不一样：它把几百万张人类标好”猫”的照片拆成无数个极小的像素块，把每个块的颜色、亮度转换成数字，然后反复算，找出来”只要某组数字组合出现的频率足够高，就往输出端打个‘猫’的标签”的规律。
它不知道猫有毛，不知道猫会掉毛，不知道猫踩在键盘上会打出乱码。它只是数数字数出来的结果。
我之前看研究者做可视化的时候发现，模型认猫的时候，根本不会聚焦在整只猫的轮廓上——它的注意力会死死钉在猫耳朵的形状、猫鼻子的色块位置这些局部细节上。哪怕你把猫的身子换成狗的，只要耳朵的形状对，它也能给你判定是猫。
那些吹得神乎其神的能力，其实藏着最蠢的bug
说实话，第一次看到对抗样本测试的时候，我笑了足足五分钟。
研究者在一张完全正常的猫的照片上，给猫的耳朵位置贴了个小小的便利贴，上面写了个”狗”字。换成人眼，一眼就能看出来这是猫。但经过训练的深度学习模型，能100%笃定这是一只狗。
不是它故意跟人对着干。是便利贴上的字的色块，刚好落在了模型之前统计过的”狗”类数字区间里，它根本没有办法分辨”这个字是贴在照片上的”还是”这个字就是物体本身的一部分”。
它没有常识。
你给它喂一万张雨天撑伞的街景图，它能精准识别出哪张图里有伞。但你要是把伞P到鱼的背上，它根本反应不过来这有什么不对——毕竟在它的数值数据库里，伞的色块从来没和鱼的身体绑定过，它数不出什么反常的地方。
之前有个做自动驾驶的朋友跟我吐槽，说他们测试模型的时候，碰到路边印着”停止”字样的广告牌，模型能直接把车给刹停。因为它根本分不清”停止标志是给车看的交通标识”和”印在广告牌上的停止字是广告内容”，它只知道，”停止”这两个字的色块出现，就该触发刹车逻辑。你说它冤不冤？它真的只是数数字数出了问题，根本不知道自己差点把车开到路边沟里。
听着离谱对吧？但这就是现在所有深度学习模型的真实状态。
它快，它准，它不知疲倦。但它蠢得很纯粹。
我们为什么非要抱着这个“蠢家伙”不放
我知道有人看到这里会皱眉头：既然这么蠢，费这么大劲搞它干嘛？
问题是，它能把人熬到崩溃的重复活，在几秒内干完。
之前有个做社区团购的朋友，攒了整整三个月的用户评论，想找出来哪些用户提到了”包装漏液””配送超时”的问题。人工翻的话，一万多条评论，一个人得干整整三天，看到最后眼睛都花了，还容易漏。
我把他的评论表导进本地跑的小模型，二十分钟。所有相关的评论全被摘出来，连用户的语气是生气还是随口吐槽都标得明明白白。
他当时盯着屏幕愣了半天，说”我之前花在这上面的三个通宵，到底是为了啥”。
真的不用把深度学习想得太高大上。
它不需要有自我意识，不需要能像人一样思考，不需要能跟你聊哲学。只要它能把你从那种机械到麻木的重复劳动里拽出来，能帮你省下来几个通宵的时间去干真正有意思的事，就够值回所有的投入。
我妈之前问我，天天研究的这个东西，能不能帮她找出去年跳广场舞的视频。我把她存了五个硬盘的旧视频全喂给模型，两分钟就找出来了——她之前自己翻了一下午都没找着。
她看完就说了一句：”哦，原来就是个更聪明的搜东西的软件啊。”
你看，普通人根本不关心什么反向传播，什么多层感知机，什么梯度下降。它好用，能解决自己的破事，就够了。
上周我整理旧硬盘的时候，翻出来2019年写的一篇关于AI的旧稿，里面说”未来的深度学习会像人一样拥有独立思考能力”。
现在看，我当时真的想多了。
不过那又怎么样呢。
它能帮我找着三年前蹲在出租屋地板上哭的那张糊照片，能帮我妈找着她跳广场舞的旧视频，能帮朋友把攒了三个月的评论筛完。
这就够了。
作者|科技
排版|科技
审核|柚子