上周刷到个博主把自家三花的正脸照丢进模型，半分钟出来八张油画风、水彩风、甚至赛博朋克风的猫像，连猫耳上那撮歪掉的橘毛都没画错。我当时第一反应不是”哇AI好厉害”，是——这玩意儿到底怎么认出来那撮毛的？
不是”背答案”，是在抓你看不见的细节
很多人对深度学习的印象还停留在”把几百万张图背下来，碰到新的就硬套”。说真的，这误解比我妈以为我刷短视频全是在浪费时间还深。
其实它干活的逻辑跟咱们小时候认东西没差多少。你第一次见猫的时候，没人会给你列个清单”猫有尖耳朵、长尾巴、三瓣嘴”，是你见了几十次邻居家的猫、宠物店的猫、路边蹭你裤腿的流浪猫，慢慢自己摸出来”哦，尖耳朵软乎乎的，跑的时候尾巴翘得老高”。深度学习干的就是这个事，只不过它”见”的图，比你一辈子见过的所有东西加起来都多。
说出来你可能不信，早年的图像识别模型认猫，真的会把背景里的米色沙发花纹当猫的一部分——毕竟那时候喂给它的训练图，十张有八张是趴在同一款沙发上的猫。它哪分得清什么是主体什么是背景啊，谁出现的次数多，它就记谁。
后来有人做过可视化实验，把模型”注意力”集中的区域用色块标出来，你会发现它根本没盯着整张猫脸硬看，一会儿盯着猫的胡子尖，一会儿盯着肉垫上的花纹，跟人似的，专挑最有辨识度的细节抓。哪是死记硬背啊。
那些被吹上天的能力，其实有个很笨的前提
现在刷到太多把深度学习吹得神乎其神的内容，好像它明天就能替代医生、替代画师、替代所有坐办公室的人。但只要你稍微碰过点实际的模型就会知道，它离”真懂”世界，还差着十万八千里。
这点真的很像刚上小学的小孩，背了一整本古诗，你问他”春风又绿江南岸的绿是什么意思”，他能一字不差把标准答案背出来，但你要问他”为什么不能用吹”，他大概率答不上来。
之前有个做医疗AI的朋友跟我吐槽，他们团队做的胸片结节识别模型，准确率比工作三年的年轻医生还稳，但你把胸片转个180度倒过来给它，它立马就懵了，连”这是一张胸片”都认不出来。为啥？因为它学的所有胸片都是正的，它从来不知道胸片是啥，只记了”正的图里，某个固定位置的亮块就是结节”。
它所有的”聪明”，本质上都是对海量数据里统计规律的拟合，从来没有真正建立过对世界的具象认知。
大家刷短视频肯定见过，AI画的人要么长六根手指，要么杯子直接长在桌面上，要么画出来的楼梯走两步就断了。真不是工程师故意做不好，是它根本不知道人有五根手指，杯子是要放在桌面上的，楼梯是要能走人的——它只是见了太多”人手+桌面+杯子”的图，拼出来最像人会喜欢的样子而已。
别神化，也别把它当洪水猛兽
现在的舆论场特别有意思，提到深度学习要么就是”马上要失业”，要么就是”全是抄袭的垃圾，一点价值都没有”。我是真觉得没必要走极端。
你说它没用吧，现在插画师用它铺大色、找参考，确实能省掉好几个小时的重复劳动；医生用它筛胸片，也能帮着减少漏诊的概率。但你要说它能完全替代人，那更扯。
就拿画画来说，它现在能快速生成一百种风格的猫，生成一百种风景的图，但你要让它画楼下卖了二十年豆浆的张阿姨，画她手上因为常年提豆浆桶磨出来的硬茧，画她冬天耳朵上因为冻出来的浅褐色冻疮印，它根本画不出来。不是它训练的数据不够多，是这些细碎的、只属于你生活记忆的细节，从来不会被大规模传到网上，成为训练素材的一部分。
之前跟那个做模型的工程师吃饭，他还吐槽，现在团队花最多时间的，根本不是把模型精度提得更高，是补它的常识漏洞。比如让它写个标准的请假条，它能写得比HR要求的还规范，但你要让它把请假原因改成”昨天陪猫去打疫苗，猫应激把我胳膊挠了，今天要去打狂犬疫苗”，它说不定能给你写成”因动物致伤需接种狂犬疫苗，特此请假”——完全没那味儿，就是个没有情绪的套话生成机。
对吧？你给老板发请假消息的时候，总忍不住要加个委屈的表情，要吐槽两句猫的拆家行为，这些看起来”没用的废话”，恰恰是真人的温度。现在的深度学习，根本学不会。
前几天我又刷到那个画三花猫的博主，他最新的视频是给模型喂了自家猫从刚抱回来巴掌大，到现在胖成十斤球的所有照片。生成的图里，那撮歪歪的橘毛位置一点没差，连猫脖子上那个掉了一半铃铛的红项圈，都画得清清楚楚。
你看，其实它也没那么玄乎。
作者|科技
排版|科技
审核|阿辰