蹲在实验室改了三晚模型后,我终于敢说懂点深度学习了

上周六凌晨两点,实验室的空调停了,师妹盯着屏幕上跳成乱码的准确率曲线,把半杯冰美式推到我面前——“这东西真的能学懂吗?”

太懂这种感觉了。

我们总被各种科普内容裹着走,说深度学习是下一代人工智能的核心,是能替代人类思考的黑科技,好像一提到这四个字,就得搬出满墙的公式、动辄几百层的网络结构、烧钱一样的算力账单。

真不是那么回事。

你以为的“学习”,其实是在数错题

我第一次把这个道理讲给师妹听的时候,她眼睛都瞪圆了。

你高中刷数学题的时候,从来不会把整本习题集的答案全背下来对吧?你会把每次做错的题剪下来,贴在本子上,标清楚哪里错了,是公式记错了,还是计算时符号看错了,下次遇到同类型的题,就下意识绕开之前踩过的坑。

深度学习的逻辑,和这个动作一模一样。

手写高中数学错题本标注痕迹
手写高中数学错题本标注痕迹

没有什么凭空产生的智能。它不会像人一样坐在书桌前突然灵光一闪,想明白某个定理的本质。它能做的所有事,就是对着你喂给它的样本,不停算,不停错,错了就微调一下内部的参数,直到把所有能踩的坑都踩一遍,最后攒出一套“看到什么像素组合,就对应什么结果”的模糊规律。

很多人说神经网络有多少多少层,听着玄乎。其实换个角度想,就像你整理错题本的步骤:最开始一层,只认纸上的黑色墨迹形状;再往里一层,把墨迹拼成数字、符号;再往里一层,把符号和运算规则对应上;最深处的那层,才会输出最终的解题答案。

没有魔法。

全是数错。

我第一次接触这个逻辑的时候,第一反应是——合着这玩意比我高中同桌还笨?我同桌好歹知道猫有尖耳朵、长尾巴,深度学习模型得对着一万张猫的照片,错几千次,才慢慢反应过来:哦,原来出现尖耳朵、软毛、圆形瞳孔的像素组合,大概率是猫。它甚至不知道“猫”是个活的、会踩奶、会拆家的生物,只记得这些像素点出现的概率。

别信那些“深度学习无所不能”的鬼话

这两年刷到太多夸张的说法,说深度学习能自己写小说、能画传世名画、甚至能产生自我意识。

我每次看到都想笑。

上个月我自己在家做了个小实验,喂给模型两百张我家橘猫的照片:它蜷在沙发上睡觉的,追着激光笔跑的,把猫抓板咬得粉碎的,所有能拍的角度我都拍了,一共两百一十三张,累得我胳膊都酸了。

结果生成的图是什么样的?

AI生成的长三个尾巴的橘猫手绘
AI生成的长三个尾巴的橘猫手绘

长三个软乎乎的橘色尾巴,脑袋上还顶着半只猫耳朵,眼睛凑成了一团,像个被揉皱的毛线球。

为什么会这样?因为它根本不知道“我家猫”是什么。它只数我给的照片里的像素规律:橘色毛占了画面60%的面积,尖耳朵在画面上方出现的概率是80%,每次拍它拆家的时候,背景里总露出半块被咬碎的猫抓板。它把这些零散的像素规律拼在一起,根本不管拼出来的东西合不合理。

标签贴错了,再贵的GPU也烧不出靠谱的模型。

之前跟做工业项目的师兄聊,他们团队去年为了赶客户的上线节点,拿了个开源的大模型权重,喂了点本地的客服对话数据,结果上线第一天就闹了笑话——把所有带着“退款”“投诉”的邮件,全识别成了用户好评。追根溯源才发现,当初标数据的实习生,把标签栏的正负值搞反了。

大不是万能的。

我自己就犯过这种低级错误。上个月训练模型识别雨天的街景,我把数据集里“下雨”的标签全写成了“下雪”,模型学了整整三天,最后看到路面湿的照片,就一本正经输出“正在下雪”。我盯着屏幕笑了半小时,转头就被导师骂了二十分钟——你浪费的那三张GPU的电费,够你吃一个月的黄焖鸡。

那些没人告诉你的冷常识

上次师妹问我,“我想入门这个,是不是得把微积分学到能闭着眼推公式?”

真不用。

我认识的一个在互联网公司做深度学习应用的工程师,高数考试还是大三那年考的,现在天天干的事特别朴素:找公开的合规数据集,把里面贴错的标签挑出来,调一下参数,盯着准确率曲线看有没有往上走。跳了就下楼买瓶冰可乐庆祝,没跳就回去接着挑错,熬到半夜是常事。

我们总把这个领域神化,好像里面全是智商超群的天才,对着公式推导就能改变世界。其实大部分时候,大家干的事和高中时候整理错题本没有区别:反复核对题目,标记错误,调整思路,直到把题做对。

它本质上就是个高级错题本。

它不会主动问你问题,不会突然冒出一个谁也没想过的创意,你喂给它什么题,它就学什么规律。你给的题错了,它就跟着错;你不给它新的题目,它就永远困在之前的错题堆里,不会自己跑出去找新的知识点。

说起来有点好笑。最早大家想让电脑认出手写的数字,是写了满满一本规则:数字1是一竖,数字2是上面一个弯下面一横,遇到手写歪歪扭扭的数字,系统就直接卡壳。后来有人换了个思路:别费劲写规则了,把一万张标好的手写数字照片丢给它,让它自己对着数错题,数到能认对为止。

就这么个简单的思路,撑起来了现在我们看到的所有深度学习应用。

没有什么惊天动地的发明,就是换了个方向。

上周那个熬了三个晚上的师妹,终于把她的模型准确率从40%调到了82%。她那天从校外抱了个半个西瓜回来,在实验室切了分给大家吃。屏幕上的曲线终于从乱码变成了稳稳上升的线,连空调都好像突然凉快了点。

她啃着最甜的那块瓜问我,“你说这东西以后真的能变聪明吗?”

我当时咬了一口冰西瓜,冰得牙疼。

不知道。

但至少现在,它能帮我们把那些反复错的题,攒起来了。

作者|科技

排版|科技

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:蹲在实验室改了三晚模型后,我终于敢说懂点深度学习了
文章链接:https://m.lfdjt.com/p/keji/a/16652.html