大讲堂
杭州12月的湿冷是钻骨头的。凌晨两点，做跨境电商客服的小苏盯着后台闪个不停的消息框，保温杯里泡的陈皮已经凉透了。窗外飘着细毛雨，楼下烤红薯摊的炉子冒着白汽，甜香顺着窗缝钻进来的时候，她突然想起三年前刚入职那天，HR靠在工位边跟她说，我们的系统装了BERT，你们以后不用熬大夜翻西班牙语俚语词典了。
那个把“上下文”砸进搜索框的10月
2018年10月Google团队发BERT的那天，我还在大学宿舍刷技术论坛。帖子里吵翻了天，有人拍桌子说搜索要变天，有人撇嘴说不就是个换了结构的语言模型，能有啥用。说出来你可能不信，我第一次看到BERT这个词，还以为是哪个网红犬舍新出的德牧品种。我当时还笑那个在课堂上拍投影的专业课老师，说你这么激动，能给我们涨多少奖学金啊。
那时候的NLP是真的笨。你在搜索框打“怎么给狗做不会掉毛的衣服”，以前的模型会把“狗”“衣服”“不掉毛”拆成几个孤立的关键词，给你推一堆人穿的三防面料广告。BERT不一样，它是双向掩码语言模型，读句子的时候不是从左到右硬凑意思，是把整个句子的前后语义串起来读，能瞬间get到你要做的是给宠物狗穿的衣服，不是给人做的。
当时Google说这个模型把英文搜索的语义识别准确率拉了3个百分点。听着不多对吧？但你要知道，在那之前整个行业折腾了快十年，准确率涨0.5个点都能开个新闻发布会。那时候小苏还在背四六级单词，觉得拍投影的老师又在画饼。她根本想不到，这个当时离她八丈远的技术，会在三年后变成她每天上班离不开的工具。
不是什么魔法，是被喂了几百万亿字的“读稿人”
说实话，很多人现在提起BERT，总觉得它是大模型时代的老古董，被GPT-4、文心一言这些新模型压得没了声响。但你随便找个做技术的人问，现在市面上跑的所有需要轻量部署的文本分类、语义识别任务，十个有八个的底座还是BERT。它不像动辄要几千张显卡堆着跑的大模型，轻量版的BERT甚至能塞进一个巴掌大的边缘设备里，不用把数据传到云端，在本地就能把你说的话、写的字的意思读明白。
我去年冬天去苏州的一个政务机房，刚推开门就打了个寒颤——恒温18度，机柜上的绿灯闪得人眼睛发花。运维的小哥裹着羽绒服，指着其中一排机柜说，这里面跑的就是定制版的BERT模型，接的是全市的12345热线。以前市民打热线进来，话务员要手动把诉求分类，派给对应的部门，一个工单平均要转三个人才能到真正负责的人手里，慢的时候两三天都到不了。现在呢？市民电话刚说完，语音转成文字，BERT在0.1秒内就能识别出来这是噪音扰民、还是水管漏了、还是老人要办养老认证，直接把工单派到对应网格的负责人手机上，连分类的错漏率都降了40%。
小苏现在的后台，就是接了定制版的BERT分流系统。每天几百条客户消息，系统先过一遍，那些重复的、标准的——比如“怎么查物流”“退换货流程是什么”，系统直接自动回了。那些带情绪的、有特殊背景的，才会弹到她的对话框里。上个月她接了个在国外读博的小姑娘的消息，说自己去年给奶奶买的助听器，因为搬家找不着了，想找商家再买个同款，但是她奶奶现在听力下降得厉害，之前戴那个助听器的时候，能听清她打视频电话的声音。换以前的旧系统，可能直接给小姑娘发个商品链接就完事了，但这次BERT识别出来，她要的不是随便一个助听器，是之前买的那款有特定降噪参数的、适配她奶奶听力曲线的型号，甚至把三年前的购买记录都调了出来，直接给她发了定制的购买链接。小姑娘后来回了一句，说“我以为你们根本不会记得我三年前买过什么”。
我们早就忘了，以前的机器根本读不懂“话里有话”
不过话说回来，BERT也不是什么万能的神。前阵子我去参加一个行业沙龙，有个做了二十年NLP的老工程师在台上吐槽，说现在大家都把模型吹得神乎其神，其实BERT从根上就没学会“共情”——它能读懂句子里每个词的搭配关系，能知道你说“今天天气可真好”的时候外面在下雨，但它永远不知道你说这句话的时候，是刚被领导骂完淋了雨的憋屈，还是正抱着猫在窗边晒太阳的松弛。
我记得小苏上次遇到个客户，发了一段很长的消息，说自己买的那个送爸爸的电动剃须刀，物流延误了三天，等收到的时候，爸爸已经因为突发脑梗住了院，现在连说话都不利索，根本用不了剃须刀。她当时盯着屏幕愣了好久，换以前的系统，可能会弹出个“亲实在抱歉给您补偿20元优惠券”的提示，但这次系统只弹了个空白的对话框——因为BERT读不出来这种情绪。它能识别出来客户的话里有难过，有失望，但它算不出来，什么样的回应是合适的。小苏最后自己打了一段：“真的很抱歉听到这个消息，剃须刀的钱我们全额退给您，您不用寄回来，希望叔叔能早点好起来。” 过了十分钟，客户回了个“谢谢”。
那天小苏关了电脑，走到阳台上去透气，湿冷的风刮得她脸疼。楼下的烤红薯摊老板正在给顾客装红薯，甜香顺着风飘上来。她想起刚入行的时候，老板跟她们说，以后智能客服会把你们都替代了，你们趁早转岗。结果三年过去了，机器确实帮她扛了80%的重复工作，她现在每天的时间，都用来处理那些机器读不懂的、带着温度的、有点细碎的情绪——那个要给妈妈寄手写卡片的姑娘，那个说猫咬了快递盒要赔罐头的学生，那个想找同款搪瓷缸的退休老师。
没有人会记得BERT是哪年发布的。
但它就像藏在城市地下的水管，你摸不到它，却能在拧开水龙头的时候，接到温的水。
作者|大讲堂
排版|大讲堂
审核|白杨