大讲堂
微信搜一搜推新版本，全量把语义排序模块下放到了手机端，用的不是大家喊了三年的7B端侧大模型，是出生快八年的BERT。
一堆自媒体跳出来骂，说腾讯技术团队开倒车，放着新潮的生成式大模型不用，去捡十年前的技术剩饭。
真的是剩饭吗？
我特意找了搜一搜团队做算法的朋友吃饭聊，他说，上线这一个月，端侧搜索的响应速度提升了78%，用户点击满意度涨了11个点，整体推理成本降了92%。
这叫好饭不怕晚。
搜索赛道开倒车？BERT又杀回了核心场景
现在打开任何一个AI科技媒体，铺天盖地都是GPT、文心、千问，谁要是提BERT，都不好意思说自己在做AI。
好像BERT是Transformer时代的过气网红，早该被生成式大模型拍在沙滩上。
现实呢？
你今天用百度搜东西，刷抖音信息流，投简历过HR的系统筛选，甚至给手机端的AI输入法做联想，背后站着的都是BERT。
不是大模型不好，是大模型太贵了。
说实话，我今年见了快二十个AI创业团队，十个里面有八个开口就是千亿参数，闭口就是通用AGI，听得我头大。说白了就是蹭概念骗投资，真落地没几个能跑通商业模式。
都想做航母，没人愿意造渔船。
真要赚日常的真金白银，还得靠BERT这种成熟稳定成本低的技术。
就说搜索这个场景，用户搜一个关键词，要的是最快找到最相关的结果，不是让大模型给你写一篇八百字的小作文。
生成式回答当然有价值，但十个搜索请求里，有八个用户要的就是链接排序对不对。
这件事BERT已经做得足够好，成本还不到大模型的零头。
技术路线背后，都是成本账不是技术账
很多人聊BERT，只记得谷歌2018年放出来的那个论文，忘了它改变了整个NLP产业的商业逻辑。
国内最早吃螃蟹的是百度。2019年百度就把搜索广告的排序模型全换成了自研的BERT版本，当年凤巢系统的广告点击率直接涨了12%，营收多了大几十亿。
后来字节跳进去，2021年穿山甲广告联盟全量上线BERT排序，信息流广告的转化效率提了快10个点，相当于每年多赚小一百亿。
这就是技术换钱的实打实案例，不是实验室里的论文。
不过话说回来，为什么现在大厂都不敢全链路换大模型做搜索？给你算笔账。
一个搜索请求，用10B大模型做全链路推理，单次成本大概0.15元；用BERT做排序，单次成本是0.0012元。
差了整整125倍。
国内头部搜索平台，一天的搜索请求超过100亿次，如果全换大模型，一天光推理成本就是15亿元，差不多等于山西运城2025年全年的一般公共预算收入。
谁扛得住？天天烧钱烧得起吗？
把现在的AI产业格局比作蓝水海军其实特别贴切。千亿参数大模型是航母打击群，用来打硬仗、做前沿突破，撑门面好看，威慑力够。但BERT就是批量建造的通用驱逐舰，日常巡逻、区域防空、处理低烈度冲突这些杂活累活全靠它。总不能来了个小海盗抢货，你也出动核弹航母去吧？烧钱都能把你国库烧空。
不过话说回来，现在国内很多企业的玩法也很有意思。大模型做生成创意，BERT做排序召回，分工明确，赚的钱比全用大模型多好几倍。
去年我接触到一个做电商内容推荐的创业公司，团队一共才三十多个人，用BERT做用户兴趣排序，大模型只用来生成商品文案，毛利能做到60%以上，比那些烧钱做千亿大模型的公司活得舒服多了。
被大模型光环掩盖的落地新机会
现在NLP方向的毕业生，找工作第一句话就是我会做预训练大模型，问他懂不懂BERT的模型压缩和落地优化，大多摇头。
都去卷大模型的高薪HC了，谁看得上老技术？
但现实是，90%以上的企业AI需求，根本不需要千亿大模型。
你是一个制造业HR，要做简历筛选，要做员工离职风险预警，要做客户投诉语义分类，这几件事，量化之后的6层BERT，准确率比7B大模型差不了2个点，成本差了100倍。
本地就能部署，数据不用出公司，还符合数据安全的要求，企业用脚投票都会选BERT。
更不用说现在端侧AI爆发，智能手表、智能汽车、智能家居这些设备，根本放不下大模型，功耗也扛不住。同样做离线语义检索，BERT小模型的端侧能耗只有7B大模型的不到3%，相当于一块普通手机电池就能撑整整一个月的离线使用，大模型只能撑半天。
现在市面上，懂BERT落地优化、懂针对特定场景做微调压缩的工程师，薪资已经悄悄涨了三成，还挖不到人。
大家都去挤大模型的独木桥，反而把BERT的缺口空出来了。
很多中小AI公司现在招人，开的价格比大模型团队的初级工程师还高，就招能把BERT玩明白的熟手。
当所有人都挤破头去抢千亿大模型的船票，谁会停下来捡BERT这块被漏掉的金元宝？
作者|大讲堂
排版|大讲堂
审核|满满