大讲堂
上周去苏州工业园跑调研。
跟一家做工业视觉的小公司老板蹲在车间门口抽烟。
他掏出来个巴掌大的盒子接在机床边上，说这东西现在能替代之前搭的三套云端服务器，一年省的带宽费够给车间工人发两个月奖金。
我当时挺惊讶的。毕竟三年前我来同一片园区的时候，大家还在拼了命把所有视觉数据往云端传，就为了凑个“工业互联网”的概念拿政府补贴，谁能想到现在风向全变了。
别把边缘智能当成“缩小版的云端大模型”
错得离谱。
很多人现在对边缘智能的认知还停留在“把云端的大模型剪小了塞到摄像头、机床、车机这些离用户近的设备里”，实际上完全搞反了核心逻辑。边缘智能的核心从来不是大模型的物理下沉，而是让计算在数据产生的地方完成闭环，不需要把原始数据长途传输到云端。说白了，你在车间里拍的金属零件的划痕，根本不需要传到几千公里外的数据中心去识别，在机床边上的盒子里算完，直接把“这个零件不合格”的信号传给机床的控制系统，整个过程连20毫秒都用不了，还不用付一分钱的带宽费。
这里绕不开所有边缘智能从业者都要面对的模型精度、推理速度、能耗的不可能三角。你要想在巴掌大的盒子上跑70亿参数的大模型，要么就得把模型量化到4位甚至2位，精度掉得连螺丝漏装都识别不出来；要么就得把算力堆得很高，盒子烫得能煎鸡蛋，车间里的工人碰都不敢碰；要么就得把推理速度压得很慢，等模型算完，机床已经加工完三个零件了，反馈完全跟不上。
去年我们测过市面上号称能跑全场景大模型的边缘盒子，实际跑工业质检场景的时候，一半的算力要分给模型压缩的适配层，剩下的实际推理速度还不如专门针对场景剪到1亿参数的专用模型。说真的，我见过太多厂商的发布会，把端侧跑模型的视频剪得丝滑顺畅，实际拿到实验室测，为了压帧率把模型量化到极限，识别精度直接掉了20个百分点，连最基础的检测要求都达不到。
真正跑通的落地场景，根本不是发布会上吹的那些
现在这个赛道的玩家其实挺分裂的。一类是做通用算力的大厂，手里攥着GPU、NPU的芯片，想把自己的通用大模型剪小了往边缘塞，发布会开得一个比一个热闹；另一类是扎在垂直行业里的小公司，根本不关心什么通用大模型，就盯着自己那一个场景的需求，把模型压到最小，能跑在几块钱的MCU上就绝不花几十块买高端芯片。
说穿了，谁能把单场景的部署成本压到最低，谁才能拿到真订单，跟你模型参数有多大半毛钱关系没有。
我见过真正跑通的几个场景，根本不是发布会上吹的“端侧生成式AI”：
第一个是工业质检。就是开头苏州那家小公司做的事，针对车床上的金属划痕训练专用模型，不需要通用能力，只要能在10毫秒内判断划痕是不是超过0.1毫米就够了。车间里拉光纤到云端的成本太高，而且机床的生产数据属于核心商业机密，根本不敢随便往外传，边缘盒子在本地把所有计算做完，只把最终的合格/不合格信号传出去，既省了带宽，又保了安全，算下来单条产线的整体投入成本比之前的云端方案降了70%。
第二个是电力线路的巡检。之前的输电杆塔上装的摄像头，是把所有实时视频传回云端的监控中心，一个摄像头一年的流量费就好几百，还要占着云端的存储资源。现在换了带边缘识别模块的摄像头，能自己在本地识别有没有树障、有没有违规施工、有没有绝缘子破损，只有发现异常的时候才传个10秒的短视频回监控中心，整体的运营成本直接砍了90%。
第三个是智能座舱的本地交互。你跟车机说“打开空调”，要是把语音传到云端转一圈，等三秒才反应过来，用户早骂街了。现在的边缘智能方案是在车机本地跑语音识别、驾驶员状态监测的模型，不用联网就能完成所有交互，反应速度比云端方案快了整整十倍，还不用担心车开到没信号的隧道里功能失效。
上次在上海的一个行业展会上，碰到个销售吹他的边缘盒子能跑全场景的通用大模型，我当场掏出来个测试样本——一张有轻微划痕的金属片，让他现场演示识别精度，他支支吾吾半天，最后说这个场景不在他的测试列表里，给我整笑了。
没人愿意公开聊的几个行业暗坑
太乱了。
现在整个赛道看着热热闹闹，其实埋了好几个迟早要爆的雷。
第一个雷是数据合规的边界模糊。很多人觉得，数据存在本地的边缘设备上，不用传到云端，就不算违反个人信息保护的规定。根本不是。之前有个做智慧门店的厂商，把摄像头拍的顾客人脸数据存在门店的边缘盒子上，既没做加密，也没给数据设置访问权限，最后被监管部门罚了一大笔——哪怕数据从来没出过门店的门，你对这些个人信息的处理，照样要符合合规要求。
第二个雷是边缘设备的运维安全。你想啊，现在一个城市里可能有几十万个边缘设备，装在路灯上、电线杆上、机床边上，没人敢定期爬上去给它升级系统、打补丁。万一被黑客攻了，比如把交通摄像头的识别逻辑改了，把闯红灯的车都标成正常的；把电力摄像头的识别算法改了，把树障隐患全标成正常状态，那后果根本不堪设想。之前有安全团队测过市面上一半的边缘设备，默认密码都没改，拿到设备的访问权限只需要花10秒钟。
第三个雷是标准完全不统一。现在每家的边缘设备的接口都不一样，你家的盒子接不了我家的摄像头，换个供应商就要把所有设备全换，最后甲方被坑得要死。我见过一个做智慧园区的客户，三年换了三家边缘智能的供应商，光拆旧设备装新设备的成本，就够买一套全新的系统了。
最后说几个我自己跑了几十家客户攒出来的实在判断，不用拿什么宏大叙事当遮羞布：
第一，未来3年，通用大模型在边缘场景的实际渗透率不会超过20%。大部分需要落地的场景，根本不需要能写文案、能做表格的通用能力，只要能针对某一个特定的视觉、语音、振动信号做10毫秒内的判断就够了。那些拿着7B、13B的模型往边缘端硬塞的厂商，最后大概率会被成本拖死。
第二，未来5年，边缘智能赛道的核心竞争力，根本不是谁的芯片算力更高。是谁的模型压缩、量化、适配工具链更成熟——能把同样精度的专用模型，压到原来1/10的大小，跑在更便宜的芯片上，把单设备的部署成本从几百块降到几十块。
第三，监管的靴子很快会落地。现在很多厂商的边缘设备装在公共区域，数据在本地存着却连最基本的加密都没做，更别说权限管理、日志留痕了。等专门的边缘智能数据安全规范出来，那些靠野蛮生长跑马圈地的玩家，至少要淘汰一半。
对了，上次那个苏州的小老板跟我说，他现在根本不关心什么大模型的参数竞赛，就盯着自己的客户需求：能不能把划痕识别的精度再提0.5个百分点，能不能把盒子的功耗再降2瓦，能不能让客户的运维成本少花一块钱。
就这点事。
够他吃十年的。
作者|大讲堂
排版|大讲堂
审核|乐乐