上周在南京新街口旁的老小区巷口,跟一个做开源AI绘画工具的小伙子蹲在路边吃皮肚面。他扒拉着碗里的香肠,说前阵子为了跑通70亿参数的本地模型,自己书桌上那台3090转得像要掀掉桌板,跑十分钟就掉帧,得把出租屋空调开到16度对着机箱吹,不然半小时就自动关机。
贵。
抢不到。
这是他提到算力时,蹦出来的两个词。我当时愣了两秒,突然反应过来——我们天天在新闻里看到的“算力”,好像离普通人特别远,又好像离得特别近。近到什么程度?近到你为了画一张宠物的表情包,为了给课程设计算一组模拟数据,都得跟这玩意掰扯半天。
你以为的算力,真的是机房里堆的铁盒子?
很多人一提算力,就想起戈壁滩上连片的服务器机房,空调嗡嗡吹,指示灯闪成一片——对,那是公共算力池。但普通人日常接触的算力,根本不是那部分。
比如你手机里的人脸解锁,是NPU在算;你导航的时候实时算前方三公里的拥堵,是车机芯片在算;甚至你刷短视频的时候,算法判断你会不会划走,那点计算量,都是从你手机到最近的边缘节点挤出来的。

那个吃皮肚面的小伙子,之前为了跑模型,凑了三张二手的3080,塞在自己10平米的出租屋书桌底下。夏天的时候脚边烫得能煎鸡蛋,他说上次邻居来借酱油,推开门以为他在搞什么地下作坊。真的,没经历过为了几G显存折腾到凌晨三点的人,根本不知道普通人抢算力的狼狈。你要算的任务多一点,就得排队等节点;想快一点,就得加钱升配置;甚至有时候你把任务传上去,碰上机房检修,等半天都跑不出结果。
很多人踩过的算力坑,本质是把“算力”当成了可以无限买的水电
之前有个做生活类小程序的朋友,一开始觉得反正算力随时能买,先把产品做出来再说。结果上线那天,几千个用户同时进来,后台的算力费用一下跳了五位数,他当场在会议室差点跳起来。
算力从来不是按需无限供应的公共资源。你以为你点一下购买按钮,就能拿到和超算中心一样的计算能力,实际上从你提交任务的那一刻,背后的带宽、散热、芯片产能,全是卡脖子的环节。
很多人对“东数西算”的理解有偏差,觉得就是把所有数据都拉到西部去算。哪有那么简单?那些需要毫秒级响应的任务,比如你点一下手机支付的身份验证,根本不可能把数据传到几千公里外的贵州机房去算——一来一回的延迟,够你输完密码等三秒,谁受得了。真正被挪到西部的,是那些不需要实时反馈的、可以慢慢算的任务,比如基因测序的数据处理,比如影视渲染的帧生成,这些任务对延迟不敏感,刚好能用上西部便宜的电力和凉爽的气候,帮着省点散热的钱。

不过话说回来,谁刚开始接触算力的时候没踩过几个坑?
还有个更常见的误区:很多人觉得买的显卡越贵,算力就越强,根本不看自己的任务到底需要什么。比如有人为了跑个简单的文本分类小模型,花大价钱买了最新款的旗舰显卡,结果跑了半个月,显卡的利用率连10%都不到,钱全花了冤枉钱。我上次碰到个做课程设计的小姑娘,为了算一组社会学的模拟数据,本来几百块的云算力就能搞定,她攒了三个月钱买了台游戏本,最后算出来的结果,和用免费的开源算力平台跑的根本没差。你说亏不亏?
再过两年,你根本不会感知到“算力”的存在

现在大家为啥天天把算力挂在嘴边?因为现在的算力分配还乱得很。就像九十年代刚有互联网的时候,大家还要记得拨电话号码连网,现在谁上网还记IP地址?
等算力的调度系统成熟了,你根本不需要知道你跑的模型是在自己手机上算的,还是在楼下小区的边缘节点算的,还是在千里外的机房算的。就像你现在开自来水龙头,不会去想这个水是从哪个水库来的,经过了几级净化,只要拧开就有,温度合适,流量够。对吧?
别被那些喊着“算力革命”的营销号忽悠了。技术的最终目的,从来不是让你为每一次计算单独付费,而是把这些复杂的东西藏在后面,让你该画画的时候画画,该写方案的时候写方案,不用蹲在出租屋跟显卡的风扇较劲。
上次跟那个做开源工具的小伙子聊,他说现在已经不自己攒机器了。找了个可以按分钟付费的算力平台,有时候赶项目的时候就开几个小时的高性能节点,平时就用自己那台老笔记本改改代码,算下来一年花的算力钱,比之前攒机器的零头还少。他说现在最大的愿望,是以后普通人做个AI小工具,再也不用为了几G的显存愁得掉头发。
挺好的。
真的。
作者|科技
排版|科技
审核|白杨