你刷到的每条短视频,都在悄悄吃掉看不见的算力

昨晚刷到那条南京老巷的桂花糕短视频的时候,我正窝在沙发上啃鸭脖。视频卡了两秒,转了个小圈才加载出来。

第一反应是我家wifi又抽风。

后来跟做算法的朋友唠才知道,哪是wifi的问题啊——是后台的算力在排队。

很多人对算力的印象,还停留在新闻里那种建在大山里、整墙亮着指示灯的超级计算机,觉得那是跟自己八竿子打不着的东西。真的不是。

你以为是手机卡,其实是算力在排队

上周在老门东帮朋友拍糖粥藕的特写,想直接用手机端的AI功能,把背景里乱入的举着奶茶的游客P掉。点下按钮的瞬间,屏幕转了三秒的圈。

当时我还吐槽,这新换的旗舰机怎么连个修图都卡。

做技术的朋友在旁边笑,说你真当这功能是你手机里那点芯片就能扛下来的?本地那点计算能力,最多能给你磨个皮,要把动态背景里的人精准抠掉不影响粥上的桂花碎,得把画面传到远端的算力池里算。

手机端AI修图云端算力调度流程示意图
手机端AI修图云端算力调度流程示意图

你看,根本不需要什么宏大的叙事。你导航的时候,系统帮你算哪条路不堵;你发朋友圈的时候,系统帮你把照片里的逆光调亮;你跟智能音箱说”帮我放一首周杰伦的晴天”,系统从百万首歌单里精准挑出你要的版本——所有这些事,都是算力在干活。

别拿教科书上的定义套。说白了,算力就是”把零散的数字,转成你能看懂的内容的总工作量”。没有什么玄乎的。

真的不玄。

很多人被网上的概念绕晕,觉得算力是要靠水冷、要建在高海拔地区的大机柜才能支撑的高端玩意儿,但其实你家路由器半夜自动升级固件的时候,都在悄悄耗一点算力配额。

被吹上天的算力,其实有一半在做无用功

上个月去江北的一个产业园调研,刚进机房门我就打了个寒颤。整墙的服务器指示灯闪得像新街口的霓虹夜景,冷风吹得我鼻子都红了。

我拽着运维的小哥问,这么多机器,都在跑什么业务啊?

他挠挠头,说实际利用率啊,也就三成多吧。

我当时都愣了。

这哪是算力中心啊,这是堆在冷柜里的一堆过期速冻饺子。花大价钱买的机器,拉了专线接了电,大半时间都在空转,连个实际的计算任务都没有。

数据中心服务器机柜实际利用率统计实拍图
数据中心服务器机柜实际利用率统计实拍图

我上次听一个创业公司的老板在酒桌上吹,说自己拿了多少多少百万级的算力配额,将来要做自己的大模型。凑过去一问,他的业务就是给本地餐饮商家做个带优惠券推送的小程序。

那点需求,用他办公室那台旧办公电脑都能扛下来,至于租那么贵的云端算力吗?

纯纯的冤大头行为。

说实话,现在大家对算力的误解真的太深了。总觉得算力越多越好,就像家里买冰箱,容量越大越有面子。可你要是买个双开门的大冰箱,里面天天空着,除了多交电费,有啥用?

我那个做运维的朋友跟我吐槽,说最头疼的就是半夜接告警电话,说某台服务器空转了三个小时,查半天才发现是之前的测试任务忘了关,白白耗了几十度电,连个水花都没有。

想想都心疼。

未来的算力,不会都堆在远离城市的山里

早些年大家建算力中心,总爱往凉快、电费便宜的地方跑。贵州的山洞里,内蒙的草原上,拉上专线建个大机房,靠自然水冷降温,能省不少钱。

但慢慢的,这套逻辑不好使了。

你想想,要是你在新街口的路口想用AR导航,看着手机屏幕上的箭头跟着你走,要是把计算任务传到千里之外的贵州机房,等算完结果传回来,你都已经走过两个路口了。反应慢半拍,再好的技术也没用。

所以现在的算力早就不是一锅端的大集群了,是分层的。

离你最近的,是你手机、手表里的小芯片,算最急的事:刷脸解锁、实时美颜、计步,这些任务根本不需要往外传,本地一秒就能算完。

再近一点的,是装在城市灯杆上、路口摄像头里的边缘计算盒子,算那些需要快速反应的事:识别路口有没有闯红灯的行人,紫金山步道上有没有游客崴脚需要帮忙,商圈里的AR导览实时画面,这些事就在本地算,反应快,还不占长途网络的带宽。

最远的,才是那些建在山里、草原上的大集群,算那些不着急的事:大模型的训练,电影的后期渲染,一整个季度的天气预报模拟,这些任务不用实时出结果,哪怕跑几个小时都没关系,放在电费便宜的地方算,最划算。

上周爬紫金山的时候,我特意凑到路边的灯杆旁看了看。那个嵌在灯杆里的小计算盒子,比我家的路由器大不了多少。旁边的运维师傅说,这东西能实时识别步道上的异常情况,比如有人摔倒了,或者野路上有野猪闯进来,不用等摄像头把画面传到几公里外的机房,盒子自己就能判断,直接给景区的巡逻人员发提醒。

这才是好用的算力。

不是那种摆在展厅里、算出来的结果要等半小时才能看到的炫技设备,是你走在路上,甚至感觉不到它存在,但它已经悄悄把你需要的东西递到你眼前的那种服务。

当然也有让人闹心的地方。现在好多地方一窝蜂建算力中心,就像十年前一窝蜂建各种产业园一样,好多地方批了地、拉了电,建完了才发现,根本没有那么多实际的业务需要跑。空着的机房亮着灯,冷风吹着空转的服务器,电费交了不少,算出来的有用结果没几个。

哦对,上次那个做算法的朋友跟我打赌,说再过三年,大家不会再比谁的算力集群建得更大,而是比谁的算力用得更巧。

比如给老人做个语音控制的助行器,根本不需要连到千里之外的大机房,就在助行器的手柄里装个小芯片就能识别语音,反应快,还不费流量。

比如你在家看4K电影,根本不需要把整个片子的数据流都从千里之外传过来,就在你家小区的机房里存着缓存,点开就能看,省带宽还快。

这些事,其实比建多少个几万张卡的大集群,实在多了。

作者|科技

排版|科技

审核|乐乐

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:你刷到的每条短视频,都在悄悄吃掉看不见的算力
文章链接:https://m.lfdjt.com/p/keji/a/16028.html