你刷短视频卡顿的瞬间,其实在跟几百万人抢算力

上周六晚上八点半,我蹲在沙发上刷某站的橘猫拆家视频,进度条转了三圈,跳出来”加载失败,请检查网络”。我拍了拍路由器,骂了一句联通的千兆宽带又骗钱——直到后来跟在云厂商做运维的朋友吃饭,他翻了个白眼说,那点破带宽够你同时刷4K视频加开3个腾讯会议,卡是因为那天晚上全国一半人都在刷猫、做AIPPT、开线上家长会,远端的算力集群挤爆了。

你手机里的“算力”,根本不在你手机里

很多人对算力的第一反应,是自己手机里的骁龙、天玑,或者电脑里的酷睿、锐龙——觉得芯片越好,算力越强。真不是这么回事。

我之前试过把某个开源大模型装在自己的旧笔记本上,跑了五分钟,笔记本风扇转得像直升机,电脑底部烫得我垫了三本书,最后生成的内容还驴唇不对马嘴。我当场就把软件卸了。

你手机里那点芯片算力,要是真拿来跑正经的大模型任务,顶多能撑个参数量极小的玩具版,生成一张图要等十分钟,还会把手机烫到降频。但你平时用的AI修图、智能抠图、甚至刷视频时的个性化推荐,这些运算全在远端的算力集群里跑。你手机只是个”显示器加遥控器”,真干重活的,是几公里甚至几百公里外,那些堆得像写字楼一样高的服务器机柜。

数据中心内排列整齐的服务器机柜冷通道实景
数据中心内排列整齐的服务器机柜冷通道实景

这逻辑跟用电一模一样。你家里插座有电,不是你家楼顶装了发电机,是几百公里外的水电站、火电厂发出来,通过电网送到你家的。你用算力的逻辑,跟用电没有任何区别——不用自己建电站,直接从算力电网里接就行,用多少付多少钱。

说个有意思的事,去年我朋友帮他导师跑一个植物基因测序的任务,一开始按本地的工作站算,要跑半个月。后来他们把任务提交到了云端算力平台,当天晚上就跑完了。不是他们的工作站太烂,是云端的算力池,相当于把几千台工作站的算力凑到了一起,像晚高峰的高架开了应急车道,速度自然就上来了。

算力的“堵点”,从来不是服务器不够多

很多人一提到算力缺口,第一反应就是“多建机房,多买服务器”。真不是。

我那个做运维的朋友说,他们的集群之前有段时间,白天的算力利用率只有30%——一半多的服务器空着转,没活干。但一到晚上八点到十点,大家都下班了,用AI画图、刷视频、开线上家长会的时候,算力又挤得排队,用户提交的请求要等十几秒才能处理。

问题出在哪?调度。之前的调度系统太笨,不知道什么时候该把闲置的算力分给谁。就像你家小区的停车场,白天业主都上班去了,车位空着一半,外面来办事的车进不来;晚上业主都回来了,车位不够,又挤得一塌糊涂——现在大部分算力的浪费,不是硬件不够,是调度太笨。

算力集群智能调度系统实时监控大屏
算力集群智能调度系统实时监控大屏

去年有个高校的团队,要跑一个台风路径模拟的任务,本来按之前的调度规则,要等三天才能排到算力。后来调度系统优化了,把白天企业闲置的算力、晚上没人用的空闲节点都凑到一起,八个小时就跑完了。

我之前去某省会城市的产业园参观,那边建了好大一个算力中心,刷得亮堂堂的,外墙全是玻璃幕墙。运维的小哥偷偷跟我说,现在大部分机柜都是空的,因为当地的中小企业根本用不上这么多算力,建的时候是为了拿产业补贴,建完了就没人管了。

你说这是服务器不够多吗?是多到吃灰了。

普通人其实根本不用“囤算力”

普通人其实根本不用“囤算力”
普通人其实根本不用“囤算力”

最近刷朋友圈,总能看到有人在聊“算力涨价”,说以后要提前囤点算力,不然以后用不起。还有个做自媒体的朋友,跟我说他要花几万块钱买个迷你服务器放在家里,囤点算力,以后AI生成内容涨价了就不用怕。

我当时就劝他,你那点流量,就算每天生成100条短视频脚本,加修50张图,花的算力费一个月也就几百块。你买服务器的钱,够你用十年。

普通人一辈子用到的算力,可能还不如企业跑一次大模型训练的零头。你平时刷个短视频,用个AI修图,花的算力成本,大概相当于你喝一口矿泉水的钱。真的吃算力的大户,是那些训练大模型的科技公司、跑基因测序的科研团队、做气象模拟的气象局,还有搞自动驾驶算法测试的车企。

不过话说回来,算力的价格其实一直在降。就像二十年前你打个长途电话要一块钱一分钟,现在视频通话跨洋都不要钱。算力也是一样,现在一块钱能买到的算力,比五年前多了几十倍,以后只会更便宜。你现在囤的那点算力,就像二十年前你囤了一柜子的长途电话卡,现在早就用不上了。

上次我刷到个视频,贵州的某个数据中心,夏天外面温度三十多度,机房里面因为服务器散发热量,运维人员还要穿羽绒服上班。现在东数西算的工程,就是要把东部的算力需求搬到西部去——西部有电,有凉快的气候,能省不少电费。以后的算力电网,就像现在的电力网一样,东部白天用算力,西部晚上用算力,两边错峰,就不会浪费了。

昨天晚上我又刷到之前那只拆家的橘猫的视频,加载一秒就出来了。

作者|科技

排版|科技

审核|满满

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:你刷短视频卡顿的瞬间,其实在跟几百万人抢算力
文章链接:https://m.lfdjt.com/p/keji/a/10145.html