你刷短视频卡的那一秒,正在欠算力几十亿次运算

上周六下午我窝在南京家里的沙发上,用AI生成一张猫穿汉服逛老门东的图。

输入完提示词,进度圈转了快40秒。

一开始以为是网不好,蹲路由器旁边测了下行速,满格。后来才知道,那天是本地智算中心的季度节点巡检,不少人挤在公共算力池里抢资源,我那点生成图片的任务,排了好久才轮到。

真的。

你以为的“卡顿”,根本不是手机的问题

很多人遇到APP加载转圈,第一反应是手机内存不够了,要删点照片清缓存。其实大半时候,锅真不在你手里的设备上。

你刷到的每一条精准推到首页的短视频,不是平台提前存在离你最近的基站里等着你刷,是算法在你刷到上一条视频的3秒间隙里,把你的浏览偏好、当下的定位、甚至你点进评论区停留的时长拆成无数个数据包,扔到远端的计算节点上算出来的匹配结果。整个过程如果算力排不上队,你看到的加载圈,本质上就是在等前面的任务算完,给你腾位置。

南京智算中心服务器机房冷通道实景
南京智算中心服务器机房冷通道实景

我之前在互联网公司做运维的时候,见过一次大促当天的算力峰值。那时候整个机房的风扇转得像飞机引擎,所有GPU的利用率拉到90%以上,还是有不少用户反馈说点商品链接加载慢。技术团队盯着监控大屏,看着排队的任务队列从几百涨到几千,那种感觉跟早高峰的新街口一样——大家都在抢通道,谁也快不起来。

你说这时候换个最新款的手机有用吗?真没用。就像你在堵车的路上开个超跑,也得跟着前车一步步挪。

别把算力当成“更高级的CPU”,它根本不是一回事

我之前遇到过不少人,一听到算力两个字,就觉得是“比家里的CPU快一点的计算能力”。

错得离谱。

我们现在日常说的算力,从来不是单台设备、单块芯片的运算速度。是把成千上万块计算芯片用高速光纤串起来,拼成一个可以同时处理几十万、上百万个并行任务的“超级大拼图”。你自己家电脑的CPU,剪个4K视频导出就要风扇吹得像理发店的吹风机,但是放到整个算力池里,这点任务量跟你在大学图书馆占个位置写两行笔记差不多,根本不算什么。

之前有个朋友跟我抬杠,说他自己家的电脑是i9处理器,搭个本地的AI模型,不就不用抢公共算力了?我当时差点笑出声。

真的。别抬杠。

你那点算力,跑个7B参数的模型都要把风扇吹得嗡嗡响,遇到需要跑百亿参数的场景,你那设备的运算能力,跟整个机房比,差不多就是拿个算盘跟超级计算机比算数速度。

智算中心万兆光纤互联交换机实景
智算中心万兆光纤互联交换机实景

算力的核心从来不是单块芯片有多快,是把所有芯片的能力拆成细碎的小块,按需分给不同的用户,不浪费一点运算资源。

比如算医疗影像的任务,跟给你推荐短视频的任务,本来不需要占同一个芯片的资源,但是通过算力调度系统,能把每一块芯片的空闲时间拆成毫秒级的片段,分给不同的任务用。就像你家的客厅,早上用来吃早餐,下午用来办公,晚上用来跟朋友聚会,不是说买了个大房子,就一定要让一个人占着所有空间。

那些被吹上天的算力概念,其实藏着不少没说破的真相

说实话,我特别烦一提到算力就说“这是数字时代的石油”的套话,听着就跟十年前一提到互联网就说“站在风口上的猪”一样空。

算力哪是什么石油啊。石油是从地下挖出来就能卖,算力是你得算得准、调度得好,能真的解决普通人的问题,才叫有用。

之前有个在算力产业园做运维的朋友跟我吐槽,说不少地方花大价钱建了好大的机房,买了一堆高端GPU,结果找不准应用场景,一半的芯片24小时空着,电费哗哗交,连个能稳定跑的业务都没有。这就跟你买了个全套的专业烘焙设备,结果在家只用来煮泡面一样,设备再好,没有匹配的调度能力,没有实际要算的需求,就是一堆亮着灯的铁疙瘩。

很多人说建的算力机房越大越好,芯片堆得越多越厉害。真不是。之前我去南京的一个街道社区做交流,社区的工作人员说,他们现在用本地的小型算力节点算什么?算辖区里独居老人的日常状态——比如老人连续三天没在小区门禁刷过卡,系统就会自动提醒社区网格员上门看看,防止出意外。你看,这点算力的需求,根本不需要什么百亿规模的大模型,就是把几个简单的判断逻辑放到离用户最近的算力节点上跑,比建几个空壳的大数据中心有用多了。

上次有个学计算机的学生给我留言,说他觉得以后只有进大厂做算法,才算真的接触算力。其实根本不是。

你每天骑的共享单车,能在你打开APP的3秒里告诉你离你最近的车在哪、哪条路过去不堵车,是算力在帮你算;你点的外卖,骑手的路线怎么绕才能不超时、哪个路口现在堵,是算力在帮你算;甚至你家的智能空调,能在你快到家的时候提前把室温调到你习惯的温度,背后也有一小部分算力在远端帮你判断你大概几点能进家门。

说起来也有意思。

我们花了几十年时间把计算能力从房间那么大的设备,缩到能揣在兜里的手机里,现在又反过来,把无数小的计算单元重新拼成巨大的算力网络,兜住所有普通人的日常需求。

下次你再看到加载圈的时候,别着急骂手机卡。你等的那几秒钟,是几十亿次运算在顺着光纤往你这儿跑呢。

作者|科技

排版|科技

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:你刷短视频卡的那一秒,正在欠算力几十亿次运算
文章链接:https://m.lfdjt.com/p/keji/a/11542.html