奶茶店门口等号的时候,我才想通算力到底是什么

9月23号的南京,新街口梧桐树荫还挡得住中午的太阳,我站在奶茶店排队,手里刷着朋友圈看朋友发的AI生成南京秋景图,盯着加载圈转了一分四十秒,突然就想通了,大家天天说的算力,哪里是什么遥不可及的高科技黑话啊。 转啊转。就是不出来。朋友说,今天平台算力挤,生成图都慢。哦,原来这就是算力不够用的体感啊。
南京新街口商圈户外5G算力基站实拍
南京新街口商圈户外5G算力基站实拍

为什么你刷短视频不卡,生成一张AI图要等半天

为什么你刷短视频不卡,生成一张AI图要等半天
为什么你刷短视频不卡,生成一张AI图要等半天
很多人一听到算力,第一反应就是翻资料找解释,看完还是一头雾水。说实话,我看了也懵。 换个说法,算力就等于你现在站的这家奶茶店的出餐能力。 你点一杯常规的珍珠奶茶,茶底煮好,珍珠现成,收银员打完单,制作台随手一调,三十秒就能递到你手上。这是因为制作台有空,现成的资源够,对应的就是你的短视频APP,缓存早就做好了,常用的内容分发用的是闲置的算力,当然点开来就播。 要是整个店二十个人都点了定制款,要加这个加那个,还要熬新的茶底,就一个制作台,你不得乖乖等吗?换做AI画图,每一张图都是全新定制的,要跑一堆参数计算,占的资源远超过刷一条短视频,遇上大家都在用的时候,可不就得对着加载圈发呆吗? 就是这么回事。没有那么复杂。 我之前帮学计算机的朋友跑过一次小规模的模型训练,租的云平台算力,按分钟算钱,稍微调了两次参数,小一百块就没了。那时候才真的有概念,看不见摸不着的算力,每跑一秒都是真金白银在烧。

我们每天用的算力,大半都在你看不见的地方

很多人觉得,算力就是给AI大模型用的,跟我一个普通上班族有啥关系? 不对哦。你早上出门开车,导航给你实时绕开刚堵起来的中山东路,那是导航后台在用算力算实时车流。你进小区刷脸开门,摄像头一秒认出你,那是人脸识别模型在调用算力比对。你去政务中心自助机办社保,一分钟打出缴费单,放十年前你得排一上午队填三张表,那就是政务系统升级了算力的结果。
数据中心GPU算力服务器集群实拍
数据中心GPU算力服务器集群实拍
很多人对算力有个误区:觉得堆的算力越多,产品就一定越好。真不是。就像奶茶店开在小县城,一天最多卖两百杯,你搭十个制作台,大部分时间都是空着,房租水电亏死。现在不少地方抢着建超大算力中心,建好之后才发现,本地没那么多企业能用得上,一大半算力常年闲在那里,每年的电费都是一笔不小的开销,说穿了就是浪费。 还有人说,我用的免费AI画图,不也能用吗?哪有什么算力成本?你想啊,免费的为啥有时候慢得要死,充了会员就秒出?还不是会员给了钱,给你分配了更多专属算力,把你插队排前面了。说白了,算力这东西,和奶茶店的VIP插队卡没区别,你付费了,就能用更多更好的资源。 不过话说回来,就算是付费了,有时候也会卡。为啥?因为整个平台的总算力就那么多,晚上大家都下班了都来玩AI,挤在一起,当然慢。你凌晨三点起来用,肯定比晚上八点快,信不信?

接下来我们要拼的,到底是什么样的算力

接下来我们要拼的,到底是什么样的算力
接下来我们要拼的,到底是什么样的算力
我前阵子跟做互联网的朋友吃饭,他说现在大家抢的算力,和十年前我们说的算力根本不是一回事。 十年前我们说算力,说的是能存数据、能算报表、能跑普通软件的通用算力,就像奶茶店的普通操作台,做常规饮品没问题,应付一大堆定制单就不行。现在大家抢的,是能跑大模型的并行GPU算力,这种算力相当于能同时做几十上百杯定制款的超大智能操作台,能同时给几十上百个用户算参数,效率比老的算力高了不止一点半点。 这两年AI火了之后,这种算力一下子就不够用了。为啥?因为每一个大模型训练,都要成千上万张显卡堆在一起跑好几个月,训练完了给用户用,每一次用户提问生成内容,还要继续耗算力。需求涨得比建算力中心快多了,可不就涨价抢资源吗? 我挺感慨的,十年前我们说“要想富先修路”,现在这不就是在修数字时代的马路吗?路修得越宽,跑的车越多,大家走得越快。只是和修路一样,不是修得越宽就越好,得看有多少车跑,得看能通到多少需要的地方去。 上次我去南京周边的一个科技园参观,看到不少小的AI创业公司,租不起足够的算力,想做个小模型训练都得凑钱半夜跑,真的挺无奈的。要是能把那些闲置的大算力中心的资源,匀一点给这些小公司,说不定能出来不少有意思的东西。 走到头,算力这东西,不管说得多么玄乎,最终还是要落到用户的体感上。你不用等加载,你办事不用排队,你想用的功能随手就能用,这就是好算力,别的都是瞎扯。

作者|科技

排版|科技

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:奶茶店门口等号的时候,我才想通算力到底是什么
文章链接:https://m.lfdjt.com/p/keji/a/8032.html