竞价实例:沉默机房里,被重新定价的算力江湖

上周跟老林吃饭,在望京IDC园区门口的烧烤摊,他短袖沾着机房的冷气霉味,手里攥着半瓶化了的冰可乐,一开口就说上个月差点把公司玩没了。
老林是三个人AI创业小队的头,做古风插画模型微调,没拿融资,每一分钱都要掰成两半花。刚起步的时候,连算力钱都凑不齐。

差点停摆时捡来的活路

去年年初,他们接了个大厂的商单,要给十万张古风线稿上色,需要大算力跑半个月。问了一圈,十个中高端GPU的固定实例,一个月就要十几万,他们仨三个月的营收加起来都不够这个数。
说实话,那时候已经打算散伙了。还是圈里一个做运维的前辈扔给他一个链接,说你试试抢竞价实例,说不定能活。
那时候老林连竞价实例是什么都不知道,只看到报价是固定实例的一到三折,眼睛一下子就直了。第一次出价,咬咬牙只出了固定价的两折,居然真的抢到了。
云计算服务商竞价实例价格波动曲线
云计算服务商竞价实例价格波动曲线
一开始踩坑踩得够呛。不懂规则,跑了一天的训练,突然实例被收回,数据全没了,老林盯着黑掉的后台坐了半小时,差点把电脑砸了。那几天天天熬夜,眼睛红得像兔子,就改调度逻辑。
改完之后顺了。把大任务拆成十五分钟一个的小片段,每跑完一块自动存快照,实例一掉线,系统自动抢新的空闲实例接着跑,根本不用人盯。算下来,那笔大单跑完,算力成本才不到一万块,换做固定实例要六万多。
赚的钱一下子就多了出来。给团队每个人涨了三千块工资,还剩了钱租了个带阳台的办公室。

说白了,竞价实例就是闲置算力的二手市场

很多人听不懂云服务那堆术语,说穿了特别好懂。
云厂商建机房,都是按照行业峰值需求配服务器的。就像商场周末人挤人,工作日一半摊位都是空的。空着的服务器也要耗电,也要占机位,一分钱赚不到,不如拿出来低价拍卖,谁出的价合适就给谁用,卖一块钱也是赚。
规则说死了:只要原来包年包月预留资源的大客户来了,你就得马上腾位置,一般一两分钟就要下线。
所以不是什么业务都能用。你做直播推流、做在线交易,肯定不敢碰,掉线五分钟赔得底掉。但是做离线模型训练、做数据批量处理、做影视渲染,太合适了。
老林现在八十多块GPU的算力池,百分之七十都是抢的竞价实例,每个月省下来快十万,够给两个员工开 full salary,还能每个月多更新两次模型。有人说他这是玩火,万一全掉线了怎么办?
他笑,说我又不是做要人命的业务,大了不起晚半天出图,给客户打个八折就完了,省的钱够打一百次折,亏吗?
IDC数据中心闲置服务器机柜实拍
IDC数据中心闲置服务器机柜实拍
不过话说回来,现在哪里只有小公司用竞价实例?我前阵子听一个大厂的运维朋友说,他们内部的测试环境、预发环境,百分之九十都跑在竞价实例上,一年省出来的钱,够开三个新项目。
大家都精着呢,能省为什么不省?能拿低价闲置资源解决的问题,为什么要花大价钱占着茅坑?

算力平权,就是几块钱捡来的入场券

算力平权,就是几块钱捡来的入场券
算力平权,就是几块钱捡来的入场券
前几年总喊,算力是新时代的石油,是巨头才能玩得起的资源,中小玩家根本挤不进门槛。你要训练大模型,没有几个亿根本玩不转,对吧?
竞价实例把这个规则砸破了一个口子。说白了就是把巨头吃剩下的闲量,搓成碎块卖给小玩家,让没多少钱的人也能碰一碰大算力的游戏。
老林说他去年最爽的一次,深夜云厂商空闲算力多,价格跌到固定价的一折不到,他们连着跑了七天七夜,把十亿参数大模型的全量微调做完了,一共才花了不到八千块。换做买固定算力,十万打底都打不住。
这哪里是降本?这直接给小团队发了入场券。原来要几个亿才能玩的游戏,现在几万块就能下场试一把,输了也不亏,赢了就能活下去。
那天吃串,老林手机弹了个提醒,说抢的三个实例被收回了。他看都没看,直接把手机扣在油乎乎的桌子上,说系统自己会处理,不用管。
啤酒泡沫溢出来,他擦了擦手说,原来我们总说,这个世界资源都被巨头占完了,轮不到小人物分蛋糕。现在我看,哪有那么绝对?整栋IDC大楼,一半多服务器闲的时候都是暗的,这些闲量原来就是浪费的垃圾,现在变成了我们这种小公司的船票。
我抬头看远处那栋亮着零星灯光的IDC大楼,玻璃幕墙反射着路边烧烤摊的红色车灯,沉默得像一头正在睡觉的鲸。那些转个不停的芯片,每一颗核心都被标上了价格,有人花全价占着位置等峰值,有人出低价捡着闲量做自己的事。
谁能说哪种活法不对呢?说不定再过十年,我们身边所有闲置的东西——下班之后空着的办公室,晚上睡觉闲置的手机芯片,甚至周末没人开的私家车,都能像竞价实例一样,拿出来重新议价,分给需要的人。
原来这个世界从来都不缺资源,缺的只是,愿意把闲置分给小人物的规则。对吧?

作者|大讲堂

排版|大讲堂

审核|知知

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:竞价实例:沉默机房里,被重新定价的算力江湖
文章链接:https://m.lfdjt.com/info_23_23777.html