把旧显卡攒成‘算力小仓库’的那个周末,我搞懂了这玩意儿到底是啥

上周六熬到凌晨两点。

把抽屉里压了三年的三块旧显卡全掏出来的时候,我手都在抖。之前刷到有人用闲置显卡搭本地算力主机跑大模型,我总觉得是极客圈的玩具,真接上线按下开机键,风扇转起来的瞬间,那嗡嗡的震动从泡沫垫传到地板上,跟我去年去郊区IDC机房采访时听到的轰鸣,居然是同一种质感。

以前总觉得算力是新闻里的宏大叙事,是写在产业报告里的布局,离普通人的生活八丈远。直到那天主机跑起来,我对着对话框输”我家蓝猫总啃我充电线怎么办”,半秒就跳出回复,甚至还贴心补了一句”可以给它准备磨牙棒,别凶它”,我才反应过来——这玩意儿根本不是啥遥不可及的东西。

你每天刷手机,其实都在免费蹭算力

你早上出门刷通勤短视频,算法给你推你爱听的脱口秀片段,背后是成排的服务器在算”你上次在这段视频停了20秒,完播率比你看别的视频高30%”;你打网约车,系统给你派离你最近的司机,算哪条路现在不堵,这些细碎的计算量,凑起来就是我们每天说的算力。甚至你手机抬脸就解锁的那一下,也是你手机芯片里的小算力在工作——你每天点几十次屏幕,其实都在蹭不同地方的算力,只是你从来没注意过。

居民楼阳台摆放的多显卡本地算力主机
居民楼阳台摆放的多显卡本地算力主机

我之前总觉得,只有搞AI开发的人才能接触到算力,直到上次帮我妈整理手机相册,发现她拍了三千多张我家猫的照片,手机系统居然本地就给分了类,把带猫的照片单独归到一个相册里,全程没弹”需要上传云存储”的提示。那时候我才明白,原来我们早就被算力包围了,只是它藏在屏幕后面,你看不见而已。

别被铺天盖地的“算力中心”新闻唬住

前两年刷新闻,动不动就看到哪个地方投了几十亿建算力中心,多少多少P的算力规模,我第一反应是,这东西跟建高铁似的,建完了肯定能带动经济。直到上次跟做IDC运维的朋友吃烤串,他吐了半小时苦水,说好多地方建的机房,其实一半机柜是空的。

为啥?

大家都盯着”建多大规模的算力”,没人算过这些算力要干啥。就像你在车库里放了个超大功率的发电机,结果你家平时连个电磁炉都很少开,发电机天天空转,光交柴油钱了。

算力从来不是堆得越多越值钱,它本质上是跟需求匹配的商品。你需要跑大模型训练,那就要配高密度的GPU,配足够的散热和电力,算一次可能要花几十万的电费;你只是需要存个网站的用户信息,那普通的存储服务器就够,犯不上拿跑大模型的卡来存,纯纯浪费。

他说上次去某个刚建完的算力中心,走廊里的灯亮得晃眼,服务器风扇转得呼呼响,结果查了下负载,才跑了不到20%。剩下的算力在干啥?在交电费,在算折旧,在等不知道什么时候来的需求。

数据中心机房亮着指示灯的闲置服务器机柜
数据中心机房亮着指示灯的闲置服务器机柜

说真的,我以前也跟着凑热闹,觉得算力规模越大越好,现在才反应过来,这跟你家里买冰箱是一个道理——你是两口之家,买个双开门的大冰箱,一半层板空着落灰,那不是你会过日子,是你被商家的”大容量”宣传忽悠了。

以后的算力,根本不会全堆在远郊的机房里

以后的算力,根本不会全堆在远郊的机房里
以后的算力,根本不会全堆在远郊的机房里

我之前跟那个运维朋友聊,他说现在好多行业的思路都转了。

以前大家总觉得,算力就该全建在离城市几十公里的远郊,那边电费便宜,地便宜,建个超大机房,拉几十条光纤进城,所有计算都在机房里算完,再把结果传给用户。这思路在PC时代是对的,毕竟那时候大家最多就是看看网页,聊聊QQ,那点计算量,一个机房能供整个城市的人用。

但现在不对了。

你想啊,以后家里的扫地机器人要实时识别地上的猫毛和掉的充电线,你总不能等它把摄像头拍的画面传到几百公里外的机房,算完了再传回来告诉机器人”前面有东西,绕开”吧?那延迟都够猫把毛蹭到沙发缝里了。

还有你家里的智能门锁,要识别你家的人脸,你总不能把你家所有人的人脸照片传到远郊的机房,每次你开门的时候,等机房算完”这是业主本人”,再把解锁信号传回来吧?万一哪天光纤断了,你站在门口拎着外卖,连门都进不去,那也太离谱了。

所以现在的算力是散的。远郊的大机房,就负责那种需要超大计算量的活儿——比如训练新的大模型,模拟未来一周的天气,算航天发射的轨道;小区楼下的小型机房,就负责大家日常刷视频、收快递、刷门禁的计算量;你家里的旧显卡、闲置的旧手机、甚至智能电视里的芯片,就负责你自己家的事儿——比如本地给照片分类,跑个本地的聊天机器人,识别你家门锁的人脸,根本不用把你的隐私传到云上去。

风从阳台吹进来。

显卡风扇嗡嗡转。

我对着主机问”怎么给我的猫剪指甲不被它挠”,它几毫秒就给我出了步骤,没有联网,没有弹窗,没有广告。

说实话,我之前最烦那种把算力吹成”数字时代石油”的比喻。石油你挖出来得拉去炼,拉去加油站,你自己根本没法在家加工。但算力不一样——你抽屉里压了好几年的旧硬件,换个电源,加个散热,就能变成你自己能说了算的小算力,不用看云服务商的收费标准,也不用担心你问的”怎么藏私房钱”的问题,哪天被拿去当训练数据。

之前有个读者给我留言,说”我一个普通上班族,又不搞AI开发,知道算力有啥用?”

我当时没回。

现在我想告诉他,等你下次打开手机,发现你拍了上千张的旅行照片,不用等云上传,本地就能自动把糊的删掉,把你跟朋友的合照筛出来,把你家猫的照片单独建个相册,那时候你就知道,这些你看不到的算力,早就不是新闻里写的冰冷数字了。它就是你生活里的一部分,跟你家冰箱里的冰可乐,跟你阳台上吹过来的风,没什么区别。

作者|科技

排版|科技

审核|白杨

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:把旧显卡攒成‘算力小仓库’的那个周末,我搞懂了这玩意儿到底是啥
文章链接:https://m.lfdjt.com/p/keji/a/10853.html