模型并行藏在糖醋排骨参数里

上周整理储物间翻出来我爸2026年攒的那台4U服务器。铁壳子上还贴着他用黑色马克笔写的便签,边角被晒得褪成了浅灰色,字还能认出来:别碰,跑奶奶的糖醋排骨配方参数。 灰厚得能搓出泥。 那时候我刚毕业在互联网公司做数据标注,每天对着几万张猫狗图片点分类,下班就想瘫在沙发上刷短视频,总笑他放着公司免费的A100集群不用,自己掏了小一万收了六块别人淘汰的二手3090,在阳台的防盗网下面搭了个破机架,风扇转起来跟楼下装修的冲击钻似的,奶奶在客厅看豫剧都得把音量调高三格。

阳台机架的风扇声

一开始我爸是想做个小模型,把奶奶做菜的味道给存下来。奶奶那时候还能自己逛菜市场,记不清自己放了多少糖多少醋,每次问她,她就说”随便放,味道差不多就行”,可我爸知道,她那盘糖醋排骨的味道,是我从小到大吃了十几年的味道,万一哪天她记不得了,就再也找不到了。 一开始他把模型存在一块显卡里,结果每次跑参数,显存直接爆掉,屏幕上跳出来的红色报错截图他存了快一百张,文件名全是”又炸了_20260412.png””显存不够_20260415.png”。他蹲在阳台抽了三盒烟,翻了半箱子以前的技术笔记,后来才想起来老同事说过的模型并行。 我那时候问他啥意思,他叼着烟指了指那六块闪着灯的显卡,说就跟奶奶腌萝卜似的,一整个玻璃缸塞不下两颗萝卜,就分成三个小玻璃罐,每个罐子里放半颗,最后腌出来的咸甜味跟整缸泡的没差。
家用阳台机架插满二手3090显卡实拍图
家用阳台机架插满二手3090显卡实拍图
一开始他拆错了。把模型从中间劈成两半,前半层放第一张卡,后半层放第二张,结果跑出来的配方,糖放了八两,醋倒了半瓶,奶奶尝了一口直接吐了,说这是泡醋萝卜,不是排骨。我爸蹲在阳台又调了一周,才搞明白不是随便劈成两半就行,得把同一层的计算拆到不同的卡上,不然算出来的数全是错的。

写在买菜账上的参数

他把每一步的调整都记在奶奶的旧账本上。那本子是2023年小区菜市场送的,封面印着大朵的红牡丹,内页前面全是奶奶记的买菜账:”3月12日,排骨28一斤,贵了五毛””4月3日,买了瓶醋,八块”,后面空了几十页,全是我爸写的参数:”4月27日,张量切分维度改3,显存占用降了4G,糖量1.2两,对得上””5月3日,调整火候对应的曲线,炖40分钟,奶奶尝了说差不多”。
印着牡丹封面的旧手写笔记本实拍
印着牡丹封面的旧手写笔记本实拍
那天他把最后一组参数跑通的时候,奶奶端着切好的苹果进阳台,看到六块显卡的风扇转得呼呼响,问他这破铁盒子能算出我做的排骨味道?我爸说能,等以后你记不清放多少糖了,我把参数输进去,就能教我姑娘做你那个味。奶奶笑他瞎折腾,转身去厨房给他煮了碗绿豆汤。

落灰的4U铁壳

落灰的4U铁壳
落灰的4U铁壳
说实话,我以前总觉得模型并行是实验室里那些穿格子衬衫的博士搞的东西,跟我们普通人的日子八竿子打不着。那时候公司的技术分享会讲起模型并行,我总在下面摸鱼刷外卖软件,觉得那些要拆成好几份才能跑起来的大模型,离我远得很,远到我连术语都懒得记。可真等你看到自己家的旧服务器里存着的、为了复刻一口味道攒了半年的参数,才会明白所有技术最后落到地上,都是有人在拿自己的时间,换那些不想丢的东西。 2028年的时候,市面上出了那种巴掌大的边缘加速卡,一张卡就能塞下以前要六张3090才能跑的模型,系统自动帮你分配算力,根本不用用户自己拆模型搞并行。我爸那时候已经正式退休了,也不蹲阳台调参数了,那台旧服务器就被塞到了储物间的角落,铁壳子上的便签掉了一半,风扇也落了厚厚的灰。 上周我把它搬出来,通电试了试,风扇居然还能转,里面存的那个菜谱模型还在。我按照参数买了排骨,放了1.2两糖,三勺醋,炖了四十分钟。盛出来的时候奶奶刚好坐在餐厅的椅子上晒太阳,她那时候已经有点阿尔茨海默了,有时候连我都认不出来,尝了一口排骨,愣了半天,说,这是我做的味啊。 那天我站在厨房尝了一口排骨。 鼻子酸了。 不过话说回来,现在的技术确实越来越方便了,连模型并行都不用用户自己蹲在阳台拆了,新的加速卡算力翻了十倍,价格还比以前的二手3090便宜。前几天楼下修wifi的老周来我家,看到储物间里那台旧服务器,说现在收二手显卡的人都不爱要3090了,占地方还费电,新出的卡插上去就能跑大模型,谁还搞以前那套拆来拆去的啊。 我哦了一声,没跟他说那台破铁盒子里存的东西,比新的卡值钱多了。刚才我翻了翻那个牡丹封面的旧账本,最后一页是我爸2026年5月17号写的,字有点歪:”参数调好了,以后想吃就能做。”

作者|大讲堂

排版|大讲堂

审核|小北

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:模型并行藏在糖醋排骨参数里
文章链接:https://m.lfdjt.com/info_23_28101.html