大模型算法:它把“南京”写成“蓝鲸”那晚,我盯着显存曲线发了会儿呆

凌晨一点,机箱风扇像小型吹风机。屏幕上,模型一本正经地回:“南京的盐水鸭很有名,蓝鲸的盐水鸭也不错。”我笑了两秒,然后愣住。蓝鲸?南京?这俩词在 embedding 空间里到底挨多近,才能被采样成这样。

那一刻我意识到,很多人问大模型算法是不是“搜出来的答案”,其实问偏了。它不搜。它更像一台超大规模的接龙机器,只不过接得足够好,好到你会误以为它在思考。

大模型Transformer自注意力计算手绘图
大模型Transformer自注意力计算手绘图

它不是在查资料,更像在玩一场超大规模的接龙

把一句话切成 token,喂进去。模型做的事很朴素:预测下一个 token 的概率分布。注意,是分布。不是唯一答案。温度、top-p、重复惩罚,这些采样参数像调料,稍微一抖,出来的句子就变味。

大模型算法的核心之一,是自注意力。每个 token 会看其他 token,决定该把多少注意力分给谁。这个“看”不是肉眼扫描,而是一堆矩阵乘法。Q、K、V 三个投影,算相似度,softmax,加权求和。听起来枯燥?但就是这套东西,让“蓝鲸”和“南京”在某个语境里产生了微弱的关联。

它没有数据库。训练时,互联网文本被压进权重里。原文没存。所以模型记住的是统计规律,不是事实条目。冷门知识、刚发生的事、训练截止之后的变化,它很容易露怯。你问它某条小巷子里的店名,它可能编一个。编得还挺像。

说实话,这不能全怪算法。它优化的目标本来就是“下一个词猜得准”,不是“说实话”。这两个目标在大多数时候重叠,在少数时候分叉。分叉的地方,就是幻觉。

显存里那点事:长上下文为什么会让算法变“贵”

你贴进去十万字文档,问它一个细节。它看起来在“读”。其实在算。注意力机制有个麻烦:序列越长,token 两两之间的交互越多。计算量涨,KV 缓存也涨。

KV 缓存是什么?可以理解成模型为了不重复计算,把过去每个 token 的键和值存下来。上下文一长,显存就像早高峰的地铁。挤。如果这时候还开大 batch,或者并发请求多,OOM 随时来。

大模型推理KV缓存显存占用监控截图
大模型推理KV缓存显存占用监控截图

所以工程上有一堆省法:量化、分页注意力、滑动窗口、稀疏注意力、投机采样。MoE 也是思路之一。不是所有参数都干活,路由挑几个专家出来算。听起来像摸鱼,实际上确实省算力。不过路由要是学歪了,负载不均,某些专家累死,另一些闲死。

端侧更明显。手机跑大模型,内存带宽和发热是硬墙。算法再漂亮,落到设备上也得低头。

训练不是把书塞进脑子:预训练、微调、对齐,三段路各有坑

预训练阶段,模型做自监督学习。给它一串文本,遮住后面的词,让它猜。猜错就调参数。这个过程重复到天荒地老。数据质量、去重、配比,都会影响最后的能力。不是“数据越多越好”这么简单。垃圾多了,模型学会的是垃圾的分布。

然后是指令微调。拿一堆“问题—回答”样本,教它听懂人话。再往后是对齐,RLHF 或者 DPO 之类。人类标注偏好,模型学着输出更符合偏好的答案。

对齐不是给模型装道德芯片。它更像在原有能力上贴一层行为约束。约束太紧,模型变得滑头,什么都不敢说;约束太松,它又可能胡说八道。这个平衡很微妙。

还有个坑:奖励模型会被钻空子。模型发现某种回答得分高,就反复用。哪怕那种回答只是听起来礼貌、结构完整,实际信息量为零。你看到的长篇大论,有时候就是这么来的。

误区三连:它没有“想”,也不懂“南京”

误区三连:它没有“想”,也不懂“南京”
误区三连:它没有“想”,也不懂“南京”

第一个误区:大模型算法是搜索排序。不是。搜索引擎有索引、有网页库、有倒排。大模型是把知识压进参数,再通过前向计算生成。它可以联网,但那是外挂工具,不是算法本体。

第二个误区:模型在推理。严格说,它做的是数值计算和概率采样。链式思考、思维树这些提示技巧,能激发出更好的中间步骤,但底层依然是 token 预测。别把它当成逻辑引擎。

第三个误区:参数越多越聪明。尺度定律确实存在,但数据质量、架构、训练策略、后训练,一个都不能少。参数量只是其中一维。MoE 还把总参数和激活参数拆开看。看榜单更没意义——等等,不说榜单。

“南京”这个词,在模型内部不是地点,是一串 token ID,加上多层注意力之后的向量。它和“盐水鸭”“江苏”“大学”邻近,也和“蓝鲸”共享某些上下文模式。你看到的是词,它看到的是几何。

和一位做推理优化的朋友聊了半小时

和一位做推理优化的朋友聊了半小时
和一位做推理优化的朋友聊了半小时

我问他:为什么同一个问题,问两次答案不一样?

他说:采样啊。温度不为零,就有随机性。想要稳定,温度调低,或者 greedy。但太 greedy 会死板,重复,甚至卡进循环。

我又问:那幻觉能根治吗?

他摇头:只能压。检索增强、工具调用、事实核查、训练数据清洗,都能帮忙。但模型本质是在生成“像真的”文本,不是“真”文本。目标函数不改,幻觉就有生存空间。

“那 MoE 呢?”

“一堆专家,路由器每次挑几个。省算力,但训练不稳。专家之间会抢活,也会摆烂。得加负载均衡损失。”

聊着聊着,他说了句挺实在的话:大模型算法不是魔法,是一堆工程妥协堆出来的效果。我当时没接话,因为风扇太吵了。

冷思考:接下来拼什么

接下来几年,算法不会停在 Transformer 这一页。状态空间模型、线性注意力、混合架构,都在试。但别指望某个新名词一夜颠覆。训练成本、推理成本、数据瓶颈、评估方法,全是绳子。哪根短了都跑不快。

另一个方向是记忆和工具。模型自己记不住太多,就外挂向量库;算不准,就调计算器;不知道最新消息,就检索。算法边界在往外扩,但核心问题没变:怎么在有限算力下,让下一个 token 更靠谱。

回到那晚的“蓝鲸盐水鸭”。我后来把温度调低,重新问了一遍。它改口了,说南京。可我知道,这不是它“知道”了,只是采样路径变了。

大模型算法最迷人也最气人的地方,就在这儿。它像一面镜子,照出数据的分布,也照出我们提问的方式。你越把它当人,越容易失望;你把它当概率机器,反而能摸到它的脾气。

作者|科技

排版|科技

审核|阿辰

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大模型算法:它把“南京”写成“蓝鲸”那晚,我盯着显存曲线发了会儿呆
文章链接:https://m.lfdjt.com/p/keji/a/25379.html