凌晨两点十七分，你盯着电脑屏幕上的甲方需求文档，手指悬在键盘上半天，最后还是点开了熟悉的对话框，敲下一行字：’帮我写一份线下品牌快闪活动的复盘大纲，要能接住甲方之前提的’年轻感”强传播’那两个虚头巴脑的要求。’
点击发送。
等。
真的没在等。
你以为屏幕那头的大模型在捋逻辑、找案例、想结构，像你上学时考场上抠着脑袋想作文题那样？
根本不是。
等回复的那两秒，它根本没在’思考’
你看到的逐字蹦出来的回复，本质是模型在做一轮又一轮的概率计算。这里要讲透自回归逐词生成逻辑——它从来不会一次性把整段回复的内容想好，是从你输入的第一个字开始，顺着文本的上下文，一个词一个词往外’猜’。
比如你输入的开头是’这次快闪活动的核心亮点’，它不会真的去数你这次活动来了多少人、发了多少篇小红书笔记，它只会把训练阶段喂给它的几万亿字的公开文本里，所有接在’快闪活动核心亮点’后面的表述，按出现的频次和匹配度排个序，从最常出现的组合里，挑一个最顺的词先打出来。
打出来第一个词之后，它又会把刚打出来的这个词，重新算进上下文里，再猜下一个词。
我第一次知道这个原理的时候，盯着屏幕愣了三分钟。合着我之前对着模型输出的内容拍大腿喊’太懂我了’，本质是它把全网几亿人写过的活动复盘内容翻了个遍，猜我最可能想看啥？
说穿了，它不是个能思考的’智能体’，是个把所有人类写过的文本都背下来的、超级会接话的概率高手。
那些被吹得神乎其神的效果，藏的全是不显眼的笨功夫
很多人现在提到大模型算法，第一反应是是不是有什么藏在论文里的黑科技，是那种普通人看一眼就头大的复杂数学公式，能让模型突然就变聪明。
真不是。
我之前跟一个参与过开源大模型开发的工程师吃饭，他啃着烤羊腿跟我吐槽，现在圈里的宣传全在吹架构多么花哨、参数多么吓人，根本没人提真正拉开效果差距的细节——就是没人愿意说的，预训练阶段的语料清洗投入。
你想啊，模型吃进去的语料是什么，它最后吐出来的东西就是什么。要是你爬的语料里混了三分之一的垃圾广告、爬虫生成的重复内容、论坛里的骂街内容，哪怕你把参数堆到天上去，模型输出的内容也会飘着一股怪味。
之前有个刚放出来的开源模型，刚上线的时候大家测试，问啥都能蹦出来几句骂人的话，查来查去才发现，是团队爬语料的时候没筛干净，把某几个匿名论坛的全量内容都喂进去了。
你说这跟算法架构有啥关系？
说穿了就是干活不细。
过去三年里，大模型的核心算法框架其实没什么颠覆性的变化，大家做的都是些边角料的优化：比如怎么让模型算得更快一点，怎么让长文本的记忆更准一点，怎么在生成的时候少跑点空费的算力。真正能让一个模型的输出让人觉得’舒服、靠谱’的，从来不是什么天纵奇才的算法设计，是你在清洗语料的时候多筛掉多少垃圾，在调参的时候多跑多少轮测试，在对齐人类偏好的时候多找多少真实用户来标数据。
这些事儿一点都不酷，也没法写在PR稿里吹，但是缺了哪一样，模型出来的效果都差一大截。
别被噱头晃晕，大模型算法的天花板从来就没藏着
这两年总有人说，等模型再大一点、参数再多一点，就能像人一样有自主意识，能帮人解决所有复杂问题了。
听着就玄乎。
你只要想明白它的本质是概率计算，就知道它的天花板在哪了——概率匹配的本质缺陷决定了，它永远只会生成’最可能出现的内容’，永远不会自动生成’最正确的内容’。
举个我自己遇过的真事儿。上个月我家猫偷啃了半颗洋葱，我急得对着大模型搜’猫吃了洋葱怎么办’，它给我扯了十分钟洋葱的营养成分，说少量食用对猫没有伤害，建议我在家观察就行。我信了它的邪，等到晚上猫开始精神不振，抱着去急诊的时候，大夫说再晚来俩小时就要出现溶血反应，救都救不回来。
你说它为啥会给出错的答案？根本原因是网上关于’猫能不能吃洋葱’的内容里，有一大堆没养过猫的营销号写的错误科普，这些内容的传播量足够大，在模型的概率计算里，就会被排在更靠前的位置。它根本没有判断对错的能力，只是在猜哪段内容最符合它见过的文本规律。
我后来跟那个做模型的朋友聊起这事儿，他笑到可乐都喷了，说现在大家对大模型的误解，就跟十年前大家觉得搜索引擎能解决所有问题一样——你把它当万能顾问，迟早要栽跟头。
说实话，现在的大模型算法，最擅长的事儿从来不是帮你做决策、给你标准答案。它最擅长的，是当一个读过全网所有书、但从来没有真实生活经验的实习生：你把零散的想法丢给它，它能帮你快速拼成一段通顺的草稿，帮你把卡住的思路往前推一步，帮你把枯燥的技术文档翻译成普通人能看懂的话。
你要是真把它说的每句话都当真理，那才是真的被算法绕进去了。
对了，上次我把猫在急诊输液的照片发给那个做模型的朋友，他说要把这段真实经历加进模型的对齐语料里，免得下次再有人问猫吃洋葱的问题，模型再瞎给建议。
你看，哪有什么神乎其神的智能啊。
都是人一点点攒出来的笨功夫而已。
作者|科技
排版|科技
审核|满满