初秋南京街头蹲：大模型算法到底在算什么

昨天在新街口过街地道躲太阳，靠在墙根等朋友赴约，旁边坐两个穿校服的小孩，对着手机翻教程咬奶茶吸管，吐槽说大模型算法怎么全是听不懂的词，看了一下午还是不知道这玩意儿到底在算什么。

其实不止学生，我前阵子跟开设计工作室的老板吃饭，他也问我，天天说大模型，到底这个算法是怎么干活的？说了半天全是术语，听得人头大。

别翻百科了，换个老百姓能懂的说法

大模型算法从始至终，核心就是做一件事：猜下一个字。

你发微信的时候输入法会给你推候选词对吧？你输入「今天去南京吃」，输入法会给你推「鸭血粉丝」「梅花糕」，因为它从亿万条用户输入里算出，这几个词跟在「今天去南京吃」后面的概率最高。

大模型算法做的事，本质上跟这个输入法猜词一模一样。唯一的区别是，它把这个游戏放大了亿万倍。

输入法只记你常用的词和最近的输入习惯，大模型记了几乎整个互联网公开的所有文字内容——从春秋战国的古文，到昨天网友发的微博，从专业论文公式，到网红店的打卡文案，全进去了。它每出一个字，都要把之前你输入的所有内容，和它记过的所有内容做一遍概率计算，挑出概率最高的那个字放出来，然后再算下一个，循环往复，直到你让它停。

你让它写一首南京秋天的诗，它第一个字出「秋」，再算「秋」后面跟哪个字概率最高，大概率是「风」，再算「秋风」后面跟什么，可能是「吹」，就这样一个字一个字凑，凑完一整首。

说实话，我第一次想通这点的时候，手里刚咬了一口的鸭油酥饼都掉了。原来那些动辄吹得神乎其神的千亿参数大模型，本质就是个放大版的输入法猜词？

真的就是这么简单。

没有什么黑魔法，也没有什么突然觉醒的自我意识，它从出生到现在，从来没离开过「算下一个字的概率」这个核心逻辑。

大多数人都踩过这些误区

聊到这里肯定有人抬杠，那它能写代码能做数学题，怎么会只是猜字？这里就得掰扯掰扯几个常见的误区了。

第一个误区：参数越大，大模型算法就越厉害。

很多自媒体写文章，开口就是千亿参数，好像参数堆得越多，算法就越牛。其实参数只是大模型能存储的「关联关系」的容量，不代表算法本身的能力。同样是一百亿参数，不同的训练方法、不同的数据质量，出来的效果能差十万八千里。我见过小参数的算法做垂直领域的事，比大几百亿的通用模型好用太多，精准度高，跑得还快。

第二个误区：大模型算法真的会推理思考。

它能做数学题，不是因为它懂加减乘除，是因为它见过太多网上的数学题和答案，猜下一个数字猜得准而已。你换个没怎么在网上出现过的刁钻计算，比如让它算「3792乘8614等于多少」，它大概率给你瞎编个数字，因为它根本没见过多少人写过这个具体的算式，猜不对下一个数字是什么。

第三个误区：大模型算法是最近几年才发明的新东西。

不对不对，这个「猜下一个字」的核心框架，十几年前就有了。那为什么最近才火？因为之前跑不起这么大的规模。显卡不够贵，数据不够多，就算有框架，也跑不起来千亿级的参数，出不来能用的效果。这几年显卡堆够了，互联网数据也攒够了，才突然爆火。

不过话说回来，框架没变，这些年加的小技巧还是很多的。比如大家常听的RLHF，很多人吹得玄乎，说白了就是让人类给大模型的输出打个分，再调教它往人类喜欢的方向猜，不让它说疯话，仅此而已。

我最近听到的有意思的新方向

前几天跟紫金山那边一个实验室做算法的朋友喝咖啡，他说现在圈里的风向早就变了，不再堆参数比大小了。

大家现在都在往「小」做。把大模型算法做小，做到能塞进手机，能放进车载芯片，不用连云端算，打开就能用，还不会泄露你的隐私。之前大家觉得没个上百亿参数做不了的事，现在优化下来，几十亿甚至几亿参数就能搞定，做个周报整理，写个活动初稿，完全够用。

还有就是往「专」做。不做什么都能聊的通用大模型，就把算法钉在一个垂直领域里练，比如做医药的就只练医药的公开文献，做法律的就只练裁判文书和法条，不用去背娱乐圈的八卦，也不用记哪个网红店出了新品，算得更快，出错更少，专业性强太多。

很多人天天喊大模型算法要取代人了，我倒是一点不慌。它就是个会拼信息的超级打字员，帮你整理资料，写个初稿，改个格式，确实能省好多时间，但真要做决策，真要讲良心，拍板的还得是人。

去年我让大模型给我写南京小众游攻略，它特意给我推荐老门东某家开了十年的梅花糕，说去南京必吃。我特意绕过去找，那家店三年前就转出去了，现在那里是卖手打柠檬茶的。它就是把网上所有提过「老门东 梅花糕」的内容拼在一起，根本不知道店已经关了这件事——它不会真的去南京街头看一眼，对吧？

所以啊，别神化它，也别妖魔化它。它就是个新出来的工具，跟你几十年前用的计算器，十几年前用的搜索引擎，没什么本质区别。用得好，能帮你省力气，用不好，也就是给你凑点没用的垃圾文字。

巷口糖炒栗子出锅了，老板喊我去拿，今天就聊到这儿。