0923那天躲台风，我泡在南京老门东边上一家社区咖啡店蹭一下午空调。邻座两个背电脑的大学生，凑在一块聊大模型，一个拍桌子说不就是拼概率骗外行，另一个挠头说哪有这么简单，争到咖啡都凉了。
我捧着手里的桂花乌龙听了半天，发现好多人对大模型算法的误解，比糖度少放半糖的乌龙还淡。说白了，大家只知道大模型能聊天能画图，根本不知道它背后到底在跑什么。
你敲字的时候，它在偷偷算什么
很多人默认，大模型就是把整个互联网的内容都背下来，你问问题它直接搜现成的答案扔给你。真不是这么回事。
你每敲一个字，它都在从头重新算一遍。
比如你输入框里打「南京秋天必去的」，大模型不会翻数据库找别人写好的攻略，它要做的第一件事，是算下一个字，哪个字接在这里最合理。是「地方」还是「景点」？还是「火锅」？给每个可能的字打个分，挑得分最高的那个放出来。放完第一个字，再算下一个，一个字一个字往外蹦，直到给你凑出一整段话。
说实话，我第一次搞懂这个逻辑的时候，鸡皮疙瘩都起来了。原来我们看到的一整段通顺的回答，是大模型一个字一个字「猜」出来的？
那这不就是瞎蒙吗？话也不能这么说。蒙也是有讲究的，给字打分的规则，就是大模型算法最核心的东西。
之前跟南大计算机系的朋友撸串，他说现在所有人都在聊参数多大，训练数据多少G，说白了都是凑出来的配料。算法才是大模型的骨架，参数只是填进去的肉。没有合理的算法，给你再多数据也堆不出一个能正常聊天的模型。
那些被外行忽略的算法巧思
一提大模型算法，好多人张嘴就说Transformer，说注意力机制，说一堆术语把外行吓跑。我换个大家能听懂的说法。
你跟大模型聊天，聊着聊着会扯出前因后果，比如你开头说「我下周去南京玩，住老门东附近」，聊了十句之后你问「附近有没有好吃的盐水鸭店」，它得知道你说的「附近」是老门东的附近，不是你老家的附近对吧？
放在十几年前的旧模型里，它根本记不住前面说过什么，聊个三五句就跑偏了。现在的大模型不会，核心就是那个被吹烂了的注意力算法——说白了，它会自己给你说过的每一句话打分，哪句是重点，哪句是废话，一眼就能分出来。说到「附近」，它自动把权重放到「老门东」那句上，无关的废话直接忽略。
就这么一个简单的思路，改一改，磨一磨，熬到算力够了数据够了，突然就成了改变整个行业的东西。不过话说回来，现在网上吹的各种「全新颠覆性大模型算法」，十有八九都是换汤不换药，根子里还是那个老思路改出来的，没必要听他们瞎吹。
普通人不用懂公式，但得避开这些误区
说了半天，肯定有人说，我又不做算法，搞懂这个有什么用？还真有用，至少能避开好多割韭菜的坑。
第一个误区，好多人说大模型算法已经接近人脑了，无所不能。真的吗？你随便找个大模型，让它算1357乘2468等于多少，多问几次，能给你出好几个不同的结果，没一个对的，你信不信？
为什么会这样？因为它本来就不是为了算精确答案设计的，它的核心逻辑就是猜下一个字最可能是什么，追求的是通顺，不是正确。遇到需要精确逻辑、精确计算的东西，它当然容易错。这个是算法底层逻辑决定的，不是堆点参数就能解决的。
第二个误区，到处都是「大模型算法要取代所有人」的论调。我就问一句，当年搜索引擎出来的时候，也有人说要取代记者取代编辑，现在呢？记者编辑不还是好好的？工具就是工具，大模型算法就是个帮你整理信息、省力气的工具，就跟当年的搜索引擎、现在的外卖软件一样，替代的是重复的劳动，替代不了你自己的判断。
那天那个学设计的学生说，现在甲方动不动就让他用大模型画图，然后改两笔就说是自己做的，钱还砍半。说白了，这不是大模型的问题，是甲方黑心的问题，跟算法没关系。
还有个误区，现在随便阿猫阿狗都出来说自己有独家大模型算法，骗投资骗加盟。你去查一查，十家有九家都是拿开源的基础模型改了个界面，换了个名字就出来吹自研，算法核心一点没动，就是赚信息差的钱。
说来说去，大模型算法确实厉害，这几年发展的速度快到吓人。但也真没到那些自媒体吹的神乎其神的地步。它现在能做的，还是帮我们把已经存在的信息重新排列组合，造不出真正全新的东西，也做不到百分百准确。
那天临走的时候，那个学生追出来问我，你说再过五年，大模型算法会变成什么样？我看着外面雨停了，老城墙的树叶子往下滴水，就跟他说，谁知道呢？反正肯定比现在好用，能帮我们多省点力气，多做点有意思的事。至于别的，我们先喝好手里这杯咖啡，不好吗？
作者|科技
排版|科技
审核|知知