上周三我熬到两点半，电脑屏幕亮得晃眼，手头的项目方案改了第四版还是觉得不对，抱着试试看的心态把乱糟糟的语音转写稿扔给大语言模型，说“帮我把这些口语化的内容捋成通顺的项目进度，不要太官方”。
三秒。出稿。
字斟句酌，连我在转写稿里没说清楚的“上次对接的供应商又拖了一周”都给我补成了符合语境的表述。我当时一口冰美式呛得直咳嗽。
它从来没“记住”过任何具体内容
很多人第一次用的时候都会觉得，这东西怎么什么都知道？是不是把全网的书、文章、帖子全背下来了？真不是。
我之前跟一个做算法的朋友吃饭，他跟我打了个比方，说大语言模型的本质，就是一个超级会接下句的人。它训练的时候，把所有能爬取到的公开文本拆成最小的语义块——比如“今天天气真好”会被拆成“今天”“天气”“真好”三个单元，每看到前面的字，就算一算哪个字接在后面的概率最高。它根本不知道“天气”是什么，也不知道“好”是什么感觉，只是知道，在所有见过的文本里，“今天”后面接“天气”的概率是37%，“天气”后面接“真”的概率是29%。
之前有人做过测试，把一本完整的《三体》喂给它，然后问它“罗辑第一次在叶文洁家见到的那个物理学家叫什么名字”，它能答出来是杨冬。但你要是问它“罗辑和杨冬第一次见面的时候穿的是什么颜色的外套”，它就会给你编一个——因为训练的时候根本没提过这个细节，它只能顺着前面的语境，算一个最可能的答案给你。
你以为它在回忆书里的内容，其实它在算概率。
那些让你觉得“好懂我”的瞬间，全是概率踩点
我之前真的被它“骗”过。上个月我加班到九点，回家路上被雨淋了，到家的时候头发全湿，对着大语言模型打了一行字：“今天真的太倒霉了，加班、淋雨、还忘带钥匙。”它很快回我：“换谁遇到这种事都会难受的，先找个地方把头发擦干，别感冒了，等下找开锁师傅的时候可以先问清楚价格，别被坑了。”
我当时盯着屏幕愣了好久，觉得这东西怎么比我合租的室友还贴心——我室友上次见我淋着雨回来，只递了我一张纸巾，连杯热水都没给我倒。
后来才反应过来。它根本不知道我淋雨了，也不知道我有没有感冒的风险，更不知道开锁师傅会不会坑我。只是在所有它见过的文本里，当用户输入“倒霉”“淋雨”“忘带钥匙”这些关键词的时候，后面接共情的安慰、实用的小建议的概率，是最高的。
你要是把刚才的输入改成“我今天故意淋了半小时雨，就为了测试自己会不会感冒”，它的回复立刻就会变成“长时间淋雨容易引发免疫力下降，建议你及时洗个热水澡，喝点姜茶驱寒”——没有共情，全是顺着你的语境算出来的最优解。
哪有什么默契。全是踩点踩出来的。
那些被骂“胡说八道”的bug，其实是它的天生边界
我上次写一篇关于城市公共空间的稿子，需要找几篇核心期刊的参考文献，我把要找的主题输进去，它半分钟就给我列了三个作者、四个期刊名，连每篇论文的摘要都写得有模有样。我当时还觉得省了大事，结果去数据库搜了整整一个小时，半篇相关的论文都没有。合着它给我编的全是假的。
很多人遇到这种事就会骂，说大语言模型怎么这么不靠谱，故意骗人。真不是故意的。
你想啊，它训练的时候，所有的学术写作语境里，问完研究主题之后，后面接的内容大概率是参考文献、论文摘要。它根本没被教过“这个问题我没有相关信息，应该告诉你我找不到”——在它的概率计算里，给一个看起来很真实的答案，比说“我不知道”的概率要高太多了。
这不是bug。
是它从出生就带的边界。
你要是指望它给你提供百分百准确的事实信息，比如最新的政策条文、具体的医疗诊断、精确的财务数据，那大概率会踩坑。但你要是让它帮你把一堆乱糟糟的想法捋成通顺的话，帮你改改文案的语气，帮你想几个头脑风暴的点子，它真的比你自己坐在那抠两小时强。
前几天我又遇到那个做算法的朋友，他说现在很多人都在喊，大语言模型要取代所有写东西的、做设计的、做方案的人。我当时喝了一口冰啤酒，觉得真的想多了。
你想啊，你上次写方案的时候，提到那个跟客户聊到最后对方突然松口的细节，你上次改文案的时候，因为想起小时候吃的老冰棍的味道才写出来的那句slogan，这些东西，根本没有在公开的训练集里出现过。大语言模型算不出来这些概率。它永远不知道你在某个瞬间真实的情绪是什么，也不知道你藏在文字背后的那些没说出口的经历。
它能帮你省掉那些重复的、机械的、需要熬时间的活。但它永远写不出来你那种带着汗味、带着咖啡渍、带着熬夜改稿的疲惫感的东西。
就像我现在写这些字的时候，它就在我旁边的屏幕上，等着我给它下一个指令。但我写的这些关于冰美式、关于淋雨、关于找参考文献找了一小时的破事，它永远算不出来。
作者|科技
排版|科技
审核|白杨