凌晨三点，我坐在书桌前，电脑屏幕亮得晃眼。窗外巷口卖活珠子的张阿婆正推着三轮车往家走，铁皮桶晃得哐当响。我本来只是想让面前的大语言模型帮我改改上周写的皮肚面探店文案——我自己写的那版太碎，一会儿说老板给我多舀了勺辣油，一会儿说我被梧桐毛打了三个喷嚏，自己看着都觉得没章法。
结果它给我整出来的东西，我盯着看了半分钟。
“藏在巷弄里的烟火美味，是都市人疲惫生活里的温柔注脚。”
温柔注脚个鬼。我上周去的那家皮肚面摊，连个正经招牌都没有，老板炒猪肝的时候锅铲响得半条巷都能听见，哪来的温柔注脚。
你以为它在”懂你”，其实它在”凑概率”
之前我找在大厂做算法的朋友撸串，喝了三瓶啤酒他才跟我说实话，这东西根本没有大家吹的那种”智能思考”能力。
它的底层逻辑简单到离谱。就是把训练时喂给它的几万亿字文本拆成一个一个的小词块，然后算每一个词块后面，最常跟着出现的下一个词块是啥。
没有理解。没有判断。
就是算概率。
说出来真的挺扫兴的。上次我让它写南京秋天的梧桐，它给我写了”金箔般的落叶铺就浪漫归途”——我家楼下北京东路的梧桐，落的叶子粘了一鞋底的果毛，走两步就痒得要揉半天鼻子，浪漫个屁。
它根本没见过秋天飘在南京空气里的梧桐毛。它只是在训练文本里见过”梧桐””秋天””浪漫”这几个词经常凑在一起出现，就顺理成章给你拼出来了。
那些”一本正经胡说八道”的瞬间，从来不是偶然
说实话，我现在对它说的每一个具体信息，都要打个问号。
上周邻居阿姨找我，说她要退租房东扣了她半个月押金，她特意去问了大语言模型，对方给她列了三条《南京市房屋租赁管理办法》的条款，说房东扣押金是违法的，拿着手机就要去跟房东吵架。
我吓了一跳，赶紧去南京市住建局的官网翻了最新的管理办法。
那三条条款，连影子都没有。
全是它编的。
编得还特别像那么回事，连条款编号都给你写得整整齐齐，要不是我真的去翻了原文，我都差点信了。
还有更离谱的。我上次让它帮我算家里每个月的公摊水电费，它给我列了个公式，算出来的数比我实际交的多了两倍多。我翻回去核对，才发现它把楼道里的声控灯全年的用电量，全算到单月的公摊里了。
它根本不知道”每月”是啥意思。它只是在训练文本里见过”公摊水电费””计算公式”这些词，就东拼西凑给你整了个看起来很专业的答案。
很多人用它的时候，总觉得它说的话顺，逻辑顺，就一定是对的。
错。
顺不代表对。它只是最会顺着概率说话而已。
把它当嘴碎的实习生用，比当万能神好用一百倍
我现在用它的方式，其实特别简单。
就像你刚招的实习生。
这实习生脑子转得快，看过的书多，半小时能给你整理出几十页的参考资料，写个初稿速度快到飞起。但是他没在南京生活过，不知道皮肚面要煮硬一点才不烂，不知道秋天的梧桐毛会飘进领口，不知道退押金的时候房东总能找出各种奇奇怪怪的理由扣钱。
你让他帮你找资料，帮你列提纲，帮你把零散的想法拼成通顺的初稿，他能给你省巨多时间。
但你要是让他直接拍板，说这个事一定对，这个法条一定存在，这个数据一定准确——那你迟早要吃大亏。
上次我赶一个线下的分享，要整理三个南京非遗手艺人的公开资料，我自己搜了两天才找着两个。后来我给大语言模型列了个非常细的提纲，要求它只找公开报道里的信息，半小时就把三个人的代表作品、最近的活动、甚至之前接受过的媒体采访链接都列出来了。
省了我多少事啊。
但我转头就对着每一条信息核对了一遍。果然，有个手艺人的作品创作年份给写错了，差了整整十年。
你看，这就是实习生的水平。干活快，但是容易粗心。
前阵子刷到有人说，大语言模型迟早会取代所有写字的人。
我看未必。
就像巷口那家开了二十年的皮肚面摊，不会因为有了预制面就把熬了半天的老汤倒了。预制面快，但是少了那点飘在汤面上的猪油渣，少了老板看到熟客就多舀一勺辣油的人情味。
大语言模型能生成所有读起来顺的句子。但它没在凌晨三点被梧桐毛呛得打过喷嚏，没在皮肚面摊前排过二十分钟的队，没见过南京夏天的暴雨把人行道淹到脚踝，没听过张阿婆卖活珠子的时候喊的那句”刚煮的哦”。
这些东西。
它凑不出来。
作者|科技
排版|科技
审核|小北