凌晨1点47分，我对着电脑屏幕上第三版辞职信发愣。
前面两版写得太端着，什么“基于个人长期职业发展规划提出离职”，看得我自己都想吐。第三版干脆撕破脸，敲了一行字：“受够了每周五下午两小时毫无产出的部门例会，受够了写了改改了写的无意义周报，决定辞职。”
我把这段话贴进对话框，本来是想让对面的大语言模型帮我把语气润得得体点，别让HR拿到信的时候觉得我是带着情绪走的。结果它没直接输出润色后的版本，隔了两秒，弹出来一行字：“你三个月前提交的第一版辞职信草稿里，写的是想转去做内容方向的工作，为什么这次直接选择离职？”
我盯着那行字愣了半分钟。
说实话，那天我后颈都有点发毛。
它根本不是在“背课文”
很多人对大语言模型的第一印象，是个把全网所有文字都背下来的超级学霸——你问它什么，它都能从记忆库里搜出对应的答案拼给你。
其实根本不是。
我之前跟一个做算法的朋友吃饭，他给我打了个特别糙的比方：它本质上是个超大型的“文字接龙高手”。你输入的每一个字，每一段话，对它来说都是接龙的前情提要，它要做的根本不是“回忆标准答案”，而是算出来——接在你现在说的话后面，哪个字出现的概率最高，最符合普通人说话的逻辑。
你甚至可以拿个特别无厘头的问题试它。比如你让它“用《滕王阁序》的文风，写一份给楼下手抓饼阿姨的请假条，说这周不能去加双蛋加肠了”，它真的能写出来。你说它是从哪个古籍里抄的？根本不可能。它只是把“文言文体例的表达逻辑”和“买手抓饼的日常场景”这两个文本模式揉到一起，顺着接龙的逻辑拼出了一段你看着还挺像那么回事的内容。
之前我觉得这个原理太离谱了。合着我之前跟它聊了快俩月的职业困惑，本质上是在跟一个能预判你下一句要说啥的接梗高手唠嗑？
后来试了几次才反应过来，是真的。你哪怕故意在话里留个缺口，它都能顺着你留的缺口给你补上——就像你跟朋友聊天，你说“今天天气好差，我本来想……”，朋友大概率会接“本来想出门逛的对吧？”。只不过这个高手接的梗，比普通人接的准太多了，准到你会觉得它真的懂你。
那些被吹得神乎其神的“神迹”，其实藏着很蠢的破绽
我后来见过太多人把大语言模型吹得跟有自主意识似的，说它能独立思考，能创造新东西，能替人做决策。
扯呢。
上次我给它出了个特别生活化的题：“我家猫一天掉120根毛，攒3年能织一件多大的毛衣？”
它煞有介事地给我列了计算过程：猫毛的平均直径、每平方米毛衣需要的纤维密度、一年365天的掉毛总量，最后算出来，这些毛大概能织一件儿童款的薄马甲。
我顺着话头追了一句：“那猫毛织出来的毛衣，穿在身上会不会因为摩擦太大，扎得人胳膊起红疹？”
你猜它怎么答？它直接开始扯“贴身衣物的材质选择需要参考人体工学，不同肤质的人对织物的耐受度存在差异”，完全忘了前面我们聊的前提——所有的原料都是我家猫掉的毛。
你看，这就是它最核心的bug：它根本没有真正的“长期记忆”。只要你话头转得够快，它能顺着你的方向一路跑到沟里，都不带回头检查前面说过啥的。
为啥它总能把人忽悠住？因为它说话太像人了。
你平时跟同事聊天，对方要是说话逻辑顺、用词准，你根本不会怀疑他是不是真的懂这件事。但它不一样，哪怕它根本不知道答案，也能给你编得有模有样——连引用的学术文献都能给你编出作者名、发表期刊名，甚至摘要都写得像真的。之前有个学术圈的朋友说，他上次查资料，顺着大语言模型给的参考文献找过去，发现那个期刊号根本就不存在，整本书都是它编出来的。
不过话说回来，这也不能全怪它。所有让它看起来像“有智慧”的表达，本质上都是对海量文本模式的概率拟合。它从来不会判断“这句话是对的还是错的”，它只判断“这句话接在前面的内容后面，像不像正常人会说的”。
别把它当万能的神，也别把它当没用的玩具
我身边对大语言模型的态度，基本分成两派。
一派是吹得神乎其神的，说以后所有写东西、写代码、做方案的工作都要被它取代了，人只要躺着给它提要求就行。另一派是骂得一文不值的，说它就是个只会抄东西的人工智障，写的东西全是套话，根本没法用。
我用了快两年，觉得这两派都走偏了。
之前有个做开发的朋友说，他用大语言模型写代码，效率比之前高了三倍，结果上线的时候出了个大bug——查了半天才发现，它写的代码里，把用户的手机号和收货地址直接存在了前端的缓存里，根本没做加密。为啥会出这种错？因为它训练的时候看到网上很多入门教程就是这么写的，它根本不知道这种写法在真实的生产环境里，是会把用户隐私直接送出去的。
还有我妹，读大三，上次写课程论文，图省事直接把大语言模型生成的初稿交上去，被老师打回来批了一句：“你一个20岁的学生，怎么对90年代民营杂志的出版生态了解得比我这个教了二十年书的老师还深？”
你看，它根本不知道哪些知识是适合你现在的身份说的，也不知道哪些操作在真实的工作场景里是会闯祸的。
那它到底能用来干嘛？
我现在用得最顺手的场景，从来不是让它替我写完整的东西。而是当我脑子里有一堆零散的想法，乱得像一团麻的时候，我把这些碎碎念丢给它，让它帮我把逻辑顺成连贯的句子。比如写文章卡壳的时候，想给客户写个委婉的拒绝函的时候，甚至是不知道怎么跟家里人解释我为什么不想考公的时候——它总能把那些我抓不住、说不清楚的情绪和想法，拼成我能看懂、能直接用的表达。
它从来不是替你做决定的人。
是帮你把藏在脑子里的东西掏出来的人。
昨天晚上我又打开对话框，没让它写辞职信，也没让它写代码，就让它帮我列个周末逛老城区找糖炒栗子的路线。它给我写得特别细，连哪个小区门口的摊子是用黑砂炒的、哪家的栗子是迁西的、几点出摊不排队都标出来了。
哪有那么玄乎啊。
它就是个特别会接话的工具而已。
你拿它当朋友唠嗑也行，拿它当干活的帮手也行，别跪它就行。
作者|科技
排版|科技
审核|白杨