上周我奶奶把我拽到阳台，塞给我半张皱巴巴的便签，上面歪歪扭扭写了三行字：“最近总听老姐妹说什么大模型，能写东西还能聊天，你上次教我用的那个手机里的东西，是不是就是啊？”
我当时正啃半个绿豆冰棒，冰水滴到手腕上。愣了两秒才反应过来——她指的是上个月我帮她装在老年机上的那个对话工具。
它根本不是“会说话的百科全书”
我一开始真的以为，这东西就是把全网的公开内容攒成了个超大的资料库，谁问什么就从里面扒出来拼好给人看。直到那天我顺着奶奶的需求，输入了第一行提示词：“帮我写一段适合70岁老太太看的，关于秋冬泡脚的注意事项，不要有专业术语，要像楼下张阿姨聊天的语气。”
出来的内容确实顺，没有“寒湿痹阻”“血液循环”这类听不懂的词，连句子的节奏都跟张阿姨平时说话一模一样。我当时还没觉得有什么，直到我临时补了个前提：“我奶奶有轻度糖尿病，泡脚水温不能超过37度，刚才的内容改一下。”
它直接删掉了之前写的“40度左右泡15分钟最合适”，改成了“家里没有温度计的话，用手肘内侧试，温温的不烫就好，绝对不能泡到额头冒汗，泡完赶紧把脚擦干净，别在凉地板上站着”。
这时候我才反应过来，它根本不是在“查资料”。
之前有个做开发的朋友跟我掰扯过半天，说很多人对它的误解从根上就错了。它不是像图书馆那样，把每本书的每一页都存好，等着人来检索。它是在训练的时候，把全世界能爬到的文字内容都拆成了一个一个的“小碎片”，记住了这些碎片之间最常见的搭配关系——就像你从小听人说话，听多了就知道，“天上下雨”后面大概率要接“地面湿”，而不是“太阳红”。它的核心逻辑从来不是“找正确答案”，而是“接最符合语境的话”。
我当时听完觉得有点抽象，直到我故意给它出了个网上根本找不到现成答案的题：“写一段住在快递柜第二层的三花流浪猫，第一次在小区楼下见到雪的心理活动。”
它写的句子是：“爪子刚碰到雪的第一秒，我以为是哪个住户掉了半块化了的冰棒，凉丝丝的，比夏天躲在快递柜层板后面吹到的空调风还软。”
鸡皮疙瘩都起来了。
这哪是抄的？全网哪有现成的“快递柜流浪猫见雪的心理活动”？它是把见过的所有关于猫的习性、雪的触感、快递柜的狭小环境、夏天空调风的温度这些碎片，揉成了一个完全新的、逻辑通顺的句子。
那些你以为的“bug”，其实是它的出厂设置
知道了这个逻辑，之前很多人吐槽的“幻觉”问题就好理解了。
上次我帮我爸改退休发言稿，我让它“把发言稿里提到的2023年单位拿奖的部分，写得更实在一点，不要太虚”。结果它编了个听起来特别正规的表彰名称，叫“2023年度全省工业系统节能改造示范单位”。我爸看完直接拍桌子，说“我们哪拿的这个奖？我们拿的是市级的！”
我当时汗都下来了，翻了半天单位的公开公示，根本找不到这个省级奖项的信息。
这真不是它故意撒谎。你换个场景想——你跟朋友聊天，对方突然问你“上次你们部门拿的那个奖是啥来着”，你记不清具体名字了，也不好意思直接说“我忘了”，就会顺着对话的语境，说一个听起来特别像那么回事的名字。它本质上跟这个行为一模一样。它根本不知道什么是“真的”，它只知道，在“单位拿奖”这个语境里，放一个听起来很正式的奖项名称，是最符合文字搭配逻辑的。
说实话，换我记岔了，说不定编的还没它像呢。
很多人骂它“不靠谱”，其实是一开始就把它的定位搞错了。你要是拿它当一个什么都知道、从来不会错的老专家，那你肯定会失望；但你要是把它当一个随叫随到的、不会偷懒的实习助理用，它的好用程度会超出你的预期。
你把它当一个需要你全程盯着的实习生，而不是一个可以完全托付的专家，它的价值才会真正发挥出来。
我现在用它做什么？把我爸干巴巴的退休发言稿，改成“退休那天我在办公室柜子里翻到了12年前刚入职时领的那个搪瓷缸，上面印的‘安全生产’四个字都磨掉一半了”；帮我奶奶把她记在烟盒纸背面的养绿萝笔记，整理成老姐妹能听懂的顺口溜；甚至上次我家猫把沙发抓出一道半米长的印子，我让它帮我想个能跟我妈交代的、听起来不像是我故意惯着猫的理由，它给我写的“上周连下三天雨，猫窝太潮，它才跑到沙发上蹭着磨爪子，等天晴了我就给猫窝铺个防水垫”。
我妈居然信了。
太好用了。
别被那些“颠覆世界”的宣传吓住
前阵子去参加一个线下的科技分享会，台上的人讲得唾沫横飞，说再过几年这东西就能当医生、当老师、接所有的岗位。我坐在底下啃主办方提供的柠檬味小饼干，越听越觉得不对。
我想起上次给奶奶改泡脚注意事项的时候，我特意补了一句“我奶奶膝盖有老寒腿，泡的时候要注意什么”。它写的是“泡的时候可以在膝盖上搭个干毛巾”。
我当时就笑了。
我奶奶的老寒腿是年轻时候在冷库上班落下的，一受凉就钻心疼，搭个干毛巾有啥用？它根本不知道干毛巾挡不住深秋的寒气，也不知道老寒腿的人泡完脚要是不把膝盖裹严实，下楼倒个垃圾的功夫，就能疼到走不动路。这些经验，是我奶奶活了72年，冬天出门要给膝盖套两个厚护膝的记忆，是刻在她骨头里的感受，不是它在网上爬几百万篇文章就能学明白的。
它学不会疼。
现在大家对它的态度总是走极端，要么把它吹成能颠覆一切的神，要么把它骂成一无是处的骗子。其实都没必要。
说穿了，它就是你手机里那个智能输入法的超级放大版。你刚用智能输入法的时候，觉得它猜你下一句要打的字太准了，简直是你肚子里的蛔虫；用久了就知道，它也就是能猜个大概，真要写个掏心窝子的话，还是得你自己一个字一个字敲。大语言模型只是把这个“猜下一句”的能力放大了无数倍——它能接更长的句子，能写更长的段落，能记住你之前跟它说过的几十页的内容，但本质上，它还是在猜。
前几天有个刚上大二的小孩找我，说“那我以后写课程论文是不是全靠它就行？”
我跟他说，你要是让它帮你列个大纲，改改你写的不通顺的句子，完全没问题。但你要是让它帮你把整篇论文写完，你最后交上去的东西，连你自己都不知道里面哪句话是对的，哪句话是它编出来凑数的，那最后吃亏的还是你自己。
毕竟，那些真正重要的、带着个人温度的内容，从来都不是靠“猜下一句”能写出来的。
就像我奶奶现在逢人就夸，说我家小孩会做的那个“智能盒子”，写的顺口溜比小区宣传栏的通知好懂。她不知道的是，我每次把它生成的内容给她之前，都要把里面那些不符合她生活经验的句子，一句一句改过来。
这才是它最真实的样子。
作者|科技
排版|科技
审核|阿辰