大语言模型不是背答案的学霸:我在出租屋和它聊了三晚才搞懂的事

上周三加班到十点半,地铁口的风裹着梧桐絮往脖子里钻。 我攥着半凉的奶茶往出租屋走,满脑子都是这周要交的、改了三版还是被领导打回来的活动方案。推开门先泡了碗加肠的泡面,拆调料包的时候突然想起上周朋友甩给我的链接——说他现在全靠那玩意写周报,领导连标点都没怀疑过。 我点开那个大语言模型的对话框,本来想随便扔个“帮我写个社区活动方案”试试水,鬼使神差打了行字:“如果把泡胀的泡面汤倒去浇绿萝,会不会把花浇死?” 发送键按下去的三秒里我还在笑,觉得这东西肯定会给我搜一堆养花常识出来。结果它的回复跳出来的时候,我夹着泡面的筷子都停在半空:它说之前有个网友在本地论坛发过同款经历,泡胀的泡面汤因为有面的淀粉残留,浓度不高的话浇绿萝不会烧根,但如果汤里加了太多盐和调料,最多两次就会让叶片发黄。 我盯着屏幕愣了好久。

它根本不是“存了一整个图书馆”

之前我对这类工具的所有想象,都停留在“把全网的书都背下来的超级学霸”层面。直到上周约了个在互联网公司做算法的朋友吃烧烤,他听完我对它的“崇拜”,直接把手里的烤筋往盘子里一放,说你那是完全想错了。 它根本没“记住”任何东西,也根本不知道自己说的每句话是什么意思。 他给我打了个比方,说这东西的运行逻辑,跟你刷了十年朋友圈之后,看到有人发“今天加班到三点”,你能自动猜到后面跟着的肯定是“有没有同款打工人”或者“老板是傻逼”没区别。你没有把所有朋友圈都背下来,只是摸透了这些汉字挨在一起出现的概率而已。
大语言模型token预测逻辑示意图
大语言模型token预测逻辑示意图
我当时差点把手里的冰可乐洒在烤炉上。合着我前几天对着它感叹“好聪明”的那个存在,本质上是个摸透了几百万亿次文字排列规律的“接话茬高手”?它甚至不知道“泡面”是能吃的,也不知道“绿萝”是活的植物,它只是根据你输入的那串字,算出下一个字出现的最高概率,一个字一个字凑出来整段回复而已。 这太反常识了。 之前我总觉得,能写出通顺的、有逻辑的话的东西,肯定是真的“懂”我在说什么。结果真相是,它连“我”是什么都不知道。

我踩过的两个最蠢的坑

刚摸它的那一周,我踩的坑能装满半垃圾桶。 第一个坑,就是总给它扔空泛到离谱的指令。最开始我跟它说“帮我写个猫咖的领养活动方案”,出来的东西全是网上抄来的陈词滥调:什么“打造温馨社区氛围”“提升品牌影响力”,连活动流程都跟我三年前在百度文库下的那份模板一模一样。我当时还骂这东西根本没那么神,结果朋友知道了之后翻了个白眼,说你去菜市场买菜,总不能跟摊主说“我要点吃的”吧? 后来我把自己所有的碎碎念全一股脑扔给它:“我是南京一个开在老小区楼下的猫咖,下个月要做流浪猫领养活动,预算只有三千块,要覆盖周边三个老小区的住户,之前做过两次活动都只来了七个人,因为阿姨们都觉得领养的猫会有传染病,不敢带回家。” 你猜怎么着?它出来的方案里,甚至写了“活动当天可以请社区里养了十年猫的张阿姨当站台嘉宾”这种我自己都没意识到的细节。 你给的输入越碎,越有你自己的真实细节,它输出的东西就越像你想要的。 第二个坑,就是我之前真信了网上吹的“它能百分百分辨真假”。上周我跟它瞎玩,编了个离谱的假新闻:“南京今年的梧桐絮会由政府统一收集,加工成枕芯免费发给市民”,结果它煞有介事地给我列了三个“政策依据”,连哪个部门牵头都给我编得有模有样。我翻遍了南京本地的所有政务号,半毛钱相关的消息都找不到。 合着我给它编瞎话,它还能帮我圆瞎话是吧?
大语言模型prompt输入示例对比图
大语言模型prompt输入示例对比图

那些没人好意思说的冷事实

那些没人好意思说的冷事实
那些没人好意思说的冷事实
前阵子我去参加了个小范围的技术沙龙,没有铺天盖地的宣传,也没有吹得天花乱坠的PPT,都是些真正在做模型训练、做产品落地的人在聊天。散场之后我拉着个做了三年大模型落地的工程师在走廊抽烟,问他现在大家吹的“马上要改变世界”是不是真的。 他吐了个烟圈,说你别听那些卖课的瞎扯。 现在的大模型,你让它算个三位数的乘法都可能算错,更别说真的帮你做什么重大决策了。它最擅长的,根本不是什么高大上的科研突破,是帮你把那些你本来就知道、但懒得整理的碎内容,拼成通顺的话——比如你写了半页的读书笔记,扔给它,它能帮你整理成流畅的读后感;比如你想给异地恋的对象写个小作文,那些说不出口的软话,它能帮你润色得不像抄的。 它就是个工具。 那天走出沙龙的时候,南京刚好下了点小雨,路边的梧桐叶被打湿了,踩上去软乎乎的。我突然就没之前那么焦虑了。之前总刷到有人说,以后什么文案、设计、运营的工作都要被大模型抢了,搞得我那段时间连写方案都在担心是不是白学了。 可仔细想想,当年Word刚出来的时候,也没人说所有写字的人要失业啊。只是那些只会对着旧文档抄来抄去,根本没有自己真实体验的人,慢慢被淘汰了而已。 大模型能帮你写出最通顺的方案,但它根本不知道我家猫咖的那只三花,最喜欢蹲在门口的梧桐树下晒太阳;它能帮你写出最动人的小作文,但它根本不知道我对象上次来南京,跟我一起在地铁口吹梧桐絮打喷嚏的样子有多傻。 那天晚上我没再用它写方案。 我翻出之前自己花了一下午写的草稿,里面写了好多对接客户时遇到的奇葩事,那些根本不是大模型能编出来的细节。改到十二点的时候,我转头看了眼窗台上的绿萝,上次倒的泡面汤好像真的没把它浇死,叶片还油绿油绿的。 哦对,刚才我又点开那个大语言模型的对话框,问它“如果人一辈子都跟大模型聊天,会变成什么样”。 它给我回了好长一段,我看了两行就关了。 毕竟这种问题,还是得跟楼下卖烤肠的阿姨聊才有意思。

作者|科技

排版|科技

审核|小北

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大语言模型不是背答案的学霸:我在出租屋和它聊了三晚才搞懂的事
文章链接:https://m.lfdjt.com/p/keji/a/10761.html