大语言模型不是魔法:南京深夜,一个对话框里的观察

南京的凌晨一点半,我盯着屏幕上一行报错。不是那种一眼能看懂的报错。它像一条打结的耳机线。我把报错粘给一个大语言模型。几秒后,它说:可能是你的环境变量没传进去。我愣了。不是因为它答得准。是因为它答得太像一个人了。

这感觉挺怪的。你明明知道对面是一堆矩阵乘法,可它回你一句“可以试试在启动脚本里加一行”,你差点想说谢谢。谢谢谁?一个概率分布?

深夜程序员对着大语言模型对话界面调代码场景
深夜程序员对着大语言模型对话界面调代码场景

它不是在“想”,它是在接话

很多人刚用大语言模型,会以为它脑子里有个小图书馆。问它什么,它就去书架上翻。其实不太一样。它更像一台超级会接话的织布机。你给它半句话,它把接下来最可能出现的词织出来。再织一个。再织一个。

关键词是Token。你可以把 Token 理解成词的碎片。“大语言模型”这四个字,在它眼里可能被切成更小的块。它不直接看句子,它看一串编号。然后算概率。下一个 Token 是什么?是“的”,还是“了”,还是“吗”?每个候选都有一个数。温度参数一调,它选得保守还是跳脱,就变了。

所以它没有“真相”这个概念。它只有“像不像”。像训练数据里的下一句。像人类会怎么接。这个像,有时候准得吓人。有时候离谱得想笑。你问它一个不存在的论文,它能给你编出作者、期刊、页码。还编得挺工整。这就是幻觉。不是它故意骗你。是它在接话。接得太顺了。

大语言模型Token分词与下一词概率预测示意图
大语言模型Token分词与下一词概率预测示意图

为什么它有时聪明,有时像喝多了

我有个朋友做外贸。他用大语言模型写英文邮件。短邮件、常规询盘,效果不错。可一旦涉及合同条款,他就把模型当参考,不敢直接发。这个分界线在哪?我自己的感受是:任务越开放,越需要人来兜底。写诗、起标题、头脑风暴,它很能给你惊喜。查法条、算税率、诊断病情,它给的每一个字都要打问号。

原因不神秘。它的知识来自训练数据。数据有时间截止点。数据里有偏见。有错。有过时的网页。有论坛吵架。它把这些压缩进参数里,再吐出来。你以为它在回忆,其实它在重构。重构就会丢细节。就会添油加醋。

还有个东西叫上下文窗口。你可以理解成它的临时便签。你聊得越长,便签越满。早期内容可能被挤掉。于是它突然忘了你前面说过的名字。你懊恼,它无辜。不是它摆烂,是它的工作记忆有限。

不过话说回来,它也不是只会瞎编。给它一个清晰的边界,它会好很多。比如:“只根据下面这段文字回答,找不到就说不确定。”这句话很土,但有用。真的有用。我试过。

普通人怎么用,才不累

别把它当搜索引擎。搜索引擎给你链接,你自己判断。大语言模型给你一个压缩过的答案,你也要自己判断。区别是它说得太顺,顺到你会偷懒。偷懒是个大坑。

我自己的习惯是:先让它复述我的问题。如果它复述歪了,后面全歪。然后让它给几个方向,不是直接要答案。再挑一个方向,追问细节。它像个话多的实习生。你得会带。带得好,它省你时间。带不好,你帮它擦屁股。

提示词不是咒语。不用背什么神奇模板。把背景、目标、限制、例子说清楚,比堆形容词有用。“我要给老板看的周报,三百字,别用夸张词,重点写延期原因。”这比“请以专业风格撰写”强太多。

还有隐私。别把身份证号、客户名单、没公开的代码粘进去。有些产品会拿对话去训练。有些不会。你得看设置。这个事不能懒。一旦泄露,模型不会替你道歉。

办公桌前员工使用大语言模型整理周报与核对信息场景
办公桌前员工使用大语言模型整理周报与核对信息场景

它变强了,但没变成人

它变强了,但没变成人
它变强了,但没变成人

现在的大语言模型能看图、能听声音、能调用工具。它像个不断长出手脚的脑子。可核心那件事没变:它在预测。预测得越来越好。好到我们容易误会。

误会一:它懂我。其实它懂的是语言里的模式。你难过时它安慰你,是因为安慰的话在数据里常和难过一起出现。它没有真的心疼。但这不代表安慰没价值。你写日记也会被自己安慰到,对吧?

误会二:它无所不知。它的知识有边界。边界外,它可能硬答。所以关键场景要交叉验证。找原始来源。找懂行的人。模型可以帮你缩小范围,不能替你签字。

误会三:它很快会取代所有人。这个我说不好。取代一部分任务,已经在发生。取代一个完整的、要负责的岗位,没那么简单。责任这东西,模型背不了。至少现在背不了。

冷思考:别神化,也别扔掉

冷思考:别神化,也别扔掉
冷思考:别神化,也别扔掉

我见过两种极端。一种把大语言模型当神,问什么信什么。另一种嗤之以鼻,说它只是高级鹦鹉。两种都省事。也都容易错过它真正有用的地方。

它更像电力。电力本身不聪明。可一旦接上灯泡、电机、芯片,世界就变了。大语言模型也是。它接上搜索、接上数据库、接上工作流,才显出威力。单独看它,有时像个话痨。放进流程里,它可能是个不知疲倦的助手。

未来会怎样?我不知道。可能它会变成空气一样的东西。你不再专门打开一个“AI 对话框”。它就在输入法里、在表格里、在客服电话里。你甚至感觉不到它。那一天,讨论“大语言模型”这个词的人会变少。不是因为它消失了。是因为它藏起来了。

但有一点我挺确定:会提问的人,会越来越占便宜。不是那种考试式的提问。是能把模糊问题拆开、能给出上下文、能判断答案好坏的能力。这个能力,模型替不了你。它只能陪你练。

凌晨两点,我把那行报错改好。模型说得不一定全对,但它给了我一个方向。我顺着方向摸到了答案。关掉对话框时,我没有谢谢它。我谢了那个愿意再试一次的我自己。然后睡觉。

作者|科技

排版|科技

审核|知知

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大语言模型不是魔法:南京深夜,一个对话框里的观察
文章链接:https://m.lfdjt.com/p/keji/a/23887.html