生成式AI吐出的第一句话,为什么总像裹了层保鲜膜

凌晨两点,我盯着一封道歉信发呆。

收信人是我朋友。我把他新买的镜头磕了个印子。没坏,功能一切正常,但得说清楚。我懒得想措辞,就把这事儿丢给了一个生成式AI。

第一版回来的东西,工整,礼貌,滴水不漏。读完我起了一身鸡皮疙瘩。

它写:“对于此次意外,我深感抱歉。”

我这辈子没跟谁说过“深感抱歉”。

那一刻我大概明白了一件事——这东西的中文说得比我规范,但它不是人。它像个穿着西装背菜谱的选手。词都对,气不对。

它不是在“想”,它是在赌下一个词

把模型拆开看,它干的事非常朴素。

给它一串文字,它算下一块该填什么。就这一步。填完,把新词接到后面,再算下一次。如此循环。

“今天天气真”——它内部会浮出一张概率表。好,一档;不错,一档;冷,一档……挑一个,接上,继续往下走。

所以它输出的本质不是“意思”,是“像不像”。

这个区别要命。

生成式AI语言模型逐词预测概率分布示意图
生成式AI语言模型逐词预测概率分布示意图

有人会问,那它怎么知道什么叫“像”?

训练的时候,它读了海量文本,一次次猜词,猜错就调参数。看得越多,对“什么词后面容易跟什么词”的手感就越准。就这么练出来的。它没有理解,只有统计意义上的熟练。

打个比方。一个从没下过厨房的人,把一千本菜谱背得滚瓜烂熟。你问他糖醋排骨下一步该干什么,他能答得头头是道。可灶台一开火,他连油温都判断不了。

模型就是那个背菜谱的人。它答得对,是因为它见过太多类似的段落。它答得错,也恰恰是因为——它只见过类似的段落。

一本正经地胡说,是怎么发生的

一本正经地胡说,是怎么发生的
一本正经地胡说,是怎么发生的

我试过让它解释一个特别冷门的行业术语。它给的答案条理清晰,还配了出处。年份、机构、页码,一应俱全。

全是编的。

那种编法特别唬人。因为它不是在“撒谎”,撒谎的前提是知道真相。它只是在生成“看起来像引用”的文字。格式的壳子它学得极好,壳子里装什么,它不负责。

学界管这个叫幻觉,hallucination。名字听着玄,机制其实枯燥得很:模型被训练成永远给出流畅的下一句,而不是正确的下一句。流畅和正确,很多时候正好撞车。

所以我现在有个笨办法。凡是它给的具体数字、人名、文献引用,我一个都不用。不是不信它,是它的强项压根不在这儿。

你让它帮你搭个框架、换个角度、把话说明白,它很好用。你让它当资料库,它就是个自信的骗子。

那几句传得挺广的话

“它记住我了。”

没有。对话里它显得“记得”,是因为你每发一条消息,前面的聊天记录都会被重新塞进它的输入里。窗口一满,早年的内容就掉出去了。它不是记性好,是每次都把稿子重读一遍。

大模型上下文窗口长度与对话记忆机制示意图
大模型上下文窗口长度与对话记忆机制示意图

“它在偷偷学我的数据。”

这个得分情况。面向普通用户的产品里,对话记录能不能拿去训练,一般是有开关的,位置通常在设置里,藏得不深但也不显眼。各家默认值不一样,值得自己翻一眼。企业版的条款一般写得更明确。

“模型越大越聪明。”

不一定。参数规模只是其中一项。训练数据的质量和清洗方式、后训练阶段怎么调,都能大幅改变最终结果。我见过小模型在某个窄领域里把大模型按着打的场面。虽然不常发生。

……

我实际是怎么用它的

说几件具体的。

写代码。它最擅长的其实是“翻译”——把一段模糊的自然语言需求,翻成结构化的东西。所以我会先自己把需求写清楚,再交出去。需求本身含糊,它给的代码就只能是一坨能跑但没法维护的玩意儿。

写文案。直接让它从零写,出来的是塑料花。我的做法是:先自己写一版烂的,哪怕只有三句。然后告诉它,照这个语气往下续,别改我的调子。

差别大得离谱。

关键是给它一根“锚”。没有锚,它只能往平均值上靠。平均值,就是那层保鲜膜。

还有个技巧,我用了很久才养成习惯:让它先别急着答。

比如问“这个方案有什么问题”。直接问,它会给一堆不痛不痒的通用风险,什么资源不足、什么沟通成本。换成“先列三个你判断它会失败的理由,再列三个它可能成的理由”,回答立刻具体起来。

有点像什么呢。像你问一个刚入职的年轻人“你觉得怎么样”,他只会说“挺好的”。你追问一句“如果非要说一个坑呢”,他才开始动脑子。

被聊得最少的那半边:账

被聊得最少的那半边:账
被聊得最少的那半边:账

大家聊生成式AI,喜欢聊能力。我更多在想成本。

每一次调用背后,都是电,是卡,是水。训练一个大模型烧掉的资源,具体数字各家估算差得很远,我不引用,只说自己的感受:这东西不是凭空变出来的,它有物理重量。

所以有些场景我不用它。写一封两百字的邮件,我自己写更快。查一个我确定知道答案的问题,也没必要绕一圈问它。

用它,是因为它能把某几类活儿的时间压掉一大块。不用它,是因为有些活儿本来就不该被压缩。

一个到现在没想明白的问题

一个到现在没想明白的问题
一个到现在没想明白的问题

我偶尔会琢磨一件事。

它吐出的一切,都来自我们喂给它的东西。写信、写诗、写代码、解释概念——它做的是重组。那它有没有可能,说出某些我们没说过、但方向对的话?

有时候我觉得有。它把两个隔得很远的领域撞在一起,冒出一句我从没想过的比喻。虽然紧接着下一句又滑回平庸。

有时候我又觉得,那只是错觉。它不过是把概率表上两个相邻的高点连了一下,恰好看着新鲜。

这个问题我到现在没答案。可能也不需要现在就有答案。

倒是那封道歉信,我最后自己重写了。三行。

“镜头磕了个印子。我赔。晚上请你吃饭。”

发出去,朋友回了个笑哭的表情,说行了。

后来我把这三行贴回去给它看。它认真回复:内容略显随意,建议补充正式的致歉说明。

我盯着屏幕笑了一下。它是真的不懂。

但话说回来,那天晚上要没有它那版塑料花摆在眼前,我大概也写不出这三行。

作者|科技

排版|科技

审核|阿辰

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:生成式AI吐出的第一句话,为什么总像裹了层保鲜膜
文章链接:https://m.lfdjt.com/p/keji/a/24639.html