我观察了三年人工智能聊天,它最像人的一刻是犯错

凌晨的对话框,它在“猜”我的脾气

去年冬天一个晚上,我在改一份项目说明。改到第七遍,烦了。随手敲了一句:“你能不能说人话。” 对面停了一下。大概半秒。然后弹回来一句:“你是不是有点烦躁?要不先放一放,喝口水再回来。” 我盯着屏幕看了很久。不是感动。是后背发凉。它怎么知道的?不是那种混熟了自然懂你的“知道”,而是一种更冷、更准的东西,偏偏包装成了关心。 这就是我想聊人工智能的起点。不是发布会上的大词,也不是什么人类命运。就是那个凌晨,对话框里两秒的停顿。
大语言模型预测下一个词概率分布示意图
大语言模型预测下一个词概率分布示意图

它在“猜”,不在“想”

先说清楚一件事。我们今天嘴里说的AI,绝大多数场合,指的就是大语言模型这类东西。它的工作原理,说白了很朴素——把一段文字切碎成“词元”,然后根据前面所有词元,去猜下一个最可能出现的词元是什么。 就这一个动作。重复几万次,一行字就出来了。 这跟你家楼下那位老棋摊大爷没什么本质区别。他不是把你每一步都算死了,他是“见得多”—这个局面,走马二进三的概率有多大,他心里有数。模型也一样。它读了海量的文本,学到的是词和词之间那种统计学意义上的“惯性”。 所以它没有“想”。它只是在每一个岔路口,赌一个它觉得最不违和的方向。 有意思的地方来了。当这种“赌”足够密集、足够连贯,看起来就像有人在背后说话。你问它《红楼梦》里探春的判词,它能背。你问它怎么调鸡尾酒,它也能聊。可你要真追问一句“那你觉得探春这人怎么样”,它给你的回答,大概率是一团又像又不像的雾。 因为它没有“觉得”。它只有“像”。
神经网络注意力机制热力图可视化
神经网络注意力机制热力图可视化

那些翻车的瞬间,其实都出在同一件事上

我收集过不少AI翻车的例子。汇总下来,八成以上都指向同一个毛病——它在补全“看起来对”的答案,而不是在核对“是不是真的”。 有人问AI某本书的第三章讲了啥,它洋洋洒洒写了一大段,章节标题都编得挺工整。问题是那本书压根没有第三章。 还有人让AI帮忙算报销单,它把数字全加了一遍,给了一个特别自信的结果。你拿计算器一按,差了两百多。不是它不会算术,是它在“编”一串看起来像答案的数字。 这就是那个被抓包无数次、却又很难根除的毛病。业内的说法叫“幻觉”(hallucination)。我更愿意把它理解成一种“过度热情”:它太想给你一个完整的交代了,于是宁可编,也不肯说“我不知道”。 这一点特别像那种饭局上什么都懂的朋友。天文地理、股票基金、隔壁老王家孩子上哪个学校,他都能接上话。你稍微深问一句,他就开始含糊其辞。AI不会含糊。它会一本正经地把含糊说得像真的。

跟它打交道,有几个我试过真管用的笨办法

网上讲提示词技巧的文章铺天盖地。说实话,大部分我看着都头疼。什么角色扮演、思维链、格式约束……不是没用,是对普通人来说太重了。 我自己的做法反而土一些,列三条。 **第一条,先别急着问结论,让它交代过程。** 比如你问它一个政策问题,不要直接问“结论是啥”,改问“这个说法的出处是哪一年、哪份文件、原文大概怎么说的”。它编不下去的时候,自己会松口。 **第二条,凡是涉及数字、日期、人名的,一律拿别的渠道核一遍。** 这不是不信任它,是因为它在这类东西上确实不靠谱。它像一个记性极好但特别爱脑补的同事,你不能把账本交给这种人。 **第三条,把它当草稿机,别当判决书。** 写东西卡壳的时候让它先出一版,哪怕很烂,你看着那堆字,脑子反而活了。这就够了。别指望它替你做判断。
人工智能生成内容事实核查步骤流程图
人工智能生成内容事实核查步骤流程图

关于“它是不是真的懂了”,我问过一个做算法的朋友

他当时正在啃一个鸡腿,头也没抬,说:“你问它懂不懂,就跟问计算器会不会难过一样。” 我说那它为什么能接住我那句烦躁。 他放下鸡腿,想了想,说:“因为网上写烦躁的人太多了。它会接,不是因为它懂你,是因为它见过一万种别人烦躁之后的下一句。” 这个回答我记了很久。 后来我自己琢磨,人类其实也没高明到哪去。我们安慰朋友的时候,说的那些话,不也是从见过的、听过的里面拼出来的?区别在于,我们会犹豫,会停顿,会突然说错话然后又改口。 AI不太会犹豫。除了那次它问我要不要歇一会儿,我几乎没见过它“卡壳”。

它最像人的一刻,是犯错

我观察了三年,最大的一个体感是:AI越流畅,我越不敢信。反倒是它偶尔的那种磕巴、含糊、甚至明显答岔了的时候,我会觉得屏幕对面好像真有那么点意思。 因为它终于露馅了。它露馅的那一刻,我们才想起来,它一直在猜。 也许再过几年,这些模型会越来越顺,幻觉也会少很多。到那时候,我们可能更难分辨哪句话是真的、哪句话是它编的。 所以我现在的习惯是,每次看到它给出一个特别漂亮、特别顺、特别像标准答案的回答,我都会多问一句:“你确定吗?” 它一般还是会说确定。 然后我就去自己查。

作者|科技

排版|科技

审核|乐乐

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:我观察了三年人工智能聊天,它最像人的一刻是犯错
文章链接:https://m.lfdjt.com/p/keji/a/24218.html