人工智能把9.11判得比9.9大,那一刻它脑子里在发生什么

凌晨两点,它把9.9判成了更小的那个

朋友发来截图的时候我正在刷牙。他问某个人工智能助手:9.11和9.9,哪个大?对方答得斩钉截铁——9.11更大。 他不信邪,连着换了三种问法。前两遍,AI改口了。再问一次,它又绕回去了。 他笑了一晚上。我没笑。 因为我大概能想象那台机器内部正发生着什么。它不是算错了。它压根就没在算。
大语言模型分词token切分演示界面截图
大语言模型分词token切分演示界面截图

它在“接话”,不在“计算”

它在“接话”,不在“计算”
它在“接话”,不在“计算”
这里有件事得说清楚。我们习惯把这种东西叫“人工智能”,然后下意识地拿它去跟计算器、跟搜索引擎、跟人的脑子比。但它的底层动作,跟这三样都不太一样。 计算器做的是确定的运算。你输入9.11>9.9,它给你1,永远。搜索引擎做的是检索和排序——从已有的网页里找,按相关性排给你看。 而大语言模型干的事,用最朴素的话讲:它在预测下一个词。 你输入的那句话,在它眼里不是“问题”,是一串被切成碎块的符号。给它一个片段,它算的是——下一个最可能出现的碎片是什么?再下一个呢?再下一个呢? 一次一个词。步步为营。像那种特别会接话的人,你说上半句他能顺出下半句,顺得还挺像样。 问题就出在这儿。“9.11”和“9.9”在它眼里,未必是两个等待比较的数字。它们更可能只是两串字符片段。而“哪个大”这件事,需要的是数值比较——一种它并不天然具备、只能从海量文本里间接学会的能力。 学会了,但学得不牢。就像你背过一条规则却没真正理解,考场上稍微换个题型就露馅。 说实话,这个错误挺可爱的。可爱得让人想拍拍它肩膀。

同一个毛病,长着好几张脸

9.11那个例子,只是最容易被截图传播的一种。把镜头拉远,你会发现一大堆看起来很蠢的行为,根子上是同一件事。 比如它一本正经地编出一本书的名字,还附上作者和出版年份。 比如它引用的论文,标题对,作者对,页码是编的。 比如你问它一件根本没发生过的事,它不说不存在,它给你讲得绘声绘色。 这不叫撒谎。撒谎的前提是知道真相,而它没有这个前提。它只是在“接话”——在这个语境下,什么样的下文最像人话?
人工智能一本正经编造虚假参考文献的对话截图
人工智能一本正经编造虚假参考文献的对话截图
有人管这叫“幻觉”。这个词用得挺客气。我更喜欢另一个说法:它是一种过度自信的语言润滑。它的目标是让句子读起来顺,而不是让句子变得真。 这两件事在大多数时候恰好重合。所以我们才觉得它聪明。可一旦不重合,翻车就来了。 不过话说回来——这真的只算缺陷吗? 我持保留意见。让它写一段周末去郊外散步的散文,它编出来的细节比我自己回忆的还鲜活。让它给一个不存在的品牌想广告语,它张嘴就来。创造力这个东西,本质上就长在“最合理的”和“最意外的”之间那道缝里。它编造的能力,和它创作的能力,是同一块肌肉。 麻烦只在于:它自己分不清什么时候该用这块肌肉。

聊几句你可能想问的

问:那它是不是根本不懂意思,只是鹦鹉学舌? 这个争论很热闹,我没打算站队。但我可以说个观察:鹦鹉学舌,通常接不住太长的对话。它能在上下文里记住你二十分钟前提过的一个偏好,然后在后面某句话里自然地用上。这个行为,比“学舌”复杂一些。至于这算不算“懂”,取决于你怎么定义“懂”——而这个词,人类自己都没吵明白。 问:那我还能信它给的东西吗? 分场景。让它帮你把一段啰嗦的话改利索,放心用。让它给你一个事实性的数字、一条法律条文、一个人的履历,请务必自己核一遍。我自己的习惯是——它能帮我省掉“从零开始”那部分力气,但“确认对不对”那部分,我一分钱都不省。 问:为什么有时候它会突然变笨? 上下文塞太满是一个常见原因。它一次能记住的东西是有限的,超出那个范围,前面的内容就开始模糊、被挤掉。你感觉它忘性大,不一定是退化了,可能是这轮对话太长了。

从一篇论文,到每个人手机里的对话框

时间线其实不长。 2017年,一篇叫《Attention Is All You Need》的论文提出了Transformer结构。这东西后来成了几乎所有大模型的地基。 2022年11月30日,ChatGPT开放使用。很多人头一回意识到,原来跟机器聊天可以是这个手感。 2023年3月,GPT-4来了,能看图了。 再往后,事情有点失控地快。各家都在做,能力在涨,价格在跌,能塞进去的上下文越来越长,能处理的东西从文字扩到图片、声音、视频。 但我想说的不是“发展好快”。这句感叹没什么营养。 我想说的是:这条路的速度,跑在了我们理解它的速度前面。绝大多数人最初用它,是在某个工作群里别人甩过来一个链接。没人给你说明书。你只能自己摸。 于是就有了两种极端。一种人觉得它无所不能,把它说的话当圣旨。另一种人试了一次,被它一本正经的胡说八道恶心到,从此认定这是个玩具。 两种人都错过了中间那块地方。而那块地方,才是它真正有用的地方。
办公室中人与人工智能对话框协作工作场景照片
办公室中人与人工智能对话框协作工作场景照片

别问它“能不能”,问你自己“敢不敢核”

别问它“能不能”,问你自己“敢不敢核”
别问它“能不能”,问你自己“敢不敢核”
用了挺长一段时间之后,我慢慢摸出一个粗糙的判断标准。 凡是“生成”类的活儿,它都好用。起草、改写、翻译、想标题、头脑风暴、把一堆零散笔记整理成结构。这些事有个共同点:结果好不好,你一眼能看出来。 凡是“事实”类的活儿,它都得被盯着。查数据、引原文、确认时间、复述别人的观点——共同点是:结果对不对,你不查就看不出来。 而它最危险的地方,恰恰在这儿。它错的时候,语气和它正确的时候一模一样。没有犹豫,没有“我不太确定”,没有那种人类专家在边缘问题上会有的迟疑。 一个错得理直气壮的东西,比一个错得犹犹豫豫的东西,难防得多。 所以我现在的用法很简单:把它当成一个反应极快、知识面很杂、但从来不检查自己作业的实习生。你可以让他先写一版,但签字的人得是你。 那天晚上我回了朋友一句:你别笑它。你想想,如果一个人从小只读过书、从没算过数,你突然考他9.11和9.9——他会不会也这么答? 他回我一个“……”。 然后说,好像确实会。 我没再回。窗外天有点亮了。屏幕上的光标还在那儿闪,等着下一个词。

作者|科技

排版|科技

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人工智能把9.11判得比9.9大,那一刻它脑子里在发生什么
文章链接:https://m.lfdjt.com/p/keji/a/25002.html