凌晨两点,它把9.9判成了更小的那个
朋友发来截图的时候我正在刷牙。他问某个人工智能助手:9.11和9.9,哪个大?对方答得斩钉截铁——9.11更大。 他不信邪,连着换了三种问法。前两遍,AI改口了。再问一次,它又绕回去了。 他笑了一晚上。我没笑。 因为我大概能想象那台机器内部正发生着什么。它不是算错了。它压根就没在算。
它在“接话”,不在“计算”

同一个毛病,长着好几张脸
9.11那个例子,只是最容易被截图传播的一种。把镜头拉远,你会发现一大堆看起来很蠢的行为,根子上是同一件事。 比如它一本正经地编出一本书的名字,还附上作者和出版年份。 比如它引用的论文,标题对,作者对,页码是编的。 比如你问它一件根本没发生过的事,它不说不存在,它给你讲得绘声绘色。 这不叫撒谎。撒谎的前提是知道真相,而它没有这个前提。它只是在“接话”——在这个语境下,什么样的下文最像人话?
聊几句你可能想问的
问:那它是不是根本不懂意思,只是鹦鹉学舌? 这个争论很热闹,我没打算站队。但我可以说个观察:鹦鹉学舌,通常接不住太长的对话。它能在上下文里记住你二十分钟前提过的一个偏好,然后在后面某句话里自然地用上。这个行为,比“学舌”复杂一些。至于这算不算“懂”,取决于你怎么定义“懂”——而这个词,人类自己都没吵明白。 问:那我还能信它给的东西吗? 分场景。让它帮你把一段啰嗦的话改利索,放心用。让它给你一个事实性的数字、一条法律条文、一个人的履历,请务必自己核一遍。我自己的习惯是——它能帮我省掉“从零开始”那部分力气,但“确认对不对”那部分,我一分钱都不省。 问:为什么有时候它会突然变笨? 上下文塞太满是一个常见原因。它一次能记住的东西是有限的,超出那个范围,前面的内容就开始模糊、被挤掉。你感觉它忘性大,不一定是退化了,可能是这轮对话太长了。从一篇论文,到每个人手机里的对话框
时间线其实不长。 2017年,一篇叫《Attention Is All You Need》的论文提出了Transformer结构。这东西后来成了几乎所有大模型的地基。 2022年11月30日,ChatGPT开放使用。很多人头一回意识到,原来跟机器聊天可以是这个手感。 2023年3月,GPT-4来了,能看图了。 再往后,事情有点失控地快。各家都在做,能力在涨,价格在跌,能塞进去的上下文越来越长,能处理的东西从文字扩到图片、声音、视频。 但我想说的不是“发展好快”。这句感叹没什么营养。 我想说的是:这条路的速度,跑在了我们理解它的速度前面。绝大多数人最初用它,是在某个工作群里别人甩过来一个链接。没人给你说明书。你只能自己摸。 于是就有了两种极端。一种人觉得它无所不能,把它说的话当圣旨。另一种人试了一次,被它一本正经的胡说八道恶心到,从此认定这是个玩具。 两种人都错过了中间那块地方。而那块地方,才是它真正有用的地方。
别问它“能不能”,问你自己“敢不敢核”

作者|科技
排版|科技
审核|柚子
大讲堂