南京九月底的天还带着余热，梧桐叶飘进珠江路那家开了快十年的咖啡馆，落在我刚点的冰美式杯沿上。对面坐的是阿凯，做了12年算法，现在天天跟大模型打交道的老熟人，刚坐下来他就把手机怼到我脸上——屏幕上是某AI助手的对话框，他问“老门东那家糖粥藕店几点关门”，对面回了三个加句号的字：我无法理解。
我一口冰美式差点喷出来。
别被短视频里的“神级AI”骗了，它连你家猫叫啥都记不住
说实话，我之前也被刷到的短视频吓过。什么AI写论文拿满分，AI几秒钟剪完一整条宣传片，AI能帮你搞定所有工作。结果真自己上手试了才知道，好多所谓的“智能”，连最基本的问题都答不对。
阿凯说他去年接了个教育机构的项目，对方要做“AI智能答疑系统”，号称能自动回答学生的所有学科问题。他拿到需求的时候差点笑出声——哪是什么真的智能，就是把之前三年里所有学生问过的问题、对应的标准答案，全部存在数据库里，用户输入问题之后，系统自动匹配关键词，能对上就把现成的答案吐出来，对不上就弹一句“抱歉我没听懂，请换个问法”。
就这，对方还当成核心卖点吹了半年。
我之前也踩过类似的坑。上次想写个南京老小吃的小稿子，让AI帮我整理糖粥藕的历史，它吐出来的内容跟百度百科上的一字不差，连那家开在老门东三条营巷子里、我吃了五六年的糖粥藕店提都没提。不是它不想提，是那家店的网上公开信息太少，它的数据库里根本没多少相关内容。
真的。
我跟它说要把这家店加进去，它客客气气回了句“好的，我会调整内容”，结果转头再生成，还是原来那段干巴巴的介绍，合着刚才的“好的”就是礼貌性应付？
你觉得它“聪明”，只是它把人类的话拆成了一个个小碎片
好多人觉得AI能听懂自己说的话，能理解自己的意思，其实根本不是。阿凯给我举了个特别通俗的例子，说现在的大语言模型，本质上就是个“接龙高手”。
你输入的每一句话，它都会拆成一个个很小的单元，可能是一个字，可能是一个词，甚至是半个字。然后它之前读过几十TB的公开文字，知道哪个单元后面大概率会接哪个单元——比如你说“南京的鸭血粉丝汤”，它知道后面大概率接“是当地特色美食”，而不是“是一种航天器”。它根本不知道鸭血粉丝汤喝起来是什么味道，也不知道糖粥藕要放桂花才够香，只是见过太多人这么写，所以能接得特别顺。
这就像你让一个从来没吃过糖的人，背了1000条“糖是甜的”的句子，他能对着你把这句话说的字正腔圆，甚至能给你编出100种吃糖的好处，但你真给他一块柠檬糖，他根本尝不出来甜，甚至会皱眉头说这东西怎么是酸的。
上次我让AI帮我写南京旅游攻略，它给我列的全是中山陵、夫子庙、老门东这些人人都知道的景点，连我妈随便就能报出的、在南湖巷子里开了20年的锅贴店都没提。我看着那篇千篇一律的攻略，只想说，这也叫聪明？
别把它当万能神，它更像一个记性特别好的实习生
阿凯说现在大家对AI的态度特别极端，要么觉得它是无所不能的神，再过两年就能取代所有人类的工作；要么觉得它马上就要产生自我意识，要统治世界。其实全错。
它就像你刚招的一个实习生，之前看过海量的书，记性特别好，你让它整理一堆杂乱的会议纪要，把不同人的发言分好类，它能很快做完，比你自己整理快好几倍；你让它帮你改个文案的错别字，把混乱的表格整理成清晰的格式，也能很快弄好。但你要是让它帮你想个适合你女朋友的生日礼物，它给的都是网上最常见的那些——99朵玫瑰、口红、香水，根本不知道你女朋友上次跟你吐槽过不喜欢鲜花，喜欢那种手工打制的、带小梅花纹路的银镯子。这些私人的、没有公开过的信息，它根本接触不到。
我上次让AI帮我写给我妈的生日祝福，它写的全是“愿您身体健康，万事如意，笑口常开”，连我妈最近在学跳广场舞、上周刚学会做桂花糕这些细节都没提，我改了半小时才改出点真情实感，还不如我自己一开始写的两句大白话。
我问阿凯，那你们现在做的这些大模型，到底啥时候能真的“懂人话”？
他喝了一口冰美式，杯壁的冷凝水顺着杯子流到木桌子上，他随手用纸巾擦了擦，说，至少现在，我们连人类的“理解”到底是怎么回事都没搞明白——你说你知道糖是甜的，这个“知道”到底是大脑里哪根神经在起作用，现在的科学家都没研究透，怎么指望能造出真的有自我意识的AI？现在所有的“智能”，说到底都是概率游戏而已。
不过话说回来，它也不是完全没用。上周我整理了三个月的采访记录，快十万字，本来要花一整天把核心观点摘出来，用AI半小时就把所有提到的人名、时间、核心观点都列出来了，我只要改改里面的错漏就行，省了好多事。
那天走的时候，梧桐叶又飘下来一片，落在阿凯放在桌上的机械键盘上。他随手把叶子夹进了随身带的笔记本里，说，你看，这些AI没见过的、只有我们当下能感受到的风的温度、糖粥藕的香气、梧桐叶的纹路，才是最值钱的。
我抬头看了看，南京九月的风刚好吹过来，带着点路边桂花香。
作者|科技
排版|科技
审核|见微