大讲堂凌晨两点，我盯着手机里那条“你最近怎么都不理我”，实在不想打字。
手指悬在屏幕上。脑子空的。就顺手把问题丢给旁边那个开着对话的人工智能——帮我想想怎么回。
它写了三段。字挺漂亮。有共情，有边界感，还塞了一句“我最近状态不太好，跟你没关系”。
我差点就发出去了。
我妈刚好路过，瞄了一眼：“这句不像你说的。”
……确实不像。
问题就来了。它写得比我周全，比我体面，为什么一眼就被看穿？
它不是在“想”，是在接龙
先把神话摘掉。
屏幕上那个东西，本质上干的事只有一件：给你喂进去的一串字符，算下一个字该是什么。
就这一件。
你输入“今天天气”，它算出来后面大概率跟个“不错”或者“怎么样”。再把这四个字接上去，重新算一遍下一个。如此循环。你看到的滔滔不绝，是几百次接龙拼出来的。
这中间有个容易被忽略的细节：它看的不是“字”，是 token。中文里一个词可能被拆成一到两个 token，标点、空格、甚至半个词，都算一个单位。你打一句二十个字的话，在它眼里可能是一堆碎片。
然后呢，每个可能的下一个 token 都会被算出一个分数，分数转成概率。接下来怎么选？不总是挑分儿高的那个。有时候会按概率抽。这个抽的随机性，业内叫“温度”。温度调低，它变得死板、重复、像念稿；调高，它开始造句，开始跑偏，开始冒出莫名其妙的漂亮句子。
你调过温度吗？我在本地跑过一个小模型，把温度从 0.2 拉到 1.2，同一个问题，它从“标准客服”变成了“喝多了的诗人”。我承认，那个诗人更有意思。
所以它没有在理解你。它在做一个极其高维的、被训练了几万亿次的条件概率题。
但这又带来一个反直觉的事：为了把下一个词猜得准，它不得不在内部把语法、事实、语境、甚至语气都压进那堆参数里。猜得够准，看起来就像懂了。
像。不等于就是。
它为什么能一本正经地骗你
这里栽跟头的人多。
很多人脑子里默认：人工智能 = 更聪明的搜索引擎。我问，它去某个巨大的资料库里翻，翻到了就答我。
不是这么回事。
它的参数里没有一份“原文”。它是在训练过程中被反复调整的一个巨大函数。你可以粗暴地理解成：它把读过的海量文字，压缩成了一套模糊的、统计意义上的“手感”。
手感这个东西，好处是灵活。坏处是——它没有“我不知道”这个开关。
你问一件它没学过的事，它不会空白。它会顺着语言的惯性往下写。因为训练时它的唯一目标是“让接下来的话像人写的”，不是“让接下来的话是真的”。
这两件事，在绝大多数场合里重合。可一旦不重合，它照样能写得流畅、自信、结构工整，然后错得离谱。
这叫幻觉。名字起得挺客气。
那怎么办？外挂。
现在主流的做法是：先去外部数据库或者网页里检索一批相关材料，塞进上下文，再让它基于这些材料回答。相当于考试前给它递小抄。这套流程一般叫检索增强生成。它不能根治幻觉，但能把“凭空编”压成“看着材料说”。
不过话说回来——小抄也会看错行。
把它想成一张被揉皱的地图
换个比喻，可能更好理解。
把“意思”想成一片空间里的坐标点。“猫”和“狗”离得近，“猫”和“冰箱”离得远。文字被映射成这个空间里的向量，方向代表语义，距离代表相似度。
有意思的是，这个空间还能做算术。“国王”减去“男人”加上“女人”，落在“女王”附近。第一次看到这个结果的时候，我是真的愣了一下。不是因为它多聪明，是因为那说明它确实捕捉到了某种结构，而不是死记硬背。
但地图是揉皱的。
折叠的地方，本来八竿子打不着的两件事，在空间里挨得很近。模型顺着最短路径走过去，就把它们混成一件。它不会告诉你那里有道褶。
这也是为什么，它有时候在小事上精确得吓人，在大事上又荒唐得离谱。你没法靠感觉预判它什么时候掉链子。
几个我被问到烦的问题
它真的会“记住”我吗？
看情况。单次对话里它能看到前文，那是上下文窗口，一块临时的黑板。对话关掉，黑板擦掉。除非产品专门做了记忆功能，把要点写到别的地方存起来。所以它昨天知道的事，今天可能完全不知道。别把它当记账本。
那它是不是在骗人？
不是。骗需要动机。它没有。它只是把你的提问当成了开头，然后努力写一个顺理成章的续篇。你问“某某公司是不是要倒闭了”，它可能就顺着你的预设写下去——因为顺着写，语言上更通顺。
这是个坑。你怎么问，很容易影响它怎么答。
我该信它几分？
分场景。让它整理格式、翻译、改句子、写代码骨架，这些任务有明确的对错信号，你自己能检查。让它报数字、引法律条文、说某人的履历——一律当草稿，去原始出处核。这不是不信任，这是基本操作。
那它是不是没那么厉害？
恰恰相反。一个能靠“猜下一个词”这件小事，把世界上相当难的一批任务做到能用的东西——这个事实本身，就已经够魔幻了。
有些变化已经发生了，只是很安静
我不太愿意聊“它会取代谁”。这种说法太糙了。
更实际的变化是：很多工作的“第一稿”没了。
写邮件的初稿，写方案的框架，读一份几十页的合同先抓要点，把一堆乱七八糟的表格理成能看的样子。这些活儿以前要占掉一个下午。现在可能是二十分钟，加一个来回的修改。
省下来的时间去哪了？有人拿去做更难的事，有人拿去刷手机了。说实话，我大概是后者居多。
另一个安静的变化是，人的判断力开始变得值钱。当生成一段文字的成本掉到接近零，“哪段能用”就成了新的瓶颈。审核、取舍、拍板——这些动作，模型替代不了，因为它没法为结果负责。
责任的归属，是它跨不过去的那条线。
回到凌晨两点那条消息。
我把它的三段全删了，自己重打了一行：
“对不起，我最近有点糟糕，但我在。”
发出去之后我又觉得这句话有点蠢。
……但它确实是我说的。
作者|科技
排版|科技
审核|知知