九月的南京晚上还闷得像蒸笼，老门东巷口的冰粉摊支着暖黄的小灯，我对面坐的阿凯，是我认识的人里少有的，不把“大模型”挂在嘴边的算法从业者。
冰粉上的山楂碎掉了半勺。
他刚结束在紫金山附近某实验室的连续三周调参，手机里还弹着凌晨一点的测试群消息，却破天荒跟我吐槽，上周给亲戚演示AI生成手绘稿，被骂“是不是偷了我家上小学的侄女的画”。
你以为的“思考”，其实是它在数“见过的字”
之前我总觉得AI像个装了满肚子书的学霸，你问什么都能答得头头是道，直到阿凯举了个他去年参与项目的例子。
刚开始测试那个通用模型的时候，你问它“南京的盐水鸭为什么要放桂花”，它会扯到“桂花是中国传统十大名花，象征着高洁的品格”，完全不沾边。
大模型的“理解”，本质上是在亿万级别的公开文本库里，找“前后出现概率最高的词组拼接”。
没有灵魂。
你跟它聊《红楼梦》里林黛玉的葬花词，它能给你凑出八百字的赏析，可你要是问它“林黛玉那天穿的裙子上沾了几片落瓣”，它大概率会给你编个看似合理的数——因为它从来没真的“读”过那本书，只是在无数人写过的红楼评论、人物分析、同人创作里，找最像“标准答案”的句子拼起来。
风卷着路边梧桐树的叶子飘过来，打在摊边的塑料布上哗啦响。
那些被吹上天的“黑科技”，其实藏着你没注意的bug
说实话，我之前刷到过好多短视频，说AI能自动帮你做PPT、剪视频、写方案，好像明天上班就能被它替了。
阿凯听了直接翻了个白眼，说他上周帮某本地生活公司调试的AI客户回复系统，把客户问的“你们的售后能不能上门”，自动回复成了“我们的售后可以上门卖盐水鸭”——就因为训练的语料里，南京地区的售后客服对话里，混了三条本地卤味商家的广告，模型抓错了概率最高的匹配项。
现在所有落地的人工智能应用，没有一个能真的“懂”你说的话，所有看起来智能的反应，都是在预设的规则和训练好的语料里，找最不容易出错的选项。
别被唬住。
我之前试过用AI写南京两日游攻略，它给我列的必去景点里，居然把老门东旁边一个已经拆了三年的旧书店当成了网红打卡点——就因为那个旧书店之前在网上有过几万条游记，训练的时候没把已经失效的信息筛掉，它就顺理成章把过时的内容拼了进去。
冰粉化了半碗，糖水顺着碗边流到塑料桌面上。
再过三年，你用到的AI根本不会像电影里那样“有自我意识”
之前总有人跟我聊，说再过十年AI就要产生自我意识，甚至反过来管人类了，阿凯听到就笑，说他现在每天对着模型做的事，就像教一个永远记不住昨天事的小孩认字——你教它一百遍“太阳从东边出来”，它下次还是可能在你问的时候说“太阳有时候从西边出来”，因为它根本不知道“太阳”是什么，只是记得“太阳”后面跟的词里，“东边出来”出现的次数最多。
他说现在实验室里最花时间的根本不是搞什么“强人工智能”，是给模型擦屁股——把那些它瞎编的、不符合常识的、甚至带偏见的回答，一点点从训练集里清出去。
上次他连续熬了三个通宵，就为了把模型回答里涉及地域刻板印象的内容删掉，比如之前模型会给南京的用户推“你所在的城市以鸭子闻名，推荐你购买真空烤鸭礼盒”，给成都的用户推“你所在的城市以辣闻名，推荐你购买牛油火锅底料”，看起来好像很懂用户，其实本质上是把网上那些贴了几十年的地域标签，全给揉进了模型的反应里。
很傻是吧？
可就是这些看起来很傻的修正工作，占了现在人工智能落地项目里大部分的工作量，你看到的那些流畅的、不出错的AI对话、AI生成的手绘稿、AI帮你写的周报，背后都是无数像阿凯这样的工程师，熬着夜把模型露出来的马脚，一点点给遮起来。
那天冰粉摊的老板都开始收折叠桌了，阿凯最后跟我说，别总把人工智能想得太玄乎，它现在就像你刚买回来的扫地机器人——能帮你扫扫墙角的灰，能省你点重复劳动的时间，可你要是指望它能帮你做满汉全席，甚至反过来跟你聊人生理想，那纯粹是想多了。
我当时愣了一下。
之前我总觉得那些天天说AI要颠覆所有行业的人说的是对的，可坐在南京吹着晚风吹得人发困的晚上，听着对面的人讲那些没被包装过的、藏在光鲜技术发布会背后的细碎工作，突然觉得，所谓的人工智能，从来不是什么从天而降的魔法，就是一群普通人，在实验室里、在电脑前，把人类攒了几千年的文字、图片、声音，一点点拆成数字，再让机器学着按概率把它们拼回去的过程。
没有那么多惊天动地的改变。
它就是个工具而已。
作者|科技
排版|科技
审核|小准