上周我把手机相册里攒了三天的零碎文件一股脑丢给了常用的AI。
三张图:12斤的橘猫蹲在拆了封的螺蛳粉桶上的糊拍,楼下猫咖贴在玻璃上歪歪扭扭的撸宠价目表,我奶奶上周织的围巾——针脚歪歪扭扭,边角还勾了个小破洞。
一段12秒的音频:录的时候我正咳嗽,猫踩在键盘上的沙沙声,还有它凑过来蹭我手腕的软乎乎的动静。
换做两年前,我得先给每个文件写好文字说明:“图1是我家猫”“图2是猫咖的价格”“音频是我咳嗽的时候猫过来哄我”,像给三个各干各的部门递申请材料,每个部门只收自己那摊的东西,多一点关联都不管。
这次等了三秒,它回我:“你家这只橘猫是不是又偷舔你螺蛳粉的汤了?楼下那家猫咖的缅因,就是上次被猫爬架卡脑袋的那只对吧?你上次咳了三天,这次猫都知道过来哄你,是不是好点了?”
我当时鸡皮疙瘩都起来了。
真的。
不是那种对着AI性能新闻喊“未来已来”的俗套激动,是突然反应过来——它根本没把这些图片、音频、文字拆成互不相关的碎块,它是真的把这些东西,拼成了一段我自己都没刻意整理过的生活碎片。
别被“能识别图片”的宣传骗了,这根本不是多模态的核心
之前刷到过好多科技产品的宣传,说自己做的是多模态AI,演示的时候给AI一张猫的照片,AI说“这是橘猫”,给一段语音,AI转成文字,再给一段文字,AI写个通顺的回复。台下掌声雷动,好像AI突然开了天眼。
我每次看都觉得好笑。
这算哪门子多模态?这就是把三个独立的工具拼到了一个聊天框里——图像识别模块负责认图,语音转文字模块负责听声,大语言模型负责写回复,三个模块之间隔着厚厚的墙,谁也不跟谁说话。就像你家的智能音箱,能识别你说的“开灯”,能识别你说的“播放音乐”,但你跟它说“我上次在客厅摔了一跤,把灯碰坏了”,它根本不知道你在说什么,只会机械地回“抱歉,我没听懂你说的指令”。

真正的多模态,是所有来自不同感官的信息,最后全部进到同一个模型的记忆格里。就像人看见螺蛳粉的红色包装、听见自己咳嗽的声音、摸到猫毛的触感,这些信息从来不是分开存在大脑不同分区的——你会自然把“猫蹲在螺蛳粉上”的场景,和“上次吃辣咳了三天”的记忆串起来,不会看见猫的时候突然跳去算价目表上的数字。
我之前试过某款早期的多模态工具,给它发了一张我加班到凌晨拍的办公桌照片:亮着的电脑屏幕,半杯凉透的冰美式,摊开的写满批注的笔记本,还有我在边角乱涂的小太阳。它给我回了一长串物品识别结果:“检测到物体:电脑、水杯、笔记本、手绘图案。”
我当时差点把手机扔了。
这跟手机相册自动给照片打标签有什么区别?换个壳就敢叫多模态?
它现在最戳人的本事,是能接住你没说出口的话
上周朋友给我发了一张糊到看不清细节的日落照片,配了一句没头没尾的话:“今天下班居然赶上了。”
换做以前的AI,大概会回一句“哇好美的日落”。但现在的多模态大模型,能从那张糊图里揪出好多没明说的细节:日落的光刚好斜斜打在地铁站出口的玻璃上,旁边有个穿校服的学生举着烤肠,外卖员正扶着被风刮歪的电动车。它会回你:“是不是好久没准点下班了?上次你说连续三周堵在晚高峰的时候,太阳都落完了。”
就这一下。
你就知道,它懂你说的“赶上了”根本不是赶上了日落,是赶上了不用挤在人堆里闷着、能慢悠悠晃回家的那点松弛劲。

这种能力说起来好像没什么了不起。但你想想,平时跟人聊天的时候,有多少人能从一句没头没尾的话里,接住你藏在背后的情绪?你发一张糊的日落图,对方可能只会回个“好看”,根本不会想起你之前吐槽了多少次加班堵路的事。
不过话说回来,它现在的问题真的挺多的。
上次我给它发了奶奶织的那条围巾的照片,配文“奶奶织的围巾,漏了个洞”。它给我回了个“建议用同色毛线把洞补上,不然会越破越大”。
我愣了半天。
它不知道那个洞是我上个月在郊外爬树,把围巾勾在树枝上扯出来的。奶奶本来要拆了漏的那几针重织,我拦着说不用,留着当纪念。它也不知道奶奶现在眼睛花到要把毛线凑到离眼睛十厘米的地方,才能看清针脚。它只是从“洞”“围巾”两个关键词里,提取了训练数据里最常见的“需要修补”的常识。
它现在的理解,还停留在统计规律的层面,远没到真正共情的程度。它能把不同来源的信息拼到一起,但它根本不知道这些碎片背后,藏着多少独属于你的、没说出口的记忆。
别着急吹它能取代谁,它现在更像个刚进公司的实习生

我总觉得,现在大家对多模态大模型的期待有点走偏。有人说它以后能当你的私人伴侣,能帮你做所有人生决定,能取代所有需要感官判断的工作。
真的太扯了。
你想想刚进公司的实习生是什么样的?你交代给他做个报表,他能把数据算得清清楚楚;你给他看个活动方案的草稿,他能帮你把潦草的字整理成通顺的文档;你跟他吐槽上次活动哪个环节出了岔子,他能帮你翻之前的聊天记录,找到对应的截图。但他也会犯很蠢的错——比如把你说的“给客户送两盒茶”记成“给客户送两盒茶叶蛋”,比如你明明跟他说过“这个客户不喜欢啰嗦的开场白”,他转头就写了三页的客套话。
多模态大模型现在就是这个状态。
它能接得住你丢过来的、乱七八糟的、没什么逻辑的碎片信息——你不用费劲把这些信息整理成工整的正式文本,就像你跟实习生说话,不用每次都写正式的工作邮件,随口说两句他就能大概get到你要干嘛。但它离“靠谱”还有十万八千里。
之前有个做绘本的朋友跟我说,他想试试用多模态大模型帮忙做插画初稿。他把自己写的短故事、随手画的分镜草稿、找的参考色调图一起丢给模型,模型确实能画出跟草稿结构差不多的图,但你要是让它画出“小狐狸刚把藏了半年的坚果弄丢,眼睛耷拉着有点委屈”的感觉,它画出来的小狐狸永远是圆溜溜的眼睛,没什么情绪。
不是它不努力。是它根本没真的见过“委屈的小狐狸”是什么样的。它见过的所有小狐狸的图,都是训练数据里存下来的静态的、没有温度的像素块,它不知道人在委屈的时候,眼角会耷拉下来,嘴角会抿成一条线,就像它不知道那条勾破的围巾,藏着我跟奶奶的多少记忆。
说实话,我反而觉得这样挺好。
要是它真的什么都懂,能把你所有没说出口的情绪、藏在碎片背后的记忆都摸得透透的,你会不会觉得有点害怕?就像你刚认识的朋友,第一次见面就知道你上次跟人吵架是因为什么,知道你藏在抽屉最里面的旧照片拍的是哪个夏天,那种感觉不是惊喜,是后背发凉。
有人问我,那多模态大模型以后到底会用来干嘛?
我其实不觉得它会变成那种无所不能的万能机器人。它更像个帮你“整理感官碎片”的工具。比如你出去旅行,拍了一堆糊的照片,录了几段没头没尾的视频,回来不想翻相册,丢给它,它能帮你把这些碎片串成一段短的旅行vlog脚本,能帮你从几百张照片里找出你上次念叨了好久的、拍了半天的那朵小野花。比如你做设计,随手画的草图,随口录的灵感碎碎念,丢给它,它能帮你把这些零碎的想法拼成完整的设计初稿。比如家里老人不会用复杂的软件,你把老人拍的孙子的视频、录的自己唱的戏曲、写的歪歪扭扭的毛笔字一起丢给它,它能帮你把这些东西做成一本印出来的家庭纪念册。
这些事,不需要它有什么人类的共情,不需要它能像人一样思考,只要它能真的把图片、音频、文字、甚至视频里的信息揉到一起,不拆成零散的标签,就已经够好用了。
上周我又把那三张猫的图、螺蛳粉的价目表、还有那段咳嗽的音频丢给它。这次它回我:“你家橘猫上次偷喝你螺蛳粉汤的事,你还没跟你朋友说对吧?”
我笑了半天。
它还是会记错事。
但没关系。
毕竟实习生嘛,总得给点成长的时间。
作者|科技
排版|科技
审核|小准