那个靠摸爬滚打通关超级玛丽的AI,藏着你没搞懂的强化学习逻辑

上周翻到个老视频,AI把初代超级玛丽玩到了开发者都没标注过的隐藏关卡。我盯着屏幕看了十分钟——那操作根本不是背熟攻略的机器人。是摔了上百次岩浆坑、踩空几十次弹簧,甚至专门绕路半分钟去吃个金币,完全没按”最优通关路线”走的活物感。

别把它当”会做题的AI”,它是摔出来的

大部分人对AI的印象,还停留在”被喂答案的好学生”阶段:你给它一亿张标注好”猫”的图片,它下次见了猫能认出来;你把历年高考题的答案全塞给它,它能考个不错的分数。 但强化学习根本不吃这套。 我第一次把两者的区别掰扯明白的时候,鸡皮疙瘩都起来了。前者是老师站在旁边举着教案,错一道题就指出来”你这步算错了”;后者是直接把AI扔在游戏地图里,关上门就走,没人告诉它哪个键是跳、哪个方向安全,掉岩浆里扣10分,踩死个蘑菇加1分,攒够100分才能开下一关。它所有的本事,没人给它递标准答案,全靠自己挨揍攒经验。 说真的,哪有那么多”天生聪明”的AI。
超级玛丽AI训练过程失败瞬间拼接图
超级玛丽AI训练过程失败瞬间拼接图

它的”经验值”,根本不是你想的那样存在硬盘里

很多人以为,强化学习训练出来的模型,是把所有走过的路、踩过的坑原封不动存在硬盘里,遇到相似的场景直接调出来用。 大错特错。 它的记忆里根本没有”上次在第三个路口掉坑里”这种具体的事件。它每做一个动作,只算两笔最实在的账:现在这么操作,接下来三秒能拿到多少即时奖励?会不会因为贪了眼前的小便宜,把后面能拿的大奖励给作没了? 举个最直白的例子。训练AI走迷宫,一开始它看到入口处摆的巧克力,会直接拐过去拿——毕竟这是眼前能摸到的即时奖励。但拿完就会发现,巧克力后面是堵死的墙,根本通不到终点的大蛋糕。摔的次数多了,它自然会学会忍住那点即时的诱惑,绕远路直奔终点。 你说它是意志力强?根本不是。它只是记了太多次”拿了巧克力就堵死在半路”的亏。 我之前见过有人吐槽,说强化学习本质就是”AI版的摸鱼学”,真的骂到点子上了。你上班摸鱼刷手机的时候,心里算的不就是两笔账:现在刷十分钟短视频,被老板抓的概率多大,扣的绩效和摸鱼的爽感哪个划算?要是摸鱼没被抓,下次就敢多刷两分钟,要是被抓扣了钱,下次就老老实实坐端正干活。本质上和AI算的账没差多少。
强化学习智能体奖励机制交互示意图
强化学习智能体奖励机制交互示意图

那些你以为和它没关系的日常,早就被它渗透了

那些你以为和它没关系的日常,早就被它渗透了
那些你以为和它没关系的日常,早就被它渗透了
很多人觉得强化学习是实验室里的高精尖技术,离普通人的生活远得很。 真的想多了。 所有你觉得”太懂我了”的算法推荐,背后都藏着强化学习的逻辑。你刷短视频的时候,系统一开始根本不知道你喜欢看猫还是看篮球,它会先随机推几个内容,看你是划走、停留还是点赞——划走就是负反馈,点赞就是正反馈,攒够几十上百次反馈,它就摸透了你到底吃哪一套,越推你越停不下来。 还有雨天的网约车派单。为什么有时候系统给你派的司机,不是离你直线距离最近的那个,反而是隔了几百米但路不堵的司机?根本不是调度员拿着地图人工算的。是之前无数次派单的反馈攒出来的经验:派离得近但堵在路口的司机,顾客要等15分钟,大概率要投诉;派绕一点但路通的司机,只等5分钟,两边都满意。哪个组合综合下来的”奖励分”最高,系统就用哪个。 我上次雨天打网约车,系统给我派的司机离我800米,绕了个无红绿灯的辅路,比离我300米但堵在路口的司机早到了两分钟。我当时还觉得算法真神,后来才反应过来,这哪是神,是之前不知道多少次派单踩坑,攒出来的经验而已。 不过话说回来,我最烦那种把强化学习吹得像天价奢侈品的说法。哪有那么玄?你自己学骑自行车,不就是强化学习?车把歪了要摔的时候赶紧扶过来,摔疼了给你个负反馈,骑稳了风在耳边吹的爽感给你正反馈,练一下午就会了——没人给你递一整本《骑自行车的正确姿势》让你背,全靠自己摔。现在大家觉得它烧钱,是因为大模型要学的东西太多了:你骑自行车摔十次就会,AI要摔几百万次才能把横屏竖屏、你点屏幕的力度全认对,当然要堆算力。 之前有个读大二的学生找我聊天,说想自己在家训个强化学习的小模型玩,怕自己电脑配置不够跑不起来。我给他指了个开源的超级玛丽模拟器,告诉他哪怕是普通笔记本,跑一下午,AI至少能学会跳过第一个岩浆坑。他上周给我发截图,说他训的AI现在已经能熟练跳过三个坑,甚至知道蹲下来躲飞过来的乌龟了。他说盯着AI一次次摔、一次次试的过程,比自己打游戏还爽。 其实我特别懂那种感觉。 之前总有人说强化学习要取代人类,我觉得真的想多了。它连你今天突然不想看猫片,想翻两页家常菜谱的情绪都摸不准,怎么取代?它所有的经验,全是之前摔过的坑攒出来的,你要是突然给它整个从没见过的新坑,它第一反应还是掉进去。就像你训练了一个会玩超级玛丽的AI,把它扔到魂斗罗的地图里,它连枪都不会开,更别说通关了。 昨天我又把自己之前跑的那个超级玛丽AI拉出来看,它现在已经能熟练躲过三个飞龟,甚至知道故意绕路去吃隐藏在砖缝里的金币了。我突然觉得,我们之前对”学习”的定义太窄了。不一定非要捧着书背知识点才算学习,摔得多了,知道哪块地面会塌,哪条路有奖励,慢慢走得稳了,这也是学习啊。

作者|科技

排版|科技

审核|小北

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:那个靠摸爬滚打通关超级玛丽的AI,藏着你没搞懂的强化学习逻辑
文章链接:https://m.lfdjt.com/p/keji/a/21651.html