0923南京科技展亲历:那个会自己练乒乓球的强化学习机器人,根本不是你想的那样

9月23号那天在南京国展中心,我挤了三站地铁过去,鞋都被踩脏了。本来是冲着VR体验区去的,结果拐到角落的小展台,直接站了四十分钟没挪窝。

展台中间摆着张缩尺版的乒乓球台,对面固定着个银灰色的六轴机械臂,关节处还有几道浅浅的磨痕——是这几周不停转动蹭出来的。志愿者站在台子另一边,慢悠悠往机械臂这边喂球。

一开始我以为就是个提前写好程序的表演道具,毕竟之前见过太多展会上的机器人,把所有动作录好按顺序播放,看起来智能得很。直到志愿者故意发了个带强侧旋的擦边球,机械臂扑了个空,球直接砸在台边的挡板上。

我刚要笑。

下一个同方向的球发过来,它居然悄悄调整了腕部的角度,稳稳把球挡了回去。

我当时愣了。

真的。之前在论文里看强化学习的算法公式,满页的偏导数、梯度下降,看得我头大,从来没觉得这东西跟真实世界有啥关系。结果那天它当着我的面,从接不到球到能调整角度挡回去,整个过程不到十秒钟。

它不是被教出来的,是自己“摔”出来的

我凑到展台边跟工程师搭话,才知道这个看起来笨笨的机械臂,没有提前写死的固定动作库,也没有工程师把所有可能来球的角度、转速、落点都编进程序里。它刚来展台的时候,连球往哪飞都判断不准,前一百个球有九十个都接不到,每次接空,系统就会给它一个明确的信号:这次动作错了,下次要调整关节的角度。

它根本不知道什么是“侧旋”,什么是“擦边”,甚至不知道自己面对的是个乒乓球台。它就是在几万次的试错里,把“球飞过来的速度、角度、旋转力度”和“自己要动的关节角度”之间的对应关系,一点点摸得门清。

说直白点,它学接球的过程,跟小时候学骑自行车一模一样。没人能把所有路况都给你写进手册里,你就是歪歪扭扭摔几次,慢慢找到平衡感,最后哪怕遇到个没见过的小坑,也能顺带着把车把歪一下绕过去。

强化学习机械臂练乒乓球动作捕捉示意图
强化学习机械臂练乒乓球动作捕捉示意图

工程师说,这个机械臂整整练了三周,每天24小时不停接发球,志愿者换了两拨,胳膊都抬酸了,它连个停顿都没有。现在它接普通球的成功率能到90%以上,哪怕是之前从来没遇到过的旋转角度,试个两三次就能摸出应对的动作。

别把它当“全能天才”,它连给你倒杯水都费劲

我当时顺嘴问了一句,那这个机器人能不能帮我把台面上放的那瓶矿泉水拿过来?

工程师直接笑出了声。

他说你别折腾它,它现在连乒乓球和矿泉水瓶都分不出来。之前团队想测试它的稳定性,故意在台面上放了个空矿泉水瓶当障碍物,结果机械臂为了接一个角度偏了点的球,直接把矿泉水瓶扫到了地上,滚出去老远。它根本不知道旁边的东西是什么,也不知道碰到了会有什么后果,在它的计算里,只要把胳膊伸到那个角度,就能接到球,拿到奖励。

这也是很多人对强化学习最大的误会——觉得它是能举一反三的全能天才,实际上它跨场景的迁移能力几乎为零。它花了三周攒出来的所有经验,全是在这张乒乓球台上攒的,换个场景,它就跟刚出生的小孩一样,连自己要干嘛都不知道。

你现在让它去学打羽毛球,相当于把之前学的所有东西全部清零,从头开始摔跟头;你让它去给你倒杯水,那更是难到离谱——它连杯子的握感、水的重量、走路的平衡感都完全没概念。

强化学习训练奖励函数迭代曲线实拍
强化学习训练奖励函数迭代曲线实拍

我盯着展台上贴的训练曲线看了半天,前面大半段都是晃来晃去的低成功率,直到练到第二周的末尾,曲线才突然往上窜,像极了我当初备考时背了半个月书,突然打通任督二脉的状态。

那些你没注意到的,强化学习早就悄悄用上了

之前总觉得强化学习是实验室里的东西,离日常远得很,结果跟工程师聊了半小时才发现,好多你天天接触的东西,早就掺了强化学习的逻辑。

比如你刷短视频的时候,为什么你刚提了一句想养猫,下一秒就给你推猫踩奶的视频?很多人以为这是算法在“偷听”你说话,其实现在不少推荐系统早就换了思路——不是静态匹配用户标签,而是在一次次的用户反馈里调整推送策略:给你推个搞笑猫视频,你看完了,停留了30秒,它就知道这个方向对,下次多给你推点同类型的;要是给你推个三小时的养猫科普长视频,你划走了,停留了2秒,它就知道这个不行,下次少推。

再比如你点外卖的时候,为什么有时候明明离你最近的骑手,却被派了个远一点的单?之前的派单算法是算静态距离,谁近谁去,现在不少平台的派单系统已经用上了强化学习——它不是只算当前这单谁最快,它还要算这个骑手接下来还有三单,要是现在接了这个远的单,会不会导致后面三个单都超时,最后要在所有可能的派单组合里,找一个整体配送效率最高的方案。

说穿了,它跟我家那只养了两年的猫逻辑一模一样:你给它个零食当正向反馈,它下次就知道要蹭你腿;你每次它挠沙发就给它个脑瓜崩当负面反馈,它慢慢就不挠了。没有什么高深的道理,就是试错、调整、再试错。

那天散场的时候我在地铁上刷手机,刷到有人说强化学习是下一代人工智能的核心,看得神乎其神。我突然想起那个差点把矿泉水瓶扫到地上的机械臂。

哪有什么核心不核心的。

它就是个在一次次摔跟头里,慢慢学会接好球的小家伙而已。

作者|科技

排版|科技

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:0923南京科技展亲历:那个会自己练乒乓球的强化学习机器人,根本不是你想的那样
文章链接:https://m.lfdjt.com/p/keji/a/10072.html