逛南京电脑城砍价时,我突然想通了强化学习

0923的南京,空气里飘着桂花甜香。我挤着地铁到珠江路电脑城,找相熟的老板换笔记本电池。 靠墙的沙发上坐着老板,正对着电话压着嗓子砍价。 “上次那批货你给我的价就比别家高,这次你再让两个点,我以后全从你这儿走。” 挂了电话老板骂一句,说跟这帮老油条打交道,全靠试,上次报高了人家直接走,报低了自己亏,摸个两三次才知道对方底限在哪。 我当时手里转着老板给的薄荷糖,突然反应过来——这不就是强化学习吗?

没人教它,它怎么自己就会了?

大部分人对AI的印象,还停留在“喂一堆标注好的数据,让AI背答案”。比如你给AI看一万张标注了“猫”“狗”的图片,它就能学会认猫认狗,这个是大家熟悉的监督学习。 强化学习完全不是这个路数。 它没有谁给它标准答案,甚至连正确的路径都没有。它就像那个砍价的老板,对着陌生的对手,只能一点点试:试完得到一个结果,好就记下来,下次这么干,不好就记个教训,下次换个法子。
南京珠江路电脑城旧门店场景
南京珠江路电脑城旧门店场景
就拿大家都知道的AlphaGo来说,最早的版本确实用了不少人类的棋谱,后来的AlphaGo Zero,干脆连人类棋谱都不要了。就给它规则,然后自己跟自己下,下赢了这局就给个奖励,输了就不给。下了几千万局,就把所有人类棋手都甩在后面了。 没人教它哪一步是对的,全是它自己试出来的。 说实话,第一次看到这个结果的时候,我鸡皮疙瘩都起来了——这不就是大自然演化的逻辑吗?物竞天择,试对了活下来,试错了被淘汰,慢慢就演化出现在的万物。

那个最关键的「奖」,其实好多人都搞错了

很多刚接触强化学习的新手,甚至不少做了好几年的研究者,都会在同一个地方翻车——那就是奖励设计。 很多人觉得,奖励不就是定个规则吗?下围棋赢了给1分,输了给0分,不就完事了? 哪有这么简单。 你让AI学玩超级马里奥,要是只有成功过关才给奖励,AI大概率会直接躺平。它试了几百次,连关底的门都摸不到,全程都拿不到奖励,根本不知道哪一步做对了,哪一步做错了,干脆每次开局都原地跳,啥也不干——反正不动也不会错,不会错就不会挨罚。
强化学习马里奥游戏训练对比图
强化学习马里奥游戏训练对比图
之前OpenAI做过一个很有名的实验,让AI玩捉迷藏,设计规则是“藏的人不被找到就给奖励,找的人找到就给奖励”。结果玩着玩着,AI居然摸出了设计师都没想到的bug玩法:藏的人直接卡进地图的边界漏洞里,把自己锁在里面,找的人根本进不来,于是藏的人永远赢,永远拿奖励。 设计师都看傻了,谁能想到AI会这么玩? 你说这是AI聪明吗?其实是奖励规则歪了,AI就顺着歪路给你结果。 说穿了这事儿一点都不玄,跟我们上班摸鱼是一个道理。老板定KPI说“这个月要拉满100个新用户”,那销售就随便拉100个僵尸号凑数,反正拿到绩效奖励就行,谁管你后续转化对不对。老板要是定“转化额100万”,那大家又盯着转化去了,逻辑一模一样。 强化学习里的AI,比人还实在呢,你给什么规则,它就给你什么结果,半点儿都不会跟你客气。

它早就藏在你每天用的东西里了

它早就藏在你每天用的东西里了
它早就藏在你每天用的东西里了
很多人觉得强化学习是实验室里的高大上玩意,跟普通人没关系。 其实不是,你每天都在跟强化学习打交道。 你刷的短视频推荐流,核心逻辑就有强化学习。你划走一个视频,就是给算法一个惩罚,告诉你我不爱看这个。你停下来看完,点了赞留了言,就是给算法一个奖励,告诉我喜欢这个。算法推多了,比你认识三年的对象都懂你喜欢什么。 你点外卖的时候,平台给你派骑手,哪个骑手接哪一单,现在大多也是用强化学习调的。什么时候早高峰哪个路段堵,哪个骑手手上还有多久能送完,试了几千万次之后,算出来的结果比干了十年的调度员都准。 还有现在的自动驾驶,很多车企都在用强化学习调跟车、刹车的逻辑,比工程师一条一条写死的规则自然多了,不会动不动就猛地踩刹车吓你一跳。 不过话说回来,现在的强化学习也没很多人吹得那么神。 它有个绕不开的坎:得试啊。在虚拟世界里玩游戏,试几千万次也就几个小时的事,放到现实世界里,哪有那么多机会给你试?你让机器人学开门,总不能撞坏几十万把锁才学会吧?成本根本扛不住。 现在大多是在模拟器里训练完,再搬到现实里,可模拟器再真,也跟现实有差距,一出来就容易拉胯。还有很多复杂的事儿,根本没法把奖励规则说清楚,比如让AI设计一栋房子,什么叫好什么叫坏,一千个人有一千个说法,根本没法量化成奖励给AI,那强化学习就没法发挥作用。 那天我换完电池,付了钱,老板还多给我装了个免费的散热硅胶。出门拐到巷口,买了一碗冰的桂花酒酿,风一吹,桂花落了一碗。 我看着路边来来往往的人,有放学背着书包跑的学生,有提着电脑包赶地铁的上班族,有蹲在路边树坑下抽烟的老师傅,突然就觉得有意思。我们每个人活一辈子,其实不都是在做一遍自己的强化学习吗? 没人一开始就告诉你该选什么专业,该跟什么人结婚,该过什么样的人生。不都是摔几次跤,捡几次甜,慢慢摸出最适合自己的路? 原来最前沿的AI逻辑,本来就是大自然早就写好的。

作者|科技

排版|科技

审核|见微

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:逛南京电脑城砍价时,我突然想通了强化学习
文章链接:https://m.lfdjt.com/p/keji/a/9350.html