当你对着生成式AI说"帮我写个给猫的道歉信"时,它在后台干嘛?

上周我家那只叫奶糖的布偶,踩着我刚写完半篇的稿子跳上书桌,爪子一扒,键盘上直接敲出一串乱码,半页字全没了。 我气得伸手要拍它屁股,它反而眯着眼睛往我胳膊上蹭。 算了。 我对着电脑屏幕喊了一句:”帮我写个给布偶猫的道歉信,要奶fufu的,绝对不能提它闯祸的事。” 三秒。 屏幕上跳出来整整一段,连”知道你最近掉毛掉的沙发上全是,我已经粘完了”这种细节都有。 我盯着屏幕愣了半分钟。原来以前大家说的生成式AI,真不是早年那种搜关键词拼答案的老古董。

你以为它在”写作文”?其实它在猜下一个字是什么

好多人第一次用的时候,总觉得这东西好像有”思想”,能听懂你说的话,能理解你的情绪,甚至能站在你的角度想问题。 大错特错。 它根本不知道你要什么,也根本没理解”给猫道歉”是什么意思,它只是在你打出的每一个字后面,算出来哪个字接上去最顺。 你把它想成一个记性好到离谱的话痨——它在训练的时候,把人类能公开摸到的几乎所有文字内容都背了一遍,从小说、论文、朋友圈动态,到论坛里的吐槽、外卖平台的评价,没有它没见过的文本。 它没有任何”创作”的想法。 你输入”今天天气”,它算出来下一个字接”真”的概率是92%,接”砖”的概率是0.01%,那它就顺着”真”往下接,接”好”,接”适合出门”,就这么简单。
生成式AI逐字预测概率分布示意图
生成式AI逐字预测概率分布示意图
别觉得这个原理很low。 你想想,当它算过几万亿次字和字的搭配之后,自然能拼出看起来像模像样的道歉信——甚至还会提到”藏在沙发缝的冻干””粘毛器的味道”这种细节,根本不是因为它真的养过猫,是它见过太多人写宠物相关的文案,知道提到这些词的时候,整段话的通顺度会更高。 我第一次知道这个底层逻辑的时候,鸡皮疙瘩都起来了。 原来我之前对着它输入的那些掏心窝子的prompt,在它眼里就是一串需要补全的字符序列。

别神化也别踩,它的bug从来都不是”会写东西”

现在网上的论调特别两极。 有人说生成式AI马上要抢掉所有文案、编辑、设计的饭碗,吓得好多人连夜报班学prompt;还有人说它就是个高级百度,全是抄来的东西,半毛钱价值没有。 都不对。 上次我让它帮我算每个月的养猫固定开销,它给我列的数里,有一项是”猫咪年度基础体检费1200元”。 可我在南京,带奶糖去常去的宠物医院做基础体检,只要380。 它根本不知道我在哪,也不知道不同城市的宠物医院定价差多少,它只是把网上出现次数最多的那个数字,拼到了整段通顺的文案里。 说实话,我现在用它最多的场景,根本不是让它写完整的稿子。 是让它帮我把我写得乱七八糟、语序都拧巴的开头,顺成通顺的句子;或者让它帮我列个周末出门玩的备选路线。上周我去南京,本来想找老门东旁边藏了好久的那家鸭血粉丝汤,之前找了三年都没摸到位置,结果它给我列的路线里,居然精准标了那家店的入口——因为三年前有个网友在某篇游记里提过一句那个店的位置,它记住了。
普通用户日常使用生成式AI处理文本的界面截图
普通用户日常使用生成式AI处理文本的界面截图
当时我站在老门东的牌坊下面,看着导航显示离那个店还有200米,差点当场哭出来! 好多人吐槽生成式AI”会编瞎话”,说它故意给你假信息。 它不是故意骗你,它从一开始就没打算给你事实,它只是在给你拼最顺的句子。你要是没特意跟它说”所有信息必须标注来源,不准编造”,它就只会顺着你的话往下接。比如你问它”南京最老的鸭血粉丝汤店开在哪”,它要是没见过明确的可溯源的信息,就会把几个被提到次数最多的地址拼起来,看起来像真的,其实根本对不上。

再过三年,你可能根本不会特意”打开”它

前阵子去参加一个线下的小聚,有个做产品的朋友说,现在大家对生成式AI最大的误解,就是把它当成一个需要你主动点开、输入长prompt、等结果的独立网站——就像你打开百度搜东西一样。 根本不是。 以后它根本不会以一个独立网站的形式存在。 你写文档的时候,打错了字,它自动帮你改;你给客户发邮件,刚写了个”您好”的开头,它自动帮你补完符合你平时说话习惯的礼貌结尾;你早上出门导航,它知道你今天要接孩子放学,自动帮你规划一条不堵车、顺路能绕到买孩子爱吃的草莓的路线。 它会像空气一样,在你没注意到的地方帮你把事做了。 不过话说回来,我还是有点慌的。 上次我写了半篇稿子,突然手滑开了文档里的AI自动补全功能,结果它顺着我的思路写了整整三段,语气跟我一模一样,连我平时爱用的破折号、爱举的养猫的例子,都学去了。 我盯着屏幕看了五分钟。 突然不知道这三段到底是我写的,还是它写的。 旁边的朋友笑我,说这就慌了?那以后要是你对着生成式AI输入”帮我写个跟女朋友道歉的小作文”,它写出来的东西跟你自己平时的语气一模一样,你女朋友根本分不出来,那你是用还是不用? 我当时没答上来。 风从窗户吹进来,奶糖跳上桌,踩了一下键盘。 屏幕上跳出来一行字:”今天的风很软,适合抱着猫晒太阳。” 我突然就不纠结了。 管它是谁写的呢。

作者|科技

排版|科技

审核|知知

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当你对着生成式AI说"帮我写个给猫的道歉信"时,它在后台干嘛?
文章链接:https://m.lfdjt.com/p/keji/a/11797.html