我盯着AIGC写完的那句话,突然有点发怵

凌晨一点四十,我盯着它写完的句子发呆

咖啡早就凉透了。 我在改一段产品说明,三句话的事,原本写得干巴巴的。懒得自己动手,就丢给AIGC。它回给我的版本,读起来挺顺。顺得让我有点不舒服。 不是写得差。恰恰相反。它把“用户可以随时取消订阅”改成“你不必被任何承诺绑住”。那一下我甚至想鼓掌。 然后我往下滑。 后面还跟着好几版。意思几乎一样,只是换了个比喻。像同一个人戴着不同面具,站你面前反复问:这样可以吗?这样可以吗? 我关掉页面,去阳台站了会儿。

它不是“理解”了你,是在猜下一个字

这话说出来有点扫兴。 大语言模型干的事,本质上一句话能说完:读你给的文字,算出下一个词最可能是什么。然后把这个动作重复成千上万次,一段话就长出来了。
大语言模型token分词与下一词概率预测流程示意图
大语言模型token分词与下一词概率预测流程示意图
听起来简单。真拆开看,不简单。 中间有个东西叫注意力机制。它在处理“苹果”这个词的时候,会回头扫一遍你前面写过的所有字,判断你说的是水果,还是那家做手机的公司。这个判断全靠上下文,没有别的依据。 还有个参数,叫温度。很多人没听过。调低,它说话四平八稳,答案高度收敛;调高,它开始跳,偶尔蹦出一句让你拍大腿的话,也偶尔胡言乱语。 所以同一个问题,你连着问三遍,答案会不一样。 这不是它心情不好。是设计如此。 有个做设计的朋友,刚上手就惊了,说它怎么知道我想要这个风格。其实它不知道。它只是在足够大的样本里见过太多相似需求,然后拼出一个“看起来懂你”的答案。 “看起来”这三个字,得划重点。

幻觉不是bug,是这套机制的副产品

幻觉不是bug,是这套机制的副产品
幻觉不是bug,是这套机制的副产品
AIGC会编。 编得有鼻子有眼:不存在的论文、不存在的作者、不存在的页码,格式工整,语气笃定。行业里管这个叫幻觉。 为什么?因为它的目标是“生成看起来合理的文本”,不是“说出真相”。这两件事在大多数场合重合,一到边缘地带就分家。 我踩过坑。查某个技术标准的细节时,它给我引了一份文件,编号、年份、发布机构一应俱全。我差点直接抄进稿子。后来手贱去官网翻了一圈——没有这份文件。 从那以后我养成一个习惯:它给的事实性内容,尤其是数字、人名、条款,全部回炉验一遍。麻烦。但比自己丢人强。 另一种坑更隐蔽。它写出来的东西语法挑不出错,逻辑也顺,可就是空。全是“赋能”“闭环”“抓手”这类词在那儿转圈。你读完三百字,啥也没记住。 这种文本特别容易骗过赶时间的人。因为顺。

有人问过我几个问题,干脆一次答完

它会不会取代写作者? 取代不了“想说什么”这件事。但会取代“怎么把话说顺”里的一部分体力活。这个区别挺大的。 用它算不算作弊? 看你拿它干嘛。拿它当搜索引擎使,风险不小,因为它会用同样自信的语气说真话和说假话。拿它当陪练——让它先写一版,你在上面拆、改、推翻——反而是效率工具。 为什么它写的东西一眼能看出是AIGC? 因为它太匀了。每段差不多长,每个观点的分量差不多重,没有那种突然冒出来的偏爱和偏执。真人写东西是有毛边的。会突然插一句题外话,会为一个细节较劲半天,会在结尾莫名其妙地伤感。 模型不这样。它只会收束、收束、再收束。
编辑在电脑前人工校改AIGC生成文稿的对照屏幕
编辑在电脑前人工校改AIGC生成文稿的对照屏幕

关于“原创”,我们可能问错了问题

关于“原创”,我们可能问错了问题
关于“原创”,我们可能问错了问题
争论最多的一句话是:AIGC生成的东西,算原创吗。 我想换个问法。 一台照相机拍出来的照片,版权归谁?归按快门的那个人,基本没争议。哪怕相机再智能,自动对焦、自动曝光、自动构图建议。 那AIGC呢。 它的“快门”按起来太容易了——一句话,一秒,出来一篇。所以难点不在于按,在于按之前你想清楚了没有,按之后你愿意为它负多少责。 我见过用AIGC做出好东西的人,共同点是:他们脑子里先有个大致形状,让模型往里填。填完再挑,挑完再改。改到后来,模型的痕迹基本被磨没了。 也见过另一种。输入框里敲两个字,出来什么发什么。然后抱怨AI写的东西没灵魂。 灵魂这事儿吧……你不给,它真没有。

说点冷的话

说点冷的话
说点冷的话
这两年AIGC的进展速度,快到有点失真。每隔一阵就有新东西冒出来,昨天还觉得不可能的事,今天已经能跑起来。 但有两件事,我倾向于认为短期内不会变。 一个是它对“事实”的态度。只要它还在做概率预测,幻觉就会一直存在,只是频率和形态会变。指望它彻底不编,恐怕要失望。 另一个是判断力。工具越是能一键出活,人自己知道什么算“好”,就越值钱。这个能力没法外包。 所以我现在用它的方式挺朴素:让它先跑,我后看。跑出来的东西,我一句一句地不信,一句一句地验。 累是累了点。 但凌晨一点四十,屏幕上那句话到底该不该留,还得我自己拍板。

作者|科技

排版|科技

审核|见微

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:我盯着AIGC写完的那句话,突然有点发怵
文章链接:https://m.lfdjt.com/p/keji/a/24280.html