生成式AI:你让它写周报,它却在偷偷编造你的履历?

你有没有遇到过这种事?让生成式AI写个周报。你输入:本周完成了项目A测试,修了三个bug,开了两次会。它输出一段挺像样的文字。但你仔细一瞅——它给你加了一条“主导跨部门架构评审”。你压根没干过。哭笑不得。这玩意儿,到底在搞什么鬼?说实话,我一开始以为它只是偶尔抽风。后来发现,这几乎是它的“天性”。

它不是在“思考”,是在玩超级接龙

说实话,我第一次用的时候也被唬住了。感觉它像个博学的家伙。但真相有点扫兴。生成式AI,尤其是大语言模型,本质上是个概率机器。它读了几万亿字的文本,学会了词和词之间的统计关系。你给它一个开头,它就预测下一个最可能出现的词。然后把这个词塞回去,再预测下一个。一个接一个。像玩接龙。但它的词汇量是你的几亿倍。速度也快得离谱。你输入“今天天气”,它可能接“不错”。也可能接“真好”。取决于它训练时见过多少类似的搭配。它没有“想法”。它只有“概率”。就这么简单。又这么复杂。它内部有几十亿甚至上千亿个参数。每一个参数都是一个微小的旋钮。训练就是调整这些旋钮。让它的预测越来越准。但“准”指的是像人写的。不是指真实。所以它可能写出“太阳从西边升起”这样的句子。如果这种搭配在它读过的文本里出现过。虽然很少。但总有可能。
生成式AI大模型概率预测下一个词示意图
生成式AI大模型概率预测下一个词示意图

为什么它有时候像天才,有时候像傻子?

因为它生成的文本是“合理”的,但不一定是“真实”的。这叫幻觉。它没有事实核查机制。它不知道“张三”和“李四”的区别。它只是根据概率选词。你问它“南京有哪些好吃的”,它可能列出“南京烤鸭”。但你问“南京烤鸭的历史”,它可能编出一个不存在的朝代。比如“明朝永乐年间,朱元璋下令…”——等等,朱元璋是明朝的,但永乐是朱棣。它把两个混在一起了。你发现了,它却一脸无辜。它没有“脸”。它只是继续生成。更麻烦的是,它还会“自信地胡说”。语气坚定。排版工整。你一不小心就信了。我就被坑过。它给我列了一份参考文献。看起来有作者、有期刊、有年份。我一查,全是假的。它把真实的作者和虚构的标题拼在一起。就像用乐高积木搭了一个不存在的城堡。
生成式AI幻觉生成错误事实案例图
生成式AI幻觉生成错误事实案例图

跟它聊天,你得学会“拆盲盒”

跟它聊天,你得学会“拆盲盒”
跟它聊天,你得学会“拆盲盒”
别把它当搜索引擎。求你了。搜索引擎给你链接,它给你一段话。这段话可能是对的,也可能是错的。你得自己判断。我现在的做法:把它当实习生。给它明确的指令。比如“写一份周报,只基于以下事实,不要添加任何未提及的内容”。然后它还是可能添加。所以你得盯着。不过话说回来,它 brainstorming 的时候挺好用。你给它一个主题,它能给你十个角度。虽然其中八个是废话。但剩下两个可能不错。还有,它的“记忆”是有限的。每次对话是独立的。除非你手动保留上下文。所以你得反复提醒它“上次说的那个”。它才不管呢。另外,你还可以调整它的“温度”。温度低,它更保守,更倾向选概率最高的词。温度高,它更随机,更有创意,但也更容易胡扯。这就像调收音机的旋钮。你得找到那个频道。

它会不会取代你?先别慌

它会不会取代你?先别慌
它会不会取代你?先别慌
生成式AI擅长生成文本、图像、代码。但它缺乏真正的理解、情感和常识。它可能替代一些重复性写作。比如模板化的新闻稿。但也会创造新岗位。比如提示词工程师。不过,别被炒作吓到。它只是一个工具。就像计算器没有取代数学家。但会改变工作方式。你需要学会与它协作。我现在用生成式AI写初稿,然后自己改。省时间。但得盯着。不然它给你编个火星出差。哈哈。还有,它写代码的时候,你得小心。它可能写出能运行但逻辑错误的代码。或者调用不存在的库。所以测试很重要。别直接上生产环境。说到底,它是个放大镜。放大你的能力,也放大你的懒惰。但别怕。学着用。就行。

作者|科技

排版|科技

审核|小准

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:生成式AI:你让它写周报,它却在偷偷编造你的履历?
文章链接:https://m.lfdjt.com/p/keji/a/25434.html