大讲堂
先把神坛上的LLM拽下来：它本质上根本不是“会思考”的系统
很多人现在对LLM的认知还停留在“它比人聪明”的阶段，这纯纯是营销号造的谣。说穿了，当前所有商用LLM的核心逻辑，本质上就是一个基于海量文本训练的“下一个词预测器”。没有理解，没有推理，甚至没有所谓的“意识”——它只是在算，给定前面一段文字，后面接哪个词的概率最高。
现在全行业挤破头的落地，其实卡在三个根本跨不过去的门槛
现在市面上吹的“LLM赋能千行百业”，听着热闹，真掏过钱的企业主都知道疼。 第一个门槛，是幻觉问题永远没有100%的解决方案。你哪怕把温度系数调到0，把检索增强的知识库搭得再全，它该编还是编。为啥？因为它的底层逻辑就是概率匹配，不是事实校验。你给它喂了100篇内部知识库的文档，它还是会把A部门的报销规则套到B部门的审批流程上，因为概率上这俩的文本相似度太高了。
别盯着聊天机器人了：未来3-5年真正跑出来的LLM应用，根本不会是你现在看到的样子
很多人现在对LLM应用的想象，还停留在“做个聊天框，接在APP里”，这思路从根上就错了。你见过哪个互联网产品，是靠“加个聊天框”就成了下一个万亿级公司的？ 举个例子，现在已经跑通的场景，根本不是什么智能客服、智能写作。是啥？是给程序员做代码补全的Copilot，是给律师做合同初筛的工具，是给工厂做设备故障日志分析的系统——这些场景的共同特点是，用户对输出的容错率极高，而且输出的结果本来就只需要做“初筛”，不需要100%准确。 比如律师看合同，原来要花3个小时把100页的合同从头翻到尾，找里面的风险条款。现在LLM花10秒钟把所有可能有风险的条款标出来，律师只需要盯着这些标出来的地方看，哪怕LLM标错了20%，整体效率还是能提一倍。这里没人要求LLM100%正确，因为最后把关的还是人。 反过来，那些要求100%准确的场景，比如自动给人开处方、自动做财务记账、自动给客户做理赔，现在根本不可能跑通。不是技术不够，是LLM的底层逻辑就决定了，它做不到100%准确。 说实话，现在很多吹“LLM替代白领”的言论，纯纯是割韭菜。你让它替代个写初稿的小编、做初筛的助理还行，真让它独立负责一块业务，分分钟给你捅娄子。 聊完应用再说说现在没人敢明说的风险。现在的治理完全是滞后的。你想啊，现在LLM生成的内容，和真人写的已经完全分不出来了。之前有个测试，让普通读者看10篇文章，5篇是真人写的，5篇是LLM生成的，最后大家选出来的“写得最好”的，全是LLM写的。这意味着啥？意味着后面整个互联网的内容生态，可能会被LLM生成的垃圾内容淹了。你现在去搜个问题，翻三页结果，一半是AI凑出来的水文，根本没有实际价值。这事儿现在没人管。 还有更现实的问题：版权。现在所有商用LLM的训练数据，都是爬的全网的公开文本，这里面有多少是有版权的内容？出版社、作家、摄影师，现在已经在联合起来告大模型公司了。这官司打个三五年是正常的，最后不管判谁赢，大模型公司的训练成本肯定得往上翻几倍。原来可以随便爬数据，以后爬之前得交钱，这钱最后还是得摊到所有用LLM的企业身上。 至于未来3-5年的行业走向，我接触了上百个大模型产业链的创业者和投资人，说点实在的判断： 第一，未来3年，不会再有新的通用大模型能跑出来挑战OpenAI的地位。现在大家都在卷参数，卷多模态，其实卷到最后发现，模型能力的边际收益已经在快速下降了。你从GPT-3到GPT-4，能力提升的幅度是肉眼可见的，但是从GPT-4到现在的GPT-4o，提升的幅度已经很小了。后面大家拼的根本不是模型能力，是谁能把落地的成本压得更低，谁能把行业know-how摸得更透。 第二，那些靠“通用LLM”讲故事的创业公司，未来90%都会死掉。剩下的10%，一定是扎在某个垂直行业里，把模型和行业流程深度绑定的。比如专门做医疗影像报告解读的，专门做工业设备日志分析的，专门做法律合同审查的——这些公司根本不会对外说自己是“大模型公司”，只会说自己是“给某行业做效率工具的公司”。 第三，大家现在吹的“AGI马上就要来了”，至少还得再等10年以上。别信那些硅谷大佬说的“3年实现AGI”的屁话。现在的LLM连最基本的、稳定的逻辑推理能力都没有，离能自主思考、自主做决策的AGI，差着十万八千里呢。现在的阶段，说白了就是大模型的“PC互联网1995年”——大家都知道这东西以后会很大，但是现在跑出来的很多产品，后面全都会被拍在沙滩上。 上周那个骂LLM没用的老炮，上周又找我喝茶，说他们后来把原来的通用LLM客服换了，找了个专门做电商售后场景的垂直小模型，把知识库只喂了和退款、物流、退换货相关的内容，现在幻觉率降了80%，客服团队的人力减了一半。 你看，哪有什么万能的LLM啊。不过是找对了场景，把它当工具用，而不是当神供着而已。作者|大讲堂
排版|大讲堂
审核|知知