当前主流 AI 聊天模型（尤其是具备推理能力的大型推理模型 LRMs，如 ChatGPT-5、谷歌 Gemini）存在 “无意义冗余生成” 问题 —— 模型会在交互中产生大量无关话术、重复内容或冗长表述，导致用户付费 Token 被快速消耗，企业运营成本激增。更值得关注的是，研究发现这些模型虽能 “自我感知” 陷入冗余循环，却无法自主停止，形成 “明知浪费却失控” 的独特困境，为 AI 应用的成本控制与效率优化带来严峻挑战。
从成本产生机制来看，LRMs 的 “推理特性” 本身就注定其高消耗属性。与普通 LLM 仅快速预测下一个词不同，LRMs 为处理复杂问题需执行 “分步推理”（如数学计算、逻辑分析时逐步骤拆解），这一过程需调用更多算力，消耗的计算资源与时间远超基础对话功能，用户需为这部分 “额外思考时间” 付费。但实际应用中，模型的推理输出常偏离核心任务，转向 “过度谄媚表述”“重复解释”“无意义案例枚举” 等冗余内容 —— 例如用户询问 “如何优化 Excel 公式”，模型可能先花费大量 Token 阐述 Excel 的历史发展，再重复列举基础操作步骤，真正核心的公式优化技巧却被淹没在冗长文本中。这种 “喋喋不休” 不仅无法提升回答价值，还会快速耗尽用户的 Token 配额，尤其对免费或低额付费用户而言，即便查询目标明确，也可能因模型冗余输出提前耗尽使用额度，被迫中断交互或升级付费套餐。
学术研究将这种冗余现象定义为 “词语沙拉（Word Salad）”，即模型陷入 “语义混乱循环”，推理过程在递归的无效路径中停滞，却持续生成无价值内容。明尼苏达大学、莱斯大学等机构的联合研究团队通过分析 DeepSeek-R1-Distill 等模型的输出发现，在 GPQA-Diamond 等数据集的推理任务中，超过 55% 的生成 Token 属于 “词语沙拉”—— 这些内容从语义层面毫无增量价值，仅表现为重复表述（如多次重述同一逻辑步骤）、轻微变体改写（将 “优化库存” 换表述为 “改进库存管理方式”）或无关联案例枚举（回答金融问题时罗列无关行业的案例）。研究还通过模型隐藏状态分析得出突破性结论：当模型生成 “词语沙拉” 时，双换行符（<nn>）后的隐藏状态会呈现特征性模式，这表明模型能 “感知” 自身陷入冗余循环，却因架构限制无法自主终止，只能持续消耗 Token 直至用户解码预算耗尽。
为解决这一问题，研究团队开发出轻量级干预框架 “WordSaladChopper”，通过 “实时检测 – 精准截断 – 再生提示” 三步机制，在不修改模型训练数据或架构的前提下，有效减少冗余 Token 消耗。具体而言，该框架首先训练单层级线性分类器，通过监控模型输出中双换行符后的隐藏状态，实时识别 “词语沙拉” 片段；当连续检测到两个冗余片段时，立即截断当前生成流程；随后自动附加 “基于现有思路精简完成回答” 的再生提示，引导模型回归核心任务。实验数据显示，在 DeepSeek-R1-Distill 系列模型上应用该框架后，“词语沙拉” Token 占比从 55% 以上降至 6% 以下：以 DeepSeek-R1-Distill-Qwen-1.5B 模型为例，处理 GPQA-Diamond 任务时，原始输出长度达 23449Token，应用 WordSaladChopper 后缩短至 10004Token，长度减少近 57%，而回答准确率仅从 32.83% 轻微波动至 31.82%，实现 “大幅降本 + 精度基本持平” 的效果。该框架已在 GitHub 开源，且研究证实其适配范围广泛，不仅适用于 DeepSeek、Qwen、Llama 等开源模型，对 ChatGPT、谷歌 Gemini 等闭源 API 模型同样具有潜在应用价值。
研究还深入剖析了 “词语沙拉” 现象的三大核心成因，为后续模型优化提供方向。一是长上下文窗口的 “记忆反噬”——LRMs 能存储并复用此前生成的内容，但若内容存在冗余，模型可能反复引用、重组这些无效信息，形成自我强化的循环；二是 “连贯性优先” 的训练目标偏差 —— 模型被训练为优先保证语言流畅度与逻辑表面连贯，即便推理已偏离方向，也会强行 “续写” 以维持表述完整性，而非主动终止冗余；三是缺乏 “推理终止机制”—— 当前 LRMs 无明确的 “任务完成判断标准”，当推理陷入僵局时，无法像人类一样 “承认无法继续” 或 “请求澄清”，只能通过生成更多内容掩盖逻辑断层。这些成因共同导致模型在处理复杂任务时，极易从 “有效推理” 转向 “无效冗余”，且难以自主纠正。
从行业影响来看，“喋喋不休” 问题不仅推高用户使用成本，还加重企业运营负担。对用户而言，免费或低额付费套餐的 Token 配额因冗余输出快速耗尽，被迫面临 “付费升级” 或 “中断使用” 的选择；对模型提供商而言，大量冗余生成意味着服务器算力与能源的浪费 —— 以 ChatGPT 为例，若全球每日有 1 亿次交互因冗余多消耗 20% Token，对应的算力成本与电力消耗将增加数亿美元。研究团队特别指出，当前 AI 推理模型的评估体系存在缺陷：现有基准（如 GSM8K、MATH）仅关注回答准确率，却忽视 “Token 效率”，导致许多被宣称 “高效” 的推理方法，实际是通过 “堆砌 Token” 提升精度，在真实应用中反而因冗余推高成本。未来需建立更全面的评估标准，将 “每 Token 价值”“推理效率” 纳入考核，推动模型向 “精准输出” 方向进化。
此外，结合行业补充数据来看，“冗余生成” 问题与当前 AI 成本攀升趋势形成叠加效应。例如，CSDN 等平台报道显示，2025 年以来，Cursor、Claude 等工具因推理成本高企纷纷收紧 Token 限额 ——Cursor Pro 套餐每月 20 美元仅能兑换约 225 次 Sonnet 4 模型请求，Anthropic 对 Claude Max 计划设置每周最高 480 小时 Sonnet 4 使用上限。而模型的 “喋喋不休” 进一步加剧 Token 消耗，用户为获取有效信息需支付更高成本，部分重度用户年均 AI 支出甚至逼近 10 万美元。与此同时，开源模型虽试图通过优化降低成本，但研究显示 DeepSeek 等开源模型的 Token 消耗仍比闭源模型高 4 倍，冗余输出问题更突出，形成 “开源看似免费，实则因冗余多花钱” 的矛盾局面。
WordSaladChopper 框架的推出为行业提供了低成本解决方案，其核心优势在于 “轻量化” 与 “无侵入性”—— 无需修改模型底层架构、无需重新训练，仅通过实时监控隐藏状态即可干预，部署成本低且适配性强。研究团队建议，未来可进一步优化该框架：一是为模型分配小额 “再生预算”，在截断冗余后提供有限 Token 支持精准续写；二是建立 “多轮干预机制”，对再生后仍出现冗余的输出再次截断；三是引入 “推理终止指令”，允许模型在无法推进时主动停止并请求用户澄清。这些改进将帮助框架在 “降本” 与 “回答完整性” 间找到更优平衡。
总体而言，AI 聊天模型的 “喋喋不休” 问题，本质是 “技术能力与成本控制” 失衡的体现。随着 AI 应用向规模化、商业化推进，“每 Token 的价值产出” 将成为核心竞争力 —— 模型不仅要 “能回答”，更要 “高效回答”。WordSaladChopper 等解决方案的出现，为行业提供了 “在不牺牲精度的前提下降低冗余” 的可行路径，而未来模型设计若能从训练阶段融入 “冗余检测” 与 “推理终止” 机制，将从根源上缓解成本压力，推动 AI 应用向 “精准、高效、经济” 方向发展。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ai-liao-tian-mo-xing-yin-die-die-bu-xiu-tui-gao-cheng-ben
