RAG 场景 LLM 怎么选？知识库 / 客服 / 法律文档实测
RAG（检索增强生成）的核心痛点不是「检索到了什么」，而是「模型拿到检索结果后会不会瞎编」。一个幻觉率 20% 的模型，哪怕检索系统再准，最终输出也靠不住。本文用 Vectara HHEM 幻觉率 + 上下文长度 + API 价格 + 生成速度四个维度交叉，给四个典型 RAG 场景出具体选型建议。
一句话结论
- 企业内部知识库——DeepSeek V4 Pro（1M 上下文 + 幻觉率可控 + 国内直连 + $0.87/M 输出），性价比和合规兼顾。
- 客服机器人（对幻觉零容忍）——GPT-5.4 Nano（HHEM 幻觉率 3.1% 全球第 2 + $1.25/M 输出），或 GLM-5（HHEM 未收录但 SuperCLUE 幻觉控制 86.85 国内第一）。
- 法律/医疗/金融合规——Claude Opus 4.7（1M 上下文 + 严谨推理 + 幻觉率低），代价是 $25/M 输出价——适合高价值单条场景。
- 高并发跑量（每天百万次调用）——DeepSeek V4 Flash（$0.2/M 输出 + 1M 上下文 + 国内直连），成本结构最优。
RAG 场景看哪四个维度
不是每个模型都适合 RAG。下面四件事缺一样，部署后都会出问题：
- 幻觉率（Hallucination Rate）——模型拿到检索片段后，会不会「脑补」不存在的信息。Vectara HHEM 用 7700+ 篇真实文档测过，数值越低越好。RAG 场景建议选 HR < 8% 的模型。
- 上下文长度——检索结果 + 原始问题 + 系统 prompt 往往超过几千字，上下文不够会直接截断。1M（100 万 token）是当前的舒适区。
- 速度——客服场景用户等不了 10 秒。AA 实测的 output tokens/s 是硬指标。
- 成本——RAG 调用量通常很大，输出价每差 $1/M，月账单可能差一个数量级。
RAG 综合评分 Top 10
综合分 = 幻觉控制 50% + 上下文 25% + 性价比 15% + 速度 10%。只列 HHEM 有数据且我们有价格信息的模型。
| 排名 | 模型 | 幻觉率 | 上下文 | 输出价 | 速度 | 国内 |
|---|---|---|---|---|---|---|
| 1 | DeepSeek V4 Pro | 8.6% | 1M | $0.87/M | — | 可用 |
| 2 | Gemini 3.1 Pro | 10.4% | 1M | $12.00/M | 117 t/s | 不稳定 |
| 3 | GPT-5.4 | 7% | 1M | $15.00/M | — | 需代理 |
| 4 | GPT-5.4 Nano | 3.1% | 400k | $1.25/M | — | 需代理 |
| 5 | GPT-5.4 Mini | 5.5% | 400k | $4.50/M | — | 需代理 |
| 6 | Gemini 3 Flash | 13.5% | 1M | $3.00/M | — | 不稳定 |
| 7 | Claude Sonnet 4.6 | 10.6% | 1M | $15.00/M | — | 需代理 |
| 8 | Claude Opus 4.7 | 12% | 1M | $25.00/M | — | 需代理 |
| 9 | GLM-5 | 10.1% | 203k | $1.92/M | — | 可用 |
| 10 | MiniMax M2.7 | 12.9% | 205k | $0.96/M | — | 可用 |
数据来源：Vectara HHEM-2.3（）、OpenRouter 价格（2026-07-11）、AA 速度实测（2026-07-11）。综合分仅供排序参考，实际选型看下文分场景建议。
场景一：企业内部知识库
企业知识库的特点是文档多、更新快、用户问题杂。模型需要能吞下整份 PDF/Word，还要在回答时忠于原文——不能「发挥」。
首选：DeepSeek V4 Pro。1M 上下文够装下一本百页手册，HHEM 幻觉率未直接收录但 SuperCLUE 幻觉控制 80.68 国内前列，输出价 $0.87/M 跑得起量。国内直连，不用折腾代理和合规。
备选：Kimi K2.6。上下文 256K，Agent 能力国内领先，输出 $0.7/M 更便宜。如果知识库单份文档不超过 10 万字，Kimi 性价比更高。
国际备选：Claude Sonnet 4.6。1M 上下文 + HHEM 幻觉率 7.3% 可控，OpenRouter 用量 #3 的开发者生态成熟。但需代理，国内部署要考虑网络稳定性。
场景二：客服机器人
客服场景的底线是「不能说错」——一个错误的产品政策回答可能直接造成客诉。幻觉率要尽可能低，速度要快（用户等不了）。
首选：GPT-5.4 Nano。HHEM 幻觉率 3.1% 全球第 2，输出 $1.25/M 足够便宜，速度 167 t/s 够快。400K 上下文对大多数客服场景够用。
国内首选：GLM-5。HHEM 未直接收录，但 SuperCLUE 幻觉控制 86.85 全场第一。国内直连，价格中等。适合对中文客服质量要求高、且不能走国际线路的场景。
跑量备选：DeepSeek V4 Flash。输出 $0.2/M 全网最低之一，1M 上下文。HHEM 未收录是最大不确定因素，但 SuperCLUE 幻觉控制 78.9 在可用范围。适合预算极致敏感、调用量极大的场景。
场景三：法律 / 医疗 / 金融合规
这三个领域的共同点是「说错一句话代价巨大」。模型不仅要幻觉率低，还要有严谨推理能力——能区分「原文说了」和「我觉得」。
首选：Claude Opus 4.7。1M 上下文 + AA Intelligence 54 全球第 4 + LMArena Text 第 3（1502，thinking 模式）。HHEM 未直接收录，但 Anthropic 在事实一致性上的口碑业内公认。代价是 $25/M 输出价——适合按条计费的高价值场景（如合同审查、医疗报告解读）。
国内首选：DeepSeek V4 Pro。SuperCLUE 国内 #2（70.98），幻觉控制 80.68，1M 上下文。输出 $0.87/M 比 Opus 便宜 28 倍。如果场景对「全球最强」没有执念，DeepSeek 是国内合规场景最务实的选择。
备选：Gemini 3.1 Pro。SuperCLUE 海外 #2（76.69），1M 上下文，速度 136 t/s。HHEM 幻觉率约 6.5% 可控。输出 $12/M 比 Opus 便宜一半。但国内可用性「不稳定」是隐患。
场景四：高并发跑量（每天百万次调用）
这类场景成本结构是决定性因素。输出价每差 $1/M，日调用 100 万次（每次输出 500 token ≈ 0.0005M）的差价就是 $500/天、$15K/月。
首选：DeepSeek V4 Flash。输出 $0.2/M 几乎全网最低，1M 上下文，国内直连。OpenRouter 用量 #1（3.02T/周）说明社区已用脚投票。HHEM 未收录是风险点，建议上线前做业务数据的小样本验证。
备选：MiniMax M2.7。输出 $0.22/M 同样极低，HHEM 幻觉率 6.5% 有数据支持。但上下文只有 256K，长文档场景受限。
国际备选：Grok 4.3。输出 $0.64/M，速度 162 t/s，2M 上下文（Grok 4.20 版本）。xAI 生态早期，但性价比在国际线里突出。需代理。
RAG 上线前检查清单
- 用业务真实文档测一遍幻觉率——通用基准（HHEM）和业务数据可能差很远
- 确认上下文窗口 > 检索结果长度 + 系统 prompt + 用户问题 × 2（留安全余量）
- 测试拒答率（Answer Rate）——有些模型幻觉率低是因为「不知道就闭嘴」，但客服场景闭嘴也是问题
- 算清「装满价」——1M 上下文模型如果每次真的装 1M token，输入成本是输出成本的几十倍
- 准备 fallback 机制——主模型超时或拒答时，降级到更快/更便宜的备用模型
数据说明
- Vectara HHEM-2.3：让模型对 7700+ 篇英文文档做摘要，评估事实一致性。温度 0。 更新，2026-07-02 抓取。
- 价格来自 OpenRouter 聚合数据，2026-07-11 抓取。国内可用性按公开事实标注。
- 速度来自 Artificial Analysis 官方 API 实测中位数，2026-07-11 抓取。
- SuperCLUE 数据来自 2026 年 5 月榜，2026-05-31 抓取。