
要点
长上下文适合需要同时理解一组资料关系的任务,检索增强适合从较大且持续变化的资料中选择相关依据。两者可以组合。选择时应验证信息是否被正确使用,而不只确认输入没有超过长度限制。
容量是条件,理解效果仍需验证
模型能够接收一份长文档,不意味着它会同样准确地处理每个位置、每个限制和每组关系。资料中的冲突、重复与不相关内容,都可能影响回答。
测试时可以把关键条件放在不同位置,检查是否遗漏;也可以加入相似但不适用的资料,观察模型能否保持对象与版本的区分。输入成功只是开始。
检索减少输入,也可能遗漏必要信息
RAG 通过选择相关片段减少每次处理范围,但检索阶段可能漏掉分散在多份资料中的条件。需要整体比较的任务,不能只依赖少量相似片段。
可以根据问题先确定资料范围,再选择完整文档、片段或二者组合。对于跨资料推理,保留目录、对象关系与引用线索,有助于后续判断是否还缺少依据。
| 任务条件 | 优先关注 |
|---|---|
| 固定资料整体分析 | 完整结构与跨段关系 |
| 大量资料按需查询 | 检索覆盖与过滤条件 |
| 资料频繁变化 | 来源更新与有效版本 |
| 需要精确引用 | 结论与原文位置对应 |
从每次任务的完整成本比较
长上下文可能增加输入费用与等待,RAG 则需要解析、索引和检索维护。应把质量、时延、调用与维护一起比较,避免只计算其中一项。
真正的问题不是哪种技术会取代另一种,而是哪种资料组织方式能让当前任务取得足够依据。把容量、选择与验证分别考虑,企业才更容易做出稳定的工程判断。
让同一问题接受两种资料组织方式
选一个需要跨段条件的询盘问题,分别提供整份资料与检索片段,核对遗漏、干扰、来源与总成本。既看能否放入,也看能否正确使用;结论只适用于这组样例与当前配置。
参考来源
外部资料用于说明方法;具体功能、费用和许可条件以供应商现行说明及实际验证为准。
- Anthropic|Effective context engineering for AI agents组织指令、资料和工作状态;文章发表于 2025-09-29
- Anthropic|Contextual Retrieval检索上下文与重排序方法;不引用实验数字作为企业效果承诺