跳到正文
秩启v1.5.4
外贸企业AI应用与组织升级

方法与实践 / 模型与工具

向量模型如何选择:相似度需要回到业务问题

围绕领域词汇、语言、文档类型和实际检索效果评价 embedding 模型,明确向量索引更新要求。

约 2 分钟
将裁片轮廓与平板中的设计资料进行比较(AI概念配图)
AI概念配图,用于辅助理解方法。
要点

Embedding 模型把内容表示为向量,帮助检索相近信息。企业选型需要用真实查询检验相关资料是否被找到,特别关注型号、缩写、语言和领域术语。相似度分数不能直接当作答案正确率。

真实查询:术语、别名与对象;相关资料:覆盖必要依据并排除误检;版本维护:模型与索引保持对应
向量检索回到实际问题 · 查看原图,可缩放阅读 ↗

文字相近,与业务适用可能不同

两份产品说明可能措辞很相似,却适用于不同型号;一个业务简称与正式名称文字差异很大,却指向同一对象。向量检索需要与对象标识、标签或关键词查询配合,才能更好地处理这些情况。

测试问题应来自实际工作,包含简称、错别字、跨语言表达和具体参数。只用文档标题作为查询,往往无法暴露真实检索困难。

先评价检索结果,再评价最终回答

可以为一组问题标注应该出现的资料,观察候选结果是否覆盖必要依据,以及相似但不适用的内容是否挤占位置。之后再检查模型回答,区分检索失败与生成失败。

评价需要保持文档处理、过滤和候选数量等条件可比。若同时更换分段方法与向量模型,就难以知道效果变化来自哪里。

样例类型观察重点
行业术语是否理解真实用法
型号与编码是否保留精确对象
多语言查询是否找到对应资料
近似但不适用是否造成误检

更换向量模型可能意味着重建索引

不同模型产生的向量表示通常不能直接混在一起比较。调整模型或相关配置时,应检查索引兼容性,并按所用系统要求重新生成表示。维护过程需要保留版本和验证结果。

向量模型的价值最终体现在资料能否被合适地找到。企业不必追逐一个脱离业务语境的最高分,而应建立可以持续复测的检索样例。

用型号、简称和跨语言查询测试召回

为每题标出应出现的来源,让候选向量模型在相同分段与过滤条件下比较。更换模型后按其实际兼容条件重建或迁移索引并复测,相似度分数不直接当作答案正确率。

参考来源

外部资料用于说明方法;具体功能、费用和许可条件以供应商现行说明及实际验证为准。

  1. Dify Docs|索引与检索配置关键词、向量、混合检索及重排机制
  2. Anthropic|Contextual Retrieval检索上下文与重排序方法;不引用实验数字作为企业效果承诺

文章评论