记录一次把 BAAI/bge-reranker-v2-m3 部署成 vLLM reranker 服务,并让本地 WeKnora 通过 HTTP API 调用的完整过程,包括显存、镜像源、模型下载和接口验证。
TOPIC
共 2 篇 ReRank
围绕「ReRank」整理的相关文章
向量召回只能找出可能相关的内容,reranker 才能把最适合给大模型看的片段排到前面。本文整理 BAAI/bge-reranker-v2-m3 的定位、适用场景和部署取舍。
围绕「ReRank」整理的相关文章
记录一次把 BAAI/bge-reranker-v2-m3 部署成 vLLM reranker 服务,并让本地 WeKnora 通过 HTTP API 调用的完整过程,包括显存、镜像源、模型下载和接口验证。
向量召回只能找出可能相关的内容,reranker 才能把最适合给大模型看的片段排到前面。本文整理 BAAI/bge-reranker-v2-m3 的定位、适用场景和部署取舍。