本地 LLM 部署 第 4 章：嵌入生成与向量索引构建
第 4 章：嵌入生成与向量索引构建——本地化语义搜索基础设施
嵌入（Embedding）是 RAG 系统的“语义坐标系”：它将文本转化为高维向量，实现语义相似度计算。高质量嵌入直接决定检索召回率（Recall）和最终生成准确性。在本地部署中，我们优先开源、可量化模型，避免 API 依赖和隐私泄露。
本章聚焦 2025 年本地化嵌入方案：从模型选型到批量生成、量化优化，再到向量数据库索引。核心目标：在 12GB VRAM 下高效处理 10k+ 文档，支持中文/中英混合/医学领域文本。
4.1 嵌入模型选型——BGE-M3 与 m3e-base 的中文/医学文本优化
2025 年，本地嵌入模型已成熟，开源 SOTA 集中在 BAAI（北京智源）BGE 系列和 MokaAI M3E 系列。针对中文和医学文本（中英混合、术语密集、专业长尾词），我们推荐BGE-M3作为首选，m3e-base作为轻量备选。两者均支持 HF 生态、FP16/BF16 量化，推理速度快（单批 512 句 ~0.5s @ RTX 4070）。