跳到主内容

embeddings 是什么?文本变向量的入口

2026-10-29 发布 来源:我告诉你AI导航 阅读

在 AI 眼里,一段文字进模型之前要先变成数字。把「今天天气不错」变成一串坐标点,机器才能计算它与「天气晴朗」有多接近——完成这个转换的入口,叫 embeddings:把任意文本映射成一个高维向量,语义相近的文本在向量空间里挨得近。...

在 AI 眼里,一段文字进模型之前要先变成数字。把「今天天气不错」变成一串坐标点,机器才能计算它与「天气晴朗」有多接近——完成这个转换的入口,叫 embeddings:把任意文本映射成一个高维向量,语义相近的文本在向量空间里挨得近。检索、聚类、推荐这些能力,都从这一步起步。这篇讲清向量化是怎么回事、相似度怎么算、它在 RAG 检索里站在哪一环,以及调用入口与选型边界;向量表示的早期形态,见词向量一篇,可以对照着读。

从字符串到坐标:向量化的机制

模型在海量文本上训练,学会了把语义压进一串固定长度的数字:一段文本进,一个向量出。关键词是「语义」而非「字面」——「笔记本电脑」与「手提电脑」字面不同,向量却很近;同一个词出现在两段话题完全不同的文本里,字面相同,向量反而分开。这层表示是训练任务「逼」出来的:模型被迫把会出现在相似上下文里的文本排到相近位置,上下文分布就是语义的影子。向量通常一两千维,每个维度没有单独的含义,语义分布在整串数字里。与早期只给单个词编码的词向量相比,现代 embeddings 直接处理整段文本,短句、长段都能压成一个点,两代表示的差别在词向量一篇有展开。

相似度怎么算:距离与最近邻

两个向量挨得近不近,常用余弦相似度衡量:不看向量长短,只看方向夹角,夹角越小越相似。有了这把尺子,很多任务就统一成了同一个动作——找最近邻。语义检索是其一:把问题变成向量,在库里找距离最近的几条内容,命中靠的是意思相近而非字词重合。聚类是其二:让 kmeans 这类算法按向量距离把文本自动分堆,语料里藏着的主题结构就浮出来了,分堆的机制见kmeans 聚类一篇。去重、推荐、相似题归并,走的也是同一把尺子。要留意一条边界:相似度高只说明语义相近,不说明事实正确——两条都在讲同一个错误说法的文本,向量照样贴得很近,判断真伪是另一道工序的事。

在 RAG 里站哪一环:检索的底座

RAG 的思路是先查资料再回答,而「查」这一步的底座就是 embeddings。流程分两侧:入库侧,文档先切块,每块向量化后存进索引;查询侧,用户的问题同样向量化,拿问题向量去库里召回距离最近的几个块,连同问题一起交给模型生成回答。召回质量直接决定回答质量:文档块与问题必须在同一个向量空间里,切块的粒度太碎丢语境、太粗混主题,都会在这条链路里被放大成答非所问。RAG 与联网搜索两条路各自适合什么场景,边界在RAG 与搜索一篇有对照。可以说分工很清楚:对话模型负责读与写,embeddings 负责找。

调用与选型:一行请求与几个权衡

调用入口与对话 API 是同一套门禁:申请 key、发一条请求,输入文本列表,返回对应的向量数组,第一次调用的完整步骤见API 第一行代码一篇。选型上有几个权衡:维度越高表达越细,但存储与计算开销同步上涨;不同模型的向量不在一个空间里,入库用哪个模型、查询就必须用哪个,混用等于拿两把尺子量两个世界;多语言场景要确认模型对中文的支持程度。还有一条边界要记:embeddings 只负责「表示」,不做推理与生成,找到资料之后的理解与回答仍归对话模型。动手感受一下很直接:可以让 DeepSeek 把余弦相似度的计算过程展开成可运行的示例,再让豆包把「语义检索与关键词检索的差别」讲给非技术同事听,两轮下来概念就落了地。

权衡项取舍方向代价或约束
向量维度维度越高,语义表达越细存储与计算开销同步上涨
embedding 模型入库与查询锁定同一个模型混用等于拿两把尺子量两个世界
多语言场景选型时确认模型对中文的支持程度换模型要全量重算、重建索引

embeddings 速查

  • 本质:文本到高维向量的映射,语义近则向量近
  • 相似度:常用余弦,多数任务归结为找最近邻
  • RAG 角色:文档与问题同空间向量化,召回最近的块
  • 纪律:入库与查询用同一个模型,向量不混空间
  • 边界:只做表示不做推理,理解与回答归对话模型

embeddings 快问快答

  • 两条文本向量距离近,就一定在说同一件事吗?:只说明语义相近,不保证事实一致。两条都写错的文本照样很近,事实核查要靠下游环节,不能指望向量距离替你把关。
  • 换了 embedding 模型,旧数据要重跑吗?:要。向量空间随模型变,新旧向量不可比,换了模型就全量重算重建索引,入库与查询必须始终同模型。
  • 向量能存进普通数据库吗?:能,量小直接存表按行算也行;量大时专用向量库提供近似最近邻索引,毫秒级召回,效率差距明显。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]