「帮我把图里的杯子框出来」——这句话要让模型听懂并照做,靠的就是 AI 视觉里的视觉定位。用一句话圈出图中某个东西的位置,它在多模态大模型里越来越常见,Kimi 和文心一言的识图能力里都有它的影子。
它和目标检测差在哪
传统目标检测是「报菜名」:把图里所有认识的类别一个个框出来。视觉定位是「听点菜」:你说要哪个,它只框哪个。前者是全量输出,后者是指令驱动。判断标准也简单:前面有没有一句人话指令。
类比:目标检测像超市盘点,货架全扫一遍;视觉定位像店员服务,你说「拿那罐黄色的」,他直奔目标。
一句话记住分工:检测回答「图里有什么」,定位回答「你说的那个在哪」。两个问题别混着问,答案形式完全不同。
两种能力按维度摊开,差别一目了然。
| 对比维度 | 目标检测 | 视觉定位 |
|---|---|---|
| 输入 | 一张图,不需要额外指令 | 一张图,外加一句人话指令 |
| 输出范围 | 全量输出,认识的类别一个个框出来 | 只框你说的那个,指令驱动 |
| 回答的问题 | 图里有什么 | 你说的那个在哪 |
| 类比 | 超市盘点,货架全扫一遍 | 店员服务,你说哪罐就直奔目标 |
框和坐标怎么读
定位结果通常是一个矩形框,用四个数字表示:左上角的横纵坐标加右下角的横纵坐标。有些模型输出比例值,有些输出像素值,用之前要确认口径。拿到框再裁剪、放大、打标注,都是下游的常规操作。
类比失效:店员可以凭感觉找到货架,模型必须落成数字才有用。坐标是精确值,没有「大概在那边」这种说法。
比例值和像素值换算也别大意:模型给的是 0 到 1 的比例时,要乘上原图宽高才是像素坐标;给像素坐标时,则要确认是不是按缩放前的原图算的。口径搞反,框会整体偏移。
指代理解是难点
「左边第二只猫」「戴帽子的那个人」这类说法,考验的不只是看见,还有理解。模型要把方位词、序数词、属性描述都对上画面里的实体。指代一复杂,框错位置的概率就上升,这也是各家模型还在追赶的地方。
多物体和遮挡场景是另两道坎。图里五只猫让你框第三只,序数词要数得对;目标被挡住一半,框该贴着可见部分还是补全轮廓,不同模型选择不同。批量任务里先拿几张图试模型的理解习惯,再上量,能省很多返工。
整页截图建议先用版面分析分好区块,再对目标区域下指令,框得更稳。
说一句话就能框东西吗
现在的多模态对话模型基本都支持:把图发进对话框,直接用自然语言说要框什么。要点是描述尽量具体——光说「那个东西」模型会猜,说「图右侧的红色水杯」就稳得多。智谱清言的识图问答同样吃这套描述方法。
框出来的局部如果是表格,交给表格识别;如果是公式,走公式识别,定位常常是这些能力的前置步骤。
下游玩法比想象中多:同一类物体逐个定位后能自动计数;定位加裁剪能批量打码,保护画面里的敏感信息;电商图里定位商品位还能自动贴标。误差来源主要三个——目标太小、画面模糊、描述含糊,前两个靠换高清源解决,最后一个靠把话说细。
顺手记一个进阶判断:定位结果稳不稳,看重复测试。同一句话问三遍,框的位置基本不动,说明模型对这个描述理解扎实;每次飘来飘去,说明它在猜,换更明确的描述最有效。
定位描述自查清单
- 方位说了吗:左、右、上、下、中间
- 属性给足了吗:颜色、大小、状态
- 同类物体多个时,序数词用了吗
描述越具体,框得越准,这条没有例外。
关于视觉定位再多问三句
- 框出来能直接用吗?:能,导出坐标后可接裁剪、打码、计数等下游处理。
- 小物体会框不准吗?:会,目标越小像素越少,定位误差越明显,先裁剪局部再框更稳。
- 视频里能逐帧定位吗?:可以,先用视频抽帧再逐帧定位,是常见的组合流程。
回到开头那句话:会框东西的模型,本质是把语言和位置接上了线。下次识图时试着下一条指令,你会发现对话式视觉比想象中顺手。


