10月28日消息,近期 Prime Intellect RL Residency 发布研究《Visual Harnesses Are Compositional Generalizers》,重新审视视觉语言模型(VLM)的扩容范式。
研究指出:单纯增大模型参数量,主要提升答案输出的可靠性,但很难拓展模型能够解决问题的范围;而Visual Harness(视觉框架)通过图像裁剪、缩放、测量等工具,把复杂视觉问题拆解为简单子任务,可以拓展模型可解问题的覆盖范围,但需要配合充足推理算力,才能兼顾准确率与稳定性。
当下主流视觉语言模型在物体识别、文本读取等简单任务表现尚可,但面对需要多步组合推理的复杂视觉问答时效果不佳。一种观点认为缺陷来自模型底层能力不足;而该研究给出另一种解释:并非模型完全不具备能力,而是缺少把复杂难题拆解为模型熟悉子任务的机制。
传统 VLM 流程将整张图片经过视觉编码器转为图像 Token,该编码过程会丢失大量细粒度视觉信息,即便信息被保存,大语言模型也未必可以将表征转化为正确答案。
Visual Harness 为此引入一套工具集,允许模型对原图做裁剪、放大、像素测量,重新提取局部细节,把复杂全局问题拆解成一系列局部简单子问题,实现组合泛化。
研究基于WorldBench数据集开展实验,该基准包含 2000 道视觉问答,覆盖感知提取、关系理解、逻辑定量推理、知识语义四大类别。测试对象包含 Qwen‑3.5 4B/9B、Qwen‑3.6 27B、Qwen‑3.5 397B 以及 GPT‑6 Luna。实验采用 Pass@1(一次尝试正确率)、Pass@8(八次尝试至少一次答对)两个核心指标衡量模型表现。
在不启用视觉框架的基线条件下:模型规模上涨,主要带来Pass@1 提升(单次回答可靠性提升),而代表问题覆盖能力的 Pass@8 基本持平。说明扩参让模型更容易稳定输出正确答案,但并不会解锁大量全新类型难题。
在 Qwen 系列上接入 Visual Harness 之后:Pass@8 明显上涨,代表更多问题至少可以被模型在多次尝试中解出来;但 Pass@1 没有提升甚至小幅下滑。这意味着虽然解锁了更多可解问题,但模型调用工具的行为不稳定,不同轮次之间结果波动大,部分尝试会错误调用工具。
而 GPT‑6 Luna 的实验证明该短板可以被克服:调高推理算力(medium 及以上推理等级)之后,Pass@1 与 Pass@8 同步上涨。最高 xhigh 推理档位下,开启框架后 Pass@1 从 57.1% 提升至 63.5%,Pass@8 由 75.4% 提升至 82.4%。
推理算力越高,模型调用图像裁剪、缩放工具的频次越高,多轮调用、多步拆解的占比随之增加,可以稳定复用框架带来的能力增益。
实验同时观察到:即便开启高等级推理,很多原本完全无法解答的题目,依旧只能做到部分轮次答对,很难做到八次尝试全部正确。说明 “找到一套可行解题路径” 与 “稳定复现这套路径” 仍是两个独立的技术难点。



