360 AI 研究院半年 6 篇顶会论文:真正值得看的,是“精准可控”如何落到产品里
360 AI 研究院半年 6 篇顶会论文:真正值得看的,是“精准可控”如何落到产品里
过去两年,AI 行业并不缺漂亮 demo。缺的是另一类能力:模型能不能进到真实产品工作流里,长期、稳定、低成本地解决问题。
所以我看 360 AI 研究院 2026 年上半年的 6 篇顶会论文时,最想讨论的不是“中了几篇顶会”,而是这组工作背后的工程取向。
这 6 篇论文横跨 ICLR、CVPR、ICML、ECCV,覆盖多模态理解和多模态生成。把它们放在一起看,主线很清楚:不是单纯追求模型“会看、会生成”,而是让 AI 在产品里更准、更稳、更可控。
这张路线图其实把问题讲得很直白:看得准、改得准、出得准。对开发者和产品团队来说,这比“参数更大”“效果更炫”更接近真实需求。
为什么我更关心“工程落地”
很多论文的学术价值很高,但离产品可用还有一段距离。尤其是多模态 AI,实验室里的成功往往不等于线上可用。
放到真实场景里,问题会变得很具体:
云盘里搜一张图,模型能不能理解中文长描述和局部细节?
Agent 看见一个复杂界面,能不能点到用户真正想点的按钮?
图片编辑时,AI 能不能只改指定物体,而不是把整张图改乱?
虚拟试衣时,蕾丝、透明材质、纹理这些细节能不能保住?
视觉模型持续扩展时,能不能少依赖人工标注?
这几个问题,正好对应 360 这组论文的几条线。
| 产品里的真实问题 | 对应论文/模型 | 它解决的核心能力 |
| 搜索结果“差不多相关”,但不够精确 | FG-CLIP 2 | 双语细粒度图文对齐 |
| Agent 看见界面,但找不准目标 | AMLRIS | 语言指令到视觉对象的精准定位 |
| 分割模型扩展太依赖人工标注 | MoSA | 从无标注视频运动中学习物体概念 |
| 图片编辑缺少可控中间结构 | RevealLayer | 把图像拆成可编辑的 RGBA 图层 |
| 虚拟试衣细节容易丢 | RefTON | 用参考图增强服装材质与细节保真 |
| 生成模型需要更高效 | NAMI | 面向生成效率的架构优化 |
这不是硬凑一张表。它们实际上构成了一个产品链路:先把内容理解准,再把目标定位准,最后把生成和编辑控制准。
海外 X 讨论说明了什么
360 上半年这组顶会论文研究在海外 X 平台引发了讨论,讨论焦点集中在一个方向,即 360 的 AI 研究并不是做“通用聊天感”,而是围绕 Agent 和产业应用,强调更精准、更可控、更可靠的能力。
说明海外技术圈关注的不是单篇论文新闻,而是这组工作的路线感。
我理解这里有三个信号:
第一,MoSA 这类工作戳中了视觉基础模型的一个长期痛点:SAM 很强,但高度依赖人工标注。有没有更可扩展的训练路径,是视觉基础模型继续往前走必须回答的问题。
第二,FG-CLIP 2、AMLRIS 这类工作更接近 Agent 和企业应用。它们不是单纯做“图像理解”,而是在解决检索、定位、指令对齐这些产品入口问题。
第三,RevealLayer、RefTON 这类工作体现的是生成模型的另一种价值:不是无限生成,而是可控编辑、可控分解、可控试衣。这会更容易进入 SaaS、设计、电商和内容生产流程。
这也是为什么我觉得“精准可控”不是一句包装口号。它和产品落地强相关。
FG-CLIP 2:检索系统不能只满足于“大概像”
现在很多产品都有多模态检索,但真正用起来,经常会遇到一个尴尬情况:结果确实相关,却不是用户想找的那一个。
比如用户搜“穿红色外套、站在右侧的人”,或者搜“有透明材质和蕾丝领口的衣服”。如果模型只理解整图语义,召回结果就容易停留在“大概像”。企业云盘、图片资产库、设计素材库里,这种“大概像”是不够的。
FG-CLIP 2 的重点就在“细粒度”。
从框架可以看出,它不是只做整图和整句的对齐,而是分两步推进。
第一阶段先做中英文全局图文对齐,同时用长 caption 和短 caption 建立基础语义空间。第二阶段再把训练拉到局部区域:region caption、正负区域描述、ROI 特征、hard negative,一起强化模型对细节差异的识别能力。
这里面最贴近产品的一点,是它处理的是“相似候选之间的差别”。真实检索中,难点往往不是区分猫和汽车,而是区分两张都很像的会议截图、两件材质相近的衣服、两个布局相近的设计稿。
FG-CLIP 2 还面向中文场景做了数据和评测补强,包括大规模中文 region-text 数据,以及长文本检索、区域分类等任务。对国内企业应用来说,这一点很实际。很多业务查询不是英文短标签,而是中文自然语言描述。
公开材料显示,FG-CLIP 2 已经支撑 360 云盘、亿方云等产品中的 AI 检索能力。这也是它最有说服力的地方:细粒度图文对齐不只是论文指标,而是可以直接变成云盘、知识库、企业文件管理里的入口能力。
AMLRIS:Agent 的第一步,是别点错地方
Agent 要真正进入办公和生产场景,视觉定位能力非常关键。
一个浏览器 Agent 或桌面 Agent,如果只能看懂截图的大概内容,还远远不够。它必须能理解“右侧蓝色按钮”“下方那个文件夹”“左上角第二个图标”这些自然语言指令,并准确落到屏幕上的区域。
AMLRIS 做的就是这件事:根据自然语言描述,分割图像中被指代的目标。
这篇论文里,我觉得最有工程味道的是 AML 的设计。它没有在推理阶段堆更复杂的结构,而是在训练阶段先估计图像 patch 和文本之间的对齐关系,再过滤掉低对齐区域。
简单说,就是训练时不要让模型被无关背景、相似物体、弱相关区域带偏。
它包含两个关键动作:
PMME 估计视觉区域和文本描述的匹配程度;
AFM 根据匹配程度生成 mask,把不可靠区域从训练中弱化掉。
这类方法对线上系统友好,因为它把复杂性主要放在训练侧。推理时不额外增加模块,也就更容易进入低延迟、高并发的产品系统。
从 Agent 视角看,这一点很重要。用户不会容忍一个自动化助手“差不多点对了”。一旦点错按钮、选错文件、改错对象,后面的流程就全错了。AMLRIS 的价值,恰恰是把“看见界面”往“找准目标”推进了一步。
MoSA:不只是分割,更是低标注视觉基础模型路线
这次最新的时效切口是 MoSA。它的问题意识很基础:AI 能不能像人一样,通过观察运动来学习“什么是物体”?
SAM 证明了通用分割模型的能力,但它背后依赖大规模人工标注。MoSA 试图走另一条路:利用无标注视频中的运动信息,自动生成多粒度伪标签,再训练模型学习可迁移的物体概念。
这张对比图里比较直观:MoSA 不只是分出运动区域,而是能更接近完整物体边界。比如车辆、动物、公交车、桌面物体等场景里,它展示的是从运动线索迁移到“物体概念”的能力。
MoSA 的整体框架也很清楚。
它分三步:
从大规模无标注视频中生成 motion pseudo-label;
训练 Perceptual Grouping Model,让模型学习更通用的 objectness;
把这种先验迁移到 prompt-guided 架构中,实现类似 Segment Anything 的图像推理。
材料里提到,MoSA 使用约 1 万小时无标注视频,自动构建超过 2100 万个高质量伪标签。这个数字背后的意义,不只是“数据规模大”,而是它降低了视觉基础模型继续扩展时对人工标注的依赖。
这里要避免一个误读:MoSA 不是要简单说“取代 SAM”或“击败 SAM”。更准确的表述是,它探索了一条更可扩展、更低标注依赖的训练路径。
对产品和 Agent 来说,这条路线很关键。真实世界不断出现新物体、新界面、新设备、新场景。如果每次能力扩展都要依靠人工标注,成本会很高。MoSA 给出的思路是,让模型通过观察世界本身学习物体概念。
这和 AMLRIS 可以接在一起看:MoSA 解决“什么是物体”;AMLRIS 解决“用户说的是哪个物体”;Agent 才能进一步完成“对这个物体执行操作”。
RevealLayer:图片编辑真正需要的是“可控结构”
多模态生成已经很热,但真实产品里,用户常常不是要 AI 随机生成一张图,而是要它完成一个明确编辑动作。
比如只移除一个物体,只补全被遮挡的区域,只编辑指定前景,不破坏背景和其他对象。这些需求的核心不是生成能力,而是可控结构。
RevealLayer 做的是图层分解:把单张 RGB 图像拆成背景层和多个带透明通道的 RGBA 前景层。
这件事比普通抠图难得多。因为自然图像里有遮挡、有透明物体、有复杂边界,还有图层之间的相互关系。RevealLayer 不只是把对象分出来,还要补全被遮挡区域,并保持各层之间的视觉一致性。
它的框架里有几个关键设计。
Region-Aware Attention 用来减少不同图层之间的信息混杂;Occlusion-Guided Adapter 用来增强遮挡区域补全;alpha loss 和 orthogonality loss 则约束边界清晰度和图层残留伪影。
从产品角度看,RevealLayer 的意义是把图片编辑从“一次性生成结果”变成“可继续操作的中间结构”。一旦图像能被拆成图层,后续就能接对象移除、局部重绘、抠图、营销图制作、设计稿编辑等工作流。
公开材料中还提到,RevealLayer 已经上线 360 AI 研究院 SaaS 平台。这类落地信息很重要,因为它说明论文能力已经进入可体验产品,而不是停在实验室。
RefTON:虚拟试衣里,参考图比想象中重要
虚拟试衣看起来是生成任务,但真正做产品时,细节很难。
衣服轮廓对了还不够,材质、纹理、透明度、蕾丝、领口、褶皱都要尽量保真。传统虚拟试衣往往依赖人体解析、姿态估计、服装 mask、warping 等多个辅助模块,链路越长,误差越容易累积。
RefTON 的思路是引入未配对视觉参考图:目标服装不一定穿在目标人物身上,但如果能看到“这件衣服穿在另一个人身上的样子”,模型就能更好理解材质和细节。
图里能看到,参考图对透明材质、蕾丝领口这类细节保真很有帮助。这些细节恰恰是电商、服饰素材生产、虚拟模特场景中用户最在意的部分。
RefTON 的训练流程也体现了工程取向。
第一阶段先生成训练所需的 try-on 数据,第二阶段再把 person image、agnostic image、cloth image、reference image 一起作为输入,训练 person-to-person virtual try-on。论文还强调同时支持 mask-based 和 mask-free 推理。
这意味着它不是只服务单一理想输入,而是在考虑更复杂的真实输入条件。对产品落地来说,这类兼容性比单一 benchmark 表现更重要。
回到产品闭环:为什么这条线值得关注
把这些工作串起来看,360 AI 研究院的路线并不是“每篇论文各做各的”。
FG-CLIP 2 解决检索里的细粒度理解,AMLRIS 解决语言指令到目标区域的定位,MoSA 探索更低标注依赖的物体概念学习,RevealLayer 和 RefTON 则把生成与编辑推向更可控的工作流。
这套能力放到产品里,大致会形成这样的链路:用户用自然语言提出需求;多模态模型理解文本、图像和局部区域;模型定位用户真正要操作的对象;生成、编辑或检索系统执行可控操作;结果进入云盘、知识库、Agent、SaaS 或电商工作流。
这就是我认为“精准可控”值得讨论的原因。它不是为了听起来高级,而是对应 AI 产品化里的三个硬问题:
检索是否准确;
定位是否稳定;
编辑和生成是否可控。
一家安全公司做 AI,也天然会更重视这些问题。安全、办公、企业、Agent 场景都不太能接受“差不多”。它们需要鲁棒性、抗干扰、边界控制和可复现结果。
所以,360 这组论文真正值得看的,不只是会议名称,而是它们正在把多模态能力往产品系统里推:从论文问题,到模型能力,再到 SaaS、云盘、企业检索和 Agent 工作流。
如果说过去很多 AI 产品拼的是“看起来会不会”,那下一阶段更重要的可能是:
能不能找准;
能不能点准;
能不能只改该改的地方;
能不能在复杂场景里稳定工作;
能不能真的嵌进业务流程。
这几个问题,比 demo 更难,也更接近 AI 的长期产品价值。
