Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2510.02253v1

帮助 | 高级搜索

计算机科学 > 计算机视觉与模式识别

arXiv:2510.02253v1 (cs)
[提交于 2025年10月2日 ]

标题: DragFlow:基于区域监督的拖动编辑中DiT先验的释放

标题: DragFlow: Unleashing DiT Priors with Region Based Supervision for Drag Editing

Authors:Zihan Zhou, Shilin Lu, Shuli Leng, Shaocong Zhang, Zhuming Lian, Xinlei Yu, Adams Wai-Kin Kong
摘要: 基于拖动的图像编辑长期以来在目标区域遭受失真,这主要是因为早期基础模型Stable Diffusion的先验知识不足以将优化后的潜在表示投影到自然图像流形上。 随着从基于UNet的DDPMs转向更具可扩展性的DiT与流匹配(例如SD3.5、FLUX),生成先验知识变得显著更强,从而在各种编辑任务中取得了进展。 然而,基于拖动的编辑尚未受益于这些更强的先验知识。 本工作提出了第一个有效利用FLUX丰富先验的基于拖动的编辑框架,称为DragFlow,在基线上取得了显著提升。 我们首先表明,直接将基于点的拖动编辑应用于DiT效果不佳:与UNet的高度压缩特征不同,DiT特征结构不足,无法为逐点运动监督提供可靠指导。 为了克服这一限制,DragFlow引入了一种基于区域的编辑范式,其中仿射变换能够提供更丰富且一致的特征监督。 此外,我们集成了预训练的开放领域个性化适配器(例如IP-Adapter)以增强主体一致性,同时通过基于梯度掩码的硬约束保持背景保真度。 多模态大语言模型(MLLMs)进一步用于解决任务歧义。 在评估方面,我们整理了一个新的基于区域的拖动基准(ReD Bench),包含区域级别的拖动指令。 在DragBench-DR和ReD Bench上的大量实验表明,DragFlow超越了基于点和基于区域的基线,在基于拖动的图像编辑中达到了新的最先进水平。 代码和数据集将在发表后公开。
摘要: Drag-based image editing has long suffered from distortions in the target region, largely because the priors of earlier base models, Stable Diffusion, are insufficient to project optimized latents back onto the natural image manifold. With the shift from UNet-based DDPMs to more scalable DiT with flow matching (e.g., SD3.5, FLUX), generative priors have become significantly stronger, enabling advances across diverse editing tasks. However, drag-based editing has yet to benefit from these stronger priors. This work proposes the first framework to effectively harness FLUX's rich prior for drag-based editing, dubbed DragFlow, achieving substantial gains over baselines. We first show that directly applying point-based drag editing to DiTs performs poorly: unlike the highly compressed features of UNets, DiT features are insufficiently structured to provide reliable guidance for point-wise motion supervision. To overcome this limitation, DragFlow introduces a region-based editing paradigm, where affine transformations enable richer and more consistent feature supervision. Additionally, we integrate pretrained open-domain personalization adapters (e.g., IP-Adapter) to enhance subject consistency, while preserving background fidelity through gradient mask-based hard constraints. Multimodal large language models (MLLMs) are further employed to resolve task ambiguities. For evaluation, we curate a novel Region-based Dragging benchmark (ReD Bench) featuring region-level dragging instructions. Extensive experiments on DragBench-DR and ReD Bench show that DragFlow surpasses both point-based and region-based baselines, setting a new state-of-the-art in drag-based image editing. Code and datasets will be publicly available upon publication.
评论: 预印本
主题: 计算机视觉与模式识别 (cs.CV) ; 人工智能 (cs.AI); 机器学习 (cs.LG)
引用方式: arXiv:2510.02253 [cs.CV]
  (或者 arXiv:2510.02253v1 [cs.CV] 对于此版本)
  https://doi.org/10.48550/arXiv.2510.02253
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Zihan Zhou [查看电子邮件]
[v1] 星期四, 2025 年 10 月 2 日 17:39:13 UTC (14,038 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
查看许可
当前浏览上下文:
cs.CV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-10
切换浏览方式为:
cs
cs.AI
cs.LG

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号