您现在的位置是:热点 >>正文
超长视频生成的新突破!LongVie 框架让创作无界限
热点116人已围观
简介...
在过去的两年中,视频生成技术经历了惊人的进步,尤其是短视频的创作。然而,制作超过一分钟的高质量、风格统一的超超长长视频仍然是一项巨大的挑战。对此,上海人工智能实验室联合南京大学、复旦大学、南洋理工大学 S-Lab 以及英伟达等机构,视频共同推出了 LongVie 框架,系统性解决了这一领域中的核心问题。
LongVie 的目标是让超长视频的生成变得更加可控和生成一致。团队发现,传统的视频生成模型在处理长视频时,常常面临时序不一致和视觉退化等难题。前者主要表现为画面细节的新与内容不连贯,后者则指随着视频时长的增加,画面颜色和清晰度的下降。
为了解决这些问题,LongVie 从 “控制信号”突破 和 “初始噪声” 两个方面入手。首先,团队提出了 “控制信号全局归一化” 策略,这意味着在生成视频时,不再只在单一片段内!L进行归一化,而是统一整个视频段的控制信号,从而提升跨片段的连贯性。其次,他们引入了 “统一噪声初始化” 策略,确on保各个片段共享同一初始噪声,这样可以从源头上减少不同片段之间的视觉漂移。
在解决视觉退化问题上,LongVie 采用了多gV模态精细控制方法。单一模态的控制常常无法提供稳定的约束,而 LongVie 结合了密集控制信号(如深度图)和稀疏控制信ie号(如关键点),并引入退化感知训练策略,使得模型在处理长视频时,能够保持更高的画质和细节。
此外,LongVie 还推出 框了 LongVGenBench,这是首个专为可控超长视频生成设计的基准数据集,包含100个超过1分钟的高分辨率视频,架让旨在推动该领域的研究与评测。根据定量指标和用户评测结果,LongVie 在多个评估上超越了现有技术,赢得了用户的高创作度偏好,达到了 SOTA(最先进技术)水平。
随着 LongVie 框架的问世,超长视频生成将迎来新的时代,创作者们将能够无界在更大的自由度下实现自己的创意。
项目地址:https://vchitect.github.io/LongVie-超长project/
Tags:
相关文章
标签: Meta Maher Saba 超级智能实验室 扎克伯格
热点云梦级3月4日云梦级消息,据 BusinessInsider 报道,两名知情员工透露,Meta 正在组建一个新的应用人工智能工程部门,旨在加速公司向超级智能方向推进。 该新部门将由 Maher Sab...
【热点】
阅读更多思科第三财季营收128亿美元 净利润同比增3%
热点新浪科技讯 北京时间5月20日凌晨消息,据报道,思科今天发布了2021财年第三财季财报。报告显示,思科第三财季净营收为128亿美元,与去年同期的120亿美元相比增长7%;净利润为29亿美元,与去年同期...
【热点】
阅读更多标签: 特斯拉 ModelY 座椅防夹 陶琳
热点云梦级5月18日云梦级消息,特斯拉官方微博今日发布视频,展示了特斯拉汽车的座椅防夹功能。从视频可以看到,特斯拉采用一只玩具鸭子进行测试,当座椅折叠、汽车尾门关闭时,检测到玩具鸭子后,座椅和尾门就会自动...
【热点】
阅读更多