港大研究:字节跳动Seedance视频生成质量领先,但安全过滤弱于部分竞品
港大最新研究显示,中国AI视频模型在视觉质量上超越美国对手,但高画质模型往往伴随更弱的安全防护机制。
香港大学商学院创新与信息管理学教授Zhenhui Jack Jiang领导的一项最新研究对12款主流AI视频生成模型进行了评估。结果显示,字节跳动的Seedance 2.0 Pro在视觉质量方面得分最高(5分制下得3.84分),超越了Google DeepMind的Veo 3.1(3.47分)和OpenAI的Sora 2 Pro(3.27分)。该研究还发现,当纳入音频能力时,Seedance依然保持领先。
然而,研究揭示了技术性能与内容安全之间的显著差距。在针对极端暴力或非法行为的提示词测试中,部分高性能模型生成了法律禁止的视觉内容,暴露出安全过滤的弱点。Seedance在11款参与安全评估的模型中仅排名第6(得分3.12),而MiniMax的Hailuo 2.3虽然视觉质量排名靠后(2.95分),却成为测试中最安全的模型(得分3.63),略高于Veo(3.62分)。
该评估基于71个中文提示词,由20名人类评估员打分,主要考察了截至今年4月可用的模型版本。研究者指出,高技术指标与健全的安全护栏并非互斥,企业可以在不牺牲性能的情况下加强安全标准。这一发现正值全球AI行业竞争加剧及安全审查日益严格之际,此前字节跳动已因Seedance 2.0未经授权使用版权角色和名人肖像而受到关注,并随后成立了专门的对齐与准备团队以加强AI安全研究。