省极客AI导航 提交工具

Noiz AI 联合港科大开源 Helix World:一张图生成可漫游的场景,画面和立体声随视角实时变化

2026-10-16 · #世界模型#开源#AI视频#AI音频#实时生成#Noiz AI

Noiz AI 与香港科技大学推出实时交互音画世界模型 Helix World:从一张图出发,用 WASD 移动、方向键环顾,模型同步生成后续画面和跟随镜头转向的立体声,单张 NVIDIA H800 上可跑到 24 帧/秒;代码已在 GitHub 开源,预览权重和网页试玩同步开放。

据 Noiz AI 官方博客 10 月 12 日发布的介绍,Noiz AI 与 香港科技大学(HKUST) 推出了实时交互式音画世界模型 Helix World,这两天在 X 上被不少 AI 视频创作者转发试玩。要点如下:

  • 怎么玩:选一张起始图(也可上传自己的图),可选填一段文字描述,留空则由模型根据画面自动描述;开始后用 WASD 移动镜头、方向键 转视角,模型分段生成接下来的画面和声音;
  • 声音是一起生成的:和「先出视频、再配音效」不同,Helix World 的声场会跟着镜头转动左右变化,比如转头时声音会在左右声道之间移动;官方认为后期配音的方案看不到镜头轨迹,做不到这一点;
  • 速度和成绩:单张 NVIDIA H800 上约 24 帧/秒,实时系数 0.77(比实时更快);在 WBench 导航子集得分 79.9,接近目前较强的无声世界模型;在团队同步发布的音画评测 HelixBench 上,空间声学一致性得分 41.8,对比的另一款带声音的世界模型 EchoWM 为 12.7(均为官方数据);
  • 技术底座:基于开源音画模型 LTX-2.3,加入镜头轨迹和键盘动作控制,再蒸馏成少步数的流式模型以支持实时生成;
  • 开放情况:论文已上 arXiv,代码在 GitHub 开源(代码为 Apache 2.0,权重另附许可),预览版权重在 Hugging Face,网页版试玩在 helixworld.org。

对创作者意味着什么: 世界模型以前多是「无声的可漫游画面」,Helix World 把空间音效一起算进来,对做沉浸式短片、游戏概念演示、虚拟场景漫游类内容的创作者来说,多了一种快速出样片的方式。目前它仍是研究预览,输入分辨率为 768×512,本地部署对显卡要求很高,普通创作者更现实的做法是先用网页版试玩、录屏找灵感;正式用于商业作品前,记得看清权重许可条款。

信息来源:Noiz AI 官方博客(本文为编辑整理改写)

推荐工具