用 AI 做小游戏,已经不是什么新鲜事。但如果只给编程模型一句“做一个有创意的游戏”,结果往往很容易落入熟悉的套路:简单的场景、常见的机制,再加上一套看起来似曾相识的画面。
开发者 Lovis Odin 尝试换一个顺序:先用视频模型生成一段理想中的游戏画面,再让 Claude 根据视频,把它实现成可以在浏览器里玩的游戏。
这个项目叫作 video to game,目前已经公开了 31 个游戏案例,全部可以在浏览器内实际体验游玩,以及配套的参考视频、提示词、游戏代码和 Agent Skill。。
- 在线体验:Video to Game 游戏展示站
- 项目源码:lovisdotio/video-to-game
让视频成为游戏设计稿
作者的出发点是,他对编程 Agent 独立设计游戏视觉效果的表现不太满意,于是把视觉构思交给视频模型,把具体实现交给编程模型。
在这个流程里,视频不仅展示美术风格,还同时表达镜头距离、角色动作、空间关系和一个最值得保留的玩法瞬间。
例如,“一个男孩在云层上方的巨鲸之间滑翔”,可以有无数种实现方式。角色有多大?鲸鱼如何排列?镜头贴近人物还是拉到远处?起跳和滑翔应该带来什么感觉?一段短视频能够把这些原本需要反复解释的细节集中呈现出来。
编程 Agent 因而获得了一个具体的实现目标:把视频里展示的体验,转化为玩家可以操作的系统。
项目 README 将主要案例的参考视频描述为通过 MiniMax H3 Max 生成,片长约 10~15 秒;致谢部分也列出了 Seedance 2.5。游戏代码、素材流程与试玩则由 Claude Opus 5.5 完成。
从视频到游戏,中间发生了什么?
Video to GameGame 本质上是一套提供给编程 Agent 的工作流程,包括 Skill、脚本、参考文档和代码骨架。
根据仓库中的实现说明,整个过程可以分为五个环节:
| 环节 | 主要工作 |
|---|---|
| 分析视频 | 提取关键帧、联系表、配色和镜头切换,整理角色、镜头与核心机制 |
| 生成素材 | 使用视频帧作为参考,通过 fal 生成图像、3D 模型、音效与音乐 |
| 编写游戏 | 使用 Three.js 实现操作、目标、反馈、进程以及重新开始 |
| 对齐画面 | 将游戏截图与视频固定时间点并排比较,调整颜色、灯光、雾效与构图 |
| 自动试玩 | 用键盘操作脚本运行游戏、录制过程,检查卡住、跌落和缺少反馈等问题 |
这里比较值得关注的是,项目要求 Agent 先写清楚设计规格,再开始编码。视频中的主体、镜头、材质和关键动作,都需要先被转化为可执行的描述。
它还强调保留视频中的核心机制。例如,参考视频如果展示的是“翻转整个世界”,实现出来的游戏就应该围绕世界翻转展开,而不是仅仅使用相似角色制作一个普通跑酷游戏。
这些要求使视频既成为创意参考,也成为后续验收的依据。
生成视频素材,Three.js 负责运行
在这套流程中,fal.ai 承担素材生成平台的角色。Agent 可以按需要调用图像生成、背景移除、图生 3D、绑定动画、音效和音乐等模型,并记录调用信息。
浏览器端则使用 Three.js 构建游戏。
作者将案例描述为每款游戏使用一个 index.html,不依赖 Unity、Unreal 或 Godot 等完整游戏引擎。不过,单个 HTML 入口并不意味着整个游戏没有外部资源:模型、贴图和音频依然需要加载。案例文档明确说明,完整素材没有包含在仓库中,因此下载源码后,不一定能够直接离线运行展示站上的完整版本。
对想研究实现方式的人来说,仓库的价值主要在于工作流程、提示词、脚本和游戏逻辑。
31 个游戏案例:从视频创意到可玩原型
Video to GameGame 公开了 31 个游戏案例,涵盖飞行、平台跳跃、环境互动以及多人合作。下面根据各案例的参考视频提示词和操作说明,介绍它们的场景设定与核心操作。
中文名称为便于阅读的意译;具体实现与参考视频可能存在差异。
01. Skyfarer:云海信使
一个信使男孩在云层上方的巨型飞鲸之间奔跑、跳跃与滑翔。鲸鱼既是场景中的主角,也是玩家落脚和起跳的平台,从鲸尾起跳还能获得更强的弹射效果。
操作包括奔跑、冲刺、跳跃、空中滑翔和俯冲,将“在巨鲸之间旅行”的幻想转化为连续的移动体验。

02. Tidebound:珊瑚帆船
两名水手驾驶一艘由粉色珊瑚生长而成的活体船只,船帆则像巨大的发光蝠鲼翅膀。参考视频将航行场景放在风暴中的碧蓝海面上。
游戏提供单人和双人合作模式。合作时,一人负责掌舵,另一人负责收放船帆、迎风调整,把航行拆成需要配合的两项任务。

03. Storm Surfer:风暴冲浪
玩家踩着发光的悬浮冲浪板,在黄昏的风暴海面上沿巨浪滑行。它的参考画面追求写实材质、闪电和浪花,搭配低位追逐镜头表现速度。
操作围绕沿浪转向、加速、起跳和空中旋转展开;靠近浪尖时起跳,可以获得更强的腾空效果。

点击展开查看更多游戏案例
04. Skyhook Rescue:空艇救援
两艘小型飞艇通过长缆绳相连,在雷暴中的浮空岛之间协同飞行。参考视频的目标是利用悬挂的救援篮,接走受困的村民和山羊,再返回灯塔港口。
操作说明为两位玩家分别提供了水平移动和升降控制,也支持手柄。两艘飞艇共同牵引一个救援装置,是这个合作概念的核心。

05. Paper Dragon:纸龙之旅
女孩骑着一条长长的红色纸龙,飞越秋日峡谷与金色树林,并从石拱下方穿行。纸龙的材质和随飞行动作起伏的身体,是参考视频的重要视觉特征。
游戏围绕飞行方向和上升操作展开,用一个鲜明的坐骑形象承载整个飞行体验。

06. Bubble Balloon:泡泡旅行
一个孩子待在巨大的肥皂泡里,漂浮在阳光下的海滨村庄上方。参考设定中,泡泡会轻轻碰撞屋顶和烟囱,身后还有海鸥跟随。
玩家可以转向、俯冲、减速,并通过吹气动作调整移动。它把常见的飞行载具换成了轻盈、柔软的泡泡。

07. Kite Rider:乘风纸鸢
女孩站在巨大的风筝上,在梯田上空乘风前进,穿过高大的风力涡轮机,再俯冲掠过湖面。参考画面采用水彩质感的 3D 风格。
操作包含倾斜转向、爬升、俯冲和风力加速。高空飞行与贴近水面的移动,共同构成这一案例的场景变化。

08. Aurora Skiff:极光沙舟
一位旅人驾驶带布帆的小型沙舟,在夜间发出蓝色微光的沙丘上前进。天空中的绿色与紫色极光,为沙海航行提供了鲜明背景。
玩家通过左右转向和阵风动作控制沙舟。它把帆船借风移动的意象搬到沙漠中,形成一个容易辨识的幻想场景。

09. Glass Greenhouse:云端玻璃温室
一个小机器人照料着云层上方、玻璃球内部的温室。参考视频中,它打开玻璃窗引入阳光,光照到的地方便长出花朵,形成可以攀登的阶梯。
游戏操作包括移动、开窗、转动曲柄和跳跃。“调整环境,让植物创造道路”是这个概念最值得关注的部分。

10. Bell Tower:钟楼荡绳
敲钟人在一座巨大的粉彩色钟楼中抓着长绳摆荡,每次敲响钟,都会在参考画面中向外释放一圈天空中的色彩波纹。
玩家需要有节奏地左右摆动,积累摆幅撞响钟,同时沿绳索上下攀爬。抵达金色绳索后,可以继续前往更高楼层。

11. Fog Shepherd:雾林引鹿人
披着斗篷的旅人提着灯笼,引导一群发光的白鹿穿过雾林。场景以单色为主,只有灯笼照亮的区域拥有颜色。
玩家可以深入雾中寻找鹿群,并举起灯笼召集它们、驱赶幽灵。灯光同时承担视觉焦点和互动工具的作用。

12. Paper Moon Stairs:纸灯登星
一位白裙女孩沿着漂浮纸灯组成的阶梯走向夜空。每一盏被触碰的灯笼都会升起,化作星星。
操作集中在行走和跳跃上,触碰灯笼就是直接的场景反馈。随着前进,脚下的路径逐渐变成头顶的星空。

13. Whale Song:鲸歌之路
系着红围巾的潜水者,与一头巨大的半透明幽灵鲸共同游过深蓝海洋。鲸的歌声会在水中绘出发光线条,成为潜水者滑行的路径。
玩家可以游泳、加速,并通过歌唱呼唤鲸的回应。声音被转化为可见、可利用的移动路线,是这个案例的关键创意。

14. Sky Library:天空图书馆
女孩像游泳一样穿行在温暖的空气中,周围是高耸、悬浮的书架,散落的书页像鸟群一样飞舞。
玩家可以自由移动,也可以搭乘书页组成的群落。书籍与纸张因此成为空间中的交通方式,而不只是背景装饰。

15. Kintsugi Mountain:金缮之山
小僧人攀登一座黑白水墨山峰,脚步带出金色痕迹,破裂的岩石则被金缮般的纹路修复。
玩家除了行走和跳跃,还可以按住互动键,用金色力量修补断桥与石块。金缮这一美术主题,也成为恢复道路的玩法。

16. Space Mower:小行星割草机
宇航员驾驶小型割草机,在一颗圆滚滚的绿色小行星上修剪草地。参考设定还加入了坠落的陨石,以及需要绕开的撞击坑。
操作包括前进、刹车、倒车、原地转向和加速。普通的割草活动被放到弯曲的星球表面,形成一个轻松又古怪的太空场景。

17. Ember Path:余烬之路
女孩捧着一粒发光的余烬,走过炭笔画般的焦黑森林。参考视频中,余烬会让周围树木重新显现鲜艳的绿色与橙色。
玩家可以行走、奔跑和跳跃,也可以向余烬吹气,扩大照亮范围并烧掉荆棘。小小的火种同时承担照明、清障和环境变化的作用。

18. Clockwork Heist:发条钟楼大盗
四名穿着红、蓝、黄、绿斗篷的小盗贼,在巨型钟楼内部穿越黄铜齿轮和摆锤。它的参考设定是一场强调时机与协作的四人潜入行动。
操作说明为四位玩家分别安排了移动、跳跃和拉杆控制,并支持手柄。有人需要守住机关,让其他人获得通过的机会。

19. Starlight Train:星光列车
披着白色斗篷的小精灵站在夜行列车顶部,随列车穿越雪山。参考视频中,它在车厢之间跳跃,接住坠落的星星,让下方车窗亮起。
玩家可以在车顶跑动、跳跃,并在空中长按按键滑翔。列车提供持续移动的舞台,星星则把收集动作与场景变化联系起来。

20. Dune Surfer:落日滑沙
戴着兜帽的滑沙者沿沙丘高速下降,从沙脊起跳,再落向下一片沙坡。参考画面采用低多边形风格,用橙色与紫色表现落日沙漠。
操作包括转向、压低身体加速、蓄力起跳,以及空中的旋转、前后空翻和抓板。它将沙丘起伏转化为连续的特技机会。

21. Autumn Wind:秋风叶行
孩子穿着橙色树叶组成的斗篷,伴随旋转的叶群越过金色山丘。参考视频强调大胆的绘画笔触和随风移动的秋叶。
玩家通过跳跃进入空中,长按按键借叶群滑翔,也可以主动俯冲。树叶同时构成角色外观、运动效果和飞行工具。

22. Stained Glass:彩窗之光
披着斗篷的小小身影穿过空旷教堂,彩绘玻璃窗将阳光投射成地面上的彩色形状。这里的规则是:只有彩色光斑能够承受角色的重量。
玩家需要在光斑之间奔跑、跳跃和滑翔。光照效果直接决定落脚点,让场景美术成为平台跳跃规则的一部分。

23. Deep Lights:深海点灯
一艘小黄潜艇进入漆黑海沟,用光唤醒沉睡的水母。被唤醒的水母变成发光的灯,逐渐显露通往更深处的道路。
玩家负责驾驶潜艇,并释放光脉冲。探索过程围绕“照亮下一段未知空间”展开,深色海水与生物荧光形成鲜明对比。

24. Snow Globe:倒转雪景球
小小的角色生活在雪景球内部。当整个世界翻转,雪花向上飘落,原本位于头顶的空间也成为可以行走的方向。
操作说明明确提供了世界翻转功能:按下空格,重力与镜头旋转 180 度;角色还可以接触玻璃泡泡,沿其表面行走。这是一个把空间变化作为核心机制的案例。

25. Sunflower Silhouette:向日葵剪影
剪影般的孩子穿行在巨型向日葵田中,把花瓣与叶片当作平台。参考画面用金色和深靛蓝构成极简配色,表现黄昏中的植物世界。
玩家可以奔跑、控制跳跃高度,并借助围巾在空中上升。巨大的植物尺度,让普通花田成为适合攀爬和跳跃的关卡。

26. Rust Bloom:锈城花开
灰色小机器人提着浇水壶,穿行于失去颜色的城市废墟。参考设定中,浇水会让锈迹变成花朵,水彩般的颜色沿墙面扩散。
玩家可以移动、跳跃和持续浇水,还需要到铁制水泵处补水。让废墟恢复色彩的过程,被连接到一个具体的资源补给动作上。

27. Ink Fox:墨迹灵狐
围着红围巾的白狐在宣纸般的黑白世界中奔跑,前方的浓墨笔画成为空中的平台,落地时溅起墨点。
这是一个自动奔跑的案例。玩家除了控制跳跃,还可以主动画出笔画平台、调整笔锋角度,让“画出道路”成为操作的一部分。

28. Mirror Sea:镜海拾忆
男孩赤脚走过黎明时平静如镜的海面,每一步都会荡起涟漪,显露水面下关于房屋与小狗的水彩记忆。
玩家可以行走、奔跑和跳跃,其中跳跃会产生更大的涟漪,揭示更多画面。它将探索动作与记忆浮现联系起来,呈现一种偏向氛围体验的概念。

29. Cloud Shepherd:牧云人
牧羊人挥着长杖,在天空草场上驱赶一团团像绵羊一样的小云。参考设定中,小云聚合成雨云,为干旱的浮空田地带来雨水。
玩家可以行走、奔跑、挥杖推动云羊,也可以吹口哨。“放牧”被重新解释为组织天气,让云朵成为可以引导的对象。

30. Train Painter:铺轨小火车
一辆小蒸汽火车在绿色丘陵间前进,铁轨随着行驶不断在车头前方生成。玩家需要调整新轨道的方向,引导火车前往山坡上的车站。
左右键控制铺轨弯曲方向,加速与刹车影响行驶,刹车还便于完成更急的转弯。这个案例把路线建造和载具驾驶放进了同一个实时过程。

31. Hourglass:沙漏行者
一个小小的旅人被置于巨型玻璃沙漏内部,金色沙粒从上方倾泻,堆积成通往沙漏颈部的沙丘。
玩家可以移动、跳跃,并通过按住按键召集沙粒形成沙丘。不断落下的沙子成为塑造地形、创造上升道路的材料。

这些案例的共同点是用一个容易记住的视觉意象,承载一组范围明确的操作:骑鲸滑翔、借光跳跃、画墨成路、聚云降雨。对于希望从小型项目开始制作游戏的开发者,这种 “一个鲜明场景 + 一个核心机制” 的构思方式,也值得单独借鉴。
做一个游戏,真的只需要几美元?
按照作者在 README 中公布的统计,31 个案例合计进行了 1,013 次 fal 调用,记录费用约 202 美元,平均每款约 6.5 美元。个别案例页面还列出了更详细的费用:例如 Skyfarer 为 8.93 美元,Paper Dragon 为 0.79 美元。
这些数字可以帮助理解生成素材的成本,但应当按作者记录的 fal 调用费用来看待。它们不能直接等同于完整游戏开发成本,也不能据此认定已经包含编程模型、人工筛选调试、部署等全部支出。
案例中的历史费用,也不代表今天重复运行同样的流程一定得到相同账单。
如何尝试这套流程
项目提供了 Claude Code 插件安装方式:
1 | claude plugin marketplace add lovisdotio/video-to-game |
也可以通过 Skills CLI 添加:
1 | npx skills add lovisdotio/video-to-game |
按照仓库说明,配套脚本需要 Python 3.9+、ffmpeg、Node.js 18+,录制工具使用 playwright-core;素材生成还需要安装 fal-client 并配置 FAL_KEY。
准备好参考视频后,可以向 Agent 提出这样的任务:
使用 video-to-game Skill,将 gameplay.mp4 做成可以在浏览器中游玩的游戏。根据视频确定镜头、角色、配色和核心机制,通过 fal 生成素材,使用 Three.js 实现。完成后提供视频与游戏的并排对比,以及实际操作游戏的录屏,并说明与参考视频存在的差异。
如果还没有视频,仓库中的 prompts/gameplay-video-prompts.md 提供了案例提示词,可以参考其中对镜头、主体和单一核心机制的表达方式。
它对独立开发者有什么启发?
Video to GameGame 展示了一种值得尝试的原型制作方式:在正式写代码之前,先把想要的体验变成可以观看、比较和讨论的东西。
不过,视频只展示了一条已经发生的路径。玩家如果走向另一个方向、错过跳跃、反复触发机关,游戏应该如何响应?这些规则仍然需要在实现阶段补齐。画面漂亮,也不能自动证明操作手感、关卡节奏和长期可玩性已经成立。
因此,我更愿意把 Video to GameGame 看作一种从视觉概念走向可玩原型的方法。对于只有一个核心机制、场景范围有限的小型项目,它能够帮助开发者更早确认:自己脑海中的那个瞬间,究竟能不能变成值得亲手操作的体验。
评论