高马尔
一个信息发布的网站

剧本自动生成3D动画!北航中大等提出新方法,破解多人互動难题

今天小编(謝飛揚)要和大家分享的是剧本自动生成3D动画!北航中大等提出新方法,破解多人互動难题,欢迎阅读~

设定一个 3D 场景,你便可以用文字编织你的剧情。

一句话,就能让两个人激烈争吵。

吵完之后,又温馨共舞起来 ~

想怎么排就怎么排,就像影视拍摄或舞台剧的编排一样,只需在剧本中设定角色的行动、互动和环境要素,就能自动生成符合逻辑的 3D 角色动画,让你的剧情真正 " 动 " 起来。

来自北京航空航天大学、香港中文大学(深圳)、悉尼科技大学、中山大学等高校的研究者提出 Sitcom-Crafter。成果已被 ICLR 2025 会议接收。

作为一项探索性研究,它重点解决基于场景的多人互動运动生成问题,尝试如何整合多种动作生成技术,为创意工作者提供更加高效的工具。

来看看是如何解决的吧。

你是否曾梦想,只需撰写一个剧本,就能在 3D 场景中自动呈现生动的角色演出?现在,这一愿景正逐步成为现实!

在动画和游戏制作中,角色的动作设计是一项关键任务,通常需要人工精细调节或依赖昂贵的动作捕捉技术。

而现有的自动化方案往往局限于单一类型的动作,难以满足复杂剧情中多人互动和场景互動的需求。

Sitcom-Crafter 的核心创新在于场景感知的多人互動运动生成

在多人互动的 3D 剧情动画中,角色之间的动作协调和场景适应性是决定动画质量的关键。Sitcom-Crafter 提出了场景感知的角色 - 角色互動生成模块,专门解决多人互動中的碰撞、动作同步以及场景适应性等问题。

现有的多人互動运动生成方法未考虑 3D 场景信息,直接应用到 3D 场景时,角色容易与环境物体发生严重碰撞。

Sitcom-Crafter 采用自监督 SDF(Signed Distance Function)策略,在训练过程中自动生成环境 3D 体素点信息,自动标注哪些区網域可行走,哪些为障碍物:

提取角色运动轨迹,生成 3D 网格模型

计算步行区網域的凸包,标记角色可活动的地面范围

合成 3D 障碍物,通过二值 SDF 计算物体分布

将 SDF 作为模型条件输入,在生成过程中主动规避场景碰撞

基于此,Sitcom-Crafter 在无需额外数据采集的情况下,利用已有的人体标记点数据智能推测场景信息,自动生成物理合理的互动,使角色动作更加自然。这一创新降低了数据成本,提高了创作效率,为动画和游戏行业提供了一种新的探索方向。

数据规范化策略,优化角色互動建模

传统方法在多人互動数据处理时,采用单角色归一化,即将一个角色固定在原点,另一角色相对其位置进行建模。然而,这种方式导致模型难以同时学习两位角色的动态特性。

Sitcom-Crafter 提出了双角色局部归一化策略:

每个角色的骨盆位置,作为局部坐标原点

所有骨架标记点,相对于角色自身骨盆位置计算

仅对骨盆的全局位移建模,简化数据分布

通过这一策略,Sitcom-Crafter 使两位角色的运动分布更加一致,避免了传统方法中一方角色较易学习,而另一方角色较难学习的问题。

多模块协同,让角色动作更加自然

Sitcom-Crafter 采用 " 核心动作生成 "+" 增强优化 " 的双类型模块架构,以确保动作的多样性、流畅性与一致性。

三大核心生成模块——支撑剧情中最重要的角色动作

角色移动 (Locomotion):基于前沿技术,角色可在 3D 场景中自然行走。

角色 - 场景互動 (Human-Scene Interaction):角色可感知环境,与物体进行符合物理逻辑的互動。

角色 - 角色互动 (Human-Human Interaction):采用创新的 3D 场景感知方法,减少角色之间及角色与场景的碰撞,使动作更加协调。

五大增强模块——让生成的动画更具沉浸感

剧情解析:AI 自动拆解剧本,转化为具体的角色动作指令。

动作同步:确保多个角色在互动时节奏匹配,避免生硬的动作衔接。

手势优化:智能匹配手部动作,使角色的表现更加生动自然。

碰撞修正:检测并修复角色之间的潜在碰撞问题,提升动画流畅度。

3D 角色重定向:将动作适配至不同风格的 3D 角色模型,保证最终视觉效果。

Sitcom-Crafter 充分展现了其在智能化角色动画生成方面的强大潜力。实验结果表明,该系统能够在多个开源 3D 场景中生成多样化且符合物理约束的角色动作。下图摘录的部分实验数据进一步验证了 Sitcom-Crafter 在物理一致性和约束生成能力方面的卓越表现。

(FS:足部滑动检测、FP:足部穿透检测、HSP:角色与场景碰撞检测、HHP:角色间干扰检测)

Sitcom-Crafter 在 3D 剧情动画和游戏制作领網域展现出广阔的应用前景,为多角色动作生成提供了创新性的解决方案,进一步推动了角色动画创作的智能化进程。

项目主页:

https://windvchen.github.io/Sitcom-Crafter/

论文链接:https://arxiv.org/abs/2410.10790

—    —

投稿请工作日发邮件到:

[email protected]

标题注明【投稿】,告诉我们:

你是谁,从哪来,投稿内容‍

附上论文 / 项目主页链接,以及联系方式哦

我们会(尽量)及时回复你

一键关注 点亮星标

科技前沿进展每日见

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

关于剧本自动生成3D动画!北航中大等提出新方法,破解多人互動难题就分享完了,您有什么想法可以联系小编(謝飛揚)。