您现在的位置是:首页 >每日动态 > 2024-05-31 19:05:31 来源:

谷歌被秒杀!高保真3D头像逼真到恐怖 小姐姐挤眼,挑眉毫无破绽

导读 站长之家(ChinaZ.com)5月31日 消息:最近,一项由德国慕尼黑工业大学(TUM)和伦敦大学学院(UCL)等研究团队提出的新算法——NPGA(Neural...

站长之家(ChinaZ.com)5月31日 消息:最近,一项由德国慕尼黑工业大学(TUM)和伦敦大学学院(UCL)等研究团队提出的新算法——NPGA(Neural Parametric Gaussian Avatar),引起了广泛关注。这项技术能够生成高保真3D头像,逼真的表情甚至让人怀疑自己的眼睛。

从官方给出的演示可以看到,NPGA生成的小姐姐不仅可以做出挤眼,挑眉,嘟嘴等各种丰富的表情,而且眼神细节等丝毫看不出破绽,俨然和真人无异。

NPGA技术的创新点

NPGA采用了一种基于高斯点云的方法来生成3D人像形状。这种方法通过无数个点来构建3D头像,使得渲染更加高效和逼真。此外,NPGA引入了神经参数化头部模型(NPHM),可以捕捉人脸细微的表情变化,从而使3D数字化身能够更真实地模拟人类表情。

NPGA算法亮点:

高保真3D头像:NPGA能够生成逼真的3D头像,表情丰富,接近真实人类。

恐怖谷效应:逼真度极高,以至于让人难以区分是真人还是虚拟形象。

创新技术:与传统的3D网格模型相比,NPGA使用高斯点云,通过点来构建3D人像形状,提高渲染效率和逼真度。

神经网络模型:利用神经参数化头模型(NPHM)捕捉人脸细微表情变化,模拟真实人类表情。

拉普拉斯项:增强数字化身的表现力,通过潜在特征和预测动态提升化身的真实感。

技术细节:

数据集NeRSemble:包含4700多个多视角、高分辨率、高帧率视频,涵盖头部运动、情绪、表情和口语。

训练和优化:使用MonoNPHM模型和COLMAP计算的点云追踪,实现几何精确的模型追踪。

循环一致性目标:反转MonoNPHM的后向变形场,与基于光栅化的渲染兼容。

规范高斯点云和MLP:包含先验网络F进行前向变形,网络G学习细粒度动态细节。

应用前景:

电影、游戏、AR/VR远程会议:NPGA技术可广泛应用于这些领域,提供逼真的虚拟角色。

元宇宙:逼真的3D化身对于构建沉浸式虚拟世界至关重要。

实验评估:

自我重现任务:评估NPGA算法的保真度,结果显示在自我重现任务中有显著提升。

交叉重现任务:将一个人的表情转移到另一个虚拟化身上,NPGA表现出色。

局限性:

可控性和重建质量:受限于底层3DMM表达空间,某些区域如颈部、躯干等无法完全解释。

数据驱动限制:受可用数据限制,可能需要扩展底层3DMM以提供更详细的人类状态描述。

项目页:https://tobias-kirschstein.github.io/nersemble/

论文地址:https://arxiv.org/pdf/2405.19331