2023年3月1日

基于 Nvidia Instant-ngp 的 NeRF 示例

神经辐射场 (NeRF) 是计算机图形学和深度学习中的一项技术,用于根据输入数据生成逼真的 3D 图像和场景。该技术由 Mildenhall 等人于 2020 年发表的一篇研究论文中提出。

NRF 背后的理念是利用神经网络,根据图像和视频等输入数据,学习三维场景中物体发出的辐射度。神经网络学习物体辐射度与其空间位置之间的关系,从而能够实时生成场景的新视图。

要使用 NRF 生成三维图像,首先构建目标物体的三维网格,并通过摄影或视频拍摄等技术从多个角度获取场景图像。然后将这些图像输入神经网络,网络利用这些信息构建物体的三维模型,并学习辐射度与空间位置之间的关系。

神经网络训练完成后,只需输入一个空间位置,即可从该位置生成图像,从而实时生成场景的新视图。

 

训练时间可能非常昂贵,对于一个简单场景,训练模型可能需要数小时甚至数分钟。因此,自第一篇论文发表以来,不断有新的工作室和项目涌现,探索不同的模型训练方式,例如 Nvidia Instant NGP。

Nvidia Instant NGP 利用 Nvidia 显卡的强大性能,在几秒或几分钟内训练出模型,之后允许你直接加载这个已训练的模型,从而缩短了训练和渲染模型的时间。

 

我们创建了一个将 Nvidia Instant-ngp 与 Evergine 结合的 Evergine 示例,让您可以创建一个集成了 NeRF 场景渲染的 Evergine 项目。

在此版本中,我们推出了 NeRF 示例,让你能够使用 Evergine 探索这项技术。在该示例中,你可以浏览一个 NeRF 场景,并以此代码库为基础进行扩展,探索新的可能性。

我们创建了一个代码示例,展示了一台使用神经辐射场模型生成的工业热泵。在示例中,用户可以围绕模型旋转,观察训练好的模型如何生成热泵的任意视角。生成的图像是合成的,这意味着某些特定的相机角度可能从未出现在训练图像中,但 AI 模型能够预测出来。

 

你可以生成自己的 NeRF 模型并将其添加到示例中。你需要用移动设备或摄像机,对你希望呈现的物体或环境录制视频或拍摄一组图像。然后,你可以使用 Instant-ngp 训练模型,并生成包含每张训练图像位置的 transform.json 文件,以及包含网络训练结果的 base.ingp 文件 (我们建议进行超过 35,000 次迭代以确保模型有良好的清晰度)。

我们对于为生成 NeRF 模型而拍摄图像或视频的建议如下:

  • 确保光照良好。
  • 使用高清 HD 或 4K 相机。
  • 使用广角镜头。
  • 保持较短的快门曝光时间(以避免图像模糊)
  • 在整个录制过程中保持曝光一致。

 

我们将继续推进这一新方向,并希望在未来几个月内添加更多将 NeRF 技术与 Evergine 相结合的示例。敬请关注,我们很快会发布更多内容。

 

Jorge Canton
作者
Jorge Cantón
Plain Concepts Research