基于NeRF/Gaussian的全新SLAM算法

什么是SLAM?

SLAM,即同时定位与地图构建技术,SLAM可以让机器人、无人机和其他自动化系统能够在未知环境中同时进行自我定位和环境映射。

图片

为什么是NeRF-Based SLAM?

图片

传统CG将输入图像重新投影再融合到新的视图摄像机中,利用几何结构来进行重投影。在很多情况下,传统CG方法重建地图都能有相当好的效果,但是对于地图上的未知区域,进行三维重建恢复就有些困难了。

深度学习很早就在应用在重建方面。Volumetric 表达由Soft3D提出,随后与Volumetric ray-marching 相结合的深度学习技术出现,这是一种基于连续可微密度场的Geometry(几何)表示方法。

神经辐射场引入了Importance Sampling(重要性采样)和Positional Encoding(位置编码),使得三维重建的质量得到显著提升;同时NeRF神经渲染算法大大减少了传统三维重建中生成的伪影,在大多数情况下效果都比传统算法好。目前重建图像质量最好的是Mip-NeRF360。

此外,将SLAM技术融入到深度学习中,更容易使得所有算法能够统一到一个框架中,方便不同算法之间的数据传输和通信,方便了上下游兄弟部门的协同合作。比如建好的地图可以用于语义标注,从而接到BEV感知中训练,又或者可以生成 Occupancy 网格,交给规控部门去做路径的规划和智能体的控制。

图片

为什么是Gaussian-Based SLAM?

图片

基于NeRF的SLAM算法采用全局地图和图像重建损失函数,通过可微分渲染捕获稠密的光度信息,具有高保真度。但是用Implicit Neural Representation(隐式神经表达)对场景建模导致了许多问题:

  • query过程(可以理解为射线渲染)需要大量的采样,渲染方法成本很高

  • 用了大型多层MLP,运算量大,占用内存高

  • 不容易编辑

  • 不能显式地对空间几何建模

  • 导致“遗忘”问题

SLAM技术通常部署在机器人身上,性能尤为关键。后续出现了一系列解决NeRF重建效果和性能的论文,基于3D高斯辐射场的SLAM有以下好处:

  • 快速渲染和丰富的优化:Gaussian Splatting可以以高达400 FPS的速度渲染,使其比隐式表达更快地可视化和优化。

  • 有明确空间范围的建图:现有地图的空间边界可以通过在之前观察到的部分场景中添加高斯函数来控制。给定一个新的图像帧,我们可以通过渲染剪影识别场景的哪些部分是新内容(在地图的空间边界之外)。这对于Tracking任务很重要,因为我们只想将已经建好图的部分与新图像帧进行比较。隐式表达就不行了,因为在对未知区域建图优化的时候,全局的优化会影响到神经网络。

  • 显式地图:我们可以通过添加更多的Gaussian函数来任意地增加地图容量。而且这种显式的表达让我们可以编辑场景中的某些部分,同时仍然允许真实的渲染。隐式方法不能轻易地增加其容量或编辑其所表示的场景。

课程大纲

图片

图片

课程亮点

  • 本门课程从理论和代码实现两方面展开,带你从零入门NeRF/Gaussian Based SLAM的原理学习、论文阅读、代码梳理等

  • 理论层面,从线性代数入手到传统的计算机图形学,让大家明了现代三维重建的理论基础和源头

  • 代码层面通过多个练习手把手教会大家复现计算机图形学、NeRF相关工作

学后收获

  • 入门基于NeRF/Gaussian的SLAM领域

  • 学会如何在快速抓取一篇论文的关键点和创新点

  • 如何快速跑通一篇论文的代码并结合代码掌握论文的思想

  • 逐行NeRF代码进行解析,掌握每个实现细节,并手动复现并作改进

课程设置

  • 系统要求:Linux

  • 编程语言:Python

  • 基础要求:有Python、PyTorch基础

适合人群

  • 对一篇新论文配套开源代码无从下手的小白

  • SLAM定位建图、NeRF三维重建小白

  • 从事三维重建工作的人员可参考

  • NeRF论文的初始阅读者

  • 对SLAM、NeRF感兴趣的学员

开课时间

2024年2月24日晚上8点(周六),每周更新一章节。

课程答疑

本课程答疑主要在本课程对应的鹅圈子中答疑,学员学习过程中,有任何问题,可以随时在鹅圈子中提问。

图片

▲长按购买课程,前50名,享早鸟价,立减70元

图片

▲长按添加小助理微信:cv3d007,咨询更多

备注:以上图片和视频部分来自网络,如果侵犯了您的权益,还请联系删除!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/711593.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

InfiniBand 200Gbps QSFP56 高速线缆/光缆和光模块解决方案

随着数据中心和人工智能迅速发展,对高速、低延迟和低功耗的数据传输需求变得至关重要。飞速(FS)提供针对各种高性能计算场景量身定制的各种InfiniBand线缆和光模块产品。本文旨在概述飞速(FS)200G InfiniBand HDR 光缆…

深圳地铁12号线绿色出行新时代,格力中央空调助力节能飞跃

深圳地铁12号线,作为城市交通的重要组成部分,其运行贯穿着前海、南山、宝安、西乡等多个区域,承载着数以万计的乘客,是深圳市民出行的重要选择。在这条城市动脉上,一项革命性的变革正在悄然发生——绿色出行的新时代正…

MSCKF2讲:JPL四元数与Hamilton四元数

MSCKF2讲:JPL四元数与Hamilton四元数 文章目录 MSCKF2讲:JPL四元数与Hamilton四元数2 JPL四元数2.1 定义与区别2.2 JPL四元数的乘法2.3 反对称矩阵2.4 Ω ( ω ) \Omega(\omega) Ω(ω)矩阵2.5 JPL四元数与旋转矩阵的转换2.6 JPL四元数导数2.7 JPL四元数…

SpringCloud搭建微服务之Consul服务注册与发现

1. Consul介绍 Consul是由HashiCorp公司使用Go语言开发的一款开源工具,主要用于实现分布式系统的服务发现和服务配置,其内置了服务注册与发现框架、分布式一致性协议实现、健康检查、Key-Value存储、多数据中心方案。Consul具有高可移植性,支…

Java多线程系列——Executor

目录 Executor框架概览 核心组件 1. 任务(Task) 2. 线程池(ThreadPool) 3. 任务调度 4. 任务执行与结果检索 使用案例 实际应用场景 总结 Java的多线程编程是Java语言提供的核心特性之一,允许开发者有效地管理…

【数仓】Hadoop软件安装及使用(集群配置)

一、环境准备 1、准备3台虚拟机 Hadoop131:192.168.56.131Hadoop132:192.168.56.132Hadoop133:192.168.56.133 本例系统版本 CentOS-7.8,已安装jdk1.8 2、hosts配置,关闭防火墙 vi /etc/hosts添加如下内容&#x…

ip获取+归属地实现

1.背景 现在的社交平台一般都需要展示用户的归属地,这个功能有下面二个主要功能点,接下来我们来介绍下具体实现。 IP 获取 IP 转归属地 2.ip获取 2.1 Http请求 对于controller的请求,我们只需要写个拦截器,将用户的ip设置进上下文即可,非常方便。 @Override public bo…

生成式AI设计模式:综合指南

原文地址:Generative AI Design Patterns: A Comprehensive Guide 使用大型语言模型 (LLM) 的参考架构模式和心理模型 2024 年 2 月 14 日 对人工智能模式的需求 我们在构建新事物时,都会依赖一些经过验证的方法、途径和模式。对于软件工程师来说&am…

物联网与智慧城市的融合:构建智能化、便捷化、绿色化的城市未来

一、引言 随着科技的飞速发展和城市化的不断推进,物联网技术正逐步渗透到城市的各个领域,成为推动智慧城市建设的核心力量。物联网与智慧城市的融合,不仅为城市治理提供了高效、智能的解决方案,也为市民的生活带来了前所未有的便…

如何在Node.js中使用定时器

在Node.js中使用定时器是一项常见且重要的任务,特别是在需要执行定时任务或者轮询操作的情况下。Node.js提供了多种方式来实现定时器功能,包括setTimeout、setInterval和setImmediate等方法。本篇博客将介绍如何在Node.js中使用这些定时器,并…

(数据结构)二叉树

8.二叉树 8.1概述 二叉树是一种基本的非线性数据结构,它是由n(n>0)个节点构成的有限集合。在二叉树中,每个节点最多有两个子节点,通常被称作左孩子(left child)和右孩子(right c…

把python完全卸载干净

1.winR,输入control回车,点击程序和功能,在搜索框输入python,右键点击卸载 2、找到Python安装路径,把所有文件全部删除。 安装路径可以打开CMD输入:where python 3、强制删除Python.exe 打开cmd&#xff…

科技企业如何做到FTP数据安全保护

在数字化浪潮的推动下,科技企业的数据已成为推动创新、提升效率、增强竞争力的核心资源。数据的重要性不言而喻,它不仅包含了客户信息、市场分析、产品设计等关键信息,更是企业宝贵的资产。然而,随着数据量的激增,数据…

视觉AIGC识别——人脸伪造检测、误差特征 + 不可见水印

视觉AIGC识别——人脸伪造检测、误差特征 不可见水印 前言视觉AIGC识别【误差特征】DIRE for Diffusion-Generated Image Detection方法扩散模型的角色DIRE作为检测指标 实验结果泛化能力和抗扰动 人脸伪造监测(Face Forgery Detection)人脸伪造图生成 …

LabVIEW最佳传输系统设计

LabVIEW最佳传输系统设计 介绍了基于LabVIEW软件开发的最佳基带传输系统和最佳带通传输系统的设计。通过软件仿真实现了脉冲成形滤波器和匹配滤波器的设计,证明了系统在消除码间干扰和抗噪声方面的优异性能。此设计不仅激发了学生的学习兴趣,还有助于提…

智能家居控制系统(51单片机)

smart_home_control_system 51单片机课设,智能家居控制系统 使用及转载请标明出处(最好点个赞及star哈哈) Github地址,带有PPT及流程图 Gitee码云地址,带有PPT及流程图 ​ 以STC89C52为主控芯片,以矩阵键…

Java必须掌握的继承的概述

Java的继承是面向对象编程中的一个核心概念,它允许一个类继承另一个类的属性和方法。这不仅有助于代码的重用,还使得代码的管理和维护变得更加容易。在准备大厂面试时,理解继承的各个方面是非常重要的。以下是一些关于Java继承的概述和可能出…

Linux基本指令(上)

在Linux中,将文件夹称为目录,后面的内容都与目录相关。 1. ls指令 语法: ls [选项][目录或文件] 功能:对于目录,该命令列出该目录下的所有子目录与文件。对于文件,将列出文件名以及其他信息。 常用选项 …

MySQL的索引和B+tree结构

目录 0.关于索引的常见面试题 1.什么是索引? 索引的优缺点 2.索引的数据结构,为什么InnoDb引擎使用Btree作为索引的数据结构? 分析怎样的索引才是好的 二插搜索树 红黑树 B-Tree BTree 哈希 为什么 InnoDB 存储引擎选择使用 Btree 索…

iTOP-3588开发板快速测试手册Android12系统功能测试

RK3588是一款低功耗、高性能的处理器,适用于基于arm的PC和Edge计算设备、个人移动互联网设备等数字多媒体应用,RK3588支持8K视频编解码,内置GPU可以完全兼容OpenGLES 1.1、2.0和3.2。RK3588引入了新一代完全基于硬件的最大4800万像素ISP&…