Point-NN: 即插即用，无需训练的非参数点云分析网络！
导读
论文提出了一个用于三维点云分析的非参数网络，point-nn，它由纯不可学习的组件组成：最远点采样（fps）、k近邻（k-nn）和三角函数以及池化操作。令人惊讶的是，它在各种3d任务上表现得很好，不需要任何参数或训练，甚至超过了现有的完全训练的模型。从这个基本的非参数模型出发，论文提出了两个扩展。首先，point-nn可以作为一个基础架构框架，通过在上面插入线性层来构建参数化网络point-pn。由于具有优越的非参数基础，所构建出的point-pn仅用少量可学习参数表现出高性能-效率的权衡。其次，point-nn可以被视为已经训练过的三维模型的即插即用模块。point-nn捕获互补的几何知识，为不同的3d benchmarks来增强现有的方法，而无需再训练。研究者希望该工作可以为社区用非参数方法理解三维点云提供一个线索。
动机
从pointnet++起，包括最远点采样（fps）、k近邻（k-nn）和池化操作在内，所有可学习模块背后的非参数框架几乎保持相同。很少有研究去探索它们的疗效，论文提出了一个问题：
仅使用非参数组件，能否实现较高的三维点云分析性能？
贡献
the pipeline of non-parametric networks
论文提出了一个非参数网络，称为pointnn，如上图所示，pointnn由一个用于3d特征提取的非参数编码器和一个用于特定任务识别的point-memory bank组成。该多阶段编码器应用fps、knn、三角函数和池化操作来逐步聚合局部几何图形，为点云生成一个高维的全局向量。论文只采用简单的三角函数来揭示每个池化阶段的局部空间模式，而没有可学习的算子。然后，多阶段编码器提取到的训练集特征，将其缓存作为point-memory bank。对于测试点云，bank通过朴素的特征相似度匹配输出特定于任务的预测，从而验证了编码器的识别能力。
two applications of point-nn
论文建议重新审视三维点云网络中的不可学习组件，并首次开发一种非参数方法point-nn进行三维点云分析
以point-nn为基本框架，通过在point-nn的每个阶段插入线性层，引入了其 parameter-efficient 的变体 point-pn（上图a），它在没有先进算子的情况下具有优越的性能
作为一个即插即用的模块，pointnn可以在推理过程中直接提升各种3d任务中的现成的训练过的模型（上图b）
方法
non-parametric networks
论文提出了point-nn，一个纯粹由不可学习的基本组件组成的网络，以及简单的三角函数的三维坐标编码。point-nn由一个non-parametric encoder(npenc)和一个point-memory bank(pom)组成。给定一个用于形状分类的输入点云 ，npenc提取其高维全局特征 ，pom通过相似度匹配产生分类结果：
non-parametric encoder
non-parametric encoder of point-nn
如上图所示，非参数编码器首先将输入点云进行raw-point embedding得到局部特征，再经过4阶段的local geometry aggregation逐步聚合局部特征得到全局特征。
raw-point embedding
论文参考transformer中的positional encoding，对于输入点云的一个点，利用三角函数将它嵌入到一个 维向量中：
其中，表示三个轴的embedding，表示初始化的特征维度。以 为例，对于通道索引 ：
其中，α，β分别控制了其大小和波长。由于三角函数的固有性质，变换后的向量可以很好地编码不同点之间的相对位置信息，并捕获三维形状的细粒度结构变化。
local geometry aggregation
基于embedding，论文采用四阶段网络结构分层聚合空间局部特征。论文使用三角函数pose(·)来提取局部特征，取代传统最近邻点局部特征提取算法，对于每个中心点 和其邻域 :
feature expansion.论文首先地将邻居特征 与中心特征沿特征维数concat来进行特征扩张：
geometry extraction.接着，论文通过相对位置编码来得到每个 的权重，然后用均值和标准差对它们的坐标进行归一化，记为，通过下面的公式得到加权后的k邻域特征，该区域的局部几何形状就可以被隐式地编码到特征中，而不需要任何可学习的参数。
feature aggregation。最后，同时利用最大池和平均池来进行局部特征聚合：：
在4个local geometry aggregation之后，再应用这两个池化操作来得到点云的全局特征
point-memory bank
point-memory bank of point-nn
point-nn没有使用传统的可学习分类头，而是采用了一个point-memory bank。如上图所示，首先由non-parametricencoder以无训练的方式构造bank，然后在推理过程中通过相似度匹配输出预测。
memory construction
point memory由一个feature memory 和一个label memory 。以图像分类任务为例，假设给定的训练集包含k个类别的n个点云，。通过上述非参数编码器得到的n个全局特征进行编码，同时将它们的ground-truth标签转换为一个one-hot编码。然后分别将两者沿着样本维度concat，缓存为两个矩阵:
其中，，
similarity-based prediction.
对于测试点云，利用非参数编码器来提取其全局特征，然后通过上一步构造的bank进行两个矩阵乘法来完成分类。
计算测试点云全局特征 与feature memory 之间的余弦相似度:
将label memory 中的one-hot标签与 进行加权：
在 中，越相似的feature memory对最终分类logits的贡献越大，反之亦然。通过这种基于相似性的标签集成， point-memory bank可以在不经过任何训练的情况下自适应地区分不同的点云实例。
starting from point-nn
在本节中将介绍两个很有前途的point-nn应用，它充分释放了非参数组件在三维点云分析中的潜力。
as architectural frameworks
the pipeline of point-pn
表1 step-by-step construction of point-pn
point-nn可以扩展到可学习的参数网络（point-pn），不需要添加复杂的算子或太多的参数。只需要简单地通过在编码器的每个阶段插入线性层来构造参数微分。使用图中a∼e处的线性层的性能增益如表1所示：
首先用可学习分类器替换point-memory bank(上图a位置)，这个轻量级的版本在modelnet40上就实现了90.3%的分类准确率，只有0.3m的参数
为了更好地提取多尺度层次结构，在编码器的每个stage（上图c, d, e位置）都添加了简单的线性层。point-pn在0.8m参数下达到了竞争性的93.8%的精度。
as plug-and-play modules
point-nn可以在不进行额外re-training的情况下增强已经训练过的三维模型。
分类任务
complementary characteristics of point-nn
对于shape分类任务，论文直接通过线性插值融合point-nn和现成模型的分类结果。这种巧妙的设计将两种类型的知识进行集成：来自point-nn的low-level结构信号和来自训练网络的high-level语义信号。
如上图所示，通过point-nn提取的点云特征在清晰的三维结构周围产生了较高的响应值，例如，飞机的翼尖、椅子的腿和灯杆。相比之下，训练过的pointnet++更注重具有语义丰富的3d结构，这些结构包括飞机的主体、椅子的底部和灯罩
why do trigonometric functions work?
如上图所示，对于输入点云，论文将其低频和高频几何进行可视化，并与point-nn的特征响应进行比较，其中较深的颜色表示更高的响应。如图所示，point-nn可以聚焦于点云急剧变化的高频三维结构。
分割、检测任务
论文直接采用已经训练过的模型的编码器来提取点云特征，只将所提的point-memory bank在上面进行即插即用。利用相似度匹配和传统的可学习分类头之间的互补知识实现性能的改进。
实验
point-nn
shape classification
表2 shape classification on the real-world scanobjectnn
表3 shape classification on synthetic modelnet40
如表2、表3所示，point-nn对真实世界和合成点云都获得了良好的分类精度，表明了没有任何参数的point-nn有效性和通用性。
few-shot classification
表5 few-shot classification on modelnet40
如表5所示，与现有的训练模型相比，point-nn的few-shot性能显著超过了第二好的方法。这是由于训练样本有限，具有可学习参数的传统网络严重存在过拟合问题。
part segmentation
表4 part segmentation on shapenetpart
如表4所示，70.4% miou表明非参数网络point-nn拓张的分割网络，也可以产生执行良好的点级特征，并捕获鉴别特征的细粒度空间理解。
3d object detection
表6 3d object detection on scannetv2
将point-nn作为非参数分类头，配合两种流行的三维检测器votenet和3detr-m提取类别无关的3d region proposals.如表6所示，不经过归一化处理的点坐标可以大大提高point-nn的ap分数，保留了原始场景中更多物体三维位置的位置线索。
ablation study
表7 ablation study of non-parametric encoder
point-pn
shape classification
如表2、表3所示，point-pn在现实世界和合成的三维识别方面都取得了有竞争的结果。在scanobjectnn上，与12.6m的大模型pointmlp相比，参数少16×，推理速度快6×，精度超过1.9%
part segmentation
对于表4中的点向分割任务，point-pn也取得了具有竞争力的性能，miou为86.6%。与curvenet相比，具有简单局部几何聚合的point-pn可以节省28小时的训练时间，推理速度快6×。
ablation study
如图1所示，论文提出了如何从point-nn逐步构造point-pn，可以观察到“1+2”（geometry extraction step前面加一层线性层，后面加两层）的 point-pn表现最好，而更容易学习的层，“2+2”会损害性能
plug-and-play
shape classification
plug-and-play for shape classification
如上图所示，point-nn有效地提高了现有的方法的性能，如pointnet和pointmlp的准确率提高了2.0%
segmentation and detection
plug-and-play for part segmentation and 3d object detection
如上图所示，point-nn对于分割和检测网络具有通用的增强能力。
总结
论文重新讨论了现有三维模型中的不可学习组件，并提出了 point-nn，一个用于三维点云分析的纯非参数网络。没有任何参数或训练， point-nn在各种三维任务上取得了良好的准确性。从point-nn开始，论文提出了它的两个很有前途的应用程序：针对pointpn的架构框架和用于提高性能的即插即用模块。大量的实验已经证明了其有效性和意义。在未来的工作中，研究者将重点探索更先进的非参数模型，具有更广泛的三维点云分析应用场景。
折叠屏手机2021 全面爆发，8 款折叠屏手机国内屏幕厂商积极投产
变压器大修有哪些项目_变压器的大修周期如何规定
工业机器人常见的三大应用误区盘点
协作机器人和工业机器人究竟有哪些不同之处？
如何避免小功率通用开关电源设计中产生的EMI
Point-NN: 即插即用，无需训练的非参数点云分析网络！
特斯拉在英国汽车市场创下月度和季度记录，主要归功于Model 3
PowerVR图像架构：延迟渲染
量子位如何根据需要生成支持量子处理器之间通信所需的光子
乐视终于开始还钱了！乐视连续12个跌停之后还有多少钱还得起？
三星s9渲染图疑似曝光，很多用户表示想憋住不笑
LTC2983适用于温度传感器的激励电流源和故障检测电路
la7685资料
什么是技术安全需求和安全机制
物联网与互联网的两点差异
锤子手机最新消息，锤子坚果pro详细配置外形曝光，骁龙626+4GB内存，iPhone4s附体
华为7nm麒麟810处理器发布 AI能力强于高通骁龙855
全球最大NB-IoT商用网建成 中国联通将在10城市进行试点
工业物联网有没有成功的案例
开关电源故障在ABB高压变频器维修案例
论文提出了一个用于三维点云分析的非参数网络，point-nn，它由纯不可学习的组件组成：最远点采样（fps）、k近邻（k-nn）和三角函数以及池化操作。令人惊讶的是，它在各种3d任务上表现得很好，不需要任何参数或训练，甚至超过了现有的完全训练的模型。从这个基本的非参数模型出发，论文提出了两个扩展。首先，point-nn可以作为一个基础架构框架，通过在上面插入线性层来构建参数化网络point-pn。由于具有优越的非参数基础，所构建出的point-pn仅用少量可学习参数表现出高性能-效率的权衡。其次，point-nn可以被视为已经训练过的三维模型的即插即用模块。point-nn捕获互补的几何知识，为不同的3d benchmarks来增强现有的方法，而无需再训练。研究者希望该工作可以为社区用非参数方法理解三维点云提供一个线索。
动机
从pointnet++起，包括最远点采样（fps）、k近邻（k-nn）和池化操作在内，所有可学习模块背后的非参数框架几乎保持相同。很少有研究去探索它们的疗效，论文提出了一个问题：
仅使用非参数组件，能否实现较高的三维点云分析性能？
贡献
the pipeline of non-parametric networks
论文提出了一个非参数网络，称为pointnn，如上图所示，pointnn由一个用于3d特征提取的非参数编码器和一个用于特定任务识别的point-memory bank组成。该多阶段编码器应用fps、knn、三角函数和池化操作来逐步聚合局部几何图形，为点云生成一个高维的全局向量。论文只采用简单的三角函数来揭示每个池化阶段的局部空间模式，而没有可学习的算子。然后，多阶段编码器提取到的训练集特征，将其缓存作为point-memory bank。对于测试点云，bank通过朴素的特征相似度匹配输出特定于任务的预测，从而验证了编码器的识别能力。
two applications of point-nn
论文建议重新审视三维点云网络中的不可学习组件，并首次开发一种非参数方法point-nn进行三维点云分析
以point-nn为基本框架，通过在point-nn的每个阶段插入线性层，引入了其 parameter-efficient 的变体 point-pn（上图a），它在没有先进算子的情况下具有优越的性能
作为一个即插即用的模块，pointnn可以在推理过程中直接提升各种3d任务中的现成的训练过的模型（上图b）
方法
non-parametric networks
论文提出了point-nn，一个纯粹由不可学习的基本组件组成的网络，以及简单的三角函数的三维坐标编码。point-nn由一个non-parametric encoder(npenc)和一个point-memory bank(pom)组成。给定一个用于形状分类的输入点云 ，npenc提取其高维全局特征 ，pom通过相似度匹配产生分类结果：
non-parametric encoder
non-parametric encoder of point-nn
如上图所示，非参数编码器首先将输入点云进行raw-point embedding得到局部特征，再经过4阶段的local geometry aggregation逐步聚合局部特征得到全局特征。
raw-point embedding
论文参考transformer中的positional encoding，对于输入点云的一个点，利用三角函数将它嵌入到一个 维向量中：
其中，表示三个轴的embedding，表示初始化的特征维度。以 为例，对于通道索引 ：
其中，α，β分别控制了其大小和波长。由于三角函数的固有性质，变换后的向量可以很好地编码不同点之间的相对位置信息，并捕获三维形状的细粒度结构变化。
local geometry aggregation
基于embedding，论文采用四阶段网络结构分层聚合空间局部特征。论文使用三角函数pose(·)来提取局部特征，取代传统最近邻点局部特征提取算法，对于每个中心点 和其邻域 :
feature expansion.论文首先地将邻居特征 与中心特征沿特征维数concat来进行特征扩张：
geometry extraction.接着，论文通过相对位置编码来得到每个 的权重，然后用均值和标准差对它们的坐标进行归一化，记为，通过下面的公式得到加权后的k邻域特征，该区域的局部几何形状就可以被隐式地编码到特征中，而不需要任何可学习的参数。
feature aggregation。最后，同时利用最大池和平均池来进行局部特征聚合：：
在4个local geometry aggregation之后，再应用这两个池化操作来得到点云的全局特征
point-memory bank
point-memory bank of point-nn
point-nn没有使用传统的可学习分类头，而是采用了一个point-memory bank。如上图所示，首先由non-parametricencoder以无训练的方式构造bank，然后在推理过程中通过相似度匹配输出预测。
memory construction
point memory由一个feature memory 和一个label memory 。以图像分类任务为例，假设给定的训练集包含k个类别的n个点云，。通过上述非参数编码器得到的n个全局特征进行编码，同时将它们的ground-truth标签转换为一个one-hot编码。然后分别将两者沿着样本维度concat，缓存为两个矩阵:
其中，，
similarity-based prediction.
对于测试点云，利用非参数编码器来提取其全局特征，然后通过上一步构造的bank进行两个矩阵乘法来完成分类。
计算测试点云全局特征 与feature memory 之间的余弦相似度:
将label memory 中的one-hot标签与 进行加权：
在 中，越相似的feature memory对最终分类logits的贡献越大，反之亦然。通过这种基于相似性的标签集成， point-memory bank可以在不经过任何训练的情况下自适应地区分不同的点云实例。
starting from point-nn
在本节中将介绍两个很有前途的point-nn应用，它充分释放了非参数组件在三维点云分析中的潜力。
as architectural frameworks
the pipeline of point-pn
表1 step-by-step construction of point-pn
point-nn可以扩展到可学习的参数网络（point-pn），不需要添加复杂的算子或太多的参数。只需要简单地通过在编码器的每个阶段插入线性层来构造参数微分。使用图中a∼e处的线性层的性能增益如表1所示：
首先用可学习分类器替换point-memory bank(上图a位置)，这个轻量级的版本在modelnet40上就实现了90.3%的分类准确率，只有0.3m的参数
为了更好地提取多尺度层次结构，在编码器的每个stage（上图c, d, e位置）都添加了简单的线性层。point-pn在0.8m参数下达到了竞争性的93.8%的精度。
as plug-and-play modules
point-nn可以在不进行额外re-training的情况下增强已经训练过的三维模型。
分类任务
complementary characteristics of point-nn
对于shape分类任务，论文直接通过线性插值融合point-nn和现成模型的分类结果。这种巧妙的设计将两种类型的知识进行集成：来自point-nn的low-level结构信号和来自训练网络的high-level语义信号。
如上图所示，通过point-nn提取的点云特征在清晰的三维结构周围产生了较高的响应值，例如，飞机的翼尖、椅子的腿和灯杆。相比之下，训练过的pointnet++更注重具有语义丰富的3d结构，这些结构包括飞机的主体、椅子的底部和灯罩
why do trigonometric functions work?
如上图所示，对于输入点云，论文将其低频和高频几何进行可视化，并与point-nn的特征响应进行比较，其中较深的颜色表示更高的响应。如图所示，point-nn可以聚焦于点云急剧变化的高频三维结构。
分割、检测任务
论文直接采用已经训练过的模型的编码器来提取点云特征，只将所提的point-memory bank在上面进行即插即用。利用相似度匹配和传统的可学习分类头之间的互补知识实现性能的改进。
实验
point-nn
shape classification
表2 shape classification on the real-world scanobjectnn
表3 shape classification on synthetic modelnet40
如表2、表3所示，point-nn对真实世界和合成点云都获得了良好的分类精度，表明了没有任何参数的point-nn有效性和通用性。
few-shot classification
表5 few-shot classification on modelnet40
如表5所示，与现有的训练模型相比，point-nn的few-shot性能显著超过了第二好的方法。这是由于训练样本有限，具有可学习参数的传统网络严重存在过拟合问题。
part segmentation
表4 part segmentation on shapenetpart
如表4所示，70.4% miou表明非参数网络point-nn拓张的分割网络，也可以产生执行良好的点级特征，并捕获鉴别特征的细粒度空间理解。
3d object detection
表6 3d object detection on scannetv2
将point-nn作为非参数分类头，配合两种流行的三维检测器votenet和3detr-m提取类别无关的3d region proposals.如表6所示，不经过归一化处理的点坐标可以大大提高point-nn的ap分数，保留了原始场景中更多物体三维位置的位置线索。
ablation study
表7 ablation study of non-parametric encoder
point-pn
shape classification
如表2、表3所示，point-pn在现实世界和合成的三维识别方面都取得了有竞争的结果。在scanobjectnn上，与12.6m的大模型pointmlp相比，参数少16×，推理速度快6×，精度超过1.9%
part segmentation
对于表4中的点向分割任务，point-pn也取得了具有竞争力的性能，miou为86.6%。与curvenet相比，具有简单局部几何聚合的point-pn可以节省28小时的训练时间，推理速度快6×。
ablation study
如图1所示，论文提出了如何从point-nn逐步构造point-pn，可以观察到“1+2”（geometry extraction step前面加一层线性层，后面加两层）的 point-pn表现最好，而更容易学习的层，“2+2”会损害性能
plug-and-play
shape classification
plug-and-play for shape classification
如上图所示，point-nn有效地提高了现有的方法的性能，如pointnet和pointmlp的准确率提高了2.0%
segmentation and detection
plug-and-play for part segmentation and 3d object detection
如上图所示，point-nn对于分割和检测网络具有通用的增强能力。
总结
论文重新讨论了现有三维模型中的不可学习组件，并提出了 point-nn，一个用于三维点云分析的纯非参数网络。没有任何参数或训练， point-nn在各种三维任务上取得了良好的准确性。从point-nn开始，论文提出了它的两个很有前途的应用程序：针对pointpn的架构框架和用于提高性能的即插即用模块。大量的实验已经证明了其有效性和意义。在未来的工作中，研究者将重点探索更先进的非参数模型，具有更广泛的三维点云分析应用场景。
折叠屏手机2021 全面爆发，8 款折叠屏手机国内屏幕厂商积极投产
变压器大修有哪些项目_变压器的大修周期如何规定
工业机器人常见的三大应用误区盘点
协作机器人和工业机器人究竟有哪些不同之处？
如何避免小功率通用开关电源设计中产生的EMI
Point-NN: 即插即用，无需训练的非参数点云分析网络！
特斯拉在英国汽车市场创下月度和季度记录，主要归功于Model 3
PowerVR图像架构：延迟渲染
量子位如何根据需要生成支持量子处理器之间通信所需的光子
乐视终于开始还钱了！乐视连续12个跌停之后还有多少钱还得起？
三星s9渲染图疑似曝光，很多用户表示想憋住不笑
LTC2983适用于温度传感器的激励电流源和故障检测电路
la7685资料
什么是技术安全需求和安全机制
物联网与互联网的两点差异
锤子手机最新消息，锤子坚果pro详细配置外形曝光，骁龙626+4GB内存，iPhone4s附体
华为7nm麒麟810处理器发布 AI能力强于高通骁龙855
全球最大NB-IoT商用网建成 中国联通将在10城市进行试点
工业物联网有没有成功的案例
开关电源故障在ABB高压变频器维修案例