GCL学术成果:SIGGRAPH 2026-NEO:神经网络特征空间Operator
近日,SIGGRAPH 2026 接收成果公布,来自中国科学技术大学数学科学学院 GCL 实验室的刘利刚老师、杨哲睿同学,联合清华大学杜韬研究团队、上海期智研究院团队合作的论文 Learning Laplacian Eigenspace with Mass-Aware Neural Operators on Point Clouds 被 SIGGRAPH 2026 Conference Papers 接收。
该论文提出了一种神经网络特征空间Operator NEO(Neural Eigenspace Operator),将点云上 Laplace-Beltrami Operator(LBO)的低频特征分解从逐模型迭代求解转化为单次前馈推理。NEO 不直接回归存在符号翻转与旋转歧义的特征向量,而是学习数学上唯一确定的低频谱不变子空间,通过冗余基函数覆盖目标特征空间,结合 Rayleigh-Ritz 精细化重构精确特征对。方法在保持求解精度的同时实现近线性计算复杂度,在 51 万点规模下相较传统迭代求解器获得近 90 倍加速,且支持低分辨率训练到高分辨率推理的零样本泛化。

一、LBO 特征谱:三维几何的"傅里叶基"
在几何处理中,Laplace-Beltrami Operator(LBO)的低频特征函数可以看作是定义在三维曲面上的"广义傅里叶基"。就像一维信号可以用傅里叶级数展开一样,三维形状的全局几何结构可以通过少数低频特征函数有效表征。这一表示在谱几何处理、形状匹配、物理仿真和几何深度学习等任务中具有广泛而基础的应用。
然而,获取 LBO 的低频特征谱并非易事。在实际计算中,这等价于求解一个大规模稀疏广义特征值问题。传统方法依赖 Krylov 子空间迭代求解器(如 ARPACK 中的 Lanczos 算法),需要对每个模型单独进行计算。这类迭代求解的计算开销随点数呈超线性增长,并且对分辨率变化、重采样或形变等场景不具有复用性——一旦几何发生变化,就必须从头求解。因此,低频 LBO 特征分解的计算瓶颈长期制约着谱几何方法在大规模数据和实时场景中的应用。一个关键问题是:能否将这一逐模型迭代求解的成本,通过学习方法进行摊销?
二、核心洞察:学子空间,而非学向量
一个自然的想法是训练神经网络,直接从点云预测 LBO 的低频特征向量。然而,这一思路面临一个根本性的数学障碍:特征向量本身并不是唯一确定的。具体而言,每个特征向量最多只能确定到一个全局符号翻转,而对于重复或接近重复的特征值,特征空间内任意正交旋转都会产生一组同样合法的特征向量基。因此,即便对于同一个输入形状,不同求解器、甚至同一求解器在微小数值扰动下,都可能输出符号、顺序和方向完全不同的特征向量。这一问题使得逐向量回归成为不适定问题:网络被迫记忆训练数据中任意选择的基,导致训练不稳定、泛化困难。

论文的核心洞察在于:虽然单个特征向量是不确定的,但由前k个特征函数张成的低频不变子空间是数学上唯一确定的。因此,NEO 将学习目标从"预测特定特征向量"转化为"预测一组函数,使其张成空间鲁棒覆盖目标特征空间"。这一视角转换从根本上规避了符号翻转与基旋转的不适定性。在此基础上,NEO 进一步引入冗余设计:网络输出冗余基函数,旨在为覆盖近重根特征值对应的特征空间提供了必要的松弛,使得网络无需在学习过程中被迫解析模糊的模式混合与重排,从而大幅降低了学习难度。
三、方法框架:预测子空间 + Rayleigh-Ritz 精细化
NEO 的推理流程分为以下步骤:
-
前馈预测:质量感知神经网络Operator接收点云坐标和与逐点的质量矩阵(局部面积测度权重),一次网络前向传播输出冗余基函数;
-
M-正交化:利用质量矩阵对输出做加权 QR 分解,得到正交基,不改变张成空间;
-
LBO投影和子空间特征分解:将离散LBO矩阵投影到低维子空间,在低维子空间内上求解标准特征值问题,得到Ritz对。
-
升维还原:将子空间特征向量升维回原始点数上,取前k个最小特征对作为低频特征谱的近似。这一流程将原本 O(N·nnz(L)) 的稀疏迭代求解,约化为一次网络前向和一次小规模稠密特征分解,从而实现近线性计算复杂度。此外,NEO 还支持一种"无LBO"的使用模式:直接使用预测的原始基函数作为点的特征嵌入。在这种模式下,推理无需构建 LBO矩阵,也无需执行 Rayleigh-Ritz 步骤,完全通过一次前向传播即可获得具有全局几何信息的点级特征。

四、质量感知Neural Operator:让网络"理解"非均匀采样
点云采样的非均匀性是几何深度学习中的常见挑战——密集区域包含更多采样点,稀疏区域则相反,标准神经网络容易因采样密度偏差而过度关注密集区域,导致跨分辨率的泛化能力下降。
NEO 通过质量感知的注意力机制解决这一问题。在Neural Operator的下投影交叉注意力中,逐点质量权重以对数偏置的形式注入注意力分数。这一设计的数学意义在于:质量权重从指数核外部以乘性方式引入,使得注意力聚合等价于对底层连续积分Operator的相容数值积分近似,而非对采样密度的简单平均。

正是这一质量感知设计,使得 NEO 能够在低分辨率点云(如 2048 点)上训练后,零样本泛化到高分辨率(如 160 万点)的推理场景,且对非均匀采样和不同 Laplacian 离散化方式(mesh cotangent、k-NN graph Laplacian)均保持鲁棒。
五、训练策略:旋转不变的子空间损失
由于学习目标是一个子空间而非特定基向量,NEO 的训练损失也需要相应调整。论文提出旋转不变的损失函数:对于每个真实特征向量,计算其在预测子空间上的 M-投影能量。该损失仅衡量真实特征向量在预测子空间中被覆盖的能量占比,对任意正交变换(包括符号翻转和基旋转)均保持不变。此外,为避免冗余基函数退化到秩亏状态,论文引入弱正交正则项鼓励原始输出 F 的 M-列正交性,从而保证子空间维度充分利用。训练在 ShapeNetCore(约 51000 模型,9:1 训练/测试划分)上进行,仅在 2048 点的低分辨率点云上生成真实特征谱(通过 ARPACK 求解),不涉及任何高分辨率训练数据。
六、实验结果:近线性加速、零样本泛化与鲁棒性
1. 近线性加速
实验表明,NEO 的运行时间随点数 N 呈近线性增长(拟合指数 ≈ 1.0),而 ARPACK 呈超线性增长。在51万点规模下,NEO 仅需 0.52 秒(FP16)即可恢复 96 个低频特征对,相较精确 ARPACK 加速约 88 倍,相较松弛容差 ARPACK 加速约 70 倍。与其他求解器(SLEPc+CUDA、Spectra、LOBPCG)的系统比较进一步验证了这一加速主要来自算法层面的创新,而非单纯的硬件差异。

2. 零样本泛化
尽管仅在 2048 点的低分辨率点云上训练,NEO 可零样本泛化至高达 160 万点的推理分辨率,且在不同拉普拉斯矩阵离散化方式下保持子空间覆盖质量。在 Thingi10k(约 1 万模型,未参与训练)上的跨数据集评估同样展现了稳定的泛化性能。

3.鲁棒性
消融实验表明,移除质量感知机制后,模型在非均匀采样下出现严重退化。而引入质量感知后,NEO 对采样密度偏差、混合精度(FP16/FP32)和不同离散化方式均表现出强鲁棒性。

七、应用:谱几何处理与点云特征嵌入
1. 谱几何处理
NEO 预测的特征对可直接替代传统求解器用于标准谱几何管线。在 FAUST 数据集的功能性映射任务中,使用 NEO 特征对仅使平均测地误差从 0.438 轻微增加至 0.543,映射结果在视觉上保持语义一致的对应关系。在热方程测地线计算中,使用 NEO 特征向量构造加性两层预条件子,使 Poisson 求解步的迭代次数减少约 3 倍,总耗时显著下降。


2. 点云特征嵌入(免 Laplacian 模式)
NEO 预测的原始基函数 F 可直接作为点的内在几何特征,无需构建LBO或执行 Rayleigh-Ritz。在 SHREC-11 少样本分类任务中,冻结的 NEO 特征配合轻量级 PointNet 头在 10-shot 下达到 100% 准确率,显著超越 Point Transformer 等端到端基线。在人体部位分割任务中,NEO 提供的全局谱先验使模型收敛速度大幅提升,并成功区分空间上邻近但语义上分离的部位(如手与大腿)。


八、总结与展望
NEO 的意义不仅在于提出了一个加速 LBO 特征求解的工具,更重要的是,它重新审视了"从数据学习谱信息"这一基本问题。传统思路试图直接预测数值求解器的输出——特定基向量,却忽略了这些输出本身具有内在的数学歧义性。NEO 证明了:将学习目标从向量层级提升到子空间层级,不仅规避了不适定性,还使模型学到了更接近底层连续几何的表示。这一视角转换使 NEO 能够通过质量感知设计实现分辨率和采样密度的不变性,在低分辨率数据上训练后直接泛化到高分辨率场景。未来,NEO 预测的子空间还可用于预条件迭代求解器,进一步结合 SE(3) 等变等几何归纳偏置,有望将学习型谱方法的适用范围扩展到更高频模式和更复杂的几何结构。
论文发表
该工作已被计算机图形学顶级国际会议 SIGGRAPH 2026 接收。
论文原文
● 论文标题:Learning Laplacian Eigenspace with Mass-Aware Neural Operators on Point Clouds
● 作者:Zherui Yang, Tao Du, Ligang Liu
● 单位:中国科学技术大学、清华大学、上海期智研究院
● 项目主页:https://adversarr.github.io/NEO/