中山哪里做网站网页搭配

中山哪里做网站,网页搭配,阿里云大使wordpress,源码网站 怎么做目录一、研究背景与意义二、核心概念定义1. 张量相关定义一、研究背景与意义2. 不变性与等变性3. 各向同性张量与特殊张量4. 关键群定义三、核心理论成果1. 正交群等变多项式函数#xff08;O(d)O(d)O(d)-Equivariant Polynomials#xff09;定理1#xff08;O(d)O(d)O(d)-等…目录一、研究背景与意义二、核心概念定义1. 张量相关定义一、研究背景与意义2. 不变性与等变性3. 各向同性张量与特殊张量4. 关键群定义三、核心理论成果1. 正交群等变多项式函数O ( d ) O(d)O(d)-Equivariant Polynomials定理1O ( d ) O(d)O(d)-等变多项式函数表征推论1输入为向量的O ( d ) O(d)O(d)-等变多项式推论2对称2 ( ) 2_{()}2()​-张量输入输出的O ( d ) O(d)O(d)-等变函数2. 其他群的推广洛伦兹群、辛群定理2O ( s , d − s ) O(s,d-s)O(s,d−s)或S p ( d ) Sp(d)Sp(d)-等变全纯函数推论3输入为向量的G GG-等变全纯函数四、实验验证1. 应力-应变张量材料科学2. 路径签名估计时间序列分析3. 稀疏向量估计理论计算机科学五、研究贡献与意义六、相关工作对比论文中对称性在机器学习的核心应用与场景七、核心应用场景三大领域的对称性驱动优化1. 材料科学应力-应变张量关系学习问题背景对称性应用逻辑核心价值2. 时间序列分析路径签名估计问题背景对称性应用逻辑核心价值3. 理论计算机科学稀疏向量估计问题背景对称性应用逻辑核心价值八、通用理论应用对称性驱动的等变模型框架1. 多群适配覆盖正交、洛伦兹、辛群2. 多张量类型适配支持不同阶、奇偶性的张量3. 模型设计范式从理论到实践的落地路径九、对称性在机器学习中的通用价值十、与现有对称性应用的对比优势一、研究背景与意义张量的重要性张量是众多科学领域时间序列分析、材料科学、物理学、理论计算机科学等的基础数据结构。例如在自然科学中张量值数据可用于表示极化、渗透率和应力在理论计算机科学中涉及张量分解、种植张量模型等问题在时间序列分析中路径签名能将路径数据转化为张量序列实现对重参数化不变的时间序列处理。对称性的关键作用在物理学中张量不仅是多维数值数组还具有特定的坐标变换性质张量函数需遵循由群作用定义的不变性或等变性规则。利用这些对称性可优化机器学习模型提升其在相关领域问题中的性能。研究缺口现有研究虽在机器学习模型中融入对称性和结构约束但缺乏针对张量的通用等变机器学习框架无法同时适配正交群、洛伦兹群、辛群等经典李群的对角作用。论文Causal Structure Learning in Hawkes Processes with Complex Latent Confounder Networks 地址https://openreview.net/pdf?id1FCZ4f8dAY请各位同学给我点赞激励我创作更好、更多、更优质的内容^_^关注微信公众号获取更多资讯二、核心概念定义1. 张量相关定义k ( p ) k_{(p)}k(p)​-张量1 ( p ) 1_{(p)}1(p)​-张量空间为配备O ( d ) O(d)O(d)作用的R d \mathbb{R}^dRdk ( p ) k_{(p)}k(p)​-张量由k kk个1 ( p i ) 1_{(p_i)}1(pi​)​-张量的外积生成p ∏ i 1 k p i p\prod_{i1}^k p_ip∏i1k​pi​O ( d ) O(d)O(d)作用为对角作用T k ( R d , p ) T_k(\mathbb{R}^d,p)Tk​(Rd,p)表示d dd维k ( p ) k_{(p)}k(p)​-张量空间p 1 p1p1为向量空间p − 1 p-1p−1为伪向量空间。爱因斯坦求和符号用于表示张量积重复索引表示求和非重复索引保留在结果中例如矩阵乘积[ a b ] i , j [ a ] i , ℓ [ b ] ℓ , j : ∑ ℓ 1 d [ a ] i , ℓ [ b ] ℓ , j [ab]_{i,j}[a]_{i,\ell}[b]_{\ell,j}:\sum_{\ell1}^d[a]_{i,\ell}[b]_{\ell,j}[ab]i,j​[a]i,ℓ​[b]ℓ,j​:∑ℓ1d​[a]i,ℓ​[b]ℓ,j​。外积给定a ∈ T k ( R d , p ) a \in T_k(\mathbb{R}^d,p)a∈Tk​(Rd,p)和b ∈ T k ′ ( R d , p ′ ) b \in T_{k}(\mathbb{R}^d,p)b∈Tk′​(Rd,p′)外积a ⊗ b ∈ T k k ′ ( R d , p p ′ ) a \otimes b \in T_{kk}(\mathbb{R}^d,pp)a⊗b∈Tkk′​(Rd,pp′)定义为[ a ⊗ b ] i 1 , . . . , i k k ′ [ a ] i 1 , . . . , i k [ b ] i k 1 , . . . , i k k ′ [a \otimes b]_{i_1,...,i_{kk}}[a]_{i_1,...,i_k}[b]_{i_{k1},...,i_{kk}}[a⊗b]i1​,...,ikk′​​[a]i1​,...,ik​​[b]ik1​,...,ikk′​​。k kk-收缩对a ∈ T 2 k k ′ ( R d , p ) a \in T_{2kk}(\mathbb{R}^d,p)a∈T2kk′​(Rd,p)k kk-收缩ι k ( a ) ∈ T k ′ ( R d , p ) \iota_k(a) \in T_{k}(\mathbb{R}^d,p)ιk​(a)∈Tk′​(Rd,p)定义为[ ι k ( a ) ] j 1 , . . . , j k ′ : [ a ] i 1 , . . . , i k , i 1 , . . . , i k , j 1 , . . . , j k ′ [\iota_k(a)]_{j_1,...,j_{k}}:[a]_{i_1,...,i_k,i_1,...,i_k,j_1,...,j_{k}}[ιk​(a)]j1​,...,jk′​​:[a]i1​,...,ik​,i1​,...,ik​,j1​,...,jk′​​。张量索引置换对a ∈ T k ( R d , p ) a \in T_k(\mathbb{R}^d,p)a∈Tk​(Rd,p)和置换σ ∈ S k \sigma \in S_kσ∈Sk​置换后张量a σ a^\sigmaaσ定义为[ a σ ] i 1 , . . . , i k : [ a ] i σ − 1 ( 1 ) , . . . , i σ − 1 ( k ) [a^\sigma]_{i_1,...,i_k}:[a]_{i_{\sigma^{-1}(1)},...,i_{\sigma^{-1}(k)}}[aσ]i1​,...,ik​​:[a]iσ−1(1)​,...,iσ−1(k)​​。图1推论1中4个输入向量在R 3 R^{3}R3和一个2 ( ) 2_{()}2()​张量输出的方法说明。输入的张量积包括输入向量的有序对的所有16个可能的张量积加上各向同性的Kronecker delta标记为i d . id.id.这里显示的系数q t , σ , J qt, \sigma, Jqt,σ,J使用σ 0 \sigma0σ0中的单位置换S k ′ S_{k}Sk′​。一、研究背景与意义张量的重要性张量是众多科学领域时间序列分析、材料科学、物理学、理论计算机科学等的基础数据结构。例如在自然科学中张量值数据可用于表示极化、渗透率和应力在理论计算机科学中涉及张量分解、种植张量模型等问题在时间序列分析中路径签名能将路径数据转化为张量序列实现对重参数化不变的时间序列处理。对称性的关键作用在物理学中张量不仅是多维数值数组还具有特定的坐标变换性质张量函数需遵循由群作用定义的不变性或等变性规则。利用这些对称性可优化机器学习模型提升其在相关领域问题中的性能。研究缺口现有研究虽在机器学习模型中融入对称性和结构约束但缺乏针对张量的通用等变机器学习框架无法同时适配正交群、洛伦兹群、辛群等经典李群的对角作用。2. 不变性与等变性不变函数f : T k ( R d , p ) → T k ′ ( R d , p ′ ) f:T_k(\mathbb{R}^d,p) \to T_{k}(\mathbb{R}^d,p)f:Tk​(Rd,p)→Tk′​(Rd,p′)满足f ( g ⋅ a ) f ( a ) f(g \cdot a)f(a)f(g⋅a)f(a)对所有g ∈ O ( d ) g \in O(d)g∈O(d)。等变函数f : T k ( R d , p ) → T k ′ ( R d , p ′ ) f:T_k(\mathbb{R}^d,p) \to T_{k}(\mathbb{R}^d,p)f:Tk​(Rd,p)→Tk′​(Rd,p′)满足f ( g ⋅ a ) g ⋅ f ( a ) f(g \cdot a)g \cdot f(a)f(g⋅a)g⋅f(a)对所有g ∈ O ( d ) g \in O(d)g∈O(d)多输入函数中同一群元素作用于所有输入。3. 各向同性张量与特殊张量各向同性张量a ∈ T k ( R d , p ) a \in T_k(\mathbb{R}^d,p)a∈Tk​(Rd,p)满足g ⋅ a a g \cdot aag⋅aa对所有g ∈ O ( d ) g \in O(d)g∈O(d)。克罗内克deltaδ \deltaδO ( d ) O(d)O(d)-各向同性2 ( ) 2_{()}2()​-张量[ δ ] i j 1 [\delta]_{ij}1[δ]ij​1i j ijij否则为0对应单位矩阵I d \mathbb{I}_dId​。列维-奇维塔符号ϵ \epsilonϵd ≥ 2 d \geq 2d≥2时O ( d ) O(d)O(d)-各向同性d ( − ) d_{(-)}d(−)​-张量索引全不同时为排列奇偶性偶为1奇为-1否则为0。4. 关键群定义正交群O ( d ) O(d)O(d)欧氏空间R d \mathbb{R}^dRd中固定原点的等距变换群满足M ( g ) ⊤ M ( g ) I d M(g)^\top M(g)\mathbb{I}_dM(g)⊤M(g)Id​。不定正交群O ( s , d − s ) O(s,d-s)O(s,d−s)保持闵可夫斯基内积 u , v s u ⊤ I s , d − s v u,v_su^\top \mathbb{I}_{s,d-s}vu,vs​u⊤Is,d−s​v的线性变换群包含洛伦兹群d 4 , s ∈ { 1 , 3 } d4,s \in \{1,3\}d4,s∈{1,3}时。辛群S p ( d ) Sp(d)Sp(d)d dd为偶数时保持辛积 u , v s y m p u ⊤ J d v u,v_{symp}u^\top J_d vu,vsymp​u⊤Jd​v的线性变换群J d ( − I d / 2 I d / 2 ) J_d\begin{pmatrix}-\mathbb{I}_{d/2}\mathbb{I}_{d/2}\end{pmatrix}Jd​(−Id/2​​Id/2​​)。三、核心理论成果1. 正交群等变多项式函数O ( d ) O(d)O(d)-Equivariant Polynomials定理1O ( d ) O(d)O(d)-等变多项式函数表征设f : ∏ i 1 n T k i ( R d , p i ) → T k ′ ( R d , p ′ ) f:\prod_{i1}^n T_{k_i}(\mathbb{R}^d,p_i) \to T_{k}(\mathbb{R}^d,p)f:∏i1n​Tki​​(Rd,pi​)→Tk′​(Rd,p′)为次数不超过R RR的O ( d ) O(d)O(d)-等变多项式函数则可表示为f ( a 1 , . . . , a n ) ∑ r 0 R ∑ 1 ≤ ℓ 1 ≤ ⋯ ≤ ℓ r ≤ n ι k ℓ 1 , . . . , ℓ r ( a ℓ 1 ⊗ ⋯ ⊗ a ℓ r ⊗ c ℓ 1 , . . . , ℓ r ) f(a_1,...,a_n)\sum_{r0}^R \sum_{1 \leq \ell_1 \leq \cdots \leq \ell_r \leq n} \iota_{k_{\ell_1,...,\ell_r}}(a_{\ell_1} \otimes \cdots \otimes a_{\ell_r} \otimes c_{\ell_1,...,\ell_r})f(a1​,...,an​)r0∑R​1≤ℓ1​≤⋯≤ℓr​≤n∑​ιkℓ1​,...,ℓr​​​(aℓ1​​⊗⋯⊗aℓr​​⊗cℓ1​,...,ℓr​​)其中c ℓ 1 , . . . , ℓ r c_{\ell_1,...,\ell_r}cℓ1​,...,ℓr​​为O ( d ) O(d)O(d)-各向同性( k ℓ 1 , . . . , ℓ r k ′ ) ( p ℓ 1 , . . . , ℓ r p ′ ) (k_{\ell_1,...,\ell_r}k)_{(p_{\ell_1,...,\ell_r}p)}(kℓ1​,...,ℓr​​k′)(pℓ1​,...,ℓr​​p′)​-张量k ℓ 1 , . . . , ℓ r ∑ q 1 r k ℓ q k_{\ell_1,...,\ell_r}\sum_{q1}^r k_{\ell_q}kℓ1​,...,ℓr​​∑q1r​kℓq​​p ℓ 1 , . . . , ℓ r ∏ q 1 r p ℓ q p_{\ell_1,...,\ell_r}\prod_{q1}^r p_{\ell_q}pℓ1​,...,ℓr​​∏q1r​pℓq​​。推论1输入为向量的O ( d ) O(d)O(d)-等变多项式设f : ∏ i 1 n T 1 ( R d , ) → T k ′ ( R d , ) f:\prod_{i1}^n T_1(\mathbb{R}^d,) \to T_{k}(\mathbb{R}^d,)f:∏i1n​T1​(Rd,)→Tk′​(Rd,)为O ( d ) O(d)O(d)-等变多项式函数则可表示为f ( v 1 , . . . , v n ) ∑ t 0 ⌊ k ′ 2 ⌋ ∑ σ ∈ S k ′ ∑ 1 ≤ J 1 ≤ ⋯ ≤ J k ′ − 2 t ≤ n q t , σ , J ( ( v i , v j ) i , j 1 n ) ( v J 1 ⊗ ⋯ ⊗ v J k ′ − 2 t ⊗ δ ⊗ t ) σ f(v_1,...,v_n)\sum_{t0}^{\lfloor \frac{k}{2} \rfloor} \sum_{\sigma \in S_{k}} \sum_{1 \leq J_1 \leq \cdots \leq J_{k-2t} \leq n} q_{t,\sigma,J}((v_i,v_j)_{i,j1}^n)(v_{J_1} \otimes \cdots \otimes v_{J_{k-2t}} \otimes \delta^{\otimes t})^\sigmaf(v1​,...,vn​)t0∑⌊2k′​⌋​σ∈Sk′​∑​1≤J1​≤⋯≤Jk′−2t​≤n∑​qt,σ,J​((vi​,vj​)i,j1n​)(vJ1​​⊗⋯⊗vJk′−2t​​⊗δ⊗t)σ其中q t , σ , J q_{t,\sigma,J}qt,σ,J​为输入向量内积的多项式σ \sigmaσ为索引置换J JJ为输入张量索引。推论2对称2 ( ) 2_{()}2()​-张量输入输出的O ( d ) O(d)O(d)-等变函数设f : T 2 s y m ( R d , ) → T 2 s y m ( R d , ) f:T_2^{sym}(\mathbb{R}^d,) \to T_2^{sym}(\mathbb{R}^d,)f:T2sym​(Rd,)→T2sym​(Rd,)为O ( d ) O(d)O(d)-等变函数则存在置换等变函数f ~ : R d i a g d × d → R d i a g d × d \tilde{f}:\mathbb{R}_{diag}^{d \times d} \to \mathbb{R}_{diag}^{d \times d}f~​:Rdiagd×d​→Rdiagd×d​对所有A ∈ T 2 s y m ( R d , ) A \in T_2^{sym}(\mathbb{R}^d,)A∈T2sym​(Rd,)A Q Λ Q ⊤ AQ\Lambda Q^\topAQΛQ⊤为特征值分解有f ( A ) Q f ~ ( Λ ) Q ⊤ f(A)Q\tilde{f}(\Lambda)Q^\topf(A)Qf~​(Λ)Q⊤。2. 其他群的推广洛伦兹群、辛群定理2O ( s , d − s ) O(s,d-s)O(s,d−s)或S p ( d ) Sp(d)Sp(d)-等变全纯函数设G GG为O ( s , d − s ) O(s,d-s)O(s,d−s)或S p ( d ) Sp(d)Sp(d)f : ∏ i 1 n T k i ( R d , χ i ) → T k ′ ( R d , χ ′ ) f:\prod_{i1}^n T_{k_i}(\mathbb{R}^d,\chi_i) \to T_{k}(\mathbb{R}^d,\chi)f:∏i1n​Tki​​(Rd,χi​)→Tk′​(Rd,χ′)为G GG-等变全纯函数则可表示为f ( a 1 , . . . , a n ) ∑ r 0 ∞ ∑ 1 ≤ ℓ 1 ≤ ⋯ ≤ ℓ r ≤ n ι k ℓ 1 , . . . , ℓ r G ( a ℓ 1 ⊗ ⋯ ⊗ a ℓ r ⊗ c ℓ 1 , . . . , ℓ r ) f(a_1,...,a_n)\sum_{r0}^\infty \sum_{1 \leq \ell_1 \leq \cdots \leq \ell_r \leq n} \iota_{k_{\ell_1,...,\ell_r}}^G(a_{\ell_1} \otimes \cdots \otimes a_{\ell_r} \otimes c_{\ell_1,...,\ell_r})f(a1​,...,an​)r0∑∞​1≤ℓ1​≤⋯≤ℓr​≤n∑​ιkℓ1​,...,ℓr​​G​(aℓ1​​⊗⋯⊗aℓr​​⊗cℓ1​,...,ℓr​​)其中c ℓ 1 , . . . , ℓ r c_{\ell_1,...,\ell_r}cℓ1​,...,ℓr​​为G GG-各向同性张量ι k G \iota_k^GιkG​为G GG-等变收缩O ( s , d − s ) O(s,d-s)O(s,d−s)用I s , d − s \mathbb{I}_{s,d-s}Is,d−s​S p ( d ) Sp(d)Sp(d)用J d J_dJd​。推论3输入为向量的G GG-等变全纯函数设G GG为O ( s , d − s ) O(s,d-s)O(s,d−s)或S p ( d ) Sp(d)Sp(d)f : ∏ i 1 n T 1 ( R d , χ 0 ) → T k ( R d , χ 0 ) f:\prod_{i1}^n T_1(\mathbb{R}^d,\chi_0) \to T_k(\mathbb{R}^d,\chi_0)f:∏i1n​T1​(Rd,χ0​)→Tk​(Rd,χ0​)χ 0 \chi_0χ0​为常值映射1为G GG-等变全纯函数则可表示为f ( v 1 , . . . , v n ) ∑ t 0 ⌊ k 2 ⌋ ∑ σ ∈ S k ∑ 1 ≤ J 1 ≤ ⋯ ≤ J k − 2 t ≤ n q t , σ , J ( ( v i , v j G ) i , j 1 n ) ( v J 1 ⊗ ⋯ ⊗ v J k − 2 t ⊗ θ G ⊗ t ) σ f(v_1,...,v_n)\sum_{t0}^{\lfloor \frac{k}{2} \rfloor} \sum_{\sigma \in S_k} \sum_{1 \leq J_1 \leq \cdots \leq J_{k-2t} \leq n} q_{t,\sigma,J}((v_i,v_j_G)_{i,j1}^n)(v_{J_1} \otimes \cdots \otimes v_{J_{k-2t}} \otimes \theta_G^{\otimes t})^\sigmaf(v1​,...,vn​)t0∑⌊2k​⌋​σ∈Sk​∑​1≤J1​≤⋯≤Jk−2t​≤n∑​qt,σ,J​((vi​,vj​G​)i,j1n​)(vJ1​​⊗⋯⊗vJk−2t​​⊗θG⊗t​)σ其中 ⋅ , ⋅ G \cdot,\cdot_G⋅,⋅G​为G GG对应的双线性积O ( s , d − s ) O(s,d-s)O(s,d−s)用 ⋅ , ⋅ s \cdot,\cdot_s⋅,⋅s​S p ( d ) Sp(d)Sp(d)用 ⋅ , ⋅ s y m p \cdot,\cdot_{symp}⋅,⋅symp​θ G \theta_GθG​为对应张量O ( s , d − s ) O(s,d-s)O(s,d−s)用I s , d − s \mathbb{I}_{s,d-s}Is,d−s​S p ( d ) Sp(d)Sp(d)用J d J_dJd​。四、实验验证1. 应力-应变张量材料科学问题学习O ( d ) O(d)O(d)-各向同性neo-Hookean超弹性材料的二阶应力张量S SS与应变张量C CC关系S ( 1 2 λ log ⁡ det ⁡ C − μ ) C − 1 μ I d S(\frac{1}{2}\lambda \log \det C - \mu)C^{-1}\mu \mathbb{I}_dS(21​λlogdetC−μ)C−1μId​λ , μ \lambda,\muλ,μ为模型参数C F ⊤ F CF^\top FCF⊤FF FF为变形梯度。对比模型MLP基线、数据增强MLP4个随机旋转、TFENN等变方法、本文方法。结果本文方法在所有数据集规模5k、20k、40k样本下测试误差均显著低于其他模型例如5k样本时本文方法误差为4.057 e − 6 ± 3.458 e − 7 4.057e-6 \pm 3.458e-74.057e−6±3.458e−7远低于MLP基线1.586 e − 4 ± 2.307 e − 6 1.586e-4 \pm 2.307e-61.586e−4±2.307e−6和TFENN5.3 e − 5 5.3e-55.3e−5。2. 路径签名估计时间序列分析问题从路径的少量采样点估计路径签名张量序列S 0 , S 1 , . . . , S M S_0,S_1,...,S_MS0​,S1​,...,SM​S k S_kSk​为k ( ) k_{()}k()​-张量路径签名对重参数化不变是路径数据的重要表征。对比模型离散路径签名、同宽度MLP、同参数数量MLP、数据增强MLP、本文方法。结果本文方法在正交群O ( d ) O(d)O(d)和洛伦兹群下均表现最优。例如O ( d ) O(d)O(d)场景中本文方法误差为0.002低于离散方法1.336和同参数MLP0.071洛伦兹群场景中本文方法误差0.029优于同参数MLP0.491。3. 稀疏向量估计理论计算机科学问题从包含稀疏向量v 0 v_0v0​的子空间的随机正交基S SS中恢复v 0 v_0v0​涉及字典学习和张量PCA对比SoS方法、MLP基线、本文方法含Diag变体。结果SoS方法在满足理论假设如噪声向量单位协方差时表现好但在随机或对角协方差下性能下降。本文方法在SoS假设不满足时如修正伯努利-高斯采样、随机协方差表现更优例如接受/拒绝采样随机协方差场景本文方法误差0.938 ± 0.002 0.938 \pm 0.0020.938±0.002远高于SoS0.610 ± 0.009 0.610 \pm 0.0090.610±0.009和MLP0.241 ± 0.019 0.241 \pm 0.0190.241±0.019。所有实验中MLP基线泛化能力差验证了对称性对提升泛化的作用。五、研究贡献与意义理论贡献提出首个张量等变机器学习的通用数学框架明确给出正交群、洛伦兹群、辛群下张量输入到张量输出的多项式和全纯等变函数的参数化方法推广现有结果并融合张量不变量理论。实践价值基于理论开发的等变模型在材料科学应力-应变、时间序列路径签名、理论计算机科学稀疏向量估计三大领域均优于非等变基线且能处理现有理论方法如SoS无法适配的场景。可复现性代码开源匿名评审后发布数据集可通过代码生成或公开获取实验细节模型结构、训练参数在附录中详细说明便于后续研究复用与扩展。六、相关工作对比相关工作核心方法局限性本文方法优势e3nn、escnn基于不可约表示和Clebsch-Gordan系数仅适配S O ( d ) SO(d)SO(d)和O ( d ) O(d)O(d)d 2 , 3 d2,3d2,3需计算复杂系数适配正交、洛伦兹、辛群无需Clebsch-Gordan系数参数化更通用Kunisky et al. (2024)对称张量O ( d ) O(d)O(d)-不变多项式不涉及学习应用不支持不同阶/奇偶性张量、洛伦兹/辛群面向机器学习场景支持多类型张量和多群作用Pearce-Crump (2023)O ( d ) / S O ( d ) / S p ( d ) O(d)/SO(d)/Sp(d)O(d)/SO(d)/Sp(d)等变神经网络仅适用于特定输入输出张量幂次输入输出张量类型更灵活覆盖多场景HotPP、GI-Net外积和笛卡尔张量收缩聚焦点云/图像的高阶张量构建利用输入类型特性构建高效模型适配多科学领域论文中对称性在机器学习的核心应用与场景论文围绕正交群O ( d ) O(d)O(d)、洛伦兹群O ( s , d − s ) O(s,d-s)O(s,d−s)、辛群S p ( d ) Sp(d)Sp(d)等经典李群的对称性展开将其融入机器学习模型设计核心应用覆盖材料科学、时间序列分析、理论计算机科学三大领域同时为对称性在机器学习中的通用适配提供了理论框架与实践方案。七、核心应用场景三大领域的对称性驱动优化论文通过等变机器学习模型利用群作用下的等变性约束在三个典型问题中验证了对称性的实用价值均实现对非等变基线模型的性能超越。1. 材料科学应力-应变张量关系学习问题背景超弹性材料如neo-Hookean材料的应力张量S SS与应变张量C CC满足O ( d ) O(d)O(d)-等变性——张量在正交变换如坐标旋转下需保持变换一致性且二者均为对称2 ( ) 2_{()}2()​-张量向量外积生成奇偶性为1。传统模型如普通MLP未考虑这种对称性泛化能力差。对称性应用逻辑理论依据基于论文《推论2》O ( d ) O(d)O(d)-等变函数对对称2 ( ) 2_{()}2()​-张量的输入输出可转化为对张量特征值的置换等变函数——即先对输入应变张量C CC做特征值分解C Q Λ Q ⊤ CQ\Lambda Q^\topCQΛQ⊤再通过置换等变网络处理特征值Λ \LambdaΛ最后重构应力张量S Q f ~ ( Λ ) Q ⊤ SQ\tilde{f}(\Lambda)Q^\topSQf~​(Λ)Q⊤。实验验证对比普通MLP、数据增强MLP随机旋转、TFENN现有等变方法与本文模型在5k、20k、40k样本规模下本文模型测试误差均显著更低。例如5k样本时本文模型误差为4.057 e − 6 4.057e-64.057e−6远低于普通MLP的1.586 e − 4 1.586e-41.586e−4和TFENN的5.3 e − 5 5.3e-55.3e−5。核心价值通过O ( d ) O(d)O(d)对称性约束模型无需依赖大量数据增强即可捕捉材料的各向同性特性降低样本复杂度提升对不同变形场景的泛化能力。2. 时间序列分析路径签名估计问题背景路径签名Path Signature是时间序列的关键张量表征将连续路径x : [ 0 , T ] → R d x:[0,T]\to\mathbb{R}^dx:[0,T]→Rd转化为张量序列S 0 , S 1 , . . . , S M S_0,S_1,...,S_MS0​,S1​,...,SM​S k S_kSk​为k ( ) k_{()}k()​-张量且对路径重参数化如时间缩放具有不变性。传统方法需从路径的大量采样点估计签名而实际场景中常只有少量采样点导致估计精度低。对称性应用逻辑理论依据路径签名的张量序列满足O ( d ) O(d)O(d)正交群、洛伦兹群等对称性——例如正交变换下路径的几何特征不变对应签名张量需保持等变性。基于《推论1》和《推论3》等变函数可表示为“输入向量外积群对应张量如O ( d ) O(d)O(d)的克罗内克deltaδ \deltaδ、洛伦兹群的I s , d − s \mathbb{I}_{s,d-s}Is,d−s​索引置换”的线性组合系数由输入向量的内积或群特定双线性积多项式参数化。实验验证对比离散签名估计、同宽度MLP、同参数MLP本文模型在O ( d ) O(d)O(d)和洛伦兹群场景下均最优。例如O ( d ) O(d)O(d)场景中本文模型误差为0.002低于离散方法的1.336和同参数MLP的0.071洛伦兹群场景中本文模型误差0.029优于同参数MLP的0.491。核心价值通过对称性约束模型从少量采样点即可精准估计路径签名避免传统方法对密集采样的依赖同时适配物理场景中的不同群作用如欧氏空间的O ( d ) O(d)O(d)、相对论场景的洛伦兹群。3. 理论计算机科学稀疏向量估计问题背景从包含稀疏向量v 0 v_0v0​的子空间中恢复v 0 v_0v0​如字典学习、张量PCA传统方法如Sum-of-SquaresSoS依赖严格假设如噪声向量协方差为单位矩阵、稀疏向量4-范数约束当假设不满足时性能骤降普通MLP因无结构约束泛化能力差。对称性应用逻辑理论依据问题满足O ( d ) O(d)O(d)-等变性——子空间的随机正交基S SS在正交变换下S ↦ S M ( g ) S\mapsto SM(g)S↦SM(g)g ∈ O ( d ) g\in O(d)g∈O(d)稀疏向量v 0 v_0v0​的恢复结果需保持不变。基于《推论1》模型学习等变函数h : ( R d ) n → R d × d h:(\mathbb{R}^d)^n\to\mathbb{R}^{d\times d}h:(Rd)n→Rd×d输出对称矩阵通过v 0 S ⋅ λ v e c ( h ( a 1 , . . . , a n ) ) v_0S\cdot\lambda_{vec}(h(a_1,...,a_n))v0​S⋅λvec​(h(a1​,...,an​))λ v e c \lambda_{vec}λvec​为最大特征向量恢复稀疏向量其中h hh由“输入向量外积内积多项式系数”构成。实验验证在违反SoS假设的场景如噪声协方差为随机矩阵、修正伯努利-高斯采样的稀疏向量本文模型性能显著优于SoS和普通MLP。例如“接受/拒绝采样随机协方差”场景本文模型误差 v 0 , v ^ 2 v_0,\hat{v}^2v0​,v^2为0.938远高于SoS的0.610和普通MLP的0.241。核心价值对称性约束使模型突破传统方法的假设限制在非理想场景如非单位协方差、低稀疏性下仍能稳定恢复稀疏向量提升模型的鲁棒性与适用范围。八、通用理论应用对称性驱动的等变模型框架论文的核心贡献之一是提出张量等变机器学习的通用框架将对称性应用从特定场景扩展到多群、多张量类型为其他领域的对称性适配提供基础。1. 多群适配覆盖正交、洛伦兹、辛群传统等变模型如e3nn、escnn仅适配S O ( d ) SO(d)SO(d)或O ( d ) O(d)O(d)d 2 , 3 d2,3d2,3且依赖复杂的Clebsch-Gordan系数计算本文框架通过“各向同性张量群特定收缩”统一适配三类经典李群正交群O ( d ) O(d)O(d)收缩操作使用克罗内克deltaδ \deltaδ等变函数由输入张量外积与δ \deltaδ的组合构成洛伦兹群O ( s , d − s ) O(s,d-s)O(s,d−s)收缩操作使用闵可夫斯基内积对应的I s , d − s \mathbb{I}_{s,d-s}Is,d−s​适配相对论场景的时空变换辛群S p ( d ) Sp(d)Sp(d)收缩操作使用辛积对应的J d J_dJd​适配经典/量子力学中的哈密顿系统。2. 多张量类型适配支持不同阶、奇偶性的张量传统方法多限制输入输出为向量或低阶张量本文框架通过《定理1》O ( d ) O(d)O(d)等变多项式和《定理2》洛伦兹/辛群等变全纯函数支持任意阶k ( p ) k_{(p)}k(p)​、奇偶性p ± 1 p\pm1p±1的张量输入输出例如输入为向量1 ( ) 1_{()}1()​-张量、输出为2阶张量2 ( ) 2_{()}2()​-张量如应力-应变输入为多向量、输出为高阶张量如路径签名。3. 模型设计范式从理论到实践的落地路径论文提供了明确的等变模型构建步骤降低对称性应用的门槛确定群与张量类型根据问题场景选择对应的群如材料科学选O ( d ) O(d)O(d)、相对论时间序列选洛伦兹群和输入输出张量的阶与奇偶性基于推论参数化函数若输入为向量使用《推论1》O ( d ) O(d)O(d)或《推论3》洛伦兹/辛群将函数表示为“向量外积群张量置换”的组合系数由内积多项式或全纯函数参数化结合神经网络实现将系数的多项式/全纯函数用MLP近似如路径签名估计中系数由输入向量内积的共享MLP学习确保模型端到端可训练。九、对称性在机器学习中的通用价值除上述具体场景外论文还揭示了对称性在机器学习中的底层作用为其他领域提供参考降低样本复杂度对称性约束本质是注入领域先验如材料各向同性、路径几何不变性减少模型对数据的依赖例如材料科学中无需大量旋转数据增强提升泛化能力非等变模型易过拟合特定数据分布而对称性确保模型捕捉“与变换无关的核心特征”例如稀疏向量估计中对不同噪声协方差的鲁棒性增强物理一致性在科学机器学习AI for Science中对称性是物理定律的核心如相对论的洛伦兹不变性、量子力学的辛对称性等变模型可确保预测结果符合物理规律避免非物理输出简化模型设计传统等变模型需针对特定群设计复杂的表示分解如不可约表示本文框架通过“各向同性张量收缩”统一参数化无需依赖Clebsch-Gordan系数等复杂计算降低实现难度。十、与现有对称性应用的对比优势论文通过对比现有工作凸显了其对称性应用的创新性如表1所示相关工作适配群范围张量类型支持核心局限本文方法优势e3nn、escnnS O ( d ) SO(d)SO(d)、O ( d ) O(d)O(d)d 2 , 3 d2,3d2,3有限阶张量依赖Clebsch-Gordan系数群适配少覆盖正交、洛伦兹、辛群无需复杂系数Kunisky et al.O ( d ) O(d)O(d)对称张量无学习应用不支持多群面向机器学习场景多群多张量适配Pearce-CrumpO ( d ) O(d)O(d)、S O ( d ) SO(d)SO(d)、S p ( d ) Sp(d)Sp(d)特定幂次张量输入输出张量类型受限支持任意阶/奇偶性张量综上论文中对称性的应用不仅解决了三大领域的具体问题更提供了一套“多群-多张量-可学习”的通用等变框架为对称性在机器学习中的广泛落地如量子力学模拟、相对论时空数据处理奠定基础。