遍历论中混合与刚性行为共存的刚性群：代数、谱与酉刻画

《Ergodic Theory and Dynamical Systems》：Coexistence of mixing and rigid behaviors in ergodic theory

　　

本文引入并探讨了与有限多个序列相关联的刚性群（rigidity group）概念，并证明该概念具有若干代数、谱及酉性质上的、多少有些令人惊讶的刻画。进一步，研究人员证明了这些刻画可用于在 [0,1] 上一般 Lebesgue 保测自同构理论、IP-遍历论（IP-ergodic theory）、多重回复（multiple recurrence）、加性组合学（additive combinatorics）以及谱理论（spectral theory）中获得多种结果。作为其中一个结果的推论，研究人员证明：给定 (b₁,…,b_?)∈?^?，不存在某个 |a_j|=1 的正交向量 (a₁,…,a_?)∈?^?，当且仅当存在一个递增自然数列 (n_k)_k∈?，使得对每个 F?{1,…,?}，存在一个 μ-保测变换 T_F:[0,1]→[0,1]（μ 表示 Lebesgue 测度），使得对任意可测集 A,B?[0,1]，有 lim_k→∞ μ(A∩T_F^-b_jn_kB)=μ(A∩B)（若 j∈F），或 μ(A)μ(B)（若 j?F）。研究人员指出，该结果可自然推广到一大类序列族。

遍历论中，混合与刚性是两类基本的动力学行为。Halmos 证明了弱混合变换的集合在 Aut([0,1],?,μ) 中是稠密 G_δ 集，而 Rohlin 与 Halmos 的相关结果亦表明刚性变换的集合同样是稠密 G_δ 集。因此，存在变换同时具有弱混合和刚性。然而，当涉及多个序列时，一个自然的问题是：能否在同一递增序列下，使某些序列的极限呈现混合、另一些序列的极限呈现刚性？Bergelson、Kasjan 与 Lemańczyk 曾引入 N-刚性群和全局刚性群，利用幂等超滤处理多项式序列。本文在此基础上引入更一般的“刚性群”概念，将其与有限多个序列相关联，并证明其具有代数、谱和酉三种看似不同却等价的刻画。

研究人员的主要技术定理（Theorem 1.8 / 3.1）指出，对于充足序列 φ₁,…,φ_?，子群 G 是 (φ₁,…,φ_?)-刚性群，当且仅当 A(φ₁,…,φ_?)?G；当且仅当存在概率测度 σ 和递增序列 (n_k)_k∈? 使积分极限等于 A_G 上的 Haar 测度；当且仅当存在酉算子 U 和序列 (n_k)_k∈?，使 U^{∑a_jφ_j(n_k)} 在弱拓扑下收敛到 f 或 0，取决于 (a_j) 是否属于 G。该结果将代数条件、谱条件和酉条件统一起来。

这些刻画被用于多个方向：回答关于 St?pin 插值结果的细化问题（Question 1.4），给出一般 Lebesgue 保测自同构的稠密 G_δ 性质（Theorem 1.5），在 IP-遍历论和加性组合学中构造反例（Corollaries 1.10, 1.14, 1.15）。例如，对线性无关零常数项多项式 p₁,…,p_?，存在保测系统 (X,??,ν,T)、集合 A 和 ε，使得 R_ε^p₁,…,p_?(A) 不是 IP^*，这与已有的大规模性结果形成对比，展示了刚性群方法的独特作用。

为开展上述研究，研究人员使用了以下主要技术方法：（1）利用 Weyl 型均匀分布定理（Lemma 2.2）构造满足特定 Diophantine 性质的 Borel 概率测度 σ 和递增序列 (n_k)_k∈?，这是证明 (ii)?(iii) 的核心；（2）利用 Bochner 定理和正定函数的性质，将测度极限转化为酉算子的谱表示，从而建立起 (a)→(b) 等酉刻画；（3）利用 Gaussian 系统构造，将酉算子的弱收敛行为提升为保测变换的混合/刚性行为，从而将抽象酉结果转化为动力系统结果；（4）利用 Aut([0,1],?,μ) 的完全可度量化拓扑与 Halmos 共轭引理，通过逼近和 Cauchy 序列方法证明稠密 G_δ 性质和插值定理；（5）利用 IP 极限与幂等超滤的关系，将结论推广到 IP^* 回复情形。本文为纯数学理论论文，不涉及样本队列来源。

以下按论文中的小标题概述主要结果。

**1.3.1 A consequence of (ii)?(iii′)**
利用定理中等价关系 (ii)?(iii′)，研究人员证明了 Corollary 1.9：充足序列满足条件 C′（对每个二进制向量 ξ 存在酉算子 U_ξ 使极限为 ξ_jf）当且仅当 A(φ₁,…,φ_?) 中任何向量的每个分量都不等于 1 或 -1。这给出了条件 C′ 的纯代数刻画。

**1.3.2 An example in ergodic-Ramsey theory derived from (ii)?(iii)**
利用 (ii)?(iii)，研究人员构造出 Corollary 1.10：对 ?≥2、线性无关且零常数项的多项式 p₁,…,p_?，存在保测系统 (X,??,ν,T)、A∈?? 满足 ν(A)>0 及 ε>0，使得集合 R_ε^p₁,…,p_?(A) 不是 IP^*。这一结果与 Frantzikinakis–Kra 定理（该集合总是 syndetic）以及 Bergelson–Leibman 的 A-IP^* 结果形成对照。通过逆 Furstenberg 对应原理，得到 Proposition 1.11：存在集合 E 使相应回复集合是 A-IP^* 但不是 IP^*。是否能用 d^* 替代上密度 \overline d_{(F_N)} 是开放问题（Question 1.12）。

**1.3.3 Further examples in ergodic-Ramsey theory**
研究人员进一步用无限