旗流形与各向同性子空间的数学结构及应用
1. 旗流形与各向同性子空间的基本概念
旗流形(Flag variety)是李群理论中描述齐性空间结构的重要研究对象。在复李群SO(2p,C)和Sp(2n,C)的背景下，旗流形与ω-各向同性子空间有着密切关联。让我们先理解这些核心概念。
1.1 旗流形的定义与分类
旗流形可以理解为一系列嵌套子空间的集合。具体来说，对于复向量空间C^n，一个完整旗(complete flag)是指一个严格递增的子空间序列： 0 = F^0 ⊂ F^1 ⊂ ... ⊂ F^n = C^n，其中dim F^i = i。
在SO(2p,C)的情形下，我们考虑的是保持非退化对称双线性形式ω的线性变换群。这里出现了各向同性子空间(isotropic subspace)的概念——即满足ω限制在该子空间上恒为零的子空间。最大维数的各向同性子空间称为拉格朗日子空间(Lagrangian subspace)，其维数为p。
关键点：在SO(2p,C)中，ω-各向同性的p维子空间形成两个不同的轨道，分别对应于E_p+和E_p-。这意味着SO(2p,C)作用下的齐性空间结构比我们最初想象的更丰富。
1.2 各向同性子空间的轨道分解
对于SO(2p,C)，保持ω的p维各向同性子空间并不构成单一的齐性空间。实际上，它们分裂为两个轨道：
- 包含E_p+的轨道：E_p+ = span{e_1,...,e_p}
- 包含E_p-的轨道：E_p- = span{e_{p+1},...,e_{2p}}
这种分解源于行列式考虑：将E_p+映射到E_p+的变换保持定向，而将E_p+映射到E_p-的变换会反转定向。因此，SO(2p,C)作用下，各向同性子空间自然地分为两类，我们称之为p+平面和p-平面。
2. Bruhat分解与相对位置函数
2.1 Weyl群与Bruhat分解
Bruhat分解是理解旗流形组合结构的关键工具。对于李群G，选择Borel子群B后，群G可以分解为双陪集的并： G = ⊔_{w∈W} BwB
其中W是Weyl群，对于SL(n,C)就是对称群S_n，对于Sp(2n,C)则是带符号的置换群。
这种分解的重要性在于它将连续的群结构转化为离散的Weyl群上的组合结构。每个双陪集BwB对应Weyl群中的一个元素，而Bruhat序则描述了这些轨道在群中的闭包关系。
2.2 相对位置函数的定义与性质
相对位置函数(posθ,η)是理解旗流形中点对关系的重要工具。给定两个旗流形Fθ和Fη，相对位置函数： posθ,η : Fθ × Fη → Wθ,η
将一对旗映射到Weyl群的双陪集空间Wθ,η = Wθ\W/Wη。这个函数满足关键性质：pos(x1,y1) ≤ pos(x2,y2)当且仅当(x1,y1)的G轨道包含在(x2,y2)的G轨道闭包中。
在SL(n,C)的情形下，这个函数有特别直观的解释：给定两个完全旗F^•和H^•，存在旗基v1,...,vn使得vσ(1),...,vσ(n)是H^•的旗基，其中σ∈S_n就是相对位置。
技术细节：证明这一结论需要仔细分析维数函数Dj(k) = dim(F^k ∩ H^j)的性质，它满足Dj(k) - Dj(k-1) ≤ 1，这保证了可以构造适当的旗基。
3. Anosov表示与不连续域
3.1 Anosov表示的定义与性质
Anosov表示是双曲群到李群的表示，满足某种增长条件。具体来说，对于类型θ⊆Δ，表示ρ:Γ→G称为Pθ-Anosov，如果存在常数C,c>0使得： α(μ(ρ(γ))) ≥ C|γ| - c 对所有α∈θ,γ∈Γ成立。
其中μ是Cartan投影，|·|是Γ上的字度量。这种表示具有极限映射ξ:∂Γ→Fθ，满足横截性等性质。
3.2 平衡理想与不连续域的构造
利用Bruhat分解和相对位置函数，我们可以构造Anosov表示的不连续域。关键概念是平衡理想：
定义：I⊆Wθ,η称为平衡理想，如果w0I = Wθ,η\I，其中w0是Weyl群中最长元素。
给定平衡理想I和极限映射ξ，我们可以定义增厚(thickening)： K_I^ρ = ∪_{t∈∂Γ} Φ_I^{ξ(t)}
其中Φ_I^x = {y∈Fη | posθ,η(x,y)∈I}。然后不连续域就是Fη \ K_I^ρ。
这个构造的重要性在于：当I是平衡理想时，商空间W_I^ρ = ρ(Γ)\Ω_I^ρ是紧致的。
4. 具体例子与应用
4.1 SL(3,C)中的例子
考虑G=SL(3,C)，θ=η=Δ={1,2}。Weyl群W=S3有6个元素。唯一的平衡理想是I={123,213,132}，对应条件：F^1=H^1或F^2=H^2。
由此构造的不连续域是： Ω_I^ρ = {H^•∈Flag(C^3) | H^1≠ξ^1(t), H^2≠ξ^2(t)对所有t∈∂Γ}
4.2 Sp(4,C)中的拉格朗日情形
对于G=Sp(4,C)，θ=Δ，η={2}（拉格朗日格拉斯曼量），Weyl群是带符号的置换群。相对位置取值为{(+,+),(-,+),(+,-),(-,-)}，唯一的平衡理想是I={(+,+),(+,-)}。
对应的不连续域描述为： Ω_I^ρ = {L∈Lag(C^4) | ξ^1(t)⊈L对所有t∈∂Γ}
这个例子展示了如何利用平衡理想在拉格朗日格拉斯曼量中构造不连续域。
5. ι-Fuchsian表示与纤维丛结构
5.1 ι-Fuchsian表示的定义
ι-Fuchsian表示是指通过表示ι:SL(2,R)→G复合Fuchsian表示ϕ:π1(S)→SL(2,R)得到的表示ρ=ι∘ϕ。这类表示在更高秩群中提供了Anosov表示的具体例子。
5.2 不连续域的拓扑结构
对于ι-Fuchsian表示，不连续域Ω_I^ρ具有丰富的几何结构。存在SL(2,R)-等变的纤维丛投影： p: Ω_I^ρ → H^2
商空间W_I^ρ = Γ\Ω_I^ρ纤维化在曲面S=Γ\H^2上，纤维是紧致流形M_I^ρ。这个结构允许我们利用纤维丛理论分析不连续域的拓扑性质。
特别地，当纤维是S^1丛时，我们可以考虑欧拉类，这为理解商空间的拓扑提供了强有力的工具。这种构造将表示论、代数几何和拓扑学深刻地联系起来。