可微分盲相位搜索：端到端星座整形优化提升光通信频谱效率

1. 项目概述

在高速相干光通信系统的研发一线摸爬滚打了十几年，我深刻体会到，提升单波长频谱效率是应对流量爆炸式增长最直接、也最经济的手段。传统的方形正交幅度调制（QAM）星座图，虽然设计简单、解调方便，但其均匀分布的星座点在面对真实信道中的各种损伤，尤其是激光器相位噪声时，就显得有些“力不从心”了。这就好比在一条颠簸不平的路上，你还坚持开着一辆底盘低、悬挂硬的跑车，虽然直线快，但整体通行效率和舒适度未必是最优的。星座整形技术，正是为了解决这个问题而生，它通过调整星座点的“位置”（几何整形）和“出场频率”（概率整形），让信号分布更贴合信道的“脾气”，从而在相同的发射功率和带宽下，榨取出更高的信息传输速率。

最近，我和团队在《Journal of Lightwave Technology》上发表了一项工作，核心是解决一个长期存在的工程难题：如何在一个包含非理想、不可导数字信号处理（DSP）模块的真实系统中，进行端到端的星座优化？具体来说，我们聚焦于受Wiener相位噪声主导的信道，这是相干光通信中的典型损伤。传统的盲相位搜索（BPS）算法因其出色的性能和易于并行流水线实现的优势，已成为业界的相位恢复标配。然而，BPS算法内部包含arg min这样的不可导操作，这就像在优化路径上设置了一堵墙，阻断了梯度从接收端反向传播到发射端，使得基于梯度的端到端学习框架无法直接应用。

我们的突破在于，提出了一种可微分的盲相位搜索（Differentiable BPS）算法，并将其无缝集成到一个端到端的比特级自编码器框架中。这个框架能够联合优化几何整形和概率整形，我们称之为GeoPCS。实测结果表明，相比传统的方形QAM搭配神经解映射器，我们的方案在64进制系统中能稳定带来至少0.1比特/符号的性能提升；即便与之前只做几何整形的工作相比，也有0.05比特/符号的增益。这篇文章，我将为你彻底拆解这项技术的原理、实现细节、我们在调参和工程化中踩过的坑，以及它为何能成为提升下一代光通信系统性能的利器。

2. 核心挑战与方案选型：为何要走“可微分”这条路？

在深入技术细节之前，我们必须先理解当前星座整形优化面临的核心矛盾。理想很丰满——我们希望设计出的星座图能完美对抗相位噪声，同时保持对加性高斯白噪声（AWGN）的鲁棒性。但现实是，信道模型和DSP算法往往非常复杂。

2.1 传统优化方法的局限

过去，针对AWGN信道，概率整形（如Maxwell-Boltzmann分布）和几何整形（如Voronoi星座）都有成熟的闭式解或高效数值方法。然而，一旦信道引入了记忆效应（如色散）或非线性（如光纤克尔效应），尤其是像Wiener相位噪声这样的随机过程，就很难找到解析的最优星座形状。大家开始转向机器学习，特别是神经网络。

早期的尝试大致分为几类：

1. 代理信道模型：用一个可微分的、简化的数学模型来近似真实信道。问题是，模型偏差会导致优化出的星座在真实系统中“水土不服”。
2. 无梯度优化：采用遗传算法、强化学习等方法。这些方法避免了可微分的要求，但代价是收敛速度极慢，计算成本高昂，且容易陷入局部最优。
3. 分离优化：先假设一个理想的相位恢复，优化星座；再固定星座，去优化相位恢复算法。这种方法割裂了二者之间的紧密耦合，无法得到全局最优解。

2.2 端到端学习的优势与瓶颈

端到端学习框架，即比特级自编码器，展现了巨大的潜力。它将发射端的映射器（Mapper）和接收端的解映射器（Demapper）都替换为神经网络，中间插入信道模型。通过最小化二进制交叉熵损失函数，系统可以自动学习出最适合当前信道条件的映射关系。其最大优势在于全局优化：梯度从接收端损失函数出发，经过信道模型，一直反向传播回发射端，确保了每一个可调参数（星座点位置、概率分布、甚至DSP参数）的更新方向都是使整体系统性能最优。

然而，这个框架有一个铁律：从编码器到解码器之间的所有操作都必须是可微分的，否则梯度流就会中断。BPS算法中的arg min操作正是这样一个“梯度杀手”。它从一组候选相位中选出一个索引，这个“选择”操作本身的导数几乎处处为零或不存在，无法指导神经网络参数该如何调整才能让这个选择结果变得更好。

2.3 我们的核心思路：软化“硬决策”

既然arg min不可导，我们的思路不是绕过它，而是用一个可导的函数来近似它。我们引入了带温度参数的Softmin（softmin_t）函数来替代arg min。

让我用个类比来解释：传统的arg min就像一场只有一个冠军的硬性选举，只认第一名，其他候选者完全被忽略。而softmin_t则像一场“软性”选举，它会给所有候选者分配“票数”（权重），但成绩越好（距离越小）的候选者得到的票数越多。温度参数t控制着选举的“严厉”程度：t很小时，它无限接近arg min，几乎把所有票都投给第一名；t较大时，它会更平均地分配票数。

在数学上，对于距离向量D = [d1, d2, ..., dL]，传统的BPS找到最小距离的索引ℓ_hat = arg min(D)，并输出对应测试相位φ[ℓ_hat]。我们的可微分BPS则计算一个权重向量：w = softmin_t(D), 其中w_i = exp(-d_i / t) / sum(exp(-d_j / t))然后，相位估计值通过加权平均得到：φ_hat = sum(w_i * φ_i)。

这样，相位估计φ_hat就成了距离D的一个可导函数，而D又依赖于接收符号和神经网络参数，因此梯度链得以贯通。在训练初期，我们使用较大的t（如1.0），让梯度可以更平滑地流动，帮助网络跳出局部最优；随着训练进行，逐渐降低t（如至0.001），使算法行为逼近真实的、不可导的BPS，确保优化结果最终能用于实际部署。

实操心得：温度参数的退火策略温度t的选择是训练稳定性的关键。我们采用了一个简单的线性退火策略：从t=1.0开始，在每个训练周期（epoch）后乘以一个衰减因子（如0.95）。直接从一个很小的t开始训练，会导致梯度过早地集中在极少数测试相位上，容易使优化陷入糟糕的局部最优。先“热启动”，再逐步“冷却”，是让网络稳步收敛的实用技巧。

3. 系统模型详解：从架构到实现

有了可微分BPS这个关键组件，我们就能构建完整的端到端优化系统了。我们的系统模型基于比特级自编码器，下图清晰地展示了数据流和核心模块：

（注：此处原应有一幅系统框图，描述从比特流到LLR输出的完整流程，包括Tx-NN, 信道（AWGN+Wiener Phase Noise），可微分BPS，Rx-NN等模块。在Markdown中，我们可以用文字描述其结构。）

整个处理链路可以概括为：比特 -> 独热编码 -> 神经网络映射器（Tx-NN）-> 星座符号 -> 信道损伤（AWGN+相位噪声）-> 可微分BPS相位恢复 -> 神经网络解映射器（Rx-NN）-> 对数似然比（LLR）。

3.1 发射端：灵活可调的星座生成器

发射端的核心是Tx-NN。对于最基本的几何整形（GCS），Tx-NN可以简化成一个大小为2 x M的可训练权重矩阵W_m，其中M=2^m是星座大小（如64），m是每符号比特数（6）。这个矩阵的每一列对应一个复数星座点c_i = W_m[0, i] + j * W_m[1, i]。通过这种方式，星座图中每一个点的横纵坐标（I/Q两路）都成为了神经网络的参数，可以直接通过梯度下降进行优化。

概率整形（PCS）的引入：为了进一步逼近香农容量，我们引入了概率整形。我们在Tx-NN之前增加了一个概率神经网络（p-NN）。p-NN输出一个长度为M的logits向量ℓ_p，经过softmax函数后，得到每个星座点出现的概率分布p。在每批训练中，我们根据分布p采样生成符号序列。这里有一个工程上的关键点：为了保证每个批次的符号经验分布严格符合p，我们使用了精确采样算法（如[26]中的方法），而不是简单的多项式采样，以避免引入额外的采样噪声影响梯度估计。

能量归一化：当引入非均匀概率后，星座的平均发射功率会发生变化。我们必须进行实时能量归一化，确保比较的公平性。归一化在映射之后进行：M_norm = { c_i * sqrt(1 / sum(p_j * |c_j|^2) ) }这意味着，概率大的星座点会被更多地用于计算平均功率，从而在归一化时被更大幅度地缩放，最终使得整个发射符号序列的平均功率为1。

3.2 信道模型：Wiener相位噪声的核心地位

我们的信道模型主要包含两部分：

1. 加性高斯白噪声（AWGN）：n_k ~ CN(0, σ_n^2)，其中σ_n = sqrt(N0) = sqrt(E_s / SNR)。E_s是符号平均能量，我们固定为1（归一化后），所以SNR直接决定了噪声功率。
2. Wiener相位噪声：这是模拟激光器相位噪声的经典模型。φ_k = φ_{k-1} + Δφ_k，其中Δφ_k ~ N(0, σ_φ^2)，σ_φ = sqrt(2π Δf / R)。Δf是激光器线宽，R是符号速率。这是一个随机游走过程，相位误差会随时间累积。

一个至关重要的训练技巧：随机初始相位。在每次训练批次开始时，我们设置φ_start ~ U(-π, π)。这一点与评估传统QAM时不同（传统评估常从0相位开始）。为什么？因为我们的目标是一个无需导频的鲁棒系统。如果总是从0相位开始训练，网络可能会学到依赖这个初始条件的脆弱策略。而随机的初始相位强迫神经网络和BPS算法学会处理从任何相位起点开始的相位跟踪问题，这大大增强了系统的实战鲁棒性。

3.3 接收端：可微分BPS与神经解映射器

接收信号z_k = x_k * exp(j φ_k) + n_k首先送入可微分BPS模块。该模块的操作流程如下：

1. 生成L个测试相位ϕ = [0, 2π/L, ..., 2π(L-1)/L]。
2. 对于每个接收符号z_k，计算其与所有星座点c在每一个测试相位旋转下的距离：d_{k,ℓ} = min_{c in M} |c - z_k * exp(-j ϕ_ℓ)|^2。
3. 为了平滑噪声影响，对每个测试相位ℓ，计算前后共2N+1个符号的距离累加和：D_{k,ℓ} = sum_{i=k-N}^{k+N} d_{i,ℓ}。
4. 关键步骤：对累加距离向量D_k应用softmin_t函数，得到权重向量w_k。
5. 相位估计值为测试相位的加权平均：φ_hat_k = ϕ^T * w_k。
6. 进行相位解缠绕（unwrap）操作，得到连续的相位估计φ_tilde_k，用于纠正接收符号：x_hat_k = z_k * exp(-j φ_tilde_k)。

相位纠正后的符号x_hat_k被送入Rx-NN（神经解映射器）。Rx-NN的输出是m个比特的对数似然比（LLR）。我们采用一个简单的多层感知机（MLP）结构，输入是x_hat_k的实部和虚部（共2维），经过几层全连接和非线性激活函数，最终输出m维的LLR值。

3.4 损失函数与优化目标

我们优化的目标是最大化比特互信息（BMI），在光通信领域也常被称为广义互信息（GMI）。对于一批P个符号，其BMI近似为：BMI ≈ H(M) - (1/P) * sum_{k=1}^{P} sum_{i=1}^{m} log2(1 + exp(-b_{k,i} * LLR_{k,i}))其中H(M)是调制符号的熵。对于均匀分布，H(M) = m；对于概率整形，H(M) = -sum p(c_i) log2 p(c_i)。

幸运的是，在PyTorch等框架中，我们可以直接使用二进制交叉熵（BCE）损失，并设置合适的权重，其梯度下降过程恰好等价于优化BMI。对于概率整形，我们需要在损失函数中显式地加入熵项H(M)。

4. 参数化训练：让星座学会“自适应”

在实际系统中，信噪比（SNR）和激光器线宽（Δf）并非固定不变。我们希望训练出的星座和接收机具有一定的自适应能力。为此，我们提出了参数化星座整形。

4.1 实现方法

我们在Tx-NN和Rx-NN的输入中，除了比特信息（或独热编码），额外增加了两个标量输入：σ_n（噪声标准差）和σ_φ（相位噪声扩散标准差）。在训练时，每一批（batch）数据都从预设的范围[σ_n,min, σ_n,max]和[σ_φ,min, σ_φ,max]内随机采样一组信道参数。神经网络通过这两个参数感知当前的信道状态。

4.2 带来的好处与观察到的现象

这种方法相当于用一套网络，隐式地学习了针对不同信道条件的一族星座图和接收机。它有几个显著优势：

1. 计算高效：比针对每个参数点单独训练一套模型成本低得多。
2. 结构一致性：学习到的星座随参数变化是平滑演变的，便于分析规律。
3. 部署灵活：在实际系统中，可以实时估计SNR和线宽，并将其输入网络，动态调整解映射策略。

我们对参数化几何整形（pGCS）和参数化几何概率联合整形（pGeoPCS）进行了训练和可视化分析，发现了一些有趣的现象：

• pGCS的响应：星座形状同时对SNR和线宽变化敏感。在高线宽/低SNR（恶劣信道）条件下，星座点会向外围移动，并在左下角等区域引入不对称性。这种不对称性有助于BPS算法解决相位模糊问题（例如，在传统QAM中，旋转90度后星座看起来一样）。同时，中心区域的点会变得更密集，这可以理解为“牺牲”部分中心点的抗噪能力，来换取外围点更大的间距以对抗相位噪声。
• pGeoPCS的响应：令人惊讶的是，学习到的概率分布对激光器线宽变化几乎不敏感，主要只随SNR变化。在低SNR下，概率分布趋近于Maxwell-Boltzmann分布（即能量高的星座点出现概率更低）；在高SNR下，分布趋于均匀。而几何形状则同时随SNR和线宽变化。这表明，在联合优化中，系统倾向于用几何形状来对抗相位噪声，用概率分布来对抗加性高斯白噪声，二者有了明确的分工。

避坑指南：参数化训练的数据平衡在随机采样信道参数(σ_n, σ_φ)时，要确保采样分布能覆盖你关心的整个操作区域。如果某些恶劣条件（如极低SNR、极高线宽）的样本出现频率过低，网络可能无法在这些区域学到好的策略。一种实践方法是采用分层采样，确保不同信噪比和线宽区间都有足够的训练样本。

5. 实验结果与深度分析

我们围绕64进制系统（64-ary）进行了大量实验，核心结论是：联合几何与概率整形（GeoPCS）始终优于纯几何整形（GCS），二者均显著优于传统方形QAM搭配神经解映射器的方案。

5.1 固定信道参数下的性能

在SNR=17 dB，线宽Δf=100 kHz的固定条件下，我们对比了多种方案：

• 方形QAM + 神经解映射器：作为基线。需要注意的是，由于QAM的90度旋转对称性，在评估时必须使用“Genie-aided”的相位滑移补偿，或从零相位开始，否则BPS无法工作。这在实际中意味着需要导频。
• 几何整形（GCS）：学习到的星座图呈现出明显的非对称性（见图4a），左下角点的分布与其他角落不同，这直接有助于BPS进行相位模糊分辨。
• 几何概率联合整形（GeoPCS）：在GCS的基础上，进一步优化了星座点出现概率。其性能最优，比GCS高出约0.05 bit/symbol，比方形QAM基线高出超过0.1 bit/symbol。

神经解映射器的决策区域可视化（见图5）非常直观地展示了其优越性。对于每一个比特，解映射器在复平面上划分的决策边界（即LLR=0的等高线）不再是简单的直线，而是复杂的曲线，能够更好地贴合优化后星座点的分布，从而更准确地计算每个比特的后验概率。

5.2 参数化系统在不同信道下的性能

我们将参数化训练的pGCS和pGeoPCS在一个变化的信道条件范围内进行评估（SNR从14 dB到24 dB，线宽从50 kHz到600 kHz）。图11的结果清晰地显示：

1. GeoPCS的稳健增益：在整个评估范围内，pGeoPCS的性能曲线始终位于pGCS之上，证明了联合整形的额外增益是普适的。
2. 与概率整形QAM的对比：我们还训练了一个参数化的“QAM PCS”系统，即固定使用方形QAM的几何位置，只通过神经网络优化其Maxwell-Boltzmann分布参数λ。在低线宽区域，优化了λ的QAM PCS性能与pGeoPCS相当甚至略好，这得益于其完美的格雷编码和对称性。但在高线宽区域，pGeoPCS和pGCS展现出更强的鲁棒性，性能优势明显。这是因为几何形状的改变能更有效地帮助相位估计。
3. 高SNR下的趋势：当SNR很高时（>22 dB），加性噪声的影响变小，相位噪声成为主要限制因素。此时，几何整形带来的增益变得更为关键，而概率整形的额外收益相对减小。

5.3 可训练BPS的潜力与陷阱

我们尝试将可微分BPS中的温度参数t也作为可训练参数，希望系统能自动学习最佳的温度值，甚至可能用更少的测试相位L达到相同性能（因为softmin具有插值能力）。

实验结果（图12）喜忧参半：

• 当L=60（测试相位足够多）时，常规BPS的性能稳定优于可训练BPS。问题出在相位不连续性（0和2π处）。当真实相位接近这个边界时，softmin_t可能会给0和2π附近的测试相位都分配较高的权重，导致加权平均后的相位估计值落在π附近，产生巨大误差。而常规BPS的arg min结合相位解缠绕可以很好地处理这个问题。
• 当L=30时，可训练BPS有时能表现出略微更好的性能，说明其插值能力在测试相位较稀疏时可能有优势。但性能波动（方差）很大，不够稳定。

结论：目前，可微分BPS更适合作为训练阶段的工具，用于打通端到端的梯度流。在最终部署时，替换回经典的、鲁棒性更强的常规BPS算法是更稳妥的选择。未来需要研究更稳定的、能处理循环边界问题的可微分相位估计器。

5.4 在更真实信道模型下的验证

为了检验优化出的星座在真实光纤环境中的表现，我们将其置于双偏振分步傅里叶方法（DP-SSFM）仿真中进行验证。该模型包含了色散、非线性克尔效应等关键光纤损伤。我们使用了在简单线性模型（AWGN+相位噪声）下训练好的pGCS和pGeoPCS模型，不进行任何重新训练，直接评估。

结果显示（图13）：

1. 性能趋势一致：pGeoPCS仍然优于pGCS和方形QAM，证明了优化策略的有效性和可迁移性。
2. 性能绝对下降：由于引入了非线性损伤和残留码间干扰，所有方案的绝对性能都比在简单线性模型下有所下降。这说明了信道模型在端到端优化中的重要性。未来工作需要考虑将更复杂的信道模型（甚至真实硬件损伤）也纳入可微分训练框架。
3. 参数输入的重要性：在DP-SSFM仿真中，我们需要为神经网络手动选择输入的σ_n和σ_φ参数。我们发现，选择一个对应于SNR≈18 dB的σ_n能取得最好效果，这暗示了神经网络对输入信道参数具有一定的泛化能力，但如何自动适配更复杂的信道仍是开放问题。

6. 工程实现要点与常见问题排查

6.1 训练配置与超参数选择

我们的实现基于PyTorch框架。以下是一些关键的训练配置经验：

• 优化器：使用Adam优化器，学习率初始设为1e-3，并配合ReduceLROnPlateau调度器，在验证集性能停滞时降低学习率。
• 批次大小（Batch Size）：不宜过小，因为BPS算法需要前后N个符号的上下文进行平滑。我们通常使用1024或2048。
• BPS窗口长度（2N+1）：这是一个权衡。N越大，平滑效果越好，抗AWGN能力越强，但对快速变化的相位噪声跟踪能力变差。需要根据激光器线宽和符号速率来调整。对于32 GBaud、线宽100 kHz的系统，N在10-20之间是常见的。
• 测试相位数量（L）：通常设置为32或64。太少会导致量化误差大，太多则增加计算量。我们的实验表明，在可微分BPS训练中，使用较大的L（如60）有助于稳定训练。

6.2 常见问题与解决方案速查表

6.3 关于部署的思考

训练完成后，我们得到了一个优化的星座概率对{c_i, p(c_i)}和一个神经解映射器。在实际部署中：

• 发射端：可以直接使用查找表（LUT）实现映射，概率整形部分则需要一个分布匹配器（Distribution Matcher）将均匀的信息比特流匹配到非均匀的符号概率上，通常与前向纠错（FEC）编码结合，如概率幅度整形（PAS）架构。
• 接收端：神经解映射器虽然性能好，但计算复杂度可能较高。一种折中方案是，用训练好的神经解映射器生成大量样本，然后训练一个复杂度更低的模型（如基于高斯混合模型的解映射器，或一个小型MLP）去近似它，在性能和复杂度之间取得平衡。

这项工作的价值在于，它提供了一套完整的、基于梯度下降的端到端优化方法论，不仅适用于相位噪声信道，其“将不可导DSP模块可微分化”的核心思想，可以推广到包含均衡、时钟恢复等更多复杂DSP模块的系统联合优化中。它让通信系统设计从依赖直觉和分立优化，走向了基于数据的、全局联合优化的新范式。