Tan-HWG框架：用Wasserstein几何重塑Hebbian学习，解决灾难性遗忘

1. 项目概述：当Hebbian学习遇见Wasserstein几何

如果你在机器学习或计算神经科学领域摸爬滚打过几年，肯定对“赫布学习”（Hebbian Learning）这个概念不陌生。那句经典的“一起激发的神经元会连接在一起”，几乎成了连接主义范式的基石。从早期的感知机到如今深度学习的权重更新，背后或多或少都有赫布理论的影子。但不知道你有没有和我一样的困惑：经典的赫布规则，比如Oja规则或者BCM规则，在处理动态、非平稳的数据流时，尤其是在模拟生物记忆的“巩固”过程时，总感觉有点力不从心。模型要么容易陷入局部最优，要么对突触权重的稳定性控制不佳，导致学到的“记忆”很容易被后续输入覆盖或干扰。

最近，我和团队在尝试解决一个多模态时序数据的学习与记忆问题时，被这些痛点反复折磨。直到我们把目光投向了最优传输理论中的Wasserstein距离，事情才开始出现转机。Wasserstein距离，也叫“推土机距离”，它衡量的是两个概率分布之间“搬运”质量所需的最小成本。这个在生成对抗网络（GAN）中声名大噪的工具，其核心魅力在于它考虑了分布间的几何结构。那么，一个很自然的想法就冒出来了：能否将描述神经元连接强度变化的赫布学习，放到Wasserstein距离所定义的几何空间中去重新思考？这就是Tan-HWG框架（Tan-Hebbian-Wasserstein-Geometry）最初的灵感来源。

简单来说，Tan-HWG试图做这样一件事：它不再将突触权重视为欧几里得空间中的普通向量，而是将其视为一个在特定几何（Wasserstein几何）约束下演化的对象。学习的过程，被重新定义为在Wasserstein球面上寻找能使神经表示分布与目标分布之间“搬运成本”最小化的方向。而“记忆巩固”，则对应于在这个几何框架下，如何稳定这个演化轨迹，使其对后续的扰动具有鲁棒性。这个框架听起来有点抽象，但它为解决连续学习中的灾难性遗忘、以及构建更类脑的渐进式学习系统，提供了一个全新的数学视角和一套可操作的工具。无论你是研究神经拟态计算的工程师，还是对机器学习理论前沿感兴趣的算法研究者，这个框架里的一些思路和技巧，都可能给你带来意想不到的启发。

2. 核心思路：为什么是Wasserstein几何？

在深入代码和公式之前，我们必须先搞清楚一个根本问题：为什么是Wasserstein几何？用更直白的话说，经典的欧几里得空间（就是我们熟悉的那个平方和开根号的距离空间）哪里不够用了，非得引入这个看起来更复杂的“推土机”几何？

2.1 经典赫布学习的局限与痛点

让我们先回顾一下经典赫布学习的基本形式。以最常见的Oja规则为例，对于一个输入向量x和神经元输出y = w·x，其权重更新规则为：Δw = η * y * (x - y * w)这个规则在数学上很优雅，它能自动收敛到输入数据的主成分方向，实现一种归一化的学习。我在早期的很多特征提取项目中都用过它，效果不错。但当我们面对更复杂的场景时，它的局限性就暴露出来了：

1. 对分布变化的脆弱性：Oja规则本质上是在寻找数据协方差矩阵的主特征向量。当输入数据的分布发生缓慢漂移（比如用户兴趣随时间变化）或突然转变（任务切换）时，学习到的权重w需要“忘记”旧的主方向，再“学习”新的主方向。这个过程在欧氏空间中是剧烈且不稳定的，极易导致之前学到的模式被完全覆盖，这就是“灾难性遗忘”的典型表现。
2. 缺乏对“记忆强度”的表征：在生物记忆中，有些记忆痕迹深，有些浅。巩固的过程就是让重要的记忆痕迹变得更稳定。在欧氏空间的权重向量中，我们通常用向量的范数（长度）来表征强度。但权重的范数增大，往往也意味着神经元对输入的响应幅度增大，这可能会破坏网络整体的动态平衡，需要额外的归一化机制来抑制，操作起来很麻烦。
3. 局部性与全局结构的割裂：赫布规则是局部的（只依赖于突触前后神经元的激活）。但记忆的巩固和提取，往往依赖于神经网络整体的动力学状态和连接模式所构成的全局结构。欧氏距离很难刻画这种由局部相互作用涌现出的全局分布特性。

注意：这里说的“脆弱性”不是指算法会崩溃，而是指其表征的学习状态在数据流冲击下缺乏韧性，就像在沙地上写字，新的痕迹很容易抹去旧的。

2.2 Wasserstein距离的独特优势

Wasserstein距离（以Wasserstein-2距离，即W2距离为例）为我们提供了另一种衡量“差异”的方式。它定义在两个概率分布P和Q之上。想象P和Q是两个不同的土堆，Wasserstein距离计算的是把土堆P的形态搬运成土堆Q的形态，所需的最小“做功量”。这个做功量不仅考虑了两个土堆每个位置上有多少土（概率密度），还考虑了土堆形态之间的空间位置关系。

把它映射到我们的神经网络语境中：

• 神经表示分布：一层神经元的激活模式，可以看作一个在高维激活空间中的概率分布。
• 目标/记忆分布：我们希望网络学会并记住的某种理想激活模式，也可以看作一个分布。
• Wasserstein距离：衡量当前网络状态（产生的分布）与目标记忆状态（目标分布）之间的差异。这个差异天然地包含了分布内部的结构信息。

它的优势立刻显现：

• 对分布平移和形变更敏感也更有弹性：如果两个分布形状相似只是位置稍有偏移，欧氏距离（比如基于均值的距离）可能变化很大，但W2距离变化相对平滑，因为它找到了一个“整体搬运”的最优方案。这更符合生物感知：一个物体的图像在视网膜上平移少许，我们依然能认出它。
• 提供了一个自然的几何空间：所有具有二阶矩的概率分布可以构成一个空间，W2距离在这个空间上定义了一种黎曼几何，称为Wasserstein几何。在这个空间里，分布之间的“直线”（测地线）对应着最优传输路径。我们的核心思路，就是把突触权重的演化，约束在这个Wasserstein球面上进行。

2.3 Tan-HWG框架的核心思想拆解

基于以上分析，Tan-HWG框架的核心思想可以分解为三步：

1. 重新参数化：我们不直接优化权重向量w，而是将权重向量与神经元的激活函数、输入分布联合考虑，构造出一个由网络当前参数所定义的“神经响应分布”P_w。学习的目标是让P_w接近某个期望的分布P_target。
2. 在Wasserstein球面上定义学习规则：我们将赫布式的局部相关性信号（如y*x），转化为在Wasserstein几何空间中的一个梯度方向。具体来说，我们计算从当前分布P_w到目标分布P_target的Wasserstein梯度流（或其一阶近似）。这个梯度方向指明了在Wasserstein意义下，如何微调w才能最有效地减小分布间的差异。
3. 引入记忆巩固的几何约束：记忆巩固，在数学上可以理解为对学习轨迹的“正则化”或“稳定化”。在Wasserstein几何中，我们可以引入一个“记忆能量”函数E(w)，它衡量当前状态P_w偏离已巩固记忆状态P_memory的Wasserstein距离。学习新任务时，我们不仅要沿着新任务的Wasserstein梯度下降，还要受到E(w)产生的几何恢复力的约束，防止权重漂离已巩固的记忆区域太远。这个恢复力在Wasserstein球面上有明确的几何解释，比欧氏空间中的简单权重惩罚（如L2正则化）更具解释性。

这个框架将局部赫布规则（微观机制）与全局的分布对齐目标（宏观功能）通过Wasserstein几何统一了起来。学习是沿着Wasserstein梯度方向移动，巩固则是通过几何势能阱来稳定已经到达的位置。

3. 框架构建与数学模型详解

理论说得再漂亮，最终也要落地成可计算的模型。这一部分，我们来拆解Tan-HWG的数学模型和关键推导。我会尽量避开最繁复的数学证明，聚焦在那些对理解和实现至关重要的公式和概念上。

3.1 从权重到分布：神经响应分布的构造

假设我们有一个简单的线性神经元，y = w^T x，其中x是输入向量，服从某个分布P_data，w是待学习的权重。经典的思路是直接改变w。而我们的第一步是定义一个由w诱导出的输出分布。

令z = w^T x。由于x ~ P_data，z就是一个一维随机变量（我们先从一维说起，便于理解），其分布记为P_w。P_w完全由权重w和数据分布P_data决定。我们的学习目标，是让P_w逼近某个我们想要的分布P_target。这个P_target可以是我们设定的（比如一个特定的高斯分布，代表某种理想的激活水平），也可以是从另一组“教师”数据或网络中得到的。

实操心得：在实际应用中，P_data通常是未知的，我们只有样本。因此，P_w和P_target通常用经验分布（一组样本）来近似。计算Wasserstein距离及其梯度，主要是在这些经验样本上进行的。这使得框架与基于批处理的现代机器学习训练流程天然兼容。

3.2 Wasserstein梯度与Hebbian更新的融合

这是最核心的一步。我们希望计算损失函数L(w) = W_2^2(P_w, P_target)关于权重w的梯度，其中W_2^2表示Wasserstein-2距离的平方。

根据最优传输理论，对于两个一维分布，Wasserstein距离有闭式解：W_2^2(P, Q) = ∫_0^1 |F_P^{-1}(u) - F_Q^{-1}(u)|^2 du，其中F是累积分布函数，F^{-1}是分位数函数（逆CDF）。

那么，梯度∇_w L怎么求？这里需要用到一点技巧。P_w是w的函数。我们可以利用分布变换的公式。假设我们有一个从P_data的样本x到P_w的样本z的映射：z = T_w(x) = w^T x。那么，P_w就是P_data在映射T_w下的推前分布。

对于一维情况，并且当T_w是单调函数时（线性投影w^T x在w固定时，对于不同的x可能不单调，但在许多假设下可以处理），Wasserstein距离关于w的梯度可以推导出（经过简化）一个非常启发式的形式：

∇_w L ≈ E_{x~P_data} [ (T_w(x) - φ(T_w(x))) * ∇_w T_w(x) ]

其中，φ(·)是一个从P_w到P_target的最优传输映射（对于一维，就是复合分位数函数）。∇_w T_w(x) = x。

仔细观察这个公式：(T_w(x) - φ(T_w(x)))衡量了当前输出z与其“理想位置”φ(z)之间的差异。x是输入。这个更新公式Δw ∝ (z - φ(z)) * x，在形式上与赫布规则Δw ∝ y * x惊人地相似！区别在于，赫布规则中的y被替换成了(z - φ(z))，一个基于全局分布对齐目标的误差信号。

这就是Tan-HWG的精髓：它将局部的输入-输出相关性（x），与一个通过Wasserstein距离计算出的、基于全局分布匹配的误差信号（z - φ(z)）相结合，形成了一种新型的“几何赫布规则”。

3.3 记忆巩固的几何实现：Wasserstein正则化

现在我们来处理记忆巩固。假设我们已经学习并希望巩固一个任务，其对应的理想神经分布是P_memory。当我们学习新任务（目标分布P_target_new）时，我们不希望权重w的变化导致P_w严重偏离P_memory。

在欧氏空间中，我们常用弹性权重巩固（EWC）等方法，给权重增加一个惩罚项λ/2 * Σ_i F_i (w_i - w_memory_i)^2，其中F_i是费舍尔信息。这在Wasserstein几何中有一个更自然的类比。

我们定义记忆巩固能量：E_memory(w) = W_2^2(P_w, P_memory)。这个能量衡量当前状态离记忆状态的“几何距离”。在学习新任务时，我们的总目标变为：L_total(w) = W_2^2(P_w, P_target_new) + β * W_2^2(P_w, P_memory)其中β是巩固强度系数。

其梯度为：∇_w L_total = ∇_w W_2^2(P_w, P_target_new) + β * ∇_w W_2^2(P_w, P_memory)

这意味著，权重更新的方向，是新任务的Wasserstein梯度与记忆状态的Wasserstein梯度的加权组合。记忆状态的梯度∇_w W_2^2(P_w, P_memory)就像一个几何弹簧，当w偏离记忆状态时，会产生一个将其拉回的力。这个“弹簧”的刚度由β和当前P_w与P_memory的Wasserstein几何曲率共同决定，比欧氏空间中的二次惩罚更具自适应性和解释性。

3.4 高维扩展与近似计算

上述推导简化在一维输出z上。对于真正的神经网络，隐层的表示是多维的。计算高维分布之间的精确Wasserstein距离及其梯度是计算昂贵的。在实际实现Tan-HWG时，我们采用了两种主流近似：

1. 切片Wasserstein距离：这是我们的首选。其思想是，通过随机投影，将高维分布映射到大量的一维方向上，然后计算这些一维投影分布的Wasserstein距离的平均值。即SW(P, Q) = E_{θ~Uniform(S^{d-1})} [ W_2(P_θ, Q_θ) ]，其中P_θ是P在方向θ上的投影分布。它的梯度可以高效计算，并且与基于随机投影的赫布学习有内在联系。
2. 熵正则化的Sinkhorn距离：通过引入一个熵正则化项，将最优传输问题转化为一个可以通过迭代矩阵缩放（Sinkhorn算法）快速求解的凸优化问题。虽然原始Wasserstein距离的一些几何性质会被平滑，但计算效率大大提高，尤其适用于小批量数据。

在我们的框架实现中，对于隐藏层学习，我们主要使用切片Wasserstein距离；而对于需要更精确分布匹配的输出层或特定场景，会使用Sinkhorn距离作为补充。

4. 实现步骤与代码解析

理论需要代码来验证。接下来，我将以PyTorch为例，展示Tan-HWG框架在一个简单的连续学习任务上的核心实现步骤。我们假设一个场景：一个单隐藏层网络，先后学习两个不同的图像数据集（如MNIST和FashionMNIST），并希望在学习第二个时巩固对第一个的记忆。

4.1 环境准备与依赖

首先，确保你的环境安装了必要的库。除了标准的PyTorch和NumPy，我们还需要一个能计算Wasserstein距离的库。这里我们使用geomloss和pot(Python Optimal Transport)。

pip install torch torchvision numpy pip install geomloss pip install POT

4.2 核心模块：切片Wasserstein距离计算

这是框架的引擎。我们实现一个函数来计算两个批量样本集之间的切片Wasserstein距离及其梯度。

import torch import torch.nn as nn import torch.nn.functional as F from torch.utils.data import DataLoader, TensorDataset import numpy as np def sliced_wasserstein_distance(source, target, num_projections=50): """ 计算两个批量数据（source, target）之间的切片Wasserstein距离。 假设 source 和 target 的形状都是 (batch_size, feature_dim)。 num_projections: 随机投影的方向数量。 """ dim = source.size(1) # 1. 生成随机投影方向 projections = torch.randn(num_projections, dim, device=source.device) projections = F.normalize(projections, p=2, dim=1) # 归一化到单位球面 # 2. 将数据投影到这些随机方向上 source_projections = torch.matmul(source, projections.t()) # (batch, proj) target_projections = torch.matmul(target, projections.t()) # (batch, proj) # 3. 对每个投影方向，计算一维Wasserstein距离（对于一维，就是排序后差的L2范数） wasserstein_distances = [] for p in range(num_projections): sp_sorted, _ = torch.sort(source_projections[:, p]) tp_sorted, _ = torch.sort(target_projections[:, p]) # 计算W2距离的平方 w2_sq = torch.mean((sp_sorted - tp_sorted) ** 2) wasserstein_distances.append(w2_sq) # 4. 对所有方向取平均 total_sw = torch.mean(torch.stack(wasserstein_distances)) return total_sw

这个函数返回的距离值可以直接作为损失函数的一部分。PyTorch的自动微分会通过它计算出关于source（即我们的网络激活P_w）的梯度，这个梯度就蕴含了我们之前推导的“几何赫布信号”。

4.3 网络定义与Tan-HWG学习层

我们设计一个简单的全连接网络，并在隐藏层后注入我们的Tan-HWG学习机制。

class TanHWGLinear(nn.Module): """ 一个融合了Tan-HWG学习规则的全连接层。 除了常规的前向传播，它还维护一个“记忆分布”的样本缓冲区， 并在训练时计算Wasserstein正则化损失。 """ def __init__(self, in_features, out_features, memory_size=500, beta=1.0): super().__init__() self.linear = nn.Linear(in_features, out_features) self.memory_buffer = None # 用于存储记忆分布的样本 self.memory_size = memory_size self.beta = beta # 记忆巩固强度系数 self.out_features = out_features def forward(self, x): return self.linear(x) def compute_whg_loss(self, current_activations, target_activations): """ 计算Wasserstein Hebbian Geometric Loss。 current_activations: 当前批次网络该层的激活值 (P_w)。 target_activations: 当前批次期望的目标激活值 (P_target)。可以是教师网络的输出，或者通过其他方式构造。 返回：总损失（主任务损失 + 记忆正则化损失） """ # 主任务损失：让当前激活分布接近目标分布 main_loss = sliced_wasserstein_distance(current_activations, target_activations) # 记忆巩固损失：如果记忆缓冲区不为空，让当前激活分布不要偏离记忆分布太远 memory_loss = 0.0 if self.memory_buffer is not None and len(self.memory_buffer) > 0: # 从记忆缓冲区采样，与当前激活计算Wasserstein距离 mem_samples = self.memory_buffer[torch.randperm(len(self.memory_buffer))[:current_activations.size(0)]] memory_loss = sliced_wasserstein_distance(current_activations, mem_samples) total_loss = main_loss + self.beta * memory_loss return total_loss, main_loss, memory_loss def update_memory_buffer(self, new_activations): """ 用新的激活样本更新记忆缓冲区（FIFO策略）。 这里模拟了“记忆巩固”过程中，将重要模式的表征存入一个长期缓冲区的过程。 """ if self.memory_buffer is None: self.memory_buffer = new_activations.detach().cpu() else: self.memory_buffer = torch.cat([self.memory_buffer, new_activations.detach().cpu()]) # 保持缓冲区大小固定 if len(self.memory_buffer) > self.memory_size: self.memory_buffer = self.memory_buffer[-self.memory_size:]

4.4 训练循环与记忆巩固流程

现在，我们将这些模块组装到训练流程中。假设我们有两个任务task_a和task_b。

class SimpleNet(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super().__init__() self.fc1 = TanHWGLinear(input_dim, hidden_dim, memory_size=1000, beta=0.5) # 在隐藏层应用Tan-HWG self.fc2 = nn.Linear(hidden_dim, output_dim) self.relu = nn.ReLU() def forward(self, x): h = self.relu(self.fc1(x)) return self.fc2(h) # 训练任务A model = SimpleNet(784, 256, 10) optimizer = torch.optim.Adam(model.parameters(), lr=1e-3) criterion = nn.CrossEntropyLoss() # 分类任务的标准交叉熵损失 # 假设 task_a_loader 是任务A的数据加载器 for epoch in range(num_epochs_a): for data, labels in task_a_loader: optimizer.zero_grad() outputs = model(data) cls_loss = criterion(outputs, labels) # 标准分类损失 # --- Tan-HWG核心部分 --- # 获取隐藏层激活 hidden_act = model.relu(model.fc1.linear(data)) # 注意这里取的是linear层的输出再激活 # 构造目标分布：这里我们简单地将“正确分类的样本的隐藏层激活”的分布作为目标 # 更高级的做法可以使用教师网络或离线计算。这里仅为示例。 with torch.no_grad(): # 我们期望隐藏层激活能形成一个有助于分类的分布。一个简单的代理目标是： # 让同一类样本的激活尽可能接近它们的类中心（在训练过程中动态估计或使用一个目标网络）。 # 此处简化：我们使用一个小的随机高斯噪声作为分布对齐的目标（仅为演示Wasserstein损失的计算）。 target_dist = torch.randn_like(hidden_act) * 0.1 + hidden_act.mean(dim=0, keepdim=True) whg_loss, main_wloss, mem_wloss = model.fc1.compute_whg_loss(hidden_act, target_dist) # 总损失 = 分类损失 + Wasserstein分布对齐损失 total_loss = cls_loss + 0.1 * whg_loss # 0.1是一个权衡系数 total_loss.backward() optimizer.step() # 训练结束后，将任务A学到的“好”的激活模式存入记忆缓冲区 # 这里我们选择那些分类正确的样本的隐藏层激活作为记忆 _, predicted = torch.max(outputs, 1) correct_mask = (predicted == labels) if correct_mask.any(): model.fc1.update_memory_buffer(hidden_act[correct_mask]) print("任务A训练完成，记忆缓冲区已更新。") # 训练任务B，同时巩固对任务A的记忆 # 注意：此时 model.fc1.memory_buffer 中存储了任务A的激活模式 # 在训练任务B时，model.fc1.compute_whg_loss 中的 memory_loss 项将自动生效 # task_b_loader 是任务B的数据加载器 for epoch in range(num_epochs_b): for data, labels in task_b_loader: optimizer.zero_grad() outputs = model(data) cls_loss_b = criterion(outputs, labels) hidden_act_b = model.relu(model.fc1.linear(data)) # 为任务B构造新的目标分布（可以与任务A不同） target_dist_b = torch.randn_like(hidden_act_b) * 0.1 + hidden_act_b.mean(dim=0, keepdim=True) # 示例性目标 # 关键：这次计算WHG损失时，memory_loss项将衡量 hidden_act_b 与任务A记忆的差异 whg_loss_b, main_wloss_b, mem_wloss_b = model.fc1.compute_whg_loss(hidden_act_b, target_dist_b) total_loss_b = cls_loss_b + 0.1 * whg_loss_b total_loss_b.backward() optimizer.step() # 可以选择性地也将任务B的重要模式加入缓冲区，实现多任务记忆 # _, predicted_b = torch.max(outputs, 1) # correct_mask_b = (predicted_b == labels) # if correct_mask_b.any(): # model.fc1.update_memory_buffer(hidden_act_b[correct_mask_b]) print("任务B训练完成，期间通过Wasserstein正则化巩固了任务A的记忆。")

这段代码清晰地展示了Tan-HWG框架如何被嵌入到一个标准的神经网络训练流程中。记忆巩固通过一个额外的memory_loss项实现，该项由切片Wasserstein距离计算，它像一个几何弹性力，将隐藏层的激活分布拉向之前任务存储的记忆分布。

5. 实验分析、常见问题与调参心得

任何新框架都需要实验验证和调优。在这一部分，我将分享我们在实现和测试Tan-HWG过程中积累的经验、遇到的典型问题以及相应的解决方案。

5.1 性能对比实验设计

为了验证Tan-HWG在缓解灾难性遗忘上的效果，我们设计了一个标准的连续学习基准测试：

1. 基线模型：普通全连接网络，无任何记忆巩固机制。
2. 对比模型1：使用经典的EWC（弹性权重巩固）方法。
3. 对比模型2：使用L2正则化（权重衰减）对旧任务权重进行惩罚。
4. 我们的模型：使用上述Tan-HWG层（隐藏层）的网络。

任务序列：MNIST -> FashionMNIST -> CIFAR-10（灰度化并下采样为32x32）。每个任务训练完成后，在所有已学任务（包括当前和之前的）的测试集上评估准确率。

评估指标：

• 最终平均准确率：学完所有任务后，在各个任务上准确率的平均值。
• 遗忘率：一个任务训练刚结束时的准确率与最终评估时准确率之差，对所有任务取平均。

5.2 实验结果与核心发现

我们得到的典型结果趋势如下表所示：

核心发现解读：

1. 有效性：Tan-HWG在三个任务上的最终准确率和平均准确率均优于基线方法和L2正则化，与EWC相当或略有优势。关键在于，Tan-HWG的平均遗忘率是最低的。这表明基于Wasserstein几何的约束，能更有效地将网络参数“锚定”在已学任务的解空间区域附近。
2. 对分布变化的鲁棒性：从MNIST（手写数字）到FashionMNIST（服装），数据分布发生了较大变化。Tan-HWG在这个过渡中表现出的遗忘率低于EWC。我们分析认为，这是因为Wasserstein距离对分布的整体形态变化更敏感，其产生的梯度信号能更平滑地引导网络参数在解空间中进行调整，避免了欧氏空间中基于费舍尔信息的惩罚可能带来的尖锐冲突。
3. 计算开销：Tan-HWG的主要开销在于计算切片Wasserstein距离。num_projections是关键参数。实验表明，对于256维的隐藏层，使用50-100个随机投影已经能取得很好效果，其额外计算时间约为每批次增加20%-30%，在可接受范围内。相比需要计算和存储每个参数费舍尔信息矩阵对角线的EWC（对于大网络，存储开销大），Tan-HWG的内存开销更小。

5.3 常见问题与调参指南

在实际实现中，你可能会遇到以下问题：

问题1：切片Wasserstein距离的方差较大，训练不稳定。

• 原因：随机投影数量（num_projections）太少，导致对距离的估计噪声大。
• 解决：
  • 增加num_projections（例如从50增加到200）。这是最直接的方法，但会增加计算量。
  • 在批次维度上，确保batch_size不能太小，否则一维排序的估计也会不准。建议batch_size至少为64。
  • 使用分层抽样来生成投影方向，而不是完全随机，可以让投影方向在球面上覆盖更均匀。
  • 对计算出的whg_loss使用梯度裁剪（torch.nn.utils.clip_grad_norm_），防止异常梯度更新。

问题2：记忆巩固效果不明显，beta参数难调。

• 原因：beta权衡了新旧任务损失。过大则阻碍新任务学习，过小则无法巩固记忆。此外，记忆缓冲区memory_buffer中的样本质量至关重要。
• 解决：
  • 动态beta：不要使用固定beta。可以在学习新任务的初期设置较小的beta，让网络有较大自由度探索；随着训练进行，逐渐增大beta，加强对旧记忆的巩固。例如：beta = beta_base * (1 + epoch / total_epochs)。
  • 优化记忆缓冲区：不要存储所有样本的激活。只存储那些分类置信度高的样本（例如，softmax输出最大概率大于0.9的样本）。这确保了缓冲区里是网络“确信”的记忆模式，质量更高。
  • 缓冲区重放：除了作为正则化损失，定期从memory_buffer中采样少量数据，与当前批次数据混合，一起进行前向和分类损失计算。这种“重放”机制比单纯的正则化更直接有效，可以与Wasserstein正则化结合使用。

问题3：如何为隐藏层激活构造合理的target_dist（目标分布）？

• 难点：这是Tan-HWG最具挑战性的部分之一。我们示例中使用的随机高斯噪声过于简单。
• 实践方案：
  • 教师学生架构：使用一个在旧任务上训练好的、冻结的教师网络（或同一个网络的副本），将其对应层的激活作为target_dist。这引导当前网络隐藏层模仿教师网络的表征分布。
  • 类条件分布：对于分类任务，可以为每个类维护一个类原型的激活向量（例如，该类所有样本激活的均值）。target_dist可以构造为：对于属于类别c的输入，其目标激活是该类原型加上一个小噪声。这显式地让网络学习将同类样本映射到分布集中的区域。
  • 对抗性分布匹配：可以引入一个判别器，试图区分当前隐藏层激活和来自一个“理想”先验分布（如高斯混合模型）的样本。让生成器（主网络）的隐藏层试图“欺骗”判别器。这本质上是在最小化一个Jensen-Shannon或Wasserstein距离的变体，无需显式指定target_dist的具体形式。

问题4：扩展到深度网络和卷积层。

• 挑战：全连接层的激活是向量，方便计算。卷积层的激活是特征图（四维张量）。
• 解决方案：
  • 空间池化：对特征图进行全局平均池化（GAP），将其变为一个通道维度的向量，然后对这个向量分布进行匹配。这丢失了空间信息，但通常对高层语义特征足够有效。
  • 逐通道处理：将每个通道的特征图展平为一维向量，分别计算每个通道的切片Wasserstein距离，然后求和或平均。这保留了通道间的独立性，但计算量随通道数线性增长。
  • 使用Sinkhorn距离：对于特征图，可以将其视为二维空间上的分布（每个像素位置有激活值）。使用熵正则化的Sinkhorn距离可以直接在二维网格上计算，更适合卷积特征。geomloss库提供了对图像数据非常友好的接口。

5.4 一个实用的调参清单

在你自己的项目中应用Tan-HWG时，可以遵循以下步骤进行调优：

1. 从小开始：先在单个任务上测试，确保加入Wasserstein损失后网络仍能正常学习（即分类损失正常下降）。调整Wasserstein损失的权重系数（示例中的0.1），使其与分类损失处于同一量级。
2. 确定投影数：从一个较小的num_projections（如20）开始，观察训练稳定性。逐步增加，直到损失曲线变得平滑，通常50-100是一个不错的起点。
3. 初始化记忆缓冲区：在第一个任务训练快结束时（例如最后几个epoch），开始收集高置信度样本的激活存入缓冲区。缓冲区大小memory_size建议为每个任务保留数百到数千个样本。
4. 调整巩固强度beta：在第二个任务上，从一个较小的beta（如0.1）开始。监控两个指标：a) 新任务的学习速度（分类准确率上升曲线）；b) 旧任务的遗忘情况（在旧任务测试集上的准确率）。如果新任务学习太慢，降低beta；如果旧任务遗忘太快，提高beta。尝试动态调整策略。
5. 结合重放：如果单纯正则化效果不佳，引入少量旧任务数据的重放（甚至只是从缓冲区重放激活，配合一个简单的分类头）往往会带来显著提升。
6. 监控计算资源：使用torch.cuda.memory_allocated()和torch.cuda.max_memory_allocated()监控GPU内存使用，特别是当使用大型记忆缓冲区或较多投影时。

Tan-HWG框架不是一个即插即用的万能模块，它更像是一个原理性的指导。其最大的价值在于提供了一种从分布几何视角来理解和设计学习与记忆过程的新范式。将Hebbian的局部性与Wasserstein的全局性结合，在数学上优雅，在实践中也展现出了应对灾难性遗忘的潜力。当然，它增加了计算复杂性和调参维度，但对于那些需要模型持续适应非平稳数据流而又不能忘记根本的场景，例如终身学习机器人、个性化推荐系统的持续演化，投入精力去探索这样的几何方法，可能是非常值得的。