天文时序数据分析：机器学习评估、半监督学习与无监督方法实战

1. 项目概述：当机器学习遇见星空

处理海量的天文时序数据，比如来自Kepler、TESS这些“巡天巨眼”的光变曲线，早已不是靠人眼一张张图去翻的时代了。数据量太大，噪声复杂，信号微弱，传统方法常常力不从心。这时候，机器学习（ML）就成了天文学家手中的一把利器。但工具再好，也得知道它用得对不对、稳不稳。这就引出了我们今天的核心话题：如何科学地评估一个机器学习模型在天文数据上的表现，并利用这些技术，比如半监督学习，去解决像变星分类这样标注数据稀缺的实际问题。

简单来说，这就像教一个AI助手认星星。我们有一大堆星星亮度随时间变化的曲线（光变曲线），有的星星我们知道它是什么类型（比如是脉动变星还是食双星），但更多的星星我们不知道。机器学习评估，就是设计一套考试和评分标准，来检验这个AI助手学得怎么样，会不会“死记硬背”（过拟合）或者“瞎猜”（欠拟合）。而半监督学习，则是让AI助手在少量“有答案的例题”（标注数据）和大量“没答案的习题”（未标注数据）一起学习，最大化利用有限的信息。

本文将从一个一线实践者的角度，拆解这个过程中的关键环节。我们会深入探讨那些决定模型好坏的评估指标（如AUC、混淆矩阵）和验证方法（如K折交叉验证）到底该怎么用、为什么这么用。接着，我们会聚焦于半监督学习这一在标注昂贵的天文领域极具潜力的范式，看看它如何巧妙利用未标注数据。然后，我们会剖析t-SNE、自编码器（AE）等无监督方法，它们不仅是降维和可视化的好手，更是特征提取和异常检测的利器。最后，我们将把这些理论落地，系统梳理机器学习在系外行星探测和变星分类这两个经典天文任务中的完整实施流程、模型选型考量与实际效果。目标是为读者提供一份从理论到实践、从评估到应用的“操作手册”。

2. 模型评估：不只是看准确率

构建一个机器学习模型，训练完成只是第一步。更重要的是，我们需要一套严谨的方法来评估它的性能，判断它是否真的学到了规律，而不是仅仅记住了训练数据。这对于天文应用至关重要，因为一个不可靠的模型可能会导致我们错过重要的发现（如一颗新的系外行星）或产生大量的误报。

2.1 核心评估指标解读

评估指标就像衡量模型能力的“尺子”，不同的任务需要不同的尺子。

2.1.1 回归任务：预测连续值

在天文参数估计中，如预测恒星的有效温度、红移或行星的半径，我们处理的是回归问题。常用的指标有：

• 均方误差（MSE）：预测值与真实值之差的平方的平均值。公式为：MSE = (1/n) * Σ(y_i - ŷ_i)^2。MSE对较大的误差给予更大的惩罚，因此它对异常值（Outliers）非常敏感。如果你的数据中有一些噪声很大的测光点，MSE可能会被它们主导，从而给出一个悲观的性能评估。
• 平均绝对误差（MAE）：预测值与真实值之差的绝对值的平均值。公式为：MAE = (1/n) * Σ|y_i - ŷ_i|。MAE对所有误差一视同仁，因此比MSE更稳健，能更好地反映预测的典型误差水平。

实操心得：在报告结果时，最好同时给出MSE和MAE。如果两者差距很大，说明你的数据集中可能存在显著的异常值，需要回头检查数据清洗步骤。例如，在估计星系红移时，某些有特殊发射线的星系可能会造成模型预测的严重偏离，这时MAE更能反映模型对大多数“正常”星系的预测能力。

2.1.2 分类任务：判断类别标签

变星分类、系外行星候选体判断都是典型的分类问题。这里的指标更为多样。

• 准确率（Accuracy）：最直观的指标，即预测正确的样本占总样本的比例。但它有一个致命的缺点：当数据类别不平衡时，准确率会严重失真。例如，在一个数据集中，99%的样本是“非变星”，1%是“变星”。一个模型如果简单地把所有样本都预测为“非变星”，它的准确率也能高达99%，但这个模型对于发现变星毫无用处。

• 混淆矩阵（Confusion Matrix）：这是理解分类模型性能的基石。它是一个N×N的表格（N为类别数），行代表真实类别，列代表预测类别。通过混淆矩阵，我们可以计算出更细致的指标：

  • 精确率（Precision）：在所有被模型预测为“正例”（如“是变星”）的样本中，真正是正例的比例。它关注的是预测的准确性。“宁可错过，不可错杀”的任务需要高精确率。
  • 召回率（Recall）：在所有真实的正例样本中，被模型正确找出来的比例。它关注的是发现的完整性。“宁可错杀，不可错过”的任务需要高召回率。
  • F1分数（F1-Score）：精确率和召回率的调和平均数，用于在两者之间寻求一个平衡。

• ROC曲线与AUC：这是评估二分类模型综合性能的黄金标准之一。

  • ROC曲线：以假正率（FPR）为横轴，真正率（TPR，即召回率）为纵轴绘制出的曲线。它展示了当模型判断正例的阈值（Threshold）从严格到宽松连续变化时，模型识别能力的变化。
  • AUC（曲线下面积）：AUC值可以理解为，随机抽取一个正样本和一个负样本，模型对正样本的预测分数高于负样本的概率。AUC的取值范围是0.5到1。0.5相当于随机猜测，1代表完美模型。AUC的优势在于，它衡量的是模型整体的排序能力，而不依赖于某个具体的分类阈值，这对于需要根据置信度排序、再进行人工复核的天文筛选流程（如系外行星候选体筛选）特别有用。

注意事项：对于多分类问题（如将变星分为脉动变星、食双星、爆发变星等），ROC曲线和AUC的计算需要调整。常用的是“一对多”策略，为每个类别分别计算ROC曲线和AUC，然后进行宏平均或微平均。此时，结合每个类别的精确率、召回率和F1分数来综合评估模型更为稳妥。

2.2 验证方法：确保模型泛化能力

评估指标告诉我们模型在“考试”中得了多少分，但关键是，这个“考试”本身是否公平？能否反映模型遇到新数据时的真实水平？这就是验证方法要解决的问题。

2.2.1 留出验证

这是最简单直接的方法：将数据集一次性划分为互斥的三部分——训练集、验证集和测试集。通常比例是70%:15%:15%。训练集用于训练模型参数，验证集用于调整模型超参数（如学习率、网络层数），测试集则用于最终评估，且在整个训练调参过程中绝对不允许被窥探。

• 优点：简单，计算效率高。
• 缺点：对划分方式非常敏感。如果一次划分恰好把某种稀有类型的样本都分到了测试集，那么评估结果就会有很大偏差。对于数据量不大的天文数据集，这个问题尤其突出。

2.2.2 K折交叉验证

为了克服留出验证的缺点，K折交叉验证成为了更可靠的选择。它将数据集随机均匀分成K份（通常K=5或10）。依次将其中一份作为验证集，其余K-1份作为训练集，进行K次训练和验证。最后，将K次验证结果的平均值作为模型性能的估计。

• 优点：充分利用了有限的数据，评估结果更加稳定可靠，对数据划分的随机性不敏感。
• 缺点：训练成本是留��验证的K倍。对于训练一个深度学习模型需要数天的大型项目，10折交叉验证可能不现实。

2.2.3 分层K折交叉验证

这是K折交叉验证在分类任务上的“升级版”。在划分每一折时，它确保每个折中各个类别的样本比例与原始数据集中的比例保持一致。这对于类别不平衡的天文数据集（如变星数据中，某类变星数量极少）至关重要，可以避免某一折中完全缺失某个稀有类别的情况。

2.2.4 嵌套交叉验证

当我们需要同时进行模型选择（比如用随机森林还是梯度提升树）和超参数调优，并且要得到一个无偏的最终性能估计时，就需要嵌套交叉验证。它包含两层循环：外层循环用于评估不同模型/配置的最终性能，内层循环用于为每个模型选择最优超参数。这样可以严格防止信息从测试集泄露到模型构建过程中，得到最可靠的性能估计。

常见问题与排查：在实践中，一个容易被忽视的步骤是统计显著性检验。当我们比较两个模型的AUC（比如0.92 vs 0.93）时，这0.01的提升是确实存在的，还是由于数据随机划分带来的波动？此时可以使用McNemar检验（适用于配对分类结果）或配对t检验/Wilcoxon符号秩检验（适用于交叉验证得到的多组性能分数）。在发表研究成果时，提供性能差异的统计显著性水平（p值）是体现工作严谨性的重要一环。

3. 半监督学习：在标注荒漠中淘金

天文数据标注是出了名的“贵”。请领域专家人工检查光变曲线并打上标签，耗时耗力，规模难以扩大。我们常常面临“标注数据少，未标注数据多”的困境。半监督学习正是为解决这一矛盾而生。

3.1 核心思想与工作流程

半监督学习的核心假设是：数据的分布结构本身包含信息。大量未标注的数据虽然不知道具体标签，但它们揭示了数据在特征空间中的整体结构和簇状分布。模型可以先从少量标注数据中学习一个初步的决策边界，然后利用未标注数据所揭示的结构信息，对这个边界进行修正和细化，使其更符合数据的真实流形。

其典型工作流程如下：

1. 数据准备：收集一个包含少量标注样本和大量未标注样本的混合数据集。
2. 基础模型训练：使用标注数据训练一个初始的监督学习模型（如一个简单的分类器）。
3. 利用未标注数据：
   • 自训练：用初始模型对未标注数据进行预测，将高置信度的预测结果及其“伪标签”加入训练集，重新训练模型。迭代进行。
   • 一致性正则化：对未标注数据施加轻微扰动（如加入噪声、进行数据增强），要求模型对原始样本和扰动后样本的预测保持一致。这迫使模型学习到更平滑、更鲁棒的决策边界。
   • 生成式模型：利用所有数据（标注+未标注）学习整个数据集的生成分布P(x)，然后结合标注数据学习条件分布P(y|x)。

3.2 在天文中的应用实例与实操要点

在半监督学习的框架下，无监督学习方法（如我们后面要讲的t-SNE、自编码器）常常扮演着特征学习或结构发现的角色，为半监督模型提供更好的输入。

• 应用场景：

  • 变星分类：Pantoja等人（2022）的工作是一个典型例子。他们首先使用UMAP（一种类似t-SNE的降维方法）和HDBSCAN（一种密度聚类算法）对未标注的光变曲线进行聚类，发现数据中自然形成的群组。然后，他们用少量已知类别的变星去“标记”这些簇，或者利用聚类结果来指导特征提取，最终用于新数据的分类。这种方法极大地减少了对全量标注数据的依赖。
  • 异常/新星体检测：在半监督设定下，模型可以学习“正常”天体（如主序星）的光变曲线模式。那些与学习到的模式差异极大的未标注样本，就被识别为潜在的异常或新型天体，供天文学家进一步研究。

• 实操要点与避坑指南：

  1. 伪标签的质量是关键：在自训练中，盲目相信所有高置信度的伪标签是危险的。如果初始模型在某些区域存在系统性偏差，它会不断强化自己的错误。必须设置严格的置信度阈值（例如，只选择预测概率大于0.95的样本），并且最好结合领域知识进行抽样检查。
  2. 数据增强要符合物理：对光变曲线进行一致性正则化时，数据增强手段必须具有天文意义。例如，可以添加符合仪器噪声模型的高斯噪声，或对时间序列进行小幅度的拉伸/平移（模拟周期测量的微小误差）。但不能进行破坏光变曲线物理形态的增强（如随意翻转）。
  3. 警惕确认偏差：半监督学习的效果严重依赖于“聚类假设”或“流形假设”（即相似的数据点倾向于具有相同的标签）是否成立。对于某些类别边界模糊或重叠的天体类型（如某些类型的激变变星），这个假设可能不成立，此时半监督学习的效果会打折扣。

4. 无监督方法实战：t-SNE与自编码器

在正式进入具体的天文应用前，我们需要两类强大的“预处理”工具：一种能让我们“看见”高维数据结构的可视化方法，一种能自动学习数据本质特征的表示学习方法。t-SNE和自编码器正是这样的工具。

4.1 t-SNE：高维数据的可视化显微镜

t-SNE是一种非常流行的非线性降维技术，特别擅长在二维或三维空间中展示高维数据的聚类结构。

• 原理简述：t-SNE的核心思想是“保持邻居”。它在高维空间中计算数据点之间的相似度（通常用高斯分布表示），然后在低维空间（通常是2D）中也构建一个概率分布来表示点之间的相似度（使用t分布，对远距离点更不敏感）。通过优化KL散度，使得低维空间中的分布尽可能接近高维空间的分布。这样，在高维空间中是“邻居”的点，在低维可视化中也会靠得很近。
• 关键参数——困惑度：这是t-SNE最重要的超参数。困惑度可以理解为算法对每个点考虑多少个“邻居”。值太小（如5），会关注非常局部的结构，可能形成许多分散的小簇；值太大（如50），会关注全局结构，可能使不同类别混在一起。通常需要在5到50之间尝试，对于天文数据，从30开始尝试是一个不错的起点。
• 天文应用场景：
  • 异常检测：在降维后的图中，远离主要群集的孤立点，很可能就是异常天体，如特殊类型的超新星、活动星系核等。
  • 探索性数据分析：在标注之前，先用t-SNE看看数据是否存在自然的聚类，可以为后续的监督或半监督学习提供先验指导。
  • 评估特征：将不同特征提取方法得到的数据分别进行t-SNE可视化，哪种方法得到的类别分离更清晰，说明该特征可能更有效。

注意事项：t-SNE的结果具有随机性，每次运行可能略有不同。务必设置随机种子以确保结果可复现。另外，t-SNE图中的距离绝对值没有意义，只有相对聚类关系有意义。不同次运行之间，整个图可能会发生旋转、翻转，但簇内的相对位置应保持稳定。

4.2 自编码器：学习数据的“本质”表示

自编码器是一种特殊结构的神经网络，它的目标是学习输入数据的一种高效编码（压缩表示）。

• 网络结构：它由两部分组成：

  • 编码器：将高维输入数据（如一条完整的光变曲���）压缩成一个低维的“潜在向量”。
  • 解码器：根据这个低维的潜在向量，尝试重建出原始的输入数据。

• 训练目标：通过最小化输入数据与重建数据之间的差异（重建误差），网络被迫在潜在向量中捕获数据最关键的特征，因为只有抓住了本质，才能较好地重建。

• 天文应用场景：

  • 非线性降维与特征提取：训练完成后，编码器部分就可以作为一个特征提取器。将光变曲线输入编码器，得到的潜在向量就是其降维后的、富含信息的表示，可以用于后续的分类或聚类任务。这比手工设计特征或线性PCA更强大。
  • 异常检测：如果一个天体的光变曲线模式与训练集中的大多数天体差异很大，自编码器会难以很好地重建它，导致较高的重建误差。因此，重建误差本身就可以作为异常分数。
  • 数据去噪：在训练时，给输入数据加入噪声，但要求解码器输出干净的数据。这样训练出的自编码器就具备了去噪能力，可以用于处理噪声较大的观测数据。

• 实操配置建议：

  • 网络结构：对于时序数据（光变曲线），编码器可以使用一维卷积层或LSTM层来捕捉局部模式和时间依赖；解码器使用对应的反卷积层或LSTM层。
  • 潜在空间维度：这是一个需要权衡的超参数。维度太高，则压缩不够，可能学不到紧凑特征；维度太低，则信息损失严重，重建误差会很大。可以通过观察重建效果和下游任务（如分类）的性能来确定。
  • 正则化：为了防止网络简单地学会一个恒等映射（即直接复制输入到输出），需要在损失函数中加入正则化项，如对潜在向量施加稀疏性约束（稀疏自编码器）或使其服从某个先验分布（变分自编码器，VAE）。VAE尤其强大，因为它学习的是一个概率化的潜在空间，便于生成新的、合理的数据样本。

5. 天文任务实战：从系外行星探测到变星分类

现在，我们将评估方法、半监督思想和无监督工具，融入到具体的天文数据分析流水线中。这里以两个最经典的任务为例。

5.1 任务一：系外行星凌星信号检测

凌星法通过检测恒星亮度周期性下降来发现系外行星。机器学习，尤其是深度学习，已成为从Kepler、TESS等海量数据中自动化筛选候选体的核心工具。

5.1.1 数据处理与特征工程

原始光变曲线包含恒星自身活动、仪器噪声等引入的趋势和噪声。预处理步骤至关重要：

1. 去趋势化：使用滑动中值滤波、高斯过程回归或多项式拟合，移除长期趋势。
2. 归一化：将流量归一化到均值为1附近，便于模型比较不同亮度的恒星。
3. 相位折叠：对于疑似有周期信号的目标，按候选周期将数据折叠到一个周期内，累积信号。这是最关键的步骤之一，能将微弱的周期性信号增强。
4. 构建输入：对于CNN模型，通常将折叠后的一个相位内的光变曲线，以及可能的多波段数据、星像质心变化时间序列等，组合成一张一维或二维的“图像”作为输入。

5.1.2 模型架构与选择

• 卷积神经网络：是当前的主流。例如经典的AstroNet及其变体。它们能自动从相位折叠后的光变曲线“图像”中提取局部和全局特征，判断是否存在“U”形凌星槽。2D-CNN有时会被用来同时处理光变曲线和其相应的星像质心数据（以排除背景食双星等假阳性）。
• 循环神经网络/LSTM：更适合处理未经相位折叠的原始时序数据，直接建模时间依赖关系，对于噪声和非均匀采样有更好的鲁棒性。Morvan等人（2020）就利用LSTM进行光变曲线的去趋势处理。
• 集成方法与特征工程路线：在深度学习普及前，随机森林（RF）结合手工特征（凌星深度、持续时间、周期显著性等）是常用方法。如今，它常作为深度学习模型输出的后处理或融合工具，用于进一步降低假阳性。

5.1.3 评估与迭代

在这个任务中，由于正样本（确认的系外行星）远少于负样本（各种假阳性），评估必须极其谨慎：

• 核心指标：精确率和召回率的平衡（F1分数）。在候选体筛选初期，可以适当牺牲一些精确率以保证高召回率，确保不遗漏潜在目标。在最终确认阶段，则需要极高的精确率。
• 验证方法：必须使用分层K折交叉验证，确保每一折中稀有的行星信号都有代表。
• 不确定性量化：使用蒙特卡洛Dropout或贝叶斯神经网络，为每个预测提供置信度。天文学家可以优先核查高置信度但模型不确定的候选体。

5.2 任务二：变星分类

变星种类繁多，光变曲线形态各异。机器学习的目标是将一条光变曲线自动归类到正确的物理类别（如RR Lyrae, Cepheid, Eclipsing Binary等）。

5.2.1 从特征工程到端到端学习

• 传统特征工程方法：早期工作依赖于领域知识提取特征，如：
  • 基于周期图的特征：主周期、振幅。
  • 基于相位折叠曲线的统计特征：偏度、峰度、相位的最大值/最小值比。
  • 基于模型的参数：傅里叶分解的系数。 这些特征随后被送入随机森林、SVM等传统分类器。这种方法可解释性强，但特征设计费时，且可能无法捕捉复杂形态。
• 端到端深度学习：当前的主流方向是让模型直接从原始或最小预处理的光变曲线中学习。
  • 1D-CNN：直接处理一维时间序列，能有效捕捉局部形态模式。
  • RNN/LSTM：擅长处理变长序列和长期依赖，对于不规则采样的数据适应性好。
  • Transformer：最新的趋势。通过自注意力机制，能同时关注光变曲线上所有时间点之间的关系，无需预先进行相位折叠，在捕捉长程依赖和复杂模式上表现出巨大潜力，如Pan等人（2024）和Cádiz-Leyton等人（2024）的工作。

5.2.2 处理类别不平衡与数据稀缺

变星类别分布极不均衡，某些类型数量很少。这是分类任务的主要挑战。

1. 数据层面：
   • 过采样：对少数类样本进行复制或使用SMOTE等方法生成合成样本。
   • 欠采样：随机丢弃一部分多数类样本（可能损失信息）。
2. 算法层面：
   • 代价敏感学习：在损失函数中为少数类赋予更高的权重，让模型更关注分类错误的少数类样本。
   • 使用适合不平衡数据的评估指标：如宏平均F1分数、AUC-PR曲线（精确率-召回率曲线下的面积）。
3. 利用半监督/无监督学习：这正是我们前面章节讨论的重点。使用自编码器学习所有数据的通用表示，或使用半监督方法利用大量未标注数据，可以有效缓解标注数据不足的问题。

5.2.3 构建一个鲁棒的分类流水线

一个完整的变星分类系统可能包含以下步骤：

1. 数据收集与预处理：从巡天数据库（如ZTF, ASAS-SN）获取光变曲线，进行基本的去噪、归一化、插值（如果需要）。
2. 周期查找：使用Lomb-Scargle周期图等方法估计主要周期。这一步对脉动变星和食双星至关重要。
3. 特征提取/表示学习：
   • 路径A（特征工程）：计算一系列手工特征。
   • 路径B（深度学习）：使用预训练的自编码器或直接使用CNN/LSTM/Transformer提取高维特征。
4. 降维与可视化（可选）：使用t-SNE或UMAP将高维特征降至2D/3D，用于探索数据结构和发现异常。
5. 模型训练与评估：
   • 划分训���、验证、测试集（使用分层划分）。
   • 在训练集上训练分类器（如随机森林、神经网络）。
   • 在验证集上调整超参数，并使用交叉验证评估模型稳定性。
   • 在独立的测试集上报告最终性能（准确率、宏平均F1、混淆矩阵等）。
6. 预测与解释：对新数据应用训练好的流水线进行分类。对于重要或不确定的分类结果，可回溯查看其t-SNE图中的位置、模型预测的概率分布，甚至通过SHAP等工具进行可解释性分析。

在整个流程中，贯穿始终的是对模型评估的严谨性。每一次架构调整、参数调优，都必须在独立的验证集上进行评估；最终的结论，必须基于从未参与过任何训练或调优过程的测试集。只有这样，我们才能相信这个机器学习模型，真的能帮助我们在浩瀚的数据星海中，可靠地辨认出那一颗颗特性各异的闪烁星辰。