当前位置：首页 > news >正文

DML交叉验证折数K选择：DML2优于DML1，K=10是高效折中方案

news 2026/5/24 16:58:21

1. DML与交叉验证折数K：一个被低估的实践难题

在因果推断和现代计量经济学的工具箱里，双机器学习（Double Machine Learning, DML）已经从一个前沿概念，变成了处理高维数据、非参数干扰函数时绕不开的“标准操作”。它的核心魅力在于，通过巧妙的样本分割和交叉拟合（cross-fitting），我们能够使用任何黑箱机器学习模型（比如随机森林、神经网络）去估计复杂的干扰函数（nuisance function），同时还能保证目标参数（比如平均处理效应ATE）估计量的无偏性和渐近正态性。这听起来像是个“免费午餐”——既享受了机器学习的灵活性，又保有了计量经济学的统计可靠性。

然而，在实际操作中，这个“免费午餐”需要你决定一个看似不起眼、实则影响深远的技术细节：交叉验证的折数K。是把数据切成5份？10份？还是极端一点，用留一法（Leave-One-Out, LOO），即K=n？过去，许多应用研究和教程对此的推荐往往是经验性的，比如“K=5或10是个不错的起点”。但当我们真正去复现一些研究，或者在自己的数据上尝试时，可能会发现：不同的K值，有时会让估计结果、标准误甚至结论的显著性发生微妙却关键的变化。这背后到底发生了什么？

本文要探讨的，正是这个实践中的“黑箱”。我们将深入DML的两种主流实现——DML1和DML2，从渐近理论的第一性原理出发，拆解交叉验证折数K如何像一个隐形杠杆，分别撬动这两种估计器的偏差（Bias）和均方误差（MSE）。你会发现，对于DML1，盲目增加K可能引入意想不到的一阶渐近偏差；而对于DML2，K则主要通过高阶项影响估计精度。理论推导将告诉我们，在某些情况下，那个最极端的K=n（留一法），可能才是偏差和MSE意义上的“最优解”。当然，理论归理论，我们更关心实操意义：对于一个给定的样本量n，K选10和选n，在偏差和效率上的损失到底有多大？有没有一个“性价比”最高的折中选择？

接下来的内容，我将结合理论公式、几何直观和模拟证据，为你彻底厘清K值选择的门道。无论你是正在应用DML的研究者，还是对现代因果推断方法感兴趣的数据科学家，理解这些细节都将帮助你做出更明智、更稳健的建模决策，避免因一个超参数设置不当而让整个精密的估计框架功亏一篑。

2. 核心概念回顾：DML1、DML2与交叉拟合机制

在深入K值的影响之前，我们必须确保站在同一理解层面上。DML不是一个单一的算法，而是一个框架，其核心在于解决“自身观测”（own observation）偏差问题。当我们用同一份数据既估计干扰函数（如倾向得分、条件均值函数），又用它来构建目标参数的矩条件时，估计误差会相互关联，导致最终的参数估计产生偏差。交叉拟合是解决这一问题的关键。

2.1 交叉拟合的基本流程

假设我们有n个独立同分布的观测样本{W_i}_{i=1}^n，其中W_i = (Y_i, D_i, X_i)分别代表结果变量、处理变量和协变量。我们的目标是估计一个目标参数θ₀，它通常通过某个矩条件E[ψ(W, θ₀, η₀)] = 0来定义，其中η₀是一个可能无限维的干扰函数（例如，条件期望函数E[Y|X]或倾向得分P(D=1|X)）。

交叉拟合的步骤如下：

样本分割：将全部n个样本随机、均匀地分割成K个互不重叠的折（folds），记作I_1, I_2, ..., I_K。每个折的大小约为n/K。
干扰函数估计：对于每一折k（k = 1, ..., K），我们使用除第k折外的所有其他数据（即I_{-k}，包含大约(K-1)n/K个样本）来训练一个机器学习模型，得到干扰函数η的一个估计\hat{η}_k。
目标参数估计：对于每一折k，我们使用该折I_k内的样本，并代入上一步得到的、未使用该折数据训练的干扰函数估计\hat{η}_k，来构建关于θ的估计方程。最后，将所有K折的贡献聚合起来，得到最终的参数估计。

这个过程的核心在于，用于评估目标参数矩条件的样本，其干扰函数估计值来自于一个完全独立的子样本。这就切断了\hat{η}_i的估计误差与W_i在同一个观测点上的相关性，从而消除了“自身观测”偏差的一阶影响。

2.2 DML1 与 DML2 的数学定义

聚合K折估计的方式有两种，这便引出了DML1和DML2的区别。为了清晰，我们考虑一个简单的线性矩条件：ψ(W, θ, η) = m(W, θ, η) - θ * ψ_a(W, η)，其中E[ψ_a(W, η₀)] ≠ 0。许多经典参数，如ATE，都可以写成这种形式。

DML1（折内估计平均）:
1. 对每一折k，利用该折I_k的数据和对应的干扰函数估计\hat{η}_k，求解一个折内参数估计值\tilde{θ}_k：\tilde{θ}_k = ( \sum_{i \in I_k} m(W_i, \tilde{θ}_k, \hat{η}_k) ) / ( \sum_{i \in I_k} ψ_a(W_i, \hat{η}_k) )这相当于用第k折的数据解一个小的估计方程。
2. 将K个折内估计值简单平均：\hat{θ}_{n,1} = (1/K) \sum_{k=1}^{K} \tilde{θ}_k
DML2（全样本一次求解）:
1. 首先，为每一个样本i分配一个干扰函数估计值\hat{η}_i。如果样本i属于第k折，则\hat{η}_i = \hat{η}_k（即，使用未包含i的其余折数据训练的模型来预测i）。
2. 然后，利用全部n个样本和它们对应的\hat{η}_i，求解一个全局的估计方程：\sum_{i=1}^{n} [ m(W_i, \hat{θ}_{n,2}, \hat{η}_i) - \hat{θ}_{n,2} * ψ_a(W_i, \hat{η}_i) ] = 0解得：\hat{θ}_{n,2} = ( \sum_{i=1}^{n} m(W_i, \hat{θ}_{n,2}, \hat{η}_i) ) / ( \sum_{i=1}^{n} ψ_a(W_i, \hat{η}_i) )

直观理解两者的区别：你可以把DML1想象成“委员会决策”。K个折各自独立地给出一个“小报告”（\tilde{θ}_k），最终结果就是这些报告的平均值。而DML2更像是“集中办公”。所有样本带着各自“外聘专家”（\hat{η}_i）提供的意见，坐在一起共同商议出一个统一的结论（\hat{θ}_{n,2}）。

在经典的、固定K的渐近理论下（即样本量n趋于无穷，但K保持不变），DML1和DML2被证明是“一阶等价”的，它们具有相同的渐近分布。这导致了许多实践者认为二者可以互换。然而，当我们考虑K也随着n增长（这更贴近有限样本下我们想用更多数据训练干扰函数模型的实际情况）时，它们的表现就开始分道扬镳。

注意：DML2的公式在形式上与用全部数据一次性估计干扰函数后再估计参数很像，但关键在于这里的\hat{η}_i对于每个样本i都是利用其之外的数据训练的，严格避免了数据窥探（data snooping）。这是其无偏性的根本保障。

3. 渐近理论新视角：当折数K不再固定

传统的DML渐近分析假设交叉验证的折数K是一个固定的常数（例如5或10），然后让样本量n趋于无穷。这个框架在理论上是干净的，但它忽略了一个重要的现实场景：在有限样本下，实践者为了提升干扰函数η的估计精度，有强烈的动机去增加K。因为更大的K意味着每一折用于训练干扰函数模型的数据量(K-1)n/K更接近全样本量n。例如，K=10时，训练数据量是0.9n；K=n（留一法）时，训练数据量是n-1，几乎用上了全部信息。

因此，一个更贴合实际的理论框架是考虑K → ∞且K/n → 0的渐近路径。在这个视角下，DML1和DML2的表现差异被清晰地揭示出来。

3.1 DML1的一阶渐近偏差问题

核心结论可以概括为：在K → ∞的渐近框架下，DML1估计量\hat{θ}_{n,1}的分布可能不再以真实参数θ₀为中心，即存在一阶渐近偏差。而DML2估计量\hat{θ}_{n,2}则始终保持无偏（以θ₀为中心）。

定理3.1（DML1的渐近分布）：在一定的正则条件下，若K → ∞且K/√n → c（c为一个常数），则有：√n (\hat{θ}_{n,1} - θ₀) →_d N( c * Λ, σ² )其中，σ²是渐近方差，而Λ是一个关键的差异度量（discrepancy measure）。

定理3.2（DML2的渐近分布）：在相同条件下，对于DML2，有：√n (\hat{θ}_{n,2} - θ₀) →_d N( 0, σ² )

解读与影响：

偏差的来源：对于DML1，其渐近分布的中心是c * Λ，而非0。这意味着，即使在大样本下，只要Λ ≠ 0且c > 0（即K与√n同阶或更大），估计量\hat{θ}_{n,1}就是有偏的。偏差的大小与Λ和K/√n成正比。
Λ的含义：Λ是一个由数据生成过程和估计问题本身决定的量。它衡量了干扰函数估计误差(\hat{η} - η₀)与矩条件函数m(W, θ₀, η)对η的导数∂_η m之间的协方差。在一些经典问题中，如平均处理效应（ATE）和面板数据模型（PLM），Λ = 0，因此DML1和DML2在一阶渐近性质上无差异。但在另一些问题中，如局部平均处理效应（LATE）和加权平均处理效应（w-ATE），Λ通常不为零。
K的角色：偏差项c * Λ中的c正比于K/√n。这意味着，对于DML1，在有限样本下增大K，可能会放大其渐近偏差。极端情况下，如果K增长得比√n还快（例如K ∝ n^{0.5+ε}），DML1的估计甚至可能发散。
DML2的稳健性：定理3.2表明，DML2的渐近分布对K的增长是稳健的。无论K如何增长（只要K ≤ n），其中心始终是0。这使得DML2在希望使用较大K（甚至留一法）来提升干扰函数估计精度的场景下，具有理论上的安全性。

为什么DML1会有偏差而DML2没有？一个直观（但非严格）的解释在于其“Oracle估计量”（即假设干扰函数已知时的理想估计量）。DML1的Oracle估计量是K个基于子样本的独立估计的平均。每个子样本估计量本身因为样本量更小（n/K），具有一个高阶偏差项O_p(1/(n/K)) = O_p(K/n)。当K与√n同阶时，这个高阶偏差K/n的阶数为O(1/√n)，从而“升级”成为一阶渐近偏差，出现在极限分布中。而DML2的Oracle估计量是基于全样本的一次估计，其高阶偏差项为O_p(1/n)，衰减更快，不会污染一阶渐近分布。

3.2 DML2的高阶性质：偏差与MSE如何随K变化

既然DML2在一阶渐近上是稳健的，那么我们是否就可以随意选择K了呢？并非如此。K的选择会通过高阶项影响DML2估计量的有限样本性能，主要体现在偏差和均方误差上。

为了更精细地描述有限样本行为，我们需要超越一阶渐近，考察估计量的随机展开式中的高阶项。假设干扰函数估计器\hat{η}的收敛速度为n^{-φ}（1/4 < φ < 1/2，对于非参数估计这是典型情况）。

定理3.4（DML2的高阶偏差）：DML2估计量\hat{θ}_{n,2}的高阶偏差主要项为：高阶偏差 ≈ (F_δ + F_b) * [1 + 1/(K-1)]^{2φ} * n^{-2φ}其中，F_δ和F_b是与干扰函数估计的偏差和方差分量相关的常数。

定理3.5与推论3.1（DML2的高阶方差与MSE）：DML2估计量的高阶方差和均方误差（MSE）的主要项为：高阶方差 ≈ σ²/n + G_b * [1 + 1/(K-1)]^{2φ-1/2} * n^{-1/2-2φ}高阶MSE ≈ σ²/n + G_b * [1 + 1/(K-1)]^{2φ-1/2} * n^{-1/2-2φ}其中，σ²是一阶渐近方差，G_b是另一个与数据分布和模型相关的常数。

关键洞察：

偏差随K减小：高阶偏差的主要项[1 + 1/(K-1)]^{2φ} * n^{-2φ}是K的递减函数。当K = n（留一法）时，1/(K-1) ≈ 0，此项达到最小。这意味着，从减少高阶偏差的角度看，K越大越好，留一法（K=n）是最优的。
MSE也随K减小（当G_b > 0时）：高阶MSE的第二项G_b * [1 + 1/(K-1)]^{2φ-1/2} * n^{-1/2-2φ}同样是K的递减函数（因为2φ-1/2 > 0）。因此，如果G_b > 0（模拟证据通常支持这一点），那么增大K同样可以降低高阶MSE，留一法在二阶渐近意义下也是MSE最优的。
权衡的消失：传统机器学习中，交叉验证的折数K需要在偏差（K小，训练集大，模型偏差小）和方差（K大，验证集多，方差估计准）之间权衡。但在DML2的交叉拟合框架下，由于干扰函数估计和目标参数估计是解耦的，并且我们关注的是目标参数θ的估计质量，上述公式表明，对于θ的估计，增大K（直至留一法）同时降低了其高阶偏差和高阶MSE，不存在传统意义上的权衡。这颠覆了我们在监督学习中对K值的直觉。

下表总结了K值对DML1和DML2的影响：

特性	DML1 (折内平均)	DML2 (全样本求解)	对实践者的启示
一阶渐近偏差	当`Λ ≠ 0`且`K`较大时可能存在 (`∝ K/√n`)	始终为零(对任意`K ≤ n`)	优先选择DML2，尤其在小样本或计划使用较大K时。
一阶渐近方差	`σ²`(与DML2相同)	`σ²`	在一阶意义上，两者效率无差异。
高阶偏差	复杂，可能包含与K相关的项	随K增大而减小，`K=n`时最小	为减少偏差，应使用尽可能大的K，特别是DML2。
高阶MSE	复杂，当K大时可能恶化	当`G_b > 0`时，随K增大而减小，`K=n`时可能最优	为提升估计精度（MSE），DML2应使用较大的K。
对K的敏感性	高。K增大会加剧一阶偏差问题。	低。一阶性质稳健，高阶性质受益于大K。	DML2是更安全、更推荐的选择。

实操心得：如果你正在使用一个现成的DML软件包（如EconML、DoubleML），第一步就是确认它默认提供或你选择的是DML1还是DML2。许多包现在已默认采用DML2。如果必须使用DML1（例如某些特定估计量只有DML1实现），则需要格外警惕K的选择，避免使用过大的K值，尤其是在样本量不大时。

4. 给实践者的具体建议与量化分析

理论很美，但我们需要更接地气的指导。基于第3章的分析，我们可以得出几条清晰且可操作的建议。

4.1 核心建议一：优先使用DML2

结论：在任何新的DML应用场景中，应优先选择DML2估计器。

理由：

稳健性：DML2的渐近正态性（中心为0）对任意K ≤ n都成立，包括留一法。这意味着无论你出于什么原因选择较大的K，其统计推断（如构建置信区间）在理论上都是可靠的。
安全性：DML1在Λ ≠ 0时存在一阶偏差风险，而Λ是否为零通常难以预先判断。选择DML2可以完全规避这一风险。
有限样本优势：如第3.2节所示，DML2的高阶偏差和MSE通常随着K增大而改善，这为使用更多折数（以提升干扰函数估计精度）提供了理论支持。

4.2 核心建议二：关于折数K的选择

既然DML2��励使用更大的K，那么是不是一律用留一法（K = n）最好呢？理论上是的，但实际操作中，留一法意味着要训练n个不同的干扰函数模型，计算成本是O(n)倍，对于大数据集或复杂模型（如深度学习）可能是不可承受的。因此，我们需��一个权衡计算成本与统计精度的方案。

量化分析：K=10是一个高效的折中方案

我们可以计算相对于最优留一法（K=n），选择某个有限K值时，在偏差和MSE上的相对损失（Relative Loss, RL）。

偏差的相对损失：RL_{Bias}(K) = { [1 + 1/(K-1)]^{2φ} / [1 + 1/(n-1)]^{2φ} } - 1 ≈ [1 + 1/(K-1)]^{2φ} - 1（因为n很大时，1/(n-1) ≈ 0）
MSE的相对损失（上界）：当G_b > 0时，MSE的相对损失上界为：RL_{MSE}(K) ≤ { [1 + 1/(K-1)]^{2φ-1/2} / [1 + 1/(n-1)]^{2φ-1/2} } - 1 ≈ [1 + 1/(K-1)]^{2φ-1/2} - 1

我们取φ的典型范围[1/4, 1/2]（对应非参数估计的收敛速率），计算K=10时的最大相对损失：

性能指标	φ = 1/4 (收敛较慢)	φ = 1/2 (收敛较快)	K=10时的最大损失
偏差相对损失 RL_{Bias}	≈ 10.5%	≈ 5.1%	约 10%
MSE相对损失 RL_{MSE}	≈ 4.9%	≈ 0.2%	约 5%

解读与建议：

惊人的稳定性：上表显示，仅仅使用 K=10 折交叉拟合，其偏差最多比最优的留一法高10%，MSE最多高5%。对于绝大多数应用而言，这是一个完全可以接受的精度损失。
计算效率的巨幅提升：相比于留一法需要训练n个模型，K=10只需要训练10个模型，计算量降低了n/10倍。例如，对于n=5000的数据集，计算量降低为原来的1/500。
通用推荐：因此，一个具有普适性且高效的推荐是：在使用DML2时，默认设置 K=10。这能在统计精度和计算成本之间取得极佳的平衡。当计算资源极度充裕，且对边际精度提升有极致要求时，可以考虑尝试更大的K（如20，50）甚至留一法，但需意识到其收益是递减的。

4.3 核心建议三：避免在DML1中使用过大的K

如果你因为某些原因必须使用DML1（例如，某些早期代码或特定估计量），那么对K的选择需要更加谨慎。

设置K的上限：应避免K与√n同阶或更大。一个保守的经验法则是K ≤ √n / 5。例如，对于n=1000的样本，√n ≈ 31.6，那么K不应超过6。对于n=400的样本，K最好不超过4。
进行敏感性分析：报告结果时，应展示不同K值（例如，K=2, 5, 10）下DML1估计值及其标准误的变化。如果估计值随着K增大发生系统性偏移，这可能是Λ ≠ 0和存在一阶偏差的警示信号。
与DML2结果交叉验证：如果条件允许，同时运行DML2（例如用K=10）作为参照。如果DML1（小K）与DML2（大K）的结果差异很大，则应更信任DML2的结果。

注意事项：这些关于K的建议主要针对交叉拟合中的样本分割。它不同于模型选择中的K折交叉验证。在DML框架内，干扰函数模型本身可能还有其自身的超参数（如LASSO的惩罚系数、随机森林的树深度），这些超参数通常需要在交叉拟合的每一折内部，使用进一步的验证集或交叉验证来独立选择。不要混淆这两个层次的“K”。

5. 模拟实验验证：理论如何照进现实

理论推导需要实证的检验。我们基于Sant‘Anna and Zhao (2020) 的“双重差分-处理效应”（ATT-DID）模拟设计，来直观展示K值对DML1和DML2的影响。在这个设计中，理论已证明其差异度量Λ = 0，因此DML1应表现良好。

模拟设置：

样本量：n = 3000
处理分配与结果生成：遵循一个包含4个协变量的非线性模型，处理效应存在异质性。
干扰函数估计：使用Nadaraya-Watson核回归（6阶高斯核），带宽按h ∝ n_0^{-1/16}选择，其中n_0 = (K-1)n/K是训练集大小。
对比：分别计算DML1和DML2在不同K值（K ∈ {2, 5, 10, 15, 20, 25, 30}）下的表现。
评估指标：
- 尺度化偏差：√n * |Bias|
- 尺度化MSE：n * MSE
- 95%置信区间覆盖率

结果分析（对应原文Figure 4）：

偏差对比：当Λ = 0时，模拟显示DML1和DML2的偏差非常接近，且都随着K的增加而缓慢下降。这与理论一致：因为Λ=0，DML1没有一阶偏差，其高阶偏差行为与DML2相似。下降趋势印证了DML2高阶偏差公式∝ [1+1/(K-1)]^{2φ}，K越大，偏差越小。
MSE对比：DML1和DML2的MSE同样非常接近，且都随着K的增加而明显下降。例如，从K=2到K=10，MSE有显著改善；从K=10到K=30，改善幅度变小。这完美印证了DML2的MSE公式σ²/n + G_b * [1+1/(K-1)]^{2φ-1/2} * n^{-1/2-2φ}，其中第二项随K增大而减小，并且收益递减。这也解释了为什么实践中常观察到“从2折到5折或10折提升很大，之后再增加折数收益甚微”。
覆盖率：两者的置信区间覆盖率在95%目标水平附近，且对K值不敏感。这表明在Λ=0的情况下，基于渐近正态性构建的推断对两者都是有效的。

更深层的启示：这个模拟是在Λ=0的“友好”场景下进行的。即便如此，我们依然看到增大K对降低DML2的MSE有持续好处。这强化了我们的建议：即使你无法判断Λ是否为零（在更复杂的模型如LATE中，Λ常不为零），选择DML2并采用一个中等偏大的K（如10），也是一个稳健且通常更优的策略。它既避免了DML1可能存在的偏差风险，又在多数情况下提供了接近最优的精度。

6. 常见问题与实操陷阱排查

在实际应用DML时，除了K值选择，还会遇到其他问题。下面我结合经验，梳理几个常见陷阱和排查思路。

6.1 问题一：结果对K值过于敏感怎么办？

症状：改变K值（比如从5调到10），点估计值、标准误或显著性水平发生剧烈变化。

诊断与解决：

检查是否使用了DML1：如果变化剧烈，首先确认你用的是DML1。如果是，这强烈暗示Λ ≠ 0。立即切换到DML2，并观察结果是否稳定下来。DML2对K的敏感性应远低于DML1。
检查干扰函数估计质量：结果对K敏感，也可能是因为干扰函数（如倾向得分）模型本身拟合不稳定或过于复杂。当K变化时，训练集大小(K-1)n/K变化，导致模型性能波动大。
- 排查方法：固定K（如K=5），在某一折的训练集上拟合干扰函数模型，然后在对应的验证集上评估其预测性能（如倾向得分的校准度、条件均值函数的R²）。如果性能很差或不稳定，说明模型设定或超参数有问题。
- 解决方案：简化模型，增加正则化，或尝试更稳健的机器学习方法（如梯度提升树相比深度网络通常更稳定）。
样本量是否过小：如果样本量n很小（如小于200），即使DML2，有限样本波动也会很大。此时，任何方法都可能不稳定。考虑使用更简单的参数模型，或明确报告这种不稳定性。

6.2 问题二：置信区间覆盖不足（Coverage太低）

症状：模拟或自助法（Bootstrap）显示，95%的置信区间实际覆盖真实参数的频率远低于95%，例如只有85%。

诊断与解决：

首要怀疑：干扰函数估计误差：DML的渐近正态性依赖于干扰函数估计器以足够快的速率收敛（n^{-φ}，φ > 1/4）。如果使用的机器学习模型收敛太慢（例如在高维稀疏性不满足时使用LASSO），或超参数选择不当（如带宽过宽、树深度过浅），会导致干扰函数估计误差过大，污染目标参数的渐近方差，使标准误被低估。
- 解决方案：尝试收敛更快的估计器（如果可行），或使用“欠平滑”（undersmoothing）技术。例如，在核回归中，选择比最优MSE带宽更小的带宽，可以牺牲一点偏差来降低方差，有时能改善覆盖率。
检查样本分割的随机性：确保每次实验或模拟中，样本分割是独立随机重采样的。如果固定了随机种子，可能会导致结果有偏。
考虑使用自助法：虽然理论渐近方差公式方便，但在有限样本下，基于自助法（如子抽样自助法、残差自助法）构建的置信区间可能更稳健，特别是当干扰函数估计复杂性高时。

6.3 问题三：计算时间无法承受

症状：采用DML2且K=10时，由于要训练10个复杂的机器学习模型（如深度神经网络），总训练时间过长。

诊断与解决：

评估K的必要性：根据第4章的量化分析，K=10相对于K=5在精度上提升有限（MSE损失通常<5%）。如果计算资源紧张，将K从10降至5是一个合理的妥协。计算量几乎减半，而统计效率损失很小。
并行化：交叉拟合的天生优势是可以并行计算。K个折的干扰函数模型训练是相互独立的。确保你的代码利用了并行计算（如Python的joblib、multiprocessing），可以几乎将训练时间缩短为原来的1/(CPU核心数)。
模型简化与早停：在每一折内训练干扰函数模型时，使用更轻量的模型（如线性模型加多项式特征、浅层树模型），或为迭代模型（如神经网络）设置早停（early stopping）回调，可以大幅减少单次训练时间。
** warm start**：对于迭代模型（如逻辑回归、神经网络），在训练第k折模型时，可以使用第(k-1)折训练好的模型权重作为初始值，通常能加快收敛。

6.4 问题四：如何报告结果？

最佳实践：

明确说明方法：在论文或报告的方法部分，清晰说明你使用的是DML1还是DML2，交叉验证的折数K是多少，以及干扰函数使用了什么机器学习算法及其关键超参数。
进行稳健性检验：在附录或正文中，展示关键结果对不同K值（例如，K=5, 10, 20）的敏感性。如果结果稳定，能增强结论的可信度。
报告估计精度：除了点估计和标准误，考虑报告基于自助法得到的置信区间，或至少比较一下基于渐近公式的标准误与自助法标准误的差异。
可视化：对于重要的处理效应参数，可以绘制其估计值及置信区间随K值变化的趋势图。这能直观展示估计的稳定性和对K的依赖程度。

7. 总结与最终建议

经过从理论到模拟再到实操的完整梳理，我们可以为DML中交叉验证折数K的选择给出一个清晰、可操作的决策框架：

估计器选择是第一位的：无条件优先使用DML2。它规避了DML1在Λ ≠ 0时可能产生的一阶渐近偏差风险，且其理论性质对K值增长更为稳健。除非你使用的特定软件或算法只提供了DML1实现，否则都应选择DML2。
对于DML2，大胆使用更大的K：理论表明，增大K可以降低DML2估计量的高阶偏差和高阶MSE。留一法（K=n）在统计意义上是最优的。
平衡计算与精度的黄金法则：默认设置 K=10。我们的量化分析表明，对于DML2，K=10在偏差上最多比最优的留一法损失10%，在MSE上最多损失5%，这是一个在统计精度和计算成本之间近乎完美的平衡点。对于绝大多数实证研究，这已经足够稳健和高效。
计算资源与精度需求的微调：
- 如果计算资源极度充裕：可以尝试K=20,50甚至留一法，以追求极限的统计精度。但需注意收益递减。
- 如果模型非常复杂或数据量巨大：可以将K降至5。这能显著减少计算时间（降为原来的1/2），而统计效率的损失通常可控（MSE损失可能略高于5%但可接受）。
- 如果使用DML1：必须保守。遵循K ≤ √n / 5的经验法则，并务必进行K值敏感性分析。
始终进行敏感性分析：无论选择哪个K，将其作为稳健性检验的一部分。报告主要结果在K=5, 10（如果使用DML2）或K=2, 5（如果使用DML1）下的变化情况。稳定的结果比任何单一设定下的结果都更有说服力。