Flow-Planner疑问汇总

一、Flow-Planner中ODE求解器使用的Midpoint和两倍步数的Euler法有啥区别？

#位置在torchdiffeq/torchdiffeq/_impl/fixed_grid.pyclassEuler(FixedGridODESolver):order=1def_step_func(self,func,t0,dt,t1,y0):f0=func(t0,y0,perturb=Perturb.NEXTifself.perturbelsePerturb.NONE)returndt*f0,f0classMidpoint(FixedGridODESolver):order=2def_step_func(self,func,t0,dt,t1,y0):half_dt=0.5*dt f0=func(t0,y0,perturb=Perturb.NEXTifself.perturbelsePerturb.NONE)y_mid=y0+f0*half_dtreturndt*func(t0+half_dt,y_mid),f0

写成公式，Euler(欧拉)法
xt+Δt=xt+Δt⋅v(xt,t) x_{t+\Delta t}=x_t+\Delta t \cdot v(x_t,t)xt+Δt​=xt​+Δt⋅v(xt​,t)

Midpoint法，分两步
xt+Δt2=xt+Δt2⋅v(xt,t)xt+Δt=xt+Δt⋅v(xt+Δt2,t+Δt2) \begin{align*} x_{t+ \frac{\Delta t}{2}}=x_t+ \frac{\Delta t}{2} \cdot v(x_t,t) \\ x_{t+ \Delta t}=x_t+ \Delta t \cdot v(x_{t+ \frac{\Delta t}{2}},t+\frac{\Delta t}{2}) \end{align*}xt+2Δt​​=xt​+2Δt​⋅v(xt​,t)xt+Δt​=xt​+Δt⋅v(xt+2Δt​​,t+2Δt​)​

首先给出结论

midpoint ≠ 两倍步数的 Euler 即使在相同步长总预算下，midpoint 在“方向正确性”和稳定性上本质更强，而不是简单“多算一次”。Euler ×2 是先走到中点，再走到下一个点，而midpoint是利用中点得到的方向，从起点开始走。

原因是

第一步都一样，第二步的起点不同，两倍euler是从中点时刻(t+Δt2t+\frac{\Delta t}{2}t+2Δt​)开始，midpoint从最初时刻ttt开始，所以midpoint和两倍步数的Euler是不一样的。
为啥midpoint就比Euler效果好？为啥midpoint是二阶求解器，euler就是一阶呢？
这里需要用到泰勒展开公式，
对ODE:dxdt=f(x,t)\frac{dx}{dt} = f(x,t)dtdx​=f(x,t)做泰勒展开
x(t+Δt)=x(t)+Δtf(xt,t)+Δt22ddtf(xt,t)+O(Δt3) x(t+\Delta t)= x(t)+ \Delta t f(x_t,t)+ \frac{\Delta t^2}{2}\frac{d}{dt}f(x_t,t)+ O(\Delta t^3)x(t+Δt)=x(t)+Δtf(xt​,t)+2Δt2​dtd​f(xt​,t)+O(Δt3)
euler求解只用到了Δtf(xt,t)Δtf(x t,t)Δtf(xt,t)，所以是一阶的。

midpoint？？？？？

二、classifier-free guidence时的系数为啥大于1

即

对应代码

ifself.use_cfg:u_cond,u_uncond=torch.chunk(u,2)# the unconditioned batch is the first halfu=(1-self.cfg_weight)*u_uncond+self.cfg_weight*u_cond#速度场组合