应对随时间变化的分布偏移 西安大略大学等提出的学习时序轨迹方法

作者：曾秋皓

个人主页： https://hardworkingpearl.github.io/

摘要

在现实世界的机器学习应用中，随时间变化的分布偏移是常见的问题。为了解决这个问题，本文提出了 SDE-EDG 方法，该方法通过构建连续插值样本和利用随机微分方程来克服过拟合问题和捕获演变动态。

引言

时变域泛化（EDG）旨在使模型能够在时间变化系统中对未见目标域进行良好的泛化。现有方法在捕获演变动态和避免对稀疏时间戳的过拟合方面遇到了挑战。

SDE-EDG 方法

无限细分网格演变轨迹（IFGET）

SDE-EDG 通过构建无限细分网格演变轨迹 (IFGET) 来弥合时间戳之间的间隔。通过识别样本到样本的对应关系并生成连续插值样本，IFGET 创建了一个连续的潜在表示空间。

随机微分方程（SDE）

SDE-EDG 利用 SDE 的内在能力来捕捉连续的轨迹动态。通过路径对齐正则化器，SDE 建模的轨迹与 IFGET 对齐，从而跨域捕获演变分布趋势。

方法细节

1. 构建 IFGET：通过识别样本到样本的对应关系，使用插值技术生成连续插值样本。

2. SDE 建模：训练 SDE 以逼近生成的 IFGET 轨迹，并使用最大似然估计进行训练。
3. 路径对齐正则化：将 SDE 建模的轨迹与 IFGET 轨迹对齐，以捕获跨域的分布演变趋势。

实验结论

实验表明，SDE-EDG 方法在解决 EDG 问题中具有出色的性能。它有效地克服了过拟合问题，并捕获了演变模式，从而提高了跨域泛化能力。

结论

SDE-EDG 方法为解决时变域泛化中的分布偏移问题提供了一种新的方法。通过构建 IFGET 和利用 SDE，该方法能够捕获分布演变趋势，并减轻了稀疏时间戳对模型泛化能力的限制。

马上收录导航

---

---

相关标签： 拟合、 插值、 西安大略大学、 随时间、 算法、 学习时序轨迹、

上一篇：至尊版实力再升级618K70销量火爆卢伟冰预报

下一篇：FSD改进带来新问题的两难困境马斯克坦言面