[Submitted on 23 Feb 2026 (v1), last revised 21 Jul 2026 (this version, v3)]

View PDF HTML (experimental)

Abstract:基础模型正在改变地球观测（EO），但 EO 传感器和模态的多样性使得单一通用模型并不现实。多个专用 EO 基础模型（EOFMs）可能会共存，这使得跨模态的高效知识迁移变得至关重要。大多数现有的 EO 预训练依赖于掩码图像建模，这种方法强调局部重建，但对全局语义结构的控制有限。为解决这一问题，我们提出了一种面向多光谱影像的双教师对比蒸馏框架，使学生的预训练目标与现代光学视觉基础模型（VFMs）的对比自蒸馏范式对齐。我们的方法结合了多光谱教师和光学 VFM 教师，实现了连贯的跨模态表征学习。在多种光学和多光谱基准上的实验表明，我们的模型能够在不损害光学输入性能的情况下适应多光谱数据，在两种设置下均取得了最先进的结果，在语义分割任务上平均提升 3.64 个百分点，在变化检测任务上提升 1.2，在分类任务上提升 1.31。这表明对比蒸馏为跨异构 EO 数据源的可扩展表征学习提供了一种有原则且高效的方法。Project page: \textcolor{magenta}{this https URL}.

Submission history

From: Filip Wolf [view email]
[v1] Mon, 23 Feb 2026 14:09:01 UTC (7,229 KB)
[v2] Tue, 24 Feb 2026 11:57:03 UTC (7,229 KB)
[v3] Tue, 21 Jul 2026 07:37:55 UTC (7,232 KB)