风乌-上海AI实验室

发布时间 2023-06-29 14:05:59作者: 诸葛村夫CC

摘要:风乌从多模态和多任务视角解决中期预报问题

几个不太清楚的关键词:“跨模态融合” “非确定损失” “区域自适应方式” “repley buffer”

数据:ERA5

intro:贡献1,每一个变量视为一个独立的模态并用跨模态方式来建模变量之间相互作用;贡献2,NWP中每个变量的预测被看作单独的任务,所以它是多任务回归问题。有些变量更难预测,所以如果平等的对待所有变量会难以达到最优。所以这里引入多任务学习范式中的非确定损失;贡献3,为解决长期预测难度大的问题,受强化学习启发,这里提出repley buffer(从Intro这几句话看很像自回归啊)

风乌说自己是目前最准的,这篇文章引用了傅里叶、盘古等

方法:架构就是 编码-混合-解码,混合为一个token,并且可以给出变量的均值和方差,然后再用各个解码器分别预测每个变量的具体分布状态

这个repley buffer写的太乱了,没看懂,大致上感觉像schedule sampling,下面举的例子又感觉就是普通的自回归,这部分看看代码吧