基于图神经网络的时间序列模型.docx

《基于图神经网络的时间序列模型.docx》由会员分享，可在线阅读，更多相关《基于图神经网络的时间序列模型.docx（9页珍藏版）》请在第一文库网上搜索。

1、基于图神经网络的时间序列模型时间序列是用于记录动态系统测量的主要数据类型，由物理传感器和 在线过程(虚拟传感器)大量生成。因此，时间序列分析对于解锁可用数 据中隐含的信息财富至关重要。随着图神经网络(GNNS)的最新进展，基 于GNN的方法在时间序列分析中出现了激增。这些方法可以明确地建模时 间间和变量间的关系，而传统的方法和其他基于深度神经网络的方法在这 方面却难以做到。在这篇综述中，研究者对用于时间序列分析的图神经网络(GNN4TS) 进行了全面的回顾，涵盖了四个基本方面：预测、分类、异常检测和插 值。研究者的目标是指导设计者和实践者理解、构建应用程序和推进 GNN4TS的研究。A Sur

2、vey on Graph Neural Networks for TimeSeries: Forecasting, Classification, Imputation,and Anomaly DetectionMing Jin, Huan Yee Koh, Qingsong Wen, Daniele Zambon, Cesare Alippi, Fellow, IEEE,Geoffrey I. Webb, Fellow, IEEE, Irwin King, Fellow, IEEE, Shirui Pan, Senior Member, IEEE一、论文介绍随着传感和数据处理技术的进步，时间

3、序列数据急速增长，成为最普遍的 数据类型之一。这些数据不仅提供了对过去趋势的洞察，还有助于预测、分 类、异常检测和数据插补等任务。时间序列数据的复杂性在于它们涉及时间和 变量之间的复杂相互作用以及变量之间的关系。图神经网络(GNNs)成为学习非欧几里得数据表示的强大工具，能够捕捉到多样而复杂的关系，为建模真实 世界的时间序列数据铺平了道路。这种建模方法在许多实际应用领域广泛采 用，涉及不同类型的时间序列数据，包括交通、按需服务、能源、医疗保健、 经济以及其他领域。该综述的思路结构如下图所示:Contents1 Introduction12 Definition and Notation33 F

4、ramework and Categorization53.1 Task-Oriented Taxonomy 53.2 Unified Methodological Framework . .74 GNNs for Time Series Forecasting84.1 Modeling Inter-Variable Dependencies .84.2 Modeling Inter-Temporal Dependencies104.3 Forecasting Architectural Fusion .115 GNNs for Time Series Anomaly Detection125

5、.1 General Framework for Anomaly Detection 125.2 Discrepancy Frameworks for Anomaly Detection 126 GNNs for Time Series Classification156.1 Unix arate Bme Classification 156.2 Multivariate Time Series Classification . 167 GNNs for Time Series Imputation167.1 In-Sample Imputation 177.2 Out-of-Sample I

6、mputation 178 Practical Applications179 Future Directions1910 Conclusions20References20包括四个基本维度：预测、分类、异常检测和插补。ForecastingImputation Anomaly Time PointAnomaly DetectionClassification该综述首先从任务和方法论的角度对现有的工作进行分类和讨论，然 后深入探讨了 GNN4TS领域内的六个热门应用领域，并提出了几个潜在的未来研究方向。主要贡献总结如下： 第一次对图神经网络在主流时间序列分析任务中的最新进展进行全 面的综述。它

7、涵盖了广泛的研究领域，并提供了对GNN4TS发展的整 体视图； 该综述提出了一个统一的框架，从任务和方法论的角度对现有的工 作进行结构化分类； 该综述进行了全面的回顾，不仅涵盖了领域的广度，还深入研究了 各个研究的细节，并进行了细致的分类和讨论，为读者提供了对 GNN4TS领域中最新技术的了解； 该综述也讨论了 GNN4TS在各个领域中不断扩大的应用，突出了它在 多个领域中的多样性和未来增长的潜力； 该综述为GNN4TS领域的未来工作提供了洞察和建议。二、分类法在本节中，研究者介绍了时间序列分析中GNN的全面面向任务分类体 系。如下图所示，其展示了一个基于任务的分类法，涵盖了时间序列分析 中的

8、主要任务和主流建模视角，并展示了 GNN4TS的潜力，主要在时间序 列预测、异常检测、插补和分类四个类别上展现。接下来，该综述引入一个统一的GNN架构方法论框架，探讨如何对各 种任务中的时间序列进行编码。根据该框架，所有体系结构都由一个类似 的基于图的相似处理模块f和一个专门针对下游任务的第二个模块p 组成。Input Series Target Series Predictions(a) Graph neural networks for time series forecasting.(b) Graph neural networks for time series anomaly det

9、ection.Input Series Ground TruthImputation(c) Graph neural networks for time series imputation.(d) Graph neural networks for time series classification: Formulates green series classification as a graph (top) or node (bottom) classification task.如上图所示，四种任务下的GNN4TS的框架。综述从如下三个方面系 统地描述该框架（以STGNNS为例）：1.

10、1 空间模块为了建模时间序列之间的依赖关系，STGNNs采用了静态图上GNNs的 设计原则。这可以进一步分为三种类型：频谱GNNs、空间GNNS和两者的 组合（即混合型）。频谱GNNS基于频谱图理论，使用图移位算子（如图 拉普拉斯算子）来捕捉图频域中的节点关系。不同的是，空间GNNS通过 直接设计局部化到每个节点邻域的滤波器来简化频谱GNNso混合方法结合 了频谱和空间方法的优点。2. 2时间模块为了考虑时间序列中的时间依赖关系，STGNNS结合了时间模块，与空 间模块协同工作来建模复杂的时空模式。时间依赖关系可以在时间域或频 率域中表示。在第一类方法中，方法包括基于循环的方法（如RNNs）、

11、基 于卷积的方法（如TCNS）、基于注意力的方法（如TranSfoniIerS）以及 两者的组合（即混合型）。对于第二类方法，采用类似的技术，然后进行 正交空间投影28,如傅里叶变换。2. 3模型架构为了整合这两个模块，现有的STGNNs在整体神经架构上可以是离散 的或连续的。这两种类型可以进一步细分为两个子类：分解型和耦合型。 在典型的分解型STGNN模型架构中，时间处理可以在空间处理之前或之后 进行，无论是以离散的方式（如STGCN）还是以连续的方式（如 STGODE） o相反，耦合模型架构指的是空间模块和时间模块交替进行的情 况，例如DCRNN （离散）和MTGODE （连续）。其他作者

12、将非常相关的分类 称为时间-空间和时间与空间。上图展示了一个一般的流程，展示了如何将STGNNs集成到时间序列 分析中。给定一个时间序列数据集，首先使用数据处理模块对其进行处 理，该模块执行必要的数据清洗和归一化任务，包括提取时间序列拓扑结 构（即图结构）。随后，利用STGNNS获取时间序列表示，然后将其传递给不同的处理模块（即下游任务预测模块），执行各种分析任务，如预测 和异常检测。三、方法总结3. 1基于GNN的预测模型基于GNN的预测模型可以从多个角度分类和研究：从预测任务方面， 包括多步预测和单步预测；从方法论方面，包括建模空间依赖关系、建模 时间依赖关系、将空间和时间模块进行架构融合

13、。ApproachYearVenueTaskArchitectureSpatial ModuleTemporal ModuleMissing ValuesInput GraphLearned RelationsGraph HeuristicsDCRNN 712018ICLRM-SEXSpatial GNNT-RNoR-SPSTGCN 582018IJCAlM-SD-FSpectral GNNT-CNoR-SPST-MetaNet 732019KDDM-SD-FSpatial GNNT-RNoR-SBPCNGAR 742019IEEE IJCNNS-SD-FSpatial GNNT-RNoR-A

14、STGCN 752019AAAIM-SD-FSpectral GNNT-HNoRSEPCST-MGCN 462019AAAIS-SD-FSpectral GNNT-RNoRSH PC, PSGraph WaveNet 762019IJCAIM-SD-FSpatial GNNTCNoOSSPMRA-BGCN 772020AAAIM-SD-CSpatial GNNT-RNoRSPMTGNN 532020KDDS-Sz M-SD-FSpatial GNNTCNoNRS-STGNN 782020WWWM-SD-CSpatial GNNT-HNoRSPGMAN 792020AAAIM-SD-CSpatial GNNT-ANoRSPSLCNN 802020AAAIM-SD-FHybridTCNoNRS-STSGCN 812020AAAIM-SD-CSpatial GNNINoRPCStemGNN 542020NeurIIjSM-SD-FSpectral GNNF-CNoNRS-AGCRN 822020NeurIPSM-SD-CSpatial GNNT-RNoNRS-LSGCN 832020IJCAIM-SD-F