企业网站公众号,上海 网站开发 工作室,网站源码怎么看,中核二三公司最新招聘注意#xff1a;本模型继续加入 组合预测模型全家桶 中#xff0c;之前购买的同学请及时更新下载! 往期精彩内容#xff1a;
时序预测#xff1a;LSTM、ARIMA、Holt-Winters、SARIMA模型的分析与比较-CSDN博客
VMD CEEMDAN 二次分解#xff0c;Transformer-BiGRU预测模…
注意本模型继续加入 组合预测模型全家桶 中之前购买的同学请及时更新下载! 往期精彩内容
时序预测LSTM、ARIMA、Holt-Winters、SARIMA模型的分析与比较-CSDN博客
VMD CEEMDAN 二次分解Transformer-BiGRU预测模型-CSDN博客
独家原创 | 基于TCN-SENet BiGRU-GlobalAttention并行预测模型-CSDN博客
独家原创 | BiTCN-BiGRU-CrossAttention融合时空特征的高创新预测模型-CSDN博客
基于LSTM网络的多步预测模型_pytorch transformer-CSDN博客
基于1DCNN网络的多步预测模型-CSDN博客
高创新 | CEEMDAN SSA-TCN-BiLSTM-Attention预测模型-CSDN博客
基于Transformer网络的多步预测模型-CSDN博客
独家原创 | 超强组合预测模型-CSDN博客
基于TCN网络的多步预测模型-CSDN博客
基于CNN-LSTM网络的多步预测模型-CSDN博客
时空特征融合的BiTCN-Transformer并行预测模型-CSDN博客
组合预测模型思路使用复杂模型去预测数据的分量特征因为复杂模型参数量大适合预测高频复杂分量特征但是低频分量特征比较简单要是还用复杂模型的话就容易过拟合反而效果不好所以对于低频分量特征 我们采用简单模型或者机器学习模型去预测然后进行预测分量的重构以实现高精度预测。 创新1通过CNN卷积池化层降低序列长度增加数据维度然后再送入Transformer编码器层进行特征增强利用多头注意力和其优越的网络结构融合空间特征和时域特征 创新2把 CEEMDAN 算法对时间序列分解后的分量通过样本熵的计算进行划分再分别通过 CNN-Transfromer 模型 和 XGBoost 模型进行组合预测来实现精准预测。 注意此次产品我们还有配套的模型讲解和参数调节讲解 前言
本文基于前期介绍的电力变压器文末附数据集介绍一种综合应用完备集合经验模态分解CEEMDAN与组合预测模型CNN-Transformer XGBoost的方法以提高时间序列数据的预测性能。该方法的核心是使用CEEMDAN算法对时间序列进行分解接着利用CNN-Transformer模型和XGBoost模型对分解后的数据进行建模最终通过集成方法结合两者的预测结果。 电力变压器数据集的详细介绍可以参考下文
电力变压器数据集介绍和预处理-CSDN博客
1 电力变压器数据CEEMDAN分解与可视化
1.1 导入数据 1.2 CEEMDAN分解 根据分解结果看CEEMDAN一共分解出11个分量然后通过计算每个分量的样本熵值进行分析。
样本熵是一种用于衡量序列复杂度的方法可以通过计算序列中的不确定性来评估其复杂性。样本熵越高表示序列的复杂度越大。 我们大致把前6个高样本熵值复杂分量作为CNN-Transformer模型的输入进行预测后5个低样本熵值简单分量作为XGBoost模型的输入进行预测.
2 数据集制作与预处理
2.1 划分数据集
按照91划分训练集和测试集 然后再按照前6后5划分分量数据。 在处理LSTF问题时选择合适的窗口大小window size是非常关键的。选择合适的窗口大小可以帮助模型更好地捕捉时间序列中的模式和特征为了提取序列中更长的依赖建模本文把窗口大小提升到48运用CCEMDAN-CNN-Transformer模型来充分提取前6个分量序列中的特征信息。 分批保存数据用于不同模型的预测
3 基于CEEMADN的组合预测模型
3.1 定义CNN-Transformer网络模型 3.2 设置参数训练模型 50个epochMSE 为0.002122CNN-Transformer预测效果显著模型能够充分提取时间序列的时序特征和空间特征收敛速度快性能优越预测精度高适当调整模型参数还可以进一步提高模型预测表现。 注意调整参数 可以适当增加CNN层数和每层的维度微调学习率 调整Transformer编码器层数、多头注意力头数、注意力维度数增加更多的 epoch 注意防止过拟合 可以改变滑动窗口长度设置合适的窗口长度
保存训练结果和预测数据以便和后面XGBoost模型的结果相组合。 4 基于XGBoost的模型预测
传统机器学习模型 XGBoost 教程如下 超强预测算法XGBoost预测模型-CSDN博客
数据加载训练数据、测试数据分组5个分量划分5个数据集 保存预测的数据其他分量预测与上述过程一致保留最后模型结果即可。
5 结果可视化和模型评估
5.1 分量预测结果可视化 5.2 组合预测结果可视化 5.3 模型评估
由分量预测结果可见前6个复杂分量在CNN-Transformer预测模型下拟合效果良好后5个简单分量在XGBoost模型的预测下拟合程度特别好组合预测效果显著 代码、数据如下
对数据集和代码感兴趣的可以关注最后一行
# 加载数据
import torch
from joblib import dump, load
import torch.utils.data as Data
import numpy as np
import pandas as pd
import torch
import torch.nn as nn
# 参数与配置
torch.manual_seed(100) # 设置随机种子以使实验结果具有可重复性
device torch.device(cuda if torch.cuda.is_available() else cpu)#代码和数据集https://mbd.pub/o/bread/mbd-ZZ6ZmJtq