深圳公司网站建设哪家好,郑州短视频培训机构,网站制作需要学什么语言,长沙模板建站哪家好目录
往期精彩内容#xff1a;
前言
1 风速数据CEEMDAN分解与可视化
1.1 导入数据
1.2 CEEMDAN分解
2 数据集制作与预处理
3 基于CEEMADN的 Transformer - BiLSTM 模型预测
3.1 定义CEEMDAN-Transformer - BiLSTM预测模型
3.2 设置参数#xff0c;训练模型
4 基于A…目录
往期精彩内容
前言
1 风速数据CEEMDAN分解与可视化
1.1 导入数据
1.2 CEEMDAN分解
2 数据集制作与预处理
3 基于CEEMADN的 Transformer - BiLSTM 模型预测
3.1 定义CEEMDAN-Transformer - BiLSTM预测模型
3.2 设置参数训练模型
4 基于ARIMA的模型预测
4.1 介绍一个分量预测过程其他分量类似
5 结果可视化和模型评估
5.1 结果可视化
5.2 模型评估
代码、数据如下 往期精彩内容
时序预测LSTM、ARIMA、Holt-Winters、SARIMA模型的分析与比较-CSDN博客
风速预测一数据集介绍和预处理-CSDN博客
风速预测二基于Pytorch的EMD-LSTM模型-CSDN博客
风速预测三EMD-LSTM-Attention模型-CSDN博客
风速预测四基于Pytorch的EMD-Transformer模型-CSDN博客
风速预测五基于Pytorch的EMD-CNN-LSTM模型-CSDN博客
风速预测六基于Pytorch的EMD-CNN-GRU并行模型-CSDN博客
CEEMDAN 组合预测模型(BiLSTM-Attention ARIMA)-CSDN博客
CEEMDAN 组合预测模型(CNN-LSTM ARIMA)-CSDN博客 前言
本文基于前期介绍的风速数据文末附数据集介绍一种综合应用完备集合经验模态分解CEEMDAN与混合预测模型Transformer - BiLSTM ARIMA的方法以提高时间序列数据的预测性能。该方法的核心是使用CEEMDAN算法对时间序列进行分解接着利用Transformer - BiLSTM模型和ARIMA模型对分解后的数据进行建模最终通过集成方法结合两者的预测结果。
风速数据集的详细介绍可以参考下文
风速预测一数据集介绍和预处理-CSDN博客 1 风速数据CEEMDAN分解与可视化
1.1 导入数据
1.2 CEEMDAN分解
根据分解结果看CEEMDAN一共分解出11个分量我们大致把前7个高频分量作为Transformer - BiLSTM模型的输入进行预测后4个低频分量作为ARIMA模型的输入进行预测 2 数据集制作与预处理 划分数据集按照82划分训练集和测试集 然后再按照前7后4划分分量数据 在处理LSTF问题时选择合适的窗口大小window size是非常关键的。选择合适的窗口大小可以帮助模型更好地捕捉时间序列中的模式和特征为了提取序列中更长的依赖建模本文把窗口大小提升到24运用CCEMDAN-Transformer - BiLSTM模型来充分提取前7个分量序列中的特征信息。
分批保存数据用于不同模型的预测 3 基于CEEMADN的 Transformer - BiLSTM 模型预测
3.1 定义CEEMDAN-Transformer - BiLSTM预测模型
注意 输入维度为7,维度7维代表前7个分量 输入形状为 torch.Size([64, 7, 48]) 在PyTorch中transformer模型的性能与batch_first参数的设置相关当batch_first为True时输入的形状应为(batch, sequence, feature)这种设置在某些情况下可以提高推理性能。
在使用Transformer模型中的多头注意力时输入维度必须能够被num_heads注意力头的数量整除。因为在多头注意力机制中输入的嵌入向量会被分成多个头每个头的维度是embed_dim / num_heads因此embed_dim必须能够被num_heads整除以确保能够均匀地分配给每个注意力头。
因为此时分解分量为7个可以事先适当改变分量个数或者对信号进行堆叠使调整多头注意力头数能够与之对应整除的关系。本文采用对序列进行对半切分堆叠使输入形状为[64, 14, 12]。
3.2 设置参数训练模型
100个epochMSE 为0.00638Transformer - BiLSTM预测效果良好适当调整模型参数还可以进一步提高模型预测表现。 注意调整参数 可以适当增加Transformer层数和隐藏层的维度微调学习率 调整BiLSTM层数和维度数增加更多的 epoch 注意防止过拟合 可以改变滑动窗口长度设置合适的窗口长度
保存训练结果和预测数据以便和后面ARIMA模型的结果相组合。 4 基于ARIMA的模型预测 传统时序模型ARIMA等模型教程如下
时序预测LSTM、ARIMA、Holt-Winters、SARIMA模型的分析与比较_arima、es、holt、holt-winters-CSDN博客
数据加载训练数据、测试数据分组四个分量划分四个数据集 4.1 介绍一个分量预测过程其他分量类似
第一步单位根检验和差分处理
第二步模型识别采用AIC指标进行参数选择
第三步模型预测
第四步模型评估
保存预测的数据其他分量预测与上述过程一致保留最后模型结果即可。 5 结果可视化和模型评估
组合预测加载各模型的预测结果
5.1 结果可视化
5.2 模型评估
由分量预测结果可见前7个分量在Transformer - BiLSTM预测模型下拟合效果良好分量9在ARIMA模型的预测下拟合程度比较好其他低频分量拟合效果弱一点调整参数可增强拟合效果。
代码、数据如下
往期精彩内容
