毕设分享 LSTM天气预测算法系统

0 简介今天学长向大家介绍一个机器视觉的毕设项目使用LSTM实现天气时间序列预测项目运行效果毕业设计 lstm天气预测 项目分享:见文末!1. 数据集介绍数据集包含14个不同的特征例如气温大气压力和湿度。从2003年开始每10分钟收集一次。为了提高效率本文仅使用2009年至2016年之间收集的数据。** 加载数据集**如上所示每10分钟记录一次观测值一个小时内有6个观测值一天有1446x24个观测值。给定一个特定的时间假设要预测未来6小时的温度。为了做出此预测选择使用5天的观察时间。因此创建一个包含最后7205x144个观测值的窗口以训练模型。下面的函数返回上述时间窗以供模型训练。参数history_size是过去信息的滑动窗口大小。target_size是模型需要学习预测的未来时间步也作为需要被预测的标签。下面使用数据的前300,000行当做训练数据集其余的作为验证数据集。总计约2100天的训练数据。2. 单变量单步输出预测首先使用一个特征温度训练模型并在使用该模型做预测。1.从数据集中提取温度uni_datadf[T (degC)]uni_data.indexdf[Date Time]uni_data.head()2.观察一下这些数据随时间变化的情况​uni_data.plot(subplotsTrue)2.1 数据标准化在训练神经网络之前缩放特征很重要。标准化是通过减去平均值并除以每个特征的标准偏差来进行缩放的一种常用方法。也可以使用tf.keras.utils.normalize将值缩放到[0,1]范围内。uni_datauni_data.values uni_train_meanuni_data[:TRAIN_SPLIT].mean()uni_train_stduni_data[:TRAIN_SPLIT].std()uni_data(uni_data-uni_train_mean)/uni_train_std2.2 样本划分现在为单变量模型创建数据。本部分为模型提供最后20个温度观测值预测下一个时间步长的温度。univariate_past_history20univariate_future_target0# shape 分别为(299980, 20, 1)(299980,)x_train_uni,y_train_uniunivariate_data(uni_data,0,TRAIN_SPLIT,univariate_past_history,univariate_future_target)x_val_uni,y_val_uniunivariate_data(uni_data,TRAIN_SPLIT,None,univariate_past_history,univariate_future_target)输出​​ Single window of past history​ [[-1.99766294]​ [-2.04281897]​ [-2.05439744]​ [-2.0312405 ]​ [-2.02660912]​ [-2.00113649]​ [-1.95134907]​ [-1.95134907]​ [-1.98492663]​ [-2.04513467]​ [-2.08334362]​ [-2.09723778]​ [-2.09376424]​ [-2.09144854]​ [-2.07176515]​ [-2.07176515]​ [-2.07639653]​ [-2.08913285]​ [-2.09260639]​ [-2.10418486]]​Target temperature to predict-2.10418485981008762.3 绘制曲线现在已经创建了数据看一个例子。提供给网络的信息以蓝色表示并且它必须预测红叉处的值。defcreate_time_steps(length):returnlist(range(-length,0))defshow_plot(plot_data,delta,title):labels[History,True Future,Model Prediction]marker[.-,rx,go]time_stepscreate_time_steps(plot_data[0].shape[0])# 横轴刻度ifdelta:futuredeltaelse:future0plt.title(title)fori,xinenumerate(plot_data):ifi:plt.plot(future,plot_data[i],marker[i],markersize10,labellabels[i])else:plt.plot(time_steps,plot_data[i].flatten(),marker[i],labellabels[i])plt.legend()plt.xlim([time_steps[0],(future5)*2])plt.xlabel(Time-Step)returnplt2.4 基准测试在继续训练模型之前先设置一个简单的基准。在给定输入点的情况下基线方法将查看所有历史记录并预测下一个点是最近20个观测值的平均值。defbaseline(history):returnnp.mean(history)show_plot([x_train_uni[0],y_train_uni[0],baseline(x_train_uni[0])],0,Baseline Prediction Example)2.5 LSTM 建模递归神经网络RNN是一种非常适合时间序列数据的神经网络。RNN分步处理时间序列维护内部状态以汇总所见信息。使用tf.data来随机整理批处理和缓存数据集。BATCH_SIZE256BUFFER_SIZE10000train_univariatetf.data.Dataset.from_tensor_slices((x_train_uni,y_train_uni))train_univariatetrain_univariate.cache().shuffle(BUFFER_SIZE).batch(BATCH_SIZE).repeat()val_univariatetf.data.Dataset.from_tensor_slices((x_val_uni,y_val_uni))val_univariateval_univariate.batch(BATCH_SIZE).repeat()批处理后的数据shape​simple_lstm_modeltf.keras.models.Sequential([tf.keras.layers.LSTM(8,input_shapex_train_uni.shape[-2:]),tf.keras.layers.Dense(1)])simple_lstm_model.compile(optimizeradam,lossmae)让我们现在训练模型。由于数据集的大小很大为了节省时间每个epoch将仅使用200个stepbatch_size256所以一个epoch使用 200* 256 个数据而不是像通常那样遍历完整的训练数据。EVALUATION_INTERVAL200EPOCHS10simple_lstm_model.fit(train_univariate,epochsEPOCHS,steps_per_epochEVALUATION_INTERVAL,validation_dataval_univariate,validation_steps50)预测由以上可知看起来比基线更好。既然已经了解了基础知识继续第二部分使用多元时间序列预测。3. 多变量多步输出预测原始数据集包含十四个特征。为简单起见本节仅考虑原始的十四个中的三个。使用的功能是气温大气压力和空气密度。要使用更多特征将其名称添加到此列表中即可。​​ features_considered [‘p (mbar)’, ‘T (degC)’, ‘rho (g/m**3)’]查看数据​​ features df[features_considered]​ features.index df[‘Date Time’]​ features.head()查看特征随时间的变化​​ features.plot(subplotsTrue)3.1 数据标准化​datasetfeatures.values data_meandataset[:TRAIN_SPLIT].mean(axis0)data_stddataset[:TRAIN_SPLIT].std(axis0)dataset(dataset-data_mean)/data_std3.2 单步预测模型单步预测任务中模型将根据提供的某些历史记录来学习预测未来的单个点。下面的函数实现了滑动窗口截取数据它根据给定的窗口宽度对过去的观测值进行采样。defmultivariate_data(dataset,target,start_index,end_index,history_size,target_size,step,single_stepFalse):data[]labels[]start_indexstart_indexhistory_sizeifend_indexisNone:end_indexlen(dataset)-target_sizeforiinrange(start_index,end_index):indicesrange(i-history_size,i,step)# step表示间隔采样步长6表示每个小时只使用一个采样值原数据集每10分钟采集一次data.append(dataset[indices])ifsingle_step:labels.append(target[itarget_size])else:labels.append(target[i:itarget_size])returnnp.array(data),np.array(labels)在本教程中输入给网络最近五天的数据即720个观测值。每隔一小时进行一次重采样因为60分钟内不会发生剧烈变化。因此120个重采样值表示最近五天的温度状况。对于单步预测模型数据点的标签是未来12小时的温度。所以使用之后72126个观测值作为标签。past_history720future_target72STEP6x_train_single,y_train_singlemultivariate_data(dataset,dataset[:,1],0,TRAIN_SPLIT,past_history,future_target,STEP,single_stepTrue)x_val_single,y_val_singlemultivariate_data(dataset,dataset[:,1],TRAIN_SPLIT,None,past_history,future_target,STEP,single_stepTrue)划分数据集​train_data_singletf.data.Dataset.from_tensor_slices((x_train_single,y_train_single))train_data_singletrain_data_single.cache().shuffle(BUFFER_SIZE).batch(BATCH_SIZE).repeat()val_data_singletf.data.Dataset.from_tensor_slices((x_val_single,y_val_single))val_data_singleval_data_single.batch(BATCH_SIZE).repeat()训练single_step_modeltf.keras.models.Sequential()single_step_model.add(tf.keras.layers.LSTM(32,input_shapex_train_single.shape[-2:]))single_step_model.add(tf.keras.layers.Dense(1))single_step_model.compile(optimizertf.keras.optimizers.RMSprop(),lossmae)single_step_historysingle_step_model.fit(train_data_single,epochsEPOCHS,steps_per_epochEVALUATION_INTERVAL,validation_dataval_data_single,validation_steps50)绘制损失曲线defplot_train_history(history,title):losshistory.history[loss]val_losshistory.history[val_loss]epochsrange(len(loss))plt.figure()plt.plot(epochs,loss,b,labelTraining loss)plt.plot(epochs,val_loss,r,labelValidation loss)plt.title(title)plt.legend()plt.show()测试该模型具有每小时过去5天采样的三个特征的历史记录120个数据点因为目标是预测温度所以该图仅显示过去的温度。预测是在未来一天进行的因此历史记录和预测之间存在差距。forx,yinval_data_single.take(3):plotshow_plot([x[0][:,1].numpy(),y[0].numpy(),single_step_model.predict(x)[0]],12,Single Step Prediction)plot.show()3.3 多步预测模型在多步骤预测模型中给定过去的采样值预测未来一系列的值。对于多步骤模型训练数据再次包括每小时采样的过去五天的记录。但是这里的模型需要学习预测接下来12小时的温度。由于每10分钟采样一次数据因此输出为72个预测值。future_target72x_train_multi,y_train_multimultivariate_data(dataset,dataset[:,1],0,TRAIN_SPLIT,past_history,future_target,STEP)x_val_multi,y_val_multimultivariate_data(dataset,dataset[:,1],TRAIN_SPLIT,None,past_history,future_target,STEP)划分数据集train_data_multitf.data.Dataset.from_tensor_slices((x_train_multi,y_train_multi))train_data_multitrain_data_multi.cache().shuffle(BUFFER_SIZE).batch(BATCH_SIZE).repeat()val_data_multitf.data.Dataset.from_tensor_slices((x_val_multi,y_val_multi))val_data_multival_data_multi.batch(BATCH_SIZE).repeat()绘制样本点数据defmulti_step_plot(history,true_future,prediction):plt.figure(figsize(12,6))num_increate_time_steps(len(history))num_outlen(true_future)plt.plot(num_in,np.array(history[:,1]),labelHistory)plt.plot(np.arange(num_out)/STEP,np.array(true_future),bo,labelTrue Future)ifprediction.any():plt.plot(np.arange(num_out)/STEP,np.array(prediction),ro,labelPredicted Future)plt.legend(locupper left)plt.show()forx,yintrain_data_multi.take(1):multi_step_plot(x[0],y[0],np.array([0]))由于此处的任务比先前的任务复杂一些因此该模型现在由两个LSTM层组成。最后由于需要预测之后12个小时的数据因此Dense层将输出为72。multi_step_modeltf.keras.models.Sequential()multi_step_model.add(tf.keras.layers.LSTM(32,return_sequencesTrue,input_shapex_train_multi.shape[-2:]))multi_step_model.add(tf.keras.layers.LSTM(16,activationrelu))multi_step_model.add(tf.keras.layers.Dense(72))multi_step_model.compile(optimizertf.keras.optimizers.RMSprop(clipvalue1.0),lossmae)训练multi_step_historymulti_step_model.fit(train_data_multi,epochsEPOCHS,steps_per_epochEVALUATION_INTERVAL,validation_dataval_data_multi,validation_steps50)训练日志​​ Epoch 1/10​ 200/200 [] - 73s 363ms/step - loss: 0.5750 - val_loss: 0.3137​ Epoch 2/10​ 200/200 [] - 73s 367ms/step - loss: 0.4429 - val_loss: 0.2951​ Epoch 3/10​ 200/200 [] - 79s 393ms/step - loss: 0.3839 - val_loss: 0.2793​ Epoch 4/10​ 200/200 [] - 85s 426ms/step - loss: 0.3062 - val_loss: 0.2240​ Epoch 5/10​ 200/200 [] - 98s 488ms/step - loss: 0.2162 - val_loss: 0.2058​ Epoch 6/10​ 200/200 [] - 103s 514ms/step - loss: 0.2185 - val_loss: 0.2108​ Epoch 7/10​ 200/200 [] - 107s 537ms/step - loss: 0.2061 - val_loss: 0.2055​ Epoch 8/10​ 200/200 [] - 108s 539ms/step - loss: 0.2016 - val_loss: 0.1971​ Epoch 9/10​ 200/200 [] - 92s 462ms/step - loss: 0.2047 - val_loss: 0.1969​ Epoch 10/10​ 200/200 [] - 98s 490ms/step - loss: 0.1937 - val_loss: 0.1833绘制损失曲线预测 项目分享:见文末!