如何使用RMSE和可视化方法评估模型预测效果及验证集预测步骤详解
下一步是为验证集创建一个预测,并使用实际值检查RMSE。做出预测
preds = []
对于我的范围(0,248):
a = train'close'.sum() + sum(preds)
B = A/248
preds。(b)
结果计算RMSE
rms = np.sqrt(np.mean(np.power(((np.Array)(有效['close']) -preds),2))))))))))))))
RMS
104.548
仅检查RMSE并不能帮助我们了解模型的执行方式。让我们将其可视化以获得更直观的理解。因此,这是预测值与实际值的图。
绘制图片
有效[''] = 0
有效[''] = preds
plt.plot(train ['close'])
plt.plot(有效[['close','']])
推理
RMSE值接近105,但是结果不是很有希望(从图可以看出)。预测值的范围与验证集中的观测值相同(最初有增加趋势,然后慢慢降低)。
在下一节中,我们将介绍两种常用的机器学习技术 - 线性回归和KNN,并了解它们在我们的股票市场数据上的表现。
2。线性回归简介
可以在此数据上实现的最基本的机器学习算法是线性回归。线性回归模型返回一个方程式,该方程式决定了独立变量和因变量之间的关系。
线性回归的方程式可以写为:
在这里,x1,x2,....xň表示自变量,而系数θ1,θ2,...θñ代表权重。
对于我们的问题描述,我们没有一组自变量。我们只有日期。让我们使用日期列来提取诸如 - 日,月,年,星期一/星期五之类的功能,然后适合线性回归模型。
代码
我们将首先按升序排序数据集,然后创建一个单独的数据集,以便创建的任何新功能都不会影响原始数据。
将索引设置为日期值
df ['date'] = pd。(df.date,='%y-%m-%d')
df.index = df ['date']
种类
data = df。(= true,axis = 0)
创建一个单独的数据集
= pd。(index = range(0,len(df)),= ['date','close'])
对于I范围(0,LEN(数据)):
'date'= data'date'
'关闭'= data'close'
创建功能
从 。
(, '日期')
.drop('',轴= 1,= true)#将是时间戳
这创建了以下特征:
'年','月,“'','day','','','','','','','',',',',',',',',',',',',',',',' ', '', 和 ''。
注意:我使用了库。如果您没有安装它,只需使用命令PIP即可。另外,您可以使用简单的循环创建此功能。我在下面显示了一个示例。
除此之外,我们还可以添加自己认为与预测有关的特征。例如,我的假设是,一周的第一天和最后几天可能会影响股票的收盘价,而远远超过了其他日子。因此,我创建了一项功能,该功能确定某个一天是星期一/星期五还是星期二/星期三/星期四。可以使用以下代码行完成:
[''] = 0
对于I范围(0,len()):
if(''== 0或''== 4):
''= 1
别的:
''= 0
如果一周中的一天等于0或4,则列值为1,否则为0。类似地,您可以创建多个功能。如果您对可以有助于预测股票价格的功能有一些想法,请在评论部分中分享它们。
现在,我们将数据分为培训和验证集以检查模型的性能。
分为训练集和验证集
火车= [:987]
有效=
= Train.Drop('Close',Axis = 1)
=火车['关闭']
=有效。drop('Close',Axis = 1)
=有效['close']
实现线性回归
从 。
模型=()
model.fit(,)
对结果进行预测并找到RMSE
preds =模型。()
rms = np.sqrt(np.mean(np.power(((np.Array()-np.Array(preds)),2)))))))))))))))))
RMS
121.156
RMSE值高于先前的技术,该技术清楚地表明线性回归的性能差。让我们看一下图表,了解为什么线性回归做得不好:
绘制图片
有效[''] = 0
有效[''] = preds
有效index = 。索引
train.index = [:987] .index
plt.plot(train ['close'])
plt.plot(有效[['close','']])
推理
线性回归是一种简单的技术,很容易解释,但是有一些明显的缺点。使用回归算法的一个问题是该模型与日期和月列相匹配。该模型没有从一个月前的同一日期或一年前同一日期/月来考虑以前的值,而是从预测的角度考虑以前的值。
从上图可以看出,股价在2016年1月和2017年1月下降。该模型预测了2018年1月的情况。线性回归技术可以很好地解决诸如大型超市之类的销售问题,其中独立功能对确定目标值。
3. K-邻居简介
https://img1.baidu.com/it/u=526526130,67928123&fm=253&fmt=JPEG&app=138&f=JPEG?w=566&h=500
这里可以使用的另一种有趣的ML算法是KNN(K最近的邻居)。 KNN发现基于自变量的新数据点和旧数据点之间的相似性。让我用一个简单的例子来解释它。
考虑11人的身高和年龄。根据给定特征(“年龄”和“高度”),该表可以以图形格式表示:如下:
为了确定ID#11的重量,K-NN考虑了该ID最近邻居的重量。 ID#11的重量预计将是其邻居的平均值。如果我们现在考虑三个邻居(k = 3),ID#11的重量将为=(77 + 72 + 60)/3 = 69.66 kg。
代码导入库
从
从 。
从 。
=(=(0,1))
使用上一节中相同的培训和验证集:
比例数据
=。()
= pd。()
=。()
= pd。()
使用使用的最佳参数
= {'':}
knn =。()
型号=(knn,,cv = 5)
适合模型并进行预测
model.fit(,)
preds =模型。()
结果查看RMSE值
rms = np.sqrt(np.mean(np.power(((np.Array()-np.Array(preds)),2)))))))))))))))))
RMS
115.721
RMSE值没有太大差异,但是预测和实际值的图应提供更清晰的理解。
绘制图片
有效[''] = 0
有效[''] = preds
plt.plot(有效[['close','']])
plt.plot(train ['close'])
推理
RMSE值几乎与线性回归模型相似,并且图显示了相同的模式。像线性回归一样,KNN也确定了2018年1月的下降,因为这是过去几年的形式。我们可以肯定地说,回归算法在此数据集上的性能差。
让我们继续研究某些时间序列预测技术,以了解它们在面对股价预测挑战时的表现。
4。汽车介绍
Arima是一种非常流行的时间序列预测统计方法。 Arima模型考虑了过去的值以预测未来的价值。 Arima有三个重要参数:
Arima参数调整可能需要大量时间。因此,我们将使用Auto Arima,该Auto Arima会自动选择(P,Q,D)来提供最小错误的最佳组合。
代码
来自.arima
data = df。(= true,axis = 0)
火车=数据[:987]
有效=数据
=火车['关闭']
=有效['close']
model =(,,= 1,= 1,max_p = 3,max_q = 3,m = 12,= 0,= true,d = 1,d = 1,trace = true,=''',= true)
model.fit()
=模型。(= 248)
= pd。(,index =有效index,= ['''])
结果
rms = np.sqrt(np.mean(np.power((np.Array)(有效['close']) -np.array([''']),2)))))))))))))))))))))
RMS
44。
绘制图片
plt.plot(train ['close'])
plt.plot(有效['close'])
plt.plot(预测['预测'])
推理
如前所述,自动Arima模型使用过去的数据来了解时间序列中的模式。使用这些值,该模型获得了该系列的增长趋势。尽管使用此技术的预测比以前实现的机器学习模型的预测要好得多,但这些预测仍然不接近实际值。
从该图可以看出,该模型在该系列中捕获了趋势,但并未集中在季节性部分上。在下一节中,我们将实施一个时间序列模型,以考虑该系列的趋势和季节性。
5。简介
可以在库存预测数据集上实现许多时间序列技术,但是在拟合模型之前,大多数这些技术都需要大量的数据预处理。设计和开创性的是一个时间序列预测库,不需要数据预处理,并且非常易于实现。输入是一个具有两个列的数据框架:日期和(DS和Y)。
试图在过去的数据中获得季节性,并在数据集很大时做得很好。
代码导入
从
创造
= pd。(index = range(0,len(df)),= ['date','close'])
对于I范围(0,LEN(数据)):
'date'= data'date'
'关闭'= data'close'
['date'] = pd。(。日期,='%y-%m-%d')
.index = ['date']
准备数据
。
培训和验证
火车= [:987]
有效=
使用正确的型号
模型=()
型号(火车)
预测
= model.e(= len())
=型号。()
结果查看RMSE
='yhat'
https://img1.baidu.com/it/u=2591269327,2290556798&fm=253&fmt=JPEG&app=138&f=JPEG?w=690&h=500
rms = np.sqrt(np.mean(np.power(((np.Array))(有效['y']) -np.Array()),2)))))))))))))
RMS
57。
绘制图片
有效[''] = 0
有效[''] =。
plt.plot(train ['y'])
plt.plot(有效[['y','']])
推理
(与大多数时间序列预测技术相同)尝试从过去的数据中获得趋势和季节性。该模型通常在时间序列数据集上表现良好,但在这种情况下无法实现其声誉。
事实证明,股价没有具体的趋势或季节性。这在很大程度上取决于当前市场状况,因此价格将上涨。因此,诸如Arima之类的预测技术不会为此特定问题显示出良好的结果。
让我们继续尝试另一种先进的技术 - 长期和短期内存(LSTM)。
6。长期和短期记忆简介(LSTM)
LSTM广泛用于序列预测问题,已被证明非常有效。他们之所以非常有效的原因是,LSTM能够存储过去的重要信息,而忘记了不重要的信息。 LSTM有三扇门:
现在,让我们将LSTM作为黑匣子实现,并在我们的特定数据上检查其性能。
代码导入所需的库
从 。
来自Keras。
来自Keras。密集,LSTM
创造
data = df。(= true,axis = 0)
= pd。(index = range(0,len(df)),= ['date','close'])
对于I范围(0,LEN(数据)):
'date'= data'date'
'关闭'= data'close'
设置索引
.index = .date
.drop('date',轴= 1,= true)
创建培训和测试集
=。
火车=
有效=
将数据集转换为X和Y列
=(=(0,1))
=。()
,= [],[]
对于我的范围(60,Len(火车)):
。()
。()
,= np.Array(),np.Array()
= np。((。
创建和使用LSTM网络
模型=()
model.Add(lstm(单位= 50,= true,=(。shape ,1)))))
ADD(LSTM(单位= 50))
型号(密集(1))
桩(损失='',='adam')
model.fit(,,,= 1,= 1,= 2)
使用训练集中的过去60个值预测246个值
= 。
=。(-1,1)
=。()
= []
对于我的范围(60,.shape ):
。()
= np.array()
= np。(,(。形状,。shape ,1))
=型号。()
=。()
结果
rms = np.sqrt(np.mean(np.power((录用 - ),2),2))))))
RMS
11.,
绘制图片
火车= [:987]
有效=
有效[''] =
plt.plot(train ['Close'])
plt.plot(有效[['close','']])
推理
LSTM模型可以根据不同的参数进行调整,例如更改LSTM层的数量,添加值或增加时期的数量。但是,LSTM的预测是否足以确定股票价格是在上涨还是下跌?当然不是!
正如我在本文开头提到的那样,股票价格受到有关公司的新闻以及其他因素(例如货币化或公司的合并/拆分)的影响。还有一些无形的因素通常是不可预测的。
结局笔记
时间序列预测是一个非常有趣的领域,正如我在撰写这些文章时意识到的那样。社区中有一种看法,这是一个非常复杂的领域。尽管有些确实更为复杂,但是一旦您掌握了基本技术,它将不那么困难。
本文的作者使用六种方法来预测股票价格波动,并分析了结果模型中每种算法的优点和缺点。从数字可以看出,LSTM方法是最合适的。一种方法,但是股票市场需要考虑许多因素。不仅需要预测一些关键功能。我们可以根据先前数据验证算法,但使用该算法来预测未来的库存上升。损失下降时仍然存在一些风险,因此您仍然应该谨慎使用这些算法。至少没有算法可以预测未来股票的时间序列模型算法100%。最好暂时使用该算法来连续训练,直到未来的技术有一天成熟。
使用和深(用代码)进行库存
页:
[1]