Python人工智能之波士顿房价数据分析

1.数据概览分析

1.1 数据概览

本次提供：

train.csv,训练集；
test.csv,测试集；
submission.csv 真实房价文件；

训练集404行数据，14列，每行数据表示房屋以及房屋周围的详细信息，已给出对应的自住房平均房价。要求预测102条测试数据的房价。

1.2 数据分析

通过学习房屋以及房屋周围的详细信息,其中包含城镇犯罪率，一氧化氮浓度，住宅平均房间数，到中心区域的加权距离以及自住房平均房价等等,训练模型,通过某个地区的房屋以及房屋周围的详细信息，预测该地区的自住房平均房价。

回归问题，提交测试集每条数据对应的自住房平均房价。评估指标为均方误差mse。

2. 项目总体思路

2.1 数据读取

数据集：波士顿房间训练集.csv (404条数据)
数据集字段如下:
crim：城镇人均犯罪率。
zn：住宅用地超过 25000 sq.ft. 的比例。
indus：城镇非零售商用土地的比例。
chas：查理斯河空变量（如果边界是河流，则为1；否则为0）。
nox：一氧化氮浓度。
rm：住宅平均房间数。
age：1940 年之前建成的自用房屋比例。
dis：到波士顿五个中心区域的加权距离。
rad：辐射性公路的接近指数。
tax：每 10000 美元的全值财产税率。
ptratio：城镇师生比例。
b：1000（bk-0.63）^ 2，其中 bk 指代城镇中黑人的比例。
lstat：人口中地位低下者的比例。
medv：自住房的平均房价，以千美元计。

2.2 模型预处理

（1）数据离群点处理

首先对训练集进行拆分为子训练集与子测试集，利用train_data.sort_values对训练集进行排序，依次删除每个特征对应的离群样本，利用子训练集与子测试集对模型进行训练与测试并确定该特征下所需删除样本的最佳个数。

（2）数据归一化处理

利用sklearn.preprocessing. standardscaler对数据集与标签分别进行标准化处理。

2.3. 特征工程

利用随机森林特征选择算法剔除不敏感特征。

2.4. 模型选择

使用gradientboostingregressor集成回归模型。

gradient boosting 在迭代的时候选择梯度下降的方向来保证最后的结果最好。损失函数用来描述模型的“靠谱”程度，假设模型没有过拟合，损失函数越大，模型的错误率越高

如果我们的模型能够让损失函数持续的下降，则说明我们的模型在不停的改进，而最好的方式就是让损失函数在其梯度方向上下降。

2.5. 模型评价

采用均方误差(mse)评分标准,mse: mean squared error 。均方误差是指参数估计值与参数真值之差平方的期望值;

mse可以评价数据的变化程度，mse的值越小，说明预测模型描述实验数据具有更好的精确度。计算公式如下:

其在测试集上的mse值为：

2.6. 模型调参

对n_ n_estimators的参数进行调参：

3. 项目总结

通过多次实验，我们目前得到的最优解为8.18左右。在处理小数据集出现过拟合时，首先应当考虑减小模型或增加数据集。由于本次实验是通过大量训练取最优的办法均使用缺省参数，对超参数进一步调优也许可更进一步。

到此这篇关于python人工智能之波士顿房价数据分析的文章就介绍到这了,更多相关python 波士顿房价内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com！

黄山市民网：https://www.huangshanshimin.com/

目录