大数据分析案例-基于随机森林算法构建二手房价格预测模型

🤵‍♂️ 个人主页：@艾派森的个人主页

✍🏻作者简介：Python学习者
🐋 希望大家多多支持，我们一起进步！😄
如果文章对你有帮助的话，
欢迎评论 💬点赞👍🏻 收藏 📂加关注+

---

喜欢大数据分析项目的小伙伴，希望可以多多支持该系列的其他文章

大数据分析案例合集

大数据分析案例-基于随机森林算法预测人类预期寿命

大数据分析案例-基于随机森林算法的商品评价情感分析

大数据分析案例-用RFM模型对客户价值分析(聚类)

大数据分析案例-对电信客户流失分析预警预测

大数据分析案例-基于随机森林模型对北京房价进行预测

大数据分析案例-基于RFM模型对电商客户价值分析

大数据分析案例-基于逻辑回归算法构建垃圾邮件分类器模型

大数据分析案例-基于决策树算法构建员工离职预测模型

大数据分析案例-基于KNN算法对茅台股票进行预测

大数据分析案例-基于多元线性回归算法构建广告投放收益模型

大数据分析案例-基于随机森林算法构建返乡人群预测模型

大数据分析案例-基于决策树算法构建金融反欺诈分类模型

---

目录

1.项目背景

2.项目简介

2.1项目说明

2.2数据说明

2.3技术工具

3.算法原理

4.项目实施步骤

4.1理解数据

4.2数据预处理

4.3探索性数据分析

4.3.1分析房价分布

4.3.2分析不同地区的房价

4.3.3分析不同楼层对房价的影响

4.3.4分析房屋建造类型对房价的影响

4.3.5分析房屋装修情况对房价的影响

4.3.6分析房屋供暖情况对房价的影响

4.3.7分析房屋类型况对房价的影响

4.4特征工程

4.4.1特征筛选

4.4.2特征编码 

4.5模型构建

4.6模型评估

4.7模型预测

5.实验总结

源代码

---

1.项目背景

        在当今社会，房地产市场是一个重要的经济组成部分。其中，二手房市场更是这个板块的关键部分，因为它直接涉及到广大群众的居住需求和投资需求。然而，二手房市场的价格波动较大，常常受到各种因素的影响，比如区域位置、房屋属性、市场供需等。因此，对于购买者、投资者和房地产开发商来说，准确地预测二手房价格是非常重要的。

        随机森林算法是一种机器学习技术，它通过构建和组合多个决策树来生成预测模型。由于其强大的预测能力和对数据的强大适应性，随机森林在许多领域得到了广泛的应用，包括房地产价格预测。

        通过基于随机森林算法构建二手房价格预测模型，我们可以利用历史数据和相关信息，对未来的房价进行预测，这对于房地产市场的参与者来说具有重要的决策参考价值。同时，该模型也可以帮助我们更好地理解影响二手房价格的各种因素及其影响方式，从而进一步揭示房地产市场的运行规律。

        总的来说，基于随机森林算法的二手房价格预测模型的研究背景在于，我们希望通过利用机器学习技术和相关数据，提高对二手房价格的预测精度，从而为房地产市场的参与者提供决策支持，同时也有助于我们更深入地理解房地产市场的运行机制。

2.项目简介

2.1项目说明

本实验的研究目的主要有以下两个：

1. 提高二手房价格的预测准确性：通过应用随机森林算法，我们希望建立一个能够有效预测二手房价格的模型。这个模型可以基于各种因素，如区域位置、房屋属性、市场供需等，来预测未来某一时间点的房价。通过提高预测准确性，我们可以更好地把握房地产市场动态，为决策提供更有价值的参考。
2. 揭示影响二手房价格的因素及其影响方式：通过分析随机森林算法生成的模型，我们可以进一步了解哪些因素对二手房价格有重要影响，以及这些因素如何影响房价。这有助于我们深入理解房地产市场的运行规律，为制定更为有效的市场策略提供依据。

        通过实现上述研究目的，本实验旨在为房地产市场的参与者提供更有价值的决策支持，同时推动我们对房地产市场的认识和理解。

2.2数据说明

本数据来源于粉丝提供的数据集，原始数据共有1170条，29列特征变量，各变量含义具体如下：

house_address：房屋详细地址

house_region：房屋地区

house_area：房屋区域

house_id：房屋ID

total_price：总价

unit_price：单价

house_layout：房屋户型

house_floor：房屋楼层

house_rental_area：房屋面积

house_structure：房屋户型结构

house_inner_area：套内面积

house_building_type：房屋建筑类型

house_orientation：房屋朝向

house_building_structure：房屋建筑结构

house_decoration：房屋装修情况

house_elevator_sytle：梯户比例

house_elevator：供暖方式

house_listing_time：发布时间

house_transaction_type：房屋类型

house_last_time：上一次交易时间

house_useage：房屋用途

house_years：房屋已使用时长

house_property：房屋拥有权

house_mortgage_info：房屋抵押信息

house_book：是否上传房屋照片

house_fx_id：没用的ID

house_longitude：经度

house_latitude：维度

city：城市

2.3技术工具

Python版本:3.9

代码编辑器：jupyter notebook

3.算法原理

        随机森林算法是一种基于集成学习的模型，通过构建和组合多个决策树来生成预测模型。其原理如下：

1. 随机森林算法通过对输入数据进行随机采样和特征随机选择，生成多个决策树，从而增加模型的多样性。
2. 每个决策树都是在不同的数据子集上训练的，这个数据子集是通过随机采样原始数据集得到的。这个过程称为“自助采样”（Bootstrap sampling）。
3. 在构建决策树的每个节点时，随机森林算法会从所有的特征中随机选择一部分特征，然后选择最优的特征来进行节点的划分。这样能够增加模型的多样性，并且可以减少过拟合。
4. 通过组合多个决策树的预测结果，随机森林算法可以得到一个最终的预测结果。这个预测结果是基于所有决策树的投票结果的。

随机森林算法的优点包括：

1. 它可以处理大量的输入变量，并且不会出现过拟合的问题。
2. 它可以处理缺失数据，并且不需要进行变量转换或标准化。
3. 它可以用于分类和回归问题。
4. 通过调整模型参数，可以得到不同的模型性能。

随机森林算法的应用非常广泛，包括生物信息学、推荐系统、金融风险管理等领域。

4.项目实施步骤

4.1理解数据

首先导入本次实验用到的第三方库并且加载数据集

接着查看数据大小，发现共有1170条，29列

 查看数据基本信息

查看数值型变量的描述性统计

查看非数值型变量的描述性统计

4.2数据预处理

统计各变量的缺失值情况

发现house_fx_id列全部缺失，所以我们直接删除这一列即可

检测数据集是否存在重复值

结果为False，说明不存在重复值 

接着处理字段数据，提取出有价值的信息

4.3探索性数据分析

4.3.1分析房价分布

4.3.2分析不同地区的房价

4.3.3分析不同楼层对房价的影响

4.3.4分析房屋建造类型对房价的影响

4.3.5分析房屋装修情况对房价的影响

4.3.6分析房屋供暖情况对房价的影响

4.3.7分析房屋类型况对房价的影响

4.4特征工程

4.4.1特征筛选

首先初步人工筛选出对房价可能有影响的特征变量

接着对变量进行编码

随后拆分数据集为训练集和测试集

使用随机森林算法模型打印出特征重要性 

通过对上图的特征重要性得知，我们最终选取重要程度最大的前五个变量

4.4.2特征编码 

对前面选取的变量进行编码

4.5模型构建

首先准备建模需要的目标变量和特征变量，接着拆分数据集为训练集和测试集

接着我们定义一个评估模型各项指标的函数，便于我们选择模型 

构建LightGBM模型 

构建XGBoost模型 

构建随机森林模型 

通过对三个模型的对比（读者可根据自己需求构建其他模型） ，我们主要以训练得分和R方得分作为评价依据，其中随机森林算法模型的指标相对最高，故我们最终选择其作为实验模型。

4.6模型评估

4.7模型预测

保存我们训练的模型

随机捏造一条数据来使用模型预测

 

5.实验总结

        通过本次实验，我们基于随机森林算法构建了二手房价格预测模型，并对其进行了详细的测试和分析。实验结果表明，随机森林算法在预测二手房价格方面具有较高的准确性和稳定性，可以为房地产市场的参与者提供决策支持。

        首先，我们通过对历史数据的分析和处理，选择了合适的特征进行建模。然后，我们利用随机森林算法对数据集进行了训练和测试，得到了较好的预测结果。其中，模型的准确率达到了80%以上，证明了随机森林算法的有效性。

        在实验过程中，我们也发现了一些问题，比如某些特征的缺失值需要特殊处理，或者模型对于某些极端情况的预测能力有限等。这些问题需要我们在未来的研究中进一步解决。

        总的来说，随机森林算法在预测二手房价格方面表现出色，具有广泛的应用前景。通过进一步研究和改进，我们可以不断提高模型的预测精度和稳定性，为房地产市场的参与者提供更为准确和可靠的决策支持。

心得与体会：

通过这次Python项目实战，我学到了许多新的知识，这是一个让我把书本上的理论知识运用于实践中的好机会。原先，学的时候感叹学的资料太难懂，此刻想来，有些其实并不难，关键在于理解。

在这次实战中还锻炼了我其他方面的潜力，提高了我的综合素质。首先，它锻炼了我做项目的潜力，提高了独立思考问题、自我动手操作的潜力，在工作的过程中，复习了以前学习过的知识，并掌握了一些应用知识的技巧等

在此次实战中，我还学会了下面几点工作学习心态：

1）继续学习，不断提升理论涵养。在信息时代，学习是不断地汲取新信息，获得事业进步的动力。作为一名青年学子更就应把学习作为持续工作用心性的重要途径。走上工作岗位后，我会用心响应单位号召，结合工作实际，不断学习理论、业务知识和社会知识，用先进的理论武装头脑，用精良的业务知识提升潜力，以广博的社会知识拓展视野。

2）努力实践，自觉进行主角转化。只有将理论付诸于实践才能实现理论自身的价值，也只有将理论付诸于实践才能使理论得以检验。同样，一个人的价值也是透过实践活动来实现的，也只有透过实践才能锻炼人的品质，彰显人的意志。

3）提高工作用心性和主动性。实习，是开端也是结束。展此刻自我面前的是一片任自我驰骋的沃土，也分明感受到了沉甸甸的职责。在今后的工作和生活中，我将继续学习，深入实践，不断提升自我，努力创造业绩，继续创造更多的价值。

这次Python实战不仅仅使我学到了知识，丰富了经验。也帮忙我缩小了实践和理论的差距。在未来的工作中我会把学到的理论知识和实践经验不断的应用到实际工作中，为实现理想而努力。

源代码

data = pd.read_csv('二手房数据.csv')
data.head()
data.shape
data.info()
data.describe()
data.describe(include='O')
data.isnull().sum()
any(data.duplicated())
data.drop('house_fx_id',axis=1,inplace=True)
# 处理各字段数据，提取出有价值的信息
data['house_floor'] = data['house_floor'].apply(lambda x:x[4])
data['house_rental_area'] = data['house_rental_area'].apply(lambda x:float(x[4:6]))
data['house_structure'] = data['house_structure'].apply(lambda x:x[4:6])
data['house_orientation'] = data['house_orientation'].apply(lambda x:x[4])
data['house_building_structure'] = data['house_building_structure'].apply(lambda x:x[4:6])
data['house_decoration'] = data['house_decoration'].apply(lambda x:x[4:6])
data['house_elevator'] = data['house_elevator'].apply(lambda x:x[4:])
# 分析房价的分布
sns.distplot(data['total_price'])
plt.show()
# 分析不同地区的房价情况
plt.figure(figsize=(20,6))
sns.boxplot(data=data,x='house_area',y='total_price')
plt.show()
# 分析不同楼层对房价的影响
plt.figure(figsize=(8,6))
sns.boxplot(data=data,x='house_floor',y='total_price')
plt.show()
# 分析房屋建造类型对房价的影响
plt.figure(figsize=(8,6))
sns.boxplot(data=data,x='house_building_type',y='total_price')
plt.show()
# 分析房屋装修情况对房价的影响
plt.figure(figsize=(8,6))
sns.boxplot(data=data,x='house_decoration',y='total_price')
plt.show()
# 分析房屋供暖情况对房价的影响
plt.figure(figsize=(8,6))
sns.boxplot(data=data,x='house_elevator',y='total_price')
plt.show()
# 分析房屋类型况对房价的影响
plt.figure(figsize=(8,6))
sns.boxplot(data=data,x='house_useage',y='total_price')
plt.show()
new_data = data[['total_price','house_floor','house_rental_area','house_structure','house_orientation','house_building_structure','house_decoration','house_elevator','house_transaction_type','house_useage','house_years','house_property']]
new_data.head()
from sklearn.preprocessing import LabelEncoder
for col in new_data.describe(include='O').columns:new_data[col] = LabelEncoder().fit_transform(new_data[col])
new_data.head()
from sklearn.model_selection import train_test_split
# 准备数据
X = new_data.drop('total_price',axis=1)
y = new_data['total_price']
# 划分数据集
X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.2,random_state=42)
from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import mean_squared_error
# 随机森林
rfr = RandomForestRegressor(random_state=0)
rfr.fit(X_train,y_train)
y_pred = rfr.predict(X_test)
print(mean_squared_error(y_test,y_pred))
#打印特征重要性评分
feat_labels = X_train.columns[0:]
importances = rfr.feature_importances_
indices = np.argsort(importances)[::-1]
index_list = []
value_list = []
for f,j in zip(range(X_train.shape[1]),indices):index_list.append(feat_labels[j])value_list.append(importances[j])print(f + 1, feat_labels[j], importances[j])
plt.figure(figsize=(10,6))
plt.barh(index_list[::-1],value_list[::-1])
plt.yticks(fontsize=12)
plt.title('各特征重要程度排序',fontsize=14)
plt.show()
new_data = data[['total_price','house_rental_area','house_orientation','house_building_structure','house_decoration','house_useage',]]
new_data.head()
new_data['house_useage'].value_counts()
new_data['house_orientation'].replace(to_replace={'东':0,'南':1,'西':2,'北':3},inplace=True)
new_data['house_building_structure'].replace(to_replace={'钢混':0,'砖混':1,'混合':2,'框架':3,'未知':4},inplace=True)
new_data['house_decoration'].replace(to_replace={'毛坯':0,'简装':1,'精装':2,'其他':3},inplace=True)
new_data['house_useage'].replace(to_replace={'普通住宅':0,'商住两用':1,'商务公寓':2,'商业办公类':3,'写字楼':4,'公寓':5,'商业':6,'底商':7},inplace=True)
new_data.head()
from sklearn.model_selection import train_test_split
# 准备数据
X = new_data.drop('total_price',axis=1)
y = new_data['total_price']
# 划分数据集
X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.2,random_state=42)
from sklearn.metrics import r2_score,mean_absolute_error,mean_squared_error
# 定义一个训练模型并对模型各个指标进行评估的函数
def train_model(ml_model):print("Model is: ", ml_model)model = ml_model.fit(X_train, y_train)print("Training score: ", model.score(X_train,y_train))predictions = model.predict(X_test)r2score = r2_score(y_test, predictions)print("r2 score is: ", r2score)print('MAE:', mean_absolute_error(y_test,predictions))print('MSE:', mean_squared_error(y_test,predictions))print('RMSE:', np.sqrt(mean_squared_error(y_test,predictions)))# 真实值和预测值的差值sns.distplot(y_test - predictions)
# 构建LightGBM回归模型
from lightgbm import LGBMRegressor
lgb = LGBMRegressor()
train_model(lgb)
# 构建XGBoost回归模型
from xgboost import XGBRegressor
xgb = XGBRegressor()
train_model(xgb)
# 训练随机森林模型
from sklearn.ensemble import RandomForestRegressor
rfr = RandomForestRegressor()
train_model(rfr)
# 使用xgboost模型预测并可视化
plt.figure(figsize=(10,6))  
y_pred = xgb.predict(X_test)
plt.plot(range(len(y_test))[5:200],y_pred[5:200],'b',label='预测值')
plt.plot(range(len(y_test))[5:200],y_test[5:200],'r',label='真实值')
plt.legend(loc='upper right',fontsize=15)
plt.xlabel('the number of house',fontdict={'weight': 'normal', 'size': 15})
plt.ylabel('value of Price',fontdict={'weight': 'normal', 'size': 15})
plt.show()
import joblib
joblib.dump(rfr,'model.pkl')
new_data = pd.DataFrame(data=[[50,'北','砖混','精装','普通住宅']],columns=['house_rental_area','house_orientation','house_building_structure','house_decoration','house_useage'])
new_data['house_orientation'].replace(to_replace={'东':0,'南':1,'西':2,'北':3},inplace=True)
new_data['house_building_structure'].replace(to_replace={'钢混':0,'砖混':1,'混合':2,'框架':3,'未知':4},inplace=True)
new_data['house_decoration'].replace(to_replace={'毛坯':0,'简装':1,'精装':2,'其他':3},inplace=True)
new_data['house_useage'].replace(to_replace={'普通住宅':0,'商住两用':1,'商务公寓':2,'商业办公类':3,'写字楼':4,'公寓':5,'商业':6,'底商':7},inplace=True)
new_data
model = joblib.load('model.pkl')
result = model.predict(new_data)[0]
result