今天完成建民老师布置的大数据测试
1
MathorCup 高校数学建模挑战赛——大数据竞赛
练习题：观影大数据分析
王 S 聪想要在海外开拓万 D 电影的市场，这次他在考虑：怎么拍商业电影才
能赚钱？毕竟一些制作成本超过 1 亿美元的大型电影也会失败。这个问题对电影 业来说比以往任何时候都更加重要。 所以，他就请来了你（数据分析师）来帮 他解决问题，给出一些建议，根据数据分析一下商业电影的成功是否存在统一公 式？以帮助他更好地进行决策。
解决的终极问题是：电影票房的影响因素有哪些？
接下来我们就分不同的维度分析：
观众喜欢什么电影类型？有什么主题关键词？
电影风格随时间是如何变化的？
电影预算高低是否影响票房？
高票房或者高评分的导演有哪些？
电影的发行时间最好选在啥时候？
拍原创电影好还是改编电影好？
本次使用的数据来自于 Kaggle 平台（TMDb 5000 Movie Database）。收录了
美国地区 1916-2017 年近 5000 部电影的数据，包含预算、导演、票房、电影评 分等信息。原始数据集包含 2 个文件：
tmdb_5000_movies：电影基本信息，包含 20 个变量
tmdb_5000_credits：演职员信息，包含 4 个变量
请使用 Python 编程，完成下列问题：
（1）使用附件中的 tmdb_5000_movies.csv 和 tmdb_5000_credits.csv 数据集，进
行数据清洗、数据挖掘、数据分析和数据可视化等，研究电影票房的影响因素有
哪些？从不同的维度分析电影，讨论并分析你的结果。
（2）附件 tmdb_1000_predict.csv 中包含 1000 部电影的基本信息，请你选择
合适的指标，进行特征提取，建立机器学习的预测模型，预测 1000 部电影的
vote_average 和 vote_count，并保存为 tmdb_1000_predicted.csv。2
数据清洗
1 导入数据
plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来显示中文
plt.rcParams['axes.unicode_minus'] = False # 用来正常显示负号
import json
import warnings
warnings.filterwarnings('ignore')
pd.set_option('display.width', 1000) # 加了这一行那表格的一行就不会分段出现了
# 显示所有列
pd.set_option('display.max_columns', None)
# 显示所有行
pd.set_option('display.max_rows', None)
movies = pd.read_csv('E:\\作业\\软件设计\\MathorCup大数据竞赛练习题1\\data\\tmdb_5000_movies.csv', encoding='utf_8')
credits = pd.read_csv('E:\\作业\\软件设计\\MathorCup大数据竞赛练习题1\\data\\tmdb_5000_credits.csv', encoding='utf_8')
movies.info() # 查看信息
credits.info()
# 两个数据框都有title列，以及movies.riginal_title
# 以上三个数据列重复，删除两个
del credits['title']
del movies['original_title']
# 连接两个csv文件
merged = pd.merge(movies, credits, left_on='id', right_on='movie_id', how='left')
# 删除不需要分析的列
df = merged.drop(['homepage', 'overview', 'spoken_languages', 'status', 'tagline', 'movie_id'], axis=1)
df.info()
2 缺失值处理
缺失记录仅__3______条，采取网上搜索，补全信息。
2.1 补全 release_date
缺失记录的电影标题为《America Is Still the Place》，日期为2014-06-01。。
print("查找缺失值记录-release_date +++++++++++++++++++++++++++++++")
n = df[df.release_date.isnull()]
print(n)
2.2 补全 runtime
缺失记录的电影 runtime 分别为___94____min 和 ___240____min。
n2 = df[df.runtime.isnull()]
print(n2)
3 重复值处理
运行结果：有____4803______个不重复的 id，可以认为没有重复数据。3
print("重复值处理+++++++++++++++++++++++++++++++")
n3 = len(df.id.unique())
print(n3)
4 日期值处理
将 release_date 列转换为日期类型：
print("release_date列转换为日期类型+++++++++++++++++++++++++++++++++")
df['release_year'] = pd.to_datetime(df.release_date, format = '%Y-%m-%d',errors='coerce').dt.year
df['release_month'] = pd.to_datetime(df.release_date).apply(lambda x: x.month)
df['release_day'] = pd.to_datetime(df.release_date).apply(lambda x: x.day)
df.info()
5 筛选数据
使用数据分析师最喜欢的一个语法：
票房、预算、受欢迎程度、评分为____0___的数据应该去除；
评分人数过低的电影，评分不具有统计意义，筛选评分人数大于__500___的数据。
此时剩余___2961___条数据，包含___19___个字段。
n4 = df.describe()
print(n4)
df = df[(df.vote_count >= 50) & (df.budget * df.revenue * df.popularity * df.vote_average != 0)].reset_index(
drop='True')
df.info()
6 json 数据转换
**说明：**genres,keywords,production_companies,production_countries,cast,crew 这 6 列都是
json 数据，需要处理为列表进行分析。
处理方法：
json 本身为字符串类型，先转换为字典列表，再将字典列表转换为，以’,'分割的字符串
print("转换json------")
json_column = ['genres', 'keywords', 'production_companies', 'production_countries', 'cast', 'crew']
# 1-json本身为字符串类型，先转换为字典列表
for i in json_column:
df[i] = df[i].apply(json.loads)
# 2-将字典列表转换为以','分割的字符串
def get_name(x):
return ','.join([i['name'] for i in x])
df['cast'] = df['cast'].apply(get_name)
# 3.提取derector
def get_director(x):
for i in x:
if i['job'] == 'Director':
return i['name']
df['crew'] = df['crew'].apply(get_director)
for j in json_column[0:4]:
df[j] = df[j].apply(get_name)
# 命名字典
rename_dict = {'cast': 'actor', 'crew': 'director'}
df.rename(columns=rename_dict, inplace=True)
df.info()
df.head(5)
7 数据备份
# 备份原始数据框original_df
org_df = df.copy()
df.reset_index().to_csv("TMDB_5000_Movie_Dataset_Cleaned.csv")
df.info()
5 数据分析
5.1 why
想要探索影响票房的因素，从电影市场趋势，观众喜好类型，电影导演，发行时间，评分与
关键词等维度着手，给从业者提供合适的建议。
5.2 what
5.2.1 电影类型：定义一个集合，获取所有的电影类型
genre = set()
for i in df['genres'].str.split(','): # 去掉字符串之间的分隔符，得到单个电影类型
genre = set().union(i, genre) # 集合求并集
print(genre)
注意到集合中存在多余的元素：空的单引号，所以需要去除。
genre.discard('') # 去除多余的元素
print("去除多余的元素")
print(genre)
5.2.1.1 电影类型数量（绘制条形图）
genre_list = list(genre)
# 创建数据框-电影类型
genre_df = pd.DataFrame()
# 对电影类型进行one-hot编码
for i in genre_list:
# 如果包含类型 i，则编码为1，否则编码为0
genre_df[i] = df['genres'].apply(lambda x: 1 if pd.notna(x) and i in x else 0)
# 将数据框的索引变为年份
genre_df.index = df['release_year']
genre_df.head(5)
# 计算得到每种类型的电影总数目，并降序排列
grnre_sum = genre_df.sum().sort_values(ascending=False)
# 可视化
colors = ['cyan', 'red']
plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来显示中文
grnre_sum.plot(kind='bar', label='genres', color=colors, figsize=(12, 9))
plt.title('不同类型的电影数量总计', fontsize=20)
plt.xticks(rotation=60)
plt.xlabel('电影类型', fontsize=16)
plt.ylabel('数量', fontsize=16)
plt.grid(False)
plt.savefig("不同电影类型数量-条形图.png", dpi=300) # 在 plt.show() 之前调用 plt.savefig()
plt.show()
gen_shares = grnre_sum / grnre_sum.sum()
# 设置other类，当电影类型所占比例小于%1时，全部归到other类中
others = 0.01
gen_pie = gen_shares[gen_shares >= others]
gen_pie['others'] = gen_shares[gen_shares < others].sum()
colors = ['tomato', 'lightskyblue', 'goldenrod', 'wheat', 'y','tomato', 'lightskyblue', 'goldenrod', 'wheat', 'y','tomato', 'lightskyblue', 'goldenrod', 'wheat', 'y','tomato', 'lightskyblue', 'goldenrod', 'wheat', 'y','lightskyblue']
# 设置分裂属性
# 所占比例小于或等于%2时，增大每块饼片边缘偏离半径的百分比
explode = (gen_pie <= 0.02)/10
5.2.1.2 电影类型占比（绘制饼图）
# 绘制饼图
gen_pie.plot(kind='pie',label='',colors=colors,explode=explode,startangle=0,
shadow=False,autopct='%3.1f%%',figsize=(8,8))
plt.title('不同电影类型所占百分比',fontsize=20)
plt.savefig("不同电影类型所占百分比-饼图.png",dpi=300)
plt.show()
5.2.1.3 电影类型变化趋势（绘制折线图）
gen_year_sum = genre_df.sort_index(ascending=False).groupby('release_year').sum()
gen_year_sum_sub = gen_year_sum[
['Action', 'Adventure', 'Crime', 'Romance', 'Science Fiction', 'Drama', 'Comedy', 'Thriller']]
gen_year_sum_sub.plot(figsize=(12, 9))
plt.legend(gen_year_sum_sub.columns)
plt.xticks(range(1915, 2018, 10))
plt.xlabel('年份', fontsize=16)
plt.ylabel('数量', fontsize=16)
plt.title('不同电影变化趋势', fontsize=20)
plt.grid(False)
plt.savefig("不同电影类型数量-折线图2.png", dpi=600)
plt.show()
5.2.1.4 不同电影类型预算/利润（绘制组合图）
Step1-创建profit_dataframe
df['profit'] = df['revenue']-df['budget']
profit_df = pd.DataFrame()
profit_df = pd.concat([genre_df.reset_index(), df['profit']], axis=1)
df.info()
# Step2-创建profit_series，横坐标为genre
profit_s=pd.Series(index=genre_list)
# Step3-求出每种genre对应的利润均值
for i in genre_list:
profit_s.loc[i]=profit_df.loc[:,[i,'profit']].groupby(i, as_index=False).mean().loc[1,'profit']
profit_s = profit_s.sort_values(ascending = True)
profit_s
# 计算不同类型电影的budget
# Step1-创建profit_dataframe
budget_df = pd.DataFrame()
budget_df = pd.concat([genre_df.reset_index(), df['budget']], axis=1)
# Step2-创建budget_series，横坐标为genre
budget_s=pd.Series(index=genre_list)
# Step3-求出每种genre对应的预算均值
for j in genre_list:
budget_s.loc[j]=budget_df.loc[:,[j,'budget']].groupby(j, as_index=False).mean().loc[1,'budget']
budget_s
# 再接着，横向合并 profit_s 和 budget_s
profit_budget = pd.concat([profit_s, budget_s], axis=1)
profit_budget.columns = ['profit', 'budget']
#添加利润率列
profit_budget['rate'] = (profit_budget['profit']/profit_budget['budget'])*100
# 降序排序
profit_budget_sort=profit_budget.sort_values(by='budget',ascending = False)
profit_budget_sort.head(2)
x = profit_budget_sort.index
y1 = profit_budget_sort.budget
y2 = profit_budget_sort.rate
# 返回profit_budget的行数
length = profit_budget_sort.shape[0]
fig = plt.figure(figsize=(12,9))
# 左轴
ax1 = fig.add_subplot(1,1,1)
plt.bar(range(0,length),y1,color='C4',label='平均预算')
plt.xticks(range(0,length),x,rotation=90, fontsize=12) # 更改横坐标轴名称
ax1.set_xlabel('年份') # 设置x轴label ,y轴label
ax1.set_ylabel('平均预算',fontsize=16)
ax1.legend(loc=2,fontsize=12)
#右轴
# 共享x轴，生成次坐标轴
ax2 = ax1.twinx()
ax2.plot(range(0,length),y2,'ro-.')
ax2.set_ylabel('平均利润率',fontsize=16)
ax2.legend(loc=1,fontsize=12)
# 将利润率坐标轴以百分比格式显示
import matplotlib.ticker as mtick
fmt='%.1f%%'
yticks = mtick.FormatStrFormatter(fmt)
ax2.yaxis.set_major_formatter(yticks)
# 设置图片title
ax1.set_title('不同类型电影平均预算和利润率',fontsize=20)
ax1.grid(False)
ax2.grid(False)
plt.savefig("不同电影平均预算+利润率.png",dpi=300)
plt.show()
5.2.2 电影关键词（keywords 关键词分析，绘制词云图）
keywords_list = []
for i in df['keywords']:
keywords_list.append(i)
# print(keywords_list)
#把字符串列表连接成一个长字符串
lis = ''.join(keywords_list)
lis.replace('\'s','')
#设置停用词
stopwords = set(STOPWORDS)
stopwords.add('film')
stopwords.add('based')
wordcloud = WordCloud(
background_color = 'black',
random_state=9, # 设置一个随机种子，用于随机着色
stopwords = stopwords,
max_words = 3000,
scale=1).generate(lis)
plt.figure(figsize=(10,6))
plt.imshow(wordcloud)
plt.axis('off')
plt.savefig('词云图.png',dpi=300)
plt.show()
5.3 when
查看 runtime 的类型，发现是 object 类型，也就是字符串，所以，先进行数据转化。
print(df.runtime.head(5))
df.runtime = df.runtime.astype(float)
print(df.runtime.head(5))
5.3.1 电影时长（绘制电影时长直方图）
sns.set_style('white')
sns.distplot(df.runtime,bins = 20)
sns.despine(left = True) # 使用despine()方法来移除坐标轴，默认移除顶部和右侧坐标轴
plt.xticks(range(50,360,20))
plt.savefig('电影时长直方图.png',dpi=300)
plt.show()
5.3.2 发行时间（绘制每月电影数量和单片平均票房）
fig = plt.figure(figsize=(8,6))
x = list(range(1,13))
y1 = df.groupby('release_month').revenue.size()
y2 = df.groupby('release_month').revenue.mean()# 每月单片平均票房
# 左轴
ax1 = fig.add_subplot(1,1,1)
plt.bar(x,y1,color='b',label='电影数量')
plt.grid(False)
ax1.set_xlabel(u'月份')# 设置x轴label ,y轴label
ax1.set_ylabel(u'每月电影数量',fontsize=16)
ax1.legend(loc=2,fontsize=12)
# 右轴
ax2 = ax1.twinx()
plt.plot(x,y2,'ro--',label=u'单片平均票房')
ax2.set_ylabel(u'每月单片平均票房',fontsize=16)
ax2.legend(loc=1,fontsize=12)
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.savefig('每月电影数量和单片平均票房.png',dpi=300)
plt.rc("font",family="SimHei",size="15")
plt.show()
5.4 where
本数据集收集的是美国地区的电影数据，对于电影的制作公司以及制作国家，在本次的故事 背景下不作分析。
5.5 who
5.5.1 分析票房分布及票房 Top10 的导演
director_df = pd.DataFrame()
director_df = df[['director','revenue','budget','vote_average']]
director_df['profit'] = (director_df['revenue']-director_df['budget'])
director_df = director_df.groupby(by = 'director').mean().sort_values(by='revenue',ascending = False) # 取均值
director_df.info()
# 绘制票房分布直方图
director_df['revenue'].plot.hist(bins=100, figsize=(8,6))
plt.xlabel('票房')
plt.ylabel('频数')
plt.title('导演的票房分布直方图')
plt.savefig('导演的票房分布直方图.png',dpi = 300)
plt.show()
# 票房均值Top10的导演
director_df.revenue.sort_values(ascending = True).tail(10).plot(kind='barh',figsize=(8,6))
plt.xlabel('票房',fontsize = 16)
plt.ylabel('导演',fontsize = 16)
plt.title('票房排名Top10的导演',fontsize = 20)
plt.savefig('票房排名Top10的导演.png',dpi = 300)
plt.show()
5.5.2 分析评分分布及评分 Top10 的导演
#评分分布及评分Top10的导演
# 绘制导演评分直方图
director_df['vote_average'].plot.hist(bins=18, figsize=(8,6))
plt.xlabel('评分')
plt.ylabel('频数')
plt.title('导演的评分分布直方图')
plt.savefig('导演的评分分布直方图.png',dpi = 300)
plt.show()
# 评分均值Top10的导演
director_df.vote_average.sort_values(ascending = True).tail(10).plot(kind='barh',figsize=(8,6))
plt.xlabel('评分',fontsize = 16)
plt.ylabel('导演',fontsize = 16)
plt.title('评分排名Top10的导演',fontsize = 20)
plt.savefig('评分排名Top10的导演.png',dpi = 300)
plt.show()
5.6 how
5.6.1 原创 VS 改编占比（饼图）9
#原创 VS 改编占比（饼图）
# 创建数据框
original_df =
pd.DataFrame()
original_df['keywords'] = df['keywords'].str.contains('based on').map(lambda
x: 1 if x else 0)
original_df['profit'] = df['revenue'] -
df['budget']
original_df['budget'] = df['budget']
# 计算
novel_cnt =
original_df['keywords'].sum() # 改编作品数量
original_cnt =
original_df['keywords'].count() - original_df['keywords'].sum() # 原创作品数量
# 按照 是否原创 分组
original_df =
original_df.groupby('keywords', as_index = False).mean() # 注意此处计算的是利润和预算的平均值
# 增加计数列
original_df['count'] = [original_cnt, novel_cnt]
# 计算利润率
original_df['profit_rate'] = (original_df['profit'] /
original_df['budget'])*100
# 修改index
original_df.index =
['original', 'based_on_novel']
# 计算百分比
original_pie =
original_df['count'] / original_df['count'].sum()
# 绘制饼图
original_pie.plot(kind='pie',label='',startangle=90,shadow=False,autopct='%2.1f%%',figsize=(8,8))
plt.title('改编 VS 原创',fontsize=20)
plt.legend(loc=2,fontsize=10)
plt.savefig('改编VS原创-饼图.png',dpi=300)
plt.show()
5.6.2 原创 VS 改编预算/利润率（组合图）
#原创VS改编 预算/利润率（组合图）
x = original_df.index
y1 = original_df.budget
y2 = original_df.profit_rate
fig= plt.figure(figsize = (8,6))
# 左轴
ax1 = fig.add_subplot(1,1,1)
plt.bar(x,y1,color='b',label='平均预算',width=0.25)
plt.xticks(rotation=0, fontsize=12) # 更改横坐标轴名称
ax1.set_xlabel('原创 VS 改编') # 设置x轴label ,y轴label
ax1.set_ylabel('平均预算',fontsize=16)
ax1.legend(loc=2,fontsize=10)
#右轴
# 共享x轴，生成次坐标轴
ax2 = ax1.twinx()
ax2.plot(x,y2,color='r',label='平均利润率')
ax2.set_ylabel('平均利润率',fontsize=16)
ax2.legend(loc=1,fontsize=10) # loc=1,2,3,4分别表示四个角，和四象限顺序一致
# 将利润率坐标轴以百分比格式显示
import matplotlib.ticker as mtick
fmt='%.1f%%'
yticks = mtick.FormatStrFormatter(fmt)
ax2.yaxis.set_major_formatter(yticks)
plt.savefig('改编VS原创的预算以及利润率-组合图.png',dpi=300)
plt.show()
5.7 how much
5.7.1 计算相关系数（票房相关系数矩阵）
revenue_corr = df[['runtime','popularity','vote_average','vote_count','budget','revenue']].corr()
sns.heatmap(
revenue_corr,
annot=True, # 在每个单元格内显示标注
cmap="Blues", # 设置填充颜色：黄色，绿色，蓝色
cbar=True, # 显示color bar
linewidths=0.5, # 在单元格之间加入小间隔，方便数据阅读
)
plt.savefig('票房相关系数矩阵.png',dpi=300)
plt.show()
5.7.2 票房影响因素散点图
fig = plt.figure(figsize=(17,5))
ax1 = plt.subplot(1,3,1)
ax1 = sns.regplot(x='budget', y='revenue', data=df, x_jitter=.1,color='r',marker='x')
# marker: 'x','o','v','^','<'
# jitter:抖动项，表示抖动程度
ax1.text(1.6e8,2.2e9,'r=0.7',fontsize=16)
plt.title('budget-revenue-scatter',fontsize=20)
plt.xlabel('budget',fontsize=16)
plt.ylabel('revenue',fontsize=16)
ax2 = plt.subplot(1,3,2)
ax2 = sns.regplot(x='popularity', y='revenue', data=df, x_jitter=.1,color='g',marker='o')
ax2.text(500,3e9,'r=0.59',fontsize=16)
plt.title('popularity-revenue-scatter',fontsize=18)
plt.xlabel('popularity',fontsize=16)
plt.ylabel('revenue',fontsize=16)
ax3 = plt.subplot(1,3,3)
ax3 = sns.regplot(x='vote_count', y='revenue', data=df, x_jitter=.1,color='b',marker='v')
ax3.text(7000,2e9,'r=0.75',fontsize=16)
plt.title('voteCount-revenue-scatter',fontsize=20)
plt.xlabel('vote_count',fontsize=16)
plt.ylabel('revenue',fontsize=16)
plt.savefig('revenue.png',dpi=300)
plt.show()
6 对附件的 tmdb_1000_predicted.csv 的预测结果
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import train_test_split
from sklearn.impute import SimpleImputer
# 读取训练数据
movies_data = pd.read_csv('E:\\作业\\软件设计\\MathorCup大数据竞赛练习题1\\data\\tmdb_5000_movies.csv')
# 选择特征和目标变量
features = ['budget', 'popularity', 'runtime']
target_variables = ['vote_average', 'vote_count']
# 填充缺失值
imputer = SimpleImputer(strategy='mean')
movies_data[features + target_variables] = imputer.fit_transform(movies_data[features + target_variables])
# 创建特征和目标变量的数据集
X = movies_data[features]
y = movies_data[target_variables]
# 训练随机森林回归模型
rf_model = RandomForestRegressor(n_estimators=100, random_state=42)
rf_model.fit(X, y)
# 读取待预测数据
predict_data = pd.read_csv('E:\\作业\\软件设计\\MathorCup大数据竞赛练习题1\\data\\tmdb_1000_predict.csv')
# 对待预测数据进行预测
predict_X = predict_data[features]
predicted_values = rf_model.predict(predict_X)
# 将预测结果添加到待预测数据中
predict_data[target_variables] = predicted_values
# 保存预测结果到 tmdb_1000_predicted.csv 文件
predict_data.to_csv('E:\\作业\\软件设计\\MathorCup大数据竞赛练习题1\\data\\test.csv', index=False)