写点什么

用机器学习分析流行音乐(二):探索性数据分析

  • 2020 年 8 月 11 日
  • 本文字数:2171 字

    阅读完需:约 7 分钟

用机器学习分析流行音乐(二):探索性数据分析

本文是该系列的第二部分,我从变量中发现了有趣的见解,并发布了相关视频。 本系列第一部分的主要工作是数据收集和数据清理。本文,我们做一些探索性数据分析,这是该项目的一部分, 全部代码 都可以在这里找到。


完成数据清理

我意识到,在之前的文章中,我忘记清理这三个列(变量):“ gender_pref ”、“ reason ”和“ job ”。所以,我很快对它们进行了清理。


  • 对于“ gender_pref ”,我将它们重新标记为“ male ”、“ female ”、“ both ”和“ it's about music ”,以简化它们。

  • 对于“ reason ”,我把它们分为“ unique music style ”、“ unique choreography ”、“ attractive idols ”、“ many reasons ”和“ other reason ”。

  • 对于“ job ”,我按照“ student ”、“ full-time woker ”和“ unemplppyed ”来分类。


分析连续变量

首先,检查连续变量的描述,包括:“ yr_listened ”、“ daily_music_hr ”、“ daily_MV_hr ”、“ yr_merch_spent ”、“ age ”、“ num_gr_like ”。


检查连续变量的描述


连续变量的描述


我们可以看到,歌迷平均年龄为 18 岁,他们已经听了大约三年的流行音乐,每天听流行音乐的时间为 4.3 小时,看视频的时间为 1.95 小时。他们在相应商品上的平均花费为 85 美元。


检查连续变量的直方图

  • 你可以看到,由于存在一些异常值,“ yr_listed ”变量的分布稍微呈右偏分布。



ys_listened 直方图


  • “`daily_music_hr”呈正态分布



daily_music_hr ”的直方图


  • “daily_MV_hr” 稍微呈右偏分布



daily_MV_hr ” 的直方图


  • yr_merch_spent ”接近正态分布



yr_merch_spent ” 的直方图


  • age ”呈正态分布



age ” 的直方图


  • num_gr_like ” 呈右偏分布



“`num_gr_like” 的直方图


检查箱形图以检测异常值

绘制箱形图可以帮助你检测异常值。


我们发现,在“ ye_listened ”和“ yr_merch_spent ”中存在一些异常值。



daily_music_hr ”、“ daily_MV_hr ”、“ yr_listened ”和“ yr_merch_spent ”的箱形图


  • num_gr_like ” 存在很多异常值



num_gr_like ” 的箱形图


移除异常值并再次检查分布

让我们从“ yr_listened ”和“ num_gr_like ”中移除异常值,然后检查直方图,以查看分布是否有任何变化。



yr_listened ”和“ num_gr_like ”的直方图


我们可以清楚地看到,“ yr_listened ”现在呈正态分布,但“ num_gr_like ”却没未呈正态分布。由于只喜欢 1 到 2 组的人过多,所以去掉异常值并不会对分布产生太大的影响。


检查连续变量之间的相关性

检查相关性很重要,因为我们想了解哪些变量是相关的。在建模过程中,当自变量高度线性相关时,我们不希望出现多重共线性,这在拟合回归模型时可能会导致问题。


有什么方法可以解决多重共线性问题呢?



检查相关矩阵和相关热图


基于相关矩阵,我们发现连续变量之间并不存在多重共线性,且没有接近于 0 的相关性。


我们可以看到存在这些关系:


  • 他们听流行音乐的年限与小时数、花在商品上的钱和年龄呈正相关。

  • 他们在 YouTube 上观看韩国流行音乐视频的小时数与收听韩国流行音乐的小时数呈正相关。

  • 他们花在韩国流行音乐上的时间越多,花在购买韩国流行音乐商品上的钱就越多。

  • 他们看的韩国流行音乐视频越多,听的韩国流行音乐越多,他们喜欢的团队就越多。

  • 他们越年轻,在韩国流行音乐和视频花费的时间就越多。

  • 年龄与他们每年花多少钱购买韩国流行音乐商品无关。


分析分类变量

现在,让我们来分析分类变量。



为分类变量生成数据帧


条形统计图

让我们绘制条形统计图来表示分类变量。以下是一些发现。


  • BTS 显然是最有名的团体。



最喜欢的团体条形统计图


  • 韩国流行音乐在很多国家越来越受欢迎。



韩国流行音乐流行度条形统计图


  • 很多歌迷喜欢韩国流行音乐,原因是多方面的,紧随其后的是“ unique music style ”(独特的音乐风格)。没有多少人仅仅因为偶像的出现就听韩国流行音乐。

  • 喜欢男女组合的歌迷最多,其次是偏爱男性和“ it's about music ”(音乐)。只喜欢女性团体的人并不多。



性别偏好的条形统计图


  • 240 人中,大约有 90 人因为喜欢韩国流行音乐而被取笑。大约有 70 人表示,他们的睡眠时间减少了。



生活改变的条形统计图


  • 逾 120 人表示,他们通过听韩国流行音乐来减轻压力/焦虑/抑郁。这对我来说非常有趣,因为我认为,如果有很多人被取笑的话,那么将不会有太多的积极影响。大约有 80 人通过韩国流行音乐结交了朋友。



积极影响的条形统计图


  • 美国有很多韩国流行音乐歌迷,紧随其后的是英国、其他欧洲国家和加拿大。



按国别的条形统计图


使用数据透视表查找关系

我们还可以使用数据透视表来发现变量之间的一些关系。


听韩国流行音乐和在 YouTube 上观看韩国流行音乐的视频,可以帮助歌迷们减轻压力,结交更多的朋友。



韩国流行音乐与积极效果的关系


  • 大部分钱都是花在购买音乐会的门票上。



参加演唱会和在商品上花钱的关系


  • 年纪较大的歌迷(大约 24 岁)因为喜欢韩国流行音乐而被取笑,而年轻的歌迷通过韩国流行音乐结交朋友。



年龄与积极影响及生活改变之间的关系


当然,你可以更深入地了解数据科学周期中探索性数据分析的部分。一旦你很好地理解了在模型构建过程中想要做什么,那么就可以到此为止了。


作者介绍:


Jaemin Lee,专攻数据分析与数据科学,数据科学应届毕业生。


原文链接:


https://towardsdatascience.com/analyzing-k-pop-using-machine-learning-part-2-exploratory-data-analysis-eda-61f0cbf95a2a


2020 年 8 月 11 日 10:48743

评论

发布
暂无评论
发现更多内容

食堂就餐卡系统设计

molingwen

极客大学架构师训练营

食堂就餐卡系统设计

Darren

架构师训练营-week1-学习总结

暖丶冬

week1-食堂就餐卡系统

张健

食堂就餐卡

学习总结-架构师训练营-第一周

走过路过飞过

架构师训练营第一周-总结

无心水

极客大学架构师训练营 UML

练习1-1

闷骚程序员

架构师训练营 - 学习总结 - 第一周

桔子

食堂就餐卡系统设计

小遵

week1作业

数字

架构师和架构

拈香(曾德政)

架构师 极客大学架构师训练营

第二课 以图服人

Geek_bobo

【总结】架构师要做什么

孙野

架构师学习第一周作业

云峰

食堂就餐卡系统设计

泛岁月的涟漪

食堂就餐卡系统设计

架构师训练营-作业1-食堂就餐卡系统设计

紫极

极客大学架构师训练营 架构文档

架构师训练营 第一周总结

netbanner

极客大学架构师训练营

第一周总结

王志祥

极客大学架构师训练营

Homework-食堂就餐卡系统设计

River Tree

架构设计 Homework

sed命令基础

飞翔

Linux

week1.学习总结

个人练习生niki👍

架构师训练营第一周心得

努力努力再努力m

极客大学架构师训练营

学习总结

倪惠华

架构师训练营第一周学习总结

梦行

极客大学架构师训练营

Week 01 作业:食堂就餐卡系统设计

鱼_XueTr

食堂就餐系统架构设计(训练营第一课)

看山是山

极客大学架构师训练营 UML 食堂就餐系统

食堂就餐卡系统设计

史慧君

作业一:食堂就餐卡系统设计

梦行

极客大学架构师训练营

食堂就餐卡系统设计

拈香(曾德政)

架构设计 极客大学架构师训练营

架构师训练营-学习笔记-第一周

superman

学习 极客大学架构师训练营

数据cool谈(第2期)寻找下一代企业级数据库

数据cool谈(第2期)寻找下一代企业级数据库

用机器学习分析流行音乐(二):探索性数据分析-InfoQ