其他分享
首页 > 其他分享> > 大数据应用期末总评

大数据应用期末总评

作者:互联网

作业缘由:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3363

这是爬取的数据,豆瓣上权利的游戏的影评,将txt文件转换为csv文件

 

准备工作,开启hadoop,mysql,hive 服务,挂在文件。

查询爬取的数据

创建表

 

创建表时的数据类型分类,分别为:第几条、用户名、点赞数、发表时间、评论。

建完后 检查一下 确认无误。

 

查询表中的数据类型

因为豆瓣在未登录下只爬取少量的数据  爬取了207条影评

查出UID不重复的数据 有160条

查询时间前20的各点赞数

 总结

 这次作业是结合本学期学过的所有知识,利用PYHTON爬取出的数据来进行分析,将数据通过HDFS传入数据库MYSQL中,

在HIVE中进行建表和区分数据类型,再利用HIVE中进行特定要求的数据查询,获得所需要的结果。

问题:在实验过程中,将CSV文件导入进取时总是遇到乱码,是因为没有设置为UTF-8模式进行保存才会出现乱码。

还有在HIVE建表时第一列我本应该为用户名,可在表格中是序号,所以我建的第一个表格bigdata_user导致后面的数据类型不规范,

我上网百度了下后删除了表格中的所有数据,并重新建立了一个新表格bigdata。

标签:表格,数据类型,HIVE,查询,乱码,期末,应用,总评,数据
来源: https://www.cnblogs.com/pang0722/p/11032861.html