肥宅钓鱼网
当前位置: 首页 钓鱼百科

python 抓取网易云(Python爬取周杰伦MojitoMV弹幕)

时间:2023-08-13 作者: 小编 阅读量: 1 栏目名: 钓鱼百科

作者|黄伟呢来源|数据分析与统计学之美6月12日凌晨0点,周杰伦最新单曲《Mojito》正式上线,仅上线1小时销售量就超过百万张,预计今天这首单曲的销量仍然会继续攀升。杰伦的上一首单曲《说好不哭》是在2019.9发布的,这首歌是与老搭档方文山搭档的歌曲,当时这首歌在QQ音乐上的销量超过了1500万张,创造历史新高。而新歌《Mojito》则是与另外一位搭档黄俊郎合作的单曲,相信这首歌肯定也会有不错的销量。

作者 | 黄伟呢

来源 | 数据分析与统计学之美

6月12日凌晨0点,周杰伦最新单曲《Mojito》正式上线,仅上线1小时销售量就超过百万张,预计今天这首单曲的销量仍然会继续攀升。这次新歌的歌名叫做《Mojito》,翻译成中文是莫吉托,一种巴西鸡尾酒,怪不得观看这首歌MV的时候,感受到一股很浓烈的异域风情呢。

杰伦的上一首单曲《说好不哭》是在2019.9发布的,这首歌是与老搭档方文山搭档的歌曲,当时这首歌在QQ音乐上的销量超过了1500万张,创造历史新高。而新歌《Mojito》则是与另外一位搭档黄俊郎合作的单曲,相信这首歌肯定也会有不错的销量。

好了回归到正题,既然这首歌大家反应这么大,那么大家都是怎么评论这首歌曲的呢?我们爬取了B站上面的弹幕数据,看看粉丝们都说了什么。

B站弹幕的爬取

B站的网页确实变化的很快,我还记得5月份的时候,弹幕的接口数据还找得到。然而今天我找了好久都没有找到,难道是今天的状态不行?没关系,在网页中虽然没找的这个弹幕数据的接口,但是我们之前找到了,我们直接拿过来用就好了。

爬取B站弹幕数据的API:https://api.bilibili.com/x/v1/dm/list.so?oid=XXX

从上述网址中我们看到了一个叫做oid的东西,后面是一串数字,不同的网页有着不同的数字串,因此我这里用“XXX”代替了。我们现在就要思考的是,这个oid我们应该怎么获取呢?不要着急下面带大家一步步查找。

我们要想知道这个oid是什么,首先要获取到cid。弹幕数据的接口我们虽然找不到,但是目录页接口还是可以找到的,网址如下。通过这个网址我们可以获取到我们要的那个cid,cid这个键对应的值,就是我们要的oid数字串。

https://api.bilibili.com/x/player/pagelist?bvid=BV1PK4y1b7dt&jsonp=jsonp

注意:由于这个MV只有一个完整的视频,所以这里只有一个cid,如果一个视频是分不同小节发布的,这里就会有多个cid,不同的cid代表不同的视频。

我们将上面接口的url地址和拿到的oid数字串进行拼接,就可以得到这首MV弹幕的真正地址啦,现在把地址提供给大家。我们只需要请求这个网址,解析网页后就可以获取我们想要的数据啦。

https://api.bilibili.com/x/v1/dm/list.so?oid=201056987

这里还有最后一点需要提醒大家的。观察目录页的那个接口(网址如下),里面有一串字符串BV1PK4y1b7dt,我们先不管这个参数是什么,我们只关心这个字符串从哪里来的呢?

https://api.bilibili.com/x/player/pagelist?bvid=BV1PK4y1b7dt&jsonp=jsonp

最后我们观察这首MV的原始网址(网址如下),原来这个字符串就在这首MV的原始网址中。好了,说到这里,我就将B站弹幕数据爬取的一些参数的来龙去脉,给大家讲清楚了,下面我们开始代码部分吧。

https://www.bilibili.com/video/BV1PK4y1b7dt?t=1

代码如下:

import requestsimport jsonimport chardetimport refrom pprint import pprint# 1.根据bvid请求得到ciddef get_cid:url = 'https://api.bilibili.com/x/player/pagelist?bvid=BV1PK4y1b7dt&jsonp=jsonp'res = requests.get(url).textjson_dict = json.loads(res)#pprint(json_dict)return json_dict["data"][0]["cid"]# 2.根据cid请求弹幕,解析弹幕得到最终的数据"""注意:哔哩哔哩的网页现在已经换了,那个list.so接口已经找不到,但是我们现在记住这个接口就行了。"""def get_data(cid):final_url = "https://api.bilibili.com/x/v1/dm/list.so?odan_mu.txt", mode="w", encoding="utf-8") as f:for i in data:f.write(i)f.write("\n")cid = get_ciddata = get_data(cid)save_to_file(data)

结果如下:

词云图的制作

# 1 导入相关库import pandas as pdimport jiebafrom wordcloud import WordCloudimport matplotlib.pyplot as pltfrom imageio import imreadimport warningswarnings.filterwarnings("ignore")# 2 读取文本文件,并使用lcut方法进行分词with open("dan_mu.txt",encoding="utf-8") as f:txt = f.readtxt = txt.splitdata_cut = [jieba.lcut(x) for x in txt]data_cut# 3 读取停用词with open(r"G:\6Tipdm\wordcloud\data\stoplist.txt",encoding="utf-8") as f:stop = f.readstop = stop.splitstop = [" ","道","说道","说"]stop# 4 去掉停用词之后的最终词s_data_cut = pd.Series(data_cut)all_words_after = s_data_cut.apply(lambda x:[i for i in x if i not in stop])# 5 词频统计all_words =for i in all_words_after:all_words.extend(i)word_count = pd.Series(all_words).value_counts# 6 词云图的绘制# 1)读取背景图片back_picture = imread(r"G:\6Tipdm\wordcloud\jay1.jpg")# 2)设置词云参数wc = WordCloud(font_path="G:\\6Tipdm\\wordcloud\\simhei.ttf",background_,max_words=2000,mask=back_picture,max_font_size=200,random_state=42)wc2 = wc.fit_words(word_count)# 3)绘制词云图plt.figure(figsize=(16,8))plt.imshow(wc2)plt.axis("off")plt.showwc.to_file("ciyun.png")

结果如下:

从词云图可以看到,整个弹幕屏幕都是表达了粉丝对于《Mojito》这首歌的热爱,可能有些词语显得有些莫名其妙,像震动、手机等词语,但是看过MV的人都知道确实都是赞美之词。

首先,啊啊啊这个感叹词出现的次数是最多的,难道大家是刚刚听到这首歌,惊喜之情无法用言语来表达?只好借用这样的感叹词来表达自己内心的激动?这可不是我的风格,我要是喜欢就会用直白的话表达出来。

其次,手机、震动这样的词出现的也很多。我刚刚看到这样的词语时候,我很莫名其妙。一首新歌MV和手机震动有啥关系呢?这原来是一个梗,恕我当时也没怎么关注,含义就是:周杰伦新歌销量太好,网友调侃便说杰伦手机一直在震动。如果你也不知道这是一个什么梗,提供一个网址给大家了解一下。

https://www.ixiumei.com/a/20190917/364084.shtml

我们还可以注意到,有一个词的频率出现次数也是很高的,那就是爷青回。哈哈,刚刚看到这个词语的人肯定是很懵逼的,这是什么意思呢?其实就是爷的青春回来了的意思。不得不说周杰伦的歌确实影响了我们这一代人,新歌一发布,不少人感叹:杰伦,回不去了吗?虽然我们的年纪在慢慢长大,但是我们却始终习惯停留在青春的状态。当然像爱、好听、粉、亿遍这样的词语大家也都知道是什么意思,我也就不详细说明了,总的来说从整个词云图来看,基本上是0差评。《Mojito》整首歌给我的感觉就是节奏欢快,周杰伦虽然成了无数人的青春,不少人也是感叹青春回不去了吗?但是在这个炎炎夏日聆听这首欢快的歌曲,也是及其不错的。

☞那些被大数据时代抛弃的人

☞反转!物联网火爆,开发者却太难了!

☞TypeScript 热度超 C 与 Python、Go 开发收入高、运维吃香,调查了 65000 名开发者有这些发现!

☞一篇与众不同的 String、StringBuilder 和 StringBuffer 详解

☞利用 AssemblyAI 在 PyTorch 中建立端到端的语音识别模型

☞赠书 | 供应链金融模式有哪些?区块链在供应链金融中如何应用?

    推荐阅读
  • 甄宝云与贾宝玉(蔡元培为何认定贾宝玉是康熙废太子胤礽)

    诸如此类的相似点颇多,很难不说二者存在某种神秘联系与对应。蔡元培认为,《红楼梦》第33回和第95回,分别叙宝玉神思失常之事。至如镇魇除魔之事,亦可与《红楼梦》中马道婆破案之事相呼应。经此四条理由,蔡元培先生对贾宝玉即影射康熙废太子胤礽之事已是言之凿凿,几无翻案之余地。笔者在此不予置评,相信读者自有明断。

  • windows10没声音怎么解决(win10没有声音解决方法)

    Win10设置—启用或关闭系统图标中的音量选项无法打开?如果你遇到了相同的问题,可参考下面的方法来解决:注意:此法需要修改注册表,在操作之前建议先按照《Win10如何创建还原点及系统还原完全攻略》为你的系统创建一个还原点,以便在出错时还原。

  • 商标侵权行为的法律责任包括有哪些(商标侵权行为的法律责任包括有哪些方面)

    2、行政责任停止侵权,包括责令立即停止销售;没收、销毁侵权商品;没收、销毁专门用于制造侵权商品、伪造注册商标标识的工具;罚款。

  • 百什么不回的成语(关于百什么不回的成语简介)

    跟着小编一起来看一看吧!百什么不回的成语百折不回。形容意志坚强,也称为百折不挠。

  • 乡村爱情故事刘英赵玉田(乡村爱情16年拍14部刘英越整容越胖)

    早前,有媒体曝出吴云飞还是某品牌全球俱乐部的股东兼联合创始人。他从2006年开始主演《乡村爱情》系列电视剧,在剧中饰演"赵玉田"。在剧中,赵玉田总是对妻子赵英挑三拣四,引起了许多争议,也因此有了一些知名度。吴云飞在剧中被换了三次角色,最终才定为张震徒弟这一角色。三是青年男女的婚姻都是岌岌可危的,终年被流言蜚语所困扰,全都闹离婚!

  • 郑州市经开区公租房报名摇号配租公示表

    经开区公共租赁住房报名摇号配租公示表发布时间:2022年9月21日经开区本次轮侯供应房源为大雅苑项目,其中一居室129套,二居室25套,针对已取得经开区公租房保障资格号未实物配租的保障对象进行报名摇号配租,有报名意愿的家庭可在微信易住宝程序上进行报名。

  • 翡翠手镯怎么挑选(选购翡翠手镯的注意事项)

    这种形状因方便工作、家务,日渐受当代女性的欢迎。同时,手镯料的晶莹度(种水)十分重要。“种”多数较干,质粗。④珍宝级的手镯:绿色鲜活,色、种、质均佳,原料可做界面料,价格在数百万到千万以上。所以在购买价格昂贵的翡翠手镯时,最好还是自己联系专业机构进行鉴定,商家的证书也未必百分百真实。

  • 书卷边框简笔画(简笔画书本边框)

    书卷边框简笔画怎么画?书卷边框怎么画简笔画古典画卷简笔画,下面我们就来选几张好看的书卷边框简笔画?大家可以参考下面这些简笔画图片希望能帮到您!

  • 大数据告诉你女人有多勤奋分享

    国家统计局发布了一组关于世界各国劳动参与率的数据,赫然位列世界第一,劳动总量世界第一,劳动参与率世界第一。所谓劳动总量,就是所有工作的人的工作时间的总和,所谓劳动参与率,就是参加工作的人占全体人口的百分比。数据显示,人的劳动参与率达到76%,也就是说只有24%的人在家里无所事事,这些人里面还包括老人孩子和学生以及女人。

  • 电脑不时断网怎么解决(电脑不时断网处理方法)

    可以通过用力向里插入的办法来检查,如果仍然有余量,则可能是没有插到底。或者换根正常的网线进行测试。有的杂牌路由器在环境温度较高,或者电压不稳定的情兄下会出现反复连接和断网问题。检查网络是否有冲突。如果网络中都是手动设置的IP地址,有可能会因为IP地址冲突造成网络不稳定。可以使用自动分配来解决。检查网卡是否打开了节能选项。然后确定,退出。