App下載

怎么用python抓取小破站數(shù)據(jù)

猿友 2021-08-06 14:45:26 瀏覽數(shù) (1835)
反饋

小破站的彈幕是小破站的特色之一,很多小伙伴都很喜歡小破站的彈幕。那么怎么把這些有趣的彈幕收集起來(lái)呢?今天小編就帶來(lái)python爬取小破站數(shù)據(jù)的教程,我們可以使用爬蟲爬取小破站的彈幕并保存起來(lái),最后也可以用python繪制詞云。

概述

可以獲取的數(shù)據(jù)包括:

video-視頻模塊

user-用戶模塊

dynamic-動(dòng)態(tài)模塊

這次用“Running Man”十周年特輯的視頻,來(lái)做個(gè)獲取彈幕的Demo。

我是對(duì)比

沒(méi)有對(duì)比,就沒(méi)有傷害,就像最近的“哈工大”某學(xué)生和“浙大”某學(xué)生一樣。

這是之前獲取彈幕的過(guò)程:

1、彈幕數(shù)據(jù)接口

https://comment.bilibili.com/123072475.xml (一個(gè)固定的url地址 + 視頻的cid + .xml)

2、利用Request模塊,獲取數(shù)據(jù)

3、利用Xpath解析數(shù)據(jù)

接下來(lái),是時(shí)候表演真正的技術(shù)了。

經(jīng)過(guò)bilibili_api的封裝,彈幕數(shù)據(jù)獲取的部分僅用了一行代碼:

danmu = video_info.get_danmaku()

相應(yīng)的獲取視頻的基本信息和評(píng)論信息也是一樣的便捷。

basic_info = video_info.get_video_info()
comments = video_info.get_comments()

快速開始

接下來(lái),本文將用bilibili_api獲取“Running Man”十周年特輯的彈幕數(shù)據(jù),并繪制詞云。

視頻的鏈接:

https://www.bilibili.com/video/BV1gC4y1h722

B站有av號(hào)和bv號(hào),改版之后,在鏈接中直接顯示的是bv號(hào),這兩個(gè)必須提供一個(gè)。

bvid是b站新的視頻唯一標(biāo)識(shí)符,由12位數(shù)字、字母組成,大小寫敏感,傳入時(shí)請(qǐng)包含頭部的“BV”

比如:“BV1gC4y1h722”

1)安裝過(guò)程

安裝需要依賴request 模塊,它是把B站數(shù)據(jù)的API封裝起來(lái)了。

通過(guò)pip安裝即可:

pip install bilibili_api

導(dǎo)入模塊

from bilibili_api import Verify
from bilibili_api.video import VideoInfo
from bilibili_api.video import Danmaku

VideoInfo類-獲取視頻的信息(彈幕、評(píng)論、投幣數(shù)量、播放量等)

Danmaku類-彈幕類,用于獲取和發(fā)送彈幕

Verify 類,可用可不用。部分視頻信息需要登錄(即需要 SESSDATA )后才能使用(如歷史彈幕獲?。?/p>

對(duì)視頻進(jìn)行點(diǎn)贊、投幣等用戶操作則需要 SESSDATA 和 csrf 。

關(guān)于 SESSDATA 和 csrf 獲取的詳細(xì)方法,可參考如下鏈接:

https://github.com/Passkou/bilibili_api/wiki/SESSDATA和CSRF獲取方法(Chrome為例)

2)獲取彈幕數(shù)據(jù)

創(chuàng)建VideoInfo對(duì)象,傳入兩個(gè)參數(shù):

bvid="BV1gC4y1h722"(視頻的BV號(hào))

verify=verify(根據(jù)sessdata和csrf,獲取彈幕)

獲取的彈幕數(shù)據(jù)為“Danmaku類”的列表,通過(guò)遍歷,打印它的text即可

貼個(gè)代碼:

verify = Verify(sessdata="你的", csrf="你的")
video_info = VideoInfo(bvid="BV1gC4y1h722", verify=verify)

danmu = video_info.get_danmaku()
for i in danmu:
    print(i.text)

3)繪制詞云

通過(guò)jieba分詞和WorldCloud繪制詞云。

可通過(guò)WordCloud對(duì)象,傳入“背景顏色”,“背景圖”,“字體”等參數(shù)。

貼個(gè)代碼:

wc = WordCloud(
    background_color='white',
    mask=background_Image,
    font_path=r'./SourceHanSerifCN-Medium.otf',
    color_func=random_color_func,
    random_state=50,
)

word_cloud = wc.generate(words_str) # 產(chǎn)生詞云
word_cloud.to_file("rm.jpg") #保存圖片

# 顯示詞云圖片
plt.imshow(word_cloud)
plt.axis('off')
plt.show()

4)最終效果

通過(guò)詞云,可以看到最明顯的就是 “快樂(lè) 十周年”、“RM 十周年”、“哈哈哈哈哈哈”等,

運(yùn)行效果

小結(jié)

通過(guò)這個(gè)模塊“bilibili_api”,可以快速的獲取B站視頻和用戶的數(shù)據(jù),至于數(shù)據(jù)獲取下來(lái)怎么玩,就看自己的想象力啦~

本文相關(guān)源碼下載:https://alltodata.cowtransfer.com/s/6c255cd808b742

以上就是python爬取小破站數(shù)據(jù)并繪制詞云的全部?jī)?nèi)容,更多python爬蟲的項(xiàng)目介紹請(qǐng)關(guān)注W3Cschool其它相關(guān)文章!


1 人點(diǎn)贊