App下載

怎么用python抓取小破站數(shù)據(jù)

猿友 2021-08-06 14:45:26 瀏覽數(shù) (2110)
反饋

小破站的彈幕是小破站的特色之一,很多小伙伴都很喜歡小破站的彈幕。那么怎么把這些有趣的彈幕收集起來呢?今天小編就帶來python爬取小破站數(shù)據(jù)的教程,我們可以使用爬蟲爬取小破站的彈幕并保存起來,最后也可以用python繪制詞云。

概述

可以獲取的數(shù)據(jù)包括:

video-視頻模塊

user-用戶模塊

dynamic-動態(tài)模塊

這次用“Running Man”十周年特輯的視頻,來做個獲取彈幕的Demo。

我是對比

沒有對比,就沒有傷害,就像最近的“哈工大”某學生和“浙大”某學生一樣。

這是之前獲取彈幕的過程:

1、彈幕數(shù)據(jù)接口

https://comment.bilibili.com/123072475.xml (一個固定的url地址 + 視頻的cid + .xml)

2、利用Request模塊,獲取數(shù)據(jù)

3、利用Xpath解析數(shù)據(jù)

接下來,是時候表演真正的技術了。

經過bilibili_api的封裝,彈幕數(shù)據(jù)獲取的部分僅用了一行代碼:

danmu = video_info.get_danmaku()

相應的獲取視頻的基本信息和評論信息也是一樣的便捷。

basic_info = video_info.get_video_info()
comments = video_info.get_comments()

快速開始

接下來,本文將用bilibili_api獲取“Running Man”十周年特輯的彈幕數(shù)據(jù),并繪制詞云。

視頻的鏈接:

https://www.bilibili.com/video/BV1gC4y1h722

B站有av號和bv號,改版之后,在鏈接中直接顯示的是bv號,這兩個必須提供一個。

bvid是b站新的視頻唯一標識符,由12位數(shù)字、字母組成,大小寫敏感,傳入時請包含頭部的“BV”

比如:“BV1gC4y1h722”

1)安裝過程

安裝需要依賴request 模塊,它是把B站數(shù)據(jù)的API封裝起來了。

通過pip安裝即可:

pip install bilibili_api

導入模塊

from bilibili_api import Verify
from bilibili_api.video import VideoInfo
from bilibili_api.video import Danmaku

VideoInfo類-獲取視頻的信息(彈幕、評論、投幣數(shù)量、播放量等)

Danmaku類-彈幕類,用于獲取和發(fā)送彈幕

Verify 類,可用可不用。部分視頻信息需要登錄(即需要 SESSDATA )后才能使用(如歷史彈幕獲?。?/p>

對視頻進行點贊、投幣等用戶操作則需要 SESSDATA 和 csrf 。

關于 SESSDATA 和 csrf 獲取的詳細方法,可參考如下鏈接:

https://github.com/Passkou/bilibili_api/wiki/SESSDATA和CSRF獲取方法(Chrome為例)

2)獲取彈幕數(shù)據(jù)

創(chuàng)建VideoInfo對象,傳入兩個參數(shù):

bvid="BV1gC4y1h722"(視頻的BV號)

verify=verify(根據(jù)sessdata和csrf,獲取彈幕)

獲取的彈幕數(shù)據(jù)為“Danmaku類”的列表,通過遍歷,打印它的text即可

貼個代碼:

verify = Verify(sessdata="你的", csrf="你的")
video_info = VideoInfo(bvid="BV1gC4y1h722", verify=verify)

danmu = video_info.get_danmaku()
for i in danmu:
    print(i.text)

3)繪制詞云

通過jieba分詞和WorldCloud繪制詞云。

可通過WordCloud對象,傳入“背景顏色”,“背景圖”,“字體”等參數(shù)。

貼個代碼:

wc = WordCloud(
    background_color='white',
    mask=background_Image,
    font_path=r'./SourceHanSerifCN-Medium.otf',
    color_func=random_color_func,
    random_state=50,
)

word_cloud = wc.generate(words_str) # 產生詞云
word_cloud.to_file("rm.jpg") #保存圖片

# 顯示詞云圖片
plt.imshow(word_cloud)
plt.axis('off')
plt.show()

4)最終效果

通過詞云,可以看到最明顯的就是 “快樂 十周年”、“RM 十周年”、“哈哈哈哈哈哈”等,

運行效果

小結

通過這個模塊“bilibili_api”,可以快速的獲取B站視頻和用戶的數(shù)據(jù),至于數(shù)據(jù)獲取下來怎么玩,就看自己的想象力啦~

本文相關源碼下載:https://alltodata.cowtransfer.com/s/6c255cd808b742

以上就是python爬取小破站數(shù)據(jù)并繪制詞云的全部內容,更多python爬蟲的項目介紹請關注W3Cschool其它相關文章!


1 人點贊