麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 編程 > JavaScript > 正文

Node.js環境下編寫爬蟲爬取維基百科內容的實例分享

2019-11-20 09:43:28
字體:
來源:轉載
供稿:網友

基本思路
思路一(origin:master):從維基百科的某個分類(比如:航空母艦(key))頁面開始,找出鏈接的title屬性中包含key(航空母艦)的所有目標,加入到待抓取隊列中。這樣,抓一個頁面的代碼及其圖片的同時,也獲取這個網頁上所有與key相關的其它網頁的地址,采取一個類廣度優先遍歷的算法來完成此任務。
思路二(origin:cat):按分類進行抓取。注意到,維基百科上,分類都以Category:開頭,由于維基百科有很好的文檔結構,很容易從任一個分類,開始,一直把其下的所有分類全都抓取下來。這個算法對分類頁面,提取子分類,且并行抓取其下所有頁面,速度快,可以把分類結構保存下來,但其實有很多的重復頁面,不過這個可以后期寫個腳本就能很容易的處理。

庫的選擇
開始想用jsdom,雖然感覺它功能強大,但也比較“重”,最要命的是說明文檔不夠好,只說了它的優勢,沒一個全面的說明。因此,換成cheerio,輕量級,功能比較全,至少文檔一看就能有一個整體概念。其實做到后來,才發現根本不需要庫,用正則表達式就能搞定一切!用庫只是少寫了一點正則而矣。

關鍵點
全局變量設定:

var regKey = ['航空母艦','航空母

主站蜘蛛池模板:
午夜视频福利
|
视频一区二区三区在线播放
|
精品一区二区三区欧美
|
久久99精品久久久久久久久久久久
|
国产乱色精品成人免费视频
|
日韩欧美色综合
|
噜噜噜躁狠狠躁狠狠精品视频
|
男人天堂免费
|
国产日产精品一区二区三区四区
|
日韩精品中文字幕一区二区三区
|
依人九九宗合九九九
|
深夜福利视频免费观看
|
日韩中文字幕三区
|
快播av在线
|
久久草在线看
|
国产亚洲精久久久久久蜜臀
|
久久恋
|
av电影在线免费
|
性欧美一区
|
天天色宗合|
日本网站一区二区三区
|
精品久久久久久中文字幕
|
久久精品一级片
|
成人免费观看av
|
九九视频久久
|
亚洲国产精品久久久久久久久久
|
日本在线不卡一区二区
|
久久激情小视频
|
欧美日韩高清一区
|
亚洲欧美国产高清
|
色污视频在线观看
|
素人视频免费观看
|
av日韩一区二区三区
|
国产一级不卡毛片
|
黄色网址免费在线
|
免费a级网站|
美女91视频
|
一区二区国产在线
|
国语自产免费精品视频在
|
国产免费传媒av片在线
|
久久国产免费视频
|