麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 編程 > JavaScript > 正文

NodeJS制作爬蟲全過程(續)

2019-11-20 13:38:19
字體:
來源:轉載
供稿:網友

書接上回,我們需要修改程序以達到連續抓取40個頁面的內容。也就是說我們需要輸出每篇文章的標題、鏈接、第一條評論、評論用戶和論壇積分。

如圖所示,$('.reply_author').eq(0).text().trim();得到的值即為正確的第一條評論的用戶。

{<1>}

在eventproxy獲取評論及用戶名內容后,我們需要通過用戶名跳到用戶界面繼續抓取該用戶積分

復制代碼 代碼如下:

var $ = cheerio.load(topicHtml);
//此URL為下一步抓取目標URL
var user + $('.reply_author').eq(0).attr('href');
userHref = url.resolve(tUrl, userHref);
var title = $('.topic_full_title').text().trim().replace(//n/g,"");;
var href = topicUrl;
var comment1 = $('.reply_content').eq(0).text().trim();
var author1 = $('.reply_author').eq(0).text().trim();
//傳遞參數到下一次并發抓取
ep.emit('user_html', [userHref, title, href, comment1, author1]);

在eventproxy這一次中,我們要找到score是放在哪里(class="big")。

{<2>}

找到classname就好辦了,我們先試著把結果輸出一下

復制代碼 代碼如下:

var outcome = superagent.get(userUrl)
    .end(function (err, res) {
        if (err) {
            return console.error(err);
        }
        var $ = cheerio.load(res.text);
        var score = $('.big').text().trim();
        console.log(user[1]);
        console.log(user[2]);
        console.log(user[3]);
        console.log(user[4]);
        console.log($('.big').text().trim());
        return ({
            title: user[1],
            href: user[2],
            comment1: user[3],
            author1: user[4],
            score1: score
        });
    });
});

運行程序,這段代碼得到的結果。

{<3>}

但是問題來了,我們在.end()的回調函數中能正確輸出結果,但是不能正確的輸出outcome。仔細一看,需要輸出的outcome是一個Request對象。這是因為粗心犯的錯的,.end()函數并不會傳遞返回值給Request對象,需要將結果返回到上一層(users)。

復制代碼 代碼如下:

//find userDetails
ep.after('user_html', topicUrls.length, function(users){
    users = users.map(function(user){
        var userUrl = user[0];
        var score;
        superagent.get(userUrl)
            .end(function (err, res) {
                if (err) {
                    return console.error(err);
                }
                //console.log(res.text);
                var $ = cheerio.load(res.text);
                score = $('.big').text().trim();
            });
        return ({
            title: user[1],
            href: user[2],
            comment1: user[3],
            author1: user[4],
            score1: score
        });
    });

把users好好地輸出發現除了score1其他是正確值。仔細調試發現,程序是先進行了console.log(),然后再進行.map()。更準確地說,在.map()函數內,.get()的回調函數并沒有執行完賦值score,return 返回值就進行了。這就是回調函數的異步,而外層的同步操作是不會等待回調函數做完操作的。

{<4>}

我的做法就是eventproxy再emit一層消息,伴隨著消息把需要的數據一起傳遞給接收消息操作.after(),只有當消息全部接收完畢,再打印出傳遞的參數(結果)。

復制代碼 代碼如下:

score = $('.big')text().trim();
//新添加
ep.emit('got_score', [user[1], user[2], user[3], user[4], score]);
.....
ep.after('got_score', 10, function(users){
console.log(users);
});

{<6>}

這個問題解決了,但score1的數值好像太大了點吧。再一看,原來class='big'有兩個,用戶的話題收藏也是屬于這個class。我們得通過cheerio的.slice( start, [end] )來切取第一個元素,即將score 修改為 score = $('.big').slice(0).eq(0).text().trim();。正確結果如圖。

{<7>}

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 久久一区三区 | 欧美人与zoxxxx另类9 | 免费一级欧美在线观看视频 | 日韩av在线播放一区 | 亚州综合网 | 国产精品av久久久久久网址 | 美女污污视频在线观看 | 91久久久久久久久久久久久久 | 国产精品18久久久久久久 | 亚洲精品一区二区三区在线看 | 亚州精品天堂中文字幕 | 久久国产免费 | 国产视频在线免费观看 | 欧美一级一区二区三区 | 国产一区二区三区四区精 | 国av在线| 欧美一级黄色录像片 | 欧美成人精品欧美一级乱黄 | 欧美黄色性生活视频 | 中文字幕网址 | 亚洲小视频在线观看,com | 国产手机国产手机在线 | 日本成人二区 | 亚洲视频精品在线 | 亚洲精品在线观看免费 | 在线成人精品视频 | 亚洲精品午夜国产va久久成人 | 亚洲成人福利在线 | 国产精品视频自拍 | 2021国产精品视频 | 日日草天天干 | 国产精品一区在线观看 | 99ri在线| 九色91视频 | 久久国产精品影视 | 黄视频免费观看 | 欧美精品欧美 | 国产精品av久久久久久久久久 | 看片一区| 男女一边摸一边做羞羞视频免费 | 精品一区二区久久久久 |