麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 學院 > 開發設計 > 正文

lxml解析html時,檢驗XPath

2019-11-14 09:10:14
字體:
來源:轉載
供稿:網友

這兩天在研究Scrapy,在遇到用Xpath提出時,需要有Chrome的XPath helper,但老是出現錯誤。廢話少說,還是先把測試網頁保存到本地,逐步的測試提取。

測試文本text.html

<!DOCTYPE html><html lang="en"><head> <meta charset="UTF-8"> <title>測試-常規方法</title></head><body><div id="content"> <ul id="useful"> <li>這是第一條信息</li> <li>這是第二條信息</li> <li>這是第三條信息</li> </ul> <ul id="useless"> <li>不需要的信息1</li> <li>不需要的信息2</li> <li>不需要的信息3</li> </ul> <div id="url"> <a >極客學院</a> <a title="極客學院課程庫">點我打開課程庫</a> </div></div><div id="test-0">大家好!</div><div id="test-1">需要的內容1</div><div id="test-2">需要的內容2</div><div id="testfault">需要的內容3</div><div id="tiger"> 我左青龍, <span id="tiger2"> 右白虎, <ul> 上朱雀, <li>下玄武。</li> </ul> 老牛在當中, </span> 龍頭在胸口。</div><div id="test-3">美女, <font color=red>你的微信是多少?</font></div></body></html>

使用XPath對相關內容的提取

# -*- coding: utf-8 -*-from lxml import etreef = open('text.html', 'r',encoding="utf-8")html = f.read()#PRint (html)f.close()selector = etree.HTML(html)

selector.xpath提取后為list

#提取單個文本content = selector.xpath('//div[@id="test-0"]/text()')print (content)

[‘大家好!’]

#提取多個文本content = selector.xpath('//ul[@id="useful"]/li/text()')print (content)for each in content: print (each)

結果為: 這是第一條信息 這是第二條信息 這是第三條信息

#提取屬性link = selector.xpath('//a/@href')for each in link: print (each)

結果為: http://jikexueyuan.com http://jikexueyuan.com/sourse/

#提取titletitle = selector.xpath('//a/@title')print (title[0])

結果為: 極客學院課程庫

# 以相同的字符開頭 starts-with(@屬性名稱,屬性字符相同部分)content = selector.xpath('//div[starts-with(@id,"test")]/text()')for each in content: print (each)

結果為: 大家好! 需要的內容1 需要的內容2 需要的內容3 美女,

#標簽套標簽,取出所有的標簽data = selector.xpath('//div[@id="test-3"]')[0]info = data.xpath('string(.)')info=str(info)# info為<class 'lxml.etree._ElementUnicodeResult'>,轉為字符content=" ".join(info.split())print (content)data = selector.xpath('//div[@id="tiger"]')[0]info = data.xpath('string(.)')info=str(info)# info為<class 'lxml.etree._ElementUnicodeResult'>,轉為字符content=" ".join(info.split())print (content)

結果為: 美女, 你的微信是多少? 我左青龍, 右白虎, 上朱雀, 下玄武。 老牛在當中, 龍頭在胸口。

注:這里我將list轉為str。網上有許多其他方法加extract()我嘗試后,發現均出錯。 另外,發現網上的代碼有問題。

data = selector.xpath('//div[@id="test3"]')info = data.xpath('string(.)').extract()[0]這樣,就可以把“我左青龍,右白虎,上朱雀,下玄武。老牛在當中,龍頭在胸口”整個句子提取出來,賦值給info變量。

在IDE中直接測試

from lxml import etreetext=""" <div class="bd doulist-subject"> <div class="source"> 來自:豆瓣讀書 </div> <div class="post"> <a target="_blank"> <img width="100" src="https://img1.doubanio.com/lpic/s8869768.jpg"> </a> </div> <div class="title"> <a target="_blank"> 萬物生光輝 </a> </div> <div class="rating"> <span class="allstar50"></span> <span class="rating_nums">9.4</span> <span>(738人評價)</span> </div> <div class="abstract"> " 作者: [英] 吉米·哈利 <br> " 出版社: 中國城市出版社 <br> " 出版年: 2012-3 " </div> </div> """selector = etree.HTML(text)title = selector.xpath('//div[@class="title"]/a/text()')title=title[0]title=title.replace(" ","").replace("http://n","").replace("http://r","")title=title.strip()print (title)rate = selector.xpath('//span[@class="rating_nums"]/text()')rate=rate[0]rate=rate.replace(" ","").replace("http://n","").replace("http://r","")print (rate)author = selector.xpath('//div[@class="abstract"]/text()')author=author[0]author=author.replace(" ","").replace("http://n","").replace("http://r","").replace('"',"")author=author.strip()print (author)

參考如下網頁,非常感謝: http://blog.csdn.net/betabin/article/details/24392369 http://blog.csdn.net/skyeyesxy/article/details/50838003 http://blog.chinaunix.net/uid-13869856-id-5747417.html https://segmentfault.com/q/1010000006053119/a-1020000006053611


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 国产资源在线看 | 黄色特级大片 | 午夜在线视频一区二区三区 | 国产在线地址 | 欧美三级短视频 | 精品久久久91 | 欧美一级色片 | 日本高清无遮挡 | 欧美成人精品不卡视频在线观看 | 日日碰日日操 | 色视频在线播放 | 成人片免费视频 | 日韩不卡一区二区 | 中文字幕综合 | 久久久久免费精品国产小说色大师 | 369看片你懂的小视频在线观看 | 欧美亚洲国产成人综合在线 | 久久欧美亚洲另类专区91大神 | 久久国产一二三 | 国产电影精品久久 | 国产成人在线网址 | 日韩黄色片免费看 | 国产精品一区二区日韩 | 5a级毛片 | 免费一级a毛片免费观看 | 99re热视频这里只精品 | 日本xxxx色视频在线观看免费, | 成人毛片视频在线观看 | 欧美激情性色生活片在线观看 | 国产毛片在线高清视频 | 美国黄色毛片女人性生活片 | 精品一区二区在线观看视频 | 久久久激情网 | 国产精品视频一区二区三区综合 | 欧美国产第一页 | 久久亚洲精品国产一区 | 成码无人av片在线观看网站 | 伊人午夜 | 涩涩操| 国产乱色精品成人免费视频 | 成熟女人特级毛片www免费 |