麻豆小视频在线观看_中文黄色一级片_久久久成人精品_成片免费观看视频大全_午夜精品久久久久久久99热浪潮_成人一区二区三区四区

首頁 > 開發 > Java > 正文

Java實現爬取百度圖片的方法分析

2024-07-14 08:43:23
字體:
來源:轉載
供稿:網友

本文實例講述了Java實現爬取百度圖片的方法。分享給大家供大家參考,具體如下:

在以往用java來處理解析HTML文檔或者片段時,我們通常會采用htmlparser(http://htmlparser.sourceforge.net/)這個開源類庫。現在我們有了JSOUP,以后的處理HTML的內容只需要使用JSOUP就已經足夠了,JSOUP有更快的更新,更方便的API等。

jsoup 是一款 Java 的HTML 解析器,可直接解析某個URL地址、HTML文本內容。它提供了一套非常省力的API,可通過DOM,CSS以及類似于jQuery的操作方法來取出和操作數據,可以看作是java版的jQuery。

jsoup的主要功能如下:

  • 從一個URL,文件或字符串中解析HTML;
  • 使用DOM或CSS選擇器來查找、取出數據;
  • 可操作HTML元素、屬性、文本;

jsoup是基于MIT協議發布的,可放心使用于商業項目。官方網站:http://jsoup.org/

步驟大致可以分為三個模塊:一是獲取網頁的資源,二是解析獲取的資源,取出我們想要的圖片URL地址,三是通過java的io存儲在本地文件中。

獲取網頁資源的核心模塊就是通過Jsoup去獲取網頁的內容,具體核心代碼如下:

private static List<JsoupImageVO> findImageNoURl(String hotelId, String url, int timeOut) {    List<JsoupImageVO> result = new ArrayList<JsoupImageVO>();    Document document = null;    try {      document = Jsoup.connect(url).data("query", "Java")//請求參數          .userAgent("Mozilla/4.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)")//設置urer-agent get();          .timeout(timeOut)          .get();      String xmlSource = document.toString();      result = dealResult(xmlSource, hotelId);    } catch (Exception e) {      String defaultURL = "http://qnimg.zowoyoo.com/img/15463/1509533934407.jpg";      result = dealResult(defaultURL,hotelId);    }    return result;}

其中URL地址是百度圖片搜索的地址,具體調用代碼如下:

public static List<JsoupImageVO> findImage(String hotelName, String hotelId, int page) {    int number=5;    String url = "http://image.baidu.com/search/avatarjson?tn=resultjsonavatarnew&ie=utf-8&word=" + hotelName + "&cg=star&pn=" + page * 30 + "&rn="+number+"&itg=0&z=0&fr=&width=&height=&lm=-1&ic=0&s=0&st=-1&gsm=" + Integer.toHexString(page * 30);    int timeOut = 5000;    return findImageNoURl(hotelId, url, timeOut);}

這里需要注意的是:word是我們要搜索的關鍵字,pn是顯示的頁碼,rn是一頁顯示多少個數據。

解析網頁的資源,然后封裝起來。核心代碼如下:

private static List<JsoupImageVO> dealResult(String xmlSource, String hotelId) {    List<JsoupImageVO> result = new ArrayList<JsoupImageVO>();    xmlSource = StringEscapeUtils.unescapeHtml3(xmlSource);    String reg = "objURL/":/"http://.+?//.(gif|jpeg|png|jpg|bmp)";    Pattern pattern = Pattern.compile(reg);    Matcher m = pattern.matcher(xmlSource);    while (m.find()) {      JsoupImageVO jsoupImageVO = new JsoupImageVO();      String imageURL = m.group().substring(9);      if(imageURL==null || "".equals(imageURL)){        String defaultURL = "http://qnimg.zowoyoo.com/img/15463/1509533934407.jpg";        jsoupImageVO.setUrl(defaultURL);      }else{        jsoupImageVO.setUrl(imageURL);      }      jsoupImageVO.setName(hotelId);      result.add(jsoupImageVO);    }    return result;}

這里最主要的地方就是reg這個正則表達式,通過正則表達式,去網頁中解析符合規定的圖片URL地址,然后封裝在對象中。

最后一部分就是通過java的io流去圖片地址獲取圖片,并保存在本地。核心代碼如下:

//根據圖片網絡地址下載圖片public static void download(String url,String name,String path){    File file= null;    File dirFile=null;    FileOutputStream fos=null;    HttpURLConnection httpCon = null;    URLConnection con = null;    URL urlObj=null;    InputStream in =null;    byte[] size = new byte[1024];    int num=0;    try {      dirFile = new File(path);      if(dirFile.exists()){        dirFile.delete();      }      dirFile.mkdir();      file = new File(path+"//"+name+".jpg");      fos = new FileOutputStream(file);      if(url.startsWith("http")){        urlObj = new URL(url);        con = urlObj.openConnection();        httpCon =(HttpURLConnection) con;        in = httpCon.getInputStream();        while((num=in.read(size)) != -1){          for(int i=0;i<num;i++)            fos.write(size[i]);        }      }    }catch (FileNotFoundException notFoundE) {      LogUtils.writeLog("找不到該網絡圖片....");    }catch(NullPointerException nullPointerE){      LogUtils.writeLog("找不到該網絡圖片....");    }catch(IOException ioE){      LogUtils.writeLog("產生IO異常.....");    }catch (Exception e) {      e.printStackTrace();    }finally{      try {        fos.close();      } catch (Exception e) {        e.printStackTrace();      }    }}

這里面的操作都是java中io篇一些基礎的操作,有不懂的可以去看看java中io模塊的內容。

因為我這邊是maven項目,所以在開發前需要引入Jsoup依賴才可以。

源碼可點擊此處本站下載。

希望本文所述對大家java程序設計有所幫助。


注:相關教程知識閱讀請移步到JAVA教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 国产精品99久久久久久久女警 | 亚洲免费永久 | 国产精品hd免费观看 | 黄色特级| 中文在线观看www | 午夜精品久久久久久毛片 | 久久精品国产99久久久古代 | 极品销魂一区二区三区 | 1级片在线观看 | 羞羞视频2023 | 99精品视频免费看 | 日韩精品久久久久久久九岛 | 在线亚州 | 91看片在线观看视频 | 日韩视频一区 | 天天夜夜操操 | 欧美亚洲一级 | 欧美aaaaaaaa| www.99re1.com| 在线播放亚洲视频 | 日韩在线毛片 | 国产成人在线网址 | 三级国产三级在线 | 久久久久久久99 | 欧美在线观看视频网站 | 中文字幕在线播放一区 | 91精品国产91久久久久久不卞 | 99re久久最新地址获取 | 精品三区视频 | 欧美性生交zzzzzxxxxx | 欧美日韩亚洲国产 | 禁漫天堂久久久久久久久久 | 国产三级三级三级三级 | 深夜小视频在线观看 | 69性欧美高清影院 | 亚洲最新黄色网址 | 国产成人自拍视频在线观看 | 日韩精品一区二区三区中文 | 欧美日韩在线影院 | 欧美a视频 | 黄色av免费 |