国产片侵犯亲女视频播放_亚洲精品二区_在线免费国产视频_欧美精品一区二区三区在线_少妇久久久_在线观看av不卡

服務器之家:專注于服務器技術及軟件下載分享
分類導航

PHP教程|ASP.NET教程|JAVA教程|ASP教程|編程技術|

服務器之家 - 編程語言 - JAVA教程 - java實現簡單的爬蟲之今日頭條

java實現簡單的爬蟲之今日頭條

2020-07-01 11:22maylor_zhu JAVA教程

最近在學習搜索方面的東西,需要了解網絡爬蟲方面的知識,雖然有很多開源的強大的爬蟲,但本著學習的態度,想到之前在做資訊站的時候需要用到爬蟲來獲取一些文章,今天剛好有空就研究了一下.在網上看到了一個demo,使用的是

前言

需要提前說下的是,由于今日頭條的文章的特殊性,所以無法直接獲取文章的地址,需要獲取文章的id然后在拼接成url再訪問。下面話不多說了,直接上代碼。

示例代碼如下

  1. public class Demo2 { 
  2.  
  3.  public static void main(String[] args) { 
  4.  
  5.   // 需要爬的網頁的文章列表 
  6.   String url = "http://www.toutiao.com/news_finance/"
  7.   //文章詳情頁的前綴(由于今日頭條的文章都是在group這個目錄下,所以定義了前綴,而且通過請求獲取到的html頁面) 
  8.   String url2="http://www.toutiao.com/group/"
  9.   //鏈接到該網站 
  10.   Connection connection = Jsoup.connect(url); 
  11.   Document content = null
  12.   try { 
  13.     //獲取內容 
  14.     content = connection.get(); 
  15.   } catch (IOException e) { 
  16.     e.printStackTrace(); 
  17.   } 
  18.   //轉換成字符串 
  19.   String htmlStr = content.html(); 
  20.   //因為今日頭條的文章展示比較奇葩,都是通過js定義成變量,所以無法使用獲取dom元素的方式獲取值 
  21.   String jsonStr = StringUtils.substringBetween(htmlStr,"var _data = "";"); 
  22.   System.out.println(jsonStr); 
  23.   Map parse = (Map) JSONObject.parse(jsonStr); 
  24.   JSONArray parseArray = (JSONArray) parse.get("real_time_news"); 
  25.   Map map=null
  26.   List<Map> maps=new ArrayList<>(); 
  27.   //遍歷這個jsonArray,獲取到每一個json對象,然后將其轉換成Map對象(在這里其實只需要一個group_id,那么沒必要使用map) 
  28.   for(int i=0;i<parseArray.size();i++){ 
  29.     map = (Map)parseArray.get(i); 
  30.     maps.add((Map)parseArray.get(i)); 
  31.     System.out.println(map.get("group_id")); 
  32.  
  33.   } 
  34.   //遍歷之前獲取到的map集合,然后分別訪問這些文章詳情頁 
  35.   for (Map map2 : maps) { 
  36.     connection = Jsoup.connect(url2+map2.get("group_id")); 
  37.     try { 
  38.       Document document = connection.get(); 
  39.       //獲取文章標題 
  40.       Elements title = document.select("[class=article-title]"); 
  41.       System.out.println(title.html()); 
  42.       //獲取文章來源和文章發布時間 
  43.       Elements articleInfo = document.select("[class=articleInfo]"); 
  44.       Elements src = articleInfo.select("[class=src]"); 
  45.       System.out.println(src.html()); 
  46.       Elements time = articleInfo.select("[class=time]"); 
  47.       System.out.println(time.html()); 
  48.       //獲取文章內容 
  49.       Elements contentEle = document.select("[class=article-content]"); 
  50.       System.out.println(contentEle.html()); 
  51.     } catch (IOException e) { 
  52.       e.printStackTrace(); 
  53.     } 
  54.   } 
  55.  } 


總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作能帶來一定的幫助,如果有疑問大家可以留言交流。

延伸 · 閱讀

精彩推薦
主站蜘蛛池模板: 在线黄色网 | 日韩一区二区久久 | 91久久国产精品 | 成人免费一区二区三区视频软件 | 日韩欧美的一区二区 | 国产一区二区三区 | 日韩精品网站 | 日韩视频免费 | 成人免费黄色大片 | 成人影院在线 | 在线观看 亚洲 | 亚洲一区二区三区高清 | 亚洲中午字幕 | 午夜成人免费电影 | 欧美一区二区激情视频 | 久久综合中文字幕 | 这里只有精品免费 | 中文av一区二区三区 | 日本亚洲最大的色成网站www | 99精品国产高清在线观看 | 午夜在线影院 | 国产在线看片 | av一区二区三区 | 99精品欧美一区二区蜜桃免费 | 午夜免费视频 | 在线观看黄 | av在线免费网址 | 亚洲成人av免费看 | h视频免费观看 | 亚洲国产一区在线 | 亚洲综合在线视频 | 国产精品69久久久久水密桃 | 高清国产一区 | 91在线免费网站 | 这里只是精品 | 日日操视频| 一区二区三区 在线 | 99精品一区二区三区 | 亚洲精品一二三 | 亚洲欧洲视频 | 午夜剧 |