亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

python正則爬取某段子網(wǎng)站前20頁段子(request庫)過程解析

系統(tǒng) 1688 0

首先還是谷歌瀏覽器抓包對該網(wǎng)站數(shù)據(jù)進行分析,結(jié)果如下:

該網(wǎng)站地址:http://www.budejie.com/text

該網(wǎng)站數(shù)據(jù)都是通過html頁面進行展示,網(wǎng)站url默認(rèn)為第一頁,http://www.budejie.com/text/2為第二頁,以此類推

對網(wǎng)站的內(nèi)容段子所處位置進行分析,發(fā)現(xiàn)段子內(nèi)容都是在一個 a 標(biāo)簽中

坑還是有的,這是我第一次寫的正則:

content_list = re.findall(r' (.+?) ', html_str)

之后發(fā)現(xiàn)竟然匹配到了一些推薦的內(nèi)容,最后我把正則改變下面這樣,發(fā)現(xiàn)沒有問題了,關(guān)于正則的知識這里就不做過多解釋了

content_list = re.findall(r'

\s* (.+?) ', html_str)

現(xiàn)在要的是爬取前20頁的段子并保存到本地,已經(jīng)知道翻頁的規(guī)律和匹配內(nèi)容的正則,就直接可以寫代碼了

代碼如下,整體思路還是和前兩排爬蟲博客一樣,面向?qū)ο蟮膶懛ǎ?

              
import requests
import re
import json

class NeihanSpider(object):
  """內(nèi)涵段子,百思不得其姐,正則爬取一頁的數(shù)據(jù)"""
  def __init__(self):
    self.temp_url = 'http://www.budejie.com/text/{}' # 網(wǎng)站地址,給頁碼留個可替換的{}
    self.headers = {
      'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36',
    }

  def pass_url(self, url): # 發(fā)送請求,獲取響應(yīng)
    print(url)
    response = requests.get(url, headers=self.headers)
    return response.content.decode()

  def get_first_page_content_list(self, html_str): # 提取第一頁的數(shù)據(jù)
    content_list = re.findall(r'
              
\s* (.+?) ', html_str) # 非貪婪匹配 return content_list def save_content_list(self, content_list): with open('neihan.txt', 'a', encoding='utf-8') as f: for content in content_list: f.write(json.dumps(content, ensure_ascii=False)) f.write('\n') # 換行 print('成功保存一頁!') def run(self): # 實現(xiàn)主要邏輯 for i in range(20): # 只爬取前20頁數(shù)據(jù) # 1. 構(gòu)造url # 2. 發(fā)送請求,獲取響應(yīng) html_str = self.pass_url(self.temp_url.format(i+1)) # 3. 提取數(shù)據(jù) content_list = self.get_first_page_content_list(html_str) # 4. 保存 self.save_content_list(content_list) if __name__ == '__main__': neihan = NeihanSpider() neihan.run()

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!??!

發(fā)表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 精品久久久久久久久久香蕉 | 亚洲色视频在线播放网站 | 欧美精品亚洲网站 | 欧美在线xxx| 伊人色视频 | 五月婷婷色视频 | 国产欧美日韩高清专区手机版 | 亚洲99久久久久综合 | 国产日韩欧美亚洲综合首页 | 99er视频| 久久国产精品-国产精品 | 欧美猛妇色xxxxxbbbb | 亚洲一区二区久久 | 一级毛片视屏 | 综合色久| 九九黄色大片 | 国产乱子伦手机在线 | 伊人网综合在线观看 | 四虎精品成人免费永久 | 7777奇米影视 | 国产午夜精品一区二区三区 | 午夜私人影院粉色视频我要 | 久久国产精品只做精品 | 日韩欧美中文在线 | ww亚洲ww亚在线观看 | 国内精品久久久久久影院8f | 国产无套免费网站 | 午夜看一级特黄a大片 | 中文精品北条麻妃中文 | 免费一级毛片清高播放 | 日韩欧美一二三区 | 国产在线中文字幕 | 毛片天天看 | 伊人久久中文字幕 | 亚洲精品二三区伊人久久 | 欧美在线一级视频 | 91尤物视频在线观看 | 亚洲欧美在线播放 | 日本亚洲欧洲免费无码 | 久久香蕉国产精品一区二区三 | 国产日韩欧美成人 |