上一期博客,我本來想爬取美團美食的,但是由于請求頭太復雜,沒有破解開其中的幾個參數,所以放棄,這次我們來用selenium來模式瀏覽器抓取數據,我們先來簡單看一下流程:
1,利用selenium驅動瀏覽器,得到美食列表
2,分析網頁,并給予翻頁后續的美食列表
3,分析提取數據(pyQuery)
項目一:美團美食
項目地址:https://gitee.com/dwyui/pyQuery_selenium.git
由于美團反扒嚴重,只爬取到部分數據,可以嘗試修改間隔時間來多次嘗試。
也可以自己嘗試使用PhantomJS來爬取數據,和原來的代碼幾乎一致.
?
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
