国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看

打開APP
userphoto
未登錄

開通VIP,暢享免費電子書等14項超值服

開通VIP
python學(xué)習(xí): 爬蟲分析利器:谷歌Chrome F12抓包分析

瀏覽器打開網(wǎng)頁的過程就是爬蟲獲取數(shù)據(jù)的過程,兩者是一樣一樣的。瀏覽器渲染的網(wǎng)頁是豐富多彩的數(shù)據(jù)集合,而爬蟲得到的是網(wǎng)頁的源代碼html。

有時候,我們不能在網(wǎng)頁的html代碼里面找到想要的數(shù)據(jù),但是瀏覽器打開的網(wǎng)頁上面卻有這些數(shù)據(jù)。這就是瀏覽器通過ajax技術(shù)異步加載(偷偷下載)了這些數(shù)據(jù)。

那么該如何看到瀏覽器偷偷下載的那些數(shù)據(jù)呢?

答案就是谷歌Chrome瀏覽器的F12快捷鍵,也可以通過鼠標右鍵菜單“檢查”(Inspect)打開Chrome自帶的開發(fā)者工具,開發(fā)者工具會出現(xiàn)在瀏覽器網(wǎng)頁的左側(cè)或者是下面(可調(diào)整),它的樣子就是這樣的:

谷歌Chrome抓包:1. 最上面一行菜單

  • 左上角箭頭 用來點擊查看網(wǎng)頁的元素
  • 第二個手機、平板圖標是用來模擬移動端顯示網(wǎng)頁
  • Elements 查看渲染后的網(wǎng)頁標簽元素
  • 提醒 是渲染后(包括異步加載的圖片、數(shù)據(jù)等)的完整網(wǎng)頁的html,不是最初下載的那個 html。
  • Console 查看JavaScript的console log信息,寫網(wǎng)頁時比較有用
  • Sources 顯示網(wǎng)頁源碼、CSS、JavaScript代碼
  • Network 查看所有加載的請求,對爬蟲很有幫助
  • 后面的暫且不管。

谷歌Chrome抓包:2. 重要區(qū)域

圖中紅框的兩個按鈕比較有用,編號為2的是清空請求記錄;編號3的是保持記錄,這在網(wǎng)頁有重定向的時候很有用

圖中綠色區(qū)域就是加載完整個網(wǎng)頁,瀏覽器的全部請求記錄,包括網(wǎng)址、狀態(tài)、類型等。寫爬蟲時,我們就要在這里尋找線索,提煉金礦。

最下面編號為4的紅框顯示了加載這個網(wǎng)頁,一共請求了39次。

點擊一條請求的網(wǎng)址,右側(cè)就會出現(xiàn)新的窗口顯示該條請求的相信信息:

點擊一條請求的網(wǎng)址,右側(cè)就會出現(xiàn)新的窗口顯示該條請求的相信信息:

圖中左邊紅框就是點擊的請求網(wǎng)址;綠框就是詳情窗口。

詳情窗口包括,Headers(請求頭)、Preview(預(yù)覽響應(yīng))、Response(服務(wù)器響應(yīng)內(nèi)容)和Timing(耗時)。

Preview、Response 幫助我們查看該條請求是不是有爬蟲想要的數(shù)據(jù);

Headers幫助我們在爬蟲中重建http請求,以便爬蟲得到和瀏覽器一樣的數(shù)據(jù)。

了解和熟練使用Chrome的開發(fā)者工具,小猿們就如虎添翼可以順利寫出自己的爬蟲啦。

本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊舉報
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
Python爬蟲工具篇 - 必會用的6款Chrome插件
一看就明白的爬蟲入門講解
爬蟲基本原理
雙核瀏覽器和谷歌瀏覽器哪個好
零基礎(chǔ)入門網(wǎng)絡(luò)爬蟲,強烈推薦這幾個必學(xué)知識點
Python爬蟲如何模擬按鈕
更多類似文章 >>
生活服務(wù)
分享 收藏 導(dǎo)長圖 關(guān)注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點擊這里聯(lián)系客服!

聯(lián)系客服