搜尋引擎如何去抓取網頁

來源:互聯網
上載者:User

  搜尋引擎看似簡單的抓取-入庫-查詢工作,但其中各個環節暗含的演算法卻十分複雜。搜尋引擎抓取頁面工作靠蜘蛛(Spider)來完成,抓取動作很容易實現,但是抓取哪些頁面,優先抓取哪些頁面卻需要演算法來決定,下面介紹幾個抓取演算法:

  1、寬度優先抓取策略:

  我們都知道,大部分網站都是按照樹狀圖來完成頁面分布的,那麼在一個樹狀圖的連結結構中,哪些頁面會被優先抓取呢?為什麼要優先抓取這些頁面呢?寬度優先抓取策略就是按照樹狀圖結構,優先抓取同級連結,待同級連結抓取完成後,再抓取下一級連結。如下圖:

  

 

  大家可以發現,我在表述的時候,使用的是連結結構而不是網站結構。這裡的連結結構可以由任何頁面的連結構成,並不一定是網站內部連結。這是一種理想化的寬度優先抓取策略,在實際的抓取過程中,不可能想這樣完全寬度優先,而是有限寬度優先,如下圖:

  

 

  上圖中,我們的Spider在取回G連結時,通過演算法發現,G頁面沒有任何價值,所以悲劇的G連結以及下級H連結被Spider給和諧了。至於G連結為什麼會被和諧掉?好吧,我們來分析一下。

  2、非完全遍曆連結權重計算:

  每個搜尋引擎都有一套pagerank(指頁面權重,非google PR)計算方法,並且經常會更新。互連網近乎無窮大,每天都會產生海量的新連結。搜尋引擎對於連結權重的計算只能是非完全遍曆。為什麼Google PR要三個月左右才更新一次?為什麼百度大更新一個月1-2兩次?這就是因為搜尋引擎採用了非完全遍曆連結權重演算法來計算連結權重。其實按照目前的技術,實現更快頻率的權重更新並不難,計算速度以及儲存速度完全跟得上,但為什麼不去做?因為沒那麼必要,或者已經實現了,但不想公布出來。那,什麼是非完全遍曆連結權重計算?

  我們將K數量的連結形成一個集合,R代錶鏈接所獲得的pagerank,S代錶鏈接所包含的連結數量,Q代表是否參與傳遞,β代表阻尼因數,那麼連結所獲得的權重計算公式為:

  

 

  從公式 裡可以發現,決定連結權重的是Q,如果連結被發現作弊,或者搜尋引擎人工清除,或者其他原因,Q被設為0,那麼再多的外鏈都沒用。β是阻尼因數,主要作用是防止權重0的出現,導致連結無法參與權重傳遞,以及防止作弊的出現。阻尼因數β一般為0.85。為什麼會在網站數量上乘以阻尼因數?因為一個頁面內並非所有的頁面都參與權重傳遞,搜尋引擎會將已經過濾過的連結再度剔除15%。

  但這種非完全遍曆權重計算需要積累到一定數量的連結後才能再次開始計算,所以一般更新周期比較慢,無法滿足使用者對即時資訊的需求。所以在此基礎上,出現了即時權重分配抓取策略。即當蜘蛛完成抓取頁面併入口後,馬上進行權重分配,將權重重新分配待抓取連結庫,然後蜘蛛根據權重高低來進行抓取。

  3、社交工程學抓取策略

  社交工程學策略,就是在蜘蛛抓取的過程中,加入人工智慧,或者通過人工智慧培訓出來的機器智能,來確定抓取的優先度。目前我已知的抓取策略有:

  a、熱點優先策略:對於爆髮式的熱點關鍵詞進行優先抓取,而且不需要經過嚴格的去重和過濾,因為會有新的連結來覆蓋以及使用者的主動選擇。

  b、權威優先策略:搜尋引擎會給每個網站分配一個權威度,通過網站曆史、網站更新等來確定網站的權威度,優先抓取權威度高的網站連結。

  c、使用者點擊策略:當大部分搜尋一個行業詞庫內的關鍵詞時,頻繁的點擊同一個網站的搜尋結果,那麼搜尋引擎會更頻繁的抓取這個網站。

  d、曆史參考策略:對於保持頻繁更新的網站,搜尋引擎會對網站建立更新歷史,根據更新歷史來預估未來的更新量以及確定抓取頻率。

  對SEO工作的指導:

  搜尋引擎的抓取原理已經深入的講解了,那麼現在要淺出這些原理對SEO工作的指導作用:

  A、定時、定量的更新會讓蜘蛛準時爬行抓取網站頁面;

  B、公司運作網站比個人網站的權威度更高;

  C、建站時間長的網站更容易被抓取;

  D、頁面內應適當的分布連結,太多、太少都不好;

  E、受使用者歡迎的網站同樣受搜尋引擎歡迎;

  F、重要頁面應該放置在更淺的網站結構中;

  G、網站內的行業權威資訊會提高網站的權威度。

  這次教程就到這裡了,下次教程的主題是:頁麵價值以及網站權重的計算。

  原文地址:http://www.cmshtml.com/a/201212/30.html



相關文章

E-Commerce Solutions

Leverage the same tools powering the Alibaba Ecosystem

Learn more >

Apsara Conference 2019

The Rise of Data Intelligence, September 25th - 27th, Hangzhou, China

Learn more >

Alibaba Cloud Free Trial

Learn and experience the power of Alibaba Cloud with a free trial worth $300-1200 USD

Learn more >

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。