延續博百優自己的內容:網路蜘蛛對於檔如何處理

來源:互聯網
上載者:User

仲介交易 HTTP://www.aliyun.com/zixun/aggregation/6858.html">SEO診斷 淘寶客 雲主機 技術大廳

上次我們談了網路蜘蛛技術探討(1)_博百優技術,今天我們主要談談網路蜘蛛對於檔的處理:

( 一) 二進位檔案處理

網路上除了有大量的HTM檔和XML檔外,也有大量的二進位檔案,為了使網頁的內容更加豐富,圖片和多媒體檔案被網頁大量的引用。 它們在網頁上也是以超連結的形式出現的,因而在連結提取的階段它們也是會被放在待訪問佇列中。 對於二進位檔案通過檔的內容來完成檔的索引是不現實的,現在的技術還沒有達到可以通過二進位檔案來理解檔內容的地步。

因而對於這些檔的處理一般是採用單獨處理的方式, 其內容的理解完全需要依靠二進位檔案的錨點描述來完成。 錨點描述通常代表了檔的標題或是基本內容。 錨點資訊一般是由引用網頁來提供,而不是放在二進位檔案本身。 二進位檔案由於種類的差別問題,也需要分別來進行處理 。

( 二)指令檔的處理

這裡說的指令檔一般指的是包含在網頁中的用戶端腳本,它會在網頁下載到客端的時候才會運行,通常會在用戶端上完成一些簡單的交互工作。 指令檔一般會在網頁中負責網頁的顯示工作,但由於ajax 技術的廣泛使用,它也會負責與伺服器端的交互工作。

由於指令碼語言的多樣性和複雜性,對它的分析處理無異于 製作一個簡單的網頁解析程式,正是因為處理指令檔相當困難,許多小規模的搜尋引擎往往會直接省略對它的處理。 但是由於現在網站設計者對於無刷新頁面要求的提高和對ajax技術的大量使用,如果忽略了對它的處理將會是一項巨大的損失 。

(三)不問檔案類型處理

對於網頁內容的提取分析一直是網路蜘蛛的重要技術環節,對於網上不同檔案類型檔的處理,網路蜘蛛通常是採用外掛程式的方式來處理。 它會有一個比較智慧化的外掛程式管理程式負責管理不同的外掛程式,對於需要處理的不同類型的檔,它會調用不同的外掛程式來處理,之所以是採用外掛程式的形式,主要是出於擴充性方面的考慮。

互聯網上有許多不同類型的檔,不同的檔需要完全不同的處理方式,而這個網路是不斷變化的,隨時會有新檔案類型出現的叮能。 而要完成對新類型的處理,最簡單的方法就是給新類型編寫新的外掛程式,然後將外掛程式直接交由管理程式來管理。 同時這個外掛程式的編寫最好是由新檔案格式的製造者自行完成,通常只有製造者才最瞭解新格式定義的意義。

seo面對的是搜尋引擎,而編目程式是其核心所在,因此瞭解和掌握蜘蛛原理對我們做seo更為重要,博百優現在排名,沒有什麼變化,等待更新變化了,今天訪了博百優排名第二的陳進賢,等會和大家在分享。

寫此文實屬自己不易,轉載請注明出處:HTTP://www.51bobaiyou.com/post/49.html

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.