什么是搜索引擎的Spider(蜘蛛)?

• 作者：新網
• 來源：新網
• 瀏覽：100
• 2018-02-07 16:25:02

什么是搜索引擎的Spider(蜘蛛)?現在做網站優化的管理員都知道我們得到了百度權重就是根據搜索引擎的Spider(蜘蛛)給我們網站做出的評分，這里新網小編就為大家具體分析一下什么是搜索引擎的Spider(蜘蛛)。

 什么是搜索引擎的Spider(蜘蛛)?現在做網站優化的管理員都知道我們得到了百度權重就是根據搜索引擎的Spider(蜘蛛)給我們網站做出的評分，這里新網小編就為大家具體分析一下什么是搜索引擎的Spider(蜘蛛)。

網頁內容也是有時效性的，所以Spider對不同網頁的抓取頻率也要有一定的策略性， 否則可能會使得索引庫中的內容都很陳舊，或者該更新的沒更新，不該更新的卻浪費資源更新了，甚至還會出現網頁已經被刪除了，但是該頁面還存在于搜索結果中的情況。那么Spider一 般會使用什么樣的再次抓取和更新策略呢?

再次，互聯網中的網頁總有一部分是沒有外部鏈接導入的，也就是常說的“暗網”，并且這 部分網頁也是需要呈現給廣大網民瀏覽的，此時Spider就要想方設法針對處于暗網中的網頁進 行抓取。當下百度是如何來解決這個暗網問題的呢?

最后，大型搜索引擎的Spider不可能只有一個，為了節省資源，要保證多個Spider同時作 業且抓取頁面不重復;又由于各地區數據中心分配問題，搜索引擎一般不會把Spider服務器放置在一個地區，會多地區同時作業，這兩方面就涉及分布式抓取的策略問題。那么一般搜索引 擎的Spider會采用什么樣的分布抓取策略呢?

接下來逐一介紹一般的搜索引擎Spider在面臨以上問題時采用的是什么策略，并詳細地了解一下整個搜索引擎最上游的Spider到底是如何工作的，以及一個優秀的Spider程序應該有哪些特點。

什么是搜索引擎的Spider(蜘蛛)?以上內容是新網小編為大家總結的內容，如果你也這樣認為的話，那就更好了，新網小編接下來將為大家介紹更多的此類文章，如果你感興趣的話可以接著往下看。