整個(gè)互聯(lián)網(wǎng)站點(diǎn)都是由鏈接組成的，也就是說，搜索引擎蜘蛛從任何頁面最終都會爬行所有頁面。

　　當(dāng)然，網(wǎng)站和網(wǎng)頁的鏈接結(jié)構(gòu)太復(fù)雜，所以蜘蛛只能用一定的方法來抓取所有的網(wǎng)頁，據(jù)民間SEO高手了解最簡單的爬行策略有三種：

　　1 最佳優(yōu)先

　　最佳優(yōu)先搜索策略根據(jù)特定的網(wǎng)頁分析算法預(yù)測候選URL和目標(biāo)頁面之間的相似度或與主題的相關(guān)性，并選擇一個(gè)或幾個(gè)評價(jià)最佳的URL進(jìn)行爬取。它只訪問通過網(wǎng)頁分析算法預(yù)測有用的網(wǎng)頁。

　　存在的問題是，爬蟲抓取路徑上的許多相關(guān)頁面可能被忽略，因?yàn)樽顑?yōu)優(yōu)先級策略是局部最優(yōu)搜索算法，所以需要將最優(yōu)優(yōu)先級與特定應(yīng)用結(jié)合起來加以改進(jìn)，以便跳出局部最優(yōu)點(diǎn)。通過對SEO優(yōu)化網(wǎng)絡(luò)的研究，可以實(shí)現(xiàn)這種閉環(huán)調(diào)整，使無關(guān)網(wǎng)頁數(shù)量減少30%~90%。

　　2 深度優(yōu)先

　　深度首先指的是蜘蛛沿著發(fā)現(xiàn)的鏈接爬行，直到前面沒有其他鏈接，然后返回到第一頁，沿著另一個(gè)鏈接，然后直線爬行。

　　3 廣度優(yōu)先

　　Width-first是指蜘蛛發(fā)現(xiàn)頁面中有多個(gè)鏈接，不是直接沿著鏈接向前，而是沿著頁面上的所有鏈接爬行，然后沿著鏈接中找到的第二層鏈接爬向頁面的第三層。

　　從理論上講，無論是深度優(yōu)先還是廣度優(yōu)先，蜘蛛可以在足夠長的時(shí)間內(nèi)爬過整個(gè)互聯(lián)網(wǎng)。

　　在實(shí)踐中，蜘蛛的帶寬資源、時(shí)間不是無限的，也不能爬行所有的頁面，事實(shí)上，最大的搜索引擎只是爬行和收錄了互聯(lián)網(wǎng)的一小部分，當(dāng)然，并不是蜘蛛爬取的越多越好。