2.3 搜索引擎的工作原理

SEO人員需要了解搜索引擎的工作原理，知道它是如何工作的，才能夠更好地對(duì)網(wǎng)站進(jìn)行優(yōu)化。搜索引擎的基本工作原理包括如下四個(gè)過(guò)程：抓取建庫(kù)，檢索排序，外部投票，結(jié)果展現(xiàn)。圖2-2所示為搜索引擎工作原理流程圖。百度官方也發(fā)布了《搜索引擎工作原理》，百度從官方的角度發(fā)出了一些聲音，糾正了一些互聯(lián)網(wǎng)上對(duì)搜索引擎的誤讀。

搜索引擎蜘蛛的工作原理

圖2-2

2.3.1 抓取建庫(kù)

互聯(lián)網(wǎng)信息爆發(fā)式增長(zhǎng)，如何有效地獲取并利用這些信息是搜索引擎工作中的首要環(huán)節(jié)。數(shù)據(jù)抓取系統(tǒng)作為整個(gè)搜索系統(tǒng)中的上游，主要負(fù)責(zé)互聯(lián)網(wǎng)信息的搜集、保存、更新環(huán)節(jié)，它像蜘蛛一樣在網(wǎng)絡(luò)間爬來(lái)爬去，因此通常會(huì)被叫作“spider”。例如，我們常用的搜索引擎蜘蛛是Baiduspider、Googlebot、Sogou Web Spider等。

spider抓取系統(tǒng)是搜索引擎數(shù)據(jù)來(lái)源的重要保證，如果把Web理解為一個(gè)有向圖，那么spider的工作過(guò)程可以認(rèn)為是對(duì)這個(gè)有向圖的遍歷。從一些重要的種子URL開(kāi)始，通過(guò)頁(yè)面上的超鏈接關(guān)系，不斷發(fā)現(xiàn)新URL并抓取，盡最大可能抓取到更多有價(jià)值的網(wǎng)頁(yè)。對(duì)于類(lèi)似百度這樣的大型spider系統(tǒng)，因?yàn)槊繒r(shí)每刻都存在網(wǎng)頁(yè)被修改、刪除或出現(xiàn)新的超鏈接的可能，因此，還要對(duì)spider過(guò)去抓取過(guò)的頁(yè)面保持更新，維護(hù)一個(gè)URL庫(kù)和頁(yè)面庫(kù)。

圖2-3所示為spider抓取系統(tǒng)的基本框架圖，其中包括鏈接存儲(chǔ)系統(tǒng)、鏈接選取系統(tǒng)、DNS解析服務(wù)系統(tǒng)、抓取調(diào)度系統(tǒng)、網(wǎng)頁(yè)分析系統(tǒng)、鏈接提取系統(tǒng)、鏈接分析系統(tǒng)、網(wǎng)頁(yè)存儲(chǔ)系統(tǒng)。Baiduspider通過(guò)這種系統(tǒng)的通力合作，完成對(duì)互聯(lián)網(wǎng)頁(yè)面的抓取工作。

圖2-3

1.抓取策略類(lèi)型

圖2-3看似簡(jiǎn)單，其實(shí)Baiduspider在抓取過(guò)程中面對(duì)的是一個(gè)超級(jí)復(fù)雜的網(wǎng)絡(luò)環(huán)境，為了使系統(tǒng)可以抓取到盡可能多的有價(jià)值的資源，并保持系統(tǒng)及實(shí)際環(huán)境中頁(yè)面的一致性，同時(shí)不給網(wǎng)站體驗(yàn)造成壓力，須設(shè)計(jì)多種復(fù)雜的抓取策略。下面作一簡(jiǎn)單介紹：

（1）抓取友好性

互聯(lián)網(wǎng)資源龐大的數(shù)量級(jí)，要求抓取系統(tǒng)盡可能地高效利用帶寬，在有限的硬件和帶寬資源下盡可能多地抓取到有價(jià)值的資源。這就造成另一個(gè)問(wèn)題：耗費(fèi)被抓網(wǎng)站的帶寬造成訪問(wèn)壓力，如果程度過(guò)大，將直接影響被抓網(wǎng)站的正常用戶(hù)訪問(wèn)行為。因此，在抓取過(guò)程中就要進(jìn)行一定的抓取壓力控制，達(dá)到既不影響網(wǎng)站的正常用戶(hù)訪問(wèn)，又能盡量多地抓取到有價(jià)值資源的目的。

通常，最基本的是基于IP的壓力控制。因?yàn)槿绻谟蛎赡艽嬖谝粋€(gè)域名對(duì)多個(gè)IP（很多大網(wǎng)站）或多個(gè)域名對(duì)應(yīng)同一個(gè)IP（小網(wǎng)站共享IP）的問(wèn)題。實(shí)際中，往往根據(jù)IP及域名的多種條件進(jìn)行壓力調(diào)配控制。同時(shí)，站長(zhǎng)平臺(tái)也推出了壓力反饋工具，站長(zhǎng)可以人工調(diào)配對(duì)自己網(wǎng)站的抓取壓力，這時(shí)百度spider將優(yōu)先按照站長(zhǎng)的要求進(jìn)行抓取壓力控制。

對(duì)同一站點(diǎn)的抓取速度控制一般分為兩類(lèi)：其一，一段時(shí)間內(nèi)的抓取頻率；其二，一段時(shí)間內(nèi)的抓取流量。同一站點(diǎn)不同的時(shí)間抓取速度也不同。例如，夜晚抓取的可能就會(huì)快一些，也視具體站點(diǎn)類(lèi)型而定，主要思想是錯(cuò)開(kāi)正常用戶(hù)訪問(wèn)高峰，不斷調(diào)整。對(duì)于不同站點(diǎn)，也需要不同的抓取速度。

（2）常用抓取返回碼示意

下面簡(jiǎn)單介紹幾種百度支持的返回碼。

①最常見(jiàn)的404代表“NOT FOUND”，認(rèn)為網(wǎng)頁(yè)已經(jīng)失效，通常將在庫(kù)中刪除，同時(shí)短期內(nèi)如果spider再次發(fā)現(xiàn)這條URL，也不會(huì)抓取。

②503代表“Service Unavailable”，認(rèn)為網(wǎng)頁(yè)臨時(shí)不可訪問(wèn)，通常網(wǎng)站臨時(shí)關(guān)閉，帶寬有限等會(huì)產(chǎn)生這種情況。對(duì)于網(wǎng)頁(yè)返回503狀態(tài)碼，百度spider不會(huì)把這條URL直接刪除，同時(shí)短期內(nèi)將會(huì)反復(fù)訪問(wèn)幾次，如果網(wǎng)頁(yè)已恢復(fù)，則正常抓取；如果繼續(xù)返回503，那么這條URL仍會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

③403代表“Forbidden”，認(rèn)為網(wǎng)頁(yè)目前禁止訪問(wèn)。如果是新URL，spider暫時(shí)不抓取，短期內(nèi)同樣會(huì)反復(fù)訪問(wèn)幾次；如果是已收錄URL，不會(huì)直接刪除，短期內(nèi)同樣反復(fù)訪問(wèn)幾次。如果網(wǎng)頁(yè)正常訪問(wèn)，則正常抓取；如果仍然禁止訪問(wèn)，那么這條URL也會(huì)被認(rèn)為是失效鏈接，從庫(kù)中刪除。

④301代表“Moved Permanently”，認(rèn)為網(wǎng)頁(yè)重定向至新URL。當(dāng)遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí)，推薦使用301返回碼，同時(shí)使用站長(zhǎng)平臺(tái)網(wǎng)站改版工具，以減少改版對(duì)網(wǎng)站流量造成的損失。

（3）多種URL重定向的識(shí)別

互聯(lián)網(wǎng)中的一部分網(wǎng)頁(yè)因?yàn)楦鞣N各樣的原因存在URL重定向狀態(tài)，為了對(duì)這部分資源正常抓取，要求spider對(duì)URL重定向進(jìn)行識(shí)別判斷，同時(shí)防止作弊行為。重定向可分為三類(lèi)：http 30x重定向、meta refresh重定向和js重定向。另外，百度也支持Canonical標(biāo)簽，在效果上也可以認(rèn)為是一種間接的重定向。

（4）抓取優(yōu)先級(jí)調(diào)配

由于互聯(lián)網(wǎng)資源規(guī)模巨大以及變化迅速，對(duì)于搜索引擎來(lái)說(shuō)，全部抓取到并合理地更新，保持一致性幾乎是不可能的事情，因此要求抓取系統(tǒng)設(shè)計(jì)一套合理的抓取優(yōu)先級(jí)調(diào)配策略，主要包括深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì)化分享指導(dǎo)策略等。每個(gè)策略各有優(yōu)劣，在實(shí)際情況中往往是多種策略結(jié)合使用，以達(dá)到最優(yōu)的抓取效果。

（5）重復(fù)URL的過(guò)濾

spider在抓取過(guò)程中需要判斷一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了，如果還沒(méi)有抓取，再進(jìn)行抓取網(wǎng)頁(yè)的行為，并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及最核心的是快速查找并對(duì)比，同時(shí)涉及URL歸一化識(shí)別。例如，一個(gè)URL中包含大量無(wú)效參數(shù)，而實(shí)際是同一個(gè)頁(yè)面，這將視為同一個(gè)URL來(lái)對(duì)待。

（6）暗網(wǎng)數(shù)據(jù)的獲取

互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時(shí)無(wú)法抓取到的數(shù)據(jù)，被稱(chēng)為暗網(wǎng)數(shù)據(jù)。一方面，很多網(wǎng)站的大量數(shù)據(jù)存在于網(wǎng)絡(luò)數(shù)據(jù)庫(kù)中，spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內(nèi)容；另一方面，由于網(wǎng)絡(luò)環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等問(wèn)題，也會(huì)造成搜索引擎無(wú)法抓取。目前，對(duì)于暗網(wǎng)數(shù)據(jù)的獲取，主要思路仍然是通過(guò)開(kāi)放平臺(tái)采用數(shù)據(jù)提交的方式來(lái)解決，如“百度站長(zhǎng)平臺(tái)”“百度開(kāi)放平臺(tái)”等。

（7）抓取反作弊

spider在抓取過(guò)程中往往會(huì)遇到所謂抓取黑洞，或者面臨大量低質(zhì)量頁(yè)面的困擾，這就要求抓取系統(tǒng)中同樣需要設(shè)計(jì)一套完善的抓取反作弊系統(tǒng)。例如，分析URL特征、分析頁(yè)面大小及內(nèi)容、分析站點(diǎn)規(guī)模對(duì)應(yīng)抓取規(guī)模等。

2.網(wǎng)絡(luò)協(xié)議

剛才提到百度搜索引擎會(huì)涉及復(fù)雜的抓取策略。其實(shí)，搜索引擎與資源提供者之間存在相互依賴(lài)的關(guān)系，其中搜索引擎需要站長(zhǎng)為其提供資源，否則搜索引擎就無(wú)法滿(mǎn)足用戶(hù)檢索需求；而站長(zhǎng)需要通過(guò)搜索引擎將自己的內(nèi)容推廣出去，獲取更多的受眾。spider抓取系統(tǒng)直接涉及互聯(lián)網(wǎng)資源提供者的利益，為了使搜素引擎與站長(zhǎng)能夠達(dá)到雙贏，在抓取過(guò)程中雙方必須遵守一定的規(guī)范，以便于雙方的數(shù)據(jù)處理及對(duì)接。這種過(guò)程中遵守的規(guī)范也就是日常中我們所說(shuō)的一些網(wǎng)絡(luò)協(xié)議。

下面簡(jiǎn)單列舉一些常用的協(xié)議：

http協(xié)議：超文本傳輸協(xié)議，是互聯(lián)網(wǎng)上應(yīng)用最廣泛的一種網(wǎng)絡(luò)協(xié)議，客戶(hù)端和服務(wù)器端請(qǐng)求和應(yīng)答的標(biāo)準(zhǔn)。客戶(hù)端一般情況是指終端用戶(hù)，服務(wù)器端指網(wǎng)站。終端用戶(hù)通過(guò)瀏覽器、蜘蛛等向服務(wù)器指定端口發(fā)送http請(qǐng)求。發(fā)送http請(qǐng)求會(huì)返回對(duì)應(yīng)的httpheader信息，可以看到包括是否成功、服務(wù)器類(lèi)型、網(wǎng)頁(yè)最近更新時(shí)間等內(nèi)容。

https協(xié)議：實(shí)際是加密版http，一種更加安全的數(shù)據(jù)傳輸協(xié)議。

UA屬性：UA即用戶(hù)代理（User Agent），是http協(xié)議中的一個(gè)屬性，代表了終端的身份，向服務(wù)器端表明我是誰(shuí)、來(lái)干嗎，進(jìn)而服務(wù)器端可以根據(jù)不同的身份做出不同的反饋結(jié)果。

robots協(xié)議：robots.txt是搜索引擎訪問(wèn)一個(gè)網(wǎng)站時(shí)要訪問(wèn)的第一個(gè)文件，用以確定哪些是被允許抓取的、哪些是被禁止抓取的。robots.txt必須放在網(wǎng)站根目錄下，且文件名要小寫(xiě)。詳細(xì)的robots.txt寫(xiě)法可參考http://www.robotstxt.org。百度嚴(yán)格按照robots協(xié)議執(zhí)行，另外，同樣支持網(wǎng)頁(yè)內(nèi)容中添加的名為robots的meta標(biāo)簽，index、follow、nofollow等指令（將在本書(shū)第6.4節(jié)詳細(xì)介紹Robots）。

3.抓取頻次原則

Baiduspider根據(jù)上述網(wǎng)站設(shè)置的協(xié)議對(duì)站點(diǎn)頁(yè)面進(jìn)行抓取，但是不可能做到對(duì)所有站點(diǎn)一視同仁，會(huì)綜合考慮站點(diǎn)實(shí)際情況確定一個(gè)抓取配額，每天定量抓取站點(diǎn)內(nèi)容，即我們常說(shuō)的抓取頻次。那么，百度搜索引擎是根據(jù)什么指標(biāo)來(lái)確定對(duì)一個(gè)網(wǎng)站的抓取頻次的呢，主要指標(biāo)有以下4個(gè)：

（1）網(wǎng)站更新頻率。更新快多來(lái)，更新慢少來(lái)，直接影響B(tài)aiduspider的來(lái)訪頻率。

（2）網(wǎng)站更新質(zhì)量。更新頻率提高了，僅僅是吸引了Baiduspider的注意。Baiduspider對(duì)質(zhì)量是有嚴(yán)格要求的，如果網(wǎng)站每天更新出的大量?jī)?nèi)容都被Baiduspider判定為低質(zhì)頁(yè)面，依然沒(méi)有意義。

（3）連通度。網(wǎng)站應(yīng)該安全穩(wěn)定、對(duì)Baiduspider保持暢通，經(jīng)常給Baiduspider吃閉門(mén)羹可不是好事情。

（4）站點(diǎn)評(píng)價(jià)。百度搜索引擎對(duì)每個(gè)站點(diǎn)都會(huì)有一個(gè)評(píng)價(jià)，且這個(gè)評(píng)價(jià)會(huì)根據(jù)站點(diǎn)的情況不斷變化，是百度搜索引擎對(duì)站點(diǎn)的一個(gè)基礎(chǔ)打分（絕非外界所說(shuō)的百度權(quán)重），是百度內(nèi)部一個(gè)非常機(jī)密的數(shù)據(jù)。站點(diǎn)評(píng)級(jí)從不獨(dú)立使用，會(huì)配合其他因子和閾值一起共同影響網(wǎng)站的抓取和排序。

抓取頻次間接決定著網(wǎng)站有多少頁(yè)面有可能被建庫(kù)收錄，如此重要的數(shù)值如果不符合站長(zhǎng)預(yù)期，該如何調(diào)整呢？百度站長(zhǎng)平臺(tái)提供了抓取頻次工具（http://zhanzhang.baidu.com/pressure/index），并已完成多次升級(jí)。該工具除了提供抓取統(tǒng)計(jì)數(shù)據(jù)外，還提供“頻次調(diào)整”功能，站長(zhǎng)根據(jù)實(shí)際情況向百度站長(zhǎng)平臺(tái)提出希望Baiduspider增加來(lái)訪或減少來(lái)訪的請(qǐng)求，工具會(huì)根據(jù)站長(zhǎng)的意愿和實(shí)際情況進(jìn)行調(diào)整。

4.抓取異常的原因

有一些網(wǎng)頁(yè)，內(nèi)容優(yōu)質(zhì)，用戶(hù)也可以正常訪問(wèn)，但是Baiduspider卻無(wú)法正常訪問(wèn)并抓取，造成搜索結(jié)果覆蓋率缺失，對(duì)百度搜索引擎、對(duì)站點(diǎn)都是一種損失，百度把這種情況叫“抓取異常”。對(duì)于大量?jī)?nèi)容無(wú)法正常抓取的網(wǎng)站，百度搜索引擎會(huì)認(rèn)為網(wǎng)站存在用戶(hù)體驗(yàn)上的缺陷，并降低對(duì)網(wǎng)站的評(píng)價(jià)，在抓取、索引、排序上都會(huì)受到一定程度的負(fù)面影響，最終影響到網(wǎng)站從百度獲取的流量。

下面介紹一些常見(jiàn)的抓取異常的原因。

（1）服務(wù)器連接異常。服務(wù)器連接異常會(huì)有兩種情況。一種是站點(diǎn)不穩(wěn)定，Baiduspider嘗試連接網(wǎng)站的服務(wù)器時(shí)出現(xiàn)暫時(shí)無(wú)法連接的情況；另一種是Baiduspider一直無(wú)法連接上網(wǎng)站的服務(wù)器。

造成服務(wù)器連接異常的原因通常是網(wǎng)站服務(wù)器過(guò)大，超負(fù)荷運(yùn)轉(zhuǎn)。也有可能是網(wǎng)站運(yùn)行不正常，請(qǐng)檢查網(wǎng)站的Web服務(wù)器（如apache、iis）是否安裝且正常運(yùn)行，并使用瀏覽器檢查主要頁(yè)面能否正常訪問(wèn)。網(wǎng)站和主機(jī)還可能阻止了Baiduspider的訪問(wèn)，需要檢查網(wǎng)站和主機(jī)的防火墻。

（2）網(wǎng)絡(luò)運(yùn)營(yíng)商異常。網(wǎng)絡(luò)運(yùn)營(yíng)商分電信和聯(lián)通兩種，Baiduspider通過(guò)電信或網(wǎng)通無(wú)法訪問(wèn)網(wǎng)站。如果出現(xiàn)這種情況，需要與網(wǎng)絡(luò)服務(wù)運(yùn)營(yíng)商進(jìn)行聯(lián)系，或者購(gòu)買(mǎi)擁有雙線(xiàn)服務(wù)的空間或者購(gòu)買(mǎi)cdn服務(wù)。

（3）DNS異常。當(dāng)Baiduspider無(wú)法解析網(wǎng)站的IP時(shí)，會(huì)出現(xiàn)DNS異常。可能是網(wǎng)站IP地址錯(cuò)誤，或者域名服務(wù)商把Baiduspider封禁。請(qǐng)使用WHOIS或者h(yuǎn)ost查詢(xún)自己網(wǎng)站的IP地址是否正確且可解析，如果不正確或無(wú)法解析，請(qǐng)與域名注冊(cè)商聯(lián)系，更新IP地址。

（4）IP封禁。限制網(wǎng)絡(luò)的出口IP地址，禁止該IP段的使用者進(jìn)行內(nèi)容訪問(wèn)，這里特指封禁了Baiduspider IP。當(dāng)網(wǎng)站不希望Baiduspider訪問(wèn)時(shí)，才需要該設(shè)置，如果希望Baiduspider訪問(wèn)網(wǎng)站，請(qǐng)檢查相關(guān)設(shè)置中是否誤添了Baiduspider IP。也有可能是網(wǎng)站所在的空間服務(wù)商把百度IP進(jìn)行了封禁，這時(shí)需要聯(lián)系服務(wù)商更改設(shè)置。

（5）UA封禁。服務(wù)器通過(guò)UA識(shí)別訪問(wèn)者的身份。當(dāng)網(wǎng)站針對(duì)指定UA的訪問(wèn)，返回異常頁(yè)面（如403，500）或跳轉(zhuǎn)到其他頁(yè)面的情況，即為UA封禁。當(dāng)網(wǎng)站不希望Baiduspider訪問(wèn)時(shí)，才需要該設(shè)置，如果您希望Baiduspider訪問(wèn)您的網(wǎng)站，useragent相關(guān)的設(shè)置中是否有Baiduspider UA，并及時(shí)修改。

（6）死鏈。頁(yè)面已經(jīng)無(wú)效，無(wú)法對(duì)用戶(hù)提供任何有價(jià)值信息的頁(yè)面就是死鏈接，包括協(xié)議死鏈和內(nèi)容死鏈兩種形式。

協(xié)議死鏈。頁(yè)面的tcp狀態(tài)、http狀態(tài)明確表示的死鏈，常見(jiàn)的如404、403、503狀態(tài)等。

內(nèi)容死鏈。服務(wù)器返回狀態(tài)是正常的，但內(nèi)容已經(jīng)變更為不存在、已刪除或需要權(quán)限等與原內(nèi)容無(wú)關(guān)的信息頁(yè)面。

對(duì)于死鏈，建議站點(diǎn)使用協(xié)議死鏈，并通過(guò)百度站長(zhǎng)平臺(tái)——死鏈工具向百度提交，以便百度更快地發(fā)現(xiàn)死鏈，減少死鏈對(duì)用戶(hù)以及搜索引擎造成的負(fù)面影響。

（7）異常跳轉(zhuǎn)。將網(wǎng)絡(luò)請(qǐng)求重新指向其他位置即為跳轉(zhuǎn)。異常跳轉(zhuǎn)指的是以下幾種情況：

①當(dāng)前該頁(yè)面為無(wú)效頁(yè)面（如內(nèi)容已刪除、死鏈等），直接跳轉(zhuǎn)到前一目錄或者首頁(yè)，百度建議站長(zhǎng)將該無(wú)效頁(yè)面的入口超鏈接刪除。

②跳轉(zhuǎn)到出錯(cuò)或者無(wú)效頁(yè)面。

注意：對(duì)于長(zhǎng)時(shí)間跳轉(zhuǎn)到其他域名的情況，如網(wǎng)站更換域名，百度建議使用301跳轉(zhuǎn)協(xié)議進(jìn)行設(shè)置。

（8）其他異常。

①針對(duì)百度refer的異常：網(wǎng)頁(yè)針對(duì)來(lái)自百度的refer返回不同于正常內(nèi)容的行為。

②針對(duì)百度ua的異常：網(wǎng)頁(yè)對(duì)百度UA返回不同于頁(yè)面原內(nèi)容的行為。

③JS跳轉(zhuǎn)異常：網(wǎng)頁(yè)加載了百度無(wú)法識(shí)別的JS跳轉(zhuǎn)代碼，使得用戶(hù)通過(guò)搜索結(jié)果進(jìn)入頁(yè)面后發(fā)生了跳轉(zhuǎn)的情況。

④壓力過(guò)大引起的偶然封禁：百度會(huì)根據(jù)站點(diǎn)的規(guī)模、訪問(wèn)量等信息，自動(dòng)設(shè)定一個(gè)合理的抓取壓力。但是在異常情況下，如壓力控制失常時(shí)，服務(wù)器會(huì)根據(jù)自身負(fù)荷進(jìn)行保護(hù)性的偶然封禁。這種情況下，請(qǐng)?jiān)诜祷卮a中返回503（其含義是“Service Unavailable”），這樣Baiduspider會(huì)過(guò)段時(shí)間再來(lái)嘗試抓取這個(gè)鏈接，如果網(wǎng)站已空閑，則會(huì)被成功抓取。

5.新鏈接重要程度判斷

上面介紹了影響B(tài)aiduspider正常抓取的原因，下面介紹Baiduspider的一些判斷原則。在建庫(kù)環(huán)節(jié)前，Baiduspider會(huì)對(duì)頁(yè)面進(jìn)行初步內(nèi)容分析和鏈接分析，通過(guò)內(nèi)容分析決定該網(wǎng)頁(yè)是否需要建索引庫(kù)，通過(guò)鏈接分析發(fā)現(xiàn)更多網(wǎng)頁(yè)，再對(duì)更多網(wǎng)頁(yè)進(jìn)行抓取——分析——是否建庫(kù)&發(fā)現(xiàn)新鏈接的流程。理論上，Baiduspider會(huì)將新頁(yè)面上所有能“看到”的鏈接都抓取回來(lái)。那么，面對(duì)眾多新鏈接，Baiduspider根據(jù)以下兩個(gè)方面判斷哪個(gè)更重要。

（1）對(duì)用戶(hù)的價(jià)值

①內(nèi)容獨(dú)特，百度搜索引擎喜歡unique的內(nèi)容。

②主體突出，切不要出現(xiàn)網(wǎng)頁(yè)主體內(nèi)容不突出而被搜索引擎誤判為空短頁(yè)面不抓取的情況。

③內(nèi)容豐富。

④廣告適當(dāng)。

（2）鏈接的重要程度

①目錄層級(jí)——淺層優(yōu)先。

②鏈接在站內(nèi)的受歡迎程度。

6.優(yōu)先建重要庫(kù)原則

Baiduspider抓了多少頁(yè)面并不是最重要的，重要的是有多少頁(yè)面被建索引庫(kù)，即我們常說(shuō)的“建庫(kù)”。眾所周知，搜索引擎的索引庫(kù)是分層級(jí)的，優(yōu)質(zhì)的網(wǎng)頁(yè)會(huì)被分配到重要索引庫(kù)，普通網(wǎng)頁(yè)會(huì)待在普通庫(kù)，再差一些的網(wǎng)頁(yè)會(huì)被分配到低級(jí)庫(kù)去當(dāng)補(bǔ)充材料。目前，60%的檢索需求只調(diào)用重要索引庫(kù)即可滿(mǎn)足，這也解釋了為什么有些網(wǎng)站的收錄量超高，流量卻一直不理想。

那么，哪些網(wǎng)頁(yè)可以進(jìn)入優(yōu)質(zhì)索引庫(kù)呢？其實(shí)，總的原則就是一個(gè)：對(duì)用戶(hù)的價(jià)值，包括卻不僅限于以下4方面：

（1）有時(shí)效性且有價(jià)值的頁(yè)面。時(shí)效性和價(jià)值是并列關(guān)系，缺一不可。有些站點(diǎn)為了產(chǎn)生時(shí)效性，內(nèi)容頁(yè)面做了大量采集工作，產(chǎn)生了一堆無(wú)價(jià)值的頁(yè)面，也是百度不愿看到的。

（2）內(nèi)容優(yōu)質(zhì)的專(zhuān)題頁(yè)面。專(zhuān)題頁(yè)面的內(nèi)容不一定完全是原創(chuàng)的，即可以很好地把各方內(nèi)容整合在一起，或者增加一些新鮮的內(nèi)容，如觀點(diǎn)和評(píng)論，給用戶(hù)更豐富全面的內(nèi)容。

（3）高價(jià)值原創(chuàng)內(nèi)容頁(yè)面。百度把原創(chuàng)定義為花費(fèi)一定成本、大量經(jīng)驗(yàn)積累提取后形成的文章。千萬(wàn)不要再問(wèn)我們偽原創(chuàng)是不是原創(chuàng)。

（4）重要個(gè)人頁(yè)面。這里僅舉一個(gè)例子，科比在新浪微博開(kāi)戶(hù)了，即使他不經(jīng)常更新，但對(duì)于百度來(lái)說(shuō)，它仍然是一個(gè)極重要的頁(yè)面。

7.哪些網(wǎng)頁(yè)無(wú)法進(jìn)入索引庫(kù)

上述優(yōu)質(zhì)網(wǎng)頁(yè)進(jìn)了索引庫(kù)，其實(shí)互聯(lián)網(wǎng)上大部分網(wǎng)站根本沒(méi)有被百度收錄。并非百度沒(méi)有發(fā)現(xiàn)它們，而是在建庫(kù)前的篩選環(huán)節(jié)被過(guò)濾掉了。那么，怎樣的網(wǎng)頁(yè)在最初環(huán)節(jié)就被過(guò)濾掉了？

（1）重復(fù)內(nèi)容的網(wǎng)頁(yè)。互聯(lián)網(wǎng)上已有的內(nèi)容，百度沒(méi)必要再收錄。

（2）主體內(nèi)容空短的網(wǎng)頁(yè)。

①有些內(nèi)容使用了百度spider無(wú)法解析的技術(shù)，如JS、AJAX等，雖然用戶(hù)訪問(wèn)能看到豐富的內(nèi)容，依然會(huì)被搜索引擎拋棄。

②加載速度過(guò)慢的網(wǎng)頁(yè)，也有可能被當(dāng)作空短頁(yè)面處理。注意：廣告加載時(shí)間算在網(wǎng)頁(yè)整體加載時(shí)間內(nèi)。

③很多主體不突出的網(wǎng)頁(yè)即使被抓取回來(lái)，也會(huì)在這個(gè)環(huán)節(jié)被拋棄。

（3）部分作弊網(wǎng)頁(yè)。

2.3.2 檢索排序

用戶(hù)輸入關(guān)鍵詞進(jìn)行檢索，百度搜索引擎在排序環(huán)節(jié)要做兩方面的事情：第一，把相關(guān)的網(wǎng)頁(yè)從索引庫(kù)中提取出來(lái)；第二，把提取出來(lái)的網(wǎng)頁(yè)按照不同維度的得分進(jìn)行綜合排序。“不同維度”包括：

（1）相關(guān)性。網(wǎng)頁(yè)內(nèi)容與用戶(hù)檢索需求的匹配程度，如網(wǎng)頁(yè)包含的用戶(hù)檢查關(guān)鍵詞的個(gè)數(shù)，以及這些關(guān)鍵詞出現(xiàn)的位置；外部網(wǎng)頁(yè)指向該頁(yè)面所用的錨文本等。

（2）權(quán)威性。用戶(hù)喜歡有一定權(quán)威性網(wǎng)站提供的內(nèi)容，相應(yīng)地，百度搜索引擎也更相信優(yōu)質(zhì)權(quán)威站點(diǎn)提供的內(nèi)容。

（3）時(shí)效性。時(shí)效性結(jié)果指的是新出現(xiàn)的網(wǎng)頁(yè)，且網(wǎng)頁(yè)內(nèi)承載了新鮮的內(nèi)容。目前，時(shí)效性結(jié)果在搜索引擎中日趨重要。

（4）重要性。網(wǎng)頁(yè)內(nèi)容與用戶(hù)檢查需求匹配的重要程度或受歡迎程度。

（5）豐富度。豐富度看似簡(jiǎn)單，卻是一個(gè)覆蓋范圍非常廣的命題，可以理解為網(wǎng)頁(yè)內(nèi)容豐富，可以完全滿(mǎn)足用戶(hù)需求；也可以理解為不僅可以滿(mǎn)足用戶(hù)單一需求，還可以滿(mǎn)足用戶(hù)的延展需求。

（6）受歡迎程度。指該網(wǎng)頁(yè)是不是受歡迎。

以上便是百度搜索引擎決定搜索結(jié)果排序時(shí)考慮的六大原則。那么，六大原則的側(cè)重點(diǎn)是怎樣的呢？哪個(gè)原則在實(shí)際應(yīng)用時(shí)占比最大呢？其實(shí)，在這里沒(méi)有一個(gè)確切的答案。在百度搜索引擎早期，這些閾值的確是相對(duì)固定的，如“相關(guān)性”在整體排序中的重量可以占到七成。但隨著互聯(lián)網(wǎng)的不斷發(fā)展，檢索技術(shù)的進(jìn)步，網(wǎng)頁(yè)數(shù)量的爆發(fā)式增長(zhǎng)，相關(guān)性已經(jīng)不是難題。于是，百度搜索引擎引入了機(jī)器學(xué)習(xí)機(jī)制，讓程序自動(dòng)產(chǎn)出計(jì)算公式，推進(jìn)排序策略更加合理。

2.3.3 外部投票

“內(nèi)容為王超鏈為皇”的說(shuō)法流行了很多年，通過(guò)超鏈計(jì)算得分來(lái)體現(xiàn)網(wǎng)頁(yè)的相關(guān)性和重要性，的確曾經(jīng)是搜索引擎用來(lái)評(píng)估網(wǎng)頁(yè)的重要參考因素之一，會(huì)直接參與搜索結(jié)果排序計(jì)算。但隨著該技術(shù)被越來(lái)越多的SEO人員了解，無(wú)論是谷歌還是百度，對(duì)超鏈數(shù)據(jù)的依賴(lài)程度都越來(lái)越低。那么，現(xiàn)在超鏈發(fā)揮著怎樣的作用？

（1）吸引蜘蛛抓取。雖然百度在挖掘新好站點(diǎn)方面下了很大工夫，開(kāi)放了多個(gè)數(shù)據(jù)提交入口，開(kāi)辟了社會(huì)化發(fā)現(xiàn)渠道，但超鏈依然是發(fā)現(xiàn)收錄鏈接的最重要入口。

（2）向搜索引擎?zhèn)鬟f相關(guān)性信息。百度除了通過(guò)TITLE、頁(yè)面關(guān)鍵詞、H標(biāo)簽等對(duì)網(wǎng)頁(yè)內(nèi)容進(jìn)行判斷外，還會(huì)通過(guò)錨文本進(jìn)行鋪助判斷。使用圖片作為點(diǎn)擊入口的超鏈，也可以通過(guò)alt屬性和title標(biāo)簽向百度傳情達(dá)意。

（3）提升排名。百度搜索引擎雖然降低了對(duì)超鏈的依賴(lài)，但對(duì)超鏈的識(shí)別力度從未下降，制定出更加嚴(yán)格的優(yōu)質(zhì)鏈接、正常鏈接、垃圾鏈接和作弊鏈接標(biāo)準(zhǔn)。對(duì)于作弊鏈接，除了對(duì)鏈接進(jìn)行過(guò)濾清理外，也對(duì)鏈接的受益站進(jìn)行一定程度的懲罰。相應(yīng)地，對(duì)優(yōu)質(zhì)鏈接，百度依然持歡迎的態(tài)度。

（4）內(nèi)容分享，獲取口碑。優(yōu)質(zhì)內(nèi)容被廣泛傳播，網(wǎng)站借此獲得的流量可能并不多，但如果內(nèi)容做得足夠，也可以樹(shù)立自己的品牌效應(yīng)。

注意：本書(shū)第8章會(huì)詳細(xì)講解如何開(kāi)展外部鏈接建設(shè)。

2.3.4 結(jié)果展現(xiàn)

網(wǎng)頁(yè)經(jīng)歷了抓取建庫(kù)，參與了排序計(jì)算，最終展現(xiàn)在搜索引擎用戶(hù)面前。目前，百度搜索左側(cè)結(jié)果展現(xiàn)形式很多，如鳳巢、品牌專(zhuān)區(qū)、自然結(jié)果等，一條自然結(jié)果怎樣才能獲得更多的點(diǎn)擊，是站長(zhǎng)考慮的重要環(huán)節(jié)。

目前，自然結(jié)果里又分兩類(lèi)，第一類(lèi)即結(jié)構(gòu)化展現(xiàn)，形式多樣，目前覆蓋80%的搜索需求，即80%的關(guān)鍵詞下會(huì)出現(xiàn)這種復(fù)雜展現(xiàn)樣式，如圖2-4所示，QQ下載包含下載地址、大小、更新時(shí)間等數(shù)據(jù)；第二類(lèi)即一段摘要式展現(xiàn)，最原始的展現(xiàn)方式，只有一個(gè)標(biāo)題、兩行摘要、部分鏈接、配圖，如圖2-5所示，一般企業(yè)網(wǎng)站、資訊類(lèi)網(wǎng)站均為此展現(xiàn)方式。

圖2-4

圖2-5