編者按：《VIP大講堂》是百度站長平臺于2014年為站長們解答建站、運(yùn)營等問題而開設(shè)的講堂，僅VIP俱樂部成員可報名參加。通過《VIP大講堂》，站長們可以從百度官方了解到最新的百度技術(shù)動態(tài)、以及百度對待站點(diǎn)的態(tài)度等內(nèi)容，還可以學(xué)習(xí)到關(guān)于搜索引擎優(yōu)化、建站、內(nèi)容建設(shè)、安全等多方面的內(nèi)容。近日，百度站長平臺發(fā)布了VIP大講堂上海站的QA內(nèi)容，主要包括Spider抓取、優(yōu)先建庫、以及網(wǎng)頁解析三個方面。

主要QA內(nèi)容如下：

問：為什么收錄量像坐過山車一樣的，還有為什么有些網(wǎng)頁今天在明天就沒了？

答：百度會周期建庫，且每個庫的收錄量是恒定的，你老是有新增，肯定會再從庫里淘汰一些，反正總是保持那個庫是滿的。在建庫的過程中，你會感覺有波動。具體的怎么篩，哪個頁面會留下哪個頁面會淘汰，這個策略是有很多的，他隨著時間的變化，收錄的標(biāo)準(zhǔn)策略也是在發(fā)生微調(diào)。

問：我們站點(diǎn)使用CDN加速會不會比較容易造成蜘蛛無法抓取？因?yàn)橛袝r候修改掉他綁定的什么東西。

答：如果要修改掉一定要通知到上一級，現(xiàn)在不存在這個問題，現(xiàn)在你如果修改掉也可以解析掉，之前可能會存在這個問題。

問：你們百度自己也有一個CDN加速，對抓錄排名有沒有影響？

答：在使用CDN加速這個問題上，我們對所有站點(diǎn)一視同仁。但我建議你使用技術(shù)能力強(qiáng)的CDN服務(wù)商，保證站點(diǎn)的穩(wěn)定和速度，百度會更喜歡。

問：剛才您說IP上的站點(diǎn)數(shù)不能太多，那CDN這種情況怎么辦？

答：CDN的情況另說，如果我們識別出來是CDN的話不會受站點(diǎn)數(shù)量的影響，如果你是提供獨(dú)立IP的話會有這樣一些問題。

問：還是IP上站點(diǎn)數(shù)量的問題，如果是主域跟二級域名呢？也受數(shù)量限制？

答：我說的是獨(dú)立域名。當(dāng)然質(zhì)量比較好的二級域名也可以認(rèn)為是獨(dú)立域名。

問：多個域名，他有相同的一些內(nèi)容，怎么建庫？

答：如果是多域名在同一個主域下面有相同內(nèi)容的話，不可能所有都建庫，而且被建庫的那個可能不是你希望的那個，所以盡量不要有相同的內(nèi)容。

問：剛才講的IP如果是多域名的話，好幾百個IP域名，現(xiàn)在我們也用了CDN，按照剛才的說法，單個IP最多抓多少？1000萬是說對站點(diǎn)還是對IP？

答：對IP，但1000萬是我舉例，不是實(shí)際的數(shù)據(jù)，這個數(shù)據(jù)不會分享出來的。

問：現(xiàn)在我的網(wǎng)站被很多蜘蛛爬，我想只讓百度蜘蛛爬，百度蜘蛛IP多少？能設(shè)白名單么？

答：百度蜘蛛IP是不斷變的，現(xiàn)在網(wǎng)上的確有一些白名單的說法，暫時是有較的，但不保證今后不會變，所以建議站點(diǎn)還是通過ua進(jìn)行判斷，我們百度站長平臺上有相關(guān)的文章，你可以找一下。

問：如果我寫robots只想禁掉動態(tài)鏈接的話，會不會影響動態(tài)參數(shù)前面正常鏈接的抓�。�

答：不會的，你原來的頁面還在，肯定會抓。

問：比如我們一個域名www.abcde.com，我們想把帶？號的url全部禁掉，首頁我們不要禁掉，怎么弄？

答：?前面有個*，后面再有個*就可以了。

問：我想了解，如果我現(xiàn)在收錄有5萬，大概多長時間才能把我原來收錄5萬重新抓取一遍？

答：不同站點(diǎn)不好說，一個是你站點(diǎn)做的很好，知名度很響更新很快質(zhì)量很好就會快；如果你的站點(diǎn)默默無聞，貢獻(xiàn)很少，可能就會很慢。

（接上個問題）

問：就是差不多的情況，大概。

答：這個沒有人能估出來。

問：百度站長平臺上有數(shù)據(jù)提交的工具，我們實(shí)時提交，你們也會實(shí)時抓取嗎？

答：不會，他會有一層判斷�，F(xiàn)在只是通知你提交成功，后面什么時候抓，什么時候建庫沒有，我們正在研究要不要把這個分享出來。

問：我網(wǎng)站有一些列表頁，都沒有鏈接，擔(dān)心百度抓不到

答：現(xiàn)在百度站長平臺的站內(nèi)搜索工具有一個綠色收錄通道，在那里提交種子頁，我們就知道的。

（接上個問題）

問：提交種子頁面必須要用站搜？

答：是的。

問：如果說頁面里url特別多的話，蜘蛛會不會有選擇性的進(jìn)行抓�。�

答：不會，他都會一個不漏給你提出來，但會把JS、CSS這樣的鏈接給過濾掉。但請注意，全部抓取過來之后會進(jìn)行篩選，并不是所有都會建庫。

問：現(xiàn)在很多網(wǎng)站都有自己的站內(nèi)搜索，都會產(chǎn)生站內(nèi)搜索結(jié)果頁，百度不喜歡搜索結(jié)果頁的話，我們用這個會不會對我們有影響？只是不喜歡還是對我們網(wǎng)站會有懲罰

答：蜘蛛會去抓，抓完之后重要是提取里面的鏈接。如果只有一兩條這樣的頁面質(zhì)量不好問題不大，如果整體質(zhì)量較差，有可能受到懲罰。

問：新出的時效性文章當(dāng)時沒有被收錄，后期是否還會被收錄？

答：會

問：站點(diǎn)每天最高爬蟲多少次？

答：這個其實(shí)說不好，有的站點(diǎn)我們一天會抓一兩千萬，有的站點(diǎn)只抓幾個、幾十個，看你的規(guī)模和質(zhì)量，而且這個抓取量也是會根據(jù)網(wǎng)站的情況進(jìn)行調(diào)整的。

問：我們的頁面本身就很大，會不會解析不出來？

答：頁面本身很大倒沒問題，趕集、安居客這些量都很大，沒有問題。我剛才說的例子，你每次都follow出來新鏈接，隨機(jī)把后面的參數(shù)去掉都不影響這個網(wǎng)頁的正常訪問，這種肯定有問題的。

問：剛才說對URL的長度有要求，那對每一段、就是目錄名的長度有沒有要求

答：沒有要求，我們是要求url從www開始到結(jié)束，總長度不超過1024個字節(jié)。

問：站內(nèi)重復(fù)內(nèi)容是怎么判斷的？文本內(nèi)容一樣結(jié)構(gòu)不一樣，算不算重復(fù)？

答：算重復(fù)

問：假設(shè)是整個頁面全是Flash，如果我把一些欄目或者最新的內(nèi)容隱藏掉，不影響美觀隱藏掉，如果用hidden屬性能不能提取出來？CSS可不可以？

答：hidden可以提出來，但如果是注釋就不會管。CSS不可以。

問：頁面大小不超過1兆，是指頁面壓縮以前還是以后。

答：指頁面壓縮以后，不要超過1兆

問：我網(wǎng)站的信息已經(jīng)過時了，但網(wǎng)頁返回的是200，會受懲罰？為什么呀？

答：用戶在搜索結(jié)果里點(diǎn)了你的結(jié)果，導(dǎo)流導(dǎo)到你的網(wǎng)站，但沒什么可看的，對用戶沒有用，百度當(dāng)然不喜歡。

問：現(xiàn)在我們很多網(wǎng)站，為了讓用戶覺得有意思，內(nèi)容沒了就放一張圖片，寫一些有意思的話，什么“工程師去哪啦”之類的，對百度友好不？

答：最好不要用，我知道站點(diǎn)是想讓百度當(dāng)內(nèi)容死鏈來識別，但內(nèi)容死鏈識別起來是有準(zhǔn)確率和召回率風(fēng)險的。

問：我們團(tuán)購網(wǎng)站的確會有過期團(tuán)購的頁面，會受懲罰嗎

答：如果量特別大、點(diǎn)擊量很大的話肯定會有懲罰的。有些可以當(dāng)內(nèi)容死鏈被分析出來，如果分析不出來，會被一些其他的策略挖出來，會有這樣的問題。

問：剛才說資訊內(nèi)容頁面，上面有個發(fā)布時間好，那如果頁面上沒有時間呢？

答：那我們往往是按當(dāng)時抓取的時間來做判定。

問：評論里面時間重要嗎。

答：百度更重視主體內(nèi)容的時間，評論不算主體內(nèi)容。

問：我們是個平臺，很多產(chǎn)品其實(shí)只是一個型號變更了，其實(shí)顏色都是一模一樣的，對蜘蛛而言僅僅只是幾個字符，會被識別為重復(fù)嗎

答：如果是一個產(chǎn)品的結(jié)構(gòu)化信息的話，應(yīng)該不會被認(rèn)為是重復(fù)。如果你是簡單內(nèi)容摘要的方式進(jìn)行介紹的話，可能會存在重復(fù)問題。

問：靜態(tài)URL和動態(tài)URL區(qū)別大嗎？

答：不大，我們現(xiàn)在認(rèn)為靜態(tài)和動態(tài)都一樣的，因?yàn)閺膗rl上面他能夠識別出來，但是抓取回來的東西不太一樣。所以現(xiàn)在認(rèn)為無論你是靜態(tài)還是動態(tài)，我們都認(rèn)為同樣都是url來對待。

標(biāo)簽： 百度站長平臺 VIP大講堂 百度VIP大講堂 

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。