這是一篇關(guān)于搜索引擎排序基礎(chǔ)TF-IDF框架的普及文章，并非網(wǎng)上偶爾可見(jiàn)的一些泛泛而談甚至斷章取義的內(nèi)容，而是結(jié)合搜索引擎的理論，和自己觀察到的較多實(shí)例所總結(jié)的切實(shí)的知識(shí)。雖然可能相對(duì)比較難以理解，但相信我，這些用來(lái)理解的時(shí)間絕對(duì)是值得的。

寫(xiě)這篇文章主要是為了對(duì)后面一篇《SEO實(shí)踐》系列的文章中要提到的一些內(nèi)容先寫(xiě)好基礎(chǔ)理論，就不放到正篇里面去占用篇幅了。

本文先引用一段張俊林的《這就是搜索引擎》中對(duì)于TF-IDF框架的概述。由于原文較長(zhǎng)，這里概述下我所認(rèn)為的重點(diǎn)，或許會(huì)有概述不足之處，所以更詳細(xì)的內(nèi)容推薦看原書(shū)。

（注：“TF-IDF”或“TF*IDF”是寫(xiě)法習(xí)慣問(wèn)題，書(shū)中用的是TF*IDF，不意味著兩者之間有區(qū)別）

TF-IDF原理概述

當(dāng)用戶在搜索引擎搜索一個(gè)詞的時(shí)候，它會(huì)將詞去和索引庫(kù)內(nèi)的文檔去進(jìn)行匹配計(jì)算，將和詞語(yǔ)最相關(guān)的一定數(shù)量的文檔取出，參與后續(xù)的排名計(jì)算。此處“最相關(guān)”的量化指標(biāo)被成為“權(quán)值”，而對(duì)于絕大多數(shù)搜索引擎，權(quán)值的計(jì)算中TF*IDF框架都是比較重要的一部分。其中被主要考慮到的因子為：詞頻TF和逆文檔頻率IDF。

詞頻因子（TF）

TF計(jì)算因子代表了詞頻，即一個(gè)單詞在文檔中出現(xiàn)的次數(shù)。一般來(lái)說(shuō)，詞頻越高越顯得文檔和該詞相關(guān)，就應(yīng)該給予這個(gè)單詞更高的權(quán)重。

具體計(jì)算詞頻因子的時(shí)候，基于不同的出發(fā)點(diǎn)，可以采納不同的計(jì)算公式。最簡(jiǎn)單的方式是直接利用詞頻數(shù)，比如一個(gè)文檔中某單詞出現(xiàn)5次，它的TF值就是5。

一種詞頻因子的變體計(jì)算公式是：W = 1+log（TF）

即將詞頻數(shù)值TF取Log值來(lái)作為詞頻權(quán)值，比如單詞在文檔中出現(xiàn)4次，其詞頻因子權(quán)值為3，公式中的數(shù)字1是為了平滑計(jì)算之用。因?yàn)槿绻鸗F值為1的情況下，取Log后值為0，即本來(lái)出現(xiàn)了一次的單詞，按照這種方法計(jì)算會(huì)認(rèn)為這個(gè)單詞從來(lái)沒(méi)有在文檔中出現(xiàn)過(guò)，為了避免這種情況，采用+1的方式來(lái)進(jìn)行平滑。之所以要對(duì)詞頻取Log，是基于如下考慮：即使一個(gè)單詞出現(xiàn)了10次，也應(yīng)該在計(jì)算特征權(quán)值時(shí)，比出現(xiàn)1次的情況權(quán)值大10倍，所以加入Log機(jī)制抑制這種過(guò)大的差異。

還有種比較重要的變體計(jì)算公式將文檔的長(zhǎng)度也納入考慮。因?yàn)榕c短文檔相比的話，長(zhǎng)文檔內(nèi)所有單詞的TF值會(huì)普遍比短文檔的值高。這邊不詳提了。

逆文檔頻率因子（IDF）

IDF代表的是文檔集合范圍的一種全局因子，它只和給定的文檔集合有關(guān)，與具體文檔無(wú)關(guān)。所以IDF考慮的不是文檔本身的特征，而是特征單詞之間的相對(duì)重要性。

計(jì)算公式如下：IDF = log（N/n）

其中N代表文檔集合中總共有多少個(gè)文檔，而n代表特征單詞在其中多少個(gè)文檔中出現(xiàn)過(guò)，即文檔頻率。由公式可以，當(dāng)越多的文檔包含某個(gè)單詞時(shí)，則其IDF值越小，意味著這個(gè)詞區(qū)分不同文檔的能力越差。

TF*IDF框架

TF-IDF值的計(jì)算公式為：

Weight = TF * IDF

當(dāng)這個(gè)值越大時(shí)，文檔就與該詞越相關(guān)。

百度所實(shí)際運(yùn)用的

對(duì)于百度，TF-IDF框架自然是被運(yùn)用到的。但對(duì)于單個(gè)索引詞排名時(shí)，TF-IDF不是關(guān)鍵詞排名的決定性因素。百度的排名本質(zhì)是概率檢索模型。

根據(jù)我以前對(duì)百度上做過(guò)的簡(jiǎn)單統(tǒng)計(jì)分析，百度對(duì)于TF計(jì)算至少運(yùn)用了上述的Log平滑計(jì)算方法。除了前面提到的之外，當(dāng)一個(gè)關(guān)鍵詞的出現(xiàn)次數(shù)超過(guò)一定閾值時(shí)，其TF值會(huì)隨著出現(xiàn)次數(shù)的增多，而繼續(xù)以Log形式使排名下降。

因?yàn)橛羞@個(gè)機(jī)制存在，所以一個(gè)頁(yè)面上面每個(gè)詞的TF-IDF值是有各自不同的上限的，這對(duì)于SEO是一個(gè)很重要的概念。

可以自己用來(lái)實(shí)際體驗(yàn)TF-IDF計(jì)算的最簡(jiǎn)單方法

雖然不很確切，但先將一篇文章中某關(guān)鍵詞出現(xiàn)的次數(shù)記為T(mén)F值，另外到Google搜索該詞，將該詞的搜索結(jié)果總數(shù)量作為DF值。然后將TF除以DF，就可以得到最簡(jiǎn)單的TF-IDF值了。

盡管這樣的計(jì)算非常粗略可能沒(méi)什么實(shí)際意義，但照此實(shí)際計(jì)算一次以后就會(huì)對(duì)TF-IDF容易理解得多。

SEO衍生

舉個(gè)實(shí)例，比如“噴碼機(jī)價(jià)格”一詞，它會(huì)被百度分成“噴碼機(jī)”和“價(jià)格”二詞。（題外話，分詞與否也應(yīng)該是取決于數(shù)據(jù)而非自己直覺(jué)的，如果以后有機(jī)會(huì)我會(huì)寫(xiě)寫(xiě)自己最近用過(guò)的一些方法。但有些人常用的從百度快照來(lái)看關(guān)鍵詞高亮部分來(lái)判斷分詞，是沒(méi)有任何事實(shí)基礎(chǔ)的，沒(méi)什么價(jià)值。）

到Google去分別搜索下“噴碼機(jī)”和“價(jià)格”二詞，“噴碼機(jī)”的結(jié)果大約是20，600，000個(gè)，“價(jià)格”則對(duì)應(yīng)大約1，850，000，000個(gè)搜索結(jié)果，后者的DF值大約高前者百倍。（之所以不到百度去搜索，因?yàn)榘俣蕊@示搜索結(jié)果數(shù)量上限為1億個(gè)）

在這種情況下，哪怕“噴碼機(jī)”和“價(jià)格”二詞都在一篇文檔中出現(xiàn)相同的次數(shù)，后者也會(huì)因?yàn)镮DF因子的影響，而導(dǎo)致權(quán)值遠(yuǎn)遠(yuǎn)低于前者。

因此，一般情況下只有當(dāng)“噴碼機(jī)”這個(gè)詞權(quán)值高的頁(yè)面，才有機(jī)會(huì)在“噴碼機(jī)價(jià)格”這個(gè)詞的排名上獲得好的表現(xiàn)，和“價(jià)格”此詞權(quán)值的關(guān)系很小。因?yàn)闊o(wú)論如何，“價(jià)格”此詞的權(quán)值是不可能通過(guò)TF-IDF規(guī)則獲得太多的。

所以至少對(duì)于百度而言，想單獨(dú)做“噴碼機(jī)價(jià)格”這種詞的排名的話，一般要用“噴碼機(jī)”排名本就很高的著陸頁(yè)來(lái)做，不然相對(duì)會(huì)難的多。

最后

限于自己的SEO水平，無(wú)法妄論SEO是否應(yīng)該去對(duì)搜索引擎進(jìn)行很深入的了解，而且至少主觀角度上，我認(rèn)為SEO在搜索引擎原理里面鉆太深是意義不大的事情。但前面提到的，我想只應(yīng)該算是必須掌握的基礎(chǔ)，如果連對(duì)搜索引擎最經(jīng)典的基礎(chǔ)算法都沒(méi)有花過(guò)任何精力去了解的話，又談何與搜索引擎打交道呢？

原文地址：http://semwatch.org/2012/03/tf-idf/

標(biāo)簽： TF-IDF 蚣

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。