中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

齊寧:搜索引擎知識 網(wǎng)頁查重技術(shù)

2022-08-03    分類: 網(wǎng)站建設(shè)

對于搜索引擎來說,重復(fù)的網(wǎng)頁內(nèi)容是非常有害的。重復(fù)網(wǎng)頁的存在意味著這些網(wǎng)頁就要被搜索引擎多處理一次。更有害的是搜索引擎的索引制作中可能會在索引庫里索引兩份相同的網(wǎng)頁。當(dāng)有人查詢時,在搜索結(jié)果中就會出現(xiàn)重復(fù)的網(wǎng)頁鏈接。所以無論是從搜索體驗還是系統(tǒng)效率檢索質(zhì)量來說這些重負網(wǎng)頁都是有害處的。

網(wǎng)頁查重技術(shù)起源于復(fù)制檢測技術(shù),即判斷一個文件內(nèi)容是否存在抄襲、復(fù)制另外一個或多個文件的技術(shù)。

1993年Arizona大學(xué)的Manber(Google現(xiàn)副總裁、工程師)推出了一個sif工具,尋找相似文件。1995年Stanford大學(xué)的Brin(Sergey Brin,Google創(chuàng)始人之一)和Garcia-Molina等人在“數(shù)字圖書觀”工程中首次提出文本復(fù)制檢測機制COpS(Copy protection System)系統(tǒng)與相應(yīng)算法[Sergey Brin et al 1995]。之后這種檢測重復(fù)技術(shù)被應(yīng)用到搜索引擎中,基本的核心技術(shù)既比較相似。

網(wǎng)頁和簡單的文檔不同,網(wǎng)頁的特殊屬性具有內(nèi)容和格式等標記,因此在內(nèi)容和格式上的相同相似構(gòu)成了4種網(wǎng)頁相似的類型。

1、兩個頁面內(nèi)容格式完全相同。

2、兩個頁面內(nèi)容相同,但格式不同。

3、兩個頁面部分內(nèi)容相同并且格式相同。

4、兩個頁面部分重要相同但格式不同。

實現(xiàn)方法:

網(wǎng)頁查重,首先將網(wǎng)頁整理成為一個具有標題和正文的文檔,來方便查重。所以網(wǎng)頁查重又叫“文檔查重”?!拔臋n查重”一般被分為三個步驟,一、特征抽取。二、相似度計算和評價。三、消重。

1.特征抽取

我們在判斷相似物的時候,一般是才能用不變的特征進行對比,文件查重第一步也是進行特征抽取。也就是將文檔內(nèi)容分解,由若干組成文檔的特征集合表示,這一步是為了方面后面的特征比較計算相似度。

特征抽取有很多方法,我們這里主要說兩種比較經(jīng)典的算法,“I-Match算法”、“Shingle算法”。

“I-Match算法”是不依賴于完全的信息分析,而是使用數(shù)據(jù)集合的統(tǒng)計特征來抽取文檔的主要特征,將非主要特征拋棄。

“Shingle算法”通過抽取多個特征詞匯,比較兩個特征集合的相似程度實現(xiàn)文檔查重。

2.相似度計算和評價

特征抽取完畢后,就需要進行特征對比,因網(wǎng)頁查重第二步就是相似度計算和評價。

I-Match算法的特征只有一個,當(dāng)輸入一篇文檔,根據(jù)詞匯的IDF值(逆文本頻率指數(shù),Inverse document frequency縮寫為IDF)過濾出一些關(guān)鍵特征,即一篇文章中特別高和特別低頻的詞匯往往不能反應(yīng)這篇文章的本質(zhì)。因此通過文檔中去掉高頻和低頻詞匯,并且計算出這篇文檔的的Hash值(Hash簡單的說就是把數(shù)據(jù)值映射為地址。把數(shù)據(jù)值作為輸入,經(jīng)計算后即可得到地址值。),那些Hash值相同的文檔就是重復(fù)的。

Shingle算法是抽取多個特征進行比較,所以處理起來比較復(fù)雜一些,比較的方法是完全一致的Shingle個數(shù)。然后除以兩個文檔的Shingle總數(shù)減去一致的Shingle個數(shù),這種方法計算出的數(shù)值為“Jaccard 系數(shù)”,它可以判斷集合的相似度。Jaccard 系數(shù)的計算方法集合的交集除以集合的并集。

3.消重

對于刪除重復(fù)內(nèi)容,搜索引擎考慮到眾多收錄因素,所以使用了最簡單的最實用的方法。先被爬蟲抓取的頁面同時很大程度也保證了優(yōu)先保留原創(chuàng)網(wǎng)頁。

網(wǎng)頁查重工作是系統(tǒng)中不可缺少的,刪除了重復(fù)的頁面,所以搜索引擎的其他環(huán)節(jié)也會減少很多不必要的麻煩,節(jié)省了索引存儲空間、減少了查詢成本、提高了pageRank計算效率。方便了搜索引擎用戶。

本文首發(fā) 齊寧網(wǎng)絡(luò)營銷策劃 www.qi-ning.com 轉(zhuǎn)載請注明作者信息。謝謝!

齊寧 MSN: i@qining.org

網(wǎng)站題目:齊寧:搜索引擎知識 網(wǎng)頁查重技術(shù)
瀏覽地址:http://m.rwnh.cn/news29/184479.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供建站公司虛擬主機、面包屑導(dǎo)航網(wǎng)站建設(shè)、關(guān)鍵詞優(yōu)化Google

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

網(wǎng)站優(yōu)化排名
阿克| 额济纳旗| 永登县| 左权县| 银川市| 溧水县| 岑溪市| 安阳市| 嘉黎县| 马关县| 海伦市| 桃江县| 汝阳县| 双峰县| 河津市| 宣威市| 武陟县| 和林格尔县| 芦溪县| 汾阳市| 济源市| 碌曲县| 台山市| 福鼎市| 亳州市| 兴山县| 漠河县| 石嘴山市| 淮南市| 凤凰县| 阿巴嘎旗| 麻栗坡县| 防城港市| 彰武县| 二连浩特市| 巴林左旗| 深圳市| 盐池县| 泽库县| 东山县| 筠连县|