中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

爬蟲是什么?爬蟲與SEO優(yōu)化的關(guān)系?

2013-11-11    分類: 網(wǎng)站建設(shè)

  爬蟲是什么?爬蟲與SEO優(yōu)化的關(guān)系?爬蟲是否爬行你網(wǎng)站的數(shù)據(jù)網(wǎng)絡(luò)是SEO的重要因素,首先讓爬蟲你的網(wǎng)站,這是SEO最基本的原則,也是做網(wǎng)站優(yōu)化的前提,今天創(chuàng)新互聯(lián)SEO工程師就跟大家一起來探討下爬蟲是什么?爬蟲與SEO優(yōu)化的關(guān)系?

爬蟲是什么?爬蟲與SEO優(yōu)化的關(guān)系?

  一:爬蟲是什么?

  爬蟲有很多名字,比如web機(jī)器人、spider等,它是一種可以在無需人類干預(yù)的情況下自動(dòng)進(jìn)行一系列web事務(wù)處理的軟件程序。

  二:爬蟲爬行方式是什么?

  web爬蟲是一種機(jī)器人,它們會(huì)遞歸地對(duì)各種信息性的web站點(diǎn)進(jìn)行遍歷,獲取第一個(gè)web頁面,然后獲取那個(gè)頁面指向的所有的web頁面,依次類推。因特網(wǎng)搜索引擎使用爬蟲在web上游蕩,并把他們碰到的文檔全部拉回來。然后對(duì)這些文檔進(jìn)行處理,形成一個(gè)可搜索的數(shù)據(jù)庫。簡(jiǎn)單來說,網(wǎng)絡(luò)爬蟲就是搜索引擎訪問你的網(wǎng)站進(jìn)而收錄你的網(wǎng)站的一種內(nèi)容采集工具。例如:百度的網(wǎng)絡(luò)爬蟲就叫做BaiduSpider。

  三:爬蟲程序本身需要優(yōu)化的注意點(diǎn)。

  鏈接提取以及相對(duì)鏈接的標(biāo)準(zhǔn)化

  爬蟲在web上移動(dòng)的時(shí)候會(huì)不停的對(duì)HTML頁面進(jìn)行解析,它要對(duì)所解析的每個(gè)頁面上的URL鏈接進(jìn)行分析,并將這些鏈接添加到需要爬行的頁面列表中去。關(guān)于具體的方案我們可以查閱這篇文章

  避免環(huán)路的出現(xiàn)

  web爬蟲在web上爬行時(shí),要特別小心不要陷入循環(huán)之中,至少有以下三個(gè)原因,環(huán)路對(duì)爬蟲來說是有害的。

  他們會(huì)使爬蟲可能陷入可能會(huì)將其困住的循環(huán)之中。爬蟲不停的兜圈子,把所有時(shí)間都耗費(fèi)在不停獲取相同的頁面上。

  爬蟲不斷獲取相同的頁面的同時(shí),服務(wù)器段也在遭受著打擊,它可能會(huì)被擊垮,阻止所有真實(shí)用戶訪問這個(gè)站點(diǎn)。

  爬蟲本身變的毫無用處,返回?cái)?shù)百份完全相同的頁面的因特網(wǎng)搜索引擎就是這樣的例子。

  同時(shí),聯(lián)系上一個(gè)問題,由于URL“別名”的存在,即使使用了正確的數(shù)據(jù)結(jié)構(gòu),有時(shí)候也很難分辨出以前是否訪問過這個(gè)頁面,如果兩個(gè)URL看起來不一樣,但實(shí)際指向的是同一資源,就稱為互為“別名”。

  標(biāo)記為不爬取

  可以在你的網(wǎng)站中創(chuàng)建一個(gè)純文本文件robots.txt,在這個(gè)文件中聲明該網(wǎng)站中不想被蜘蛛訪問的部分,這樣,該網(wǎng)站的部分或全部?jī)?nèi)容就可以不被搜索引擎訪問和收錄了,或者可以通過robots.txt指定搜 索引擎只收錄指定的內(nèi)容。搜索引擎爬行網(wǎng)站第一個(gè)訪問的文件就是robot.txt。同樣也可以把鏈接加上rel=”nofollow”標(biāo)記。

  避免環(huán)路與循環(huán)方案

  規(guī)范化URL

  廣度優(yōu)先的爬行

  以廣度優(yōu)先的方式去訪問就可以將環(huán)路的影響最小化。

  節(jié)流

  限制一段時(shí)間內(nèi)爬蟲可以從一個(gè)web站點(diǎn)獲取的頁面數(shù)量,也可以通過節(jié)流來限制重復(fù)頁面總數(shù)和對(duì)服務(wù)器訪問的總數(shù)。

  限制URL的大小

  如果環(huán)路使URL長度增加,長度限制就會(huì)最終終止這個(gè)環(huán)路

  URL黑名單

  人工監(jiān)視

  四:基于爬蟲的工作原理,前端開發(fā)需注意的seo設(shè)置?

  1:重要內(nèi)容站點(diǎn)突出。

  合理的title、description和keywords

  雖然現(xiàn)在搜索對(duì)這三項(xiàng)的權(quán)重慢慢減小,但還是希望能夠合理的寫好他們,只寫有用的東西,不要在這里寫小說,要表達(dá)重點(diǎn)。

  title:只強(qiáng)調(diào)重點(diǎn)即可,重要關(guān)鍵詞出現(xiàn)不要超過2次,而且要靠前,每個(gè)頁面title要有所不同description:把網(wǎng)頁內(nèi)容高度概括到這里,長度要合理,不可過分堆砌關(guān)鍵詞,每個(gè)頁面description要有所不同,keywords:列舉出幾個(gè)重要關(guān)鍵詞即可,也不可過分堆砌。

  2:語義化書寫HTML代碼,符合W3C標(biāo)準(zhǔn)

  對(duì)于搜索引擎來說,最直接面對(duì)的就是網(wǎng)頁HTML代碼,如果代碼寫的語義化,搜索引擎就會(huì)很容易的讀懂該網(wǎng)頁要表達(dá)的意思。

  3:重要位置放置重要內(nèi)容。

  利用布局,把重要內(nèi)容HTML代碼放在最前。

  搜索引擎抓取HTML內(nèi)容是從上到下,利用這一特點(diǎn),可以讓主要代碼優(yōu)先讀取,讓爬蟲最先抓取。

  4:盡量避免使用js。

  重要內(nèi)容不要用JS輸出。

  爬蟲不會(huì)讀取JS里的內(nèi)容,所以重要內(nèi)容必須放在HTML里。

  5:盡量避免使用iframe框架。

  盡少使用iframe框架

  搜索引擎不會(huì)抓取到iframe里的內(nèi)容,重要內(nèi)容不要放在框架中。

  6:需要強(qiáng)調(diào)的地方可以加上title屬性

  在進(jìn)行SEO優(yōu)化時(shí),適合將alt屬性設(shè)置為圖片本來的含義,而將 ttitle屬性為設(shè)置該屬性的元素提供建議性的信息。

  7:為圖片設(shè)置尺寸。

  為圖片加上長寬

  圖片大的會(huì)排在前面一點(diǎn)。

  8:保留文字效果

  如果需要兼顧用戶體驗(yàn)和SEO效果,在必須用圖片的地方,例如個(gè)性字體的標(biāo)題,我們可以利用樣式控制,讓文本文字不會(huì)出現(xiàn)在瀏覽器上,但在網(wǎng)頁代碼中是有該標(biāo)題的。

  注意:不可使用display:none;的方法讓文字隱藏,因?yàn)樗阉饕鏁?huì)過濾掉display:none;里邊的內(nèi)容,就不會(huì)被蜘蛛檢索了。

  9:通過代碼精簡(jiǎn),云加速等方式提升網(wǎng)站打開速度。

  網(wǎng)站速度是搜索引擎排序的一個(gè)重要指標(biāo)。

  10:合理使用nofollow標(biāo)簽。

  對(duì)于指向外部網(wǎng)站的鏈接要使用rel=”nofollow”屬性告訴爬蟲不要去爬其他的頁面。

  11:圖片需使用alt標(biāo)簽。

  為圖片加上alt屬性

  alt屬性的作用是當(dāng)圖片無法顯示時(shí)以文字作為代替顯示出來,對(duì)于SEO來說,它可以令搜索引擎有機(jī)會(huì)索引你網(wǎng)站的圖片。推薦閱讀:網(wǎng)站優(yōu)化要避免陷入哪些盲區(qū)呢?

  不是說在前端開發(fā)的時(shí)候,使用了以上seo元素,網(wǎng)站就一定會(huì)優(yōu)化好,這些設(shè)置會(huì)提升網(wǎng)站對(duì)搜索引擎的友好度。seo不是單單的一個(gè)優(yōu)化要素決定的,是各個(gè)加分項(xiàng)的合集。如果每一個(gè)點(diǎn)都不差,且其中的一個(gè)乃至幾個(gè)點(diǎn)優(yōu)化優(yōu)勢(shì)特別明顯,那么相對(duì)于同等級(jí)別的網(wǎng)站,排名會(huì)更有優(yōu)勢(shì)。

  綜上所述,爬蟲在與我們呢SEO優(yōu)化工作息息相關(guān),我們做seo的要讓百度更好的喜歡我們的網(wǎng)站。讓我們的網(wǎng)站能運(yùn)營下去。就要做到讓百度爬蟲更喜歡你網(wǎng)站SEO的優(yōu)化。

當(dāng)前題目:爬蟲是什么?爬蟲與SEO優(yōu)化的關(guān)系?
文章起源:http://m.rwnh.cn/news27/4377.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站排名、企業(yè)建站、建站公司微信小程序、做網(wǎng)站網(wǎng)站設(shè)計(jì)公司

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

搜索引擎優(yōu)化
华坪县| 临西县| 晋州市| 公安县| 大理市| 化隆| 淮安市| 大关县| 孟村| 沁水县| 太康县| 明水县| 古浪县| 桃园市| 农安县| 侯马市| 丹东市| 桃园市| 黄石市| 汶川县| 凤庆县| 衢州市| 嘉禾县| 崇仁县| 沈丘县| 伊通| 六安市| 北辰区| 郁南县| 黑山县| 花莲县| 廊坊市| 易门县| 兴隆县| 雷山县| 卢龙县| 汝城县| 永年县| 涪陵区| 同德县| 棋牌|