中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

網(wǎng)站的robots.txt文本有什么用處呢

2021-11-26    分類(lèi): 網(wǎng)站建設(shè)

站長(zhǎng)們?cè)?a href="http://m.rwnh.cn/" target="_blank">做網(wǎng)站優(yōu)化的時(shí)候,都會(huì)給網(wǎng)站做robots協(xié)議,什么是robots協(xié)議呢?其實(shí)說(shuō)白了就是一個(gè)txt文本,那么這個(gè)txt文本有什么用處呢?今天創(chuàng)新互聯(lián)小編來(lái)給大家說(shuō)一下。

什么是robots協(xié)議?

robots是網(wǎng)站和搜索引擎之間的一個(gè)協(xié)議。用來(lái)防止一些不想被搜索引擎索引的頁(yè)面或內(nèi)容的抓取,而且可以吧sitemap地圖的路徑放在robots協(xié)議中,這樣有助于網(wǎng)站地圖的抓取。能夠有效提高網(wǎng)站的健康度、純凈度,降低網(wǎng)站垃圾內(nèi)容收錄

robots協(xié)議怎么寫(xiě)?

robots的常用的命令一般有:

User-agent:*(這里的*代表的所有的搜索引擎種類(lèi),這句話表示可以讓所有的搜索引擎都可以訪問(wèn)抓取這個(gè)網(wǎng)站。)

Disallow:(這個(gè)表示禁止的意思,一些不想讓搜索引擎訪問(wèn)的頁(yè)面可以把路徑寫(xiě)下來(lái)。)

allow:(這個(gè)表示允許的意思,想要搜索引擎訪問(wèn)頁(yè)面可以把路徑寫(xiě)下來(lái)。)

robots協(xié)議的作用

通過(guò)我們上面的內(nèi)容,我們對(duì)robots也有了了解。當(dāng)搜索引擎王文網(wǎng)站時(shí),會(huì)優(yōu)先訪問(wèn)網(wǎng)站的robots協(xié)議,從中來(lái)獲取信息來(lái)抓取網(wǎng)站。那么如果沒(méi)有robots協(xié)議會(huì)對(duì)網(wǎng)站有什么影響呢?

1、如果沒(méi)有robots,搜索引擎蜘蛛訪問(wèn)網(wǎng)站時(shí)依舊會(huì)先訪問(wèn)robots.txt,沒(méi)有的話會(huì)返回404頁(yè)面,影響雖然不大,但是也決對(duì)不好。

2、沒(méi)有robots,搜索引擎蜘蛛默認(rèn)抓取所有內(nèi)容。這一點(diǎn)影響不是很大,但是還是取決于網(wǎng)站的內(nèi)容,如果存在很多低質(zhì)量的內(nèi)容,建議還是使用robots進(jìn)行限制比較好。

綜合上面所說(shuō)的內(nèi)容,robots協(xié)議還是加上比較好,沒(méi)有很麻煩,我們一般會(huì)把robots放在FTP的根目錄下,有助于蜘蛛的抓取。以上就是創(chuàng)新互聯(lián)小編給大家所介紹的robots協(xié)議的作用了,先要了解更多網(wǎng)站優(yōu)化的知識(shí),就持續(xù)關(guān)注我們吧。

新聞標(biāo)題:網(wǎng)站的robots.txt文本有什么用處呢
文章起源:http://m.rwnh.cn/news26/137576.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站內(nèi)鏈做網(wǎng)站、靜態(tài)網(wǎng)站、電子商務(wù)服務(wù)器托管、品牌網(wǎng)站制作

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

成都網(wǎng)站建設(shè)
布拖县| 秦皇岛市| 陈巴尔虎旗| 余姚市| 从江县| 云龙县| 新乡县| 河间市| 崇信县| 阳江市| 贡觉县| 天门市| 南昌市| 伊吾县| 宿迁市| 南康市| 门源| 松阳县| 垣曲县| 和林格尔县| 临夏县| 长乐市| 福贡县| 垦利县| 罗江县| 晋中市| 宜川县| 区。| 延庆县| 息烽县| 景德镇市| 金阳县| 麦盖提县| 武威市| 芦山县| 清苑县| 南召县| 信阳市| 达孜县| 斗六市| 荔波县|