91麻豆精品在线观看_一级做性色a爰片久久毛片免费_zzijzzij亚洲日本少妇jizjiz_国产日产欧美欧韩在线_日本高清在线www3344

    robots文件可限制抓取網(wǎng)頁的搜索引擎蜘蛛對(duì)您網(wǎng)站的訪問。這些蜘蛛是自動(dòng)的，它們?cè)谠L問任意網(wǎng)站的網(wǎng)頁之前，都會(huì)查看是否存在阻止它們?cè)L問特定網(wǎng)頁的 robots.txt 文件。簡(jiǎn)單的說，就是在百度進(jìn)來抓取的第一時(shí)間，告訴百度指數(shù)哪些東西是可以看的，哪些東西是不能看的。只有當(dāng)您的網(wǎng)站中包含您不想讓搜索引擎編入索引的內(nèi)容時(shí)，才需要使用 robots.txt 文件。Robots協(xié)議用來告知搜索引擎哪些頁面能被抓取，哪些頁面不能被抓??；可以屏蔽一些網(wǎng)站中比較大的文件，如：圖片，音樂，視頻等，節(jié)省服務(wù)器帶寬；可以屏蔽站點(diǎn)的一些死鏈接。方便搜索引擎抓取網(wǎng)站內(nèi)容；設(shè)置網(wǎng)站地圖連接，方便引導(dǎo)蜘蛛爬取頁面。下面就來和大家說說如何利用robots文件來進(jìn)行SEO優(yōu)化。

    robots文件寫法

    User-agent: * 這里的*代表的所有的搜索引擎種類，*是一個(gè)通配符

    Disallow: /admin/ 這里定義是禁止爬尋admin目錄下面的目錄

    Disallow: /require/ 這里定義是禁止爬尋require目錄下面的目錄

    Disallow: /ABC/ 這里定義是禁止爬尋ABC目錄下面的目錄

    Disallow: /cgi-bin/*.htm 禁止訪問/cgi-bin/目錄下的所有以“.htm”為后綴的URL。

    Disallow: /*?* 禁止訪問網(wǎng)站中所有包含問號(hào) （？） 的網(wǎng)址

    Disallow: /.jpg$ 禁止抓取網(wǎng)頁所有的。jpg格式的圖片

    Disallow:/ab/adc.html 禁止爬取ab文件夾下面的adc.html文件。

    Allow: /cgi-bin/?這里定義是允許爬尋cgi-bin目錄下面的目錄

    Allow: /tmp 這里定義是允許爬尋tmp的整個(gè)目錄

    Allow: .htm$ 僅允許訪問以“.htm”為后綴的URL。

    Allow: .gif$ 允許抓取網(wǎng)頁和gif格式圖片

    Sitemap: 網(wǎng)站地圖 告訴爬蟲這個(gè)頁面是網(wǎng)站地圖

    robots文件用法

    例1. 禁止所有搜索引擎訪問網(wǎng)站的任何部分

    User-agent: *

    Disallow: /

    實(shí)例分析：淘寶網(wǎng)的 Robots.txt文件

    User-agent: Baidu百度蜘蛛

    Disallow: /

    User-agent: baidu百度蜘蛛

    Disallow: /