• 傅抱石《琵琶行诗意》1.035亿元成交 2019-12-01
  • 一语惊坛(5月21日):不忘初心,将改革开放进行到底,中国梦一定实现! 2019-11-28
  • 一香港男子携女友泰国自驾游身亡 香港入境处跟进 2019-11-28
  • 注意了!报考这个专业须先参加面试 2019-11-27
  • 一只浣熊都这么努力,你还有什么理由不上进! 2019-11-27
  • 张艺谋玩起艺术与科技的碰撞 现代舞与机械臂齐登场 2019-11-26
  • 《泄密者》佘诗曼出演正义记者 追问学生:我和周秀娜谁漂亮 2019-11-26
  • 东电欲报废福岛第二核电站 开始考虑具体时间表 2019-11-22
  • 惊魂一刻!沙特国家队飞机半空中起火 2019-11-20
  • 感触名家笔下的端午文化 吃香粽原来可以这样"文艺" 2019-11-20
  • 机关党建工作巡礼——长春市直机关“两锋(风)行动” 2019-11-18
  • 《国家人文历史》杂志社荣膺“中国妇女儿童慈善奖” 2019-11-18
  • 高原净土·大美青海--旅游频道 2019-11-17
  • 晋中市直机关将开展纪念建党97周年“红色+”系列活动 2019-11-13
  • 土地是自然存在的地球的一部分,不是人类劳动成果,正如“深山老林”是自然存在的地球的一部分,不是人类劳动成果一样。懂吗? 2019-11-13
  • Jquery中文网 码报 www.okkrb.tw
    Jquery中文网 >  SEO教程  >  SEO入门  >  正文 Robots.txt指南

    码报图今天的127:Robots.txt指南

    发布时间:2019-11-11   编辑:码报 www.okkrb.tw
    jquery中文网为您提供Robots.txt指南等资源,欢迎您收藏本站,我们将为您提供最新的Robots.txt指南资源
    <script>ec(2);</script>
         当搜索引擎访问一个网站时,它首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文件。Robots.txt文件用于限定搜索引擎对其网站的访问范围,即告诉搜索引擎网站中哪些文件是允许它进行检索(下载)的。这就是大家在网络上??吹降摹熬芫鳵obots访问标准”(Robots Exclusion Standard)。下面我们简称RES。
    Robots.txt文件的格式:
      Robots.txt文件的格式比较特殊,它由记录组成。这些记录通过空行分开。其中每条记录均由两个域组成:
      1) 一个User-Agent(用户代理)字符串行;
      2) 若干Disallow字符串行。
     
      记录格式为:<field> “:“ <value>
      下面我们分别对这两个域做进一步说明。
    User-agent(用户代理):
      User-agent行(用户代理行) 用于指定搜索引擎robot的名字,以Google的检索程序Googlebot为例,有:User-agent: Googlebot
      一个robots.txt中至少要有一条User-agent记录。如果有多条User-agent记录,则说明有多个robot会受到RES标准的限制。当然了,如果要指定所有的robot,只需用一个通配符“*“就搞定了,即:User-agent: *
    Disallow(拒绝访问声明):
      在Robots.txt文件中,每条记录的第二个域是Disallow:指令行。这些Disallow行声明了该网站中不希望被访问的文件和(或)目录。例如“Disallow: email.htm“对文件的访问进行了声明,禁止Spiders下载网站上的email.htm文件。而“Disallow: /cgi-bin/“则对cgi-bin目录的访问进行了声明,拒绝Spiders进入该目录及其子目录。Disallow声明行还具有通配符功能。例如上例中“Disallow: /cgi-bin/“声明了拒绝搜索引擎对cgi-bin目录及其子目录的访问,而“Disallow:/bob“则拒绝搜索引擎对/bob.html和/bob/indes.html的访问(即无论是名为bob的文件还是名为bob的目录下的文件都不允许搜索引擎访问)。Disallow记录如果留空,则说明该网站的所有部分都向搜索引擎开放。
     
    空格 & 注释
      在robots.txt文件中,凡以“#“开头的行,均被视为注解内容,这和UNIX中的惯例是一样的。但大家需要注意两个问题:
      1) RES标准允许将注解内容放在指示行的末尾,但这种格式并不是所有的Spiders都能够支持。譬如,并不是所有的Spiders都能够正确理解“Disallow: bob #comment“这样一条指令。有的Spiders就会误解为Disallow的是“bob#comment“。最好的办法是使注解自成一行。

    码报 www.okkrb.tw 您可能感兴趣的文章:
    搜索引擎robots.txt基础写法
    shell脚本学习指南之shell变量
    写出高效jquery代码的19条指南
    jquery 入门教程 [翻译] 推荐
    Js城市三级联动的代码一例
    jquery 指南/入门基础
    js实现保存指定网页为Excel文件的代码
    shell脚本学习指南之文本排序与排重等
    JS读取与写入Cookies的方法
    实测jquery data()如何存值

    [关闭]
  • 傅抱石《琵琶行诗意》1.035亿元成交 2019-12-01
  • 一语惊坛(5月21日):不忘初心,将改革开放进行到底,中国梦一定实现! 2019-11-28
  • 一香港男子携女友泰国自驾游身亡 香港入境处跟进 2019-11-28
  • 注意了!报考这个专业须先参加面试 2019-11-27
  • 一只浣熊都这么努力,你还有什么理由不上进! 2019-11-27
  • 张艺谋玩起艺术与科技的碰撞 现代舞与机械臂齐登场 2019-11-26
  • 《泄密者》佘诗曼出演正义记者 追问学生:我和周秀娜谁漂亮 2019-11-26
  • 东电欲报废福岛第二核电站 开始考虑具体时间表 2019-11-22
  • 惊魂一刻!沙特国家队飞机半空中起火 2019-11-20
  • 感触名家笔下的端午文化 吃香粽原来可以这样"文艺" 2019-11-20
  • 机关党建工作巡礼——长春市直机关“两锋(风)行动” 2019-11-18
  • 《国家人文历史》杂志社荣膺“中国妇女儿童慈善奖” 2019-11-18
  • 高原净土·大美青海--旅游频道 2019-11-17
  • 晋中市直机关将开展纪念建党97周年“红色+”系列活动 2019-11-13
  • 土地是自然存在的地球的一部分,不是人类劳动成果,正如“深山老林”是自然存在的地球的一部分,不是人类劳动成果一样。懂吗? 2019-11-13
  • 陕西快乐10分钟任意3 甘肃十一选五任五走势 云南时时彩下载手机版 赚钱花钱话语 青海快3开奖结果今天开奖号码 黑马股票推荐11月 浙江11选5爱彩人 福彩开奖结果查询 大乐透 大富彩票网址