江西整合网络营销外包第1品牌
您的当前位置:首页 >> 行业资讯 >> 内容正文
Robots规则在搜索引擎的应用
作者:南昌做网站,南昌优化外包,南昌网络营销外包 发布时间:2014年6月19日
robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取南昌网络公司



上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分南昌网站建设



如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下南昌做网站
新派科技-掌握核心技术
版权所有 © 2004-2015 南昌新派科技有限公司 赣ICP备13006829号 技术支持:新派南昌网站建设
地址:南昌青山湖大道915号南铁世纪花园10栋2楼 未经授权禁止转载、摘编、复制或建立镜像。如有违反,追究法律责任。

南昌网络公司| 南昌网站建设| 南昌网络营销| 南昌网络营销外包| 南昌网络推广| 南昌网站优化| 南昌网站设计| 南昌seo优化| 南昌网页设计| 南昌网页制作| 南昌网站制作| 南昌网络营销公司| 南昌seo外包| 南昌优化外包| 南昌建网站| 南昌做网站| 南昌网络营销策划| 南昌手机网站建设| 南昌网站建设公司| 南昌新派科技有限公司