robots.txt文件的重要作用意义

2019-08-06
什么是robots.txt文件?
搜索引擎机器人通过链接抵达互联网上的每个网页,并抓取网页信息。搜索引擎机器人在访问一个网站时,会首先检查该网站的根目录下是否有一个叫做robots.txt的纯文本文件。当我们的网站有一些内容不想被搜索引擎收录,我们可以通过设置robots.txt文件告知搜索引擎机器人。
如果网站上没有禁止搜索引擎收录的内容,则不用设置robots.txt文件,或设置为空。
SEO的角度,robots.txt文件是一定要设置的,原因:
网站上经常存在这种情况:不同的链接指向相似的网页内容。这不符合SEO上讲的“网页内容互异性原则”。采用robots.txt文件可以屏蔽掉次要的链接。
网站改版或URL重写优化时原来不符合搜索引擎友好的链接需要全部屏蔽掉。采用robots.txt文件删除旧的链接符合搜索引擎友好。
一些没有关键词的页面,屏蔽掉更好。
一般情况下,站内的搜索结果页面屏蔽掉更好。





服务热线:0571-87998705  
地址:杭州市 拱墅区(北部软件园)祥园路39-1号 5F

Copyright © 2015-2019  杭州壹一信息技术有限公司 版权所有 浙ICP备18009611号-1

壹一信息专注互联网营销策划推广,SEO优化网站建设万词霸屏整合网络营销,为广大企业提供一站式全方位网络推广服务!