通过robots协议屏蔽搜索引擎抓取网站内容
有时候有些页面访问消耗性能比较高不想让搜索引擎抓取，可以在根目录下放robots.txt文件屏蔽搜索引擎或者设置搜索引擎可以抓取文件范围以及规则。Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（RobotsExclusionProtocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面...
Sitemap 文件的作用及结构推荐
搜索引擎可以通过这个时间来快速抓取到近期有改动的网页有哪些，通过与之前的索引数据对比即可起到快速更新的作用。而如果没有上次改变时间，则搜索引擎只能通过抓取或者其他途经来了解网站改动内容吗，与在sitemap文件相比，肯定是sitemap文件里声明修改时间更有效。Sitemap是什么？作用是什么？sitemap被搜索引擎用来了解网站内部...
虎课网是超过1800万用户信赖的自学平台，拥有海量设计、绘画、摄影、办公软件、职业技能等优质的高清教程视频，用户可以根据行业和兴趣爱好，自主选择学习内容，每天免费学习一个教程。
该站点未添加描述description...
桔子生活网是一个生活小常识小妙招的知识分享平台,为你分享实用生活小常识,生活小妙招,生活小窍门,百科知识大全,生活常识大全。
行测题库由中政行测在线备考平台精心整理汇编，是国内目前深受公务员考生喜欢的行测考试资料网站，优质的行测历年真题及答案解析、模拟题、行测答题技巧、行测常识资料。
