大佬教程收集整理的这篇文章主要介绍了php – 如何从leechers保护我的站点地图索引文件和sitemap.xml文件?,大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。
我和Facebook一样:我动态生成站点地图索引(/sitemap.PHP).我使用DNS反向查找(PHP)和代理检查(与Stackoverflow相同)将“好”爬虫列入白名单.为了防止列入白名单的引擎使站点地图索引内容公开,我添加了该标题(Stackoverflow忘记了它):
header('Content-type: application/xml; charset="UTF-8"',truE); header('Pragma: no-cache'); header('X-Robots-Tag: NOARCHIVE');
问题2:问题来自生成的静态站点地图(.xml.gz)文件.我该如何保护他们?即使他们有一个“难以猜测”的名称,也可以通过简单的谷歌查询轻松找到它们(例如:“site:stackoverflow.com filetype:xml”),我对.htaccess的访问权限非常有限.
编辑:这不是服务器配置问题.首选语言是PHP.
以上是大佬教程为你收集整理的php – 如何从leechers保护我的站点地图索引文件和sitemap.xml文件?全部内容,希望文章能够帮你解决php – 如何从leechers保护我的站点地图索引文件和sitemap.xml文件?所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。