zblog robots.txt的正确写法,php版本

zblog robots.txt的正确写法,php版本,robots.txt作为网站的蜘蛛抓取遵循法则,里面可以自定义需要禁止的目录,以及sitemap的附属链接都可以添加

效果:

User-agent: *

Disallow: /zb_users/

Disallow: /zb_system/

Disallow: /MemberCenter

Sitemap:meishi/sitemap_index.xml

Sitemap:xx/sitemap.xml

语法就不多说Disallow 禁止,Allow 允许,Sitemap:地图

代码:


header("Content-type: text/plain");

header('HTTP/1.1 200 OK');

$str = 'User-agent: *

Disallow: /zb_users/

Disallow: /zb_system/

Disallow: /MemberCenter

';

$str .= 'Sitemap:http://' . $_SERVER['SERVER_NAME'] . '/sitemap_index.xml

';

$str .= 'Sitemap:http://' . $_SERVER['SERVER_NAME'] . '/sitemap.xml';

echo $str;

nginx 重定向配置

rewrite ^/robots.txt$ /robots.php last;

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容