资源与工具/Robots.txt 规则测试器
工作台 / 免费工具

Robots.txt 规则测试器

使用粘贴的 robots.txt 规则测试 URL,查看匹配行,并理解结果。

✓ 无需注册✓ 在浏览器内运行✓ 不上传输入

可以追溯的规则检查。

粘贴需要检查的纯文本规则,输入完整的 HTTP 或 HTTPS URL,并选择爬虫名称。工具会显示规则是否允许访问该 URL,以及匹配的行。空文件或没有匹配限制的 URL,会被所提供的规则允许。

结合上下文理解结果

特定 User-agent 组可以优先于通用组。路径匹配区分大小写。支持通配符 * 和路径结尾标记 $。更具体的匹配规则优先;Allow 和 Disallow 的同等匹配中,Allow 优先。解析器会合并相同代理的规则组。

结果不能证明什么

工具不会访问网站、验证爬虫身份、检查 Cloudflare 或其他防火墙,也不会读取 noindex/canonical 或确认收录。它仅用所粘贴的规则检查 URL。Sitemap、crawl-delay 等指令不决定本次允许或禁止访问的结果。

来源与方法

Robots Exclusion Protocol · RFC 9309 ↗

robots-parser 3.0.1 · MIT ↗

工具对所提供的信息执行本地检查。修改线上网站前,请核对服务商文档。

继续阅读

寻找一个好想法。

搜索本站文章 · 按 Esc 关闭