工作台 / 免费工具
Robots.txt 规则测试器
使用粘贴的 robots.txt 规则测试 URL,查看匹配行,并理解结果。
✓ 无需注册✓ 在浏览器内运行✓ 不上传输入
可以追溯的规则检查。
粘贴需要检查的纯文本规则,输入完整的 HTTP 或 HTTPS URL,并选择爬虫名称。工具会显示规则是否允许访问该 URL,以及匹配的行。空文件或没有匹配限制的 URL,会被所提供的规则允许。
结合上下文理解结果
特定 User-agent 组可以优先于通用组。路径匹配区分大小写。支持通配符 * 和路径结尾标记 $。更具体的匹配规则优先;Allow 和 Disallow 的同等匹配中,Allow 优先。解析器会合并相同代理的规则组。
结果不能证明什么
工具不会访问网站、验证爬虫身份、检查 Cloudflare 或其他防火墙,也不会读取 noindex/canonical 或确认收录。它仅用所粘贴的规则检查 URL。Sitemap、crawl-delay 等指令不决定本次允许或禁止访问的结果。
来源与方法
Robots Exclusion Protocol · RFC 9309 ↗
工具对所提供的信息执行本地检查。修改线上网站前,请核对服务商文档。