robots.txt 解析器
粘贴 robots.txt,检查指定爬虫与路径命中哪条规则。
支持 * 通配和 $ 结尾锚,输入上限 64 KiB。不检查 Sitemap 可达性。robots.txt 约束爬虫抓取,敏感路径仍需访问控制。
输入上限 64 KiB。
等待分析粘贴 robots.txt 后点击分析。
规则证据、Sitemap 与完整报告
0User-agent 组
0Allow/Disallow 规则
0Sitemap
0格式告警
| 行 | User-agent 组 | Directive | 路径规则 | 规则长度 | 匹配 | 结论 |
|---|---|---|---|---|---|---|
| 等待分析 | ||||||