使用工具

robots.txt 解析器

粘贴 robots.txt,可选输入 User-agent 和待检查路径,在浏览器本地判断 Allow/Disallow/未命中结论,列出匹配规则、规则长度、Sitemap 列表和 Crawl-delay/Host 提示。

支持 * 通配和 $ 结尾锚;仅解析粘贴文本,不远程抓取 URL,不验证 Sitemap 是否可访问,不向后端提交输入。robots.txt 是爬虫约定,不是访问控制;不要在 robots.txt 暴露敏感路径。输入上限 64 KiB。

0User-agent 组
0Allow/Disallow 规则
0Sitemap
0格式告警
等待分析 粘贴 robots.txt 后点击分析。
完整决策报告
User-agent 组 Directive 路径规则 规则长度 匹配 结论
等待分析
完整操作提示报告
完整格式告警报告
输入上限 64 KiB。仅本地解析粘贴文本,不远程抓取 URL,不验证 Sitemap。