Comprobador de Robots.txt
Obtén y analiza el archivo robots.txt de cualquier sitio web. Ve reglas por agente de usuario, encuentra URLs de sitemap y prueba si una URL está bloqueada. Gratis, sin necesidad de cuenta.
Enter a domain without protocol (e.g., example.com). Fetched via CORS proxy.
About Robots.txt Checker
Analiza el archivo robots.txt de cualquier sitio web para entender cómo se instruye a los motores de búsqueda para rastrear el sitio. Extrae reglas por agente de usuario, encuentra referencias a sitemaps y prueba rutas de URL contra reglas de bloqueo. Todo en tu navegador.
Analiza robots.txt
Extrae todas las reglas de cualquier robots.txt: directivas de agente de usuario, reglas de Permitir/Bloquear, Crawl-delay y URLs de sitemap. Tablas estructuradas por agente.
Prueba URL contra reglas
Comprueba si una ruta de URL específica sería bloqueada por las reglas de robots.txt. Ve qué regla coincide y si la ruta está permitida o bloqueada.
Descubrimiento de sitemaps
Extrae automáticamente todas las directivas de Sitemap del archivo robots.txt. Nunca te pierdas una URL de sitemap al auditar la configuración SEO de un sitio.
Vista sin procesar y resumen
Ve el robots.txt completo sin procesar junto con estadísticas estructuradas: reglas totales, agentes de usuario encontrados y referencias a sitemaps. Copia el contenido sin procesar para análisis adicional.