Generador robots.txt

Define reglas de rastreo y una ubicación de sitemap.

Generador robots.txt

Procesamiento local

Ejemplo: User-agent * y Disallow /privado/. Una regla de rastreo no protege archivos privados.

Qué es generador robots.txt

El archivo robots.txt indica a los rastreadores de los buscadores qué partes de tu web pueden visitar. Este generador crea el archivo a partir de las rutas que permitas o bloquees, e incluye la dirección de tu sitemap.

Debe guardarse en la raíz del dominio, por ejemplo tusitio.com/robots.txt.

Cómo utilizar generador robots.txt

  1. Elige el user-agent (* para todos los rastreadores).
  2. Escribe una ruta por línea en Allow y en Disallow.
  3. Añade la URL del sitemap, copia el resultado y súbelo como robots.txt a la raíz de tu web.

Un ejemplo práctico

User-agent: * y Disallow: /privado/ limitan el rastreo de esa ruta.

Para qué te sirve

  • Evitar que Google rastree la zona de administración o los resultados de búsqueda internos.
  • Indicar a los buscadores dónde está tu sitemap.
  • Bloquear el rastreo de una sección en construcción.

Preguntas frecuentes

¿Bloquear una ruta la saca de Google?

No necesariamente. Si otras webs enlazan a esa página, puede seguir apareciendo. Para que no se indexe, usa la etiqueta meta robots noindex y deja que Google pueda rastrearla.

¿Protege información privada?

No. El archivo es público y los rastreadores maliciosos lo ignoran. Protege las zonas privadas con contraseña.

¿Se guardan mis datos?

Esta herramienta procesa la información en tu navegador. No enviamos tus entradas ni archivos a un servidor.

También te puede servir

Ver todas