# # robots.txt para tu blog en WordPress. # # Primero el contenido adjunto. User-Agent: * Allow: /wp-content/uploads/ Disallow: /wp-content/plugins/ Disallow: /wp-content/themes/ Disallow: /wp-content/mobile-themes/ Disallow: /wp-includes/ Disallow: /wp-admin/ # Tambien podemos desindexar todo lo que empiece # por wp-. Es lo mismo que los Disallow de arriba pero # incluye cosas como wp-rss.php Disallow: /wp- Disallow: /comment-page-1/ Disallow: /?nomobile Disallow: /*/?nomobile Disallow: /*/*/?nomobile Disallow: /*/*/*/?nomobile Disallow: /?comments=true Disallow: /*/?comments=true Disallow: /*/*/?comments=true Disallow: /*/*/*/?comments=true Disallow: /?postcomment=true Disallow: /*/?postcomment=true Disallow: /*/*/?postcomment=true Disallow: /*/*/*/?postcomment=true Disallow: /wp-content/uploads/mp3/playlist.xml # # Sitemap permitido, busquedas no. # Sitemap: http://www.mycoctel.com/sitemap.xml.gz Disallow: /?s= Disallow: /?p= Disallow: /search # # Permitimos el feed general para Google Blogsearch. # # Impedimos que permalink/feed/ sea indexado ya que el # feed con los comentarios suele posicionarse en lugar de # la entrada y desorienta a los usuarios. # # Lo mismo con URLs terminadas en /trackback/ que solo # sirven como Trackback URI (y son contenido duplicado). # Allow: /feed/$ Disallow: /feed Disallow: /comments/feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$ Disallow: /temas-relacionados-con/$ Disallow: /palabras-claves/$ # # A partir de aqui es opcional pero recomendado. # # Lista de bots que suelen respetar el robots.txt pero rara # vez hacen un buen uso del sitio y abusan bastante... User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: /