User-agent: * Sitemap: http://dtb-shop.de/sitemap.xml # Nicht indexieren aller Dateien in folgenden Verzeichnissen Disallow: /cgi-bin/ Disallow: /wp-admin/ Disallow: /wp-includes/ Disallow: /wpcontent/themes/ Disallow: /wp-content/plugins/ Disallow: /trackback/ Disallow: /*?* Disallow: */trackback/ User-agent: Googlebot # Unterbinden der Indexierung aller Dateien mit diesen Endungen Disallow: /*.php$ Disallow: /*.js$ Disallow: /*.inc$ Disallow: /*.css$ Disallow: /*.gz$ Disallow: /*.cgi$ Disallow: /*.wmv$ Disallow: /*.png$ Disallow: /*.gif$ Disallow: /*.jpg$ Disallow: /*.cgi$ Disallow: /*.xhtml$ Disallow: /*.php* Disallow: */trackback* Disallow: /*?* Disallow: /category/ Disallow: /tag/ Disallow: /archives/ Disallow: /feed/ Disallow: /wp-* # Allow: /wp-content/uploads/ # Google Image erlauben alle Bilder zu indexieren User-agent: Googlebot-Image Allow: /* # Dem AdSense Bot erlauben die Seite zu indexieren # User-agent: Mediapartners-Google* # Disallow: /*?* # Allow: /wp-content/ # Allow: /tag/ # Allow: /category/ # Allow: /*.php$ # Allow: /*.js$ # Allow: /*.inc$ # Allow: /*.css$ # Allow: /*.gz$ # Allow: /*.cgi$ # Allow: /*.wmv$ # Allow: /*.cgi$ # Allow: /*.xhtml$ # Allow: /*.php* # Allow: /*.gif$ # Allow: /*.jpg$ # Allow: /*.png$ # Archivierung der Seite unterbinden # User-agent: ia_archiver # Disallow: / # duggmirror unterbinden User-agent: duggmirror Disallow: /