User-agent: *
Crawl-delay: 60		 	
Request-rate: 1/60              

Sitemap: http://www.marlin-janus.de/sitemap.txt

#
# ABGEWIESENE BOTS
#

# Bots die Probleme machen oder bekannt sind das sie zum Content kopieren genutzt werden

User-agent: ia_archiver
Disallow: /
 
User-agent: duggmirror
Disallow: /

User-agent: sitecheck.internetseer.com
Disallow: /

User-agent: Zealbot
Disallow: /

User-agent: SiteSnagger
Disallow: /

User-agent: Fetch
Disallow: /

User-agent: Teleport
Disallow: /

User-agent: TeleportPro
Disallow: /

User-agent: WebZIP
Disallow: /

User-agent: linko
Disallow: /

User-agent: Xenu
Disallow: /

User-agent: larbin
Disallow: /

User-agent: ZyBORG
Disallow: /

User-agent: Download Ninja
Disallow: /

User-agent: grub-client
Disallow: /

User-agent: k2spider
Disallow: /

User-agent: NPBot
Disallow: /

User-agent: WebReaper
Disallow: /