# # robots.txt Datei fuer www.math.uni-bremen.de # # 2001 # # Aktuelle Dokumentation zum "robots.txt" Standard: # http://www.robotstxt.org # # Gilt fuer alle Browser: User-agent: * # Tarpit fuer Mailadress-Harvester # auf allen Virtual Hosts sperren # (Ordnung muss sein :-)): Disallow: /email-addresses/ Disallow: /statistik/email-addresses/ Disallow: /statistik/pages/email-addresses/ Disallow: /Math-Net/email-addresses/ Disallow: /Math-Net/pages/email-addresses/ # Auch alle Script-Verzeichnisse sperren: Disallow: /cgi-bin/ Disallow: /php-bin/ Disallow: /php/