Too Cool for Internet Explorer

# searchengines & markets


Archive for März, 2007

Yahoo! Slurp zieht um  0

Kategorie: Suchmaschinen, Yahoo!
28. März 2007

Yahoo!

Wie Yahoo! heute bekannt gab wird der hauseigene Crawler Slurp von inktomisearch.com auf crawl.yahoo.net umziehen. Die Bezeichnung des User-Agent “Yahoo! Slurp” wird dabei erhalten. Die IP-Adressen werden ebenfalls geändert. Nur der Reverse-DNS-Lookup wird dann die neue Adresse crawl.yahoo.net liefern.

Dies sollte man natürlich berücksichtigen sofern, man Einträge an der robots.txt vorgenommen hat oder durch eine Reverse-DNS Prüfung die Identität des Crawlers abfragt.

No tag for this post.

Add to Google
BlogHaus Blogger-Karte Google PageRank Checker Tool
Creative Commons License

This work is licensed under a Creative Commons Attribution 2.0 Germany License.
[Valid RSS]