Crawler-Dokumentation
Lerne WebAtlasBot kennen.
Der offizielle Crawler der Suchmaschine MevaSearch, der eine sichere und filterfreie Karte des Internets erstellt.
Crawler-Dokumentation
Der offizielle Crawler der Suchmaschine MevaSearch, der eine sichere und filterfreie Karte des Internets erstellt.
WebAtlasBot identifiziert sich mit folgendem User-Agent. Wir empfehlen, Anfragen per Reverse-DNS zu verifizieren.
WebAtlasBot/2.0 (+https://webatlasindex.pl/bot.php)
Der Crawler minimiert die Serverlast. Er respektiert robots.txt-Direktiven, beachtet Crawl-delay und prüft noindex-/canonical-Tags, bevor er eine Seite speichert.
Gesammelte Inhalte fließen in den WebAtlas Index ein — unsere eigene Datenbank, die von MevaSearch für Suche und semantische Analyse genutzt wird.
Blockiere oder drossle WebAtlasBot mit Standard-robots.txt-Regeln:
User-agent: WebAtlasBot
Disallow: /private/
Crawl-delay: 5
Der Bot beachtet auch das Meta-Tag <meta name="robots" content="noindex">.
WebAtlasBot sammelt Daten für die Suchmaschine MevaSearch mit Fokus auf hochwertige, edukative und technische Inhalte, um eine gegen algorithmische Manipulation resistente Wissensbasis aufzubauen.
AdultBot und WebOrbitonBot sind Schwester-Crawler desselben Projekts, betrieben vom selben Team und unterliegen denselben auf dieser Seite beschriebenen Standards.