Crawl Foundry
SEO-Arbeit

Sites und Crawl-Setup

Eine Site ist in wenigen Minuten eingerichtet: Website hinzufügen, Besitz nachweisen, Crawl-Umfang wählen und Kosten prüfen. Diese Anleitung führt durch jeden Schritt, erklärt den Unterschied zwischen vollständigem Crawl und öffentlichem Quick Check und zeigt die geltenden Grenzen.

Prüfe Crawl-Einstellungen und Website-Verifizierung, bevor du einen Lauf als spätere Vergleichsbasis startest.

Begrenzter Crawl

Halte Property, Autorisierung, Lauf und Abdeckung sichtbar.

Nachvollziehbare Evidenz

Gehe von Summen zu Regeln, URLs, Links, Assets und gespeicherten Fakten.

Vergleichbare Verifikation

Bestätige Änderungen in einem neuen Lauf mit gleichwertigem Scope.

Verwalte jede auditierte Property getrennt

Eine Site gehört zu einem Workspace und bewahrt Basis-URL, Autorisierungsstatus, Crawl-Einstellungen, Zeitpläne und Historie. Nutze keine gemeinsame Site für Hosts, deren Eigentümerschaft, Technik oder Release-Prozess getrennt untersucht werden muss.

  • Die aktuellen Tarifstandards erlauben 3, 5, 10 oder 50 aktive Site-Audit-Properties je Organisation.
  • Die Sites-Ansicht verbindet jede Property mit ihrem neuesten aufbewahrten Lauf. Die Crawl-Daten der Zeilen können deshalb unterschiedlich alt sein.
  • Eine blockierte Property kann nicht crawlen; eine unverifizierte Property bleibt auf die öffentliche Probe beschränkt.

Bestätige Site und Lauf vor jeder Auswertung

Die Site bestimmt die zulässige Property. Der Lauf bestimmt den Zeitpunkt und die gespeicherte Evidenz. Ein Wechsel des Laufs ändert den Kontext sämtlicher laufbezogener Ansichten, nicht die Daten des Laufs selbst.

Das Setup macht die Entscheidungsschritte sichtbar

1
Wähle verifizierten vollständigen Crawl oder öffentlichen Quick Check.
2
Gib Website und gewünschten Host korrekt an.
3
Schließe bei einem vollständigen Crawl die serverseitige Verifizierung ab.
4
Definiere URL-Limit, Tiefe, Pfade, Robots-Verhalten und Rendering.
5
Prüfe Zusammenfassung, Schätzung, Balance und aktive Limits vor dem Start.

Verifizierung beweist Kontrolle über die Property

Crawl Foundry unterstützt einen CMS-Meta-Tag, eine HTML-Datei im Webroot oder einen DNS-TXT-Eintrag. Die Prüfung findet auf dem Server statt. Ein Client-Zustand oder ein sichtbarer Token kann die Site nicht eigenständig als verifiziert markieren.

Die Challenge ist an Site und Methode gebunden und läuft nach sieben Tagen ab. Erzeuge bei einer abgelaufenen oder geänderten Challenge eine neue und prüfe Host, Protokoll und Auslieferung erneut.

Quick Checks sind absichtlich eng

Ein öffentlicher Check akzeptiert höchstens 100 URLs bei maximaler Tiefe zwei, respektiert robots.txt, deaktiviert Rendering und arbeitet mit niedriger Parallelität sowie mindestens einer Sekunde Abstand. Er eignet sich für eine begrenzte öffentliche Probe, nicht als Ersatz für eine autorisierte Site-Prüfung.

Definiere die Beweisgrenze vor dem Start

EinstellungAuswirkung
Basis-URLSetzt Startpunkt, Protokoll und Host-Kontext.
URL-LimitBegrenzt zugelassene Seiten, Evidenzumfang und potenzielle Kosten.
TiefeBegrenzt, wie weit die Entdeckung vom Startpunkt folgen darf.
Ein- und AusschlüsseEntscheiden, welche Pfade am Crawl teilnehmen.
Robots-VerhaltenLegt fest, wie Sperren in der Sammlung behandelt werden.
RenderingBestimmt, ob und wie geeignete Seiten zusätzlich gerendert werden.

Workspace und Tarif setzen harte Obergrenzen

Ein vollständiger Crawl kann nie mehr als 5.000 URLs zulassen. Die aktuellen Standardgrenzen pro Crawl liegen je nach Tarif bei 500, 1.000, 2.500 oder 5.000 Seiten; die Site-Limits bei 3, 5, 10 oder 50 Properties. Wirksame Control-Plane-Werte können diese Defaults ersetzen und sind im Produkt maßgeblich.

Rendering verändert Evidenz und Kosten

Bei deaktiviertem Rendering zählt die abgerufene HTML-Antwort. Im Modus geeignet reserviert die Schätzung aktuell Rendering für 25 Prozent des URL-Limits; im Modus erforderlich für alle zugelassenen Seiten. Abgerechnet werden die tatsächlich auditierten und gerenderten Einheiten, nicht automatisch die Schätzung.

Schätzung, Reservierung und Abrechnung sind drei Zustände

Vor dem Start schätzt der Server auditierte Seitenblöcke und Rendering. Die Zulassung reserviert Balance. Nach dem terminalen Lauf werden tatsächliche Einheiten abgerechnet und ungenutzte Reservierung freigegeben, soweit der Laufzustand dies zulässt.

Starte einen Crawl bewusst

1
Bestätige Property, Verifizierung und Scope.
2
Prüfe Schätzung, Balance, monatliche Quoten und Organisationskapazität.
3
Stelle sicher, dass kein anderer Lauf oder Report derselben Site aktiv ist.
4
Starte den passenden Modus und beobachte Zulassung sowie Dispatch.
5
Vertraue dem Report erst nach Datensammlung und sekundärer Veröffentlichung.

Eine gespeicherte Anfrage beweist keinen Worker-Lauf

requested, reserved, dispatch_pending, queued, crawling, analyzing und completed bezeichnen unterschiedliche Phasen. Prüfe Status, Zähler und Veröffentlichung, statt eine erfolgreiche Startanfrage als fertigen Crawl zu behandeln.

Prüfe nach Bereitstellung des Berichts Crawl-Abdeckung und Statistiken, bevor du den Health-Score interpretierst.

Aufbewahrung erhält Trends, aber nicht unbegrenzt alle Details

Die neuesten zehn terminalen Läufe und alle bis 30 Tage behalten Detaildaten. Zwischen 30 und 183 Tagen werden alte Läufe nach Vorankündigung verdichtet. Zwischen 183 und 365 Tagen bleibt je Monat ein geeigneter abgeschlossener oder ersatzweise partieller Anker. Nach 365 Tagen wird gelöscht; der neueste terminale Lauf einer Site bleibt geschützt.

Bis zu fünf Pins je Site schützen vor früher Verdichtung und brauchen einen Grund. Sie verhindern keine Löschung nach einem Jahr. Aktive Vergleiche, Exporte oder ungeklärte Abrechnung können eine Maßnahme vorübergehend aufschieben.

Archivierung beendet die normale Aufbewahrung

Für eine archivierte Site gilt nach einer siebentägigen Schonfrist die Löschung unabhängig vom Alter der Läufe. Prüfe deshalb Zeitpläne, Vergleiche, Exporte und benötigte Evidenz, bevor du archivierst. Abrechnungsnachweise werden getrennt behandelt.

Beispiel: Eigene Site und Wettbewerber einrichten

Eine Agentur fügt den Shop ihres Kunden als Meine eigene Website hinzu und verifiziert ihn per DNS-TXT-Eintrag, weil sie das DNS des Kunden verwaltet. Sie setzt ein URL-Limit, schließt den Pfad der internen Suche aus und startet nach Prüfung der Schätzung den ersten vollständigen Crawl.

Zusätzlich legt sie einen Wettbewerber als öffentliche URL an. Ohne Besitznachweis kann diese Site nur einen Quick Check ausführen, was für einen ersten Vergleich der Templates reicht.

Häufige Fragen

Wie weise ich nach, dass mir eine Website gehört?

Wähle ein CMS-Meta-Tag, eine HTML-Datei im Stammverzeichnis oder einen DNS-TXT-Eintrag. Das erzeugte Token gehört zu dieser Property und Methode und läuft normalerweise nach sieben Tagen ab.

Wie viele Seiten kann ein Crawl erfassen?

Je nach Plan ist ein Crawl auf 500, 1.000, 2.500 oder 5.000 Seiten begrenzt, 5.000 ist die feste Obergrenze. Ein öffentlicher Quick Check erfasst höchstens 100 URLs bei Tiefe zwei.

Was kostet JavaScript-Rendering?

Deaktiviert nutzt nur abgerufenes HTML. Bei geeignetem Rendering wird eine Schätzung für 25 Prozent des URL-Limits reserviert, bei erforderlichem Rendering für jede zugelassene URL. Abgerechnet werden die tatsächlich gerenderten Seiten.

Wie viele Crawls kann ich pro Monat starten?

Die aktuellen Standardwerte erlauben pro Organisation und Monat 15 vollständige Crawls und 10 öffentliche Quick Checks sowie einen aktiven vollständigen Lauf pro Site gleichzeitig.