Sites und Crawl-Setup
Prüfe Crawl-Einstellungen und Website-Verifizierung, bevor du einen Lauf als spätere Vergleichsbasis startest.
Begrenzter Crawl
Nachvollziehbare Evidenz
Vergleichbare Verifikation
Verwalte jede auditierte Property getrennt
Eine Site gehört zu einem Workspace und bewahrt Basis-URL, Autorisierungsstatus, Crawl-Einstellungen, Zeitpläne und Historie. Nutze keine gemeinsame Site für Hosts, deren Eigentümerschaft, Technik oder Release-Prozess getrennt untersucht werden muss.
- Die aktuellen Tarifstandards erlauben 3, 5, 10 oder 50 aktive Site-Audit-Properties je Organisation.
- Die Sites-Ansicht verbindet jede Property mit ihrem neuesten aufbewahrten Lauf. Die Crawl-Daten der Zeilen können deshalb unterschiedlich alt sein.
- Eine blockierte Property kann nicht crawlen; eine unverifizierte Property bleibt auf die öffentliche Probe beschränkt.
Bestätige Site und Lauf vor jeder Auswertung
Die Site bestimmt die zulässige Property. Der Lauf bestimmt den Zeitpunkt und die gespeicherte Evidenz. Ein Wechsel des Laufs ändert den Kontext sämtlicher laufbezogener Ansichten, nicht die Daten des Laufs selbst.
Das Setup macht die Entscheidungsschritte sichtbar
Verifizierung beweist Kontrolle über die Property
Crawl Foundry unterstützt einen CMS-Meta-Tag, eine HTML-Datei im Webroot oder einen DNS-TXT-Eintrag. Die Prüfung findet auf dem Server statt. Ein Client-Zustand oder ein sichtbarer Token kann die Site nicht eigenständig als verifiziert markieren.
Die Challenge ist an Site und Methode gebunden und läuft nach sieben Tagen ab. Erzeuge bei einer abgelaufenen oder geänderten Challenge eine neue und prüfe Host, Protokoll und Auslieferung erneut.
Quick Checks sind absichtlich eng
Ein öffentlicher Check akzeptiert höchstens 100 URLs bei maximaler Tiefe zwei, respektiert robots.txt, deaktiviert Rendering und arbeitet mit niedriger Parallelität sowie mindestens einer Sekunde Abstand. Er eignet sich für eine begrenzte öffentliche Probe, nicht als Ersatz für eine autorisierte Site-Prüfung.
Definiere die Beweisgrenze vor dem Start
| Einstellung | Auswirkung |
|---|---|
| Basis-URL | Setzt Startpunkt, Protokoll und Host-Kontext. |
| URL-Limit | Begrenzt zugelassene Seiten, Evidenzumfang und potenzielle Kosten. |
| Tiefe | Begrenzt, wie weit die Entdeckung vom Startpunkt folgen darf. |
| Ein- und Ausschlüsse | Entscheiden, welche Pfade am Crawl teilnehmen. |
| Robots-Verhalten | Legt fest, wie Sperren in der Sammlung behandelt werden. |
| Rendering | Bestimmt, ob und wie geeignete Seiten zusätzlich gerendert werden. |
Workspace und Tarif setzen harte Obergrenzen
Ein vollständiger Crawl kann nie mehr als 5.000 URLs zulassen. Die aktuellen Standardgrenzen pro Crawl liegen je nach Tarif bei 500, 1.000, 2.500 oder 5.000 Seiten; die Site-Limits bei 3, 5, 10 oder 50 Properties. Wirksame Control-Plane-Werte können diese Defaults ersetzen und sind im Produkt maßgeblich.
Rendering verändert Evidenz und Kosten
Bei deaktiviertem Rendering zählt die abgerufene HTML-Antwort. Im Modus geeignet reserviert die Schätzung aktuell Rendering für 25 Prozent des URL-Limits; im Modus erforderlich für alle zugelassenen Seiten. Abgerechnet werden die tatsächlich auditierten und gerenderten Einheiten, nicht automatisch die Schätzung.
Schätzung, Reservierung und Abrechnung sind drei Zustände
Vor dem Start schätzt der Server auditierte Seitenblöcke und Rendering. Die Zulassung reserviert Balance. Nach dem terminalen Lauf werden tatsächliche Einheiten abgerechnet und ungenutzte Reservierung freigegeben, soweit der Laufzustand dies zulässt.
Starte einen Crawl bewusst
Eine gespeicherte Anfrage beweist keinen Worker-Lauf
requested, reserved, dispatch_pending, queued, crawling, analyzing und completed bezeichnen unterschiedliche Phasen. Prüfe Status, Zähler und Veröffentlichung, statt eine erfolgreiche Startanfrage als fertigen Crawl zu behandeln.
Prüfe nach Bereitstellung des Berichts Crawl-Abdeckung und Statistiken, bevor du den Health-Score interpretierst.
Aufbewahrung erhält Trends, aber nicht unbegrenzt alle Details
Die neuesten zehn terminalen Läufe und alle bis 30 Tage behalten Detaildaten. Zwischen 30 und 183 Tagen werden alte Läufe nach Vorankündigung verdichtet. Zwischen 183 und 365 Tagen bleibt je Monat ein geeigneter abgeschlossener oder ersatzweise partieller Anker. Nach 365 Tagen wird gelöscht; der neueste terminale Lauf einer Site bleibt geschützt.
Bis zu fünf Pins je Site schützen vor früher Verdichtung und brauchen einen Grund. Sie verhindern keine Löschung nach einem Jahr. Aktive Vergleiche, Exporte oder ungeklärte Abrechnung können eine Maßnahme vorübergehend aufschieben.
Archivierung beendet die normale Aufbewahrung
Für eine archivierte Site gilt nach einer siebentägigen Schonfrist die Löschung unabhängig vom Alter der Läufe. Prüfe deshalb Zeitpläne, Vergleiche, Exporte und benötigte Evidenz, bevor du archivierst. Abrechnungsnachweise werden getrennt behandelt.
Beispiel: Eigene Site und Wettbewerber einrichten
Eine Agentur fügt den Shop ihres Kunden als Meine eigene Website hinzu und verifiziert ihn per DNS-TXT-Eintrag, weil sie das DNS des Kunden verwaltet. Sie setzt ein URL-Limit, schließt den Pfad der internen Suche aus und startet nach Prüfung der Schätzung den ersten vollständigen Crawl.
Zusätzlich legt sie einen Wettbewerber als öffentliche URL an. Ohne Besitznachweis kann diese Site nur einen Quick Check ausführen, was für einen ersten Vergleich der Templates reicht.
Häufige Fragen
Wie weise ich nach, dass mir eine Website gehört?
Wähle ein CMS-Meta-Tag, eine HTML-Datei im Stammverzeichnis oder einen DNS-TXT-Eintrag. Das erzeugte Token gehört zu dieser Property und Methode und läuft normalerweise nach sieben Tagen ab.
Wie viele Seiten kann ein Crawl erfassen?
Je nach Plan ist ein Crawl auf 500, 1.000, 2.500 oder 5.000 Seiten begrenzt, 5.000 ist die feste Obergrenze. Ein öffentlicher Quick Check erfasst höchstens 100 URLs bei Tiefe zwei.
Was kostet JavaScript-Rendering?
Deaktiviert nutzt nur abgerufenes HTML. Bei geeignetem Rendering wird eine Schätzung für 25 Prozent des URL-Limits reserviert, bei erforderlichem Rendering für jede zugelassene URL. Abgerechnet werden die tatsächlich gerenderten Seiten.
Wie viele Crawls kann ich pro Monat starten?
Die aktuellen Standardwerte erlauben pro Organisation und Monat 15 vollständige Crawls und 10 öffentliche Quick Checks sowie einen aktiven vollständigen Lauf pro Site gleichzeitig.