Googles Web-Crawling im Fokus: Strategien und Auswirkungen laut Gary Illyes
April 3, 2024

Die Priorisierung von Googles Web-Crawling: Einblicke von Analyst Gary Illyes
Die Art und Weise, wie Suchmaschinen das Internet durchsuchen und indexieren, ist entscheidend für das Verständnis, wie Inhalte online gefunden und bewertet werden. Google, als die führende Suchmaschine, spielt dabei eine zentrale Rolle. Der Google-Analyst Gary Illyes hat kürzlich Einblicke in die Prioritäten und Methoden von Googles Web-Crawling gegeben, die für Website-Betreiber und SEO-Experten von großer Bedeutung sind.
Illyes, der in seinem LinkedIn-Profil die Mission für das Jahr angibt, weniger im Web zu crawlen, beleuchtet damit eine Entwicklung, die bereits seit einiger Zeit in der SEO-Szene diskutiert wird. Es geht um die Vermutung, dass Google im Vergleich zu früheren Jahren weniger crawlt. Illyes stellte jedoch klar, dass Google ungefähr dieselbe Menge crawlt, aber er betont die Notwendigkeit einer intelligenteren Planung und eines Fokus auf URLs, die es eher verdienen, gecrawlt zu werden.
Die Diskussion über das sogenannte "Crawl Budget", also die Annahme, dass Websites innerhalb einer begrenzten Anzahl von Seiten bleiben müssen, die Suchmaschinen täglich crawlen können, um ihre Seiten indexieren zu lassen, ist dabei ein weiterer wichtiger Punkt. Allerdings wurde dieses Konzept von Googles Search Relations-Team in einem Podcast als weitgehend mythologisch entlarvt. Stattdessen werden Crawling-Entscheidungen von Google dynamisch und basierend auf verschiedenen Faktoren getroffen.
Priorisierung des Crawlings und Suchanfragen
Die Entscheidung, wie viel Google crawlt, ist von der Suchnachfrage abhängig. Illyes erklärte in einem Podcast, dass ein Rückgang der Suchnachfrage auch zu einer Reduzierung des Crawl-Limits führen kann. Was genau unter "Suchnachfrage" verstanden wird, definierte Illyes nicht explizit, aber es bezieht sich wahrscheinlich auf die Nachfrage nach Suchanfragen aus der Perspektive von Google. Das bedeutet, wenn die Suche nach einem bestimmten Thema abnimmt, könnte Google weniger Grund haben, Websites im Zusammenhang mit diesem Thema zu crawlen.
Darüber hinaus betonte Illyes die Wichtigkeit, Suchmaschinen davon zu überzeugen, dass der Inhalt einer Website es wert ist, abgerufen zu werden. "Wenn Sie möchten, dass wir mehr crawlen, dann müssen Sie irgendwie die Suchmaschine davon überzeugen, dass Ihr Zeug es wert ist, abgerufen zu werden", so Illyes. Wie man dies erreicht, legte er nicht dar, aber eine Interpretation könnte sein, dafür zu sorgen, dass der Inhalt für die Nutzer relevant bleibt und auf dem neuesten Stand ist.
Fokus auf Qualität
Google hat bereits klargestellt, dass es kein festes "Crawl Budget" gibt. Stattdessen sind die Crawling-Entscheidungen dynamisch und werden von der Qualität des Inhalts angetrieben. "Die Planung ist sehr dynamisch. Sobald wir die Signale aus dem Suchindexing zurückbekommen, dass die Qualität des Inhalts über diese vielen URLs hinweg gestiegen ist, würden wir einfach anfangen, die Nachfrage zu steigern", so Illyes.
Der Weg nach vorne
Illyes' Mission, die Effizienz des Web-Crawlings zu verbessern, indem die Menge des Crawlings und der aufgewendeten Daten reduziert wird, ist ein Schritt hin zu einem nachhaltigeren und praktikableren Web. Er sucht dabei nach Input aus der Community und lädt zu Vorschlägen für interessante Internet-Entwürfe oder Standards von IETF oder anderen Standardisierungsorganisationen ein, die zu diesem Bemühen beitragen könnten. "Das Verringern des Crawlings ohne die Qualität des Crawlings zu opfern, würde allen zugutekommen", schließt er.
Warum dies für SEO wichtig ist
Illyes' Aussagen zur Reduzierung des Crawlings verstärken die Notwendigkeit, sich auf Qualität und Relevanz zu konzentrieren. SEO besteht nicht nur aus technischen Optimierungen, sondern auch aus der Schaffung wertvoller, nutzerzentrierter Inhalte, die die Suchnachfrage befriedigen.
Durch das Verständnis der dynamischen Natur von Googles Crawling-Entscheidungen können wir alle informiertere Entscheidungen treffen, wenn es darum geht, unsere Websites zu optimieren und Ressourcen zuzuweisen.
Wie Sie davon profitieren können
Mit den von Illyes geteilten Erkenntnissen gibt es mehrere konkrete Schritte, die Sie unternehmen können:
Qualität priorisieren: Konzentrieren Sie sich auf die Erstellung von hochwertigem, relevantem und ansprechendem Inhalt, der die Absichten der Nutzer erfüllt und mit der aktuellen Suchnachfrage übereinstimmt.
Inhalte aktuell halten: Aktualisieren und erneuern Sie regelmäßig Ihre Inhalte, um sicherzustellen, dass sie für Ihre Zielgruppe wertvoll bleiben.
Suchnachfragetrends überwachen: Passen Sie Ihre Inhaltsstrategie an, um aufkommende Trends und Themen anzusprechen, und stellen Sie sicher, dass Ihre Website relevant bleibt und es wert ist, gecrawlt zu werden.
Technische Best Practices umsetzen: Sorgen Sie dafür, dass Ihre Website eine saubere, gut strukturierte Architektur und eine robuste interne Verlinkungsstrategie hat, um effizientes Crawling und Indexieren zu erleichtern.
Wenn Sie Ihre SEO-Strategien verfeinern, denken Sie an die wichtigsten Aussagen von Illyes und an die Einblicke, die das Google Search Relations-Team bereitgestellt hat.
Mit diesen Einblicken werden Sie gerüstet sein, um erfolgreich zu sein, falls und wenn Google die Crawling-Frequenz reduziert.