Häufigste User-Agents und Bots im Access-Log
welche Bots crawlen meine Seite | User Agents auswerten | aggressive Crawler finden | welcher Bot verursacht Last | awk | access-log | bots | user-agentawk -F'"' '{print $6}' /var/www/vhosts/system/example.com/logs/access_ssl_log | sort | uniq -c | sort -rn | head -20Trennt jede Logzeile an den Anführungszeichen und gibt das sechste Feld aus, im Combined-Format ist das der User-Agent. Die Liste zeigt sofort, ob Crawler wie AhrefsBot, SemrushBot oder GPTBot einen großen Teil der Zugriffe ausmachen. Daraus lassen sich gezielte Sperren in robots.txt oder im Webserver ableiten.
Auch gesucht als
- welche Bots crawlen meine Seite
- User Agents auswerten
- aggressive Crawler finden
- welcher Bot verursacht Last