↑ ↓ auswählen, Enter öffnen, Esc schließen

Häufigste User-Agents und Bots im Access-Log

Werte anpassen, der Befehl aktualisiert sich live
root@server
awk -F'"' '{print $6}' /var/www/vhosts/system/example.com/logs/access_ssl_log | sort | uniq -c | sort -rn | head -20

Trennt jede Logzeile an den Anführungszeichen und gibt das sechste Feld aus, im Combined-Format ist das der User-Agent. Die Liste zeigt sofort, ob Crawler wie AhrefsBot, SemrushBot oder GPTBot einen großen Teil der Zugriffe ausmachen. Daraus lassen sich gezielte Sperren in robots.txt oder im Webserver ableiten.

Auch gesucht als

  • welche Bots crawlen meine Seite
  • User Agents auswerten
  • aggressive Crawler finden
  • welcher Bot verursacht Last

Verwandte Einzeiler

Alle aus Logs

Erst lesen, dann ausführen.

Die Befehle auf myline.de greifen direkt in Server, Dateien und Datenbanken ein. Ein falscher Pfad oder Platzhalter kann Daten unwiderruflich löschen oder einen Server unerreichbar machen.

  • Alle Befehle werden ohne Gewähr bereitgestellt und sind nicht auf jedem System getestet.
  • Vor dem Ausführen verstehen, was ein Befehl tut, und jeden Platzhalter prüfen.
  • Vorher ein Backup anlegen und möglichst zuerst auf einem Testsystem ausprobieren.
  • Die Ausführung erfolgt auf eigene Verantwortung. Eine Haftung für Schäden ist ausgeschlossen, soweit gesetzlich zulässig.