GeedoBot на неизвестной платформе

GeedoBot — автоматический клиент, владелец которого по строке не указан. Обычно такие клиенты приходят на сайты для автоматического обхода страниц без участия человека.

Такие клиенты обычно запускают для сбора информации или анализа сайтов. Они приходят на сайт для автоматического обхода страниц без участия человека.

Bot Guard видел этот User-Agent на 33 сайтах из 60 подключённых (55%). Первое появление в нашей статистике: 25.10.2023, последнее: 15.02.2024. Всего за это время зафиксировано 6 636 визитов. В среднем это около 58 визитов в день за 114 дней наблюдений.

По строке определяется: название клиента — GeedoBot. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 33 сайтов, 6 636 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

Чтобы отличить бота от человека, сверьте несколько признаков: наличие заголовка Accept-Language, выполнение JavaScript, куки между запросами, скорость обхода и принадлежность IP датацентру. По одному признаку вывод делать нельзя.

Запросы этого клиента легко найти в журнале по подстроке «GeedoBot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "GeedoBot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*GeedoBot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'GeedoBot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: GeedoBot
Disallow: /

# закрыть только раздел
User-agent: GeedoBot
Disallow: /private/

# разрешить всё
User-agent: GeedoBot
Allow: /

Определите по логам, зачем бот ходит на сайт. Если нагрузка заметна или он собирает данные, закройте его правилом в robots.txt, а при игнорировании правил блокируйте по IP.