SenutoBot 1.0 на неизвестной платформе

SenutoBot 1.0 — автоматический клиент, владелец которого по строке не указан. Обычно такие клиенты приходят на сайты для автоматического обхода страниц без участия человека.

Краулеры или служебные боты обычно запускаются владельцами сайтов или специализированными компаниями для сбора информации или анализа конкурентов. Эти клиенты посещают сайты для автоматического сбора данных без участия человека.

Bot Guard видел этот User-Agent на 8 сайтах из 67 подключённых (12%). Первое появление в нашей статистике: 04.12.2023, последнее: 07.11.2024. Всего за это время зафиксировано 3 985 визитов. В среднем это около 12 визитов в день за 340 дней наблюдений.

По строке определяется: название клиента — SenutoBot версии 1.0.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 8 сайтов, 3 985 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

По строке нельзя понять, настоящий ли это бот: User-Agent пишет сам клиент. Смотрите на поведение: запрашивает ли он robots.txt, соблюдает ли паузы, выполняет ли JavaScript и принимает ли куки. Роботы обычно не делают ни того, ни другого.

Запросы этого клиента легко найти в журнале по подстроке «SenutoBot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "SenutoBot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*SenutoBot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'SenutoBot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: SenutoBot
Disallow: /

# закрыть только раздел
User-agent: SenutoBot
Disallow: /private/

# разрешить всё
User-agent: SenutoBot
Allow: /

Не блокируйте вслепую: сначала посмотрите, что клиент запрашивает и как часто. Безопасный путь — ограничить частоту запросов и закрыть служебные разделы в robots.txt, а при нагрузке или игнорировании правил блокировать по IP.