BitSightBot 1.0 — автоматический клиент, владелец которого по строке не указан. Обычно такие клиенты приходят для автоматического обхода страниц без участия человека.

Обычно такие клиенты запускают компании для анализа и мониторинга различных ресурсов. Они приходят на сайт, чтобы получить информацию для аналитических целей или обеспечения безопасности.

Bot Guard видел этот User-Agent на 33 сайтах из 60 подключённых (55%). Первое появление в нашей статистике: 03.10.2023, последнее: 06.05.2025. Всего за это время зафиксировано 359 визитов. В среднем это около 1 визита в день за 582 дня наблюдений.

По строке определяется: название клиента — BitSightBot версии 1.0. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 33 сайтов, 359 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

По строке нельзя понять, настоящий ли это бот: User-Agent пишет сам клиент. Смотрите на поведение: запрашивает ли он robots.txt, соблюдает ли паузы, выполняет ли JavaScript и принимает ли куки. Роботы обычно не делают ни того, ни другого.

Запросы этого клиента легко найти в журнале по подстроке «BitSightBot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "BitSightBot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*BitSightBot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'BitSightBot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: BitSightBot
Disallow: /

# закрыть только раздел
User-agent: BitSightBot
Disallow: /private/

# разрешить всё
User-agent: BitSightBot
Allow: /

Не блокируйте вслепую: сначала посмотрите, что клиент запрашивает и как часто. Безопасный путь — ограничить частоту запросов и закрыть служебные разделы в robots.txt, а при нагрузке или игнорировании правил блокировать по IP.