WellKnownBot: технический краулер для проверки well-known URL

WellKnownBot 0.1 — автоматический клиент, владелец которого по строке не указан. Обычно такие клиенты приходят для автоматического обхода страниц без участия человека.

Обычно такие клиенты запускаются для автоматизации различных задач на сайте, например, сбора информации или выполнения определенных действий. Владелец WellKnownBot 0.1 может быть компании или индивидуальным разработчиком, который использует этот бот для автоматического обхода страниц без участия человека.

Bot Guard видел этот User-Agent на 4 сайтах из 60 подключённых (7%). Первое появление в нашей статистике: 30.09.2023, последнее: 26.08.2026. Всего за это время зафиксировано 530 визитов. В среднем это около 1 визитов в день за 1062 дня наблюдений.

По строке определяется: название клиента — WellKnownBot версии 0.1. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 4 сайтов, 530 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

По строке нельзя понять, настоящий ли это бот: User-Agent пишет сам клиент. Смотрите на поведение: запрашивает ли он robots.txt, соблюдает ли паузы, выполняет ли JavaScript и принимает ли куки. Роботы обычно не делают ни того, ни другого.

Запросы этого клиента легко найти в журнале по подстроке «WellKnownBot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "WellKnownBot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*WellKnownBot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'WellKnownBot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: WellKnownBot
Disallow: /

# закрыть только раздел
User-agent: WellKnownBot
Disallow: /private/

# разрешить всё
User-agent: WellKnownBot
Allow: /

Не блокируйте вслепую: сначала посмотрите, что клиент запрашивает и как часто. Безопасный путь — ограничить частоту запросов и закрыть служебные разделы в robots.txt, а при нагрузке или игнорировании правил блокировать по IP.