Mozilla/5.0 (compatible; MJ12bot/v1.4.2; http://www.majestic12.co.uk/bot.php?+)

Bot Guard видел этот User-Agent на 1 сайте из 60 подключённых (2%). Первое появление в нашей статистике: 18.11.2024, последнее: 18.11.2024. Всего за это время зафиксировано 1 визит.

По строке определяется: название клиента — MJ12bot. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 1 сайта, 1 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Краулер SEO-сервиса обходит много страниц подряд и создаёт нагрузку без пользы для сайта: посетителей он не приводит. Его визиты видны в журнале сервера и могут искажать серверную статистику, если её не фильтровать.

Бот SEO-сервиса Majestic описан в документации сервиса, и его запросы можно сверить по IP-адресам, если сервис их публикует. Строку User-Agent подделывают часто: под популярных SEO-ботов маскируются парсеры и сканеры.

Запросы этого клиента легко найти в журнале по подстроке «MJ12bot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "MJ12bot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*MJ12bot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'MJ12bot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: MJ12bot
Disallow: /

# закрыть только раздел
User-agent: MJ12bot
Disallow: /private/

# разрешить всё
User-agent: MJ12bot
Allow: /

Этот бот создаёт нагрузку, но не приносит трафика. Если вам не нужен анализ сайта этим сервисом, закройте его правилом в robots.txt. При высокой нагрузке или игнорировании robots.txt блокируйте по IP.