Baiduspider 2.0 на неизвестной платформе

Baiduspider 2.0 — поисковый краулер Baidu. Обычно такие клиенты обходят страницы сайтов, чтобы добавить их в поисковый индекс.

Поисковый краулер Baiduspider 2.0 обычно запускает компания Baidu для обхода страниц сайтов и добавления их в поисковый индекс. Такие клиенты посещают сайты в целях сбора информации для улучшения поисковых услуг.

Bot Guard видел этот User-Agent на 35 сайтах из 60 подключённых (58%). Первое появление в нашей статистике: 01.10.2023, последнее: 23.10.2026. Всего за это время зафиксировано 130 687 визитов. В среднем это около 117 визитов в день за 1119 дней наблюдений.

По строке определяется: название клиента — Baiduspider версии 2.0. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; с 01.10.2026 защита Bot Guard сработала на этот User-Agent 506 раз на 10 сайтах (подделка под ИИ-бота (rDNS не подтвердил владельца): 208; подделка под поискового бота (rDNS не подтвердил владельца): 176; ротация IP (прокси-пул): 117; аномальная частота запросов: 5); запросы шли из сетей: Google Cloud (375); в статистике 35 сайтов, 130 687 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Настоящий поисковый робот создаёт умеренную нагрузку на сервер и нужен, чтобы страницы попадали в поиск. Системы статистики, как правило, не считают его визиты посещениями людей, но в журнале сервера он заметен. Резкий рост обращений стоит проверить на подделку.

Достоверный признак — IP-адрес, а не строка User-Agent. Сверьте его с официальной документацией компании Baidu или подтвердите обратным и прямым DNS-запросом. Если адрес не из сетей компании Baidu, это подделка, даже когда строка выглядит идеально.

Проверка занимает две команды. Сначала по IP запроса получаем имя хоста, оно должно оканчиваться на .baidu.com. Затем по этому имени получаем IP обратно, адрес обязан совпасть с исходным. Если хотя бы одна проверка не прошла, запрос идёт не от Baidu.

# 1. обратный запрос: имя хоста по IP
host 203.0.113.10
# 203.0.113.10 -> pointer crawler-example.baidu.com

# 2. прямой запрос: IP по имени хоста
host crawler-example.baidu.com
# адрес в ответе должен быть 203.0.113.10

Запросы этого клиента легко найти в журнале по подстроке «Baiduspider». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "Baiduspider" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*Baiduspider 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'Baiduspider') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: Baiduspider
Disallow: /

# закрыть только раздел
User-agent: Baiduspider
Disallow: /private/

# разрешить всё
User-agent: Baiduspider
Allow: /

Разрешите доступ роботу, подтверждённому по DNS, и проверьте в robots.txt, что важные разделы не закрыты. Подделки с этим же User-Agent блокируйте по IP.