YandexMarket/2.0 - бот поискового сервиса Яндекса

YandexMarket 2.0 — служебный робот Яндекса. Такие клиенты обычно заходят на сайты для проверки счетчиков, индексации или рекламы.

Служебные роботы, управляемые Яндексом, обычно запускаются для проверки счётчиков, индексации и рекламных целей. Они приходят на сайт по поручению владельца или сервиса Яндекса.

Bot Guard видел этот User-Agent на 11 сайтах из 60 подключённых (18%). Первое появление в нашей статистике: 29.09.2023, последнее: 06.02.2025. Всего за это время зафиксировано 67 504 визита. В среднем это около 136 визитов в день за 497 дней наблюдений.

По строке определяется: название клиента — YandexMarket версии 2.0; движок — WebKit 537.36. Часть токенов, например Mozilla/5.0 и KHTML, like Gecko, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 11 сайтов, 67 504 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Служебный робот заходит нечасто и по делу: проверяет счётчик, индексацию или рекламу. Нагрузка небольшая. Если его заблокировать, соответствующие сервисы перестанут нормально работать с вашим сайтом.

Определить настоящий YandexMarket можно по адресу запроса: он должен принадлежать сетям компании Яндекс. Обратный DNS должен давать имя хоста компании Яндекс, а прямой запрос по этому имени возвращать тот же IP.

Проверка занимает две команды. Сначала по IP запроса получаем имя хоста, оно должно оканчиваться на .yandex.ru, .yandex.net или .yandex.com. Затем по этому имени получаем IP обратно, адрес обязан совпасть с исходным. Если хотя бы одна проверка не прошла, запрос идёт не от Яндекс.

# 1. обратный запрос: имя хоста по IP
host 203.0.113.10
# 203.0.113.10 -> pointer crawler-example.yandex.ru

# 2. прямой запрос: IP по имени хоста
host crawler-example.yandex.ru
# адрес в ответе должен быть 203.0.113.10

Запросы этого клиента легко найти в журнале по подстроке «YandexMarket». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "YandexMarket" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*YandexMarket 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'YandexMarket') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: YandexMarket
Disallow: /

# закрыть только раздел
User-agent: YandexMarket
Disallow: /private/

# разрешить всё
User-agent: YandexMarket
Allow: /

Пускайте проверенный YandexMarket. Если у вас защита от ботов, добавьте подтверждённые адреса компании Яндекс в исключения, чтобы служебные проверки не получали отказ.