DuckDuckBot-Https/1.1; (+https://duckduckgo.com/duckduckbot)
DuckDuckBot-Https/1.1 - это официальный поисковый робот (краулер) компании DuckDuckGo, американского разработчика, специализирующегося на защите приватности пользователей в Интернете. Данный User-Agent используется для индексации веб-страниц, при этом DuckDuckGo подчёркивает, что не отслеживает пользователей и не сохраняет историю поиска. Бот соблюдает правила файла robots.txt и поддерживает HTTPS-соединения.
DuckDuckBot-Https/1.1 является легитимным и безопасным краулером. Уровень доверия высокий, так как это официальный бот известной компании, ориентированной на конфиденциальность. Риски связаны в основном с подделкой User-Agent злоумышленниками. Рекомендуется проверять IP-адреса запросов через официальные списки DuckDuckGo, чтобы отсеять подделки. Допуск бота к сайту безопасен и даже полезен для SEO.
Для идентификации DuckDuckBot-Https/1.1 на сервере проверяйте строку User-Agent на наличие подстроки 'DuckDuckBot-Https'. В файле .htaccess или конфигурации Nginx можно использовать условия: if ($http_user_agent ~* DuckDuckBot-Https) { ... }. Для проверки подлинности выполните обратный DNS-запрос к IP-адресу бота - он должен оканчиваться на 'duckduckgo.com'. Рекомендуется не блокировать данного бота, если вы заинтересованы в индексации сайта DuckDuckGo.
User-agent: DuckDuckBot-Https
Disallow: /. На сервере можно настроить фильтрацию по User-Agent или IP.