Понимание трафика ботов

Трафик ботов — это любые визиты немашинного происхождения, клики по вашим ссылкам. Хотя это может звучать тревожно, большая часть трафика ботов является легитимной и служит важным функциям в интернете.

Почему боты кликают по ссылкам?

Боты кликают по ссылкам по нескольким законным причинам:

  • Предпросмотры ссылок — Социальные платформы, такие как Facebook, X и LinkedIn, загружают ваши ссылки для создания карточек предпросмотра
  • Обнаружение спама — Поставщики электронной почты и социальные сети проверяют ссылки для защиты пользователей от вредоносного контента
  • Индексирование поисковыми системами — Поисковые системы, такие как Google, обходят ссылки для индексирования контента
  • Сканирование безопасности — Антивирусные и брандмауэрные сервисы проверяют назначения ссылок

Как Linkly идентифицирует ботов

Linkly использует два метода для обнаружения трафика ботов:

1. Обнаружение User Agent

Многие боты идентифицируют себя через строку своего user agent. Например, Googlebot, Facebookbot и Xbot все объявляют о себе. См. наш полный список обнаруженных ботов.

2. Обнаружение ISP

Некоторые боты не идентифицируют себя, но мы можем их обнаружить, проверив, исходит ли запрос от поставщика облачного хостинга, такого как AWS, Google Cloud или DigitalOcean. Трафик из центров обработки данных почти всегда автоматизирован.

Обработка краулеров социальных сетей

Linkly может дополнительно исключать краулеры социальных сетей из Facebook, X, LinkedIn, Google и YouTube из вашей аналитики. Когда это включено:

  • Они не записываются в вашей аналитике
  • Они не учитываются в вашем лимите кликов
  • Они всегда пропускаются, даже если включена блокировка ботов
  • Они по-прежнему могут генерировать пользовательские социальные предпросмотры

Это держит вашу аналитику сосредоточенной на людях, пока обмен в социальных сетях продолжает работать беспроблемно.

Автоматически игнорируемые user agents

Linkly автоматически игнорирует трафик от определенных известных user agents ботов. Эти запросы перенаправляются обычно, но не записываются в аналитику и не учитываются в вашем лимите кликов:

  • Bytespider — веб-краулер ByteDance
  • python-requests — библиотека Python HTTP, обычно используемая для автоматизированных скриптов
  • curl — инструмент HTTP командной строки

Эта фильтрация происходит автоматически для всех ссылок и не требует конфигурации.

Плохой ли трафик ботов?

В большинстве случаев нет. Большинство ботов — это «хорошие боты», выполняющие полезные функции.

Однако трафик ботов может быть проблематичным, когда он:

  • Искусственно увеличивает количество кликов — Что затрудняет измерение реального взаимодействия
  • Искажает коэффициенты конверсии — Боты никогда не конвертируют, поэтому высокий трафик ботов делает коэффициенты конверсии ниже
  • Потребляет лимиты кликов — Хотя краулеры социальных сетей могут быть исключены из лимитов

Информацию о недействительном трафике из платформ рекламы см. в нашей статье о недействительном трафике TikTok.

По умолчанию кклики людей

В ваших отчетах о трафике по умолчанию показаны клики людей. Трафик ботов автоматически исключается из вашего основного количества кликов, поэтому ваши цифры отражают реальных посетителей без какой-либо настройки.

Рядом с общим количеством кликов вы увидите, сколько ботов было отфильтровано — например, «1240 кликов · 380 ботов отфильтровано» — поэтому ничего не скрывается.

Чтобы увидеть весь трафик, используйте переключатель Включить трафик ботов в верхней части ваших отчетов. Это учитывает ботов в ваших итогах и добавляет вкладку Роботы, которая разбирает трафик ботов по названиям.

Примечание: Это влияет только на отчетность. Клики ботов по-прежнему учитываются в лимите кликов вашего плана, и API по умолчанию возвращает весь трафик — передайте bots=false, чтобы исключить ботов из запроса API.

Блокировка трафика ботов

Вы можете дополнительно заблокировать ботам доступ к вашим ссылкам полностью. Однако мы в целом не рекомендуем это делать, потому что:

  • Хорошие боты, которые проверяют спам, могут пометить вашу ссылку как подозрительную, если она заблокирована
  • Пользовательские социальные предпросмотры не будут работать на большинстве платформ
  • Поисковые системы не смогут индексировать ваши ссылки

Чтобы заблокировать других ботов, по-прежнему позволяя предпросмотры социальных сетей, включите как «Блокировать ботов и пауков», так и «Пропустить отслеживание краулеров социальных сетей» в вашей ссылке.

Как блокировать ботов

1

Создайте или отредактируйте ссылку

2

В разделе Блокировать ботов и пауков включите Блокировать роботов

В разделе **Блокировать ботов и пауков** включите **Блокировать роботов**
В разделе Блокировать ботов и пауков включите Блокировать роботов
3

Заблокированные боты увидят страницу Доступ заблокирован

Возвращаемый код состояния HTTP — 403 Forbidden.

Заблокированные боты увидят страницу **Доступ заблокирован**
Заблокированные боты увидят страницу Доступ заблокирован

Часто задаваемые вопросы

Почему моя ссылка получает трафик ботов?

Боты посещают ссылки для создания предпросмотров, проверки спама и индексирования контента для поисковых систем. Это нормально и обычно полезно.

Следует ли мне блокировать роботов?

В целом, нет. Блокировка роботов может привести к тому, что ваши ссылки будут отмечены как спам социальными сетями и поставщиками электронной почты.

Блокируйте ботов только если у вас есть конкретная причина, например приватные внутренние ссылки.

Почему большая часть моего трафика от ботов?

Ссылки, поделенные через социальные сети, электронную почту или SMS, часто генерируют значительный трафик ботов, потому что эти платформы активно сканируют ссылки на спам и угрозы безопасности.

По мере роста вашего человеческого трафика боты будут представлять меньший процент от общего количества кликов.

Считаются ли боты в моем лимите кликов?

Большинство ботов учитываются в вашем лимите, так как обработка любого запроса стоит одинаково.

Однако вы можете включить Пропустить отслеживание краулеров социальных сетей, чтобы исключить краулеры социальных сетей из Facebook, X, LinkedIn, Google и YouTube из лимитов и аналитики.

Заблокированные запросы также не учитываются в вашем лимите.

Почему я не вижу этих ботов в Google Analytics?

Google Analytics полагается на JavaScript браузера для отслеживания посетителей. Боты обычно не выполняют JavaScript, поэтому они не появляются в отчетах GA.

Linkly записывает весь трафик на серверной стороне, давая вам полную видимость как человеческого, так и трафика ботов.

Как Linkly узнает, является ли посетитель ботом?

Большинство легитимных ботов идентифицируют себя через строку своего user agent. См. наш список обнаруженных ботов.

Для ботов, которые не идентифицируют себя, мы проверяем, исходит ли запрос от поставщика облачного хостинга или центра обработки данных, что указывает на автоматизированный трафик.

Почему моя ссылка заблокирована, когда я использую VPN?

Многие сервисы VPN маршрутизируют трафик через центры обработки данных, которые Linkly идентифицирует как потенциальные источники ботов.

Если вам нужно протестировать ссылки из другой страны, попросите кого-нибудь с обычным домашним интернет-соединением проверить ее для вас.

Что насчет поддельных кликов от платформ объявлений?

Недействительный трафик из платформ рекламы, такие как TikTok, — это другая проблема, чем трафик ботов. Эти клики поступают с реальных мобильных устройств, но могут не представлять подлинный интерес.

Дополнительную информацию см. в нашей статье о недействительном трафике TikTok.

Доступность в планах

Доступно на Starter и выше

Сравнить планы →

Получите 100 коротких ссылок и отслеживайте 500 кликов в месяц бесплатно.