Логотип seo-prodvizhenie-biznesa.ru
+7 (921) 333-77-45

Что такое proxi и зачем они нужны

Что такое proxi и зачем они нужны
Анатолий Кузнецов
Анатолий Кузнецов
SEO-оптимизатор с 20-летним стажем. Автор блога seo-prodvizhenie-biznesa.ru о продвижении и доработке сайтов.

Прокси нужны далеко не только тем, кто хочет спрятать свой адрес. В рабочем инструментарии специалиста по сайтам это такая же обыденная вещь, как браузер: без прокси нельзя корректно снять позиции по чужому городу, проверить, что видит посетитель из другой страны, собрать данные о конкурентах или убедиться, что сайт не отдаёт роботу одно, а человеку другое. И одновременно прокси — источник половины проблем с безопасностью у тех, кто взял первый попавшийся бесплатный список из интернета.

Ниже — понятный разбор: как прокси устроен, чем отличается от VPN, какие бывают виды и чем они различаются по цене и надёжности, где применяются в продвижении сайтов и аналитике, по каким параметрам выбирать и как проверить, что купленный прокси действительно делает то, что обещал продавец. В SEO я с 2005 года, и прокси в работе использую регулярно — в основном для проверки региональной выдачи и доступности сайтов.

Как работает прокси-сервер

Чтобы понять механику, нужно вспомнить про IP-адрес. Каждое устройство в сети имеет адрес, по которому его можно опознать, — примерно как обратный адрес на конверте. Когда вы открываете сайт напрямую, он видит именно ваш адрес и по нему определяет страну, город и провайдера.

Прокси встаёт посередине. Ваш запрос уходит не на сайт, а на промежуточный сервер. Тот от своего имени обращается к сайту, получает ответ и передаёт его вам. Сайт при этом видит адрес прокси, а не ваш. Ваш реальный адрес известен только самому прокси-серверу — и это принципиальный момент, к которому мы вернёмся в разделе про риски.

Кроме подмены адреса промежуточный сервер умеет делать ещё три вещи, ради которых его часто и ставят внутри компаний:

  • Кэшировать. Часто запрашиваемые файлы прокси хранит у себя и отдаёт следующему пользователю без повторного обращения наружу.
  • Фильтровать. Блокировать определённые ресурсы, категории сайтов или типы файлов для всех, кто ходит через него.
  • Считать и логировать. Вести журнал обращений, ограничивать скорость, распределять полосу между отделами.
  • Что такое конверсия простыми словами и как считать её владельцу

Отдельно стоит различать два принципиально разных сценария. Прямой прокси стоит на стороне клиента и работает в интересах того, кто через него выходит в сеть. Обратный прокси стоит на стороне сайта и работает в интересах владельца ресурса: принимает запросы посетителей, распределяет их между серверами, отдаёт кэш, отсекает вредный трафик. Веб-сервер перед вашим сайтом и защита от нагрузки — это обратный прокси, хотя слово «прокси» в разговоре чаще означает первый вариант.

Прокси, VPN и Tor: в чём разница

Свойство Прокси VPN Tor
Что маршрутизирует Обычно трафик конкретной программы или вкладки Весь трафик устройства Трафик приложений, настроенных на него
Шифрование канала Не обязательно; зависит от протокола Да, по определению Да, многослойное
Скорость Высокая, задержка минимальна Средняя, зависит от протокола и сервера Низкая
Число одновременных адресов Сколько купили, можно менять на каждый запрос Обычно один на подключение Меняется автоматически
Кто видит ваш реальный адрес Владелец прокси Владелец сервиса Входной узел
Типичное применение Рабочие задачи: сбор данных, проверка выдачи, множество параллельных сессий Защита соединения целиком, удалённый доступ к корпоративной сети Задачи, где важна максимальная анонимность

Практическая разница для рабочих задач в третьей и четвёртой строке. VPN даёт один адрес на всё устройство — это удобно для защиты соединения и неудобно, когда нужно одновременно вести пятьдесят потоков с разных адресов. Прокси задаётся отдельно для каждого потока, поэтому в инструментах сбора данных используют именно его.

Протоколы: HTTP, HTTPS и SOCKS5

HTTP-прокси понимает содержание веб-запросов. Он умеет разбирать заголовки, кэшировать страницы и фильтровать по адресу. Работает только с веб-трафиком.

Подробнее об этом — в статье «Cookies — что это такое и зачем они нужны».

HTTPS-прокси — тот же HTTP-прокси, умеющий пропускать через себя защищённое соединение методом туннелирования. Содержимое он при этом не видит, но знает, к какому домену вы обращаетесь.

SOCKS5 работает уровнем ниже и не разбирается в том, что именно передаёт. Ему всё равно, веб это, почта или что-то ещё, он просто пробрасывает соединение. За счёт этого он универсальнее, поддерживает передачу имён доменов на сторону прокси и работает с протоколами, которые HTTP-прокси не потянет. Кэшировать и фильтровать содержимое он, наоборот, не умеет.

Выбор простой. Для работы с сайтами и сбора данных из веба хватает HTTP или HTTPS. Для программ, которым нужно произвольное сетевое соединение, берут SOCKS5. И отдельно: важно, чтобы разрешение доменных имён шло через прокси, а не с вашего компьютера, — иначе адрес утекает через запросы к серверу имён, даже если весь остальной трафик идёт правильно.

Из чего складывается продвижение сайта и как оно работает:

Виды прокси по происхождению адреса

Тип Откуда адрес Как выглядит для сайта Где применяют
Серверные (из дата-центра) Диапазоны хостинг-провайдеров Явно машинный трафик, легко определяется Массовые технические задачи, где маскировка не нужна
Провайдерские со статикой Адреса домашних провайдеров, но в дата-центре Как обычный домашний пользователь, адрес не меняется Долгие сессии, где нужна стабильность и естественность
Резидентные Реальные домашние подключения Как обычный человек Проверка выдачи и рекламы, работа с площадками, чувствительными к адресам
Мобильные Сети операторов сотовой связи Максимально доверенный тип: за одним адресом сотни живых людей Задачи, где серверные и резидентные адреса не проходят

Цена растёт сверху вниз, и разница существенная. Серверные обычно продаются пакетами адресов с безлимитным трафиком, резидентные и мобильные — за объём переданных данных. Отсюда практическое правило: не берите дорогой тип, пока не убедились, что дешёвый не справляется. Для проверки доступности сайта из другого региона хватит серверного адреса; для проверки того, что видит живой человек в мобильной выдаче, он не подойдёт.

Ещё одно деление — по числу пользователей. Индивидуальный прокси принадлежит только вам. Общий делится между несколькими клиентами, стоит дешевле и приносит чужую историю: если сосед по адресу уже успел набезобразничать, ограничения достанутся и вам. Для любой работы, где важен результат, берут индивидуальные.

Тему разбирал отдельно: «Индексация сайта: что это такое и как она работает».

Уровни анонимности

Уровень Что сообщает сайту Практический смысл
Прозрачный Что запрос идёт через прокси, и часто ваш настоящий адрес Анонимности нет; применяется для кэширования и фильтрации внутри сетей
Анонимный Что используется прокси, но без вашего адреса Адрес скрыт, но сам факт виден и может быть основанием для ограничений
Элитный Ничего лишнего — выглядит как обычное прямое соединение Нужен там, где важно не выделяться

Различие определяется служебными заголовками, которые прокси добавляет к запросу. Проверить уровень несложно: существуют страницы, показывающие все заголовки вашего запроса. Если в них присутствует ваш реальный адрес или признак промежуточного сервера — перед вами не элитный прокси, что бы ни было написано на витрине продавца.

Зачем прокси нужны в продвижении сайтов

Здесь список конкретный, и почти каждый пункт я использую в работе.

  1. Проверка выдачи по другому региону. Ваш браузер показывает выдачу с учётом вашего местоположения и истории. Чтобы увидеть, что видит человек в другом городе, нужен адрес из этого города.
  2. Съём позиций. Сервисы мониторинга опрашивают выдачу с большого числа адресов; без ротации поиск быстро начнёт отвечать проверкой на робота.
  3. Сбор данных о конкурентах. Выгрузка цен, ассортимента, структуры каталога. Массовые обращения с одного адреса блокируются.
  4. Проверка географических версий сайта. Если сайт подменяет город, цены или контакты по адресу посетителя, проверить это можно только зайдя с нужного адреса.
  5. Контроль доступности. Сайт может быть доступен у вас и недоступен из другой страны или у другого провайдера — из-за ограничений на стороне хостинга или защиты от ботов.
  6. Проверка подмены содержимого. Сравнение того, что сайт отдаёт обычному посетителю и что — другим адресам и другим клиентам. Приём, которым проверяют сайты после покупки или после сомнительной оптимизации.
  7. Работа с рекламными и партнёрскими кабинетами. Многие площадки жёстко привязывают доступ к адресу и стране, и смена адреса без предупреждения выглядит для них подозрительно — здесь как раз важна стабильность, а не ротация.

За пределами продвижения прокси не менее полезны: корпоративный шлюз с фильтрацией и учётом трафика, кэширующий узел для экономии канала, разграничение доступа к внутренним сервисам. Это классическое сетевое применение, и никакой анонимности в нём нет.

Как выбрать прокси под задачу

Параметр О чём спросить продавца Почему это важно
Тип адресов Дата-центр, провайдерские, резидентные или мобильные Определяет, пройдёт ли трафик там, где к адресам относятся строго
География Есть ли нужная страна и город, а не только страна Для проверки региональной выдачи область вместо города бесполезна
Ротация Адрес постоянный, меняется по таймеру или на каждый запрос Для сбора данных нужна ротация, для работы в кабинетах — постоянный адрес
Авторизация По логину и паролю или по вашему адресу Авторизация по адресу удобна, но не работает, если у вас динамический адрес
Число потоков Сколько одновременных соединений разрешено Ограничение потоков напрямую упирается в скорость сбора данных
Модель оплаты За порт, за адрес или за гигабайт трафика При выкачивании тяжёлых страниц оплата за трафик может оказаться дороже в разы
Протоколы HTTP, HTTPS, SOCKS5 Некоторые программы работают только с одним из них
Тест и возврат Есть ли пробный доступ и возврат при неработающих адресах Единственный способ проверить обещания до оплаты
Чистота адресов Проверялись ли адреса по спискам блокировок Адрес с историей ведёт себя непредсказуемо и портит результаты

Как проверить купленный прокси

  1. Адрес и география. Зайдите через прокси на страницу определения адреса и убедитесь, что показывается нужная страна и город, а не соседняя.
  2. Заголовки. Посмотрите, не передаётся ли ваш настоящий адрес и признак промежуточного сервера.
  3. Утечка имён. Проверьте, через какой сервер имён идут запросы. Утечка на этом уровне выдаёт вашего провайдера, даже если адрес подменён.
  4. Утечка через браузерные технологии. Часть механизмов браузера умеет сообщать реальный адрес в обход настроек соединения. Проверяется специальными тестовыми страницами.
  5. Скорость и стабильность. Замерьте время отклика на десятке обращений подряд. Прокси, который работает через раз, испортит любой сбор данных пропусками.
  6. Реакция целевого ресурса. Финальная проверка — не тест, а сама задача: сделайте десяток обращений туда, ради чего покупали, и посмотрите, не появляется ли проверка на робота.

Риски и здравый смысл

Бесплатные списки. Владелец бесплатного прокси видит весь ваш незашифрованный трафик и может его изменять — подставлять свою рекламу, подменять ссылки, собирать данные форм и файлы сессий. Экономия здесь никогда не оправдана: платный адрес стоит немного, а компрометация рабочих учётных записей — дорого.

Доверие вместо анонимности. Прокси не делает вас невидимым, он переносит доверие с вашего провайдера на владельца прокси. Вопрос не в том, скрыт ли адрес, а в том, кому вы его отдали и что этот кто-то хранит в журналах.

Смешивание задач. Не используйте один и тот же адрес для сбора данных и для входа в рабочие сервисы. Первое быстро приводит к ограничениям на адрес, а вместе с ним пострадает и второе.

Правовая сторона. Сам по себе прокси — обычная сетевая технология, которая используется в корпоративных сетях, в защите сайтов и в тестировании. Ограничения касаются не технологии, а того, для чего её применяют: доступ к ресурсам с ограниченным по закону доступом, а также реклама и продвижение средств такого доступа регулируются отдельно. Рабочие задачи вроде проверки региональной выдачи или доступности собственного сайта к этой области не относятся.

Смежный материал по теме — «Что такое сертификат SSL».

Правила площадок. Массовый сбор данных с чужого сайта может нарушать его пользовательское соглашение и создавать нагрузку. Разумная практика — ограничивать частоту обращений и не забирать больше, чем нужно для задачи.

Частые вопросы

Прокси замедляет соединение? Добавляет задержку на дополнительный участок пути — обычно десятки миллисекунд для близкого сервера. Заметное замедление означает либо перегруженный прокси, либо адрес на другом континенте.

Можно ли обойтись расширением для браузера? Для разовой проверки — да. Для регулярной работы удобнее настраивать отдельный профиль браузера или задавать прокси прямо в программе: расширения нередко пропускают часть трафика мимо себя.

Почему сайт всё равно узнаёт мой город? Кроме адреса есть язык браузера, часовой пояс, сохранённые настройки региона на самом сайте и данные о местоположении, которые вы когда-то разрешили. Смена адреса без чистки остального даёт противоречивую картину.

Резидентные прокси всегда лучше серверных? Нет, они дороже и часто медленнее. Разница проявляется только там, где к происхождению адреса относятся строго. Для внутренних технических задач серверные удобнее и дешевле.

Что такое ротация и всегда ли она нужна? Автоматическая смена адреса — по времени или на каждое обращение. Для сбора данных она нужна, для работы в личных кабинетах вредна: постоянная смена адреса выглядит как попытка взлома.

Чем обратный прокси отличается от обычного? Стороной, которую он защищает. Обычный прокси работает в интересах того, кто выходит в сеть; обратный стоит перед сайтом и работает в интересах его владельца — распределяет нагрузку, кэширует ответы и отсекает вредные обращения.

Коротко

  • Прокси — промежуточный сервер, который обращается к сайту от своего имени: сайт видит его адрес, а ваш реальный адрес знает только владелец прокси.
  • От VPN он отличается тем, что настраивается для отдельной программы и позволяет вести множество параллельных сессий с разных адресов, — отсюда его роль в рабочих задачах со сбором данных.
  • Типы различаются происхождением адреса: серверные дешевле и заметнее, провайдерские и резидентные выглядят как живые люди, мобильные вызывают наибольшее доверие и стоят дороже всего.
  • В продвижении прокси нужны для проверки региональной выдачи, съёма позиций, сбора данных о конкурентах, контроля географических версий сайта и доступности из разных сетей.
  • Выбирают по типу адресов, географии до города, режиму ротации, числу потоков и модели оплаты; обещания продавца проверяют тестом на заголовки, утечку имён и реальную задачу.
  • Бесплатные прокси опасны по определению: их владелец видит и может менять незашифрованный трафик, поэтому рабочие учётные записи через них не используют никогда.
  • Что такое конверсия простыми словами и как считать её владельцу

Если прокси нужны вам ради проверки того, что видят посетители из разных городов, и хочется разобраться, почему региональная выдача ведёт себя не так, как ожидалось, приходите на SEO-консультацию: посмотрим региональные настройки сайта и разберём, что именно показывается людям в каждом из ваших городов.

Увеличьте позиции и продажи вашего сайта

Профессиональное SEO-продвижение с гарантией результата. Выберите подходящую услугу:

Анатолий Кузнецов — SEO-оптимизатор

Остались вопросы по продвижению?

Меня зовут Анатолий Кузнецов, я SEO-оптимизатор с 20-летним стажем. Разберу ваш сайт, отвечу на вопросы и подскажу, что улучшить для роста позиций в Яндексе и Google.

Связаться со мной →

Комментарии

Алексей Юхнин

Про утечку через сервер имён — тот случай, когда всё настроено и всё равно не работает. Настроил прокси в программе сбора данных, адрес подменялся правильно, а обращения всё равно упирались в проверку на робота. Оказалось, имена доменов резолвились локально, и по этим запросам всё прекрасно вычислялось. В SOCKS5 есть отдельный режим, чтобы разрешение шло на стороне прокси, но по умолчанию он не всегда включён.

Анатолий Кузнецов автор

Вы нашли самую частую и самую незаметную ошибку в настройке. Добавлю, где она обычно прячется. Первое: в клиентах и библиотеках есть два варианта записи адреса прокси, различающиеся одной буквой, и один из них разрешает имена локально, а другой на стороне прокси — стоит явно проверить, какой вариант у вас в конфигурации. Второе: даже при правильной настройке программы отдельные библиотеки внутри неё могут ходить мимо. Третье, самое надёжное: не верить настройкам, а посмотреть в тестовый запрос — есть страницы, показывающие, через какие серверы имён пришло обращение. Тридцать секунд проверки экономят день на догадки. И общее правило: любую новую связку программы и прокси имеет смысл прогонять через такой тест один раз, а потом уже пускать в работу.

Артём Юрганов

Разделение прямого и обратного прокси стоило внести в самое начало. У нас с разработчиком был получасовой спор, где выяснилось, что он говорил про веб-сервер перед приложением, а я про адреса для проверки выдачи. Слово одно, вещи разные.

Богдан Ющенко

Не соглашусь про бесплатные прокси в такой категоричной формулировке. Для разовой проверки, открывается ли сайт из другой страны, бесплатного адреса вполне достаточно, никаких паролей я туда не ввожу. Смысл переплачивать, если задача — один раз посмотреть, отдаёт ли сервер страницу?

Анатолий Кузнецов автор

В вашем сценарии возражение справедливо: если через прокси идёт только открытие публичной страницы без ввода данных, риск сводится к тому, что вам покажут не то, что отдаёт сервер на самом деле. Но именно это и есть проблема для вашей задачи. Владелец бесплатного прокси нередко вставляет свою рекламу и меняет содержимое, и тогда вы делаете вывод о доступности сайта по подделке. Плюс адреса из открытых списков давно сидят в чёрных списках, и сайт может отдать им заглушку или проверку на робота, хотя обычному посетителю той же страны отдаст нормальную страницу — вывод снова неверный. Если задача действительно разовая, дешевле и точнее использовать сервисы, которые сами проверяют доступность сайта из разных стран и показывают код ответа. Там хотя бы понятно, кто и что измерял.

Вадим Юршин

Таблица с моделями оплаты пригодилась бы мне полгода назад. Взяли резидентные с оплатой за гигабайт для выгрузки каталога конкурента, страницы тяжёлые, со скриптами и картинками. Трафик кончился за полдня, и стоило это как месяц серверных адресов.

Виталий Юферев

Вопрос по проверке региональной выдачи. Прокси нужного города купил, адрес определяется правильно, а выдача всё равно показывает мой родной регион. Что ещё может влиять, кроме адреса?

Анатолий Кузнецов автор

Влияет как минимум четыре вещи помимо адреса. Первая и главная — сохранённый выбор региона в настройках самой поисковой системы: он живёт в файлах браузера и переживает смену адреса. Вторая — авторизация: если вы вошли в свою учётную запись, регион и история подтянутся вместе с ней. Третья — разрешение на определение местоположения, выданное когда-то браузеру; оно перебивает адрес. Четвёртая — язык и часовой пояс системы, которые тоже участвуют в подстройке. Порядок действий такой: новый чистый профиль браузера, никакой авторизации, отключить доступ к местоположению, включить прокси и только потом открывать поиск. И надёжнее всего не проверять регионы руками вообще, а снимать позиции сервисом с указанием города — там эта задача решена системно и без сюрпризов.

Владимир Юнаков

Про смешивание задач — больная тема. Использовали один пул адресов и для сбора данных, и для входа в рекламные кабинеты. Кончилось тем, что после активного сбора вход в кабинеты стал требовать подтверждения каждый раз, а один аккаунт вообще временно закрыли до выяснения.

Геннадий Южанин

Хорошо, что про правовую сторону написано аккуратно и без агитации. Обычно в статьях про прокси либо запугивают, либо наоборот — рассказывают, как что-то обходить. Здесь просто сказано, что технология сама по себе обычная, а вопросы возникают к применению.

Даниил Юрочкин

Уточню про общие прокси. Взял дешёвый пакет, где адрес делится между несколькими клиентами. Половина адресов из коробки уже была в чёрных списках почтовых сервисов и части площадок. Формально всё работало, практически — половина задач упиралась в проверки.

Евгений Юзефович

Скажите, а есть смысл использовать прокси для проверки собственного сайта на подмену содержимого? У меня подозрение, что предыдущий подрядчик что-то показывает роботам, но проверить нечем, кроме кэша поисковой системы.

Анатолий Кузнецов автор

Смысл есть, но прокси здесь только часть проверки. Подмена обычно завязана не на адрес, а на признак клиента, поэтому начните с простого: запросите одну и ту же страницу дважды — обычным браузером и с представлением поискового робота — и сравните исходный код. Расхождение в тексте или ссылках уже ответ. Второй слой — адрес: сравните ответ с вашего адреса и с адреса из диапазонов поисковых систем, тут прокси и пригодится. Третий — сохранённая копия страницы в поиске и то, что отдаётся сейчас. И четвёртый, самый практичный: посмотрите в панели вебмастера, какие фрагменты текста поиск считает содержимым страницы. Если там встречаются слова, которых вы на странице не видите, вопрос закрыт. Только сначала проверьте самое банальное объяснение — кэш и старую сохранённую версию: расхождения чаще возникают от них, чем от злого умысла.

Иван Юраков

Пункт про ротацию в кабинетах подтверждаю. Настроил смену адреса каждые пять минут, зашёл в партнёрский кабинет и получил блокировку сессии за подозрительную активность. Логика площадки понятна: за четверть часа человек трижды сменил страну.

Кирилл Юшманов

Хотелось бы больше подробностей про мобильные прокси — где они реально нужны, кроме работы с площадками. По цене они заметно дороже, а объяснение «вызывают доверие» звучит слишком общо для принятия решения.

Анатолий Кузнецов автор

Справедливое замечание, «доверие» тут действительно надо расшифровывать через механику. Причина одна: у оператора связи один внешний адрес делят между собой тысячи абонентов одновременно, и адрес переназначается при каждом переподключении. Заблокировать такой адрес — значит отрезать вместе с вами толпу обычных людей, поэтому площадки блокируют его в последнюю очередь и с гораздо большим запасом терпимости. Отсюда и область применения: она узкая. Мобильные адреса оправданы там, где вы работаете с сервисом, который агрессивно режет автоматику, — соцсети, доски объявлений, часть маркетплейсов. Для проверки выдачи по регионам, сбора цен конкурентов и обхода собственного сайта они не нужны совсем: там достаточно серверных адресов, а платить в разы больше не за что. Практическое правило: пока задача решается серверными адресами, мобильные брать не надо; берите их только после того, как серверные уперлись в блокировки на конкретной площадке. И проверяйте частоту смены адреса — если она не настраивается, для работы с кабинетами такой прокси не подойдёт по причине, о которой написал Иван выше.

Лев Юхнов

Совет замерять время отклика на десятке обращений подряд оказался полезнее, чем звучит. Купленные адреса на единичной проверке отвечали быстро, а на серии каждый третий запрос отваливался по таймауту. В сборе данных это выглядело как отсутствие товаров, а не как ошибка сети.

Оставьте комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

 Нажимая «оставить комментарий» вы принимаетеправила конфиденциальности 

Прокрутить вверх