Teleport pro как пользоваться

7

Как скопировать сайт целиком

Программы, позволяющие скопировать сайт целиком, появились еще в 90-х годах, когда у большинства пользователей интернета был dial-up, стоимость соединения была очень высокой и рассчитывалась, исходя из времени соединения. Именно тогда и появились программы, позволяющие скопировать сайт целиком, чтобы в дальнейшем просмотреть необходимую информацию, отключившись от интернета и сэкономить деньги.
Web-ресурсы 90-х годов были очень маленькими и зачастую состояли из нескольких десятков страниц обычного текста и не содержали большого количества изображений, поэтому скачать сайт и сохранить его на компьютере было очень просто.

Для того чтобы скачать сайт целиком, существует множество программ, одной из самых известных и удобных среди которых является Teleport Pro. Аналогичными функциями обладают программы Offline Explorer, HTTrack, Wget. Teleport включает в себя несколько версий, отличающихся количеством скаченных страниц: версия Pro позволяет сохранить 65 000 ссылок за один проект, Ultra — 260 000, VLX — 40 000 000.

Как скачать сайт целиком с Teleport Pro: инструкция

Пользоваться программой Teleport Pro очень просто. Щелкните по кнопке New project Wizard для запуска «визарда», после чего перед вами появится окно, где вам нужно выбрать пункт “Create a browsable copy of a website on my hard disk”.

Нажмите «Далее» и в следующем окне введите адрес сайта для скачивания, а также укажите глубину скачивания страниц.

В третьем окне вы сможете указать, какие файлы необходимо скачать: только текст, текст и графику, текст, графику и звуковые файлы или все входящие в состав сайта файлы.

Нажмите кнопку «Готово» и выберете директорию для сохранения сайта.

Для запуска проекта выберите в меню Project команду Start.

Теперь вы сможете просматривать скаченные страницы сайта, отключившись от интернета, а также использовать имеющуюся у вас копию по своему усмотрению. Также Teleport Pro можно использовать и для скачивания «мертвых» сайтов из web.archive.org.

Как скопировать сайт целиком, используя Download Master

При всем удобстве программы Teleport, у нее есть существенный недостаток, который не позволяет использовать софт для скачивания ряда проектов. Так при скачивании форумов с наличием в адресе идентификаторов сессий, Teleport Pro сохранит на компьютер множество одинаковых файлов, отличающихся лишь названиями. В результате форум, состоящий из нескольких сотен страниц, вполне способен превратиться в совокупность нескольких тысяч файлов, разобраться в которых будет довольно затруднительно. Поэтому в некоторых случаях скачать форум целиком будет гораздо проще с использованием Download Master.

Для этого просто добавьте в группу закачек ряд ссылок, отличающихся только цифрой в конце адреса, как показано на рисунке, после чего программа сама скачает все необходимые страницы.

Скачать сайт целиком довольно просто, однако нужно учитывать, что особо крупные проекты состоят из нескольких миллионов страниц, загрузка которых может затянуться на длительное время.

Программа для скачивания сайтов Teleport Pro

В продолжение темы качалок сайтов, сегодня познакомимся с еще одной программой — это Teleport Pro, платная программа (шаровара), со своими достоинствами и недостатками. Ранее я описывал совершенно бесплатную аналогичную прогу — WinHTTrack Website Copier, ну теперь познакомимся с этой.

+ Щелкайте по фото, чтобы увеличить!

Программа Teleport Pro была выпущена 8 января 1997 года, а последняя версия 1.72 — выпущена в сентябре 2015 года. Она работает только под Виндой.

Установка Teleport Pro и запуск

Так как я решил просто сравнить эту программу с предыдущей, то платить мне вовсе нет резона. Я без проблем нашел программу на торренте, с кейгеном — скачал и установил. Как пишут, антивирусы могут ругаться на генератор ключей. у меня все прошло спокойно. Программа на английском, но можно разобраться и без знания языков.

Teleport Pro знакомство

Запускаем программу, и нас встречает пустое окно, разделенное на две неравные половинки.

Теперь щелкаем по вкладке File — открывается вот такая простыня. Но не переживайте, для обычной работы нам этого ничего не надо.

Вторая вкладка — Project имеет простынь, но чуть поменьше — тоже не паримся. Идем дальше.

Третья вкладка View имеет уже небольшую портяночку — тоже не расстраиваемся.

Четвертая и последняя вкладка Help. Щелкнув по первому пункту в ней — по собственно Help, откроется мануал в виде PDF документа, но. на английском языке.

Вот окно для регистрации программы — Register Teleport Pro, здесь они предлагают мне заплатить почти 50 долларов США.

А вот окно — о программе. About.

Teleport Pro скачиваем веб-проект

Возвращаемся к первой вкладке и в ней выбираем первый пункт New Project Wizard — откроется вот такое окно. Нам здесь, в общем-то, следует выбрать первый или второй пункт. Это как будут располагаться файлы в папке со скачанным сайтом? Первый пункт — одна общая папка, где все файлы будут вперемешку. Второй пункт — все файлы будут иметь свои папки. Попробуйте и так и этак — как вам больше понравится, так и работайте.

Далее — шаг второй. Здесь вводим адрес скачиваемого сайта и ниже ставим цифру — глубину прохождения по ссылке — по умолчанию стоит 3. Но если сайт более замороченный, в нем глубина по вкладкам может быть и 5 и 10. Часть сайта не скачается. А если ставить большую цифру — он начнет скачивать массу всего прочего постороннего, ненужного, куда ведут ссылки. так что — здесь заранее сложно предугадать. Я обычно ставлю 7-10. А простенькие сайты — хватит и 5.

Далее — шаг третий. Здесь можно выбрать, какое содержимое программа будет скачивать? Текст или текст с графикой? Последнее — все скачивать. Так же можно ввести пароль и логин, если сайт требует этого и они у вас имеются.

Далее — шаг четвертый. Здесь ничего — информация и мы жмем Готово.

Откроется окно с выбором — куда сохранить файл этих настроек и куда будут загружаться скачиваемые файлы. Лучше заранее создать папку специально для этого в удобном для вас месте. Можете сами задать имя проекту или программа автоматом его создаст, используя веб-адрес сайта. Щелкаем Сохранить

Вот и все — снова открылось первоначальное окно, только в левой стороне мы видим название сайта, который хотим скачать (в данном случае, я выбрал первое попавшееся — для демонстрации). Видим в строке чуть выше синий треугольник — как стрелочка, указывающий вправо. Щелкаем по нему.

Все — закачка началась. Во втором окне мы видим скачиваемые файлы, над ними индикатор из кружков — иллюстрируют процесс закачивания. Обычно синим цветом. Но сейчас они красные — закачку я остановил, и они показывают два недокачаных файла. Вправо от стрелки есть значок Пауза, квадратик Стоп и красный — прекращение закачки. Можно остановить закачку и продолжить после, а можно просто прекратить и все.

Когда закачка будет проведена, выйдет соответствующее сообщение.

Русификатор для Teleport Pro

К сожалению, я так и не смог найти русификатор для этой программы. увы. Однако в интернете есть уже русифицированная Teleport Pro 1.72 — и вот я выкладываю скриншоты ее ниже.

Установка русифицированной Teleport Pro — стандартные шаги, все как обычно.

Запуск программы — тоже самое первоначальное окно, но — все по-русски! Пробежимся по вкладкам:

Первая — Файл. Ну как — все понятно становится?

Вторая — Проект. Снова немного проясняется.

Здесь откроем О программе — она уже взломана и активирована. программа так же скачана где-то на торрентах (естественно, в ознакомительных целях).

Теперь вернемся во вкладку Проект и откроем там пункт — Настройки проекта или Project Properties — о них я вначале умолчал, так как без знания английского языка там сложновато. Теперь можно и разобраться.

Первое — Сведения. Вторая — Считывание файлов.

Третье — Просмотр / Зеркалирование. Поиск

Исключения. Корректность. Дополнительно

Как видим, настроек много. но программа работает отлично и по-умолчанию. можно ничего не трогать.

Запускаем Мастер нового проекта — все те же четыре шага. Но теперь можно и понять, что тут и к чему? Снова ввожу первый попавшийся адрес сайта. ставлю глубину 10.

Шаг три — а вот тут переводчик что-то поленился. Четвертый шаг — почти готово.

Ну, вот и последний штрих — сохраняем проект, чтобы. увы. Сразу после нажатия кнопки Сохранить, происходит завершение работы — вылет. Все жалуются на это и решения нет. По крайней мере, я не нашел.

Я пробовал всякие танцы с бубном — но не помогло. Русификатор здесь не представлен отдельным файлом. Вероятно, это происходит из-за некорректного взлома и активации программы. Поэтому, продолжаем пользоваться английской версией. Кстати версия 1.72 абсолютно ничем не отличается от версии 1.70

Впечатления и выводы

Программа Teleport Pro работает в целом хорошо — сама по себе маленькая, не грузит ни компьютер, ни интернет. Скачивает все достаточно тщательно, быстро.

Но здесь скорость скачивания зависит как от самого интернет-доступа, так и серверов, где расположен скачиваемый сайт, а также от нагрузки на него в данное время. Например, я для эксперимента поставил закачку sammler (с самого начала мы видели его), закачка длилась 12 часов 40 минут. За это время было скачано всего 6,7 Гб данных, общее количество скачанных больших и малых файлов составило 1173. Мне надоело, и я остановил закачку.

Программа Teleport Pro имеет и свои недостатки, помимо того, что она платная и не локализирована нормально на русский язык. Не всегда корректно программа работает с протоколом HTTPS. Но в адресе его можно убрать и тогда закачка начинается успешно, но иногда и не начинается. Лучше всего качать сайты с протоколом http — так вернее. Затем вылезло ограничение — количество скачиваемых файлов — не более 65536 файлов. После этого закачка останавливается — баста!

К тому же, отсутствие официального веб-сайта разработчиков. видимо они забили на эту программу.

Как скопировать сайт целиком и переделать под себя

“Новое — это хорошо забытое старое…”. Кажется, в мире интернета смысл этой поговорки немного изменился. В условиях миллиардной аудитории никто не ждет, пока какой-то проект или красивый лендинг забылся. Копирование, копирование и еще раз копирование — это философия не только небольших частных предпринимателей, которые просматривают сайт-визитку или витрину магазина где-то за океаном. Копируются соцсети, мессенджеры, маркетплейсы, различные сервисы для бизнеса. И плагиат распространен в мире арбитража трафика.

Увидели красивый лендинг или крутой преленд с высокой конверсией? Необязательно тратить много времени и делать все с нуля. Если не копировать, то какой смысл в SPY-инструментах. Но простое использование команд “Ctrl+C” и “Ctrl+V” не работает. Да и при копировании страницы теряется код, нарушается верстка, пропадают картинки, отсутствует анимация. Не работают формы обратной связи, партнерские ссылки для переадресации на сайт рекламодателя засчитываются владельцу донора.

Можно ли скопировать сайт так, чтобы его можно было отредактировать под себя и залить на сервер? И как это сделать? Об этом сегодня и поговорим. Усаживайтесь поудобнее, впереди вас ожидает только полезная информация и рабочие советы.

Можно ли скопировать любой сайт

Если коротко — не все так однозначно… Из теории мы знаем, что при переходе на какой-то сайт, браузер подает запрос, сервер ему отвечает и передает данные в виде html-кода. Это язык разметки, после загрузки данных в окне web-браузера мы видим содержимое сайта. При этом локальная копия исходного кода хранится в буфере. Кеш временно сохраняться на жестком диске в папке C:\Users\USERNAME\AppData\Local\Google\Chrome. Достаточно извлечь из памяти данные страницы и сохранить. Но, было бы все так просто, каждый арбитражник да каждый школьник уже создал бы собственный *Facebook, Youtube, TikTok или криптобиржу.

Но современный сайт — это больше, чем веб-документ в формате html. Масштабные проекты да и простые лендинги чаще пишутся с использованием языка PHP или создаются на базе систем управления контентом (CMS), таких как WordPress, Joomla, MODx, Drupal. Собранные в визуальном конструкторе за 10 минут блоги и лендинги на их основе также в своей основе имеют код php. Структура таких порталов, даже небольших, двухуровневая: frontend — то, с чем взаимодействуют пользователи (именно взаимодействуют, а не просто просматривают), и backend — часть, исполняемая на сервере.

Современный сайт может быть полностью построен на базе динамических скриптов (например, адаптивные лендинги, которые подстраиваются под размер экрана) или содержать отдельные элементы. Это может быть “калькулятор” для расчета заказа, форма обратной связи, курсы валют или другие данные, которые могут меняться.

Можно скопировать только те скрипты, которые исполняются на стороне посетителя. Серверная часть для скачивания не доступна. Но исходный код и ответ сервера, который видят пользователь — это не одно и то же. При каждом обращении данные могут отличаться. Вы можете сохранить себе на компьютер код, выданные сервером. Но в дальнейшем такой проект без существенной доработки бек-энда работать не будет. После загрузки на сервер максимум, что можно получить — статический сайт с множеством проблем:

• сбивается верстка на адаптивных сайтах: съезжают кнопки, таблицы, текст;
• часть информации, как текстового, так и графического контента, становится недоступной;
• не работают формы, в некоторых случаях при заполнении полей обратной связи заявки будет получать конкурент, у которого вы “своровали” сайт;
• ни о какой адаптивности говорить не стоит: сайт будет всегда адаптированным под размер экрана устройства, с которого было копировано.

Хорошая новость в том, что простые сайты скопировать можно и даже обеспечить их корректную работу после минимальных правок в визуальном редакторе и ввода штучных изменений в код. Это лендинги, прелендинги, сайты-визитки и даже небольшие интернет-магазины на несколько страниц.

Загрузить можно даже сайт, который работает с использованием динамических таблиц. Правда мы получим статическую страницу с урезанными функциями (например, без адаптации под размер экрана).

А зачем вообще копировать чужой сайт

Если перефразировать слова Остина Клеона из книги “Кради как художник”, копирование — это творческий процесс, если мы, конечно, просто не выдаем чужие наработки за свои. И он ведет нас к прогрессу. Используя готовые образцы за основу, мы создаем что-то новое. Становится актуальным вопрос: что хорошо, а что плохо? “Существует только то, что достойно или недостойно быть позаимствованным…”.

Копирование помогает переосмыслить чужие идеи и сделать что-то лучшее. Для веб-программистов и верстальщиков — это возможность разобрать чужой код, изучить особенности работы скриптов, анимацию, чтобы потом использовать эти идеи в новых проектах.

Актуально копирование сайтов в арбитраже трафика и среди маркетологов, которые запускают рекламные кампании в сети. Можно потратить месяцы и тысячи долларов (это при самых скромных подсчетах) на тестирование лендингов и прелендингов, сайтов визиток и одностраничных магазинов (неважно, созданным с нуля или на базе шаблонов). Но все равно не получить результат.

Альтернатива — найти Landing Page через SPY-инструмент, посмотреть статистику, выбрать и, естественно, доработать под себя. Второй способ занимает немного времени, буквально часы. И бонус — можно сразу скопировать рабочую связку типа “баннер+лендинг”, “прелендинг+лендинг” или даже “баннер+преленд+лендинг пейдж”.

Последствия копирования чужих сайтов

Прежде чем переходить непосредственно к основному разделу с советами, вспомним о последствиях, которые могут ожидать при копировании:

• административная ответственность. За копирование чужого сайта (прежде всего это касается дизайна и логотипов) на вас могут подать в суд. Но это возможно только в случаях, когда скопирован уникальный портал, например интернет-магазин, который разрабатывался с нуля, а не лендинг по бесплатному шаблону;
• владелец оригинала через суд может заставить вас удалить свой ресурс, если вы копируете магазин или страницу захвата. Вы потеряете клиентов, которых успели привлечь, усилия на доработку и продвижение пропадут зря;
• вы теряете часть клиентов, когда используете чужой дизайн: клиенты будут ассоциировать вас с компанией-донором сайта, в следующий раз могут обратиться в другую компанию;
• возможна просадка конверсии — в случае, если лендинг уже надоел аудитории, пользователи будут его игнорировать, так как часть целевой аудитории уже отклонила предложение или воспользовалась им.

Все же в арбитраже, если успеть вовремя заметить лендинги и прелендинги с высокой конверсией, копирование сайта позволяет быстро запустить рабочий креатив и увеличить ROI, сберегая время и силы на разработку. А web-программисты получают образец для тренировок и разбора удачных решений.

Как скачать веб сайт на компьютер через браузер

Самый очевидный способ скопировать web-сайт — скачать его с помощью браузера. При этом доступно сразу два способа:

• народный Ctrl+S (“Страница” — “Сохранить как…” в Opera. В Chrome опция запрятана в “Дополнительных инструментах”) — метод, который сразу приходит на ум;
• копирование кода страницы через “Инструменты разработчика” в меню “Разработка” (в браузерах на базе Google Chrome — в меню “Дополнительные инструменты”).

Кажется, все просто, зачем еще заморачиваться. Используем команду “Ctrl+S” и получаем готовый html-файл. Не все так, как кажется. Функция сохранения создана, в первую очередь, чтобы можно было просматривать информацию автономно, когда нет доступа к интернету. И это не самый удобный способ копирования сайта.

Доступно три варианта скачивания:

• только html;
• одним файлом;
• страница полностью.

Первый метод предполагает сохранение только html-разметки. Если такую страницу просматривать без интернета или попытаться установить на сервер, то мы увидим только таблицы, заголовки. Большая часть контента, картинки, формы, виджеты и даже часть текста, будет утеряна.

Очевидно, нужно выбрать пункт “Страница полностью” или “Одним файлом”. В первом случае будет сохранен html-файл вместе с папкой, в которой сохраняются файлы стилей, шрифты, картинки, ссылки на другие страницы. Во втором создается веб-архив: HTML документ вместе с javascript, css, аудио и видео, закодированный по методу MIME (.mhtml) — по такому же принципу кодируются сообщения электронной почты.

И mhtml-архив и html-докумет с файлами позволяют просматривать содержимое страницы в автономном режиме. Но в случае загрузки на сервер сайт работать не будет или с заметными искажениями, хотя сохраненные страницы можно открыть через визуальный редактор (и даже через текстовый редактор типа MS Word), отредактировать и уже сохранить в правильном формате.

Но главный недостаток — за один раз вы сохраняете только одну страницу. Если это большой сайт, на выходе получится много папок, не связанных между собой, которые придется связывать вручную.

Более продвинутый способ копирования — через инструменты разработчика. Позволяет скопировать не только саму html-разметку, но и структуру файлов сайта с каталогами.

Чтобы скопировать сайт:

• входим в меню “Разработка”;
• выбираем “Инструменты разработчика” (Ctrl+I или Ctrl+Shift+I) — перед нами появляются DevTools;
• выбираем вкладку “Sources” — в левой части окна открывается окно с деревом каталогов;
• просматриваем структуру страницы — обычно файлы сайта идут в первой папке, ниже — папки с внешними скриптами (обычно, их копировать не нужно);
• создаем на локальном хранилище (жесткий диск, флешка, облачное хранилище, куда мы будем копировать страницу) папку с названием страницы, внутри создаем каталоги в соответствии со структурой зеркала сайта;
• сохраняем поочередно все файлы, кликнув по ним правой кнопкой мыши и выбрав команду “Save As”. К сожалению, скопировать все файлы одним махом или папку целиком возможности нет;
• копируем название файлов (символы в названии после вопросительного знака (“?”) копировать необязательно), если оно не подставилось автоматически;
• если нужно скачать изображение, то мы кликаем по нему в каталоге в левой части окна, после этого нажимаем по самому объекту правой кнопкой мышки и выбираем все ту же команду — “Save As”.

Повторяем процедуру для всех страниц сайта. Естественно, если названия папок с контентом совпадают, то на сервере используется общий каталог, создавать новый на локальном диске не нужно.

Если инструментов разработчика нет, можно пойти по более длинному пути. Создаем папку с названием сайта, внутри три каталога: img — для изображений, видео; css — для файлов стилей; js — для файлов скриптов. Открываем главную страницу копируемого сайта. Нажимаем “Ctrl+U” — браузер откроет исходный код страницы. Копируем его и вставляем в блокнот. Сохраняем файл в папке сайта (корневой папке) под именем index.html. В исходном коде находим ссылки на скрипты, изображения (заканчиваются расширением .jpg, .png), стили (css), скрипты (js) — кликаем по ним. Код сохраняем с использованием блокнота. Помещаем в папки с соответствующим названием. По такой же схеме сохраняем все страницы.

Правда смысла в этом методе немного. В современных браузерах, даже небольших авторских проектах, реализованы инструменты разработчика. Да и удобнее пользоваться парсерами, способными в автоматическом режиме просканировать все страницы и скачать сайт целиком.

Специализированные программы для копирования сайта — парсеры

Парсеры, они же грабберы или рипперы — это специализированные программы, которые постранично сканируют сайт или только выбранные разделы, скачивают исходный код и контент, систематизируют данные в автоматическом режиме. У парсеров, как и у обычного браузера, нет доступа к данным, сохраненным на сервере: на это способен лишь хакерский софт, и то только после внедрения шпионского ПО (червя или трояна), которое сольет пароли и логины для доступа или напрямую данные с сервера злоумышленнику. Как вы понимаете, такой софт в свободном доступе не лежит.

Принцип работы парсеров такой же, как и при постраничном скачивании с помощью команды “Сохранить как…” или через “Инструменты разработчика”. Только поочередно веб-страницы открывает не пользователь, а бот, который имитирует поведение человека. Похожий алгоритм у роботов поисковых систем.

Юзер вводит url-адрес в адресной строке граббера. Приложение подает запрос серверу, тот в ответ выдает html-код. Дальше бот считывает страницу и начинает ее сканирование: ищет все внутренние ссылки и отправляет запрос по ним, потом снова считывает и сохраняет код, стили, скрипты, мультимедиа, контент. Процесс повторяется, пока приложение не сканирует весь сайт.

Парсеры не смогут сделать идентичную копию сайта. Они сохраняют лишь его статический html-слепок (зеркальную копию или дубликат). Но для небольших лендингов часто этого достаточно, где исходный код и страница в браузере — идентичны. И главный бонус — такой софт облегчает работу арбитражников:

• экономит время, десятки часов;
• автоматически систематизирует файлы, создавая структуру сайта, которую можно загрузить на сервер и запустить;
• снижает вероятность механической ошибки, когда какой-то файл сохранен не под правильным именем или помещен не в тот каталог.

Недостаток — по-прежнему невозможно скачать исходный код. Только слепок или зеркальную копию с контентом и ссылками, которую выдает сервер. Остальные минусы зависят от конкретного приложения. Например, некоторое ПО просто скачивает с каждой страницы всю информацию, которую сможет найти. В итоге получается много дублей картинок и скриптов. Сайт размером в 20 мегабайт может разрастись до 200 мб.

В сети выложено много парсеров как бесплатных, так и платных. Есть софт в виде программного обеспечения для установки на локальное устройство (для Windows, Android, MacOS, iOS), скрипты для установки на сервер, онлайн-сервисы.

Специализированные программы для установки на компьютер

WinHTTrack WebSite Copier

WinHTTrack WebSite Copier — приложение для скачивания сайтов, которое распространяется бесплатно. Есть версии для Windows, в том числе устаревших версий Windows 2000, XP (WinHTTrack), Linux, BSD (WebHTTrack). Основная задача — скачивание и упорядочивание файлов. На выходе получаем готовую папку с зеркальной копией сайта, которую можно залить на сервер.

У софта есть много дополнительных опций:

• скачивание закрытых разделов сайта (при наличии доступа — логина и пароля), доступных авторизованным пользователям;
• создание резервных копий в несколько кликов;
• обновление уже скачанного сайта — приложение сопоставит и добавит обновленные разделы или внесет изменения в скачанные страницы;
• возможно одновременное скачивание нескольких сайтов с перекрестными ссылками или скачивание вместе с сайтом страниц других ресурсов, на которые ведут внешние ссылки;
• гибкая настройка формата структуры сохраненного сайта (одним файлом mhtml или сайта полностью), ассоциаций MIME, добавление прокси и др.;
• возобновление прерванных загрузок и другие опции.

Cyotek WebCopy

Еще один бесплатный парсер с широкими возможностями. Софт автоматически упорядочивает структуру, копирует скрытые части сайта, которые доступны только после аутентификации. Полезная функция — захват форм. В отличие от других грабберов, Cyotel WebCopy умеет копировать с сохранением работоспособности формы доступа, обратной связи, заказа, которые реализованы на сервере через динамические скрипты php.

В отличие от HTTrack, есть версия только для Windows, зато здесь более современный и приятный дизайн.

• автоматическое упорядочивание структуры. Парсер сопоставляет все ссылки и переназначает путь к ним после копирования, исключает появление дубликатов;
• можно вручную установить формат, по которому приложение будет упорядочивать структуру;
• доступно сохранение контента в один файл (MIME html);
• опция захвата форм, возможно скачивание закрытых разделов, доступных после авторизации;
• приложение выводит дерево ссылок, в котором можно наглядно посмотреть структуру сайта;
• фильтры, позволяющие сохранить только скрипты или изображения;
• приложение устроено так, чтобы создать зеркальную копию сайта, которая будет работать автономно.

Это универсальная утилита с множеством полезных функций. Умеет сканировать и копировать сайты по http, https, ftp, ftps. Если оценивать по возможностях — это одно из самых мощных приложений. Умеет сканировать сайт и сохранять исходный код вместе с контентом в один файл (mhtml для локального просмотра), создавать зеркальные копии сайта, которые в дальнейшем можно загрузить на новый сервер. Также среди функций — скачивание исходного кода с сервера по ftp (для разработчиков и владельцев).

Утилита изначально написана для linux, но потом создатели сделали компиляцию для Windows. Но визуальная оболочка отсутствует. Управление граббером через командную строку.

Скачать дистрибутив для Linux можно здесь. Версия для Windows (файл .exe) — здесь.

Процесс установки на Windows:

• загружаем файл или zip-архив;
• извлекаем файл wget.exe, копируем его в папку Windows/System32 (или в другой каталог, который позволяет запускать утилиту через командную строку из любого места);
• запускаем командную строку: прописываем в строке поиска на панели задач cmd (Windows 10, 11) или Win + X — “Выполнить”, пишем команду cmd, нажимаем кнопку ОК;
• вводим команду “wget -h”, чтобы увидеть список команд с расшифровкой;
• для удобства создаем каталог в корневой папке на диске С, куда будут загружаться файлы сайтов (cd / — команда, чтобы переместиться в корневой каталог, md wgetdown — создать папку с названием “wgetdown”).

• сделать зеркало сайта: wget -r https://www.yoursite.com;
• сделать копию сайта и локализовать ссылки: wget —convert-links -r https://www.yoursite.com;
• сделать оффлайн-зеркало с локализацией ссылок: wget —mirror —convert-links —adjust-extension —page-requisites —no-parent https://www.yoursite.com;
• сохранить зеркало сайта как .html: wget —html-extension -r https://www.yoursite.com;
• загрузить изображения: wget -A «*.jpg» -r https://www.yoursite.com.

Web ScrapBook

Браузерное расширение для Chrome, позволяет в несколько кликов скачать копию сайта или отдельную страницу. Также позволяет просматривать на браузере архивированные страницы, когда доступ к интернету отсутствует.

• удобное управление в один клик;
• минимум функций.

Teleport Pro

Одно из самых популярных приложений для копирования сайтов и лендингов среди арбитражников. Приложение может скачать сайт целиком или отдельные страницы со всеми ссылками и адаптацией для просмотра на компьютере. Граббер умеет создавать статические дубликаты лендингов и прелендингов, которые можно запускать на сервере.

• автоматическое восстановление структуры сайта;
• есть возможность настроить адреса ссылок;
• поиск по ключевым словам;
• загрузка скрытых разделов, защищенных паролем;
• создание дубликатов сайта;
• одновременное сканирование нескольких адресов.

Недостаток — устаревший дизайн, немного запутанный интерфейс.

Offline Explorer

Один из самых продвинутых грабберов с большим набором функций, интуитивно понятным и современным интерфейсом. Но он платный. Приложение умеет захватывать сайты целиком или отдельные страницы. С высокой точностью воспроизводит дубликаты страниц в социальных сетях (*Facebook, YouTube, *Instagram), может сканировать защищенные паролем разделы. Разработан на движке Chromium.

• одновременная загрузка нескольких проектов;
• автоматическое скачивание при появлении обновлений (резервное архивирование);
• загрузка по HTTP, FTP;
• реализовано сканирование и копирование страниц в социальных сетях.

Webcopier

Еще один платный проект. Webcopier изначально разработан для корпоративного использования. Это одновременно веб-браузер и инструмент, позволяет в несколько кликов сохранять интернет-каталоги, брошюры, расшаривать данные внутри локальной сети. Для разработчиков реализована возможность поиска мертвых ссылок и анализа структуры сайта.

Маркетологам риппер дает возможность быстро копировать страницы лендингов для дальнейшего редактирования.

• парсер имеет встроенные средства просмотра;
• копирование страниц в несколько кликов;
• сканирование, просмотр структуры;
• загрузка сайта с автоматической корректировкой структуры;
• есть версии для Windows, Mac, Android.

Плагин Save Page WE

Расширение для браузеров Chrome, Firefox. Фактически плагин копирует опцию “Save As…”, но более качественно упорядочивает структуру файлов. И имеет несколько полезных функций, таких как извлечение ссылок и файлов (изображений, видео).

Онлайн-сервисы для копирования сайтов

DollySites

Это не совсем онлайн-сервис, а скрипт, который можно установить на свой сервер (в лицензию входит возможность установки на три IP). Позволяет скачать и отредактировать сайт в несколько кликов, поддерживает прокси и tor-сайты (.union). Есть инструмент захвата и адаптации форм обратной связи. По набору функций DollySite превосходит многие оффлайн-пакеты для локальной установки. После регистрации открывается личный кабинет, где можно управлять загрузками.

• встроенный редактор;
• можно в несколько кликов заменить картинку или текст;
• высокая скорость работы за счет серверных ресурсов;
• можно перевести сайт с помощью встроенного переводчика.

Главный недостаток — скрипт платный. Демо-версия на один час без функции экспорта.

Web2zip

Простой сервис, который позволяет сделать дубликат сайта или лендинга. Функция у приложения только одна — сохранить сайт. Зато инструмент сразу создает zip-архив, готовый к загрузке на сервер и распаковке. Работает без регистрации и авторизации.

Saveweb2zip

Еще один сервис для создания дубликата сайта в один клик с упаковкой в zip. Но у сервиса есть несколько дополнительных функций:

• настройка форм обратной связи, интеграция с партнерками;
• копирование мобильной версии.

Saveweb2zip — один из лучших инструментов арбитражника, который позволяет быстро копировать лендинги и в один клик адаптировать их для захвата клиентов.

RoboTools

Роботулс пошел дальше и предлагает скопировать не только актуальную версию сайта, но и версии за прошлые годы из веб-архивов. Инструмент специально разработан для создания сателлитов. Сервис позволяет скачать сайт за несколько минут. Для загрузки доступен zip-архив, который можно отредактировать или загрузить на сервер и сразу же запустить (после распаковки). Сайт платный — оплата за страницы. Но скачивание с некоторыми ограничениями доступно бесплатно в демо-версии.

Webparse.ru

Сервис для скачивания сайтов в один клик, но с дополнительными функциями: скачивание мобильной версии, сканирование и просмотр контента, загрузка страницы или всего ресурса целиком. Сайт платный, есть пробная версия с одним бесплатным скачиванием.

WebSiteDownloader

Простой инструмент для скачивания сайтов в один клик без регистрации и ограничений. Вставляем ссылку, нажимаем кнопку “Download”. Полезная функция — поддержка скачивания из веб-архива Wayback Machine.

Копирование с использованием услуг фрилансеров и компаний

Еще один способ скопировать сайт — обратиться в веб-студию или к фрилансеру через одну из бирж фриланса. Метод подойдет, если вам понравился лендинг, сайт-визитка или небольшой магазин, сайт с описанием услуг и хочется себе такой же. Это не вариант для арбитражников: от звонка и заключения договора до получения готового сайта уйдет пару дней. Зато вариант для небольших предпринимателей, блогеров, у которых нет возможности и надобности разбираться в тонкостях веб-дизайна, работы с html-разметкой, подключения баз данных и настройки хостингов.

При обращении к фрилансерам, возможны два варианта:

• копирование сайта через парсер с редактированием кода и структуры, изменением контактов, форм обратной связи, некоторых фото. Дизайн будет идентичным, но новые функции добавить практически невозможно. Цена — в пределах 800-1000 рублей. Время работы — 1-2 дня;
• визуальное копирование с помощью конструктора (сборка нового сайта с нуля по шаблону). Этот вариант дороже, в пределах 5000 — 8000 рублей за простой лендинг, сайт на 3-5 страниц. Будут небольшие отличия в дизайне, анимации. Зато можно добавить функции по желанию. Время — до 10 дней.

В любом случае вы получаете сайт с правильной версткой без ошибок, с работающими формами обратной связи.

Студии, где можно заказать услугу копирования сайта:

• студия SPECHEET (specheet.ru). Копирование (парсинг) — 790 рублей, от одного дня. Создание копии лендинга с нуля — от 7000 руб.;
• pro — сервис копирования сайтов (парсинга). Предлагает три тарифа: эконом за 390 руб. — копирование парсером с удалением трекеров и жучков; Эконом+ за 590 руб. — дополнительно редактируется форма приема заявок; Стандарт за 990 руб. — копирование с удалением трекеров, редактированием формы приема заявок, замена текста, контактов, установка Я.Метрики, залив на хостинг;
• веб-агентство pixel — предлагает комплексное копирование сайта (дизайна, форм, скриптов), цены рассчитываются индивидуально.

Гайд: как скачать весь сайт

Мы уже описали, как копировать сайт постранично с помощью встроенных инструментов браузера. Теперь подробная инструкция по использованию программ и сервисов.

Как скопировать сайт с помощью программы Cyotel WebCopy

Эту программу мы выбрали по трем причинам: она бесплатная, хороший функционал, почти как у платного софта, и приятный современный интерфейс (в сравнении с HTTrack, Teleport Pro, у которых возможности такие же).

Скачиваем установочный файл — переходим на официальный сайт, нажимаем кнопку “Download”.

Запускаем скачанный установщик, принимаем условия, нажимаем кнопку дальше.

Отмечаем необходимые настройки, нажимаем кнопку “Дальше” (Next).

Выбираем опции установки (создавать ли ярлык на рабочем столе), нажимаем “далее” и “установить”.

Запускаем приложение. Основные режимы работы программы:

• тестирование сайта;
• просмотр отчета по содержимому сайта;
• быстрое сканирование;
• копирование сайта.

Быстрое сканирование позволяет увидеть структуру страниц и их взаимосвязь. Через отчет можно оценить размер сайта и насколько много дополнительного контента будет загружено.

Чтобы скопировать сайт, достаточно в поле с адресом (website) вставить URL и нажать кнопку Копировать (Copy). Приложение автоматически создает структуру, редактирует ссылки. Все данные сохраняются в папку (Save folder), указанную под адресной строкой.

Готово, получаем дубликат сайта с преобразованным php-кодом в html-разметку. После завершения копирования в окне с данными можно посмотреть результаты копирования, список файлов, карту сайта.

Копирование сайта с помощью онлайн-сервиса Saveweb2zip

Процесс копирования с помощью сервиса упрощен, насколько возможно. Все четыре шага:

• переходим по ссылке saveweb2zip.com;
• вставляем в адресную строку url сайта или страницы;
• если нужно, настраиваем форму обратной связи;
• нажимаем кнопку “Скачать”.

Сервис сканирует сайт, автоматически формирует его зеркало и запускает скачивание. На этом копирование закончено. Вы получаете готовый для запуска дубликат. Скачанный zip-архив можно редактировать в визуальном редакторе или распаковать и запустить на сервере.

Скачивание изображений с сайта

И предустановленные программы, и онлайн-сервисы скачивают сайт целиком вместе с изображениями, скриптами, видео. Но картинки, как и видеоролики, копируются не всегда. Причина может быть как в установленных ограничениях по размеру файла, так и просто связана со сбоями в работе сервиса, ошибками в коде. Изображения могут физически находится на стороннем сайте (хостинге изображений или видеохостинге) и граббер проигнорирует их. В такой ситуации есть несколько решений:

• сканировать с помощью парсера, который умеет отдельно скачивать картинки и другой мультимедиа контент;
• заново сканировать сайт парсером, установив функцию “Скачать все страницы по ссылкам” (multiple mirror);
• копировать картинки вручную: открываем в браузере исходный сайт и скопированную на ПК копию, просматриваем страницы, где отсутствуют изображения, копируем картинки, кликнув по ним правой кнопкой мыши и выбираем команду “Сохранить изображение как…”, сохраняем в папку с контентом (img, pics, content или другое название) в раннее скачанном архиве;

• через инструменты разработчика: нажимаем в браузере Ctrl+Shift+I, открываем вкладку Sources, находим папку с изображением, копируем в папку с архивом.

Удобный функционал по скачиванию картинок реализован в Wget. Но приложение работает только через командную строку. Чтобы скачать изображения, запускаем программу через командную строку и вводим команду wget -A «*.jpg» -r https://www.yoursite.com

Как редактировать скопированный сайт

После скачивания есть несколько способов редактирования:

• открываем через блокнот или адаптированный блокнот для программистов (Notepad++, HAPedit или другой) и редактируем исходный код (вариант для настоящих гиков);
• через локальное приложение для создания и редактирования сайтов, например Adobe Dreamwiever или через WYSIWYG Web Builder. Впрочем, отредактировать скачанный лендинг можно даже через MS Word. Работает по принципу графического редактора (но не получится отредактировать формы захвата). Редактируем текст, стили, добавляем разделы как и при редактировании текстового документа;
• через веб-абминку CMS. Импортировать большой сайт на Wordpress, Joomla или другую CMS не так легко (веб-разработчики новичкам рекомендуют работать с Modx Revo), но с лендингами, у которых минимум внешних ссылок, можно управиться, хотя это требует опыта.

Для редактирования лучше использовать специализированный редактор, хотя можно использовать и MS Word или его бесплатные аналоги, например WPS Office.

Подведем итоги

Скопировать сайт несложно, если это ресурс на несколько страниц без сложных форм и скриптов. Лендинги, магазины на одну страницу, визитки можно скачать, отредактировать и запустить на собственном сервере за несколько минут. Но когда дело касается сложных проектов с сотнями, тысячами страниц, корректно скопировать их достаточно сложно. И усилия на доработку часто нужны такие же, как на создание с нуля. Впрочем, для маркетологов и арбитражников парсеры заметно упрощают жизнь и позволяют намного быстрее запускать успешные рекламные кампании.

*владелец Facebook и Instagram, компания Meta – запрещенная в РФ организация

Teleport pro как пользоваться

В рабочем окне программы имеются:
Меню; Панель инструментов, где кнопками дублируются некоторые команды из меню; и Панель задач с 10 индикаторами, показывающими степень скачивания 10 файлов из сети.

Для обеспечения копирования сайта вначале нужно создать проект (Project). Для этого нажимаем кнопку — New Project Wizard.

В открывшемся окне Мастера создания проектов можно выбрать следующие варианты проекта (сверху вниз):

• Создание копии узла Интернета (все файлы в одной папке)
• Дублирование узла Интернета с сохранением структуры этого узла — рекомендую выбирать этот вариант.
• Поиск файлов заданного типа на узле Интернета.
• Копирование узлов Интернета, на которые ссылается выбранный узел.
• Поиск на узле Интернета по ключевым словам.

Жмем «Далее», в верхнем окне вводим адрес, например http://genealogical-tre.chat.ru/ , жмем «Далее», выбираем: Text and graphics, жмем «Далее», жмем «Готово».

В окне «Сохранить как» выбираем папку для сохранения (я обычно помещаю в Program Files/ Teleport Pro/ Projects), даем имя файлу (можно на русском), сохраняем.

Проект будет помещен в левом окне Teleport Pro. В Меню/ Project выбираем «Project Properties (или кнопка ).

На вкладке «File Retrieval» можно задать, какие конкретно типы файлов копировать, и выбрать их максимальный размер (через кнопку «Edit»)

На вкладке «Browsing/Mirroring» в дополнение к установленным флажкам отмечаем «Link to the Internet address for the file» и нажимаем кнопку «Relink all files in the project folder now».

На вкладке «Exploration» в секторе «Updating» отмечаем «Update (retry) only bad files», а также снимаем все флажки (это на тот случай, если за один сеанс не получится полностью скопировать сайт и чтобы в следующий раз Teleport Pro не обновлял уже переписанные файлы, а только плохие и копировал новые).

В остальные вкладки можно не входить. Нажимаем «ОК». На этом создание проекта закончено.

Если работаете через прокси-сервер, в Меню/ File выбираем Proxy Server, отмечаем галочкой «Connect to the . proxy server», указываем адрес и порт (как и для вашего браузера) далее «ОК». Если работаете не через прокси, то ничего делать не надо.

Устанавливаем соединение с Интернет, нажимаем кнопку «Start», на панели задач высветится вначале один индикатор, затем все десять, в статус-строке будет показываться, какие файлы пишутся.

Чтобы остановить копирование, нажать кнопку «Stop». Teleport Pro за несколько минут закончит скачивание текущих файлов (если хотите сразу остановить работу, нажмите кнопку «abort»). После этого Teleport Pro установит связь ссылок в переписанных файлах и выведет табличку с отчетом о количестве скопированных файлов и кнопкой «ОК».

Для просмотра файлов скопированного сайта в правом окне открытого проекта программы Teleport Pro запустите файл index.htm.

Незарегистрированная версия программы имеет ограничение на количество копируемых страниц и проектов. Домашняя страница программы www.tenmax.com. Размер файла pro12.exe равен 845кб.

Найдя в Сети русификатор, вы сможете без проблем пользоваться этой программой.

Примечание: Teleport Pro копирует файлы в той кодировке, в какой они находятся на сервере.