Індексація сторінок сайту

У випадку з індексацією сайту пошуковими машинами все набагато складніше. Ось як працює, наприклад, пошукова машина Гугл.
Індексація сайтів роботом Гугл
Але спайдери зберігають далеко не всі дані. Вони просто не в змозі побачити все.
В першу чергу вони звертають увагу на найважливішу інформацію. Яку інформацію вони вважають найважливішою?
Цей набір пошуковий робот мітить для індексу Google. Якщо оптимізація сайту зроблена неграмотно, робот може просто не зрозуміти, про що взагалі цей сайт, і занести його в сміттєву базу.
Індексація сайтів роботом Яндекса
Яндекс працює приблизно так само. Відмінність лише в тому, що індексація відбувається відчутно повільніше.
На моєму молодому сайті в перші тижні його існування індексації Яндексом взагалі не відбувалося. І лише через 2 місяці, на мій подив, деякі сторінки потрапили навіть в топ 3.
Що я роблю, щоб індексація статей сайту проходила швидше і якісніше
Для цього довелося постаратися і переписати деякі статті блогу. Я виконав наступну роботу:

Що потрібно робити, щоб індексація сторінок сайту проходила швидше
Всі ці заходи є необхідними умовами для швидкої індексації сторінок сайту. Зупинимося на найважливіших.
Створення карти сайту sitemap.xml
Карта сайту sitemap.xml в Вордпресс складається складається автоматично за допомогою спеціальних плагінів. Зазвичай рекомендують All in One Seo Pack або Google XML Sitemaps. Я ж користуюся плагіном YOAST, з причини, що використовую його для оптимізації, і щоб не встановлювати додатковий плагін, використовую його карту сайту. Новачкам найпростіше встановити Google XML Sitemaps, як не вимагає ніяких спеціальних налаштувань.
Створення файлу robots.txt
Подивися короткий ролик, як працює файл robots.txt при індексації сторінок сайту.
Варіантів складання файлу robots.txt існує багато. Я використовую ось таку конфігурацію. Поки нарікань вона в мене не викликала.
Приклад файлу robots.txt
User-agent: *
Disallow: / cgi-bin
Disallow: / wp-admin
Disallow: / wp-includes
Disallow: / wp-content / plugins
Disallow: / wp-content / cache
Disallow: / wp-content / themes
Disallow: / trackback
Disallow: * / trackback
Disallow: * / * / trackback
Disallow: * / * / feed / * /
Disallow: * / feed
Disallow: / *? *
Не забудь тільки поміняти назву мого сайту smikhaylov.ru на своє.
Аддурілку Яндекса і Гугла

Після додавання сайту Яндекс потребує підтвердження прав на сайт. Йди інструкції, вибравши HTML підтвердження. Просто скачай пропонований файл підтвердження і розмісти його на хостингу в папці з сайтом.
Ті ж операції треба зробити у випадку з аддурілку Google

Індексація сторінок сайту в найкоротший час - спосіб уникнути крадіжки контенту.
Гугл пропонує такий інструмент.
Посмотеть, як Гугл бот

Яндекс пропонує захист контента по назвою «Оригінальні тексти»

Постинг в соцмережах
Як тільки робот побачить, що на статтю йдуть посилання з інших сайтів, він її обов'язково відвідає позачергово.
Привчай роботів до індексації статей на своєму сайті
Індексація сторінок сайту за допомогою пінг-сервісів
Пінг-сервісів досить багато. Ось частина моїх, з якими я працюю. Ще багато інших ти можеш знайти самостійно.
Їх потрібно розмістити ось тут:

Заходиш в Консоль, тиснеш Настройки-Написання. Вибираєш «Сервіси поновлення».
Вордпресс за допомогою цих автоматичних сервісів повідомляє всьому Інтернету про вихід нової статті.
Як перевірити статус індексування статей сайту

Найпростіший спосіб перевірити індексацію статей в Гугл
- це зайти в Гугл і набрати там пошуковий запит:
Дивись на малюнку приклад мого блогу. Я набрав в пошуковому рядку: site: //smikhaylov.ru і отримав повну видачу моїх статей.

Як перевірити індексацію статей сайту в Яндексі
Сервіс Вебмастер Яндекса надає хороший засіб контролю індексації. Зайди в Веб-майстер Яндекса і в розділі Індексування вибери Перевірити статус URL.

Ознайомившись з усіма інструментами сервісу Веб-майстер, ти зможеш успішно контролювати долю своїх статей і вчасно реагувати на поведінку Яндекса по відношенню до твого сайту.
Я рекомендую використовувати сервіс SEOLIB.RU

За символічну плату ти будеш наочно бачити, як просувається твій сайт. Які сторінки в топі, а які в Ж
відстають у просуванні або зовсім не проіндексовані.
- Швидка індексація статей молодого сайту є життєво необхідною для нього.
- Щоб успішно розвивати свій сайт необхідно подружитися з сервісами «Веб-майстер» Гугла і Яндекса і в обов'язковому порядку використовувати їх рекомендації.
- Захищай свій контент всіма доступними засобами
Поділися з друзями