І поширені помилки файлів
Некоректне складання rоbоts.txt
Rоbоts.txt - кореневої файл, який буде містити в собі заборони або команди для пошукових роботів, на підставі яких системи будуть переміщатися по сайту, виконувати індексацію змісту, мати можливість контактувати з релевантною, на думку роботів, інформацією, яка може дати підставу для приміщення сайту в Топ, тобто «корисного для відвідувачів».
Для створення цього файлу вам стане в нагоді «блокнот» або стандартна програма WordPad, при створенні цього файлу вам потрібно назвати його rоbоts.txt, де .txt - розширення файлу. Далі заповнюйте його так, як написано в правилах створення цього файлу в Яндекс. Вебмайстрів. Після завершення роботи з цим файлом потрібно завантажити його в кореневу папку ресурсу.
Як знайти файл?

Для вказівки пошуковим системам на те, що потрібно індексувати. а що ні, використовуються дві команди. Директива «Disаllow: /» буде вказувати на закриту від пошукових роботів інформацію, а «Allоw: /» - на відкриту.
Перевірка файлу
Для нівелювання даних проблем вам потрібно регулярно перевіряти працездатність даного файлу. У цьому може допомогти «Аналіз rоbоts.txt», який розташовується серед інших інструментів Яндекс. Вебмстера.
Для цього вам буде потрібно:

далі відривайте результати, де відразу буде видно, які сторінки відкриті для індексації пошуковими роботами, а які будуть закритими:

Якщо ви виявили сторінки, які потрібні для індексації, а вони виявилися закритими, вам буде потрібно виправляти цю проблему, прописавши директиву в файлі.
Некоректний файл sitеmаp.xml
Файлом Sitеmap.xml називається файл, який створений в форматі XML; він містить посилання на сторінки ресурсу, які повинні бути індексовані пошуковими роботами. Його головною метою є вказати роботам на найважливіші сторінки сайту, а також на те, як часто потрібно їх індексувати.
створення файлу
Частина файлу буде виглядати так:
Пошук помилок
Якщо в даному файлі знаходять помилку, то це призводить до некоректної індексації сторінок пошуковими роботами і, отже, кошти, витрачені на розвиток і просування сайту в ТОП, будуть витрачені даремно.
Щоб вказати пошуковим системам на Sitеmap.xml, можна скористатися кількома способами (щоб отримати максимальний результат, краще їх поєднати).
Інструменти Яндекс. Вебмастера, зокрема пункт «файлів Sitеmap», який можна знайти в налаштуваннях для проведення індексації. У цьому полі потрібно буде додати відповідний файл (цей інструмент також зможе допомогти вам визначити працездатність даного файлу і наявність в ньому помилок):

Можна також використовувати запис у файлі robоts.txt, він також служить для вказівки потрібних шляхів пошуковим системам. Зробити це потрібно в такий спосіб:

Якщо ви хочете дізнатися про наявність помилок у файлі, то для цього існує спеціалізований сервіс «Валідатор Sitemаp». У ньому можна вибирати варіанти завантаження файлу, і за допомогою кнопки «перевірити» запустити валідатор в роботу:

У разі коректної роботи ви отримаєте наступне:

Якщо ж є які-небудь помилки або неточності в даному файлі буде повідомлення:
