Индексация (indexing) — это процесс, при котором поисковый робот обходит страницы сайта, анализирует их и заносит в свою базу данных (индекс). Только проиндексированные страницы могут появиться в результатах поиска: если страницы нет в индексе, найти ее через поиск невозможно.
Как проходит
- Обход — робот находит страницы по ссылкам и карте сайта.
- Анализ — оценивает содержание и качество.
- Занесение в индекс — страница становится доступной в поиске.
На индексацию влияют доступность страниц для робота, корректный файл robots.txt, карта сайта, скорость и качество контента. Проблемы индексации — когда важные страницы не попадают в индекс или, наоборот, в него попадают мусорные и дубли — частая причина потери трафика. Управляют индексацией через панели вебмастера, robots.txt, метатеги и канонические URL.