Три дня ни один поисковик не заходил на сайт !!! Только сегодня Google начал бегать с 2 часов ночи. Посещаемость упала, правда, только с Яндекса.
Тут новая беда -
Яндекс стал считать основным домен с www, а без www зеркалом. Изначально давно были сделаны шаги: директива host - acdexpress.ru, на сайте все ссылки абсолютны на
http://acdexpress.ru/, при заходе на www был 301 редирект на страницу без www (кроме главной, которая была доступна в обоих случаях).
С сайтом ничего не делалось и тут нате счастье, т.е. нельзя пинять на скрипты.
Т.к. это произошло со всеми поисковиками, то в Интернете нашлась подходящая версия.
Могло ли быть как ниже ?
robots.txt - отдавал код text/html, а не text/plain, и поэтому код файла отдавался в виде одной строчки и закрывал домен без www (т.е. что было в host).
В эту версию укладываются следующие моменты:
- Перестали ходить ВСЕ поисковики
- "ощущение что что-то в robots.txt бота спугнуло раз он robots забрал и дальше не пошел"
- Яндекс стал считать основным домен с www
В robots.txt было так:
User-Agent: *
Disallow: /private/
User-Agent: Yandex
Host: acdexpress.ru