Как правильно сделать ROBOTS.TXT

голоса: +8

Яндекс атоматом заполняет его? 

Или же правильно составлен?? 

 

User-agent: * 
Disallow: /a/ 
Disallow: /stat/ 
Disallow: /index/1 
Disallow: /index/2 
Disallow: /index/3 
Disallow: /index/5 
Disallow: /index/7 
Disallow: /index/8 
Disallow: /index/9 
Disallow: /panel/ 
Disallow: /admin/ 
Disallow: /secure/ 
Disallow: /informer/ 
Disallow: /mchat 
Disallow: /search 
Disallow: /shop/order/ 
Disallow: /?ssid= 
 
Sitemap: /sitemap.xml 
Sitemap: /sitemap-forum.xml 
Sitemap: /sitemap-shop.xml 
Адрес сайта http://www.naruto-grut.ru/
| Автор: | Категория: SEO

Ответов: 5

голоса: +8
 
Лучший ответ
Дмитрий, начну с азов, похоже вы не до конца все понимаете.

Файл robots.txt - это текстовый файл в корне сайта, при помощи которого владелец сайта может давать указания "индексирующим" ботам поисковых систем, и тем самым "тонко" влиять на индексирование сайта. То есть файл заполняется вами, а не поисковыми системами. 
Обратите внимание, что на uCoz существует механизм автоматизации, который "грузит" т.н. дефолтный роботс.тхт при условии, что у вашего сайта нет уникального. Стандартный файл является базовым и подходит для большинства сайтов.
 
Но если вы получили какую-то нестандартную ситуацию, и вам необходимо добавить что-то от себя - просто создайте текстовый файл в корне, и вносите в него нужные изменения.
 
P.S.: в ваш пример явно было бы не лишним добавить еще несколько правил:
 
Disallow: /google
Disallow: /twitter
Disallow: /facebook
Disallow: /yandex
Disallow: /vkontakte
| Автор:
Выбор ответа лучшим | | Автор: o_Lisovenko
голоса: +8
В вашем примере всё правильно составленно, как и должно быть ! Смело оставляйте так как показли тут !
| Автор:
голоса: +8

uCoz - такая система, что не требует от пользователя в большинстве случаев заботиться о таких вещах, как robot.txt и sitemap.xml. uCoz все сам делает.

Поисковые системы (Яндекс, Google) не имеют права ничего менять или записывать на вашем сайте. Они могут только считывать. Ну и составлять свое мнение насчет вашего сайта.

| Автор:
голоса: +8

У Вас всё правильно составлено.

Удачи в сайте :)

| Автор:
голоса: +4
Яндекс его не может заполнять. Его заполняете вы или же он по умолчанию прописан от uCoz. В Файловом менеджере загрузите текстовый файл с раширением txt и пропишите туда это. В основных настройках есть возможность восстановить исходный файл с правильными запретами. Если он будет пустой, то ничего страшного не будет.
| Автор:
...