За последние 24 часа нас посетили 18725 программистов и 1603 робота. Сейчас ищут 882 программиста ...

индексирование

Тема в разделе "Прочее", создана пользователем Апельсин, 6 сен 2010.

  1. Апельсин

    Апельсин Активный пользователь

    С нами с:
    20 мар 2010
    Сообщения:
    3.645
    Симпатии:
    2
    Лежит у меня на сайте robots.txt с таким содержанием:

    User-Agent: *
    Disallow: /forum/print.php
    Disallow: /servers/players.php
    Host: www.site.ru

    Вот те 2 файла хочу чтоб не индексировал, так как там а) версия для печати форума, б) кусок фрейма
    Яндекс все четко понял о чем его "просят" в robots.txt, но гугл не хочет и индексирует все подряд.
    Команды в robots.txt добавил не так давно (2 недели назад), до этого было по-другому написано для каждого поисковика, но эффект тот же самый.
     
  2. Gromo

    Gromo Активный пользователь

    С нами с:
    24 май 2010
    Сообщения:
    2.786
    Симпатии:
    2
    Адрес:
    Ташкент
    Google очень любознательный - хочет знать ВСЁ :)
     
  3. Апельсин

    Апельсин Активный пользователь

    С нами с:
    20 мар 2010
    Сообщения:
    3.645
    Симпатии:
    2
    Gromo
    ну это ж не дело. в результатах вижу один мусор, а то что нужно - его нет. У яндекса наоборот - инфа по серверам и игрокам, как и задумывалось.
     
  4. Gromo

    Gromo Активный пользователь

    С нами с:
    24 май 2010
    Сообщения:
    2.786
    Симпатии:
    2
    Адрес:
    Ташкент
  5. Апельсин

    Апельсин Активный пользователь

    С нами с:
    20 мар 2010
    Сообщения:
    3.645
    Симпатии:
    2
    почитаем на досуге. спасибос
     
  6. Gromo

    Gromo Активный пользователь

    С нами с:
    24 май 2010
    Сообщения:
    2.786
    Симпатии:
    2
    Адрес:
    Ташкент
    http://forum.searchengines.ru/showthread.php?t=238619

     
  7. Апельсин

    Апельсин Активный пользователь

    С нами с:
    20 мар 2010
    Сообщения:
    3.645
    Симпатии:
    2
    Gromo
    Меня PR пока мало колеблет)) Про теги то я в курсе давно. Но както криво выходит - файл для робота, а он сцук0 его игнорирует :)
     
  8. engager

    engager Активный пользователь

    С нами с:
    21 янв 2009
    Сообщения:
    1.106
    Симпатии:
    1
    для гугла нормально срабатывает sitemap.xml
     
  9. Gromo

    Gromo Активный пользователь

    С нами с:
    24 май 2010
    Сообщения:
    2.786
    Симпатии:
    2
    Адрес:
    Ташкент
    Апельсин
    ну, вообще-то я имел в виду поставить rel="nofollow" ко всем ссылкам, которые ведут на /forum/print.php
    вроде даст инструкцию боту не индексировать далее по данным ссылкам,
    вкупе с robots.txt данные ссылки в базу поисковика не пойдут.

    но точно в этом увренности нет