Intrebare robots.txt

[broski]

astazi am creat fisierul robots.txt pentru blogul O lume mai curata,o viata mai frumoasa! si as dori sa-mi spuneti daca am scris bine in el.

in robots.txt am adaugat :

User-agent: *
Disallow:
Sitemap: http://vorbim.info/sitemap.xml
Request-rate: 1/4 #
Visit-time: 0300-0630 #

[LensFlare]

Request-rate: 1/4 #
Visit-time: 0300-0630 #

De ce ai pus astea? Mai bine lasi pe automat

mai poti adauga:

Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/

[Havrince Daniel]

Intervin si eu. Daca pun disallow pw wp-content nu o sa fie problema cu indexarea imaginilor?

[LensFlare]

@dannielph nu se vor indexa imaginile, dar majoritatea nu folosesc imagini pe care au copyright si mai bine nu le indexezi decat sa ai probleme.

[Robert]

eu folosesc asa:

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-content/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-*
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /search
Disallow: /feed
Disallow: /comments/feed
Disallow: /feed/$
Disallow: /*/feed/$
Disallow: /*/feed/rss/$
Disallow: /*/trackback/$
Disallow: /*/*/feed/$
Disallow: /*/*/feed/rss/$
Disallow: /*/*/trackback/$
Disallow: /*/*/*/feed/$
Disallow: /*/*/*/feed/rss/$
Disallow: /*/*/*/trackback/$




User-agent: Googlebot
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: /*.cgi$
Disallow: /*.wmv$
Disallow: /*.cgi$
Disallow: /*.xhtml$
Disallow: */trackback*
Disallow: /*?*
Disallow: /wp-*
Allow: /wp-content/uploads/

User-agent: Googlebot-Image
Allow: /*

Eviti indexarea filelor cu continut duplicat si a fisierelor pe care nu le-ai dori indexate.

[tiberiur]

Interesat @robyroy. Nu stiam ca se poate face asta din robots.txt. Asta inseamna ca daca am o pagina care poate fi accesata in 3 feluri as putea opri indexarea celorlalte 2 feluri.

Exemplu:

http://site.com/categorie/articol/

Mai poate fi accesat si la:
1. http://site.com/categorie/articol.html
2. http://site.com/categorie/articol.htm
3. http://site.com/categorie/articol.php

...si asa mai departe. Se pate ca poate fi accesat la orice as pune dupa [.]

In cazul de fata robots.txt ar trebui sa arate:

User-agent: Googlebot
Disallow: /*.html
Disallow: /*.php
Disallow: /*.htm

?

[Robert]

http://site.com/categorie/articol/

Mai poate fi accesat si la:
1. http://site.com/categorie/articol.html
2. http://site.com/categorie/articol.htm
3. http://site.com/categorie/articol.php

...si asa mai departe. Se pate ca poate fi accesat la orice as pune dupa [.]

In cazul de fata robots.txt ar trebui sa arate:

User-agent: Googlebot
Disallow: /*.html
Disallow: /*.php
Disallow: /*.htm

?

Asta din cate stiu, o rezolva rel canonical. Corectati-ma daca vorbesc prostii.

[DRG]

Eu stiam ca rel canonical rezolva tot ce e cu # in fata la sfarsit de link, insa de curand vad pe google webmaster tools niste pagini cu # si apar la continut copiat...

[Robert]

@tiberiu, pentru problema afisata de tine, cred ca cel mai bine faci un redirect 301.

[tiberiur]

O sa ma interesez mai mult si sper sa pot rezolva. Mersi robyroy.