La syntaxe correcte définit des "règles d'autorisation" pour chaque "robot".
Ainsi, par exemple, ton fichier robots.txt aura :
User-agent : * <----- interdire à TOUS les robots
Disallow: /tmp/ <---- répertoire/fichiers interdits
Disallow: /tmp/docs/
Disallow: /secret.html
User-agent : googlebot
Disallow : /hidden/
User-agent : cybermapper
Disallow : /doc.htm
Attention, on ne peut pas utiliser de wildcards genre *.htm ou ?truc?.htm? dans la liste des interdits.
[jfdsdjhfuetppo]--Message édité par Indiana Jones--[/jfdsdjhfuetppo]