По собщению в блоге Yahoo!search blog, Slurp, бот этой поисковой машины, научился понимать wildcards * и $ в правилах robots.txt. * -- означает любую последовательность символов, а $ -- конец строки URL.
По собщению в блоге Yahoo!search blog, Slurp, бот этой поисковой машины, научился понимать wildcards * и $ в правилах robots.txt. * -- означает любую последовательность символов, а $ -- конец строки URL.