Robots.txt, web sitelerinin arama motorları botlarının hangi URL'leri indekslemesi gerektiğini belirten bir metin dosyasıdır. Bu dosya, arama motoru botlarının web sitenizi nasıl tarayacağına ilişkin yönergeler içerir.
Robots.txt, sitenizin ana dizininde (örneğin, www.siteniz.com/robots.txt)...