그누보드 robots.txt 에 추가하면 좋을만한거있을까요??
본문
User-agent: *
Allow: /
Disallow: /adm/
이렇게 사용중인데 혹시 disallow 에 추가하면 좋을만한거 있을까요??
불필요한곳은 못들어가게 하고싶은데 adm디렉토리말고 또 있으면 추천좀 부탁드립니다!!!
답변 1
저는 이미지를 크롤링 안시키기에 아래처럼합니다.
User-agent: *
Allow: /
Disallow: /adm/
Disallow: /*.jpg
Disallow: /*.png
답변을 작성하시기 전에 로그인 해주세요.