robot.txt 로봇 허용, 차단 관련 질문드립니다

robot.txt 로봇 허용, 차단 관련 질문드립니다

QA

robot.txt 로봇 허용, 차단 관련 질문드립니다

답변 1

본문

User-agent: *
Disallow: /

 

User-agent: Googlebot
Allow: /

 

User-agent: Googlebot-Mobile
Allow: /

 

User-agent: Mediapartners-Google
Allow: /

 

User-agent: AdsBot-Naver
Allow: /

 

User-agent: cowbot
Allow: /

 

User-agent: Naverbot
Allow: /

 

User-agent: Yeti
Allow: /

 

User-agent: ZumBot
Allow: /

 

User-agent: bingbot
Allow: /

 

Disallow: /adm/

 

 

robot.txt 관련 여러 글들을 찾으면서 만들어봤는데..

 

다른 로봇들은 다 차단하고, 구글봇 3개, 네이버봇 4개, 줌봇, 빙봇. 이렇게만 허용하고 adm 폴더는 로봇의 접근을 차단하는게 위에 제가 적어놓은 내용이 맞는지 궁금합니다.

이 질문에 댓글 쓰기 :

답변 1

답변을 작성하시기 전에 로그인 해주세요.
QA 내용 검색
질문등록
전체 49
© SIRSOFT
현재 페이지 제일 처음으로