표준 URL 및 robots 메타 태그
메타 태그로 크롤링을 제어하고 중복 콘텐츠 방지하기
표준 URL 및 robots 메타 태그은(는) CoddyKit의 무료 HTML Academy 강의입니다. 이것은 4개 중 3번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 HTML Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. HTML Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
중복 콘텐츠 문제
검색 엔진은 여러 URL에서 페이지를 발견할 수 있습니다:
http://example.com/pagehttps://example.com/pagehttps://www.example.com/pagehttps://example.com/page/(후행 슬래시)https://example.com/page?utm_source=newsletter
구글은 색인할 URL을 결정해야 하며, 중복 콘텐츠로 불이익을 줄 수도 있습니다.
canonical 링크 태그
rel="canonical"을 사용해 검색 엔진에 선호하는 URL을 알려 줍니다:
<head>
<!-- This is the canonical URL for this content: -->
<link rel="canonical" href="https://example.com/blog/html5-guide">
</head>
<!-- No matter which URL the page is accessed from,
this tag signals to Google which URL to index -->
<!-- Link equity is consolidated at the canonical URL -->canonical URL 규칙
canonical URL 모범 사례:
- 완전한 절대 URL을 사용합니다(프로토콜 포함)
- 사이트가 지원한다면 HTTPS를 사용합니다
- 일관성을 유지합니다. 항상 후행 슬래시를 사용하거나 항상 사용하지 않습니다
- 모든 페이지에 canonical 태그를 작성합니다 — URL 자체를 가리키는 경우에도 작성합니다
<link rel="canonical" href="https://example.com/blog/html5-guide">
<!-- NOT: -->
<!-- <link rel="canonical" href="/blog/html5-guide"> relative = bad -->
<!-- <link rel="canonical" href="http://..."> HTTP on HTTPS site = bad -->페이지 나누기와 canonical
페이지가 나뉜 콘텐츠에서는 canonical이 첫 페이지나 현재 페이지 자체를 가리킬 수 있습니다:
<!-- Page 2 of a blog listing: -->
<link rel="canonical" href="https://example.com/blog?page=2">
<!-- Or: consolidate all pages to the first -->
<link rel="canonical" href="https://example.com/blog">
<!-- Also useful: rel="prev" and rel="next" for paginated series -->meta robots 값
페이지별 검색 엔진 동작을 제어합니다:
<meta name="robots" content="index, follow">
<!-- Default: include in index and follow links -->
<meta name="robots" content="noindex">
<!-- Don't index this page -->
<meta name="robots" content="nofollow">
<!-- Don't follow links on this page -->
<meta name="robots" content="noindex, nofollow">
<!-- Don't index AND don't follow -->
<meta name="robots" content="noarchive">
<!-- Don't show cached version in search results -->Googlebot 전용 지시문
특정 지시문으로 특정 크롤러를 대상으로 지정합니다:
<meta name="googlebot" content="noindex">
<!-- Only affects Google's crawler -->
<meta name="bingbot" content="noindex">
<!-- Only affects Bing's crawler -->
<!-- Other values: -->
<meta name="robots" content="max-snippet:50">
<!-- Limit snippet length in search results to 50 characters -->
<meta name="robots" content="max-image-preview:large">
<!-- Allow full-size image previews in Google results -->X-Robots-Tag HTTP 헤더
canonical과 robots는 HTTP 헤더를 통해서도 설정할 수 있습니다(서버 수준):
# Apache .htaccess:
Header add Link "<https://example.com/page>; rel=canonical"
Header add X-Robots-Tag "noindex"
# This is more powerful because it applies to non-HTML files too
# (PDFs, images, etc.) which can't have meta tagsrobots.txt와 meta robots
크롤러를 제어하는 두 도구는 서로 다른 용도로 사용됩니다:
- robots.txt — 크롤러가 접근할 수 있는 페이지를 제어합니다(접근 제어)
- meta robots — 크롤러가 접근한 페이지에서 수행할 작업을 제어합니다(색인 제어)
robots.txt에서 접근이 허용되지 않은 페이지도 다른 곳에서 링크되면 색인될 수 있습니다. noindex가 있는 페이지는 확실히 색인되지 않습니다.
사이트맵과 canonical
사이트맵에는 canonical URL만 나열해야 합니다:
<!-- sitemap.xml should list canonical URLs only: -->
<!-- https://example.com/blog/html5-guide (canonical) -->
<!-- NOT: https://www.example.com/blog/html5-guide -->
<!-- NOT: https://example.com/blog/html5-guide/ (trailing slash variant) -->자기 참조 canonical
기본 페이지를 포함한 모든 페이지에는 자기 자신을 가리키는 canonical이 있어야 합니다:
<!-- On https://example.com/about (the canonical URL itself): -->
<link rel="canonical" href="https://example.com/about">
<!-- This confirms: this IS the canonical URL -->
<!-- Prevents issues if the page is embedded in an iframe or scraped -->전자 상거래의 canonical
변형 상품이 있는 경우 전자 상거래에서 사용하는 canonical 패턴:
<!-- Product page with color filter: -->
<!-- URL: /products/widget?color=blue -->
<link rel="canonical" href="https://example.com/products/widget">
<!-- All color variants point to the main product page -->
<!-- Avoids duplicate content penalty for parameter variants -->빠른 확인
canonical 링크 태그의 href 값은 무엇이어야 합니까?
복습: canonical과 robots
canonical과 robots의 핵심:
<link rel="canonical" href="full-url">— 선호하는 URL을 선언합니다- canonical에는 절대 URL을 사용하고 항상 HTTPS를 사용합니다
meta robots noindex— 검색 색인에서 제외합니다meta robots nofollow— 링크를 따라가지 않도록 합니다- robots.txt = 접근 제어; meta robots = 색인 제어
AI 튜터와 함께 HTML을(를) 배우세요 — 무료
브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.
- 코스
- 40
- 레슨
- 159
자주 묻는 질문
“표준 URL 및 robots 메타 태그” 강의는 무료인가요?
네 — “표준 URL 및 robots 메타 태그” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 HTML Academy 강의 전체를 잠금 해제할 수 있습니다. HTML Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
“표준 URL 및 robots 메타 태그”에서 뭘 배우나요?
메타 태그로 크롤링을 제어하고 중복 콘텐츠 방지하기 브라우저에서 직접 실행하는 실습 코드로 HTML Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
HTML Academy을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 HTML Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 3번째 강의입니다.
“표준 URL 및 robots 메타 태그” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 HTML Academy 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 HTML Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- title과 SEO에서의 역할
- meta charset viewport author 및 description
- 표준 URL 및 robots 메타 태그
- 파비콘 및 Apple Touch 아이콘