TCP와 UDP: 각각 언제 사용할까요

TCP와 UDP는 전송 계층(OSI 4계층)의 두 가지 주요 프로토콜입니다. 두 프로토콜은 서로 다른 호스트의 애플리케이션 사이에서 데이터가 전송되는 방식을 정의합니다.

TCP는 연결 지향형 프로토콜입니다. 데이터를 보내기 전에 3방향 핸드셰이크를 통해 연결을 설정합니다. TCP는 데이터의 전달, 순서 보장 및 오류 검사를 보장합니다.

사용 사례: HTTP/HTTPS, SSH, SMTP, FTP — 신뢰성이 필요한 모든 애플리케이션입니다.

TCP 연결 설정 과정은 다음과 같습니다.

1. 클라이언트가 SYN(동기화)을 보냅니다.
2. 서버가 SYN-ACK(동기화-확인 응답)으로 답합니다.
3. 클라이언트가 ACK(확인 응답)를 보냅니다.

이제 연결이 설정됩니다. 이 핸드셰이크는 SYN 플러드 공격의 대상이 됩니다.

TCP는 다음 기능을 제공합니다.

• 신뢰성 — 손실된 패킷을 재전송합니다.
• 순서 보장 — 패킷을 올바른 순서로 재조립합니다.
• 흐름 제어 — 수신자가 처리할 수 있는 양을 초과하지 않도록 합니다.
• 혼잡 제어 — 네트워크 용량에 맞춰 전송을 조절합니다.

UDP는 비연결형 프로토콜입니다. 먼저 연결을 설정하지 않고 데이터그램을 전송합니다. 전달 보장, 순서 보장 및 확인 응답이 없습니다.

사용 사례: DNS, VoIP, 동영상 스트리밍, 온라인 게임, DHCP — 완벽한 전달보다 속도가 중요한 애플리케이션입니다.

UDP는 빠르고 가볍습니다.

• 연결 설정 오버헤드가 없습니다.
• 재전송으로 인한 지연이 없습니다.
• 지연 시간이 더 짧습니다.
• 필요한 경우 애플리케이션이 신뢰성을 직접 처리해야 합니다(예: UDP를 사용하는 QUIC).

주요 차이점은 다음과 같습니다.

• TCP: 신뢰성 있음, 순서 보장, 느림, 연결 지향형
• UDP: 빠름, 신뢰성 보장 없음, 비연결형, 오버헤드가 적음

QUIC(HTTP/3)은 최신 웹 성능을 위해 사용자 지정 신뢰성 기능을 UDP와 함께 사용합니다.

TCP의 핸드셰이크는 다음과 같은 보안 노출을 만듭니다.

• SYN 플러드: 공격자가 핸드셰이크를 완료하지 않은 채 수천 개의 SYN 패킷을 보내 서버 리소스를 고갈시킵니다.
• TCP 세션 탈취: 공격자가 순서 번호를 예측해 기존 세션에 데이터를 삽입합니다.

UDP에는 연결 상태가 없기 때문에 다음과 같은 문제가 발생할 수 있습니다.

• UDP 증폭 DDoS: 공격자가 피해자의 IP를 위조하고, 개방된 UDP 서비스에 작은 요청을 보내 피해자에게 큰 응답을 전송하게 합니다.
• DNS 증폭: 하나의 작은 DNS 요청이 훨씬 큰 응답을 유발할 수 있습니다.

알아 두어야 할 주요 포트는 다음과 같습니다.

• TCP 22 — SSH
• TCP 80 — HTTP
• TCP 443 — HTTPS
• UDP 53 — DNS
• UDP 67/68 — DHCP
• TCP 3306 — MySQL
• TCP 3389 — RDP

ss 또는 netstat을 사용해 열린 포트와 연결을 확인할 수 있습니다.

컴퓨터에서 도메인 이름을 확인하기 위해 DNS 쿼리를 보냅니다. 이때 어떤 프로토콜을 사용하나요?

TCP는 3방향 핸드셰이크를 사용해 신뢰성 있고 순서가 보장된 전달을 제공하므로 HTTP, SSH 및 SMTP에 적합합니다. UDP는 빠른 비연결형 프로토콜이므로 DNS, VoIP 및 스트리밍에 적합합니다. 두 프로토콜은 서로 다른 보안상 영향을 갖습니다. TCP는 SYN 플러드와 세션 탈취에 취약하고, UDP는 증폭 공격을 가능하게 합니다.