IPsec: IKEv2, ESP 및 AH 프로토콜

IPsec은 단일 프로토콜이 아니라 IP 트래픽을 인증하고 암호화하기 위한 표준 모음입니다. 주요 구성 요소는 보안 연결(SA)을 설정하고 관리하는 IKE(인터넷 키 교환), 암호화와 무결성을 담당하는 ESP(캡슐화 보안 페이로드), 암호화 없이 무결성을 제공하는 AH(인증 헤더)입니다. IPsec은 네트워크 계층에서 작동하므로 애플리케이션을 변경하지 않고 모든 트래픽을 보호합니다.

IKEv2(RFC 7296)는 더 단순하고 효율적인 설계를 사용하여 IKEv1을 대체했습니다. IKEv1에는 여러 모드와 메시지 교환이 필요했지만, IKEv2는 통합된 단일 교환 모델을 사용합니다. 또한 IKEv2에는 NAT 통과, 사용자 인증을 위한 EAP 지원, 모바일 IP 주소 변경을 위한 MOBIKE, 더 강력한 기본 보안 설정이 기본으로 포함되어 있습니다. 최신 VPN 구현 대부분은 IKEv2를 사용합니다.

IKE_SA_INIT 교환은 IKE 보안 연결(SA)을 설정합니다. 개시자는 지원되는 알고리즘, 디피-헬먼 키 공유 값 및 논스를 보냅니다. 응답자는 알고리즘을 선택하고 자신의 DH 키 공유 값과 논스를 보냅니다. 양쪽은 동일한 공유 비밀을 계산하고 IKE SA에 사용할 키를 파생합니다. 이 교환은 이후의 IKE_AUTH 단계를 보호합니다.

IKE_AUTH 교환은 피어를 인증하고 실제 트래픽을 위한 첫 번째 하위 SA를 생성합니다. 인증에는 X.509 인증서(가장 안전함), 미리 공유한 키(PSK) 또는 사용자 수준 인증을 위한 EAP 방법을 사용할 수 있습니다. 또한 이 교환에서는 하위 SA 매개변수인 트래픽 선택자(보호할 IP 범위), 암호화 알고리즘 및 무결성 알고리즘을 협상합니다.

ESP(캡슐화 보안 페이로드)는 IPsec 트래픽 보호의 핵심 역할을 합니다. 터널 모드에서 ESP는 원래 IP 패킷 전체를 ESP 헤더가 포함된 새 IP 패킷 안에 캡슐화하여 암호화와 무결성을 모두 제공합니다. 전송 모드에서는 원래 IP 패킷의 페이로드만 보호하고 원래 IP 헤더는 유지합니다. 최신 환경에서 ESP에 권장되는 알고리즘은 AES-256-GCM입니다.

AH(인증 헤더)는 암호화 없이 무결성과 인증을 제공합니다. ESP와 달리 원래 IP 헤더까지 보호하지만, 이 때문에 IP 헤더 필드를 수정하는 NAT와 호환되지 않습니다. AH는 기밀성을 제공하지 않고 NAT 통과를 방해하므로 실제 환경에서는 거의 사용되지 않습니다. 강력한 AEAD 알고리즘을 사용하는 ESP가 AH와 별도의 암호화를 함께 사용하는 방식보다 더 나은 보호를 제공합니다.

전송 모드에서는 IPsec이 두 엔드포인트 사이의 페이로드를 보호하지만 IP 헤더는 그대로 노출합니다. 라우팅 정보를 숨길 필요가 없는 호스트 간 통신에 사용됩니다. 터널 모드에서는 원래 IP 패킷 전체를 새 패킷 안에 캡슐화하여 관찰자에게 출발지와 목적지를 숨깁니다. VPN 게이트웨이는 네트워크 간 또는 사용자와 네트워크 간을 연결할 때 항상 터널 모드를 사용합니다.

표준 ESP는 NAT가 ESP 무결성 보호 대상인 IP 헤더와 포트 번호를 수정하므로 NAT를 통과할 수 없습니다. IPsec은 NAT-T(NAT 통과)를 사용하여 이 문제를 해결합니다. IKE 교환 중 NAT를 감지하고 ESP 패킷을 UDP 포트 4500 안에 캡슐화합니다. 이 UDP 래퍼를 사용하면 ESP 무결성 검증을 손상하지 않고 NAT가 주소를 변환할 수 있습니다.

IPsec은 모든 활성 SA와 해당 키, 알고리즘 및 수명을 저장하는 보안 연결 데이터베이스(SAD)를 유지합니다. 보안 정책 데이터베이스(SPD)는 어떤 트래픽을 보호하거나 우회하거나 폐기할지 정의합니다. 아웃바운드 트래픽이 SPD 항목과 일치하면 커널은 SAD에서 적절한 SA를 조회하거나 생성하고 지정된 보호를 적용합니다.

IKEv2의 EAP(확장 가능한 인증 프로토콜)는 인증서와 PSK를 넘어서는 사용자 수준 인증 방법을 사용할 수 있게 합니다. EAP-TLS는 클라이언트 인증서를 사용하고, EAP-MSCHAPv2는 사용자 이름과 비밀번호를 사용하며(Windows 클라이언트에서 일반적임), EAP-TTLS는 TLS 세션 내부에 내부 인증 방법을 터널링합니다. 많은 기업용 IPsec VPN은 게이트웨이에 인증서 인증을 사용하고 개별 사용자에게는 EAP를 사용합니다.

보안 연결에는 바이트와 시간 기준의 수명 제한이 있습니다. 하위 SA가 수명에 가까워지면 IKEv2는 CREATE_CHILD_SA 교환을 통해 새로운 키를 사용하는 새 SA를 자동으로 생성합니다. 이러한 키 재생성은 순방향 비밀성을 제공합니다. 현재 키가 손상되더라도 이전 키로 암호화된 과거 트래픽은 노출되지 않습니다. IKE SA의 수명은 일반적으로 하위 SA의 수명보다 깁니다.

어떤 IPsec 모드가 전체 원본 IP 패킷을 새 패킷 안에 캡슐화하여 원래 출발지와 목적지 주소를 숨깁니까?

IPsec을 요약하면, IKEv2는 IKE_SA_INIT(DH 키 교환) 및 IKE_AUTH(피어 인증)를 통해 보안 연결을 설정하고, ESP는 트래픽에 암호화와 인증이 적용된 터널 모드를 제공하며, AH는 NAT와 호환되지 않아 거의 사용되지 않습니다. NAT-T는 NAT 통과를 위해 ESP를 UDP 안에 감싸고, 자동 키 재생성은 VPN 세션 수명 전체에 걸쳐 순방향 비밀성을 제공합니다.