TLS 핸드셰이크

TLS 핸드셰이크는 암호화된 데이터가 오가기 전에 수행되는 협상 과정입니다.

클라이언트와 서버가 암호화 매개변수에 합의하고, 신원을 확인하며, 공유 비밀 키를 설정할 수 있게 합니다.

TLS 핸드셰이크는 세 가지를 수행합니다:

• 인증: 클라이언트가 서버의 인증서를 검증합니다.
• 키 교환: 양쪽이 공유 세션 키를 도출합니다.
• 협상: 암호 스위트와 프로토콜 버전을 선택합니다.

클라이언트는 다음 내용을 담은 ClientHello 메시지로 시작합니다:

• 지원되는 TLS 버전
• 사용할 수 있는 암호 스위트 목록
• 무작위 값(클라이언트 난수)
• SNI와 같은 확장(호스트 이름)

서버는 ServerHello로 응답하여 클라이언트 목록에서 TLS 버전과 암호 스위트 하나를 선택하고 자체 무작위 값도 보냅니다.

그런 다음 클라이언트가 신원을 확인할 수 있도록 인증서를 보냅니다.

클라이언트는 서버의 인증서 체인, 즉 서명, 유효 기간, 폐지 여부 및 호스트 이름 일치를 검증합니다.

검증에 실패하면 핸드셰이크를 중단하며 어떤 데이터도 전송되지 않습니다.

최신 TLS에서는 임시 Diffie-Hellman(ECDHE)을 사용합니다. 양쪽은 공개 키 공유값을 교환하고 독립적으로 동일한 공유 비밀을 계산합니다.

이 방식은 순방향 보안을 제공합니다. 나중에 서버의 장기 키를 탈취하더라도 과거 세션을 복호화할 수 없습니다.

양쪽은 공유 비밀과 두 무작위 값을 바탕으로 대칭 세션 키를 도출합니다.

비용이 큰 비대칭 암호화는 실제 데이터를 위한 빠른 대칭 암호화를 설정하는 데만 사용됩니다.

양쪽은 새 키로 암호화된 완료 메시지를 각각 보냅니다. 이 메시지에는 전체 핸드셰이크의 해시가 포함됩니다.

양쪽 모두 검증에 성공하면 누구도 협상을 변조하지 않았고 키가 일치함을 입증할 수 있습니다.

TLS 1.3은 핸드셰이크를 한 번의 왕복(1-RTT)으로 간소화하고 안전하지 않은 옵션을 제거했습니다.

또한 0-RTT를 사용하여 이전 세션을 재개하고 첫 메시지에서 데이터를 보낼 수도 있습니다.

OpenSSL을 사용하여 협상된 버전과 암호를 포함한 핸드셰이크 세부 정보를 확인할 수 있습니다.

핸드셰이크에서 보안이 확립되거나 무너집니다. 결함이 있거나 하위 버전으로 강등된 핸드셰이크는 이후의 모든 트래픽을 노출할 수 있습니다.

핸드셰이크를 이해하면 연결 실패를 진단하고 공격을 인식하는 데 도움이 됩니다.

임시 Diffie-Hellman(ECDHE)은 핸드셰이크에서 어떤 이점을 제공합니까?

TLS 핸드셰이크의 단계를 배웠습니다.

• ClientHello / ServerHello가 버전과 암호를 협상합니다.
• 클라이언트가 인증서를 검증합니다.
• ECDHE가 순방향 보안을 제공하면서 공유 세션 키를 도출합니다.
• TLS 1.3은 핸드셰이크를 더 빠르고 안전하게 만들었습니다.

다음으로 암호 스위트를 자세히 살펴봅니다.