인코딩과 암호화, 해싱의 차이

인코딩, 암호화, 해싱은 서로 다른 목적을 수행하는 근본적으로 다른 세 가지 연산입니다. 이들은 자주 혼동되지만, 차이를 이해하는 것은 안전한 시스템을 설계하는 데 필수적입니다.

인코딩은 보안을 제공하지 않고 데이터 형식을 변환합니다. 암호화는 기밀성을 보호합니다. 해싱은 무결성 확인을 위한 고정 길이 지문을 생성합니다.

인코딩은 호환성이나 전송을 위해 데이터를 한 형식에서 다른 형식으로 변환합니다. 인코딩은 항상 되돌릴 수 있고 키가 필요하지 않습니다. 인코딩 방식을 아는 사람은 누구나 데이터를 디코딩할 수 있습니다.

예로는 Base64(바이너리에서 ASCII로 변환), URL 인코딩(공백을 %20으로 표시), HTML 엔터티(&를 &로 표시), 16진수 인코딩이 있습니다. 목표는 보안이 아니라 호환성입니다.

암호화는 키를 사용해 평문을 암호문으로 변환합니다. 올바른 키를 가진 사람만 이 연산을 되돌릴 수 있습니다. 키가 없으면 암호문을 복호화하는 데 현실적으로 감당할 수 없는 계산량이 필요합니다.

암호화 알고리즘에는 AES(대칭 방식), RSA(비대칭 방식), ChaCha20이 있습니다. 보안을 제공하는 것은 키입니다. 알고리즘 자체는 공개되어 있습니다.

암호화 해시 함수는 길이에 제한이 없는 입력을 받아 고정 길이의 출력(다이제스트 또는 해시)을 생성합니다. 이 함수는 결정적이므로 같은 입력에는 항상 같은 출력이 나오지만, 설계상 되돌릴 수 없습니다.

SHA-256은 입력이 1바이트이든 1기가바이트이든 관계없이 항상 256비트 출력을 생성합니다. 해시 함수는 무결성 검사, 비밀번호 저장, 디지털 서명에 사용됩니다.

중요하고 흔한 실수는 Base64로 인코딩된 데이터가 NOT 암호화된 데이터라는 점입니다. Base64 디코딩에는 해당 데이터가 Base64라는 사실만 알면 되며, "==" 패딩이나 문자 집합만 보아도 Base64임을 알아차릴 수 있는 경우가 많습니다.

비밀번호를 "cGFzc3dvcmQ="("비밀번호"를 Base64로 표현한 값)로 인코딩하면 공격자는 몇 초 만에 디코딩할 수 있습니다. 보안 맥락에서 Base64는 전송 호환성을 위해서만 유용하며, 데이터를 숨기는 용도로는 절대 사용할 수 없습니다.

비밀번호를 MD5로 해싱하면 단방향 다이제스트로 저장됩니다. MD5 해시를 "복호화"하여 비밀번호를 복구할 수는 없습니다. 그러나 MD5는 너무 빠르기 때문에 비밀번호 해시 함수로 적합하지 않습니다.

공격자는 GPU를 사용해 초당 수십억 개의 MD5 해시를 계산할 수 있으므로 무차별 대입 공격과 무지개 테이블 공격이 현실적으로 가능해집니다. 비밀번호를 저장하려면 bcrypt, scrypt, Argon2처럼 느리고 메모리를 많이 사용하는 함수가 필요합니다.

AES-GCM(갈루아/카운터 모드)은 기밀성(암호화)과 무결성(인증)을 모두 제공합니다. 암호화에는 AES를 카운터 모드로 사용하고 인증에는 GHASH를 사용합니다.

AES-GCM이 생성하는 인증 태그는 암호문이 변조되었는지 감지합니다. 따라서 AES-GCM은 연관 데이터가 있는 인증 암호화(AEAD) 방식이며, 현대 암호화의 최고 표준으로 여겨집니다.

SHA-256(보안 해시 알고리즘 256비트)은 NIST가 표준화한 암호화 해시 함수입니다. 256비트 다이제스트를 생성하며 충돌 공격과 역상 공격을 비롯해 알려진 모든 공격에 대해 안전한 것으로 여겨집니다.

SHA-256은 TLS 인증서, Bitcoin 채굴(작업 증명), HMAC 메시지 인증, RSA-SHA256 및 ECDSA와 같은 디지털 서명 방식에 사용됩니다.

이 세 가지를 혼동해서 발생하는 일반적인 보안 실수로는 비밀번호를 해싱하지 않고 암호화하여 저장하는 것(암호화 키가 실제 취약점이 됨), 민감한 데이터에 암호화 대신 인코딩을 사용하는 것, 비밀번호 저장에 빠른 해시(MD5, SHA-1)를 사용하는 것, 무언가가 Base64라는 이유만으로 안전하다고 가정하는 것이 있습니다.

또 다른 실수는 하나의 함수를 여러 목적에 사용하는 것입니다. 예를 들어 HMAC 구성을 사용하지 않고 해시 함수를 MAC으로 사용하면 길이 확장 공격에 취약해집니다.

텍스트 프로토콜을 통해 바이너리 데이터를 전송하거나, 텍스트 필드에 바이트를 저장하거나, URL에 데이터를 삽입해야 할 때는 인코딩을 사용하십시오. 비밀번호를 저장할 때는 bcrypt 또는 Argon2와 함께 해싱을 사용하고, 데이터 무결성을 확인할 때는 검사합을 사용하며, 길이가 가변적인 데이터에서 고정 길이 식별자를 만들 때도 해싱을 사용하십시오.

올바른 키로 복구해야 하는 민감한 데이터를 저장하거나 전송할 때는 암호화를 사용하십시오. 전송 중 무결성과 기밀성을 모두 확보하려면 해싱과 암호화(AEAD)를 결합하십시오.

잘 설계된 인증 시스템은 세 가지 방식을 모두 사용합니다. 비밀번호는 Argon2로 해싱하고(해싱), 해시는 AES-256 열 암호화와 함께 데이터베이스 필드에 저장하며(암호화), 로그인 후 반환되는 API 토큰은 Base64url로 인코딩합니다(인코딩).

각 연산은 서로 다른 목적을 수행합니다. 어떤 사용 사례에 어떤 연산이 적합한지 판단하는 능력은 응용 암호학과 안전한 시스템 설계의 기본 기술입니다.

인코딩, 암호화, 해싱에 대한 이해도를 확인해 보십시오.

인코딩(Base64, 16진수)은 보안을 제공하지 않는 형식 변환입니다. 암호화(AES-GCM)는 키가 있어야 되돌릴 수 있는 기밀성을 제공합니다. 해싱(SHA-256, Argon2)은 되돌릴 수 없는 고정 길이 다이제스트를 생성합니다.

보안을 위해 인코딩을 사용하지 마십시오. 비밀번호에는 느린 해시(Argon2 또는 bcrypt)를 사용하십시오. 전송 중이거나 저장 중인 민감한 데이터에는 인증 암호화(AEAD)를 사용하십시오. 이 범주들을 혼동하는 것은 보안 취약점이 발생하는 가장 흔한 원인 중 하나입니다.