Playfair 암호

카이사르 암호와 같은 단순 치환 암호는 한 번에 한 문자씩 암호화하므로 빈도 분석에 취약합니다. 영어 문자에는 예측 가능한 빈도가 있습니다. E가 가장 흔하고, 그다음은 T, A, O 순입니다.

플레이페어 암호는 단일 문자 대신 문자 쌍(이중 문자)을 암호화합니다. 이렇게 하면 가능한 이중 문자의 수가 크게 늘어나고 빈도 분포가 평탄해집니다.

플레이페어 암호는 키 정사각형이라고 하는 5x5 문자 격자를 사용합니다. 이 격자에는 알파벳 26자가 모두 들어가며, 칸이 25개뿐이므로 I와 J는 하나의 칸에 합칩니다.

키 정사각형을 만들 때는 먼저 키워드를 쓰고(중복 제거), 남은 알파벳 문자를 순서대로 채웁니다. 키워드가 전체 배열을 결정합니다.

키워드가 "MONARCHY"라면 중복을 제거하여 M-O-N-A-R-C-H-Y가 됩니다. 5x5 격자를 행별로 채우면 다음과 같습니다. MONAR / CHYBE / DFGIK / LPQST / UVWXZ.

남은 문자 B, D, E, F, G, I, K, L, P, Q, S, T, U, V, W, X, Z는 키워드 문자 뒤에 순서대로 삽입하며, I와 J는 하나의 칸을 공유합니다.

암호화하기 전에 평문을 이중 문자(문자 쌍)로 나눕니다. 한 쌍에 같은 문자가 들어 있으면 그 사이에 X를 삽입합니다. 예를 들어 "BALLOON"은 "BA LX LO ON"이 됩니다.

문자 수가 홀수라면 끝에 X를 덧붙입니다. 이렇게 전처리하면 항상 플레이페어 규칙을 문제없이 적용할 수 있습니다.

한 쌍의 두 문자가 키 정사각형의 같은 행에 있으면 각 문자를 바로 오른쪽의 문자로 바꿉니다. 행의 끝에서는 처음으로 돌아갑니다.

예를 들어 MONARCHY 행렬에서 "AR"을 암호화하면 두 문자가 모두 1행에 있습니다. A는 R이 되고 R은 C가 됩니다. 암호문 쌍은 "RC"입니다.

한 쌍의 두 문자가 같은 열에 있으면 각 문자를 바로 아래의 문자로 바꿉니다. 열의 맨 아래에서는 맨 위로 돌아갑니다.

이 규칙은 대칭적으로 적용됩니다. "MB"가 같은 열에 있다면 M은 그 열에서 바로 아래에 있는 문자로 바뀝니다. 열도 행과 마찬가지로 순환합니다.

두 문자가 키 정사각형에서 직사각형을 이루면 각 문자를 같은 행에 있으면서 직사각형의 다른 꼭짓점에 해당하는 문자로 바꿉니다.

이 경우가 가장 흔합니다. "MU"를 암호화할 때 격자에서 M과 U를 찾습니다. M은 1행 1열에 있고 U는 5행 1열에 있으므로 직사각형을 이룹니다. M은 U의 열에서 1행에 있는 문자로, U는 M의 열에서 5행에 있는 문자로 바꿉니다.

"HIDE THE GOLD"를 암호화하려면 공백을 제거하고 이중 문자를 준비합니다. HI DE TH EG OL DX가 됩니다. 키 정사각형을 사용하여 각 쌍에 알맞은 규칙(같은 행, 같은 열 또는 직사각형)을 적용합니다.

각 쌍은 독립적으로 암호화됩니다. 그 결과 이중 문자 암호문이 연속해서 만들어지며, 평문을 복원하려면 같은 키 정사각형으로 해독해야 합니다.

플레이페어는 단순 치환보다 강력하지만 여전히 암호 분석에 취약합니다. 이중 문자 빈도 분석이 가능하기 때문입니다. 영어에서 "TH", "HE", "IN", "ER"는 가장 흔한 이중 문자입니다.

공격자는 충분한 암호문을 확보하면 암호화된 이중 문자의 빈도표를 만들고 이를 예상되는 영어 이중 문자 빈도와 비교하여 키 정사각형을 추론할 수 있습니다.

플레이페어 암호는 1854년 찰스 휘트스톤이 발명했지만 플레이페어 남작이 널리 알렸고, 이것이 암호의 이름이 되었습니다. 영국 육군은 제1차 세계 대전 중 야전 통신에 이 암호를 광범위하게 사용했습니다.

기계 장비 없이도 사용할 수 있을 만큼 쉽고 전술 통신을 보호할 만큼 강력했기 때문에 선호되었습니다. 오스트레일리아군도 제2차 세계 대전에서 사용했지만, 일본 암호 분석가들이 이를 해독했습니다.

플레이페어의 복호화에는 같은 키 정사각형과 같은 세 가지 규칙을 사용하지만 방향은 반대입니다. 같은 행의 쌍은 오른쪽이 아니라 왼쪽으로 이동합니다. 같은 열의 쌍은 아래가 아니라 위로 이동합니다. 직사각형 쌍에는 암호화와 동일한 규칙을 적용합니다.

복호화한 뒤에는 X 채움 문자를 제거해야 합니다. X로 분리된 같은 문자들은 다시 합치고, 끝에 붙은 X는 버립니다. 이 복원 단계가 있어야 원래 메시지를 되찾을 수 있습니다.

플레이페어 암호 규칙을 제대로 이해했는지 확인해 보세요.

플레이페어는 키워드에서 만든 5x5 키 정사각형을 사용하여 이중 문자를 암호화합니다. 세 가지 규칙은 같은 행, 같은 열, 직사각형의 경우를 처리합니다. 이중 문자 빈도는 이용하기가 훨씬 어렵기 때문에 단순 치환보다 훨씬 강력합니다.

영리한 설계에도 불구하고 플레이페어는 WWI 시대의 암호 분석가들에게 해독되었습니다. 이 암호는 단순 암호에서 다중 알파벳 암호를 거쳐 현대 암호화로 발전하는 과정에서 여전히 중요한 단계로 남아 있습니다.