Pertukaran Kunci dan Enkripsi Hibrida

Enkripsi simetris mengharuskan kedua pihak berbagi kunci rahasia yang sama sebelum dapat berkomunikasi dengan aman. Namun, bagaimana cara membagikan kunci tersebut dengan aman jika Anda belum memiliki saluran yang aman? Masalah distribusi kunci ini dianggap tidak dapat diselesaikan hingga 1976, ketika Whitfield Diffie dan Martin Hellman menerbitkan makalah yang revolusioner. Solusi mereka—pertukaran kunci Diffie-Hellman—memungkinkan dua pihak membuat kunci rahasia bersama melalui saluran yang tidak aman tanpa pernah mengirimkan kunci itu sendiri sehingga dapat dilihat oleh penyadap.

Diffie-Hellman (DH) menggunakan trik matematis cerdas yang didasarkan pada masalah logaritma diskret. Kedua pihak menyepakati dua nilai publik (bilangan prima besar p dan generator g). Masing-masing pihak menghasilkan bilangan acak privat, menghitung nilai publik darinya, lalu menukarkan nilai publik tersebut. Setelah itu, masing-masing pihak dapat menghitung rahasia bersama yang sama dari bilangan privatnya sendiri dan nilai publik pihak lain. Namun, penyadap yang hanya melihat nilai publik tidak dapat menghitung rahasia bersama tanpa menyelesaikan masalah logaritma diskret, yang secara komputasional sangat sulit untuk bilangan besar.

Elliptic Curve Diffie-Hellman (ECDH) adalah varian modern yang lebih efisien dari pertukaran kunci Diffie-Hellman. ECDH menggunakan matematika kurva eliptik, bukan eksponensiasi modular, sehingga mencapai tingkat keamanan yang sama dengan parameter yang jauh lebih kecil. Kunci ECDH 256-bit memberikan keamanan yang setara dengan kunci DH 3072-bit. ECDHE (huruf “E” berarti Ephemeral) menghasilkan pasangan kunci baru untuk setiap sesi, sehingga memberikan perfect forward secrecy. TLS 1.3 mewajibkan ECDHE untuk pertukaran kunci, menjadikannya mekanisme pertukaran kunci yang dominan dalam keamanan web modern.

Perfect Forward Secrecy (PFS) memastikan bahwa kunci sesi tidak terekspos meskipun kunci privat jangka panjang server dicuri di kemudian hari. PFS dicapai dengan menggunakan pasangan kunci ephemeral untuk pertukaran kunci setiap sesi—kunci sesi diturunkan dari pasangan kunci sementara yang dibuang setelah sesi berakhir. Tanpa PFS (dengan menggunakan pertukaran kunci RSA), penyerang yang merekam lalu lintas terenkripsi hari ini dan kemudian mencuri kunci privat dapat mendekripsi semua lalu lintas sebelumnya secara retroaktif. Dengan PFS, sesi-sesi sebelumnya tetap aman bahkan setelah kunci disusupi.

Enkripsi hibrida menggabungkan kriptografi asimetris dan simetris untuk memperoleh manfaat pengelolaan key dari enkripsi asimetris serta kinerja enkripsi simetris. Prosesnya: (1) menghasilkan key sesi simetris acak, (2) mengenkripsi data utama dengan key simetris ini (cepat), (3) mengenkripsi key simetris dengan key publik penerima (transmisi key yang aman), (4) mengirim data terenkripsi dan key terenkripsi secara bersamaan. Penerima mendekripsi key simetris dengan key privatnya, lalu mendekripsi data menggunakan key simetris yang telah dipulihkan.

TLS handshake adalah penerapan enkripsi hibrida di dunia nyata yang paling umum. Dalam TLS 1.3: (1) Klien mengirim cipher suite yang didukung dan pembagian key (nilai publik ECDHE). (2) Server merespons dengan pembagian key-nya, certificate (yang berisi key publiknya), dan tanda tangan. (3) Kedua pihak menghitung shared secret yang sama melalui ECDH. (4) Semua lalu lintas berikutnya dienkripsi dengan key simetris yang diturunkan dari shared secret (AES-256-GCM). Seluruh proses ini membangun saluran terenkripsi dalam satu perjalanan pulang-pergi tanpa pernah mengirimkan key simetris secara langsung.

Kriptografi modern menggunakan Key Encapsulation Mechanisms (KEM) sebagai pendekatan yang lebih formal dan aman untuk pertukaran key dibandingkan enkripsi asimetris langsung atas key sesi. KEM memungkinkan satu pihak menghasilkan key simetris dan “mengenkapsulasinya” menggunakan key publik penerima, sedemikian rupa sehingga hanya penerima yang dapat mendekapsulasi (memulihkan) key tersebut. Standar pascakuantum NIST, CRYSTALS-Kyber, adalah KEM yang didasarkan pada masalah kisi, bukan faktorisasi bilangan bulat atau kurva eliptik, sehingga tahan terhadap serangan komputer kuantum.

Sebelum TLS 1.3, pertukaran key RSA umum digunakan: klien menghasilkan rahasia pramaster, mengenkripsinya dengan key publik RSA server, lalu mengirimkannya ke server. Masalahnya: metode ini memberikan tidak ada kerahasiaan penerusan. Jika key privat server kemudian dibobol, semua sesi terdahulu yang dienkripsi dengan cara ini dapat didekripsi. TLS 1.3 sepenuhnya menghapus pertukaran key RSA (hanya mengizinkan ECDHE) secara khusus untuk memastikan kerahasiaan penerusan pada semua koneksi. Inilah alasan menonaktifkan TLS 1.0 dan 1.2 (yang masih mengizinkan RSA statis) serta mewajibkan TLS 1.3 merupakan peningkatan keamanan.

Shared secret yang dihasilkan oleh pertukaran Diffie-Hellman tidak digunakan langsung sebagai key enkripsi. Sebagai gantinya, shared secret tersebut dimasukkan ke dalam Key Derivation Function (KDF) untuk menghasilkan key enkripsi dan vektor inisialisasi yang sebenarnya. TLS 1.3 menggunakan HKDF (HMAC-based Key Derivation Function) untuk menurunkan key terpisah bagi enkripsi di setiap arah. KDF menambah biaya komputasi (sehingga brute-force menjadi lebih sulit), memperluas secret yang pendek menjadi jumlah byte key yang diperlukan, dan memastikan key hasil penurunan memiliki sifat statistik yang baik untuk digunakan sebagai key simetris.

Pretty Good Privacy (PGP) dan padanan sumber terbukanya, OpenPGP, menggunakan enkripsi hibrida untuk email. Saat Alice mengirim email terenkripsi kepada Bob: PGP menghasilkan key sesi simetris acak, mengenkripsi isi email dengan key tersebut (AES), mengenkripsi key sesi dengan key publik RSA atau ECC milik Bob, lalu mengirim keduanya secara bersamaan. Untuk email bertanda tangan, PGP melakukan hash pada pesan dan menandatangani hash tersebut dengan key privat Alice—sehingga memberikan nirpenyangkalan. Model web of trust PGP (pengguna saling menandatangani key) merupakan alternatif bagi PKI berbasis otoritas sertifikat.

Pertukaran key Diffie-Hellman aman terhadap penyadap pasif, tetapi rentan terhadap serangan man-in-the-middle (MITM) aktif jika kedua pihak tidak saling mengautentikasi. Penyerang dapat mencegat nilai publik Alice, menggantinya dengan nilai miliknya, lalu membangun sesi DH terpisah dengan Alice dan Bob—masing-masing mengira sedang berkomunikasi dengan pihak lainnya. Inilah alasan TLS menggabungkan pertukaran key DH dengan autentikasi certificate: certificate server (yang ditandatangani oleh CA tepercaya) membuktikan identitas server dan mencegah penggantian key publik oleh MITM selama handshake.

Dalam pelajaran ini Anda mempelajari bahwa: Diffie-Hellman memecahkan masalah pertukaran key dengan memungkinkan berbagai pihak menurunkan shared secret melalui saluran yang tidak aman; ECDHE (efemeral) memberikan Perfect Forward Secrecy; enkripsi hibrida menggabungkan pertukaran key asimetris dengan enkripsi massal simetris demi efisiensi; dan TLS 1.3 mewajibkan ECDHE untuk semua koneksi. Selanjutnya kita akan membahas Authorities Sertifikat dan Rantai Trust.