Apa yang Membuat Protokol Aman

Autentikasi bertujuan menetapkan identitas pihak-pihak yang berkomunikasi. Tanpa autentikasi, protokol rentan terhadap peniruan identitas: penyerang dapat berpura-pura menjadi peladen tepercaya dan mencegat komunikasi. Autentikasi dalam protokol biasanya dicapai menggunakan sertifikat digital, kunci yang dibagikan sebelumnya, atau mekanisme tantangan-respons yang membuktikan bahwa pihak tersebut mengetahui suatu rahasia tanpa mengungkapkannya.

Kerahasiaan memastikan bahwa isi pesan hanya dapat diakses oleh penerima yang dimaksud. Hal ini dicapai melalui enkripsi menggunakan kunci yang hanya diketahui oleh pihak-pihak yang terlibat. Kegagalan kerahasiaan berarti penyadap dapat membaca pesan saat dikirimkan. Kerahasiaan saja tidak mencegah penyerang memanipulasi pesan atau melakukan serangan pemutaran ulang; kerahasiaan harus digabungkan dengan perlindungan integritas.

Perlindungan integritas memastikan pesan yang diterima persis seperti yang dikirimkan pengirim, tanpa penambahan, penghapusan, atau perubahan. Kode Autentikasi Pesan dan mode enkripsi terautentikasi memberikan integritas. Tanpa perlindungan integritas, penyerang yang tidak dapat membaca teks tersandi mungkin tetap dapat membalik bit tertentu secara terprediksi untuk mengubah teks biasa hasil dekripsi, seperti yang dieksploitasi dalam serangan oracle pada pengisian.

Nirpenyangkalan berarti pengirim tidak dapat kemudian menyangkal bahwa ia telah mengirim pesan. Hal ini dicapai melalui tanda tangan digital menggunakan kunci asimetris: hanya pemegang kunci privat yang dapat menghasilkan tanda tangan tersebut, dan kunci publik yang sesuai memverifikasinya. MAC tidak memberikan nirpenyangkalan karena pengirim dan penerima sama-sama mengetahui rahasia bersama dan salah satu pihak dapat menghasilkan MAC tersebut.

Kemutakhiran memastikan bahwa pesan lama yang sebelumnya valid tidak dapat diputar ulang oleh penyerang untuk memicu efek yang sama lagi. Mekanisme kemutakhiran mencakup nilai acak sekali pakai yang disertakan dalam pesan dan tidak boleh berulang, stempel waktu dengan jendela validitas yang sempit, serta nomor urut yang harus terus meningkat. Tanpa kemutakhiran, memutar ulang pesan autentikasi yang ditangkap dapat melewati autentikasi sepenuhnya.

Kerahasiaan penerusan sempurna memastikan bahwa penyusupan kunci jangka panjang tidak membuka kunci sesi yang telah berlalu. Hal ini dicapai dengan membuat pasangan kunci sementara untuk setiap sesi menggunakan Diffie-Hellman. Kunci sesi dihitung dari kunci sementara tersebut lalu dibuang setelah digunakan. Bahkan jika kunci privat jangka panjang server dicuri di kemudian hari, penyerang tidak dapat mendekripsi sesi yang sebelumnya direkam karena kunci sementara tersebut sudah tidak ada.

Autentikasi satu arah hanya memverifikasi salah satu pihak: dalam HTTPS, server menyajikan sertifikat yang diverifikasi klien, tetapi server biasanya tidak memverifikasi identitas klien. Autentikasi timbal balik (atau TLS timbal balik, mTLS) mengharuskan kedua pihak menyajikan dan memverifikasi sertifikat. mTLS umum digunakan dalam arsitektur layanan mikro, gerbang API, dan VPN perusahaan, ketika kedua titik akhir harus diverifikasi sebelum bertukar data sensitif.

Perancang protokol tidak dapat hanya mengandalkan intuisi. Protokol yang tampak jelas aman dapat gagal dengan cara yang halus. Protokol kunci publik Needham-Schroeder diterbitkan pada 1978 dan dianggap aman. Pada 1995, Gavin Lowe menemukan cacat yang memungkinkan serangan penyamaran menggunakan alat verifikasi formal. Verifikasi formal menggunakan pemeriksa model seperti Tamarin atau ProVerif telah menjadi praktik standar untuk perancangan protokol yang kritis bagi keamanan.

Model Dolev-Yao adalah model ancaman standar untuk menganalisis protokol kriptografi. Model ini mengasumsikan bahwa penyerang mengendalikan seluruh jaringan: mereka dapat mencegat, memblokir, mengubah, memutar ulang, dan menyisipkan pesan apa pun. Primitif kriptografi dianggap sempurna, tanpa kelemahan matematis. Dalam model ini, protokol hanya aman jika mencapai tujuannya meskipun penyerang memiliki kendali penuh atas semua komunikasi.

Perancangan protokol kriptografi terkenal sulit karena cacatnya sering kali halus dan tidak mudah terlihat. Interaksi berbagai pesan, nilai sekali pakai, stempel waktu, dan kunci dapat menciptakan jalur serangan yang tidak terduga. Berbagai pihak dapat memiliki pandangan berbeda tentang status protokol. Sesi yang berjalan secara bersamaan dapat saling mengganggu. Setiap protokol utama yang digunakan, termasuk SSL, TLS, WPA2, dan 802.11, pernah memiliki kerentanan signifikan yang ditemukan setelah diterapkan.

SSL 3.0 berhasil dibobol oleh serangan POODLE. TLS 1.0 dan 1.1 tidak lagi direkomendasikan karena memiliki banyak kelemahan. Enkripsi WEP WiFi sepenuhnya berhasil dibobol dalam tahun pertama penerapannya. PPTP VPN dianggap tidak aman karena kelemahan MS-CHAPv2. Setiap kegagalan memberi komunitas keamanan pelajaran tentang kesenjangan antara intuisi keamanan informal dan perancangan protokol yang dapat dibuktikan kebenarannya di bawah model Dolev-Yao.

Protokol aman harus mencapai autentikasi, kerahasiaan, integritas, nirpenyangkalan, dan kebaruan. Kerahasiaan penerusan sempurna melindungi sesi sebelumnya dari penyusupan kunci di kemudian hari. Autentikasi timbal balik memverifikasi kedua pihak. Model Dolev-Yao mengasumsikan jaringan yang sepenuhnya dikendalikan penyerang. Perancangan protokol memerlukan verifikasi formal, bukan sekadar intuisi. Setiap protokol utama pernah memiliki kerentanan yang ditemukan setelah diterapkan, sehingga mendorong evolusi standar kriptografi yang berkelanjutan.