Pemodelan Ancaman untuk Sistem Kecerdasan Buatan

Bayangkan AI belajar daripada maklumat yang tidak baik. Itulah keracunan data.

Serangan ini melibatkan penyuntikan data berniat jahat atau data yang telah dimanipulasi ke dalam set data latihan model AI. Matlamatnya adalah untuk merosakkan proses pembelajaran model atau memperkenalkan kecenderungan tertentu.

Kesan:

• Model memberikan ramalan yang salah atau berat sebelah.
• Kerentanan pintu belakang, apabila input tertentu mencetuskan output yang dikehendaki (berniat jahat).

Contohnya, menambahkan e-mel spam yang dilabel sebagai ‘bukan spam’ ke dalam data latihan penapis boleh menjadikannya kurang berkesan.

Pengelakan model berlaku apabila penyerang mereka bentuk input yang diubah secara halus, tetapi menyebabkan model AI membuat ramalan yang salah.

Input ini sering dipanggil contoh adversarial. Bagi manusia, input tersebut kelihatan normal, tetapi AI tersalah tafsir.

Kesan:

• Memintas sistem keselamatan (contohnya, pengecaman wajah).
• Salah mengklasifikasikan data kritikal (contohnya, tersalah mengenal pasti tumor yang tidak berbahaya).

Contoh klasik ialah papan tanda berhenti yang ditampal dengan pelekat kecil yang hampir tidak kelihatan, sehingga kereta pandu sendiri melihatnya sebagai papan tanda 'beri laluan'.

Serangan ini menyasarkan harta intelek model dan privasi data latihannya.

• Penyongsangan Model: Penyerang cuba membina semula maklumat sensitif daripada data latihan model dengan memerhatikan outputnya. Ini merupakan risiko terhadap privasi.
• Pengekstrakan Model (Pencurian): Penyerang menghantar pertanyaan kepada model AI proprietari berulang kali untuk mempelajari logik asasnya, lalu menghasilkan salinan model tersebut tanpa akses terus. Ini merupakan risiko pencurian harta intelek.

Kedua-dua serangan ini memanfaatkan akses kepada ramalan model untuk melakukan kejuruteraan balik terhadap cara kerja dalaman atau data latihan model.

Rangka kerja pemodelan ancaman STRIDE (Penyamaran, Pengubahan, Penafian, Pendedahan Maklumat, Penafian Perkhidmatan, Peningkatan Keistimewaan) boleh disesuaikan untuk AI.

• Penyamaran dalam AI: Penyerang menyamar sebagai sumber data yang sah, model AI, atau pengguna yang berinteraksi dengan AI.
• Pengubahan dalam AI: Ini melibatkan pengubahsuaian data tanpa kebenaran (contohnya, data latihan atau pemberat model) atau sistem AI itu sendiri, yang menyebabkan tingkah laku atau output berubah.

Ancaman ini bertujuan menjejaskan integriti dan kesahihan sistem AI anda.

Seterusnya dalam STRIDE, mari kita lihat kebertanggungjawaban dan privasi.

• Penafian dalam AI: Penyerang melakukan sesuatu tindakan (contohnya, menyuntik data berniat jahat), kemudian menafikan bahawa mereka melakukannya dan tidak meninggalkan bukti yang boleh dikesan. Hal ini menunjukkan keperluan untuk membuat rekod aktiviti yang kukuh.
• Pendedahan Maklumat dalam AI: Ini ialah pendedahan maklumat sensitif tanpa kebenaran. Bagi AI, hal ini mungkin bermaksud mendedahkan seni bina model proprietari, algoritma, atau data peribadi yang digunakan untuk latihan.

Melindungi data dan memastikan kebertanggungjawaban amat penting untuk membina kepercayaan serta mematuhi peraturan.

Dua kategori terakhir STRIDE menumpukan pada ketersediaan dan kawalan.

• Penafian Perkhidmatan (DoS) dalam AI: Penyerang membanjiri perkhidmatan AI dengan permintaan atau menjalankan pengiraan yang menggunakan banyak sumber, sehingga perkhidmatan itu tidak tersedia kepada pengguna yang sah. Hal ini menjejaskan kebolehpercayaan SaaS anda.
• Peningkatan Keistimewaan dalam AI: Penyerang memperoleh akses tanpa kebenaran atau keizinan peringkat lebih tinggi dalam sistem AI, yang berpotensi membolehkan mereka mengubah suai model, mengakses data sensitif, atau mengawal fungsi kritikal.

Serangan ini boleh mengganggu operasi SaaS AI anda dengan teruk dan menjejaskan keselamatannya.

Setelah ancaman dikenal pasti, laksanakan pertahanan khusus:

• Pengesahan Data: Semak dan bersihkan semua input serta data latihan dengan teliti.
• Keteguhan Model: Gunakan teknik seperti latihan adversarial untuk menjadikan model kurang terdedah kepada serangan pengelakan.
• Kawalan Akses: Laksanakan pengesahan dan kebenaran yang kukuh untuk data, model, serta titik akhir perkhidmatan AI.
• Pemantauan: Pantau prestasi model dan log sistem secara berterusan untuk mengesan kejanggalan.
• Pelaksanaan Selamat: Ikuti amalan terbaik untuk melaksanakan model AI dalam persekitaran yang selamat dan terasing.

Pendekatan berbilang lapisan ialah kunci untuk melindungi SaaS AI anda.

Tahniah! Anda telah meneroka bidang penting pemodelan ancaman untuk sistem AI.

Kita telah mempelajari bahawa AI memperkenalkan cabaran keselamatan unik yang melangkaui perisian tradisional. Kita telah membincangkan ancaman AI khusus seperti keracunan data, pengelakan model, dan penyongsangan/pengekstrakan model.

Kita juga telah melihat cara rangka kerja STRIDE boleh disesuaikan untuk mengenal pasti kelemahan khusus AI yang berkaitan dengan penyamaran, pengubahan, penafian, pendedahan maklumat, penafian perkhidmatan, dan peningkatan keistimewaan.

Pemodelan ancaman secara proaktif penting untuk membina produk SaaS AI yang teguh dan boleh dipercayai!