Yapay Zeka Sistemleri için Tehdit Modellemesi

Yapay zekâ için tehdit modellemesine hoş geldiniz! Yapay zekâya özgü ayrıntılara geçmeden önce temel bilgileri anlayalım.

Tehdit modellemesi, bir sistem içindeki olası güvenlik tehditlerini, güvenlik açıklarını ve karşı önlemleri belirlemeye yönelik yapılandırılmış bir süreçtir. Saldırgan gibi düşünmenize yardımcı olur.

• Varlıkları Belirleyin: Neyi koruyorsunuz? (Veriler, modeller, kullanıcı hesapları)
• Tehditleri Belirleyin: Kim saldırabilir ve nasıl?
• Güvenlik Açıklarını Belirleyin: İstismar edilebilecek zayıflıklar.
• Azaltma Yöntemlerini Belirleyin: Riskleri nasıl azaltabilir veya ortadan kaldırabilirsiniz?

Geleneksel yazılım güvenliği kod ve altyapıya odaklanırken yapay zekâ yeni saldırı yüzeyleri ortaya çıkarır.

Yapay zekâ sistemleri şu özellikleri nedeniyle kendine özgüdür:

• Veri Odaklı: Manipüle edilebilecek eğitim verilerine büyük ölçüde bağımlıdır.
• Olasılıksal: Kararlar her zaman deterministik değildir; bu da anormallikleri fark etmeyi zorlaştırır.
• 'Kara Kutu': Karmaşık modeller opak olabilir ve güvenlik açıklarını gizleyebilir.

Bu özellikler, geleneksel güvenlik modellerinin gözden kaçırabileceği belirli tehditler oluşturur.

Yapay zekânın kötü bilgilerden öğrendiğini düşünün. İşte buna veri zehirleme denir.

Bu saldırı, bir yapay zekâ modelinin eğitim veri kümesine kötü amaçlı veya değiştirilmiş veriler eklemeyi içerir. Amaç, modelin öğrenme sürecini bozmak veya belirli yanlılıklar oluşturmaktır.

Etki:

• Model yanlış veya taraflı tahminler sunar.
• Belirli girdilerin istenen (kötü amaçlı) çıktıları tetiklediği arka kapı güvenlik açıkları oluşur.

Örneğin, bir spam filtresinin eğitim verilerine 'spam değil' olarak etiketlenmiş spam e-postalar eklemek, filtrenin etkililiğini azaltabilir.

Modelden kaçınma, saldırganın küçük değişiklikler içeren bir girdi hazırlayarak yapay zekâ modelinin yanlış tahminde bulunmasına neden olmasıdır.

Bunlara genellikle çekişmeli örnekler adı verilir. Girdi insana normal görünür, ancak yapay zekâ onu yanlış yorumlar.

Etkisi:

• Güvenlik sistemlerini (ör. yüz tanıma) atlatma.
• Kritik verileri yanlış sınıflandırma (ör. iyi huylu bir tümörü yanlış tanımlama).

Klasik bir örnek, üzerinde küçük ve neredeyse görünmez çıkartmalar bulunan bir dur işaretidir. Bu çıkartmalar, sürücüsüz bir aracın işareti yol ver işareti olarak görmesine neden olur.

Bu saldırılar, modelin fikrî mülkiyetini ve eğitim verilerinin gizliliğini hedef alır.

• Model Tersine Çevirme: Saldırgan, modelin çıktılarını gözlemleyerek modelin eğitim verilerindeki hassas bilgileri yeniden oluşturmaya çalışır. Bu, bir gizlilik riskidir.
• Model Çıkarma (Çalma): Saldırgan, temel mantığını öğrenmek için özel bir yapay zekâ modeline tekrar tekrar sorgu gönderir ve doğrudan erişim olmadan etkili bir şekilde modelin kopyasını oluşturur. Bu, fikrî mülkiyet hırsızlığı riskidir.

Her iki saldırı da modelin tahminlerine erişimden yararlanarak iç işleyişini veya eğitim verilerini tersine mühendislikle ortaya çıkarmayı amaçlar.

STRIDE tehdit modelleme çerçevesi (Kimliğe Bürünme, Değiştirme, Reddetme, Bilgi Açıklama, Hizmet Engelleme, Yetki Yükseltme) yapay zekâya uyarlanabilir.

• Yapay zekâda kimliğe bürünme: Saldırgan, meşru bir veri kaynağının, yapay zekâ modelinin veya hatta yapay zekâ ile etkileşim kuran bir kullanıcının kimliğine bürünür.
• Yapay zekâda değiştirme: Bu tehdit, verilerin (ör. eğitim verileri ve model ağırlıkları) veya yapay zekâ sisteminin kendisinin yetkisiz biçimde değiştirilmesini kapsar; bunun sonucunda davranış ya da çıktılar değişir.

Bu tehditler, yapay zekâ sisteminizin bütünlüğünü ve gerçekliğini zayıflatmayı amaçlar.

STRIDE'a devam ederek hesap verebilirliğe ve gizliliğe bakalım.

• Yapay zekâda reddetme: Saldırgan bir eylem gerçekleştirir (ör. kötü amaçlı veri enjekte eder) ve ardından bunu yaptığını inkâr eder; geriye izlenebilir hiçbir kanıt bırakmaz. Bu durum, güçlü günlük kaydının gerekliliğini gösterir.
• Yapay zekâda bilgi açıklama: Bu, hassas bilgilerin yetkisiz biçimde açığa çıkarılmasıdır. Yapay zekâ açısından bu, özel model mimarilerinin, algoritmaların veya eğitim için kullanılan özel verilerin ortaya çıkarılması anlamına gelebilir.

Verileri korumak ve hesap verebilirliği sağlamak, güven ve uyumluluk açısından büyük önem taşır.

Son iki STRIDE kategorisi kullanılabilirliğe ve denetime odaklanır.

• Yapay zekâda Hizmet Engelleme (DoS): Saldırgan, bir yapay zekâ hizmetini isteklerle doldurur veya yoğun kaynak gerektiren hesaplamalar gerçekleştirir ve hizmeti meşru kullanıcılar için kullanılamaz hâle getirir. Bu, hizmet olarak yazılımınızın güvenilirliğini etkiler.
• Yapay zekâda Yetki Yükseltme: Saldırgan, yapay zekâ sistemi içinde yetkisiz erişim veya daha yüksek düzeyde izinler elde eder; bu da model­leri değiştirmesine, hassas verilere erişmesine veya kritik işlevleri denetlemesine olanak sağlayabilir.

Bu saldırılar, yapay zekâ hizmet olarak yazılımınızın işleyişini ciddi biçimde aksatabilir ve güvenliğini tehlikeye atabilir.

Tehditler belirlendikten sonra belirli savunmaları uygulayın:

• Veri Doğrulama: Tüm girdileri ve eğitim verilerini titizlikle denetleyin ve güvenli hâle getirin.
• Model Sağlamlığı: Modelleri kaçınma saldırılarına karşı daha dirençli hâle getirmek için çekişmeli eğitim gibi teknikler kullanın.
• Erişim Denetimleri: Veriler, modeller ve yapay zekâ hizmeti uç noktaları için güçlü kimlik doğrulama ve yetkilendirme uygulayın.
• İzleme: Olağandışı durumları tespit etmek için model performansını ve sistem günlüklerini sürekli izleyin.
• Güvenli Dağıtım: Yapay zekâ modellerini güvenli ve yalıtılmış ortamlarda dağıtmak için en iyi uygulamaları izleyin.

Yapay zekâ hizmet olarak yazılımınızı güvence altına almanın anahtarı, çok katmanlı bir yaklaşımdır.

Harika iş çıkardınız! Yapay zekâ sistemleri için tehdit modellemenin kritik alanını incelediniz.

Yapay zekânın, geleneksel yazılımların ötesinde kendine özgü güvenlik zorlukları getirdiğini öğrendik. Veri zehirleme, modelden kaçınma ve model tersine çevirme/çıkarma gibi yapay zekâya özgü tehditleri ele aldık.

Ayrıca STRIDE çerçevesinin kimliğe bürünme, değiştirme, reddetme, bilgi açıklama, hizmet engelleme ve yetki yükseltmeyle ilgili yapay zekâya özgü güvenlik açıklarını belirlemek üzere nasıl uyarlanabileceğini gördük.

Sağlam ve güvenilir yapay zekâ hizmet olarak yazılım ürünleri oluşturmak için proaktif tehdit modelleme büyük önem taşır!