AI Prompt Engineering · Ders

Koruma Kuralları Nedir

Güvenlik ve kalite denetimleri.

Koruma Kuralları Nedir, CoddyKit'te ücretsiz bir AI Prompt Engineering dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, AI Prompt Engineering öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. AI Prompt Engineering kursu toplamda 4 dersten oluşur.

Güvenlik Bariyerleri Tanımlandı

Güvenlik bariyerleri, güvenliği, politikaları ve kaliteyi uygulamak için bir LLM'in çevresinde çalışan programatik kontrollerdir. Girdi aşamasında (kullanıcı girdisi) ve çıktı aşamasında (model çıktısı) çalışarak modele ve kullanıcıya ulaşanları denetlerler.

Model olasılıksaldır; güvenlik bariyerleri ise bunun üzerine eklenen belirlenimci politika uygulamalarıdır.

Yalnızca İstem Yazmak Neden Yetersiz

'Sırları asla açığa çıkarma' gibi sistem istemi talimatları esnektir: korumaları aşan saldırılarla geçersiz kılınabilir, uzun bağlamlarda etkisini yitirebilir veya veri dağılımı değiştiğinde göz ardı edilebilir. Güvenlik bariyerleri katıdır; çünkü modelin dışında bulunan ve tartışılarak aşılamayan kodlardır.

Derinlemesine savunma uygulayın: modele istem verin ve onu bağımsız kontrollerle çevreleyin.

Girdi ve Çıktı Güvenlik Bariyerleri

Farklı görevleri olan iki yerleşim:

Girdi güvenlik bariyerleri, belirteçler maliyet oluşturmadan önce istem enjeksiyonlarını, izin verilmeyen istekleri ve PII'yi engeller.
Çıktı güvenlik bariyerleri, teslim edilmeden önce güvensiz içeriği, sızan verileri, halüsinasyonları ve şema ihlallerini yakalar.

Girdi kontrolleri maliyeti düşürür; çıktı kontrolleri kullanıcıları korur.

Engelleme, Maskeleme, Yeniden Üretme, Üst Birime Aktarma

Bir güvenlik bariyeri tetiklendiğinde hangi eylemin yapılacağına karar vermelidir:

Engelleme — reddedin ve güvenli bir mesaj döndürün.
Maskeleme — sakıncalı bölümü maskeleyin ve devam edin.
Yeniden üretme — ihlali belirterek yeniden istem gönderin.
Üst birime aktarma — bir insana veya daha katı bir modele yönlendirin.

Doğru eylem, ihlalin ciddiyetine ve kullanıcının güvenine bağlıdır.

def on_violation(severity):
    if severity == 'critical': return 'block'
    if severity == 'pii': return 'redact'
    if severity == 'quality': return 'regenerate'
    return 'escalate'

Güvenlik Bariyeri İşlem Hattı

Güvenlik bariyerlerini sıralı bir işlem hattı olarak birleştirin; ilk kesin ihlalde işlemi hemen durdurun.

def guarded_generate(user_input):
    for g in INPUT_GUARDS:
        verdict = g.check(user_input)
        if verdict.block:
            return safe_refusal(verdict)
    output = call_model(user_input)
    for g in OUTPUT_GUARDS:
        verdict = g.check(output)
        if verdict.block:
            return verdict.handle(output)
    return output

Belirlenimci ve Model Tabanlı Bariyerler

İki uygulama biçimi vardır:

Belirlenimci — düzenli ifadeler, şema, izin/ret listeleri ve sabit eşiklere sahip sınıflandırıcılar. Hızlı, ucuz ve denetlenebilirdir.
Model tabanlı — bir moderasyon modeli veya LLM değerlendiricisi, incelikli politikaları değerlendirir. Esnektir; ancak daha yavaştır ve kendisi de hataya açıktır.

Kesin kurallar için belirlenimci bariyerleri, yoruma dayalı kararlar için model bariyerlerini kullanın.

Gecikme ve Maliyet Bütçeleri

Her güvenlik bariyeri gecikme ekler. Hızlı kalmak için şu stratejileri kullanın:

Bağımsız çıktı bariyerlerini paralel çalıştırın.
Ucuz belirlenimci kontrolleri pahalı model kontrollerinden önce sıralayın.
İlk kesin engellemede işlemi kısa devre yaparak durdurun.
Çıktıyı akışla gönderin; ancak kritik bariyerler geçene kadar teslim etmeyin.

verdicts = await asyncio.gather(*[g.check(out) for g in OUTPUT_GUARDS])
if any(v.block for v in verdicts):
    return handle(verdicts)

Yanlış Pozitifler Gerçek Bir Maliyettir

Aşırı saldırgan güvenlik bariyerleri meşru istekleri engeller ve kullanıcıları bıktırır (zararsız sorgularda bile verilen 'Buna yardımcı olamam' yanıtı gibi). Eşikleri etiketlenmiş bir kümeye göre ayarlayın ve saldırılardaki geri çağırma oranının yanı sıra yanlış pozitif oranını da temel bir ölçüm olarak izleyin.

Akış, Çıktı Bariyerlerini Zorlaştırır

Belirteçleri kullanıcıya akışla gönderirseniz, geç gelen bir ihlal ekranda zaten görünmüş olabilir. Seçenekler:

Tümünü arabelleğe alın, denetleyin ve ardından yayınlayın (en güvenlisi, gecikmesi daha yüksek).
Akış sırasında cümle sınırlarında denetleyin.
İhlal olduğunda iyimser biçimde akış yapın, ancak içeriği geri çekin veya değiştirin.

Seçiminizi, kısmen sızmış bir çıktının ne kadar zararlı olacağına göre yapın.

Denetlenebilirlik ve Günlükleme

Güvenlik bariyerleri uyumluluk kayıtlarıdır. Hassas içeriğin kendisini kaydetmemeye dikkat ederek her kararı input özeti, bariyer kimliği, önem derecesi ve gerçekleştirilen eylemle birlikte log edin. Bu kayıt, denetimler sırasında kuralların uygulandığını kanıtlar ve ayarlamayı destekler.

audit.log({'guard': g.id, 'verdict': verdict.label,
           'action': verdict.action, 'input_hash': sha256(inp)})

Güvenlik Bariyerleri Tasarımın Yerini Tutmaz

Güvenlik bariyerleri riski azaltır; ancak ortadan kaldırmaz. Bir sırrı görme erişimi olmayan model onu sızdıramaz. Mimari kontrolleri (en az ayrıcalık, kapsamı sınırlandırılmış araçlar ve bağlamda hassas veri bulundurmama) tercih edin; güvenlik bariyerlerini tek katman olarak değil, son katman olarak kullanın.

Hızlı Kontrol

Hangi güvenlik bariyeri yerleşimi, izin verilmeyen isteklerde belirteç harcamasını öncelikle azaltır?

Özet

Güvenlik bariyerlerinin temelleri:

Olasılıksal bir modelin çevresine katmanlandırılmış belirlenimci politika.
Girdi bariyerleri maliyeti düşürür; çıktı bariyerleri kullanıcıları korur.
Eylemler: engelleme, maskeleme, yeniden üretme, üst birime aktarma.
Belirlenimci ve model tabanlı kontrolleri birleştirin; bunları paralel çalıştırın.
Yanlış pozitifleri izleyin, kararları log edin ve yama uygulamak yerine mimariyi tercih edin.

Sırada: girdi ve çıktı filtrelemesini ayrıntılı olarak inceleme.

Sıkça Sorulan Sorular

“Koruma Kuralları Nedir” dersi ücretsiz mi?

Evet — “Koruma Kuralları Nedir” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve AI Prompt Engineering kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. AI Prompt Engineering kursu toplamda 4 dersten oluşur.

“Koruma Kuralları Nedir” dersinde ne öğreneceğim?

Güvenlik ve kalite denetimleri. AI Prompt Engineering ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

AI Prompt Engineering öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te AI Prompt Engineering, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.

“Koruma Kuralları Nedir” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu AI Prompt Engineering dersinde kod yazıp çalıştırabilir miyim?

Evet. Her AI Prompt Engineering dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

← AI Prompt Engineering Sayfasına Dön