Tekoälyn prompt engineering · Oppitunti

Mitä suojakaiteet ovat

Turvallisuus- ja laatutarkistukset

Oppitunti 1/413 vaihetta

Mitä suojakaiteet ovat on ilmainen Tekoälyn prompt engineering-oppitunti CoddyKitissä. Tämä on oppitunti 1/4. Voit lukea tästä oppimispolusta kokonaan mitkä tahansa 3 oppituntia ilmaiseksi — sen jälkeen CoddyKit PRO avaa kaikki oppitunnit sekä käytännön harjoittelun sisäänrakennetulla koodieditorilla ja ympäri vuorokauden toimivalla tekoälytuutorilla. Oppitunti kuuluu Tekoälyn prompt engineering-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Tekoälyn prompt engineering-kurssilla on yhteensä 4 oppituntia.

Suojakaiteet määriteltynä

Suojakaiteet ovat LLM:n ympärille sijoitettuja ohjelmallisia tarkistuksia, joilla varmistetaan turvallisuus, käytännöt ja laatu. Ne toimivat matkalla sisään (käyttäjän syöte) ja matkalla ulos (mallin tuloste) rajoittaen sitä, mikä pääsee mallille ja mikä käyttäjälle.

Malli on todennäköisyyspohjainen; suojakaiteet ovat sen päälle kerrostettua determinististä käytäntöjen valvontaa.

Pelkkä kehottaminen ei riitä

Järjestelmäkehotteen ohjeet, kuten ’älä koskaan paljasta salaisuuksia’, ovat pehmeitä: jailbreak-hyökkäykset voivat ohittaa ne, pitkät kontekstit voivat kuluttaa niiden tehoa tai jakaumasiirtymä voi saada mallin jättämään ne huomiotta. Suojakaiteet ovat kovia, koska ne ovat mallin ulkopuolista koodia, jota ei voi taivutella.

Puolustus kerroksittain: kehottakaa mallia ja ympäröikää se riippumattomilla tarkistuksilla.

Syötteen ja tulosteen suojakaiteet

Kaksi eri tehtäviin tarkoitettua sijoituspaikkaa:

Syötteen suojakaiteet estävät prompt-injektiot, kielletyt pyynnöt ja PII:n ennen kuin tokenit aiheuttavat kustannuksia.
Tulosteen suojakaiteet havaitsevat vaarallisen sisällön, vuotaneet tiedot, hallusinaatiot ja skeeman rikkomukset ennen toimitusta.

Syötetarkistukset säästävät kustannuksia; tulostetarkistukset suojaavat käyttäjiä.

Estä, redaktoi, generoi uudelleen, eskaloi

Suojakaiteen on päätettävä toimenpide, kun se laukeaa:

Estä — kieltäydy ja palauta turvallinen viesti.
Redaktoi — poista loukkaava osa ja jatka.
Generoi uudelleen — kehota uudelleen ja ilmoita rikkomuksesta.
Eskaloi — ohjaa pyyntö ihmiselle tai tiukemmalle mallille.

Oikea toimenpide riippuu vakavuudesta ja käyttäjän luottamuksesta.

def on_violation(severity):
    if severity == 'critical': return 'block'
    if severity == 'pii': return 'redact'
    if severity == 'quality': return 'regenerate'
    return 'escalate'

Suojakaideputki

Muodostakaa suojakaiteista järjestyksessä etenevä putki; keskeyttäkää käsittely ensimmäisen vakavan rikkomuksen kohdalla.

def guarded_generate(user_input):
    for g in INPUT_GUARDS:
        verdict = g.check(user_input)
        if verdict.block:
            return safe_refusal(verdict)
    output = call_model(user_input)
    for g in OUTPUT_GUARDS:
        verdict = g.check(output)
        if verdict.block:
            return verdict.handle(output)
    return output

Deterministiset ja mallipohjaiset suojakaiteet

Kaksi toteutustapaa:

Deterministinen — säännölliset lausekkeet, skeemat, sallimis- ja estolistat sekä kiinteitä kynnysarvoja käyttävät luokittelijat. Nopea, edullinen ja auditoitava.
Mallipohjainen — moderointimalli tai LLM-arvioija tulkitsee hienovaraisempia käytäntöjä. Joustava, mutta hitaampi ja itsekin erehtyvä.

Käyttäkää deterministisiä suojakaiteita tiukkoihin sääntöihin ja mallipohjaisia suojakaiteita harkintaa vaativiin tapauksiin.

Viive- ja kustannusbudjetit

Jokainen suojakaide lisää viivettä. Näin pysytte nopeina:

Suorittakaa toisistaan riippumattomat tulosteen suojakaiteet rinnakkain.
Järjestäkää edulliset deterministiset tarkistukset ennen kalliita mallipohjaisia tarkistuksia.
Keskeyttäkää käsittely heti ensimmäiseen vakavaan estoon.
Suoratoistakaa tulostetta, mutta pidättäkää toimitus, kunnes kriittiset suojakaiteet ovat läpäisseet tarkistukset.

verdicts = await asyncio.gather(*[g.check(out) for g in OUTPUT_GUARDS])
if any(v.block for v in verdicts):
    return handle(verdicts)

Väärät positiiviset tulokset maksavat oikeasti

Liian aggressiiviset suojakaiteet estävät oikeutettuja pyyntöjä ja turhauttavat käyttäjiä (’En voi auttaa tässä’ -viesti myös harmittomissa kyselyissä). Säätäkää kynnysarvot nimetyn aineiston avulla ja seuratkaa väärien positiivisten tulosten osuutta ensiluokkaisena mittarina, ei vain hyökkäysten recallia.

Suoratoisto vaikeuttaa tulosteen suojauksia

Jos suoratoistatte tokeneita käyttäjälle, myöhään havaittu rikkomus on voinut jo näkyä näytöllä. Vaihtoehdot:

Puskuroikaa koko tuloste, tarkistakaa se suojakaiteilla ja vapauttakaa se vasta sitten (turvallisin vaihtoehto, suurempi viive).
Tarkistakaa tuloste virkkeen rajoilla suoratoiston aikana.
Suoratoistakaa optimistisesti, mutta vetäkää tuloste takaisin tai korvatkaa se rikkomuksen ilmetessä.

Valitkaa toimintatapa sen perusteella, kuinka haitallista vuotanut osittainen tuloste olisi.

Auditoitavuus ja lokitus

Suojakaiteet ovat vaatimustenmukaisuuden todentamiseen tarvittavia tietoja. Kirjatkaa jokainen päätös sekä syötteen tiiviste, suojakaiteen tunniste, vakavuus ja toteutettu toimenpide, mutta varokaa kirjaamasta itse arkaluonteista sisältöä. Tämä tietue osoittaa valvonnan toimivan auditoinneissa ja tukee säätämistä.

audit.log({'guard': g.id, 'verdict': verdict.label,
           'action': verdict.action, 'input_hash': sha256(inp)})

Suojakaiteet eivät korvaa hyvää suunnittelua

Suojakaiteet pienentävät riskiä, mutta eivät poista sitä. Malli, jolla ei ole pääsyä salaisuuteen, ei voi vuotaa sitä. Suosikaa arkkitehtuurin hallintakeinoja (vähimmän oikeuden periaate, rajatut työkalut ja arkaluonteisten tietojen pitäminen poissa kontekstista) ja käyttäkää suojakaiteita viimeisenä kerroksena, ei ainoana keinona.

Pikatarkistus

Mikä suojakaiteen sijoituspaikka vähentää ensisijaisesti kiellettyjen pyyntöjen tokenikustannuksia?

Vastaa interaktiivisessa oppitunnissa

Kertaus

Suojakaiteiden perusteet:

Deterministinen käytäntöjen valvonta, joka on kerrostettu todennäköisyyspohjaisen mallin ympärille.
Syötteen suojakaiteet säästävät kustannuksia; tulosteen suojakaiteet suojaavat käyttäjiä.
Toimet: estä, redaktoi, generoi uudelleen, eskaloi.
Yhdistäkää deterministiset ja mallipohjaiset tarkistukset; suorittakaa ne rinnakkain.
Seuratkaa vääriä positiivisia tuloksia, kirjatkaa päätökset ja suosikaa arkkitehtuuria paikkaamisen sijaan.

Seuraavaksi: syötteen ja tulosteen suodatus perusteellisesti.

Aloita maksutta

Opi Tekoälyn prompt engineering tekoälytuutorin avulla — ilmaiseksi

Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.

Kurssit: 53
Oppitunnit: 199

Aloita opiskelu maksutta Näytä koko kurssi

Usein kysytyt kysymykset

Onko oppitunti ”Mitä suojakaiteet ovat” ilmainen?

Kyllä — voit lukea täällä verkossa kokonaan ilmaiseksi mitkä tahansa Tekoälyn prompt engineering-oppimispolun 3 oppituntia, myös oppitunnin “Mitä suojakaiteet ovat”. Sen jälkeen CoddyKit PRO avaa kaikki oppitunnit sekä interaktiiviset harjoitukset sisäänrakennetulla koodieditorilla ja ympäri vuorokauden toimivalla tekoälytuutorilla. Tekoälyn prompt engineering-kurssilla on yhteensä 4 oppituntia.

Mitä opin oppitunnilla ”Mitä suojakaiteet ovat”?

Turvallisuus- ja laatutarkistukset Harjoittelet Tekoälyn prompt engineering-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.

Tarvitsenko kokemusta aloittaakseni Tekoälyn prompt engineering-opiskelun?

Aiempi kokemus ei ole tarpeen. CoddyKitin Tekoälyn prompt engineering-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 1/4.

Kuinka kauan ”Mitä suojakaiteet ovat”-oppitunnin suorittaminen kestää?

Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.

Voinko kirjoittaa ja suorittaa koodia tällä Tekoälyn prompt engineering-oppitunnilla?

Kyllä. Jokainen Tekoälyn prompt engineering-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.

Kaikki tämän kurssin oppitunnit

← Takaisin: Tekoälyn prompt engineering