Sicherheit und Datenschutz beim Prompting

Im Unternehmensumfeld geht die Nutzung von Large Language Models (LLMs) mit großer Macht und großer Verantwortung einher. Bei der Verarbeitung sensibler Unternehmensdaten haben Sicherheit und Datenschutz höchste Priorität.

In dieser Lektion erfahren Sie, wie Sie Prompts so gestalten, dass sie Ihre wertvollen Informationen schützen und die Einhaltung von Vorschriften gewährleisten.

Datenabfluss tritt auf, wenn vertrauliche Informationen unbeabsichtigt oder absichtlich offengelegt werden. Bei LLMs kann dies geschehen, wenn:

• Sie vertrauliche Daten in einen Prompt aufnehmen;
• die Antwort des LLM unbeabsichtigt private Details preisgibt;
• LLM-Protokolle sensible Eingaben speichern, auf die später zugegriffen werden könnte.

Gehen Sie immer davon aus, dass alles, was Sie an ein LLM senden, auf eine Weise gespeichert oder verarbeitet werden kann, die Sie nicht vollständig kontrollieren.

Prompt-Injection liegt vor, wenn eine Benutzereingabe das LLM dazu bringt, seine ursprünglichen Anweisungen zu ignorieren oder unbeabsichtigte Aktionen auszuführen. In einem Unternehmen kann dies zu Folgendem führen:

• unbefugtem Zugriff auf Daten;
• der Erzeugung schädlicher oder irreführender Inhalte;
• der Umgehung von Sicherheitsfiltern.

Wir sehen uns Techniken an, mit denen Sie Ihre Prompts robuster gegen solche Angriffe machen können.

Personenbezogene Daten (PII) bezeichnen Daten, anhand derer sich eine Person identifizieren lässt (z. B. Namen, Adressen, Telefonnummern oder E-Mail-Adressen). Der Umgang mit personenbezogenen Daten erfordert aufgrund von Datenschutzgesetzen höchste Sorgfalt.

• Regel Nr. 1: Vermeiden Sie es nach Möglichkeit, personenbezogene Daten an LLMs zu senden.
• Regel Nr. 2: Wenn es unbedingt erforderlich ist, anonymisieren oder schwärzen Sie die Daten vorher.
• Regel Nr. 3: Stellen Sie sicher, dass Ihr LLM-Anbieter strenge Richtlinien für den Umgang mit Daten einhält.

Dies sind wichtige Techniken zum Schutz sensibler Daten:

• Anonymisierung: Daten so verändern, dass Personen nicht identifiziert werden können, häufig durch das Entfernen oder Aggregieren identifizierender Felder.
• Schwärzung: Bestimmte vertrauliche Informationen aus einem Dokument oder Text entfernen oder unkenntlich machen.

Führen Sie diese Schritte immer vorher durch, bevor Sie Daten an ein LLM senden.

Das Bereinigen von Benutzereingaben ist entscheidend für die Sicherheit. Bei der Validierung wird geprüft, ob die Eingabe erwartete Kriterien erfüllt (z. B. das richtige Format). Bei der Bereinigung werden potenziell schädliche Zeichen oder Muster entfernt oder neutralisiert.

Führen Sie dieses Beispiel für eine einfache Bereinigungsfunktion aus:

Wenden Sie das Prinzip der geringsten Berechtigungen auf Ihre LLM-Integrationen an. Das bedeutet:

• LLMs sollten nur auf die Daten zugreifen können, die sie unbedingt benötigen.
• Wenn Sie Tools oder APIs mit einem LLM verwenden, stellen Sie sicher, dass auch diese nur über die erforderlichen Mindestberechtigungen verfügen.
• Implementieren Sie eine starke Authentifizierung und Autorisierung für jedes System, das mit dem LLM interagiert.

Wenn Sie Prompts mit Blick auf die Sicherheit erstellen, können Sie Risiken deutlich verringern:

• Vertrauliche Daten ausdrücklich verbieten: Fügen Sie Anweisungen wie „Geben Sie keine personenbezogenen Daten (PII) weiter.“ hinzu.
• Strikte Ausgabeformate festlegen: Dadurch wird es für das LLM schwieriger, vom vorgesehenen Verhalten abzuweichen und unerwünschte Inhalte einzuschleusen.
• Begrenzer verwenden: Trennen Sie Benutzereingaben klar von Anweisungen, um Injection zu verhindern.
• Prompts fokussiert halten: Vermeiden Sie zu weit gefasste Anweisungen, die zu unerwartetem Verhalten führen könnten.

Für viele Branchen gelten strenge Datenschutzvorschriften. Praktiken des Prompt Engineering müssen mit diesen Vorschriften übereinstimmen:

• DSGVO (Europa): Schützt Daten und die Privatsphäre aller Personen innerhalb der EU.
• HIPAA (USA): Schützt vertrauliche Gesundheitsdaten von Patienten.
• CCPA (Kalifornien, USA): Gibt Verbrauchern mehr Kontrolle über ihre personenbezogenen Daten.

Wenn Sie diese Vorschriften verstehen, können Sie sicherstellen, dass Ihre LLM-Lösungen rechtliche Vorgaben erfüllen.

Welche der folgenden Strategien verbessern den Datenschutz und die Sicherheit beim Einsatz von LLMs in einem Unternehmensumfeld? Wählen Sie alle zutreffenden Antworten aus.

Sie haben gelernt, dass Sicherheit und Datenschutz beim Prompt Engineering in Unternehmen unverzichtbar sind. Die wichtigsten Erkenntnisse:

• Berücksichtigen Sie stets die Risiken von Datenabfluss und Prompt-Injection.
• Schützen Sie personenbezogene Daten durch Anonymisierung und Schwärzung.
• Implementieren Sie eine robuste Eingabevalidierung und -bereinigung.
• Gestalten Sie Prompts sicher und halten Sie das Prinzip der geringsten Berechtigungen ein.
• Stellen Sie die Einhaltung relevanter Vorschriften sicher.

Indem Sie diese Richtlinien befolgen, können Sie leistungsstarke und vertrauenswürdige LLM-Lösungen für Ihre Organisation entwickeln!