Konfigurieren Sie Prompt Injection-Angriffsschutz

Aktivieren oder deaktivieren Sie die Angriffserkennung von Prompt Injection, um alle generativen KI-Anwendungen und KI-generierten Texte und Konversationen in Ihrer Instanz vor schädlichen Eingaben und unbeabsichtigtem Modellverhalten zu schützen.

Vorbereitungen

Erforderliche Rolle: sn_generative_ai.nsa_admin

Warum und wann dieser Vorgang ausgeführt wird

Prompt Injection-Angriffe sind eine Art von Cybersicherheitsangriffen, bei denen jemand versucht, die anfänglichen Anweisungen eines LLM zu überschreiben, um unbeabsichtigtes Verhalten zu verursachen. Now Assist Guardian Erkennt Prompt Injection-Versuche, bevor sie das Modell erreichen, und protokolliert sie oder blockiert die Antwort, je nach Konfiguration. Sie können auch die Schutzmaßnahme für die Erkennung von Prompt Injection konfigurieren, um die KI-generierte Antwort zu blockieren, wenn ein Angriff erkannt wird, zusätzlich zur Protokollierung.

Sie können Protokolle zur Überprüfung exportieren. Weitere Informationen finden Sie unter Exportieren Sie Now Assist Guardian-Protokolle .

Prozedur

1. Navigieren zu Alle > Now Assist-Administrator > Einstellungenan.
2. Wechseln Sie im Seitenbereich zu Now Assist Guardian > Prompt Injectionan.
3. Wählen Sie aus Prompt Injection Umschalten, um die Erkennung von Prompt Injection zu aktivieren.
   
4. In Wählen Sie eine Aktion aus, wenn Prompt Injection erkannt wird Wählen Sie eine der folgenden Optionen aus, um die erkannten Angriffe zu verarbeiten:
   • Wählen Sie aus, um die Anforderung und Konversation zu protokollieren, während die Modellantwort für den Anwender sichtbar bleibt Protokollieren Sie die Ausgabe .
   • Wählen Sie aus, um die Modellantwort zu blockieren und die Anforderung und Konversation zu protokollieren Blockieren Sie die Antwort, und protokollieren Sie die Ausgabe .
5. In Wählen Sie den Schweregrad des Angriffs aus, um nach Prompt Injection zu suchen Wählen Sie einen Schweregrad aus, um nach Prompt Injection zu suchen.
   • Wählen Sie aus, um selbst die geringsten Hinweise auf Einschleusungen oder Manipulationsversuche zu kennzeichnen Niedrig .
   • Wählen Sie aus, um klare oder moderate Prompt Injection-Versuche zu kennzeichnen Mittel .
   • Wählen Sie aus, um nur Prompt Injection-Versuche mit hoher Sicherheit zu kennzeichnen Hoch .
6. Wählen Sie Speichern.

Ergebnisse

Die Erkennung von Prompt Injection ist in Ihrer Instanz für alle generativen KI-Workflows konfiguriert. Now Assist Guardian Erkennt Prompt Injection-Versuche basierend auf dem von Ihnen ausgewählten Schweregrad und antwortet entsprechend der von Ihnen konfigurierten Aktion.