Aktivieren Sie Guardian für externe Service Desk-Mitarbeiter

Verwenden Sie eine Systemeigenschaft, um Ihre Sprachlernmodelle (LLMS) mit Guardian zu schützen.

Verwenden Sie sn_aia.external_agent_guardian_checkSystemeigenschaft zum Aktivieren von Guardian, die Anforderungen, die an Sprachlernmodelle (LLMS) gesendet werden, und ihre Antworten überwacht, um Sie, Ihre Anwender und Ihre Daten zu schützen. Es gibt drei Arten von Inhalten, die überwacht werden für:

• Anstößige oder schädliche Inhalte
• Prompt Injection-Versuche
• Gefilterte Themen

Stellen Sie sicher, dass sn_aia.external_agent_guardian_checkSystemeigenschaft ist in der Tabelle „Systemeigenschaften“ [sys_properties] nicht vorhanden oder ist vorhanden und ist auf einen Wert von festgelegt Wahr .

Weitere Informationen

Attribut	Beschreibung
Konfigurationsname	sn_aia.external_agent_guardian_check
Konfigurationstyp	Systemeigenschaften (/sys_properties_list.do)
Datentyp	Boolean
Empfohlener Wert	wahr
Standardwert	wahr
Fallback-Wert	wahr
Kategorie	Zugriffssteuerung
Sicherheitsrisiko	Schweregradpunktzahl: 4,1 CVSS-Punktzahl: Mittel Sicherheitsrisikodetails: Prompt Injection ist eine Art von Angriff, bei dem schlechte Akteure die normalen Anweisungen eines LLM überschreiben, um auf eingeschränkte Informationen zuzugreifen oder unerwartetes Verhalten auszulösen. Die Erkennung von Prompt Injection basiert auf dem LLM, das in verschiedenen Arten von Prompt Injection-Techniken wie Rollenwiedergabe, Umformulierung, Wiederholung, Anweisungen zum Ignorieren anderer Anweisungen, Überzeugungen usw. trainiert wurde
Funktionale Auswirkung	Der Erziehungsberechtigte kann falsch positive Ergebnisse erstellen und berechtigte Anforderungen blockieren.
Abhängigkeiten und Voraussetzungen	Keine