Sicherheitskontrollen konfigurieren

Einrichten Now Assist Guardian Schutzmaßnahmen und Datenschutzkontrollen zum Schutz Ihrer KI-Agenten-Interaktionen, bevor die Tests beginnen.

Laufzeitsicherheitskontrollen schützen Ihre Anwender und Ihre Daten während Interaktionen mit KI-Agenten. Konfigurieren Sie diese vor dem Testen, damit Ihre Testläufe aussagekräftige Guardian-Protokolldaten generieren und Probleme vor der Live-Veröffentlichung erfasst werden.

Now Assist Guardian konfigurieren

Now Assist Guardian Überwacht Prompts, die an große Sprachmodelle gesendet werden, und ihre Antworten. Sie funktioniert unabhängig von Ihrer ACL- und Anwenderidentitätskonfiguration aus Phase 3 – es handelt sich um eine Laufzeitebene, keine Zugriffsebene.

Führen Sie die folgenden Guardian-Konfigurationsschritte aus:

1. Überprüfen Sie die Guardian-Übersicht, um zu verstehen, was erkannt wird und wie Protokollierung und Blockierung funktionieren. Weitere Informationen finden Sie unter .
2. Konfigurieren Sie Ihren Guardrail-Service Provider. Weitere Informationen finden Sie unter .
3. Aktivieren Sie den Anstößigkeitsschutz, um anstößige Inhalte in KI-generierten Antworten zu protokollieren und optional zu blockieren. Weitere Informationen finden Sie unter .
4. Konfigurieren Sie den Angriffsschutz für Prompt Injection, um Prompt Injection-Versuche zu erkennen und optional zu blockieren. Weitere Informationen finden Sie unter .
5. Wenn Ihr Service Desk-Mitarbeiter Virtual Agent verwendet, konfigurieren Sie Filter für sensible Themen, um Anwender weiterzuleiten, wenn ein Thema erkannt wird, das von einem menschlichen Agenten oder HR-Fall behandelt werden soll. Weitere Informationen finden Sie unter .
6. Aktivieren Sie Guardian speziell für KI-Agenten, um Ihre Agenten-Workflows vor schädlichen Inhalten in Nachrichten von Human Agent zu schützen. Weitere Informationen finden Sie unter Enable Now Assist Guardian for AI agents.

Hinweis:

Konfigurieren Sie Guardian so, dass er sich protokolliert, bevor Sie die Blockierung aktivieren. Durch die Überprüfung von Protokollen aus Ihren Testläufen können Sie verstehen, wie die Interaktionen Ihres Service Desk-Mitarbeiters aussehen, bevor Sie entscheiden, ob Inhalte blockiert werden sollen.

Konfigurieren Sie Datenschutzsteuerungen

Bevor Ihr Service Desk-Mitarbeiter mit den Tests beginnt, überprüfen Sie, ob personenbezogene Daten ordnungsgemäß behandelt werden. Führen Sie die folgenden Schritte aus, wenn Sie dies noch nicht getan haben:

1. Weisen Sie einen Datenverwalter zu, wenn noch keiner zugewiesen ist. Der Datenverwalter ist für die Entscheidungen zur Datenfreigabe für verantwortlich Now Assist In Ihrer Instanz. Weitere Informationen finden Sie unter Assign the data steward role.
2. Konfigurieren Sie Datenschutzrichtlinien, um zu steuern, wie personenbezogene Daten anonymisiert werden, bevor sie das große Sprachmodell erreichen. Weitere Informationen finden Sie unter Datenschutz für Now Assist konfigurieren.
3. Überprüfen Sie Ihre Einstellungen für die Datenfreigabe, und deaktivieren Sie sie, wenn Ihre Organisationsrichtlinie dies erfordert. Weitere Informationen finden Sie unter Opt out of data sharing for Now Assist.

Nächster Schritt

Wenn Guardian konfiguriert ist und Datenschutzkontrollen vorhanden sind, fahren Sie mit fort Testen und validieren.