AI 위협 방지

를 사용하여 Now Assist 가디언불쾌한 콘텐츠, 프롬프트 삽입, 민감한 주제 탐지 등 AI 관련 위협을 방어하는 데 어떻게 도움이 되는지 Now Assist 알아봅니다.

Now Assist 가디언 대규모 언어 모델로 전송된 요청과 응답을 모니터링하여 사용자, 사용자 및 데이터를 보호합니다. 공격적이거나 유해한 콘텐츠, 프롬프트 삽입 시도 및 민감한 주제를 탐지하고 구성에 따라 탐지된 콘텐츠를 기록하거나 차단할 수 있습니다.

가드레일 구성

다음 항목에서는 기술 및 AI 에이전트에 Now Assist 사용할 수 있는 가드레일을 설정 Now Assist 가디언 하고 구성하는 방법을 설명합니다.

런타임 시 생성형 AI 콘텐츠를 모니터링하는 방법 Now Assist 가디언 , 탐지하는 콘텐츠 범주, 로깅 및 차단의 작동 방식을 알아봅니다.

에서 사용하는 Now Assist 가디언가드레일 서비스 제공자를 관리합니다.

불쾌한 콘텐츠 방지를 켜서 AI가 생성한 텍스트 및 대화에서 불쾌한 콘텐츠를 기록하고 선택적으로 차단합니다.

AI 생성 텍스트 및 대화에 대한 프롬프트 삽입 공격 보호를 활성화 또는 비활성화합니다.

가상 에이전트 대화에서 특정 주제가 탐지되면 사용자를 다른 주제로 리디렉션하는 필터를 설정합니다.

Enable Now Assist Guardian for AI agents

AI 에이전트가 불쾌한 메시지를 자동으로 식별하고 차단할 수 있도록 하여 Now Assist 가디언 유해한 콘텐츠로부터 에이전틱 워크플로우를 보호할 수 있습니다.

가드레일 활동 모니터링

다음 항목에서는 가드레일 효과를 평가하고 보안 검토를 지원하기 위해 로그를 검토하고 익스포트 Now Assist 가디언 하는 방법을 설명합니다.

Now Assist Guardian analytics

불쾌한 콘텐츠와 프롬프트 삽입 시도가 탐지되는 빈도 추적을 포함하여 를 통해 Now Assist 가디언활성화된 가드레일의 성능을 모니터링합니다.

에서 로그를 Now Assist 가디언 익스포트하여 다양한 가드레일이 탐지되고 사용되는 빈도에 대한 인사이트를 얻을 수 있습니다.