AI 에이전트에서 사용 Now Assist 가디언

AI 에이전트에서 활성화 Now Assist 가디언 하여 인간 에이전트가 보낸 불쾌한 메시지를 자동으로 식별하고 차단합니다. 이 기능을 사용하면 에이전틱 워크플로우나 테스트가 유해한 콘텐츠에 노출되는 것을 줄일 수 있습니다.

시작하기 전에

필요한 역할: admin

이 태스크 정보

Now Assist 가디언패널의 Now Assist 기능인 Now Platform 은 애플리케이션과의 상호작용 중에 발생할 수 있는 공격적이거나 민감한 문제 또는 보안 관련 문제를 가로채고 완화하도록 설계된 일련의 가드레일 세트입니다Now Assist.

예를 들어 에 Now Assist 가디언 이전틱 워크플로우의 실행 계획에서 불쾌한 메시지를 탐지한다고 가정해 보겠습니다. 계획을 트리거하거나 테스트 Now Assist 가디언 하려고 할 때 실행 계획의 첫 단계에서 유해한 콘텐츠가 탐지되었기 때문에 계획 또는 테스트를 종료하기 위해 개입할 수 있습니다.

다양한 가드레일에 대한 자세한 내용은 Now Assist 보호자를 참조하십시오.

프로시저

1. AI 에이전트에 대한 불쾌한 콘텐츠를 구성합니다.
   1. AI 에이전트 스튜디오에서 설정 탭으로 이동합니다.
      불쾌한 콘텐츠 페이지로 이동합니다.

      에서 에서

   2. 토글 버튼을 사용하여 AI 에이전트에 대한 불쾌한 콘텐츠 설정을 켭니다.

      

   3. 다음 옵션을 사용하도록 탐지 영향을 활성화하려면 옵션 아이콘( )을 선택하여 탐지 영향을 구성합니다.

      

      • 편집: 로깅 또는 차단과 로깅 사이에서 탐지 영향을 선택합니다.
        탐지 영향 활성화:

        1. 편집 옵션을 선택합니다.
        2. 탐지 영향 페이지에서 요구 사항에 따라 로그 또는 차단 및 로그 버튼을 선택합니다.
           주:

           언제든지 탐지 영향을 로그 에서 차단 및 로그 로 전환하거나 차단 및 로그 에서 로그 로 전환할 수 있습니다.
        3. 저장을 선택합니다.
      • 익스포트: 불쾌한 콘텐츠 기반 로그 를 . CSV 파일. 식별되는 콘텐츠 유형에 대한 로그를 분석하여 대화 질문 변경과 같은 다른 예방 조치를 취할 수 있습니다.
2. AI 에이전트에 대한 프롬프트 삽입을 구성합니다.
   1. AI 에이전트 스튜디오 에서 다음으로 이동합니다.설정 > 프롬프트 삽입 을 클릭하고 구성을 선택합니다.
      프롬프트 삽입을 구성하기 위한 페이지로 Now Assist 관리자 이동됩니다.

      의 의

      주:

      프롬프트 삽입 구성에 대한 자세한 내용은 다음 문서를 참조하십시오 .

      필요한 지침에 따라 에이전틱 워크플로우에 대한 프롬프트 삽입을 구성하면 시스템은 유해한 콘텐츠를 탐지하고 대화를 차단하도록 설계되었습니다.