AI エージェントでの Now Assist ガーディアン を有効にする

AI エージェントで Now Assist ガーディアン を有効にすることで、人間のエージェントによって自動的に送信される不快なメッセージを特定してブロックします。この機能を使用すると、エージェント型ワークフローやテストが有害なコンテンツにさらされるのを減らすことができます。

始める前に

必要なロール：アドミン

このタスクについて

Now Assist ガーディアン は、Now AssistパネルのNow Platform機能であり、Now Assist アプリケーションとのやり取り中に発生する可能性のある攻撃的、機密性が高い、またはセキュリティ関連の問題をインターセプトして軽減するように設計された一連のガードレールです。

たとえば、エージェント型ワークフローの実行計画で不快なメッセージを Now Assist ガーディアン が検出したとします。計画をトリガーまたはテストしようとすると、実行計画の最初のステップで有害なコンテンツが検出されたため、 Now Assist ガーディアン 介入して計画またはテストを終了する可能性があります。

さまざまなガードレールの詳細については、「 Now Assist Guardian」を参照してください。

手順

1. AI エージェントの攻撃性を設定します。
   1. AI エージェントスタジオで、[設定] タブに移動します。
      [攻撃性] ページが表示されます。

      

   2. トグルボタンを使用して、AI エージェントの攻撃性設定をオンにします。

      

   3. オプションアイコン ( ) を選択して検出の影響を構成し、検出の影響で次のオプションを使用できるようにします。

      

      • 編集:検出の影響を、ログ記録、またはブロックとログ記録の両方から選択します。
        検出の影響を有効にします。

        1. [ 編集] オプションを選択します。
        2. [検出の影響] ページで、要件に基づいて [ ログ ] または [ブロックしてログ記録 ] ボタンを選択します。
           注:

           検出の影響度は、[ ログ ] から [ブロックしてログ ] へ、または [ブロックしてログ ] から [ログ ] にいつでも切り替えることができます。
        3. [保存] をクリックします。
      • エクスポート:攻撃性ベースのログを .CSV ファイル。ログを分析して、識別されているコンテンツのタイプを確認することができるため、会話の質問を変更するなどの他の予防策を講じることができます。
2. AI エージェントのプロンプトインジェクションを構成します。
   1. AI エージェントスタジオで、次の場所に移動します 設定 > プロンプトインジェクション を選択し、[ 構成] を選択します。
      プロンプトインジェクションを構成するための Now Assist アドミン ページが表示されます。

      

      注:

      プロンプトインジェクションの構成の詳細については、「 」を参照してください。

      必要な指示を使用してエージェント型ワークフローのプロンプトインジェクションを構成すると、システムは有害なコンテンツを検出して会話をブロックするように設計されています。