機密情報のセマンティックフィルタリングとエラー処理を追加する

生成 AI の要求と応答にセマンティックフィルターを作成して、仮想エージェントでの生成 AI とのインタラクション中に機密性の高いトピックを除外します。

始める前に

フィルターが望ましくない素材を検出したときに切り替える仮想エージェントトピックが必要です。例としては、エラーが発生したことを通知するテキスト出力トピックや、ユーザーをライブエージェントに転送するトピックなどがあります。トピックが公開済みであり、有効である必要があります。

必要なロール：admin

このタスクについて

機密性の高いトピックに関する生成 AI の会話を防ぐために、セマンティックフィルタリングを使用して仮想エージェントの会話内のフレーズを識別できます。LLM の要求または応答に含めたくない資料を特定し、フィルターを追加してその資料を削除します。AI セマンティック検索を使用すると、機密コンテンツが話し合われているかどうかを判断し、指定された仮想エージェントトピックへの切り替えをトリガーできます。

手順

1. ナビゲーターで、「 sys_gen_ai_filter_group.list」と入力して、生成 AI フィルターグループ [sys_gen_ai_filter_group] テーブルに移動します。
   HR サービスデリバリ (HRSD) 向け Now Assistしている場合は、すでに作成されているグループが存在する可能性があります。これらのグループに追加したり、独自のグループを作成したりできます。HRSD 向け Now Assistがない場合でも、独自のを作成できます。
2. [新規] を選択します。
3. [ 名前 ] フィールドに、グループの名前を入力します。
4. [ 説明 ] フィールドに、グループの説明を入力します。
   フィルターグループの説明は、「このフィルターには、従業員の福利厚生、公平性、倫理などの職場の問題/懸念事項が含まれています」で始めることができます。その後、この機密資料のカテゴリの説明に、これらの職場の問題/懸念事項の例を追加できます。
5. [ 送信 ] を選択してグループを作成します。
6. ナビゲーターで、「 sys_gen_ai_filter.list」と入力して、生成 AI フィルター [sys_gen_ai_filter] テーブルに移動します。
7. [新規] を選択します。
8. [フィルターグループ] カテゴリで、生成 AI フィルターグループを選択します。
9. オプション: [ フィルター構成 ] フィールドで、「portal」値を使用して、フィルターをいつ実行するかを決定します。たとえば、「portal」を「sp」に設定して、sp ポータルにのみフィルターを適用するなどです。
   複数の値を選択するには、カンマ区切りリストを使用します。
10. [ フィルターしきい値 ] フィールドで、LLM がフィルターエラーを生成するタイミングを決定するカットオフを設定します。
    値が低いほど、フィルターの感度が高くなります。さまざまなフィルターしきい値を試して、好みの境界を設定します。
11. [ 順序 ] フィールドで、フィルターを適用する順序を選択します。
    フィルターは、小さい順から高い順に処理されます。順序 100 のフィルターは、順序 200 のフィルターの前に処理されます。
12. [ 説明 ] フィールドに、フィルターの説明を入力します。
    生成 AI フィルターグループレコードのように、説明的であるほど、LLM がフィルターの目的を理解する可能性が高くなります。
13. [ フィルターエラートピック ] を、フィルターが不要なコンテンツ (ライブエージェントへの転送トピックやエラー処理トピックなど) を検出したときに実行するトピックに設定します。
14. [ すべてに適用 ] を選択して、すべての機能 (要約、コンテンツの生成など) にフィルターを適用します。
    重要:

    [ すべてに適用] を選択しなかった場合は、生成 AI フィルター構成レコードを作成して、フィルターをケイパビリティにマッピングする必要があります。マッピングを作成するには、以下の追加手順を参照してください。
15. [ 送信 ] を選択してフィルターを作成します。
    
16. フィルターをケイパビリティにマッピングするには、生成 AI フィルター構成レコードを作成します。
    1. ナビゲーターで、「 sys_gen_ai_filter_config.list」と入力して生成 AI フィルター構成 [sys_gen_ai_filter_config] テーブルに移動します。
    2. [新規] を選択します。
    3. [ Config Table ] フィールドで、[ OneExtend Capability [sys_one_extend_capability] を選択します。
    4. [構成 ID] フィールドで、リストルックアップアイコン () を選択して構成を選択します。
    5. [ドキュメント] フィールドで、フィルターを適用する機能を選択します。
       すべてのケイパビリティではなく一部のケイパビリティにフィルターを適用する場合は、ケイパビリティごとに生成 AI フィルター構成レコードを作成する必要があります。
    6. [ OK ] を選択して選択し、モーダルを閉じます。
    7. [送信] を選択します。
       
17. ナビゲーターで、「 sys_gen_ai_filter_sample」と入力して、生成 AI フィルターサンプル [sys_gen_ai_filter_sample] テーブルに移動します。
18. [新規] を選択してサンプルを作成します。
19. [ サンプルテキスト ] フィールドに、フィルターで検出する内容の例を入力します。
    各サンプルは短くすることができ、サンプルレコードが多いと、AI セマンティック検索でフィルターが何を捕捉すべきかを判断するのに役立ちます。特定の用語やステートメントがフィルターで捕捉されないことがわかった場合は、例を追加して、フィルターが改善されるかどうかを確認できます。
20. 属性のフィルターを有効にするには、ナビゲーターに 「sys_one_extend_capability.list 」と入力して OneExtend 機能 [sys_one_extend_capability] テーブルに移動します。
    生成 AI フィルターグループ、生成 AI フィルター、生成 AI フィルターサンプルを作成したら、構成している機能の属性でフィルターを有効にする必要があります。
21. 機能のレコードを開きます。
22. [フィルターを適用] フィールドを true に設定してフィルターを適用します。
    
23. フィルターをオンにする機能ごとに繰り返します。

タスクの結果

これで、構成した属性の機能でセマンティックフィルタリングを使用できるようになりました。

次のタスク

LLM に送信される要求の個人を特定できる情報をプレースホルダーテキストに置き換えるように機密データ処理を設定します。