エージェントチャット の 不適切な表現フィルター の概要
エージェントチャットの不適切な表現フィルターは、汚い言葉 (禁止キーワードともいいます) を含むメッセージをエージェントが要求者に送信することを防止します。エージェントが不快な言葉でメッセージを送信しようとしても、不適切な表現フィルター によって要求者側にメッセージが表示されません。
エージェントが汚い言葉でメッセージを送信しようとすると、不適切な表現フィルター によってメッセージがブロックされ、禁止キーワードがフラグで示されます。不適切な表現フィルター は、メッセージに禁止キーワードが含まれていることをエージェントに警告し、エージェントが汚い言葉を使用していることをチャットマネージャーに通知します。
- エージェントのチャットウィンドウで、禁止キーワードを含むメッセージが強調表示されます。
- 禁止キーワードを使用したという通知がエージェントに届きます。
- 禁止キーワードを含むメッセージは要求者に送信されません。
- エージェントが指定された時間内に禁止キーワードの数を超えた場合、チャットマネージャーにメッセージが送信されます。
- チャット会話のトランスクリプト内で、禁止キーワードがマークされます。
チャットマネージャーに通知する
エージェントが所定の時間内に指定回数を超えて禁止キーワードを使用しようとするとチャットマネージャーに通知するように、不適切な表現フィルター を設定できます。使用される禁止キーワードの数を 不適切な表現フィルター が決定する際には、エージェントが所有するすべての会話を考慮します。エージェントが禁止キーワードを含むメッセージを送信しようとすると、チャットマネージャーに通知が届きます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウの場合は、リアルタイム通知が表示されます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウでない場合は、ワークスペース通知メニューのサマリービューに通知が表示されます。インシデントエントリでは、チャットマネージャーはインシデントとチャットログを確認し、エージェントに個人的にメッセージを送信できます。
機械学習ベースまたはキーワードベース
不適切な表現フィルター は、機械学習ベースのモデルまたはキーワードベースのモデルを使用して、メッセージに禁止キーワードが含まれているかどうかを判断します。機械学習ベースのモデルは、エージェントのメッセージ全体のコンテキストでキーワードとフレーズを分析してから、メッセージ内の禁止キーワードを汚い言葉と見なすべきかどうかを判断します。たとえば、「私はばかげたミスをしました」という発言は汚い言葉ではないと見なされますが、「あなたはとてもばかげています」は汚い言葉と見なされます。機械学習モデルは個々のインスタンスにはありません。カスタマイズされたキーワードやフレーズに対応するためにモデルを直接変更することはできません。
キーワードベースのモデルは、メッセージを禁止キーワードのリストと比較して、何かの言葉を汚いと見なすべきかどうかを判断します。特定のキーワードやフレーズが一般的な意味で汚いと見なされる場合でも、その言葉を許可できます。一般的な例としては、禁止キーワードが含まれている可能性があるが、会話では許可されている本や映画のタイトルなどがあります。逆に、場合によっては汚い言葉に見えないものについても、不適切な表現フィルター を設定して特定のキーワードやフレーズをブロックすることができます。 不適切な表現フィルター は、モデルベースモードで実行する前に、許可されたキーワードと禁止されているキーワードのリストに対して各メッセージを分析します。
| 許可されるキーワード | 禁止キーワード | 分析対象のメッセージ | システムの動作 |
|---|---|---|---|
| あなたはバカです。 | メッセージはブロックされます。 | ||
| UNIX for Dummies (バカでもできる UNIX) | 参考書「UNIX for Dummies (バカでもできる UNIX)」が役立つかもしれません。 | メッセージは許可されます。 | |
| UNIX for Dummies (バカでもできる UNIX) | くだらない | 「UNIX for Dummies (バカでもできる UNIX)」はくだらない本です。 | メッセージはブロックされます。 |
| バカみたい | 質問の答えがわからないなんてバカみたいだ。 | メッセージはブロックされます。 | |
| 質問の答えがわからないなんてバカみたいだ。 | メッセージは許可されます。 |
| 許可されるキーワード | 禁止キーワード | 分析対象のメッセージ | システムの動作 |
|---|---|---|---|
| バカ | あなたはバカです。 | メッセージはブロックされます。 | |
| あなたはバカです。 | メッセージは許可されます。 |
ドメインセパレーション
- 対応する親ドメインの子ドメインとして正規表現を表示するドメインを含めます。
- 姉妹ドメインの場合は、適切なドメインへの必要なアクセス権を付与します。
- グローバルドメインでキーワードを設定します。