욕설 필터개요용 에이전트 채팅
for 에이전트 채팅 는 욕설 필터 에이전트가 비속어(금지 키워드라고도 함)가 포함된 메시지를 요청자에게 보내지 못하게 합니다. 에이전트가 화가 나서 공격적인 언어로 메시지를 보내려고 하면 요청 욕설 필터 자가 메시지를 볼 수 없습니다.
에이전트가 욕 욕설 필터 설이 포함된 메시지를 보내려고 하면 메시지가 차단되고 금지된 키워드에 플래그가 지정됩니다. 욕설 필터 메시지에 금지된 키워드가 포함되어 있음을 에이전트에게 경고하고 채팅 관리자에게 에이전트의 욕설 사용을 경고합니다.
- 금지 키워드가 포함된 메시지가 에이전트의 채팅 창에서 강조 표시됩니다.
- 에이전트는 금지됨 키워드를 사용했다는 알림을 받습니다.
- forbidden 키워드가 있는 메시지는 요청자에게 전송되지 않습니다.
- 에이전트가 지정된 시간 동안 금지 키워드 수를 초과한 경우 채팅 관리자에게 메시지가 전송됩니다.
- 금지 키워드는 채팅 대화의 녹취록에 표시됩니다.
채팅 관리자에게 알리기
에이전트가 지정된 시간 동안 금지된 키워드의 수를 초과하여 사용하려고 시도하는 경우 채팅 관리자에게 알리도록 구성할 욕설 필터 수 있습니다. 욕설 필터 사용된 금지된 키워드의 수를 결정할 때 에이전트가 소유한 모든 대화를 고려합니다. 에이전트가 금지됨 키워드가 포함된 메시지를 보내려고 하면 채팅 관리자가 알림을 받습니다. 관리자 작업 공간 또는 에이전트 작업 공간이 활성 창이면 실시간 알림이 표시됩니다. 관리자 작업 공간 또는 에이전트 작업 공간이 활성 창이 아닌 경우 작업 공간 알림 메뉴의 요약 뷰에 알림이 표시됩니다. 인시던트 항목에서 채팅 관리자는 인시던트와 채팅 로그를 검토하고 에이전트에게 비공개로 메시지를 보낼 수 있습니다.
머신 러닝 기반 또는 키워드 기반
욕설 필터 기계 학습 기반 모델 또는 키워드 기반 모델을 사용하여 메시지에 금지된 키워드가 포함되어 있는지 여부를 확인합니다. 머신 러닝 기반 모델은 메시지에서 금지된 키워드를 욕설로 간주해야 하는지 여부를 결정하기 전에 에이전트의 전체 메시지 컨텍스트에서 키워드와 구를 분석합니다. 예를 들어, "I made a silly mistake"라는 문장은 신성 모독이 아닌 것으로 간주되고 "You sound so silly"는 신성 모독으로 간주됩니다. 머신 러닝 모델은 각 인스턴스에 개별적으로 존재하지 않으므로 사용자 지정 키워드 및 구를 처리하기 위해 모델을 직접 변경할 수 없습니다.
키워드 기반 모델은 메시지를 금지된 키워드 목록과 비교하여 어떤 것이 신성 모독으로 간주되어야 하는지 여부를 결정합니다. 특정 키워드나 문구가 일반적인 의미에서 욕설로 간주되는 경우에도 해당 키워드나 문구를 허용할 수 있습니다. 일반적인 예로는 금지된 키워드가 포함될 수 있지만 대화에서 허용되어야 하는 책이나 영화 제목이 있습니다. 반대로, 특정 키워드나 문구가 항상 욕설처럼 보이지는 않더라도 차단하도록 구성할 욕설 필터 수 있습니다. 욕설 필터 모델 기반 모드를 통해 실행하기 전에 허용 및 금지 키워드 목록에 대해 각 메시지를 분석합니다.
| 허용된 키워드 | 금지된 키워드 | 분석할 메시지 | 시스템 동작 |
|---|---|---|---|
| 당신은 더미입니다. | 메시지가 차단되었습니다. | ||
| 초보자를 위한 UNIX | 참조 서적 "UNIX for Dummies"가 유용 할 수 있습니다. | 메시지가 허용됩니다. | |
| 초보자를 위한 UNIX | 어리석은 | "UNIX for Dummies"는 어리석은 책입니다. | 메시지가 차단되었습니다. |
| 우둔하다 | 당신의 질문에 대한 답을 모르는 것이 너무 어리석다고 느낍니다. | 메시지가 차단되었습니다. | |
| 당신의 질문에 대한 답을 모르는 것이 너무 어리석다고 느낍니다. | 메시지가 허용됩니다. |
| 허용된 키워드 | 금지된 키워드 | 분석할 메시지 | 시스템 동작 |
|---|---|---|---|
| 젖꼭지 | 당신은 더미입니다. | 메시지가 차단되었습니다. | |
| 당신은 더미입니다. | 메시지가 허용됩니다. |
도메인 분리
- 정규 표현식이 해당 상위 도메인에 대해 하위 도메인으로 표시되어야 하는 도메인을 포함합니다.
- 자매 도메인인 경우 적절한 도메인에 필요한 액세스 권한을 부여합니다.
- 전역 도메인에서 키워드를 설정합니다.