욕설 필터개요용 에이전트 채팅
for 에이전트 채팅 는 욕설 필터 에이전트가 욕설(금지된 키워드라고도 함)이 포함된 메시지를 요청자에게 보내는 것을 방지합니다. 에이전트가 화가 나서 불쾌한 언어 욕설 필터 가 포함된 메시지를 보내려고 하면 요청자가 메시지를 볼 수 없습니다.
에이전트가 욕설 욕설 필터 이 포함된 메시지를 보내려고 하면 메시지가 차단되고 금지된 키워드에 플래그를 지정합니다. 욕설 필터 메시지에 금지된 키워드가 포함되어 있음을 에이전트에게 경고하고 채팅 관리자에게 에이전트의 욕설 사용에 대해 경고합니다.
- 금지된 키워드가 포함된 메시지가 에이전트의 채팅 창에서 강조 표시됩니다.
- 에이전트는 금지된 키워드를 사용했다는 알림을 받습니다.
- forbidden 키워드가 있는 메시지는 요청자에게 전송되지 않습니다.
- 에이전트가 지정된 시간 동안 금지된 키워드 수를 초과한 경우, 채팅 관리자에게 메시지가 전송됩니다.
- 금지됨 키워드는 채팅 대화의 녹취록에 표시됩니다.
채팅 관리자에게 알림
에이전트가 지정된 시간 동안 금지된 키워드 수를 지정된 수보다 많이 사용하려고 할 경우 채팅 관리자에게 알리도록 구성할 욕설 필터 수 있습니다. 욕설 필터 사용되는 금지된 키워드 수를 결정할 때 에이전트가 소유한 모든 대화를 고려합니다. 에이전트가 금지된 키워드가 포함된 메시지를 보내려고 하면 채팅 관리자가 알림을 받습니다. 관리자 작업 공간 또는 에이전트 작업 공간이 활성 창이면 실시간 알림이 표시됩니다. 관리자 작업 공간 또는 에이전트 작업 공간이 활성 창이 아닌 경우 작업 공간 알림 메뉴의 요약 보기에 알림이 표시됩니다. 인시던트 항목에서 채팅 관리자는 인시던트 및 채팅 로그를 검토하고 에이전트에게 비공개로 메시지를 보낼 수 있습니다.
머신 러닝 기반 또는 키워드 기반
욕설 필터 는 머신 러닝 기반 모델 또는 키워드 기반 모델을 사용하여 메시지에 금지된 키워드가 포함되어 있는지 여부를 확인합니다. 머신 러닝 기반 모델은 메시지의 금지된 키워드를 욕설로 간주해야 하는지 여부를 결정하기 전에 에이전트의 전체 메시지 컨텍스트에서 키워드와 구문을 분석합니다. 예를 들어, "나는 어리석은 실수를 저질렀다"는 진술은 모독적이지 않은 것으로 간주되는 반면, "당신은 너무 어리석게 들린다"는 모독적인 것으로 간주됩니다. 머신 러닝 모델은 각 인스턴스에 개별적으로 있지 않으므로 사용자 지정된 키워드 및 구문을 처리하기 위해 모델을 직접 변경할 수 없습니다.
키워드 기반 모델은 메시지를 금지된 키워드 목록과 비교하여 어떤 것이 모독적인 것으로 간주되어야 하는지 여부를 결정합니다. 특정 키워드나 문구가 일반적인 의미에서 모독적인 것으로 간주되더라도 허용할 수 있습니다. 일반적인 예로는 금지된 키워드가 포함될 수 있지만 여전히 대화에서 허용되어야 하는 책이나 영화 제목이 있습니다. 반대로, 단어가 항상 욕설처럼 보이지는 않더라도 특정 키워드나 구를 차단하도록 구성할 욕설 필터 수 있습니다. 모델 욕설 필터 기반 모드를 통해 실행하기 전에 각 메시지를 허용 및 금지된 키워드 목록과 비교합니다.
| 허용되는 키워드 | 금지된 키워드 | 분석할 메시지 | 시스템 동작 |
|---|---|---|---|
| 당신은 바보입니다. | 메시지가 차단되었습니다. | ||
| 초보자를 위한 UNIX | 참고서 "UNIX for Dummies"가 유용할 수 있습니다. | 메시지가 허용됩니다. | |
| 초보자를 위한 UNIX | 어리석은 | "UNIX for Dummies"는 멍청한 책입니다. | 메시지가 차단되었습니다. |
| 우둔하다 | 당신의 질문에 대한 답을 모르는 것이 너무 어리석다고 느낍니다. | 메시지가 차단되었습니다. | |
| 당신의 질문에 대한 답을 모르는 것이 너무 어리석다고 느낍니다. | 메시지가 허용됩니다. |
| 허용되는 키워드 | 금지된 키워드 | 분석할 메시지 | 시스템 동작 |
|---|---|---|---|
| 젖꼭지 | 당신은 바보입니다. | 메시지가 차단되었습니다. | |
| 당신은 바보입니다. | 메시지가 허용됩니다. |
도메인 분리
- 정규 표현식이 해당 상위 도메인에 하위 도메인으로 표시되어야 하는 도메인을 포함합니다.
- 자매 도메인인 경우 적절한 도메인에 필요한 액세스 권한을 부여합니다.
- 전역 도메인에서 키워드를 설정합니다.