LLM 주제 테스트
채팅 창에서 대규모 언어 모델(LLM)을 사용하는 주제를 미리 보고, 테스트하고, 디버그합니다 가상 에이전트 디자이너 .
작업하는 동안 채팅 테스트 창에서 대화를 실행하여 주제의 기능을 테스트할 수 있습니다. 웹(서비스 포털) 채팅 클라이언트가 기본 테스트 창입니다.
대규모 언어 모델(LLM) 주제는 (NLU) 주제에 비해 자연어 이해 더 빠르고 쉽게 테스트할 수 있습니다. 예를 들어, 주제에서와 마찬가지로 NLU 발언을 업데이트하고 모델을 재교육한 후에는 주제를 다시 테스트할 필요가 없습니다.
외부 공급업체 메시징 앱과 가상 에이전트 통합을 사용하는 경우, 대화의 요소가 외부 공급업체 메시징 애플리케이션에서 다르게 나타날 수 있습니다. 배포 가상 에이전트하려는 외부 공급업체 애플리케이션에서 대화를 테스트합니다.
채팅 테스트 창에서 LLM 주제 테스트
캔버스와 홈페이지에서 가상 에이전트 디자이너 LLM 테스트 옵션을 찾을 수 있습니다. 채팅 내 위젯에서 Now Assist가상 에이전트 채팅 테스트 창이 열립니다. 테스트를 시작한 위치 및 LLM 도우미를 설정한 여부에 따라 도우미 드롭다운 목록 및 주제 디스커버리 포함 옵션이 표시될 수 있습니다.
주제 헤더 표시줄의 테스트 옵션으로 작업하여 캔버스에서 가상 에이전트 디자이너 LLM 주제를 테스트합니다. 단일 주제에서 테스트할 때 도우미와 함께 사용하려면 주제 디스커버리 포함 옵션을 선택해야 합니다. 주제가 여러 LLM 도우미와 연결된 경우 도우미 드롭다운 목록을 사용하여 테스트할 도우미를 선택합니다. LLM 도우미에 대한 자세한 내용은 다음 문서를 참조하십시오 LLM 도우미.
또는 홈페이지에서 활성(게시된) LLM 주제를 테스트할 수 있습니다. 도우미를 선택하여 해당 도우미와 연결된 주제로만 주제를 제한한 다음 테스트 도우미를 선택합니다. 홈페이지에서 테스트할 때는 주제 디스커버리가 활성화되어 있으므로 옵션으로 나열되지 않습니다. 도우미 드롭다운 목록이 채팅 테스트 창에 나타납니다. 도우미 드롭다운 목록을 보려면 최소한 도우미에서 기본값 Now Assist가상 에이전트 을 미리 설정한 상태여야 합니다. 주제가 하나의 LLM 도우미와만 연결된 경우 도우미 드롭다운 목록은 기본적으로 해당 도우미 이름으로 설정됩니다. 도우미가 여러 개인 경우 도우미 드롭다운 목록을 사용하여 함께 작업할 도우미를 선택합니다. 여러 LLM 도우미를 생성하는 방법에 대한 자세한 내용은 다음 문서를 도우미 화면에서 LLM 가상 에이전트 관리참조하십시오.
좋아요 중에서 선택하여 LLM에서 수행한 각 발화에 피드백을 제공할 수 있습니다. 좋아요 아이콘 
아이콘 좋아요 아이콘 또는 싫어요 싫어요 싫어 
발언 위로 마우스를 가져갈 때 나타나는 옵션입니다. 입력 수집기를 제외한 모든 LLM 사용자 입력에는 이러한 피드백 옵션이 있습니다.
채팅 테스트 창에는 테스트할 때 주제에 대한 세부 정보를 제공하는 인접한 탭도 표시됩니다. LLM 주제를 테스트할 때 다음 탭을 사용할 수 있습니다.
- 테스트 구 분석 - 입력을 기반으로 한 주제 디스커버리 결과입니다.
- 지침 수정 - LLM으로 전송되는 주제의 모든 지침 목록입니다. 이 탭은 단일 주제를 테스트할 때만 사용할 수 있습니다.
- 변수 - 입력 및 라이브 에이전트 변수 등 대화에 사용되는 모든 변수의 목록입니다.
- 변수 편집 - 이 항목에서 사용되는 변수를 편집하기 위한 옵션입니다.
- 컨텍스트 - 주제가 실행되는 컨텍스트(컨텍스트 변수 사용)를 지정하기 위한 옵션입니다.
- 로그 - 수행된 처리의 목록입니다.
- 모든 LLM 주제 유형에 대해 테스트 구문 분석, 지침 수정, 변수 및 로그 탭이 나타납니다.
- 주제 블록 및 사용자 지정 통제에 대해 변수 편집 탭이 나타납니다.
- 주제 디스커버리 포함을 선택하면 주제, 설정 주제 또는 간단한 대화 주제에 대한 컨텍스트 탭이 나타납니다.
주제 페이지에서 테스트를 실행하는 경우 테스트 창에는 테스트 구문 분석, 변수, 컨텍스트 ( 기본적으로 사용 가능하며 주제 디스커버리 포함 옵션 없음) 및 로그 탭만 표시됩니다.
테스트 구 분석 탭
LLM 주제를 테스트할 때 입력에 따라 주제 디스커버리에 대한 결과가 나타납니다. 기본 LLM 도우미와 연결된 주제를 테스트할 때는 기본 도우미의 승격된 주제만 나타납니다. 테스트 문구를 입력하면 Genius Results 는 기술(주제) 디스커버리, 지식베이스 (KB) 문서 및 카탈로그 항목을 포함하여 활성화됩니다. 기술 검색 결과 아래에서 검색된 기술 옆에 배지가 Matching 표시되며, 주제에 따라 변수와 값(예: 변수 @laptop_make 및 값 macbook)도 나열될 수 있습니다. 이러한 Genius 결과는 게시된 주제를 테스트하고 주제 검색 포함 옵션을 선택한 경우에만 나타납니다. 주제 디스커버리 포함 옵션이 비활성 상태로 나타나면 주제를 게시하고 속성 탭에서 LLM 도우미를 선택하여 주제 디스커버리를 사용합니다. 검색 인덱싱 진행 중 메시지가 나타날 수 있지만 주제 디스커버리가 업데이트되지 않더라도 검색 인덱싱이 실행되는 동안 테스트할 수 있습니다. Genius 결과의 작동 방식에 대한 자세한 내용은 다음 문서를 참조하십시오 Now Assist in AI Search.
또한 주제 페이지에서 활성 LLM 도우미 주제를 테스트할 때 시맨틱 검색에 대한 기술 결과를 볼 수 있습니다. 시맨틱 검색은 검색어의 의미와 컨텍스트를 분석하고 해당 정보를 사용하여 유사한 의미의 결과를 찾습니다. 검색 의도를 보다 정확하게 반영하도록 자연어를 해석하여 검색 회수율을 개선합니다. 주제 디스커버리 테스트에 대한 시맨틱 검색이 비활성화되면 해당 결과가 표시되지 않습니다. 의미 체계 검색에 대한 자세한 내용은 다음 문서를 참조하십시오 Semantic vector search in AI Search.
지침 수정 탭
주제에 LLM으로 전송되는 지침이 포함되어 있는 경우 노드 범주에 표시됩니다. 노드 범주에는 캔버스의 LLM 사용자 입력 노드, 해당 필드 이름 및 내용이 나열됩니다.
지침의 내용을 수정하여 대화에 가장 적합한 지침을 개발할 수 있습니다. 노드에 사용자 프롬프트 적용 이 활성화되어 있는 경우 파란색 체크 아이콘, 
, 사용자 프롬프트 적용 메시지가 나타납니다. 사용자 프롬프트 적용을 비활성화하여 노드의 지침을 수정합니다.
자동 슬롯 채우기 허용 이 활성화된 사용자 입력이 있는 경우 입력의 상세 설명이 정적 필드가 됩니다. 자동 슬롯 채우기 허용이 비활성 상태인 경우 스크립트 또는 데이터 알약 선택기를 사용하여 세부 설명을 정의할 수 있습니다. 자세한 내용은 에서 텍스트 사용자 입력 통제 자동 슬롯 채우기 테이블 항목 허용 또는 기타 LLM 사용자 입력 컨트롤을 참조하십시오.
나타납니다. 수정된 총 지침 수는 탭 하단의 주제에 저장 버튼 옆에 표시됩니다. 수정된 지침을 테스트하려면 적용 및 다시 시작을 선택합니다. 지침에 대한 변경 내용을 취소하려면 지침 옆에 있는 되돌리기 아이콘을 선택합니다. 또는 지침을 수정할 때 활성화되는 되돌리 기를 선택하여 모든 변경 내용을 실행 취소합니다.다음 이미지는 LLM 지침 지침 링크가 있는 사용자 정보를 보여주는 지침 수정 탭과 사용자 프롬프트가 있는 잠긴 노드를 포함하여 입력 수집기 내에 있는 노드가 적용됩니다 메시지를 보여줍니다.
다음 이미지는 수정된 지침과 주제에 저장 업데이트가 있는 지침 수정 탭을 보여줍니다. 되돌리기( Revert ) 및 적용(Apply and Restart ) 옵션은 변경할 때 활성화됩니다.
노드의 지침에 잠재적으로 불쾌감을 줄 수 있는 콘텐츠가 포함되어 있으면 노드에 경고 배지가 나타납니다. 노란색 경고 아이콘 
노드 이름 옆에 나타납니다. 적용 및 다시 시작을 선택하면 해당 지침이 입력되고 배지와 아이콘이 제거되며 수정됨 상태가 원본으로 되돌아갑니다.
다음 이미지는 불쾌한 콘텐츠 경고 배지, 아이콘 및 가리킴 메시지를 보여주는 지침 수정 탭을 보여줍니다.
변수 탭
- 입력 변수
- 스크립트 변수
- 라이브 에이전트 변수
- 호출 주제와 주제 블록 간에 전달되는 변수
다음 예제에서는 그룹화된 목록 컨트롤에 대한 입력 변수 섹션을 보여 줍니다. 이 변수 정보는 정적 목록 컨트롤과 비슷하게 표시되지만 그룹화된 선택의 각 그룹으로 변수가 구분됩니다.
변수 편집 탭
주제 블록과 사용자 지정 컨트롤을 테스트할 때 노드에서 찾은 변수를 편집할 수 있습니다.
컨텍스트 탭
컨텍스트 탭은 주제, 설정 주제 또는 간단한 대화 주제를 테스트할 때 채팅에 대해 다른 컨텍스트를 지정할 때 나타납니다. 목록에서 컨텍스트 변수를 선택합니다. 변수에는 주제 의도를 확인하거나 채팅이 라이브 에이전트로 라우팅되는 방법을 제어하는 데 사용할 수 있는 상황별 정보가 포함되어 있습니다. 예를 들어 변수 목록에서 포털을 선택하고 포털 이름 IT Express를 입력할 수 있습니다. 테스트 케이스를 생성할 때는 컨텍스트 탭을 사용할 수 없습니다.
컨텍스트 변수 정의에 대한 자세한 내용은 다음 문서를 참조하십시오 채팅 관련 정보를 저장하기 위한 컨텍스트 변수 구성. 에 가상 에이전트포함된 라이브 에이전트 변수에 대한 자세한 내용은 을 참조하십시오 라이브 에이전트 채팅 컨텍스트 변수.
다음 단계
주제 테스트를 마쳤으면 테스트 채팅 창을 닫습니다. 필요한 경우 테스트 정보를 사용하여 주제를 조정하여 더 정확하게 수행합니다. 예를 들어 테스트 구 분석 탭의 결과에 낮은 점수 또는 불확실 또는 알 수 없는 신뢰 등급이 반환될 수 있습니다. LLM 사용자 입력 노드에서 주제 설명이나 지침을 업데이트하여 점수를 개선합니다.