/keyword 가상 에이전트 주제를 LLM 주제로 마이그레이션 NLU

  • 릴리스 버전: Xanadu
  • 업데이트 날짜 2024년 08월 01일
  • 읽기5분
  • 주제 마이그레이션 워크플로우를 사용하면 기존 자연어 이해 (NLU) 및 키워드 주제를 새로운 대규모 언어 모델(LLM) 주제로 마이그레이션할 수 있습니다.

    Now Assist 기능은 LLM 주제를 사용하는 생성형 AI를 가상 에이전트 제공합니다. 주제 마이그레이션을 사용하면 모든 NLU 키워드 주제를 LLM 주제로 수동으로 다시 생성할 필요가 없습니다. 기존 NLU 주제와 키워드 주제에서 LLM 주제로 마이그레이션할 주제를 선택할 수 있습니다. 키워드 주제를 마이그레이션 NLU 해도 원본 NLU 또는 키워드 주제는 변경되지 않습니다. 주제 마이그레이션 중에 기존 주제의 사본이 생성되지만 새 주제의 모델 유형 필드가 LLM으로 설정되고 LLM 호환 노드 및 설명이 포함됩니다.

    주제 마이그레이션 중에 다음 객체 유형을 포함하여 모든 유형의 주제를 /Keyword 모델 유형에서 NLULLM 모델 유형으로 마이그레이션할 수 있습니다.

    • 주제
    • 항목 블록
    • 주제 설정
    • 한담
    • 사용자 지정 입력 통제
    • 사용자 지정 응답 통제

    마이그레이션 문제가 발생하지 않으면 주제 블록을 제외한 이전 객체 유형을 모두 선택적으로 게시할 수 있습니다. 동적 주제 블록을 선택적으로 게시할 수 있지만 주제 블록 유형은 마이그레이션된 후 자동으로 게시됩니다.

    역할 및 접근성

    virtual_agent_admin 역할 또는 sn_vad_genai.topic_migration_admin 역할이 있는 사용자는 주제 마이그레이션을 사용할 수 있습니다. 주제 마이그레이션은 LLM으로 주제 마이그레이션 옵션을 통해 가상 에이전트 디자이너 액세스할 수 있습니다.

    그림 1. 에서 LLM으로 주제 마이그레이션 옵션 가상 에이전트 디자이너
    주제를 LLM으로 마이그레이션(Migrate Topics to LLM)은 헤더의 가상 에이전트 디자이너 옵션입니다.

    주제 설명

    주제를 LLM 주제로 마이그레이션 NLU 할 때 생성형 AI가 LLM 주제 설명을 생성하도록 할지 여부를 선택할 수 있습니다. 주제 마이그레이션 워크플로우의 설정 단계에서 현재 주제 설명을 유지하시겠습니까?를 선택할 수 있습니다. 현재 주제 설명을 유지하시겠습니까? 옵션은 기본적으로 꺼져 있습니다. 이 설정이 꺼져 있으면 생성형 AI가 주제에서 의도 발언 또는 키워드를 가져와 NLU 마이그레이션 프로세스 중에 LLM 주제 설명을 생성합니다. 주제가 의도와 연결된 경우 최대 10개의 발언이 추가 지침 값 아래에 있는 LLM 주제의 세부 설명 필드로 끌어옵니다. 이 설정이 켜져 있으면 생성형 AI가 LLM 주제 설명을 생성하지 않으며 기존 NLU 및 키워드 주제 설명이 새 LLM 주제로 마이그레이션됩니다. 기존 주제에 설명이 없는 경우 기존 주제 설명을 마이그레이션할 때 문제가 발생할 수 있습니다.

    상세 정보 설명 필드는 LLM 주제에는 필요하지만 /keyword 주제에는 NLU필요하지 않습니다. 새 LLM 주제가 빈 설명과 함께 마이그레이션되는 경우 해당 주제가 게시되기 전에 설명을 추가해야 합니다. 주제 설명이 마이그레이션되는 방식에 관계없이 주제 마이그레이션 워크플로우의 설명 검토 단계에서 주제 설명을 편집할 수 있습니다. 해당하는 경우 원래 NLU 주제의 발언과 비교하여 주제 설명을 테스트하여 관련성과 주제 설명 강도를 개선할 수도 있습니다. 주제 설명 편집에 대한 자세한 내용은 다음 문서를 참조하십시오 LLM 주제로 주제 마이그레이션 NLU. 강력한 주제 설명의 예는 다음 문서를 참조하십시오 주제에 대한 가상 에이전트 LLM 설명 및 지침 지침.

    노드 설명

    주제의 노드 이름은 마이그레이션 중에 있는 그대로 마이그레이션되지만 NLU 노드 설명은 다를 수 있습니다. NLU 입력 노드는 프롬프트 필드를 사용합니다. LLM 입력 노드는 세부 설명 필드를 사용합니다. 주제를 마이그레이션하는 동안 프롬프트 필드의 값이 상세 정보 설명 필드의 값으로 마이그레이션됩니다. 값이 마이그레이션되는 방식은 해당 값에 텍스트 전용, 스크립트 또는 데이터 알약이 포함되는지 여부에 따라 달라질 수 있습니다. 다음 테이블을 참조하여 값이 어떻게 다르게 마이그레이션되는지 확인하고 예제를 비교합니다.

    표 1. 프롬프트 필드의 값이 상세 정보 설명 필드의 값으로 마이그레이션되는 방식
    NLU 프롬프트 필드 값 LLM 상세 정보 설명 필드 값
    텍스트 포함 텍스트를 있는 그대로 마이그레이션합니다.

    예를 들어 NLU 프롬프트 필드의 값이 인시던트 번호 입력인 경우 LLM 상세 정보 설명 필드의 값도 인시던트 번호 입력입니다.

    스크립트 또는 데이터 알약 포함 수집 + 노드 이름 템플릿을 사용하여 마이그레이션합니다.

    예를 들어 '인시던트 번호 가져오기'라는 노드가 NLU 있고 프롬프트 필드의 값에 스크립트 또는 데이터 알약이 포함되어 있는 경우, 마이그레이션된 LLM 노드의 상세 정보 설명 필드 값은 '인시던트 번호 가져오기'입니다.

    마이그레이션하려는 주제의 기존 프롬프트 필드에 스크립트 또는 데이터 알약이 포함되어 있는 경우 영향을 받는 각 주제에 대해 마이그레이션 후 LLM 상세 정보 설명 필드를 검토하고 업데이트합니다. [Collect] + [Node name]의 템플릿으로 마이그레이션한 각 노드의 캔버스에 가상 에이전트 디자이너 LLM 주제에 대한 관련 상세 정보 설명 추가(Add relevant detail description)라는 경고 메시지가 나타납니다. 설명을 보다 정확하고 설명적인 내용으로 업데이트하면 사용자의 .가상 에이전트 강력한 노드 설명의 예는 을 참조하십시오 주제에 대한 가상 에이전트 LLM 설명 및 지침 지침.

    노드에서 NLU LLM 노드로 다음 엔터티를 마이그레이션할 수 있습니다.

    • simple
    • 매핑된
    • pattern
    • 시스템 파생

    노드가 NLU 엔터티에 매핑되면 해당 발언의 엔터티가 LLM 노드의 세부 설명 필드에 추가 지침: 임시 교대조 헤더 값 아래에 추가됩니다. 추가 지침: 콘텐츠는 마이그레이션되는 엔터티 유형에 따라 약간 다릅니다. 상세 정보 설명 필드 값의 레이아웃은 다음과 같습니다.

    • [이전 NLU 프롬프트 필드 값] 값이 스크립트 또는 데이터 알약이 아닌 텍스트 전용인 경우.
    • [추가 지침: 이 입력의 경우 [단순 엔터티 단어 목록]이라는 단어 목록의 값이 있는 경우 사용자 입력에서 데이터를 추출해야 합니다.
    그림 2. LLM 노드로 마이그레이션하는 관련 엔터티가 있는 NLU 노드의 예
    프롬프트 필드 값은 엔터티와 NLU 함께 상세 설명 필드 값으로 마이그레이션됩니다.

    주제의 텍스트 노드에 어휘 소스가 NLU 설정된 경우, 목록 및 테이블 어휘 소스가 LLM 노드로 마이그레이션됩니다. 목록 어휘 소스가 있는 텍스트 노드는 정적 선택 노드로 마이그레이션됩니다. 어휘 소스 선택은 LLM 정적 선택 노드의 세부 설명 필드에서 추가 지침: 임시 교대조 헤더 값 아래에 나타납니다. 테이블 어휘 소스가 있는 텍스트 노드는 동적 선택 노드로 마이그레이션됩니다. 어휘 소스의 테이블이 LLM 동적 선택 노드의 테이블 필드로 마이그레이션됩니다. 어휘 소스 선택은 스크립트로 마이그레이션되어 LLM 동적 선택 노드의 추가 지침: 임시 교대조 헤더 값 아래에 있는 상세 설명 필드에 표시됩니다.

    마이그레이션 문제

    탐색 창에서 topic_migration_execution_item.list 를 검색하거나 . 테이블의 CSV 파일 버전입니다. 주제를 마이그레이션한 후 다운로드할 수 있는 . CSV 파일은 주제 마이그레이션의 주제 마이그레이션 단계에서 마이그레이션 로그 검토 옵션을 통해 액세스할 수 있습니다. 마이그레이션 문제에 대한 자세한 내용은 을 참조하십시오 NLU 에서 LLM으로 마이그레이션 로그.