Activer la synthèse récursive pour les entrées volumineuses

  • Rversion finale: Yokohama
  • Mis à jour 30 janv. 2025
  • 1 minute de lecture

    • Utilisez la synthèse récursive pour décomposer les demandes adressées aux grands modèles de langage (LLM) en petits éléments afin de maintenir le contexte des options de l’IA générative.

    Avant de commencer

    Rôle requis : admin

    Pourquoi et quand exécuter cette tâche

    Les LLM disposent d’un nombre maximal de jetons qui peuvent être traités en une seule demande. Certains champs, tels que les champs d’activité, peuvent contenir plus d’informations que ne peuvent s’intégrer ces restrictions. La synthèse récursive divise les informations données à un LLM en blocs, résume chaque bloc individuellement, puis traite la demande d’origine avec les blocs résumés. Les morceaux sont organisés avec des chevauchements entre les morceaux afin que le contexte soit conservé dans chaque morceau.

    Remarque :
    L’activation de la synthèse récursive peut ralentir le traitement des entrées volumineuses par les options, car elles doivent effectuer plusieurs appels au LLM au lieu d’un seul appel.

    Procédure

    1. Dans le filtre du navigateur, accédez à la liste des options OneExtend en saisissant sys_one_extend_capability.list.
    2. Ouvrez l’enregistrement de l’option OneExtend que vous souhaitez modifier.
    3. Dans la liste connexe Configuration de définition OneExtend, définissez l’option Activer la prise en charge des entrées volumineuses sur vrai pour la définition OneExtend pour laquelle vous souhaitez activer la synthèse récursive.
    4. Dans la liste connexe Attributs d’options OneExtend, définissez Contient une entrée volumineuse sur vrai pour les champs dans lesquels vous souhaitez ajouter une synthèse récursive.
      Les champs les plus susceptibles de contenir une grande quantité de données, tels qu’un champ d’activités, doivent avoir leur valeur définie sur vrai. Vous pouvez également cocher la case Contient une entrée volumineuse sur l’enregistrement d’attribut d’aptitude OneExtend et enregistrer l’enregistrement pour définir la valeur sur vrai.

    Résultats

    La synthèse récursive est activée pour l’aptitude OneExtend pour les champs spécifiés dans cette procédure.