大規模な入力に対して再帰的な要約を有効にする

再帰要約を使用して、大規模言語モデル (LLM) への要求を小さな断片に分割し、生成 AI 機能のコンテキストを維持できるようにします。

始める前に

必要なロール：admin

このタスクについて

LLM には、1 回の要求で処理できるトークンの最大数があります。アクティビティフィールドなどの特定のフィールドには、これらの制限内に収まりきらない情報が含まれている場合があります。再帰要約では、LLM に提供された情報がチャンクに分割され、各チャンクが個別に要約されてから、要約されたチャンクで元の要求が処理されます。チャンクは、すべてのピースでコンテキストが保持されるように、ピース間のオーバーラップで編成されます。

注:

再帰要約を有効にすると、LLM に対して 1 回だけでなく複数の呼び出しを行う必要があるため、大きな入力の処理が遅くなる可能性があります。

手順

1. ナビゲーターフィルターで、「 sys_one_extend_capability.list」と入力して [OneExtend 機能] リストに移動します。
2. 変更する OneExtend 機能のレコードを開きます。
3. [OneExtend 定義構成] 関連リストで、再帰要約を有効にする OneExtend 定義の [ 大規模な入力サポート を有効にする] を true に設定します。
4. [OneExtend 機能属性] 関連リストで、再帰要約を追加するフィールドの [大きな入力を含む ] を true に設定します。
   アクティビティフィールドなど、大量のデータを含む可能性が最も高いフィールドの値は true に設定する必要があります。OneExtend 機能属性レコードの [ 大きな入力を含む ] チェックボックスをオンにし、レコードを保存して値を true に設定することもできます。

タスクの結果

再帰要約は、この手順で指定されたフィールドの OneExtend 機能に対して有効になっています。