カスタム生成 AI ソリューションとはどういう意味ですか?
カスタム生成 AI ソリューションは、ITSM/CSM/HRSD 向け Now Assist のタスク要約スキルや解決メモ生成スキルなどのアプリケーションで OOTB (out of the box: 標準機能) で提供される標準サービス以外の生成 AI を活用するソリューションとして定義できます。
カスタムソリューションは、次のようなさまざまな形式で提供できます。
- 仮想エージェントトピック
- スクリプト
- *Xanadu リリース* Now Assist スキルキットを使用したカスタムスキル
カスタムソリューションは、OOTB スキルまたはフローが満たすように構成できない要件が存在する場合にのみ構築する必要があります。
現在利用可能なカスタム生成 AI ソリューションを構築するには、生成 AI コントローラーで直接構築する方法と、Now Assist スキルキットを使用する方法の 2 つがあります。
生成 AI はカスタムソリューションのどこで価値を付加できますか?
生成 AI をカスタムソリューションに組み込むことで、次のような特定のプロセスを迅速化できます。
- コンテンツの作成
- データの分析
- 単純化
- パーソナライゼーション (コンテキスト固有のコンテンツの生成など)
カスタムとOOTBのどちらを構築するかの決定にどのようにアプローチすればよいですか?
生成 AI 処理を含む機能をインスタンスに実装する必要がある場合は、次の手順に従ってソリューションを見つけることをお勧めします。
- OOTB スキルをそのまま活用
ベストプラクティスでは、ServiceNow が提供する OOTB 機能に合わせるよう努める必要があります。これにより、技術的負債を最小限に抑え、そのスキルの将来の更新を受け取ることができるため、メンテナンスが容易になります。求めている結果を達成する OOTB ワークフローまたはスキルを見つけて、それを活用してください。当社の機能は業界標準に準拠するように設計されているため、変更することなく目的に適合することは珍しくありません。 - OOTB スキルを構成
OOTB 機能がニーズと直接一致しない場合は、OOTB スキルの構成に重点を置く必要があります。これを行うには、Now Assist アドミンコンソール内のスキルに移動し、新たに始める必要なく、提供されるオプションを調整してスキルをニーズに合わせて調整します。
この例は、インシデントの要約スキルのアクティブ化中に確認できます。スキルをアクティブ化すると、OOTB セットアップには、サマリーを生成するときに LLM にコンテキストを提供するために使用されるインシデントテーブルから 5 つのフィールドが事前に選択されていることがわかります。
これらの 5 つのフィールドに追加のフィールドや関連リストの情報を追加することもできます。これを行うには、以下のガイド付き構成オプションを使用して、ニーズに合わせてスキルを調整できます。これにより、OOTB と組織の要件との間のギャップに対処するためだけに、まったく新しいスキルやワークフローを作成する必要がなくなり、そのスキルに対してリリースされるアップグレードを受け取ることができます。 - カスタムソリューションを作成
それでも上記のオプションを実行しても目的に適したソリューションが得られない場合は、カスタムスキルまたはワークフローの構築を検討してください。このシナリオでは、次の点を考慮する必要があります。
- どの LLM を使用すればよいですか?
- ソリューションをカスタムスキル (Now Assist スキルキットを使用)、仮想エージェントトピック、またはスクリプト内でホストする必要がありますか?
- ワークフローの結果はどうなるはずですか?
- 自動化する適切なプロセスを選択していますか?
- 質問を裏付けるデータはありますか?
- このカスタムソリューションを今後も維持できますか?
- 成功を測定するにはどうすればよいですか?
- このソリューションは拡張可能ですか?
また、こちらの製品ドキュメントに記載されている、信頼とガバナンスチームによって概説されているガイドラインを確認することをお勧めします。特に Now Assist スキルキットを使用したカスタムスキルの構築に重点を置いていますが、生成 AI コントローラーで直接構築するユーザー向けの情報も含まれています。
上記の質問を確認したら、「カスタム生成 AI ソリューションを構築するにはどうすればよいですか?」という質問で説明されているビルドプロセスを開始できます。
カスタム生成 AI ソリューションを構築する必要があるユースケースの例にはどのようなものがありますか?
次のユースケースでは、カスタムソリューションのビルドが必要になる場合があります。
- さらにアクションを推進するために LLM の出力が必要な非常に複雑なワークフロー。
- 外部 LLM (ServiceNow 管理対象以外のモデルなど) の使用。
- これは、NowLLM の使用を妨げるドメイン固有の知識や特定のデータ処理、およびセキュリティ制限が必要になる場合の一般的な要件です。
- OOTB スキルでは対応できない組織固有のユースケースがある。
カスタム生成 AI ソリューションを構築するにはどうすればよいですか?
現在、ServiceNow インスタンス内でカスタム生成 AI ソリューションを構築するために利用できるツールは 2 つあります。
Now Assist スキルキットを使用すると、このユースケース専用に設計されたインターフェイスを使用して、独自のカスタムスキルを開発できます。カスタムスキルをビルドするプロセスの概要は次のとおりです。
- スキルに名前を付け、LLM のプロバイダーを選択します。外部 LLM を使用している場合は、最初に接続を設定し、API へのアクセスを許可するための認証情報を提供していることを確認してください。
- プロンプトを作成し、プリプロセッサーとポストプロセッサーを追加し、要求にコンテキストを提供するためにデータをプルする場所を指定します。
- スキルを展開する場所を選択する – 2024 年 8 月のリリースの時点では、UI アクション OOTB のみが提供されていますが、今後のリリースでは、潜在的な展開対象領域が拡張されます。
- スキルを公開し、Now Assist アドミンコンソール内からアクティブ化します。
生成 AI コントローラーを使用して直接ビルドし、フローデザイナー、仮想エージェントデザイナー、および一般的なプラットフォームスクリプティング内に生成 AI 機能を統合できます。これにより、OpenAI、Azure OpenAI、Google Gemini、WatsonX などの大規模言語モデル (LLM) を使用して、コンテンツの生成、テキストの要約、質問への回答などを行うことができるカスタム アプリケーションとワークフローの作成が可能になります。
ワークフローで活用できる 4 つの機能 (構築済みアクション) が用意されています。
- コンテンツの生成
- 感情分析
- 要約
- 汎用プロンプト (つまり、上記でカバーされていない必要なプロンプト)
生成 AI コントローラーアプローチを使用する場合と比較して、Now Assist スキルキットでソリューションを構築すべきのはどのような場合ですか?
ほとんどのシナリオでは、Now Assist スキルキットを活用して自己完結型のスキルを構築し、複数の領域に展開することをお勧めします。この抽象化レイヤーは、毎回スキルを再構築することなく、複数のワークフローで同じスキルを活用できることを意味します。
また、さらなる柔軟性も実現します。Now Assist スキルキット内には、組織に特に適したものを作成する際に役立つ次の機能が用意されています。
- プロンプトエディター – ツール内でプロンプトを直接編集できます。
- プロンプトの拡張:コンテキストでプロンプトを補強するために、データの取り込み元を簡単に構成します。これには、レコードタイプの選択、フロー、スクリプト、統合などの結果の取り込みが含まれます。
- プロンプトテスト – エディター内でプロンプトをテストできるため、言い回しを簡単に繰り返すことができます。
- 展開設定 - スキルを展開する場所を選択できます。2024 年 8 月のリリースの時点では、スキルのトリガーは UI アクションとしてのみ提供されますが、今後のリリースではこのリストの拡張に重点が置かれます。
- アクティブ化メカニズム:Now Assist スキルキット内で作成したカスタムスキルは、Now Assist アドミンコンソール内で直接管理でき、すべての生成 AI 機能を 1 か所に統合できます。
- スキルモニタリング:Now Assist スキルキットを使用して展開されたカスタムスキルの使用状況は、OOTB スキルで利用されるのと同じダッシュボードを使用して監視できます。
対照的に、生成 AI コントローラーを使用するだけでは、次の理由から、はるかに簡素化されたアプローチが得られます。
- 汎用プロンプト、要約、感情分析、コンテンツ生成など、当社が提供する機能に限定されます。
- Now LLM サービスを活用できません。この方法では、外部 LLM にアクセスする必要があります。
- 生成 AI ソリューションは、仮想エージェントデザイナー内で直接、またはスクリプト内でコントローラーを使用してビルドすることしかできません。これらはすべて、ある程度の習熟度が必要です。
- 必要なコンテキストでプロンプトを補強するためにデータを取り込むメカニズムを手動で決定して構築する必要があります。
- 展開方法は自分で定義する必要があります。
この方法は通常、生成 AI を大規模なワークフローのマイナーな部分として使用する場合、または生成 AI コンポーネントで拡張する既存のソリューションがある場合に使用されます。
カスタムソリューションの生成 AI 部分はどのように動作しますか?
生成 AI 機能を呼び出すと、次のアクションが実行されます。
- データは定義した場所から収集されます。レコード、統合、イベントから、またはユーザーから直接収集されます。
- このデータは、事前設定されたプロンプト (感情分析用など) またはユーザーが作成したプロンプトに挿入されます。
- 挿入されたデータを含むプロンプトが LLM に送信され、応答が生成されます。この応答はインスタンスに返送され、展開する場所で使用できるようになります。
どの LLM を使用できますか?
Now Assist スキルキットを使用してカスタムスキルを構築する場合は、NowLLM サービスの汎用バージョンを含む、任意の LLM に接続できます。
仮想エージェントデザイナー内で生成 AI コントローラーアプローチを使用して構築されたカスタムソリューション、またはスクリプトを介して呼び出されるカスタムソリューションは、現在 NowLLM サービスを使用できないため、外部 LLM を使用する必要があります。
外部 LLM に簡単に接続できる構築済みスポークがいくつか用意されています。2024年8月時点の一覧は以下の通りです。
- Azure OpenAI
- OpenAI
- Aleph Alpha
- WatsonX
- Google Gemini
これらはスポークですが、Integration HubトランザクションではなくAssistを消費することに注意してください。このトピックの詳細については、アカウント担当者にお問い合わせください。
ただし、汎用 LLM コネクタを使用して、上記以外の外部 LLM に接続することもできます (独自のモデルを使用する)。このプロセスには、かなりの技術的洞察力が必要です。スポークでサポートされていない LLM と統合するには、次のものが必要です。
- プロバイダーからの API キー
- LLM のエンドポイント
- 入力と応答を許容可能な形式に変換するための変換スクリプトの作成を支援するために、その LLM の API ドキュメントにアクセスします
接続する外部 LLM に関係なく、ユースケースに適したライセンスとモデル構成を管理する責任はユーザーにあります。
ライセンスの影響と要件はどのようなものですか?
ServiceNow 内で生成 AI 機能を活用するには、Now Assist ライセンスの購入に含まれている生成 AI コントローラーにアクセスする必要があります。詳細については、アカウント担当者にお問い合わせください。
カスタム生成 AI フローを使用する場合、自分のデータはどのように処理されますか?
カスタム生成 AI ソリューションの構築方法によって、この質問に対する答えが決まります。
カスタムソリューション (Now Assist スキルキットからのみ利用可能) のモデルとして NowLLM を使用している場合、ここで説明されているのと同じデータ処理およびセキュリティプロトコルに準拠します。
ServiceNow が管理していない外部の LLM を使用している場合は、LLM プロバイダーのドキュメントでデータの処理方法について参照する必要があります。
インスタンスに外部または NowLLM に公開したくない機密データがありますが、どうすればよいですか?
機密データハンドラープラグインを使用できます。これはデフォルトではアクティブではないため、ビジネスにとって機密と見なされるデータを検出してマスクするために、アドミンがインストールして構成する必要があります。設定するには、機密情報と見なされるものと一致する正規表現パターンを定義する必要があります。
さらに、Now Assist スキルキット内で、前処理ツールと後処理ツールのオプションを活用して、機密データを保護するための独自のソリューションを実装できます。
その他のリソース
- Now Assist スキルキットのデモ
- Now Assist スキルキット製品ドキュメント
- 生成 AI コントローラーを使用したカスタムソリューションの構築
- 生成 AI コントローラー製品ドキュメント
免責事項
一部の日本語は、翻訳ソフトウェアを使用してお客様の便宜のために翻訳されています。正確な翻訳をご提供できるよう相当な努力を払っておりますが、いかなる自動翻訳も人間の翻訳者に代わることはなく、そのようなことは意図されておりません。翻訳は「現状のまま」提供されています。他言語への翻訳の的確性、信頼性または正確性については、明示または黙示を問わず、いかなる保証も行われません。翻訳ソフトには限界があるため、一部のコンテンツが正確に翻訳されていない場合があります。これらの資料の公用言語は英語です。翻訳の際に生じる相違または不一致は、コンプライアンスまたは履行の目的に関しては拘束力を有さず、法的効力はないものとします。
