naoto kadowaki
Administrator
オプション
- RSS フィードを購読する
- 新着としてマーク
- 既読としてマーク
- ブックマーク
- 購読
- 印刷用ページ
- 不適切なコンテンツを報告
昨日
このセッションでは、Now LLM サービスについて説明し、Now LLM サービスを構築した理由、製品で Now LLM を使用するメリット、モデルのトレーニング方法に関する質問に答えました。また、ServiceNow の責任ある AI と、ライフサイクルの各ステップでそれを製品開発に組み込む方法、データ共有を使用してモデルを改善する方法、StarCoder LLM の BigCode プロジェクトでの作業についても説明します。
ここでは、このセッションで説明したリンクについて説明します。KBリンクはサポートログインが必要ですのでご注意ください。サポートログインをお持ちでない場合は、アカウントチームにご連絡いただき、情報を受け取るまでの期間を短縮してください。
- Now LLM:エンタープライズ AI ユースケース向けの生成 LLM (https://www.servicenow.com/community/now-assist-articles/now-llm-generative-llm-for-enterprise-ai-us...)
- Now LLM サービスの更新 (https://docs.servicenow.com/csh?version=latest&topicname=now-llm-model-updates)
- KB1648406 – データ共有とモデル開発 (https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB1648406)
- KB1584490 – 高度な AI およびデータ製品の概要:アーキテクチャ、適用される条件、およびデータ処理 (https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB1584490)
- KB1584492 – 高度な AI およびデータ製品のデータ処理に関する FAQ (https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB1584492)
- KB1648413 – 統合されたデータ処理とセキュリティに関する FAQ (https://support.servicenow.com/kb?id=kb_article_view&sysparm_article=KB1648413) の補遺
このセッションの回答 Q&A は次のとおりです。この情報は変更される可能性があることに注意してください。このブログに掲載されている Q&A は、2024 年 7 月時点の現在の機能と実践のスナップショットです。いずれのモデルでも、最新バージョンのモデルカードでモデルの詳細を確認することをお勧めします。
Q:これは仮想エージェントにどのように影響しますか?
A:Now LLM はいくつかの方法で VA に組み込まれています。
1) KB の要約による Q&A
2) マルチターンのサービスカタログ取り込み
3) 管理者向けの Now LLM ベースの VA トピック (ツリー状の VA トピックと比較)
Q: 感情分析は ITSM で使用できますか。サーベイ入力を感情分析で実行したいと思っていますが、ServiceNow から、感情分析には他のサードパーティの LLM が必要であると言われました。
A: OOTB スキルでは感情分析を特にサポートしていません。この機能を実行するには外部 LLM が必要であり、この機能を構築するには生成 AI コントローラーを活用する必要があります。ただし、このスペースに注目してください。Xanaduでは、この領域を開く機能がリリースされます。9 月 17 日に予定されている AI アカデミーがあり、あなたのユースケースに沿ったものをカバーすると思います。
Q: では、各顧客はインスタンスのデータについて特別にトレーニングされた形式のNowLLMを持っているのでしょうか、それとも全員が同じフォークを使用するのでしょうか?
A: 現在、誰もが定期的に更新される同じフォークを使用しています。
Q: ナレッジ記事に関連する要約の有効性を測定する方法にはどのようなものがありますか? 要約されたコンテンツに関するメトリクスはありますか? 視聴回数は下がることが予想されると思います。
A: ベストプラクティスとして、KB 生成の関連性を確認するためのヒューマンインザループが必要です。KB 記事自体の有効性は、一度公開されると、# 件の回避、フィードバック、記事検索統計などによって測定できます。
Q:複数の LLM を使用できますか? 例：Now LLM ですか、それとも Google やその他のベンダーの LLM ですか?
A: 1 つのモデルで、プラットフォームエクスペリエンスにおいて 1 つ以上のスキルを強化できます。複数のモデルを組み合わせて採用し、タスクに最適なモデルを実装します。さらに、お客様は必要に応じて、ServiceNow 以外のモデルを独自に選択したカスタムユースケースを実装できます。
Q:複数の LLM を同時に使用できますか? 例：NowLLM と Google の LLM
A: はい、生成 AI コントローラーを使用して、カスタム作成されたスキルを設計された LLM サービスに指定できます。現在、OOTB スキルで使用される LLM を上書きすることはできません。
Q:Now Assist は一度に複数のチケットを要約できますか? 一度に1000件のチケットを要約して、レポートや詳細な分析で傾向を把握できますか?
A: 現在、標準機能(OOTB)ではご利用いただけません。生成 AI コントローラーを使用してカスタムワークフローを構築することもできますし、Xanadu のリリースを待つこともでき、そこでは何か役立つ情報が見つかるかもしれません。
Q: IT サポート SLM など、よりターゲットを絞った業界固有の小言語モデルはありますか?
A: これは業界のトレンドに従った素晴らしい質問です。この可能性を調査中ですが、これはまだ実行のロードマップにはありません。
Q:ServiceNow AI モデルに AI と顧客情報を取り込む際の、SN 商用版と政府版ではどのように異なりますか?
A: 政府版のお客様は、これらの環境が規制されているため、データを提供する必要はありません。
Q: ServiceNow AI モデルのトレーニングには、顧客のデータと入力をどのように活用しますか?
モデルのトレーニングにどのような顧客データと入力を利用するかの詳細については、「KB1648406」を参照してください。
Q: ServiceNow AI と LLM は、SN 商用インスタンスと政府機関インスタンスでどのように異なりますか?
A: 違いはありませんが、インフラストラクチャと流通は異なります。
Q: 私たちの環境にどのように適合するかを試してみる場所(PDIのプラグイン、デモ)はありますか?
A: デモについては、アカウントチームにお問い合わせください。
Q: 競合他社との差別化にはどうすればよいでしょうか? 全員でデータを正しく抽出して取得できますか?
A: ショーンは、サンドフォード大学財団モデル透明性指数のビデオの26:45でこれに答えました。ビデオのその部分には、インデックス スコアと、透明性の主要な側面に関して競合他社とどのように差別化しているかを示すグラフがあります。
Q: IT サポート SLM など、よりターゲットを絞った業界固有の小言語モデルはありますか?
A: これは業界のトレンドに従った素晴らしい質問です。私たちはこの可能性を調査しています。しかし、これはまだ実行のロードマップに載っていません (セーフハーバー)。
Q:顧客は Now LLM の代わりに他の LLM モデルを使用し、ServiceNow の外部にあるコントローラーを使用して ServiceNow と統合できますか? これが可能であれば、ServiceNow Now Assist サブスクリプション (ITSM PRO +) は不要になりますか?
A:はい、当社には生成 AI コントローラーがあり、当社以外の LLM に接続できます。ただし、これにより、OOTB スキルに使用されるモデルを変更することはできません。これらは NowLLM に関連付けられています。ただし、コントローラーの使用には、Pro/Pro+ ライセンスを持っている必要もあります。例は「https://www.youtube.com/watch?v=1P1qWidrh9Q&list=PLkGSnjw5y2U407_1UQQaVVrD13-MFi5ia&index=2
」です。
Q: 生成 AI のユースケースに関するもう 1 つの質問です。ServiceNowには、ドキュメント添付ファイルを含むKBAがあります。GenAI は、これらの添付ファイルのコンテンツから関連情報を見つけるのに役立ちますか?
A: 2024 年 7 月現在、Now Assist for AI 検索では添付ファイルの検索は行っていませんが、ロードマップ (セーフハーバー) には記載されています。詳細については、アカウントチームにお問い合わせください。
Q: データ主権はどのように保証されていますか?
A: このテーマの詳細については、リンクされている KB を参照するか、アカウント担当者に確認してください。
Q: ServiceNow は、使用しても問題ないことを当社が承認せずにデータを使用したことはありませんか?
A: はい、その通りです。顧客は、そのための契約に積極的に署名し、オプトインする必要があります。
Q: LLM はどのくらいの頻度で更新されますか? また、オプトインした顧客は、時間の経過とともに最適な LLM 動作を保証するために、定期的にデータを提供することが「期待」されますか?
A: 顧客はデータ共有を継続的にオプトインする必要はありません。これは 1 回限りのプロセスです。データ共有の詳細については、「KB1648406」を参照してください。ServiceNow はモデルの改善に継続的に取り組んでおり、ユースケースごとにモデルを更新しています。最新モデルに関連する情報は、予定されているすべての ServiceNow リリースのモデルカードの最新アップデートに記載されています。さらに、ServiceNow リージョンデータセンターでモデルが導入および更新されると、Now Assist スキルが利用可能なすべての Now Platform バージョンにおいて、依存するすべての Now Assist スキルでモデルを利用できるようになります。ServiceNow がスキルを強化するために使用するモデルを変更すると、アドミンによって開始された次のプラットフォームアップグレードの時から新しいモデルが使用されます。詳細については、「KB1648406」を参照してください。
Q: PDI (個人開発者インスタンス) でコード生成を有効にするにはどうすればよいですか?
A: この機能は現在、PDI では使用できません。デモについては、アカウント担当者にお問い合わせください。
Q: 当社の AI 推論は「データ保持ゼロ」だと思いますか?
A: はい。インシデントの要約などの推論にデータが使用される場合、プロンプトと応答はメモリ内でのみ処理されるため、推論用のディスクストレージがありません。データは、処理後すぐに共有インフラストラクチャから削除されます。これにより、顧客のプロンプトと応答を他の顧客が利用できず、データのプライバシーと機密性が維持されます。詳細については、「KB1584492」を参照してください。
免責事項
一部の日本語は、翻訳ソフトウェアを使用してお客様の便宜のために翻訳されています。正確な翻訳をご提供できるよう相当な努力を払っておりますが、いかなる自動翻訳も人間の翻訳者に代わることはなく、そのようなことは意図されておりません。翻訳は「現状のまま」提供されています。他言語への翻訳の的確性、信頼性または正確性については、明示または黙示を問わず、いかなる保証も行われません。翻訳ソフトには限界があるため、一部のコンテンツが正確に翻訳されていない場合があります。これらの資料の公用言語は英語です。翻訳の際に生じる相違または不一致は、コンプライアンスまたは履行の目的に関しては拘束力を有さず、法的効力はないものとします。
