(Yokohama リリース)
- 生成 AI コントローラーとは何ですか?
生成 AI コントローラーは、AI で生成されたコンテンツを生成する大規模言語モデル (LLM:Large Language Models ) へのインテリジェンス接続レイヤーです。生成 AI 製品の基盤として機能しますが、仮想エージェントデザイナー内で独自のカスタム生成 AI アプリケーションとワークフロー、およびスクリプトを作成するためにも利用できます。
- 生成 AI コントローラーは Now Platform のどこで使用できますか?
生成 AI コントローラーを活用して、仮想エージェントデザイナー内の生成 AI 機能と一般的なプラットフォームスクリプティングを統合できます。
仮想エージェントデザイナー内での使用例:
- 生成 AI コントローラーアプリによって提供される、標準(out of the box)ユースケースは何ですか?
利用可能なユースケースは次のとおりです。
|
アクション |
摘要 |
|
コンテンツの生成 |
生成 AI でコンテンツを生成し、エージェントが受信メールに応答するために使用できる提案された応答を生成するなど、テキスト本文をすばやく作成します。 |
|
QnA |
ユーザーが質問に対する回答を見つけやすくし、エージェントの時間を確保できます。 |
|
要約 |
仮想エージェントとライブエージェント間の引き継ぎ中など、情報の転送を容易にするために、大量のテキストや複雑なやり取りを要約します。 |
|
汎用プロンプト |
生成 AI を使用して、エンゲージメントを高めるためのアイデアなど、あらゆるトピックについてアイデアを生成し、ブレインストーミングを行います。たとえば、LLM にマーケティング計画の作成を依頼できます。 |
|
感情分析 |
入力発言の感情を肯定的/どちらでもない/否定的として計算します。 |
- 現在サポートされている生成 AI プロバイダーはどれですか?
OpenAI、Azure OpenAI、Aleph Alpha、IBM WatsonX、Google Gemini です。Washington リリースの時点では、汎用 LLM コネクタを使用して任意の外部 LLM に接続することもできます。
- 生成 AI コントローラーを使い始めるための要件は何ですか?
生成 AI コントローラーの使用を開始するには、次のものが必要です。
- 既存の Pro Plus/Enterprise Plus エンタイトルメント
- 接続先の外部 LLM からのライセンスと API キー
- インスタンスは少なくとも Vancouver P2+ である必要があります
ストアアプリ:
注:コントローラーストアアプリケーションを自分でインストールする必要はありません。Now Assist for [x] プラグインにバンドルされています。
- 生成 AI コントローラーは統合ハブを使用し、トランザクションを消費しますか?
コントローラーは埋め込み Integration Hub スポークを使用してサードパーティの LLM サービスプロバイダーに接続しますが、IHub トランザクションコストは発生しません。Pro Plus/Enterprise Plus SKU の一部として「アシスト」を消費します。
- 7. サードパーティの生成 AI プロバイダーを使用している場合、ServiceNow データはインスタンスから離れますか?
はい。アプリから作成したデータとクエリは、利用している外部 LLM をホストしているパーティに送信されることに注意してください。データプライバシーポリシーに注意し、組織に最適な使用ポリシーを決定します。
Now Assist がデータ処理とセキュリティを処理する方法の詳細については、こちらをご覧ください。
- インスタンスに機密データがあるため、インスタンスから離れたくないのですが、どうすればいいですか?
機密データハンドラープラグインを使用できます。これはデフォルトではアクティブではないため、ビジネスにとって機密と見なされるデータを検出してマスクするために、アドミンがインストールして構成する必要があります。設定するには、機密情報と見なされるものと一致する正規表現パターンを定義する必要があります。
- 生成 AI 出力は、安全でないコンテンツや有害なコンテンツに対して調整されていますか?
Now Assist Guardian は 2024 年第 4 四半期にリリースされ、Now Assist スキルにコンテンツモデレーションと敵対的攻撃検出のガードレールを提供します。カスタムスキルとプロバイダーの場合、これは外部 LLM のアカウント/インスタンスをどのように構成するかによって異なります。各プロバイダーには独自のコンテンツモデレーション機能があり、それが目的に適しているかどうかを確認して判断できます。
- 生成 AI の出力が不正確である可能性 (ハルシネーションなど) はありますか?
選択的なユースケースと迅速なエンジニアリングを通じてハルシネーションの可能性を最小限に抑えてきましたが、生成されたコンテンツに不正確な情報が存在するリスクは常に存在します。したがって、そのようなコンテンツにはヒューマンインザループレビューを採用することを常にお勧めします。
- 独自のプロンプト、温度、またはトークン数を変更/作成することはできますか?
現在はありません。ServiceNow には読み取り専用の初期プロンプトが用意されており、ワークフローではこれを拡張できます。デフォルト温度 = 0。デフォルト max_tokens = 500 は、応答用に予約されている量です。
- 現在、Azure OpenAI で標準 (out-of-box)モデルは何ですか?
GPT-4 以降
- API を呼び出すトランザクションあたりの外部コストはどのくらいですか?
これは、プロバイダーと出力の長さによって異なります。プロバイダーに問い合わせて、価格モデルを理解することをお勧めします。
- Azure OpenAIを使用すると、次のエラーが発生する:「このリソースのAPIデプロイは存在しません。過去 5 分以内に展開を作成した場合は、しばらく待ってからもう一度お試しください。」
展開名が Azure アドミンポータルのモデル名と同じであることを確認してください。
- 複数のクエリ間でコンテキストを維持することは可能ですか?
現状できません。
16. カスタムユースケースのために、Generative AI コントローラーを使用して Now LLM に接続できますか?
現在はできません。外部 LLM プロバイダーには、生成 AI コントローラーでのみ接続できます。
免責事項
一部の日本語は、翻訳ソフトウェアを使用してお客様の便宜のために翻訳されています。正確な翻訳をご提供できるよう相当な努力を払っておりますが、いかなる自動翻訳も人間の翻訳者に代わることはなく、そのようなことは意図されておりません。翻訳は「現状のまま」提供されています。他言語への翻訳の的確性、信頼性または正確性については、明示または黙示を問わず、いかなる保証も行われません。翻訳ソフトには限界があるため、一部のコンテンツが正確に翻訳されていない場合があります。これらの資料の公用言語は英語です。翻訳の際に生じる相違または不一致は、コンプライアンスまたは履行の目的に関しては拘束力を有さず、法的効力はないものとします。
