AI で強化されたアプリケーションの世界では、信頼と安全性がこれまで以上に重要です。社内ツールを構築する場合でも、顧客向けエクスペリエンスを構築する場合でも、AI が攻撃的または有害なコンテンツを増幅させないようにすることが重要です。
そこで登場するのが Now Assist ガーディアン です。ServiceNow プラットフォームに組み込まれた、軽量ながら強力な保護レイヤーとなっています。この「Did You Know」のエピソードでは、Willem Zeiler がその主要機能の 1 つである 攻撃性フィルター について簡潔に解説します。
Guardian をオフにすると、不快な入力がモデルに直接流れます。ただし、Guardian を有効にすると、フラグが立てられたコンテンツは、セットアップに応じて、AI に到達する前にブロックまたはログに記録されます。シンプルな切り替えですが、本格的な安心感が得られます。
ガーディアンはそれだけではありません。また、次のこともできます。
これらのフィルターにより、Guardian は Now Platform での責任ある AI 実装に不可欠な要素となります。そして一番いいところは、わずか5分で使い始められる点も魅力です。
そのため、Now Assist を使用して構築している場合は、コンテンツパイプラインが安全であることを確認してください。Willem 氏が言うように、「信頼とコンプライアンスを維持するのに役立つのは、シンプルな保護手段です。」
この記事は機械翻訳されております。最新は元となる記事をご覧ください: https://www.servicenow.com/community/developer-advocate-blog/protecting-your-ai-with-now-assist-guar...。
免責事項: 一部の日本語は、翻訳ソフトウェアを使用してお客様の便宜のために翻訳されています。正確な翻訳をご提供できるよう相当な努力を払っておりますが、いかなる自動翻訳も人間の翻訳者に代わすることはなく、そのようなことは意図されておりません。翻訳は「現状のまま」提供されています。他言語への翻訳の的確性、信頼性または正確性については、明示または黙示を問わず、いかなる保証も行われません。翻訳ソフトには限界があるため、一部のコンテンツが正確に翻訳されていない場合があります。これらの資料の公用言語は英語です。翻訳の際に生じる相違または不一致は、コンプライアンスまたは履行の目的に関しては拘束力を有さず、法的効力はないものとします。
This article was machine translated and replicated from the original source: https://www.servicenow.com/community/developer-advocate-blog/protecting-your-ai-with-now-assist-guar...。
