Gouvernance de l’IA pour Now Assist sur le ServiceNow AI Platform
Alors que les organisations adoptent de plus en plus l’IA pour améliorer l’efficacité, l’innovation et l’expérience client, la gouvernance de l’IA devient essentielle pour garantir une utilisation responsable, la conformité réglementaire et l’alignement sur les objectifs de l’entreprise. Now Assist fournit un cadre de gouvernance complet grâce à des rôles et des applications clés qui fonctionnent ensemble pour gérer l’IA tout au long de son cycle de vie.
Considérations relatives à la politique en matière d’IA
Les considérations stratégiques suivantes façonnent la façon dont l’IA est déployée, surveillée et maintenue dans l’ensemble de l’entreprise.
- Sécurité et confidentialité des données
- Les systèmes d’IA doivent se conformer à des protocoles stricts de traitement des données pour protéger les informations sensibles. Cela comprend les éléments suivants :
- Règles de classification des données pour les informations personnellement identifiables, les informations de santé protégées et les données financières.
- Normes de chiffrement pour les données en transit et au repos.
- Restrictions de résidence et de souveraineté des données, qui déterminent où les données peuvent être stockées et traitées.
- Politiques de conservation et de suppression qui régissent la durée de conservation des données et le moment où elles doivent être purgées.
Les administrateurs peuvent configurer Confidentialité des données pour Now Assist masquer les champs sensibles et contrôler ce qui est partagé avec des modèles tiers. Pour plus de détails, voir Data Privacy for Now Assist.
- Conformité et réglementations
- Les déploiements d’IA doivent respecter une série de cadres réglementaires, notamment :
- HIPAA, PCI DSS, RGDP, CCPA et FedRAMP, selon le secteur et la géographie.
- Gestion des risques liés aux tiers/fournisseurs, en particulier lorsque des modèles ou des services externes sont utilisés.
- Les exigences en matière de journalisation et de traçabilité permettent de garantir la responsabilité dans les décisions prises par l’IA.
Des examens juridiques sont souvent requis avant la publication de la documentation ou la publication de fonctionnalités, en particulier lors de la consolidation d’objectifs de contrôle qui se chevauchent ou d’un problème de transparence du modèle.
- Utilisation responsable de l’IA
- Pour garantir une IA éthique et efficace, les organisations doivent appliquer les mesures suivantes :
- Directives d’approbation et d’utilisation des modèles, y compris les conventions de dénomination et les politiques de marque pour les agents IA.
- Des garanties de biais et d’équité, avec des gestionnaires d’IA évaluant des risques tels que l’hallucination ou l’exposition de données sensibles.
- Exigences de supervision humaine, garantissant que l’IA augmente plutôt qu’elle ne remplace le jugement humain.
- Obligations de transparence, telles que la divulgation de l’utilisation de modèles tiers comme Azure OpenAI dans la documentation produit.
- Gouvernance et conduite du changement
-
La gouvernance de l’IA s’appuie sur des processus structurés de supervision et de contrôle des changements :
- Définition, examen et approbation des garde-fous à l’échelle de l’entreprise et des nouveaux cas d’utilisation.
- Les processus de contrôle des changements et de déploiement garantissent que les fonctionnalités de l’IA sont déployées de manière sûre et prévisible.
- Des plans de réponse aux incidents et d’escalade sont en place pour résoudre des problèmes tels que les violations de données ou les défaillances de modèle.
Personnes concernées par la politique d’IA
Les groupes suivants définissent et exécutent la politique d’IA dans une organisation :
- Créateurs de politiques
- Le directeur des systèmes d’information (DSI) ou le directeur de la technologie (CTO) définit la stratégie technologique globale, en veillant à ce que les initiatives d’IA s’alignent sur l’architecture d’entreprise et les objectifs d’innovation. Le responsable de la sécurité de l’information (CISO) établit des normes de sécurité et de chiffrement des données pour protéger les informations sensibles dans les workflows d’IA. Le Chief Data Officer (CDO) supervise l’utilisation et la gouvernance des données, en veillant à ce que les systèmes d’IA traitent les données de manière éthique et conformément aux politiques organisationnelles. Pendant ce temps, le responsable de la protection de la vie privée et les équipes juridiques sont responsables de la conformité réglementaire, en veillant à ce que les déploiements d’IA répondent aux exigences telles que le RGPD, l’HIPAA et d’autres normes juridictionnelles ou spécifiques à l’industrie. Ensemble, ces leaders constituent le fondement de la gouvernance de l’IA, guidant les équipes de mise en œuvre et les administrateurs dans le déploiement responsable et sécurisé de l’IA.
- Gouvernance et supervision internes
- La gouvernance et la supervision de l’IA dans Now Assist sont dirigées par des groupes structurés qui définissent et appliquent l’utilisation responsable. Un comité de gouvernance de l’IA et un conseil de gouvernance des données établissent des garde-fous à l’échelle de l’entreprise pour l’IA, y compris des normes de confidentialité, d’équité et de conformité, et sont chargés d’examiner et d’approuver les nouveaux cas d’utilisation de l’IA. En soutenant ces organismes, le responsable de l’IA veille à ce que l’IA soit utilisée de manière responsable dans les workflows, en supervisant la qualité des données, en gérant les risques tels que les biais ou l’exposition aux données, et en surveillant le respect des exigences réglementaires. En outre, AI Stewards surveille la conformité réglementaire, évalue les performances et les commentaires des utilisateurs, et travaille avec les administrateurs et les développeurs pour optimiser l’automatisation de l’IA tout en minimisant les risques.
- Mise en œuvre et opérations
- Les équipes d’implémentation et d’exploitation sont responsables du déploiement et de la gestion sécurisés des fonctionnalités d’IA conformément aux politiques de gouvernance. L’administrateur Now Assist configure et gère Now Assist les options, en veillant à ce que les fonctionnalités d’IA soient correctement mappées aux workflows et régies conformément aux normes de l’entreprise. Les propriétaires et ServiceNow administrateurs de la plateforme supervisent le processus de déploiement, en veillant à ce que toutes les configurations soient conformes aux politiques et aux exigences techniques établies. Pendant ce temps, les développeurs d’IA créent, étendent et intègrent des fonctionnalités d’IA dans les workflows de l’entreprise, en travaillant en étroite collaboration avec les administrateurs et les équipes de la plateforme pour fournir des solutions d’IA évolutives, conformes et efficaces. Ensemble, ces rôles traduisent les politiques de gouvernance en mises en œuvre sécurisées et fonctionnelles de l’IA.
Pour plus d’informations sur les rôles d’utilisateur de gouvernance IA, consultez et Affecter le rôle d’administrateur des données.
Pour plus de ressources sur la gouvernance de l’IA, consultez les rubriques suivantes sur les bonnes pratiques :
Outils de gouvernance de l’IA
Now Assist La gouvernance est spécifiée dans les outils suivants :
- Tour de contrôle IA
- Le Tour de contrôle IA fonctionne comme le concentrateur central de la stratégie, de la gouvernance et de l’analyse de l’IA au sein de Now Assist. Elle offre une visibilité à l’échelle de l’entreprise sur les actifs d’IA, les modèles d’utilisation et l’état de conformité, ce qui permet aux organisations de maintenir la supervision et la responsabilité. Grâce à la découverte automatisée et à l’inventaire des actifs IA approuvés, il rationalise la gestion des actifs tout en intégrant des contrôles de gouvernance et des alertes de conformité pour garantir que tous les déploiements d’IA restent sécurisés et alignés sur les politiques organisationnelles.
- Administrateur Now Assist consoler
- La Administrateur Now Assist console est essentielle pour gérer la gouvernance de l’IA en configurant des politiques, en appliquant des règles de traitement des données et en garantissant la conformité aux normes de sécurité et de confidentialité. Les administrateurs supervisent les politiques des fournisseurs au niveau des compétences, suivent les analyses d’utilisation telles que les taux de réussite et l’adoption, et collaborent avec les administrateurs de l’IA et les PME des entreprises pour aligner l’IA sur les objectifs de l’organisation. Ils mettent également en relation les comités de gouvernance avec les équipes techniques pour faciliter l’exécution des politiques.