KI-Systeme

Ein KI-System ist eine KI-gestützte Lösung, die unter einem formalen Governance-Framework entwickelt, bereitgestellt und verwaltet wird. Dieses Framework stellt sicher, dass das System während seines gesamten Lebenszyklus verantwortungsbewusst, konform und risikobewusst funktioniert.

Ein KI-System funktioniert innerhalb der digitalen oder operativen Umgebung einer Organisation, um Geschäftsaktivitäten zu unterstützen. Sie ermöglicht Automatisierung, verbessert die datengesteuerte Entscheidungsfindung und verbessert die allgemeine Prozesseffizienz. Das System enthält Komponenten wie Modelle für maschinelles Lernen, Verarbeitungsmodule für natürliche Sprache oder Tools für Computervision.

Diese Komponenten werden häufig von Datensätzen, Algorithmen und der Computerinfrastruktur unterstützt. Zusammen ermöglichen sie es dem System, Daten zu analysieren, Muster zu erkennen und Ergebnisse mit minimalem menschlichem Eingriff zu generieren. Jedes KI-System unterliegt einem strukturierten Bewertungsprozess. Dieser Prozess bewertet potenzielle Risiken im Zusammenhang mit Funktionalität, Sicherheit und gesellschaftlichen Auswirkungen. Außerdem wird die Compliance mit geltenden Vorschriften, Branchenstandards und internen Governance-Richtlinien überprüft.

Governance-Frameworks werden angewendet, um das KI-System während seines gesamten Lebenszyklus zu verwalten. Sie stellen sicher, dass das System sicher funktioniert und vorhersehbare, erklärbare und vertrauenswürdige Ergebnisse liefert. Ethische Prinzipien wie Fairness, Rechenschaftspflicht und Transparenz werden durch definierte Steuerungen und Aufsichtsmechanismen durchgesetzt. Die regelmäßige Überwachung unterstützt die verantwortliche KI-Nutzung und reduziert das Risiko unbeabsichtigter Konsequenzen.

Die folgende Abbildung zeigt die Übersichtsseite eines KI-Systems.

Abbildung : 1. KI-System-Übersichtsseite

Ein KI-Systemdatensatz bietet eine zusammengefasste Risikopunktzahl. Die einzelnen Risikopunktzahlen für Entitäten, die über eine Risikobewertung für den KI-Bestand als Rollup der Risikobewertungsmethode (RAM) verfügen und eine aggregierte Risikopunktzahl bilden. Sie können die zusammengefasste Risikopunktzahl auf der Registerkarte Details des KI-Systemdatensatzes in anzeigen Zusammengefasste Risikopunktzahl Abschnitt. Weitere Informationen zum Rollup der Risikopunktzahl finden Sie unter Rollup der Risikopunktzahl in der erweiterten Risikobewertung.

Wichtig:

Um die zusammengefasste Risikopunktzahl anzuzeigen, müssen Sie aktivieren Migrieren Sie zu erweiterten Risikobewertungen ( sn_Risk_Advanced.Migrate_to_Advanced_Risk ) Unter Alle > Erweitertes Risikomanagement > Eigenschaftenan.

Hinweis:

Sie können diesen Abschnitt nur anzeigen, wenn Erweitertes Risikomanagement Anwendung ist installiert.

Die aggregierte Risikopunktzahl konsolidiert einzelne Risiken wie Bias, Drift und Sicherheit, um Abteilungs- oder Enterprise-KI-Risikoprofile zu informieren und so Transparenz und Überwachung auf höherer Ebene zu ermöglichen. Beispielsweise können mehrere KI-Modelle mit Kundenkontakt, die Anzeichen von Verzerrungen aufweisen, zu Organisationsrisiken führen. Aggregierte Risikopunktzahl aktiviert KI-Risiko und -Compliance Team, um eine konsolidierte Ansicht der KI-Risiken für mehrere Modelle, Teams und Geschäftsbereiche zu erhalten, die über fragmentierte Risikobewertungen hinausgehen.

Die folgende Abbildung zeigt den Abschnitt „zusammengefasste Risikopunktzahl“:

Abbildung : 2. Aggregierte Risikopunktzahlen

Verwandte KI-Assets

Im Abschnitt zugehörige KI-Assets wird Folgendes für ein KI-System aufgelistet:

• KI-Modelle: Die KI-Modelle in diesem KI-System.
• Datensätze: Die in diesem KI-System verwendeten Datensätze.