KI-Modelle

Ein KI-Modell wird gemäß strukturierten Governance-Frameworks entworfen, bereitgestellt und überwacht. Diese Frameworks stellen die ethische Nutzung des KI-Modells, die Compliance mit Vorschriften und die Risikominderung während des gesamten Lebenszyklus sicher.

Ein KI-Modell wird durch Schulungen zu großen Datensätzen mit maschinellem Lernen oder anderen KI-Techniken entwickelt. Das Modell lernt Datenbeziehungen, um Ergebnisse für neue, nicht sichtbare Eingaben zu generalisieren. KI-Modelle werden in Anwendungen wie Sprachverarbeitung, Bilderkennung und Empfehlungssystemen verwendet.

Jedes Modell führt eine definierte Aufgabe wie Klassifizierung, Regression oder Inhaltsgenerierung aus. Sie müssen in realen Szenarien auf Genauigkeit, Zuverlässigkeit und Robustheit ausgewertet werden. Modelle werden auch auf Risiken wie Bias, Opazität und unbeabsichtigtes Verhalten bewertet.

Regelmäßige Validierung und Leistungsüberwachung sorgen für kontinuierliche Effektivität und Stabilität des Modells. Eine klare Dokumentation trägt dazu bei, Transparenz zu erhalten und fundierte Entscheidungen zu treffen. Die Compliance mit ethischen Richtlinien und rechtlichen Standards ist während des gesamten Lebenszyklus des Modells von entscheidender Bedeutung.

Die folgende Abbildung zeigt die Übersichtsseite eines KI-Modells.

Abbildung : 1. KI-Modell-Übersichtsseite

Ein KI-Modelldatensatz bietet eine zusammengefasste Risikopunktzahl. Die einzelnen Risikopunktzahlen für Entitäten, die über eine Risikobewertung für den KI-Bestand als Rollup der Risikobewertungsmethode (RAM) verfügen und eine aggregierte Risikopunktzahl bilden. Sie können die zusammengefasste Risikopunktzahl auf der Registerkarte Details des KI-Systemdatensatzes in anzeigen Zusammengefasste Risikopunktzahl Abschnitt. Weitere Informationen zum Rollup der Risikopunktzahl finden Sie unter Rollup der Risikopunktzahl in der erweiterten Risikobewertung.

Wichtig:

Um die zusammengefasste Risikopunktzahl anzuzeigen, müssen Sie aktivieren Migrieren Sie zu erweiterten Risikobewertungen ( sn_Risk_Advanced.Migrate_to_Advanced_Risk ) Unter Alle > Erweitertes Risikomanagement > Eigenschaftenan.

Hinweis:

Sie können diesen Abschnitt nur anzeigen, wenn Erweitertes Risikomanagement Anwendung ist installiert.

Die aggregierte Risikopunktzahl konsolidiert einzelne Risiken wie Bias, Drift und Sicherheit, um Abteilungs- oder Enterprise-KI-Risikoprofile zu informieren und so Transparenz und Überwachung auf höherer Ebene zu ermöglichen. Beispielsweise können mehrere KI-Modelle mit Kundenkontakt, die Anzeichen von Verzerrungen aufweisen, zu Organisationsrisiken führen. Aggregierte Risikopunktzahl aktiviert KI-Risiko und -Compliance Team, um eine konsolidierte Ansicht der KI-Risiken für mehrere Modelle, Teams und Geschäftsbereiche zu erhalten, die über fragmentierte Risikobewertungen hinausgehen.

Verwandte KI-Assets

Im Abschnitt zugehörige KI-Assets wird Folgendes für ein KI-Modell aufgelistet:

• KI-Systeme: Die KI-Systeme, die dieses KI-Modell verwenden.
• Trainingsdatensätze: Die Trainingsdatensätze, die in diesem KI-Modell verwendet werden.
• Auswertungsdatensätze: Die in diesem KI-Modell verwendeten Auswertungsdatensätze.