KI-Risiko und -Compliance erkunden

  • Freigeben Version: Australia
  • Aktualisiert 12. März 2026
  • 5 Minuten Lesedauer

    • Erfahren Sie, wie Sie den verwenden können KI-Risiko und -Compliance Anwendung zur ethischen Verwaltung Ihrer Fähigkeiten von künstlicher Intelligenz (KI), zur Minimierung von KI-Risiken und zur Sicherstellung von Compliance.

    KI-Risiko und -Compliance – Übersicht

    Das KI-Risiko- und Compliance-Team ist für die Identifizierung und Bewertung von Risiken im Zusammenhang mit KI verantwortlich. Dies umfasst die Bewertung rechtlicher, regulatorischer und ethischer Überlegungen, um sicherzustellen, dass die KI-Fähigkeiten verantwortungsvoll implementiert werden. Ihre Rolle besteht in der Festlegung von Richtlinien und Frameworks, die es der Organisation ermöglichen, KI-Lösungen einzuführen und gleichzeitig die Compliance mit Branchenstandards und ethischen Prinzipien zu gewährleisten. Die KI-Risiko und -Compliance Mit der Anwendung kann das Risiko- und Compliance-Team einer Organisation ihre KI-Fähigkeiten und -Assets verwalten.

    KI-Risiko und -Compliance Anwender

    Die in der folgenden Tabelle aufgeführten Anwender stellen generische Rollen dar. Jede dieser Rollen kann in verschiedenen Organisationen anhand verschiedener Titel und Namen identifiziert werden. Für bestimmte Rollen innerhalb von KI-Risiko und -Compliance Anwendung, siehe Mit KI-Risiko und -Compliance installierte Rollen.

    Tabelle : 1. Anwender
    Anwender Beschreibung
    KI-Produktbesitzer, Geschäftsanwender, IT-Asset-Besitzer, KI-Arzt
    • Initiiert Anforderungen zum Erstellen von KI-Anwendungsfällen, -Modellen und -Datensätzen über den -Arbeitsbereich oder den Mitarbeiter-Center.
    • Überwacht die Leistung des KI-Systems, fördert kontinuierliche Verbesserungen und bewertet die Geschäftsauswirkungen.
    • Hält Compliance mit Governance-, Ethik- und Rechtsstandards während des gesamten Lebenszyklus von KI-Produkten aufrecht.
    • Greift aktiv an verantwortlichen KI-Praktiken an wichtigen Entwicklungs- und Verwaltungspunkten zu und greift auf genehmigte KI-Assets zur Erkennung und Wiederverwendung zu.
    KI-Steward
    • Stellt sicher, dass die KI-Systeme ethische Prinzipien wie Fairness, Transparenz, Rechenschaftspflicht und Nichtdiskriminierung einhalten, und überprüft regelmäßig Modelle und Ausgaben, um Schaden und Verzerrungen zu verhindern.
    • Fördert Fairness bei KI-Entscheidungen, indem Verzerrungen bei Trainingsdaten, Algorithmen und Ergebnissen identifiziert und behoben werden, und führt regelmäßige Auswirkungs- und Risikobewertungen durch.
    • Überwacht den gesamten Lebenszyklus von KI-Modellen, von der Idee bis zur Stilllegung, und fungiert als Verbindung zwischen Teams, um Governance abteilungsübergreifend zu integrieren und die Compliance mit Datenschutz, Sicherheit und Schutz geistigen Eigentums sicherzustellen.
    • Identifiziert und mindert potenzielle Risiken wie Datenschutzbedenken und technologische Fehlfunktionen durch regelmäßige Tests, Überwachung und Updates und passt sich durch Workflow-Updates und Problemmanagement schnell an Änderungen an Richtlinien und Vorschriften an.
    Chief Risk Officer
    • Richtet Frameworks für die verantwortungsvolle KI-Nutzung ein, um die Einhaltung ethischer Richtlinien, Branchenvorschriften und Risikomanagementrichtlinien sicherzustellen.
    • Verwaltet die Implementierung der KI-Strategie.
    KI-Risiko- und Compliance-Analyst Zeigt Compliance- und Risikobestände an und verwaltet sie, z. B. regulatorische Dokumente, Risikobeschreibungen, Richtlinien, und steuert sowie greift auf zu Erweitertes Risikomanagement Dashboards.
    KI-Risiko- und Compliance-Administrator
    • Richtet Frameworks für Risiko- und Auswirkungsbewertung ein, indem Risikobewertungsmethoden, Beitragsfaktoren und Auswirkungsvorlagen konfiguriert werden, z. B. Konformitätsbewertungen.
    • Richtet Automatisierungsregeln für Auswirkungsbewertungen ein, um anwendbare KI-Risiken und -Steuerungen zu identifizieren.
    • Definiert KI-Falltypen, wendet Geschäftsregeln für Formularfelder und Zuweisungen an und entwirft Berichtsvorlagen, um die Geschäftsanforderungen zu erfüllen.

    KI-Risiko und -Compliance – Workflow

    Im folgenden Abschnitt werden die Schritte beschrieben, die bei der Erstellung eines KI-Assets in durchgeführt werden KI-Kontrollstelle Die Anwendung und die Risiken für die Assets werden in bewertet KI-Risiko und -Compliance Anwendung, bis das Asset bereitgestellt wird und zur Überwachung wechselt.

    Wenn ein neues KI-System eingeführt oder erweitert wird, wird es einer Risikobewertung und einer KI-Auswirkungsbewertung unterzogen. Diese Bewertungen ergeben Punktzahlen, die die Risikostufen für die KI-Systeme angeben. Nachdem die Genehmigung von den relevanten Stakeholdern eingeholt wurde, beginnt die Entwicklungs- oder Build-Phase. Während der Entwicklung werden Kontrollen nachgewiesen, Probleme werden nachverfolgt und verwaltet, und Richtlinienausnahmen werden je nach Bedarf aus Risiko- und Compliance-Perspektive ausgelöst. Nach der Entwicklung wird das KI-System überprüft, um Folgendes sicherzustellen:
    • Abschluss der Konformitätsbewertung
    • Überprüfung und Lösung offener Probleme und Richtlinienausnahmen
    • Neubewertung von Risiken
    Basierend auf diesen Auswertungen wird das KI-System entweder genehmigt oder für die Bereitstellung abgelehnt.
    Der Workflow für die Erstellung und Bereitstellung eines KI-Assets lautet wie folgt:
    1. Geschäftsanwender verwenden Mitarbeiter-Center Oder KI-Kontrollstelle Arbeitsbereich und übermitteln Sie einen neuen KI-Anwendungsfall.
    2. Im Arbeitsbereich wird automatisch ein neuer Bestandsdatensatz erstellt.
    3. Das KI-Kompetenzzentrum-Team (COE) überprüft den übermittelten Anwendungsfall.
    4. Relevante Assets werden dem Bestand hinzugefügt, um zu bestimmen, ob der Anwendungsfall mit der nächsten Phase übergehen soll.
    5. In KI-Risiko und -Compliance Arbeitsbereich wird entweder eine KI-Auswirkungsbewertung oder eine KI-Konformitätsbewertung initiiert.
    6. Der zugewiesene Geschäftsanwender schließt die Bewertung im Arbeitsbereich ab.
    7. Basierend auf den Bewertungsergebnissen werden potenzielle Risiken und erforderliche Steuerungen identifiziert und zugeordnet.
    8. Nachdem die Bewertung genehmigt wurde, wird der KI-Anwendungsfall von den entsprechenden Teams erstellt.
    9. Die abgeschlossene Lösung wird einem formellen Überprüfungsprozess unterzogen.
    10. Eine laufende Überwachung wird durchgeführt, um Compliance und Leistung sicherzustellen.
    11. Nach erfolgreicher Überprüfung wird die Lösung in der Produktion bereitgestellt.

    KI-Risiko und -Compliance – Vorteile

    Die KI-Risiko und -Compliance Die Anwendung bewältigt die folgenden Herausforderungen, denen Organisationen mit KI gegenüberstehen:
    • Fehlende KI-Strategie: Keine allgemein vereinbarte KI-Strategie oder Ausrichtung an Unternehmenszielen.
    • Keine zentrale Verwaltung: Keine einzige Plattform für alle Stakeholder und den Chief KI Officer zur Zusammenarbeit und Verwaltung der KI-Nutzung.
    • Keine verantwortlichen KI-Richtlinien: Fehlende Richtlinien für ethische und verantwortliche KI-Nutzung.
    • Kein Risikobewertungsprozess: Kein Prozess zum Bewerten von Risiken für interne und Drittpartei-KI.
    • Probleme bei Skalierbarkeit und Überwachung: Herausforderungen bei der Skalierung der KI-Bereitstellung, der Nachverfolgung der Leistung und der kontinuierlichen Überwachung auf neu auftretende Risiken wie Datenschutz.
    In der folgenden Tabelle sind die Vorteile der Verwendung von aufgeführt KI-Risiko und -Compliance Anwendung.
    Vorteile Funktion Rolle
    Verwalten Sie KI-Systeme, -Modelle und -Datensätze über den gesamten Lebenszyklus hinweg mit konsistenter Governance, um Transparenz, Kontrolle und Compliance zu verbessern. AI asset lifecycle KI-Steward
    Führen Sie Auswirkungsbewertungen für KI-Systeme, -Modelle und -Datensätze durch, um KI-Assets mit hohem Risiko zu identifizieren. Führen Sie eine Auswirkungsbewertung für einen KI-Anwendungsfall durch Folgende Rollen sind erforderlich:
    • KI-Kontrollstelle: KI-Asset-Besitzer
    • KI-Risiko und -Compliance: KI-Risiko- und Compliance-Anwender
    Führen Sie basierend auf zusätzlichen Informationen und Tests Risikobewertungen für KI-Systeme und einzelne Risiken im Zusammenhang mit einem KI-Asset durch. Führen Sie Risikobewertungen für KI-Systeme durchInitiieren Sie eine Risikobewertung für die Risiken von KI-Assets KI-Risiko- und Compliance-Analyst
    Verwalten und überwachen Sie KI-bezogene Fälle und Probleme durch einen strukturierten Fallmanagementprozess.

    Erstellen Sie einen KI-Fall in KI-Risiko und -Compliance Arbeitsbereich

    Erstellen Sie ein KI-Problem in KI-Risiko und -Compliance Arbeitsbereich

    		 Folgende Rollen sind erforderlich:
    • KI-Fall: KI-Fallanalyst und KI-Fallmanager
    • KI-Problem: KI-Risiko- und Compliance-Manager und KI-Risiko- und Compliance-Analyst
    Erstellen Sie mithilfe des Inhaltspakets des KI-Frameworks einen Compliance-fähigen KI-Asset-Bestand, der an regulatorischen Anforderungen ausgerichtet ist. KI-Risiko- und Compliance-Analyst

    Empfehlungen für weitere Themen

    Weitere Informationen über die Konfiguration und den Einsatz von KI-Risiko und -Compliance finden Sie unter: