4 Best Practices für das KI-Risikomanagement

Der Verantwortungsbereich des Chief Risk Officers in einem Unternehmen wächst: Er umfasst heute zunehmend auch KI-Compliance, Datenschutz und Sicherheit. Unternehmen binden KI-Agenten immer mehr in ihre Arbeitsabläufe ein. Damit wird ein effektives KI-Risikomanagement unverzichtbar.

Auf der Nexus 2026 – dem ServiceNow-Event für Risikomanagement, Sicherheit und KI-Governance – trafen sich Führungskräfte aus der EMEA-Region (Europa, dem Nahen Osten und Afrika), um zu erörtern, wie Innovation mit KI sicher gelingt. Dabei ging es insbesondere um konkrete Wege, Risiken zu reduzieren, die Effizienz zu steigern und bei sich weiterentwickelnden Vorschriften konform zu bleiben.

Nachfolgend finden Sie 4 Best Practices für das KI-Risikomanagement, die sich bei unseren Diskussionen auf dem Event herauskristallisiert haben.

1. KI-Aktionen überwachen

Schlechte Datenqualität kann zu fehlerhaften KI-Ausgaben führen, insbesondere wenn die Aktionen eines Systems ungeprüft bleiben. Wenn die Daten-Pipeline eines Essenslieferdiensts beispielsweise falsche Informationen an ein Vorhersagemodell in der Lieferkette weitergibt, könnten versehentlich Tausende Zutaten ins Lager bestellt werden.

Wenn etwas schiefläuft, passiert das oft schnell. Das kann die Glaubwürdigkeit einer Marke und das Geschäftsergebnis beeinträchtigen. Effektives KI-Risikomanagement erfordert, die Aktionen eines KI-Systems zu überwachen. Mitarbeiter müssen Backend-Daten prüfen, Fehlerszenarien testen und Datenprotokolle auswerten, um sichtbar zu machen, wie und warum das KI-System ausfallen könnte.

Ein Machine-Learning-Engineer sorgt beispielsweise dafür, dass KI die beabsichtigten Ergebnisse liefert – zuverlässig und ohne Fehler. Falls doch ein Fehler auftritt, muss der Engineer sicherstellen, dass dieser sich nicht negativ auf das Geschäft auswirkt. Deshalb ist es entscheidend, KI-Ausgaben zu erfassen und auszuwerten und dabei weiterhin die geltenden Datenvorschriften einzuhalten.

ServiceNow AI Control Tower ist die unternehmensweite Steuerungs- und Governance-Ebene für KI. Die Lösung hilft Teams, KI-Systeme zu identifizieren, zu verwalten und zu messen und dabei Vorschriften einzuhalten. Sie ermöglicht Echtzeitüberwachung, generiert prüfungsbereite Compliance-Nachweise und löst Korrektur-Workflows für Governance aus, um Risiken durchgängig zu reduzieren.

2. KI-Systemen klare Rollen zuweisen

Unternehmen, die ein einziges Allzweck-KI-System für mehrere Anwendungsfälle einsetzen, erzielen häufig nicht die gewünschten Ergebnisse. KI-Systeme sollten für spezifische, zweckgerichtete Anwendungsfälle trainiert werden. Dazu müssen maßgeschneiderte Regeln, Kriterien und Kontrollen implementiert werden, die auf den Aufgabenbereich des Modells abgestimmt sind.

Sie könnten beispielsweise einen KI-Agenten darauf trainieren, effizient Code zu generieren, und einen anderen, diesen Code auf Sicherheitslücken zu prüfen. Wenn diese Verantwortlichkeiten in kleine, spezifische Zuständigkeitsbereiche für jeden KI-Agenten aufgeteilt werden, lassen sich Aktionen präziser steuern und Risiken reduzieren.

Mit definierten Rollen können KI-Agenten zusammenarbeiten, um komplexe, mehrstufige Workflows zu unterstützen. Der ServiceNow KI-Agenten-Orchestrator koordiniert Teams aus spezialisierten Agenten über Aufgaben, Systeme und Abteilungen hinweg, damit sie gemeinsame Ziele erreichen und Produktivität im großen Maßstab steigern können.

3. Kleine, kontrollierte Schritte

Wenn Führungskräfte KI-Beratungsteams fragen, ob sie mit einer Liste neuer KI-Anwendungsfälle sofort loslegen sollten, lautet die Antwort meist: nein. Der sicherste Weg, mit KI Mehrwert zu schaffen, besteht darin, Kernprozesse zu verbessern, statt ohne ausreichende Erfahrung mit der Governance neue Anwendungsfälle zu verfolgen.

Aus Sicht der Führungskräfte liegt der größte Nutzen von KI darin, zeitaufwendige, manuelle Aufgaben effizienter zu machen. Sie können alte und neue Prozesse parallel laufen lassen, um zu testen, ob KI dieses Versprechen wirklich hält. So können Sie messen, welche Workflow-Variante besser funktioniert, und entscheiden, ob sich eine Weiterentwicklung lohnt oder KI-Ressourcen auf wirkungsvollere Anwendungsfälle verlagert werden sollten.

Hierbei ist es hilfreich, schrittweise vorzugehen. Eine stufenweise KI-Einführung bietet die Kontrolle und den Audit-Trail, die in jeder Phase des Risikomanagements erforderlich sind.

4. Ausfälle einplanen

Planen Sie bei der Einführung eines neuen KI-Systems mit möglichen Ausfällen? Wahrscheinlich nicht. Aber die Realität ist: Auch gut trainierte Modelle können Fehler machen und halluzinieren. Es ist unwahrscheinlich, dass Entwickler mit absoluter Sicherheit sagen können, dass ein von ihnen entwickeltes System keinen einzigen Fehler machen wird.

Entscheidend ist, dass Fehler behoben und ihre Auswirkungen gemindert werden können.
Ein gut konzipiertes KI-System enthält Schutzmaßnahmen, die dazu beitragen, die Auswirkungen von Fehlern auf das unterstützte Produkt oder den unterstützten Service zu reduzieren.

Um Resilienz aufzubauen, müssen Sie die Risiken verstehen, wenn etwas schiefläuft. Außerdem brauchen Sie einen vordefinierten, automatisierten Wiederherstellungsplan, der greift, wenn eine Kontrolle fehlt oder ein Grenzwert überschritten wird.

Da KI die Zukunft von Governance, Risk und Compliance weiter prägt, müssen Chief Risk Officers ihre Unternehmen und Kunden schützen, indem sie Risiken proaktiv steuern.

Erfahren Sie, wie ServiceNow Ihnen dabei helfen kann, die KI für das Risiko- und Sicherheitsmanagement arbeiten zu lassen.