Compliance mit dem EU-Gesetz zur KI – eine kurze Erläuterung

Laut dem KI-Reifeindex für Unternehmen 2025 von ServiceNow erwarten 82 % der KI-Vorreiter, dass die Ausgaben für künstliche Intelligenz im nächsten Jahr steigen. KI-Vorreiter sind Unternehmen, die ihren Mitbewerbern bei der KI-Implementierung einen Schritt voraus sind. Mehr als zwei Drittel (67 %) der befragten Unternehmen geben an, dass KI die Bruttomarge ihres Unternehmens erhöht hat.

Trotz der Vorteile von KI äußerten die Umfrageteilnehmer auch Bedenken hinsichtlich der Datensicherheit. Verantwortungsvolle KI ist unerlässlich.

KI-Governance-Frameworks können Unternehmen dabei unterstützen, KI sicher und richtlinienkonform zu implementieren. Die globalen Bemühungen in diesem Bereich nehmen zu: Laut der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) gibt es mehr als 1.000 KI-Richtlinieninitiativen in 69 Ländern, Regionen und in der EU.

Ein wichtiges Beispiel ist das EU-Gesetz zur künstlichen Intelligenz. Unternehmen, die KI-Agenten und andere KI-Systeme bereitstellen, müssen sich möglicherweise an diese zentrale Gesetzgebung halten. Sehen wir uns die wichtigsten Teile des EU-Gesetz zur künstlichen Intelligenz an. Wir zeigen Ihnen, wie ServiceNow Unternehmen dabei unterstützt, KI verantwortungsvoll einzusetzen.

Was ist das EU-Gesetz zur künstlichen Intelligenz?

Das EU-Gesetz zur künstlichen Intelligenz stellt eine Gesetzgebung dar, die von der Europäischen Kommission entwickelt wurde, um die Implementierung von KI zu regeln. Es fungiert als das Regelwerk für den Einsatz der künstlichen Intelligenz in der EU.

Die Implementierung erfolgt schrittweise. Zwar trat das Gesetz offiziell im August 2024 in Kraft, doch wichtige Bestimmungen werden schrittweise bis August 2027 eingeführt, um den Unternehmen genügend Zeit zu geben, sich anzupassen.

KI-Systeme, die das höchste Risiko darstellen, wurden durch das Gesetz im Februar 2025 verboten. Dazu gehören Technologien für Predictive Policing (vorausschauende Polizeiarbeit), Live-Gesichtserkennung und die Erfassung biometrischer Daten aus sozialen Medien. Die Regeln für universelle KI-Modelle (general-purpose AI, GPAI) treten im August 2025 in Kraft.

Die EU bereitet derzeit mehr als 20 ergänzende Rechtsvorschriften vor. ServiceNow arbeitet mit der Business Software Alliance (BSA) zusammen, um die Entscheidungsfindung in der EU zu unterstützen und unser Know-how im Bereich der KI-Governance weiterzugeben.

Wie können Unternehmen KI verantwortungsvoll arbeiten lassen?

Eine robuste Governance ist entscheidend für eine effektive KI im Unternehmen. Führungskräfte müssen sicherstellen, dass die Implementierungen in ihren Unternehmen den globalen Compliance-Frameworks entsprechen, denen sie unterliegen.

Für Unternehmen, die in der EU tätig sind und sich an das KI-Gesetz der EU halten müssen, bedeutet das Compliance.

Unternehmen sollten Risikobewertungen durchführen, um KI-Anwendungen zu klassifizieren. Für Anwendungen, die ein hohes Risiko darstellen, sind möglicherweise Strategien zur Risikominderung erforderlich, z. B. behördliche Berichterstattung und Transparenz bei Entscheidungsprozessen.

Eine KI-Orchestrierungsplattform wie die ServiceNow AI Platform kann die unternehmensweite Überwachung von KI-Systemen unterstützen, indem sie eine zentrale Kontrollstelle für die Verwaltung von KI-Modellen bereitstellt. Dies kann dazu beitragen, einheitliche Governance-Richtlinien über alle KI-Systeme hinweg durchzusetzen. Dazu werden Funktionen wie Zugriffsverwaltung, Echtzeit-Berichterstellung und eingebettete Datenschutzfunktionen eingesetzt.

Es ist außerdem wichtig, die KI-Kompetenz der Mitarbeiter zu fördern. KI-Schulungen können Mitarbeitern dabei helfen, ethisches Handeln in Bezug auf KI – wie Fairness, Nichtdiskriminierung und den Schutz von Grundrechten – zu verstehen. So wird sichergestellt, dass KI-Systeme sicher implementiert werden.

Wie werden Risiken gemäß dem EU-Gesetz zur künstlichen Intelligenz klassifiziert?

Das EU-Gesetz zur künstlichen Intelligenz beinhaltet ein risikobasiertes Klassifizierungssystem. Die KI wird in vier Kategorien unterteilt, die im Folgenden zusammengefasst werden:

1. Inakzeptables Risiko: KI-Systeme, die die Sicherheit oder grundlegende Menschenrechte bedrohen, werden verboten. Jedes Unternehmen, das sie nutzt, riskiert schwere Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

2. Hohes Risiko: KI-Systeme, die in sensiblen Bereichen wie dem Recruiting, in kritischen Infrastrukturen und in der Strafverfolgung verwendet werden, sind unter strengen Regeln zulässig. Sie müssen strenge Anforderungen erfüllen. Dazu müssen unter anderem Risikomanagement-Praktiken eingeführt, eine angemessene Dokumentation gepflegt und ein bestimmtes Maß an menschlicher Aufsicht sichergestellt werden.

3. Begrenztes Risiko: Für KI-Systeme mit niedrigerem Risikoprofil, wie Chatbots oder Deep-Fake-Systeme, sind die Auflagen geringer. Sie müssen bestimmte Transparenzverpflichtungen erfüllen, z. B. die Anwender darüber informieren, wann sie mit einem KI-Service interagieren.

4. Minimales Risiko: KI-Systeme, die interne Prozesse unterstützen, wie z. B. Schreibassistenten oder E-Mail-Filter, bergen weniger Risiken und sind nicht mit zusätzlichen Verpflichtungen verbunden.

Das EU-Gesetz zur künstlichen Intelligenz klassifiziert GPAI-Modelle auch in zwei Kategorien, die nachstehend zusammengefasst sind:

• Anbieter von GPAI-Modellen, z. B. von großen Sprachmodellen, müssen bestimmte Anforderungen erfüllen, damit nachgelagerte Anbieter sie in ihre KI-Systeme integrieren können.

• GPAI-Modelle, die ein „systemisches Risiko“ darstellen, also die fortschrittlichsten Modelle mit sehr hoher Rechenleistung, unterliegen zusätzlichen Verpflichtungen. Unternehmen müssen beispielsweise wichtige Vorfälle dokumentieren und offenlegen sowie systemische Risiken mindern.

Sollte Compliance nicht gewährleistet werden und sollten dadurch Risiken wie die Nichteinhaltung von Transparenzanforderungen oder die Bereitstellung falscher Informationen an Regulierungsbehörden entstehen, können Strafen anfallen.

Wie kann ServiceNow helfen?

Gesetzliche Verpflichtungen können es den Unternehmen schwer machen, KI agil zu implementieren und die Einhaltung regulatorischer Frameworks vollständig zu gewährleisten.

Um Unternehmen bei der Erfüllung ihrer Compliance-Anforderungen zu unterstützen, ermöglicht die ServiceNow AI Platform Unternehmen die Steuerung, Verwaltung und Optimierung aller KI-Initiativen, einschließlich interner Builds, Drittanbietermodelle, Agenten und eingebetteter KI in Software-as-a-Service (SaaS).

Die ServiceNow KI-Kontrollstelle ermöglicht es Unternehmen, den KI-Betrieb unternehmensweit verantwortungsvoll umzusetzen und zu skalieren und das EU-Gesetz zur künstlichen Intelligenz und andere gesetzliche Anforderungen einzuhalten. Führungskräfte im Unternehmen können die volle Kontrolle über KI-Initiativen übernehmen und dabei helfen, Risiken zu mindern, Auswirkungen nachzuverfolgen und KI-Agenten nahtlos zu koordinieren.

Erfahren Sie mehr darüber, wie ServiceNow Ihr Unternehmen bei Governance, Risiko und Compliance unterstützen kann.