Compliance met Europese AI-verordening uitgelegd

Volgens de ServiceNow Enterprise AI Maturity Index 2025 verwacht 82% van de AI-pacesetters, organisaties die vooroplopen bij het inzetten van AI, in het komende jaar de AI-uitgaven te verhogen. Meer dan twee derde (67%) van de ondervraagde bedrijven zegt dat AI de brutomarge van hun organisatie heeft verhoogd.

Ondanks de voordelen van AI hebben respondenten ook hun bezorgdheid geuit over gegevensbeveiliging. Verantwoorde AI is essentieel.

Frameworks voor AI-governance kunnen organisaties helpen AI veilig in te zetten. Wereldwijde inspanningen nemen toe: Volgens de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) zijn er meer dan 1.000 AI-beleidsinitiatieven in 69 landen, gebieden en de EU.

Een belangrijk voorbeeld is de Europese AI-verordening. Organisaties die AI-agents en andere AI-systemen inzetten, zijn mogelijk verantwoordelijk voor het naleven van deze cruciale wetgeving. Laten we de belangrijkste onderdelen van de Europese AI-verordening onderzoeken en ontdekken hoe ServiceNow organisaties helpt om AI op verantwoorde wijze in te zetten.

Wat is de Europese AI-verordening?

De Europese AI-verordening is wetgeving die door de Europese Commissie is ontwikkeld om het gebruik van AI te regelen. Het fungeert als een regelboek voor het gebruik van AI in de EU.

Implementatie is gefaseerd. Hoewel de wet officieel in augustus 2024 in werking is getreden, worden de belangrijkste bepalingen geleidelijk tot augustus 2027 geïmplementeerd, waardoor organisaties tijd hebben om zich aan te passen.

AI-systemen die het hoogste risiconiveau vormen, werden bij wet in februari 2025 verboden. Deze omvatten technologieën voor voorspellend toezicht, live gezichtsherkenning en het verzamelen van biometrische gegevens van sociale media. De regels voor algemene AI-modellen (GPAI) worden in augustus 2025 van kracht.

De EU bereidt meer dan twintig ondersteunende wetgevingsstukken voor ter aanvulling van de wet. ServiceNow werkt samen met Business Software Alliance (BSA) om EU-besluitvorming te begeleiden en deelt onze expertise op het gebied van AI-governance.

Hoe kunnen bedrijven AI verantwoord aan het werk zetten?

Robuuste governance is cruciaal voor effectieve AI in de onderneming. Leidinggevenden moeten ervoor zorgen dat hun gebruik voldoet aan de wereldwijde frameworks voor compliance waaraan ze zijn onderworpen.

Voor ondernemingen die actief zijn in de EU en onderworpen zijn aan de Europese AI-verordening, betekent dit compliance.

Organisaties moeten overwegen risicobeoordelingen uit te voeren om AI-toepassingen te classificeren. Voor toepassingen met hoog risico, zoals rapportage over regelgeving en transparantie in besluitvormingsprocessen, kunnen risicobeperkende strategieën nodig zijn.

Een AI-orkestratieplatform, zoals het ServiceNow AI Platform, kan organisatiebreed toezicht op AI-systemen ondersteunen en biedt een gecentraliseerd commandocentrum voor het beheer van AI-modellen. Dit kan helpen bij het afdwingen van consistent governancebeleid voor alle AI-systemen, via functies zoals toegangsbeheer, realtime rapportage en geïntegreerde privacymogelijkheden.

Het is ook belangrijk om AI-vaardigheden onder werknemers te bevorderen. AI-training kan werknemers helpen om inzicht te krijgen in AI-ethiek, waaronder eerlijkheid, non-discriminatie en bescherming van grondrechten, om ervoor te zorgen dat AI-systemen veilig worden ingezet.

Hoe classificeert de Europese AI-verordening mogelijke risico's?

De Europese AI-verordening voorziet in een op risico's gebaseerd classificatiesysteem. Deze verdeelt AI in vier categorieën, die hieronder worden samengevat:

1. Onaanvaardbaar risico: AI-systemen die de veiligheid of de fundamentele mensenrechten bedreigen, zijn verboden. Elke organisatie die ze gebruikt, loopt het risico op zware financiële boetes tot 35 miljoen euro, of 7% van de wereldwijde jaaromzet, afhankelijk van wat hoger is.

2. Hoog risico: AI-systemen die worden gebruikt in gevoelige gebieden zoals werving, kritieke infrastructuur en wetshandhaving zijn toegestaan onder strikte regels. Ze moeten voldoen aan strenge vereisten, waaronder het vaststellen van risicobeheerpraktijken, het onderhouden van toereikende documentatie en het waarborgen van een bepaald niveau van menselijk toezicht.

3. Beperkt risico: Er gelden minder vereisten voor AI-systemen met lagere risicoprofielen, zoals chatbots of deep-fakesystemen. Ze moeten voldoen aan bepaalde transparantieverplichtingen, zoals het informeren van gebruikers wanneer ze communiceren met een AI-service.

4. Minimaal risico: AI-systemen die interne processen ondersteunen, zoals schrijfassistenten of e-mailfilters, hebben minder risico's en er zijn geen extra verplichtingen voor het gebruik van deze systemen.

De Europese AI-verordening classificeert GPAI-modellen ook in twee categorieën, die hieronder worden samengevat:

• Aanbieders van GPAI-modellen, zoals grote taalmodellen, moeten aan bepaalde vereisten voldoen om downstream providers in staat te stellen deze in hun AI-systemen op te nemen.

• Er zijn extra verplichtingen voor het gebruik van GPAI-modellen die ‘systematische risico's’ opleveren, de meest geavanceerde modellen met een zeer hoog computervermogen. Organisaties moeten bijvoorbeeld belangrijke incidenten documenteren en openbaar maken en systematische risico's beperken.

Er kunnen sancties worden opgelegd voor gevallen van non-compliance die risico's inhouden, zoals het negeren van transparantievereisten of het verstrekken van onjuiste informatie aan regelgevende instanties.

Wat kan ServiceNow voor je betekenen?

Wettelijke verplichtingen kunnen het voor organisaties lastig maken om AI flexibel in te zetten en volledig te blijven voldoen aan wettelijke frameworks.

Om organisaties te helpen aan hun compliancevereisten te voldoen, stelt het ServiceNow AI Platform organisaties in staat alle AI-initiatieven te besturen, te beheren en te optimaliseren, inclusief interne builds, modellen van derden, agents en AI die is ingesloten in software as a service (SaaS).

Met de ServiceNow AI Control Tower kunnen bedrijven AI-activiteiten op verantwoorde wijze in de hele organisatie inzetten en schalen, en voldoen aan de Europese AI-verordening en andere wettelijke vereisten. Leidinggevenden in de organisatie kunnen volledige controle krijgen over AI-initiatieven, waardoor risico's worden beperkt, de impact wordt bijgehouden en AI-agents naadloos worden gecoördineerd.

Lees meer over hoe ServiceNow je organisatie kan ondersteunen met governance, risico's en compliance.