4 manieren waarop EMEA-organisaties responsible AI prioriteit kunnen geven

AI speelt een steeds grotere rol in bedrijfsactiviteiten. Naarmate het gebruik ervan toeneemt, ontstaan er ook meer zorgen over hoe AI op een verantwoorde en ethische manier geïmplementeerd kan worden. Volgens recent onderzoek van Stanford University maakt meer dan de helft van de Europese organisaties zich zorgen over de impact van AI op privacy en data governance. Nog eens 45% twijfelt aan de betrouwbaarheid van AI en 49% heeft twijfels over de transparantie van AI.

Het is gemakkelijk te begrijpen waarom nieuwe technologieën die beloven routinetaken te automatiseren en nieuwe inzichten te creëren, zo snel worden geïmplementeerd. Het dilemma zit hem echter in het vinden van een evenwicht tussen het stimuleren van innovatie en het beschermen tegen mogelijke risico's. Bevooroordeelde, ondoorzichtige of slecht beheerde AI-systemen kunnen het vertrouwen van klanten en werknemers snel ondermijnen.

Organisaties in Europa, het Midden-Oosten en Afrika (EMEA) die AI op ethische wijze willen gebruiken, moeten een basis van gezonde principes opbouwen. De volgende vier aandachtspunten vormen een basis voor het in de praktijk brengen van responsible AI.

1. Zet mensen op de eerste plaats

Een kernprincipe is dat menselijke behoeften altijd centraal moeten staan in de ontwikkeling van AI. In plaats van technologie te implementeren puur om te innoveren, moet AI echte gebruikersproblemen en belemmeringen oplossen. Een op mensen gerichte aanpak betekent het vaststellen van ethische normen gedurende de gehele levenscyclus: van de eerste ontwerpfase tot de implementatie en voortdurende verbetering.

Met dit in het achterhoofd biedt het ethische AI-framework van UNESCO een praktisch uitgangspunt dat organisaties kunnen volgen. Dit framework gaat uit van eerlijkheid en non-discriminatie, transparantie, verantwoordingsplicht en menselijk toezicht.

2. Maak AI inclusief

In tegenstelling tot andere technologieën leert AI van de gegevens waarmee het is getraind en van de mensen die het ontwikkelen. Als deze gegevens en teams niet divers zijn, zal het resultaat waarschijnlijk vooroordelen vertonen die leiden tot oneerlijke behandeling van ondervertegenwoordigde groepen. Aangezien AI steeds vaker wordt toegepast voor essentiële onderdelen zoals klantenservice en vacatures, is het van groot belang om te voorkomen dat sociale ongelijkheden nog groter worden.

Diversiteit en vertegenwoordiging moeten de hoogste prioriteit hebben om AI te creëren waar daadwerkelijk iedereen baat bij heeft. Ontwikkelingsteams en -gegevens moeten individuen omvatten uit verschillende culturen, geslachten, leeftijden en expertisegebieden om een groot aantal perspectieven samen te brengen die onbewuste vooroordelen tegengaan.

Door tijdens elke fase, van teamsamenstelling tot gebruikerstests, prioriteit te geven aan diversiteit en vertegenwoordiging kunnen organisaties AI-systemen creëren die voor iedereen beter werken. Het doel moet zijn om de toegang tot de voordelen van AI te democratiseren, zodat de technologie toegankelijk en inclusief is voor alle klanten, werknemers en belanghebbenden waarmee bedrijven omgaan.

3. Bouw vertrouwen op met transparantie

Om AI op schaal vertrouwen te laten winnen, moet er inzicht zijn in hoe het werkt. Documentatie over de werking van modellen, de beoogde use cases en beperkingen zijn essentieel om transparantie rond de technologie te garanderen. Het overcommuniceren van eventuele onzekerheden en beperkingen is ook cruciaal, zodat werknemers en klanten realistische verwachtingen hebben van wat AI wel en niet kan doen.

Transparantie gaat hand in hand met het afleggen van verantwoording en governance. Dit omvat toezichthoudende instantiesen manieren om problemen te melden. Met dit in het achterhoofd heeft ServiceNow interne instanties opgezet om toezicht te houden op initiatieven en ervoor te zorgen dat deze overeenkomen met ethische normen in de AI-community, waardoor organisaties hun AI-oplossingen met vertrouwen kunnen gebruiken.

4. Vind de juiste balans tussen mens en machine

Hoe geavanceerd ze ook worden, AI-systemen moeten samenwerken met mensen en ze niet vervangen. Organisaties moeten in staat zijn om te kunnen zien waar en hoe AI wordt gebruikt, om de output te interpreteren en om waar nodig AI-beslissingen aan te passen of te overschrijven.

Het behoud van een menselijk oordeel is vooral belangrijk voor AI-use cases die levens aanzienlijk kunnen beïnvloeden. Een bedrijf in financiële dienstverlening dat bijvoorbeeld afhankelijk is van AI bij het beoordelen van leningaanvragen en het verlenen van goedkeuring, zou ten onrechte aanvragen van gekwalificeerde aanvragers kunnen weigeren. Dit gebrek aan menselijk inzicht in het besluitvormingsproces kan klanten in financiële moeilijkheden brengen, de reputatie van het bedrijf schaden en het vertrouwen van het publiek aantasten.

Het uitvoeren van ethische impactbeoordelingen en het instellen van beperkingsplannen kan ervoor zorgen dat AI voordelen oplevert voor mensen, zonder schadelijke gevolgen. In de praktijk bestaat een impactbeoordeling uit een inventarisatie van de mogelijke risico's, zowel vóór als na de inwerkingtreding van een AI-systeem. Dit is essentieel om ervoor te zorgen dat de technologie tijdens het ontwerp, de ontwikkeling en de implementatie in overeenstemming blijft met ethische normen.

Deze principes samenbrengen

Het handhaven van verantwoorde AI-principes is een voortdurende belofte. Organisaties moeten duidelijke richtlijnen opstellen met betrekking tot mensgerichtheid, inclusiviteit, verantwoording en transparantie als leidraad voor alle AI-initiatieven.

Door rekening te houden met deze vier aandachtspunten, kunnen EMEA-bedrijven de mogelijkheden van AI gaan benutten om voor iedereen betere ervaringen te creëren. Het ethische pad is de enige weg naar het bouwen van AI-oplossingen die algemeen vertrouwd, gewaardeerd en toekomstbestendig zijn.

Ontdek hoe ServiceNow kan helpen AI op verantwoorde wijze in te zetten voor je organisatie.