5 overwegingen bij het opbouwen van vertrouwen in generatieve AI
Katie Schmidt, senior manager van het onderzoek naar gebruikerservaringen met AI/machine learning, heeft bijgedragen aan deze blog.
Uit jarenlang onderzoek naar de gebruikerservaring en feedback van klanten is gebleken dat het opbouwen van vertrouwen essentieel is voor het succes van AI. En bij generatieve AI (GenAI) is vertrouwen belangrijker dan ooit.
Bij ServiceNow weten we dat het gebruik van GenAI-mogelijkheden vertrouwen vraagt bij alle betrokken personen; van de beheerders die GenAI instellen en ontwikkelaars die CodeAssist gebruiken tot agenten die GenAI gebruiken om handmatige, repeterende taken te elimineren en aanvragers die snelle oplossingen voor problemen zoeken.
Agenten gebruiken bijvoorbeeld het Now Platform om hen te helpen tickets voor aanvragers op te lossen. GenAI biedt fantastische mogelijkheden die agenten productiever laten werken en alledaagse, repeterende taken (die vaak leiden tot een hoog verloop) verminderen.
Niemand vindt het leuk om op het werk met gefrustreerde, boze mensen te maken te krijgen of om informatie uit een artikel uit de kennisbank te moeten kopiëren en in een chat te plakken omdat een klant de juiste informatie niet kan vinden. Met GenAI kunnen agenten zich weer richten op zinvoller werk.
Eén manier waarop we dat doen is met behulp van uitgebreide use cases voor GenAI in alle workflows. Met behulp van GenAI wordt IT-, HR- en klantcase-informatie automatisch samengevat in onze nieuwe oplossing voor het samenvatten van cases om de afhandelingstijden te versnellen, handmatige processen te minimaliseren en de productiviteit van werknemers te verhogen.
Mensen centraal houden
Ondanks de vele voordelen biedt GenAI ook meer zorgen over beveiliging, regelgeving, gegevenstoegang, privacy en kosten, en overafhankelijkheid van GenAI in plaats van kritisch menselijk toezicht.
Daarom is het van essentieel belang dat we producten ontwerpen en ontwikkelen met behulp van menselijke en verantwoordelijke AI-richtlijnen. Het prioriteren van menselijke ervaringen zal de gewenste GenAI-impact opleveren voor de werknemers en klanten van organisaties.
Kunstmatige intelligentie moet de manier waarop mensen werken verbeteren, maar niet volledig automatiseren of vervangen. Op basis van onderzoek naar gebruikerservaring dat we hebben uitgevoerd met GenAI, kwamen we tot vijf belangrijke overwegingen om een menselijke aanpak te sturen. Deze dragen allemaal bij aan het bredere doel om mensen te helpen vertrouwen op te bouwen en ze het gevoel te geven dat ze controle over het proces hebben.
1. Uitlegbaarheid
Ga ervan uit dat mensen onzeker zijn over AI. Beheer verwachtingen, leg concepten en termen uit en gebruik waar mogelijk ervaringen waar mensen mee bekend zijn. Mensen moeten de voorspellingen van AI begrijpen en interpreteren, met name in de context van hun werk waar ze verantwoordelijk zijn voor de output. AI mag niet ‘magisch’ zijn.
2. Transparantie
Over het algemeen willen werknemers graag AI op het werk uitproberen, maar ze willen ook weten wanneer AI als bron is gebruikt. Geef duidelijk aan wanneer er met AI is gewerkt. Gebruikers moeten begrijpen wat AI heeft gedaan en waarom, en wanneer nodig, moeten gebruikers kunnen uitzoeken hoe het werkt (bijvoorbeeld gegevensbronnen).
3. Feedback kunnen geven
Mensen weten wel dat AI niet perfect is, maar het is belangrijk om duidelijkheid te geven over wat de grenzen zijn. Hierdoor kunnen mensen de controle behouden, feedback geven en de resultaten van GenAI op nauwkeurigheid beoordelen. Laat mensen AI en de bijbehorende voorspellingen dempen, benadrukken of omleiden. Maak het eenvoudig om AI te stoppen of de handelingen snel en met minimale tot geen schade ongedaan te maken.
4. Onboarding en vertrouwen opbouwen
Je AI-strategie moet bestaan uit onboarding, omdat change management nodig is. Het product kan worden voorzien van een aantal onboardingfuncties en functies om vertrouwen in AI op te bouwen. Maar het bedrijf dat de nieuwe gebruikerservaring aanbiedt, moet verwachtingen stellen en stappen ondernemen om mensen te helpen zich hieraan aan te passen. Bedrijven moeten zich richten op snelle winst om snel de waarde te kunnen zien.
5. Gevarieerde gebruikersacceptatie
Tijdens ons proces met AI hebben we bij ServiceNow de verandering in het comfort met, de acceptatie van en het vertrouwen in AI van mensen in de loop der tijd gezien. Meer mensen in verschillende rollen en branches kunnen mogelijk profiteren van GenAI, maar ze moeten de waarde ervan al vroeg kunnen zien.
Besef dat mensen het gebruik van AI zullen benaderen met verschillende mindsets, kenmerken, overtuigingen en niveaus van bereidheid om AI te gebruiken, met name op het werk versus in hun privéleven.
Bij ServiceNow zetten we mensen altijd op de eerste plaats. GenAI vormt hierop geen uitzondering. We streven ernaar om te leren en te groeien met onze klanten en om best practices voor mensgerichte AI aan te bieden die prioriteit geven aan het opbouwen van vertrouwen in de toekomst.
Zoals Bill McDermott, CEO van ServiceNow, zegt: "Vertrouwen is de ultieme menselijke valuta. Het komt te voet en het gaat te paard." We zorgen ervoor dat onze AI-producten dat vertrouwen blijven opbouwen, met één stap per keer.
Meer informatie over generatieve AI bij ServiceNow.