Het bewustzijn omtrent ethiek bij gebruik van kunstmatige intelligentie (AI) is toegenomen bij bedrijven en overheid. Dat blijkt uit onderzoek van Capgemini: ‘AI and the ethical conundrum: How organizations can build ethically robust AI systems and gain trust’. Toch is er bij slechts 53 procent van de ondervraagde bedrijven een manager aangesteld die verantwoordelijk is voor ethische en betrouwbare AI-systemen. Volgens het rapport is focus op ethische aspecten van AI noodzakelijk om het potentieel van de technologie voor het milieu, de economie en de maatschappij te realiseren.
Steeds meer organisaties zien de noodzaak om actie te ondernemen met betrekking tot ethische AI-systemen: 45 procent heeft in 2020 een AI-handvest opgesteld en 65 procent van de managers is zich ervan bewust dat AI-systemen tot discriminerende beslissingen kunnen leiden. Ruim de helft (58 procent) geeft ook aan dat ze hun medewerkers hebben geïnformeerd over de mogelijke effecten van het gebruik van AI.
De Capgemini-studie onderzocht AI-systemen op basis van vier ethische dimensies: verklaarbaarheid, eerlijkheid, controleerbaarheid en transparantie. In 2020 is alleen de verklaarbaarheid verbetert, concludeert het rapport. Volgens het onderzoek kan 64 procent van de organisaties de werking van hun AI-systemen in eenvoudige taal verklaren. Op dit gebied denkt 40 procent van de AI-ontwikkelaars en 27 procent van de AI-gebruikers in marketing en sales te begrijpen hoe beslissingen door AI worden genomen. Dat is magertjes tegenover de 71 procent consumenten die verwachten dat bedrijven in staat zijn hun AI-beslissingen nauwkeurig te herleiden. Bovendien gaat 66 procent van de consumenten er vanuit dat AI-modellen eerlijk en zonder vooroordelen handelen en dat de interacties transparant zijn.
Transparantie in Nederland onveranderd
Het aantal bedrijven dat onafhankelijke audits van hun AI-systemen uitvoert is met één procentpunt gedaald tot 45 procent. Het aantal bedrijven dat transparante informatie verstrekt aan AI-gebruikers over de mogelijke effecten van AI-beslissingen, is het sterkst gedaald: van 73 naar 59 procent. In Nederland bleef dit percentage overigens onveranderd op 71 procent. Wereldwijd daalde het vertrouwen van consumenten in AI van 76 procent in 2019 naar 62 in 2020. Volgens het rapport is dit indicatief voor de huidige situatie die is ontstaan door de coronapandemie, maar ook voor de maatschappelijke en ecologische behoeften, de toenemende complexiteit van AI-modellen en verandering in het consumentengedrag die allemaal de functionaliteiten van bestaande AI-modellen hebben verstoord.
Manager voor ethisch verantwoorde AI
Bedrijven zouden een verantwoordelijke manager, een Chief Ethics Officer, in het leven moeten roepen om te zorgen voor ethisch verantwoorde AI-systemen, stelt het rapport van Capgemini. Op dit moment heeft slechts 53 procent van de ondervraagde bedrijven zo’n manager. Een ombudsman of hotline, waar klanten en medewerkers terecht kunnen met ethische vragen over AI, is ook slechts in één op de twee bedrijven beschikbaar. Capgamini benadrukt in het rapport zeven belangrijke maatregelen die cruciaal zijn voor het bouwen van een ethisch robuust AI-systeem en die gebaseerd moeten zijn op een sterk fundament van leiderschap, governance en interne processen:
- Het beoogde doel van het AI-systeem moet nauwkeurig beschreven kunnen worden door bedrijven en ze moeten het potentiële totale effect kunnen bepalen.
- Organisaties moeten actief AI gebruiken ten behoeve van de samenleving en het milieu.
- Bedrijven moeten de beginselen van diversiteit en inclusie gedurende de gehele levenscyclus van AI-systemen verankeren.
- Ze moeten de transparantie optimaliseren met behulp van geschikte technologische hulpmiddelen.
- Ze moeten er bovendien voor zorgen dat AI-ervaringen mensgericht zijn en dat deze systemen onder menselijk toezicht staan.
- Organisaties moeten ervoor zorgen dat AI-systemen technisch robuust zijn.
- En tot slot moeten ze de privacy beschermen door gebruikers controle te geven over hun AI-interacties.
