De EU-landen hebben begin december een akkoord bereikt over vergaande regels rond AI, vastgelegd in de AI Act of AI-wet. Er is veel tevredenheid dat de Europese landen oog hebben voor de positieve kanten maar ook voor de gevaren van kunstmatige intelligentie. Toch zijn er ook zorgen. Zo zouden de maatregelen mkb-bedrijven veel geld gaan kosten.
Hoogste risico’s
Openheid en transparantie
Wat betekent de wet voor het mkb?
Wanneer gaat de AI Act in werking?
De AI Act is een baanbrekende wet. De EU is de eerste met een wet die het gebruik van AI, algoritmes en machine learning beperkt en eist dat de risico’s voor mensen en de samenleving tot een minimum worden beperkt. De EU-landen erkennen dat AI tot allerlei nieuwe technologie kan leiden met innovaties die de maatschappij ten goede komen. Maar het gebruik van AI zonder toezicht kan ook gevaren met zich meebrengen. Systemen kunnen discriminerende beslissingen nemen door vooroordelen in de gegevens. AI-systemen kunnen bedoeld of onbedoeld persoonlijke informatie verzamelen, wat de privacy kan schaden. En AI-systemen kunnen fouten maken, wat bijvoorbeeld in de financiële sector of in de gezondheidszorg tot serieuze ongelukken kan leiden. Ook kan verkeerd gebruik van AI-toepassingen tot schade leiden.
Hoogste risico’s
Daarom deelt de wet AI-toepassingen in op risico’s. Het hoogste risico vormen burgervolgsystemen zoals systemen die burgers belonen of straffen, zoals die in China in gebruik zijn. Ook technologie die bedoeld is om gedrag te manipuleren of om stemmingen en gevoelens op het werk of op school te onderscheiden, worden verboden. Ten slotte wordt het verboden om ongericht afbeeldingen van gezichten te verzamelen om een database aan te leggen.
Openheid en transparantie
Fabrikanten van toepassingen voor generatieve AI, zoals ChatGPT, moeten volgens de AI Act openheid geven over de manier waarop ze te werk gaan. Daarbij moeten ze rekening houden met de rechten van de makers van teksten, afbeeldingen en ander materiaal dat de modellen gebruiken om zichzelf te verbeteren. Daarnaast moeten de makers voorkomen dat kwaadwillenden de modellen naar hun hand proberen te zetten om er verkeerde toepassingen mee te ontwikkelen en incidenten op dat gebied melden. Het gebruik van gezichtsherkenning wordt alleen in beperkte mate toegestaan als het de veiligheid dient.
Wat betekent de wet voor het mkb?
Het reguleren van risicovolle toepassingen van AI kan op veel steun rekenen, onder meer van demissionair staatssecretaris Alexandra van Huffelen. Ook brancheverenigingen als NLdigital en DigitalEurope zijn in principe enthousiast. Dat in die brancheverenigingen veel techbedrijven zijn vertegenwoordigd, verklaart wel dat zij extra kritisch zijn. Zo waarschuwen ze voor enkele risico’s, met name voor mkb-bedrijven.
- De AI-regels kunnen ondernemers veel geld gaan kosten. Volgens een rapport van de Europese Commissie zou een mkb-bedrijf met vijftig medewerkers gemiddeld driehonderdduizend euro aan kosten maken om de wet na te leven.
- Bedrijven worden met meer administratie en regels opgezadeld, wat een flinke bureaucratie met zich mee kan brengen.
- Ook vinden de brancheorganisaties dat de AI Act innovaties moet stimuleren en niet moet afremmen. De regels en het risico op flinke boetes kunnen innovatie in de weg staan.
Wanneer gaat de AI Act in werking?
Waar iedereen het over eens is, is dat de wet een leidraad biedt om de ontwikkeling van AI in goede banen te leiden. Als de nieuwe regels dit jaar definitief worden aangenomen, worden ze waarschijnlijk in 2026 allemaal definitief van kracht. De verboden gaan na een half jaar in, de regels over transparantie na een jaar.
