Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij. Daarom pleiten de Europese privacytoezichthouders, waaronder de Nederlandse Autoriteit Persoonsgegevens, voor een totaalverbod op real time biometrie in de openbare ruimte.
De Europese privacytoezichthouders, verenigd in de European Data Protection Board (EDPB), hebben gereageerd op een wetsvoorstel van de Europese Commissie over kunstmatige intelligentie (AI).
De EDPB en de European Data Protection Supervisor (EDPS) vinden dat de risico’s van gezichtsherkenning te groot zijn om deze techniek in de openbare ruimte toe te staan. Dit geldt ook voor vergelijkbare technieken, zoals stemherkenning en bewegingsherkenning.
Volgens de twee organisaties zorgt dergelijk gebruik van beveiligingscamera’s voor een beklemmend gevoel en gaan mensen zich minder vrij voelen.
Discriminatie
De EDPB en EDPS hebben echter nog meer bezwaren. Ze pleiten voor een verbod op AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur omdat dit discriminatie in de hand werkt.
Naast al deze persoonskenmerken mag emotieherkenning ook niet gebruikt worden als het aan de privacytoezichthouders ligt. “Aan emotieherkenning kunnen grote risico’s zitten voor de vrijheid van burgers. Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen.”
Het wetsvoorstel van de Europese Commissie over het gebruik van gezichtsherkenning gaat over veel verschillende systemen, maar legt vooral extra regels op voor systemen met een hoog risico voor burgers, concludeert de EDPB. Zoals algoritmes die gaan over toeslagen of uitkeringen van de overheid voor burgers.
