Bart Custers in Nieuwsuur over gezichtsherkenning
Hoewel specifieke wetgeving ontbreekt mag de politie van minister Yeşilgöz (Justitie en Veiligheid) experimenteren met gezichtsherkenningstechnologie. Sinds 2019 mocht de politie dit niet omdat er geen juridische en ethische waarborgen voor waren. Maar de politie ontwikkelde ongeveer een jaar geleden zelf een document met uitgangspunten voor de inzet van gezichtsherkenning. Voor de minister is dat voldoende om experimenten toe te staan. Bart Custers, hoogleraar Law & Data Science bij eLaw, het centrum voor recht en digitale technologie, is hier kritisch over in de uitzending van Nieuwsuur op 5 januari 2024 op NPO2.
Momenteel wordt er gewerkt aan Europese wetgeving, de zogeheten AI Act, die kunstmatige intelligentie reguleert. Het toepassen van AI en gezichtsherkenning in de opsporing wordt dan beter gereguleerd. Het huidige kader van de politie houdt daarmee onvoldoende rekening.
Custers geeft aan dat in veel gevallen zaken nooit bij een rechter uitkomen. Met name juist in een situatie waar iemand niet schuldig is of niks misdaan heeft, komt het nooit tot een zaak bij de rechter. Maar ondertussen zijn er wel inbreuken gemaakt op de rechten van mensen. De huidige interne toetsing van de politie is dan onvoldoende, er zouden ook externe experts moeten meekijken, bijvoorbeeld op het gebied van privacy en andere grondrechten.
Een ander aandachtspunt is dat de huidige gezichtsherkenningstechnologie niet altijd betrouwbaar is. In de uitzending komt iemand aan bod die onterecht door de technologie als verdachte wordt aangemerkt. Custers geeft aan dat dit regelmatig voorkomt en dat de technologie bovendien minder betrouwbaar is voor bepaalde etnische groepen, omdat AI regelmatig getraind wordt op datasets waarin bias zit.
Meer informatie over het door de politie ontwikkelde document is terug te vinden op de website van Nieuwsuur. De uitzending van 5 januari 2024 op NPO2 kunt u hier terug kijken.