Gezichtsherkenning: het kan, het mag, en het kost niets

Na de oorlog duurde het 60 jaar, tot 2005, voordat er in Nederland draagvlak kwam voor een identificatieplicht (http://bit.ly/2LluHRa). Nu kost het 60 dollar aan software om mensen te herkennen aan de hand van hun gezicht of een foto. Waar 20 jaar geleden nog enorm moeilijk over gedaan werd maakt nu niemand een punt van. Tip voor bestuurders. Maak van alles wat moet iets wat vanzelf gaat en je hebt er geen kind aan.

Foto: iStock

The New York Times experimenteerde met een ongelofelijk simpel gezichtsherkenningssysteem om iemand ongemerkt te kunnen volgen. Voor een slordige zestig dollar wist de software een aantal mensen te herkennen. En dat mag.

De meeste mensen begeven zich elke dag wel in de openbare ruimte: op straat, in de auto, in de trein. Maar een gedetailleerde lijst van alle plekken waar we zijn geweest, en met wie, zouden we over het algemeen als een inbreuk op onze privacy beschouwen. Als er gezichtsherkenning wordt toegepast op de beelden van de vele bewakingscamera’s waar het in onze steden van wemelt, dan komt die privacy in gevaar.

Om aan te tonen hoe simpel het is om iemand ongemerkt te volgen, hebben we eerst foto’s verzameld van mensen die rond het New Yorkse Bryant Park werken (grotendeels afkomstig van de site van hun werkgever). Daarmee gewapend hebben we de gezichtsherkenningsapplicatie van Amazon naar de openbare camerabeelden van dat parkje laten kijken. In negen uur beeldmateriaal detecteerde ons systeem zo 2750 gezichten (niet per se van 2750 verschillende mensen, want één persoon kon op verschillende beelden worden gedetecteerd). Daarbij wist de software een aantal mensen te herkennen, waaronder – met een waarschijnlijkheid van 89% – Richard Madonna, hoogleraar oogmeetkunde aan SUNY College. Totale kosten: een slordige zestig dollar.

Openbare websites

‘Mijn eerste reactie was: ongelofelijk’, zei Madonna, toen we contact opnamen en uitlegden wat we hadden gedaan. ‘Ik schrok ervan hoe makkelijk ik blijkbaar door de software word herkend, want, nou ja… je ziet me alleen van opzij.’ We hadden voor ons experiment foto’s verzameld van openbare websites en we hebben Madonna voor publicatie om toestemming gevraagd.

De afgelopen decennia hebben bedrijven en particulieren miljoenen camera’s opgehangen zoals die waarvan wij de beelden gebruikten in Bryant Park. Zo is er onbedoeld een infrastructuur voor massaal politietoezicht gecreëerd. Vroeger moesten alle beelden door een mens worden bekeken om er iemand op te kunnen herkennen, zodat het onmogelijk was om mensen massaal te volgen. Maar de software voor gezichtsherkenning is zo snel en betrouwbaar geworden dat een vorm van volautomatisch toezicht inmiddels binnen bereik is.

En de wetgever holt achter de feiten aan. Het gebruik van gezichtsherkenning is in de Verenigde Staten nauwelijks aan regelgeving onderworpen. ‘De technologie heeft zich nog sneller ontwikkeld dan ik had gedacht’, zegt Jennifer Lynch, hoofdjurist bij burgerrechtenorganisatie Electronic Frontier Foundation (EFF). Gezien de snelheid waarmee de technologie zich ontwikkelt, zegt ze nu voorstander te zijn van een totaalverbod op het gebruik van gezichtsherkenning door de overheid.

Gevoelige informatie

De camera’s in Bryant Park zijn meer dan tien jaar geleden opgehangen opdat iedereen kan zien of het grasveld al is opengesteld voor recreanten en hoe druk het ’s winters op de ijsbaan is. Volgens de beheerders van het plantsoen zijn ze niet bedoeld als bewakingscamera’s. Maar ons experiment toont aan dat een paar camera’s en software voor gezichtsherkenning volstaan om je dagpatroon in kaart te kunnen brengen: wanneer je elke dag op kantoor komt, met wie je koffie gaat drinken, hoe vroeg je weer naar huis gaat. Op het moment dat Richard Madonna werd herkend, ging hij lunchen met een sollicitant. Zo zie je dat zelfs de middagpauzes van oppassende burgers gevoelige informatie kunnen opleveren.

De politie en andere overheidsinstanties beschikken bovendien over enorme cameranetwerken. Combineer dat met een uitgebreid fotobestand, zoals een register van rijbewijshouders, en je kunt je burgers in de hele regio op de voet volgen. Niets wijst erop dat dit in de Verenigde Staten op grootschalige wijze gebeurt. Maar aan de technologie hoeft het niet te liggen. Vorig jaar beweerden bedrijven dat ze live camerabeelden op miljarden gezichten kunnen doorzoeken.

Gezichtsherkenning wordt al ingezet voor het opsporen van verdachten en vermiste kinderen. Maar burgerrechtenorganisaties waarschuwen voor de funeste invloed op de vrijheid van meningsuiting als de overheid mensen zomaar kan volgen – of bijvoorbeeld deelnemers aan een betoging kan herkennen.

Dat is geen theoretische angst: toen na de dood van Freddie Gray in een politiecel in 2016 tegen de politie van Baltimore werd gedemonstreerd, werden beelden in de sociale media met behulp van gezichtsherkenning afgezocht op betogers tegen wie een arrestatiebevel liep. ‘Als de overheid eenmaal in staat is om je overal te herkennen en te volgen, kun je nooit meer aan het maatschappelijk leven deelnemen of jezelf ergens over uitspreken zonder je identiteit bloot te geven’, zegt Jennifer Lynch.

Misbruik

New York is nog lang niet zover als China, waar de overheid ongeveer één camera op elke zeven burgers heeft hangen. Maar volgens de burgerrechtenvereniging ACLU kan alleen al de politie van Lower Manhattan over de beelden van meer dan negenduizend camera’s beschikken. ‘We vergelijken camerabeelden in de buurt van een plaats delict met foto’s van mensen met een strafblad’, laat politiewoordvoerster Jessica McRorie per e-mail weten. ‘We verzamelen niet massaal willekeurige beelden van onze eigen camera’s, internet of sociale media.’

89%

Het systeem detecteerde 2750 gezichten, waaronder, met een waarschijnlijkheid van 89%, dat van hoogleraar Richard Madonna.

Amazon is een van de bedrijven die gezichtsherkenning voor particulieren aanbiedt. Van die ook door ons gebruikte applicatie, Rekognition, worden door het bedrijf vooral de positieve toepassingen geroemd, zoals het opsporen van vermiste kinderen. Amazon zegt dat klanten zich aan de wet moeten houden en andermans rechten moeten respecteren, maar krijgt kritiek omdat het zijn technologie ook aan opsporingsinstanties slijt. In Oregon wordt Rekognition door de politie van Washington County bijvoorbeeld al gebruikt om daders op te sporen, ook bij lichte vergrijpen zoals winkeldiefstal. En de politie van Orlando in Florida is er een proef mee gestart.

Nog eens duizenden camera’s in New York

Naast de camera’s waarover in het artikel gerept wordt, hangen er nog veel meer in New York. Volgens een inventaris van The New York Times begon de Metropolitan Transportation Authority (MTA) vorig jaar een experiment met de kentekenplaatcamera’s die bij de toegangswegen tot de stad staan opgesteld.

Doel was om te kijken of mensen te herkennen waren door hun voorruit. Maar volgens The Wall Street Journal was dit project, dat veel kritiek kreeg, onsuccesvol.

Ook het Department of Transportation heeft in de hele stad honderden camera’s hangen om het verkeer te monitoren (de beelden kan het publiek gewoon online bekijken). Deze camera’s zouden evenwel een te lage resolutie hebben om gezichtsherkenning mogelijk te maken. Tot slot beschikken ook de LinkNY-kiosken, die zorgen voor gratis wifi in de stad, over twee veiligheidscamera’s.

Maar de eigenaar van de kiosken weigert mee te werken aan gezichtsherkenning en politie en justitie hebben een gerechtelijk bevel nodig om toegang te krijgen tot de beelden. Toch, stelt de Times, roept de aanwezigheid van deze duizenden camera’s privacyvragen op.

Amazon wijst erop dat Rekognition alleen mogelijkheden oppert en geen knopen doorhakt, en dat het waarschijnlijkheidspercentage van elke identificatie moet worden meegewogen in de menselijke besluitvorming. Als het om ordehandhaving gaat, adviseert het bedrijf alleen af te gaan op treffers met een waarschijnlijkheid van minimaal 99%. Maar critici wijzen erop dat de berekening van die percentages ondoorzichtig is en dat het bedrijf gebruikers ook niet kan dwingen zich aan die norm te houden. Geen van onze treffers in Bryant Park voldeed eraan.

Matt Wood, hoofd kunstmatige intelligentie bij Amazon Web Services, geeft toe datRekognition misbruikt kan worden, net als andere informatie waarover justitie kanbeschikken. ‘Als opsporingsinstanties iemands rechten schenden, moeten ze zich daarvoor bij de rechter verantwoorden’, vindt hij. En hij zegt dat het bedrijf nog geen meldingen van justitieel misbruik heeft gekregen. Toch heeft de ACLU het bedrijf in januari per brief gevraagd om deze dienst niet meer aan te bieden aan politie en andere overheidsinstanties. De organisatie vindt dat Amazon wat betreft de bescherming van burgerrechten achterblijft bij Google en Microsoft. ‘De promotieteksten voor Rekognition klinken als een handleiding voor een dictatuur’, stond vorig jaar te lezen in een persbericht van Nicole Ozer, hoofd technologie en burgerrechten bij de Californische ACLU-afdeling.

Getty Images/iStockphoto

Geen wetten

Er zijn in de Verenigde Staten geen federale wetten die het gebruik van gezichtsherkenning aan banden leggen. De meeste staten hebben daar ook geen regelgeving voor (met Illinois en Texas als twee van de weinige uitzonderingen). Net als New York, al is daar vorig jaar in de gemeenteraad wel een voorstel ingediend voor een verordening om bedrijven te verplichten inzage te geven in hun gebruik van deze technologie. Dat zou dan van toepassing zijn op ons experiment, maar niet op het gebruik van gezichtsherkenning door politie en justitie. ‘Juridisch gezien zitten we nog in het Wilde Westen’, zegt Jennifer Lynch van de EFF.

Dat gebrek aan regelgeving zet de deur open voor een breed scala aan toepassingen. In 2007 voegde een politiekorps in Arizona foto’s van alle Hondurese rijbewijshouders en veroordeelde criminelen aan zijn database toe. En volgens een rapport van onderzoekster Clare Garvie van de Georgetown Law School worden bij een korps in Florida maandelijks achtduizend zoekopdrachten uitgevoerd zonder dat de agenten daarvoor een gerede verdenking moeten hebben.

Critici als Garvie en het EFF hebben wel voorstellen voor regelgeving gedaan: dat instanties alleen zoekopdrachten mogen uitvoeren als er sprake is van een gerede verdenking. Dat het gebruikt van een database met gezichten van rijbewijshouders alleen is toegestaan in levensbedreigende situaties. En dat mensen niet mogen worden gevolgd op grond van hun ras, geloof of politieke overtuiging. Amazon roept zelf ook op tot het creëren van een juridisch kader voor menselijke controle en transparantie. Maar volgens sommigen is de technologie zo gevaarlijk dat regelgeving niet volstaat.

Foto: iStock

‘De mensheid kan niet gedijenals de technologie voor gezichtsherkenning niet verboden wordt’, klonk hetvorig jaar in een artikel van Woodrow Hartzog, hoogleraar recht en ICT aan NortheasternUniversity, en Evan Selinger, hoogleraar filosofie aan het Rochester Institute ofTechnology. Hartzog vindt dat gezichtsherkenning radicaal verschilt van andere vormen vantoezicht en unieke gevaren in zich bergt. Je kunt je gezicht moeilijk verbergen en het kan, anders dan vingerafdrukken, van grote afstand worden waargenomen. Grote bestanden met de persoonsgegevens en pasfoto’s van oppassende burgers, zoals het rijbewijsregister, bestaan al. En de camera’s die nu in de openbare ruimte hangen, volstaan al bijna om een vorm van massaal toezicht via gezichtsherkenning op te zetten.

Maar het is misschien te laat voor een moratorium of een verbod. Clare Garvie wijst erop dat gezichtsherkenning al door tal van Amerikaanse politiekorpsen wordt gebruikt. ‘We kunnen politie en justitie niet tot twintigste-eeuwse technologie veroordelen louter omdat er gevaren kleven aan de technologie van nu’, zegt ze.

Richard Madonna, de man die wij in Bryant Park herkenden, heeft wel begrip voor dat dilemma. Hij zegt dat hij aanvankelijk schrok toen hij van ons hoorde, maar dat hij als arts met zijn studenten ook vaak praat over het afwegen van risico’s tegen voordelen. Hij snapt wel dat gezichtsherkenning enorme voordelen kan bieden. Maar misbruik ligt op de loer, zegt hij, als particulieren of instanties die technologie gebruiken om de gangen na te gaan van hele groepen mensen of willekeurige burgers – zelfs iemand die toevallig door Bryant Park loopt.

Bron: New York Times

Vertaler: Frank Lekens

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Deze site gebruikt Akismet om spam te bestrijden. Ontdek hoe de data van je reactie verwerkt wordt.