[D66] 'Massaal gezichtsverlies dreigt voor de samenleving'

[A.OUT]

Massaal gezichtsverlies dreigt voor de samenleving
By
netkwesties.nl
4 min
View Original
13/9/2019

Je gezicht is niet van jou

Massaal gezichtsverlies dreigt voor de samenleving
door Sander Duivestein

NOS-presentator Dione Stax werd onlangs opgeschrikt door het nieuws dat
ze de hoofdrol speelt in een seks¬video. Met behulp van deepfake
technologie is haar hoofd geplakt op het lichaam van een pornoster.

In China is de ZAO-app, waarmee je in een handomdraai jezelf
hoofdrolspeler maakt in een film, een hit. Met het gebruik van de niet
van de echte te onderscheiden stem van een Britse ceo, konden criminelen
onlangs 220.000 euro buitmaken.

Iedereen kan intussen met slimme technologie de bizarste wisseltrucs
toepassen. Grappig, maar tegelijkertijd enorm riskant. Als er niet snel
maatregelen komen, lijdt de samenleving massaal gezichtsverlies, in tal
van opzichten. Het is de hoogste tijd dat burgers de controle terugkrijgen.

Trucage fluitje van een cent

Technieken als beeldherkenning en software die stemmen herkent, bestaan
al langer, maar stelden tot voor kort niet veel voor. Nu kunstmatige
intelligentie in een razend tempo beter en slimmer wordt, is ­trucage
met andermans gezicht of stem een fluitje van een cent. En juist de
combinatie van technische doorbraken en het grootschalige gebruik van
beeld- en spraaktechnologie is zo giftig.

De software heeft namelijk nog verschillende kinderziektes. Zo werden
120 gezichten van wetgevers door het herkenningsalgoritme van Amazon
beoordeeld, waarvan er 26 onterecht als crimineel werden bestempeld. De
onderzoekers Joy Buolamwini van het Massachusetts Institute of
Technology in de Verenigde Staten en Timnit Gebru - toen werkzaam bij
Microsoft Research - toonden gebreken in de meest geavanceerde software
voor gezichtsherkenningssoftware: in 35 procent van de gevallen
identificeerde ze vrouwen met een donkere huid onnauwkeurig te
identificeren, terwijl het foutenpercentage bij blanke mannen slechts 1
procent bedroeg. (Hun onderzoek bundelen ze op Gendershades.org

Recent kondigde Amazon aan dat herkenningstechnologie Rekognition
drastisch verbeterd is. Naast de zeven emoties 'blij', 'verdrietig',
'boos', 'verrast', 'walging', 'kalm' en 'verward' is daar de nieuwe
emotie 'angst' aan toegevoegd. Voor maximaal $0.001 per plaatje
analyseert de software het gezicht voor klanten. Ook kan de software nu
beter het geslacht en de leeftijd herkennen. Het lijkt een kwestie van
tijd voordat zulke uitbreidingen worden toegepast op het uitgebreide
netwerk van camera’s.

Politiekorpsen, vliegtuigmaatschappijen, smartphoneleveranciers,
voetbalstadions en fastfoodrestaurants, tal van organisaties zijn bezig
met de aanleg van een slimme infrastructuur waarmee burgers niet langer
fysiek of digitaal anoniem door het leven kunnen. Al die gezichts- en
beeldherkenningstechnologie wordt met of zonder toestemming gebruikt en
vaak zonder dat de burger er ook maar enig benul van heeft.

De burger heeft ook nauwelijks invloed op al deze ontwikkelingen. Een
vliegreis maken zonder dat je gezicht bij de douane wordt
gefotografeerd, kan niet meer. Je gegevens op je eigen computer
beschermen lukt bijna niemand. Laat staan dat je als burger-klant bij
machte bent je gezicht of stem te beschermen tegen, bijvoorbeeld, de
grote technologiebedrijven van deze wereld.

George Orwell en Albert Heijn

Albert Heijn presenteerde afgelopen week trots zijn nieuwe winkelconcept
waarbij technologie het mogelijk maakt boodschappen af te rekenen zonder
producten te scannen. Camera’s registreren hoe een klant zich door de
winkel verplaatst en welke producten het mandje ingaan. Sensoren in de
schappen voelen dat een klant iets pakt of terugzet. De camera’s bepalen
de ­positie van klanten zonder gezichtsherkenning, zo verklaarde de
grootgrutter. Maar welke wet of regel houdt Albert Heijn tegen om
betaling met het gezicht mogelijk te maken? Ons gezicht is niet langer
van onszelf. Met kijken in camera’s of praten tegen digitale assistenten
­geven we voortdurend een stukje van ons zelf weg.

Als gezichten en stemmen massaal worden ge- of misbruikt voor welk doel
dan ook, dan ligt een identiteitscrisis op de loer. Het valt straks
nauwelijks nog te bewijzen wie je bent als je gezicht en je stem niet
langer van jou zijn. Met alle gevolgen van dien voor privacy.

Mensen die geen privacy kennen en weten dat ze overal worden herkend of
gevolgd, zijn geneigd bepaalde gedragingen te onderdrukken of zichzelf
te corrigeren tot, zoals dat heet, geoorloofd ­gedrag. Deze vorm van
afschrikking heet juridisch het ‘chilling effect’: het is vrijheid onder
voorbehoud.

Een samenleving waar iedereen voortdurend in de gaten wordt gehouden.
Waar elke beweging en elke emotie door kunstmatige intelligentie wordt
beoordeeld. Het is een toekomstscenario dat rechtstreeks uit George
Orwell's 1984 afkomstig is:

‘Het was levensgevaarlijk om je gedachten te laten afdwalen wanneer je
in een openbare gelegenheid was of binnen bereik van een telescherm. De
kleinste kleinigheid kon je verraden. Een nerveuze tic, een onbewust
angstige uitdrukking, een gewoonte om in jezelf te mompelen – alles wat
maar leek te wijzen op abnormaliteit, dat je iets te verbergen had. In
elk geval was het op zichzelf al strafbaar je gezicht een ongepaste
uitdrukking te geven (bijvoorbeeld ongelovig te kijken wanneer er een
overwinning werd bekendgemaakt). Daarvoor bestond in Nieuwspraak zelfs
een woord: misblik heette dat.’

Straf op stelen stem

De Canadese psycholoog en cultuurcriticus Joran Peterson is voorvechter
van het bestraffen van stelen van de menselijke stem. Ongeacht de
intentie zegt hij daarbij. Of het nu grappig bedoeld is of niet. Het is
de wrange conclusie die hij heeft getrokken uit het experiment dat
anderen zonder zijn medeweten met zijn stem hielden.

Op de website notjardanpeterson (tijdelijk inactief) konden mensen
allerlei vreselijke teksten intikken om die vervolgens door de professor
zelf uit te laten spreken. Althans, door een levensechte kunstmatige
AI-stem. Nadat Jordan Peterson zelf getroffen werd door nepverhalen uit
zijn eigen mond, pleitte hij voor bescherming van iemands stem als
integraal onderdeel van onze persoonlijke identiteit.

Het is een teken van deze tijd dat Facebook sinds deze week de
mogelijkheid om het identificeren van gezichten op foto's heeft
uitgezet. Dit is zelfregulering, maar grip krijgen op onze toekomst
kunnen we niet aan de Big Tech overlaten. Zij verdienen immers miljarden
aan onze data. De zwaarbevochten persoonlijke vrijheid moet het
uitgangspunt zijn voor nieuwe maatregelen.

Zo moet wetgeving dieper ingrijpen op het vastleggen, opslaan,
beveiligen en gebruiken van gezichts- en geluidstechnologie. Daarnaast
moet het publieke debat aangewakkerd worden, zodat we als samenleving
proactief en expliciet verwoorden in wat voor een
surveillancemaatschappij we willen leven.

De ruimte voor fouten is klein. Onze gezichten kunnen we niet resetten,
zoals we dat met onze wachtwoorden wel kunnen doen.