- Corona , Onderzoek
- 16/04/2020
“Met app experimenteren in samenleving is funest”
Lambèr Royakkers, universitair hoofddocent Ethiek en Techniek, is een van de drie TU/e-wetenschappers die de brief ondertekenden waarin wordt gewaarschuwd voor het overhaast invoeren van een tracing-app voor de bestrijding van het coronavirus. “Het is funest om met een app te gaan experimenteren binnen de samenleving. De gevolgen zijn niet te overzien en wellicht onomkeerbaar.”
Wie de brief van zeven kantjes leest die maandag 13 april is gestuurd naar minister-president Mark Rutte, minister Hugo de Jonge (Volksgezondheid) en minister Ferd Grapperhaus (Veiligheid en Justitie), denkt daarna wellicht dat het schier onmogelijk is om een deugdelijke app te ontwikkelen die een oplossing kan bieden bij het opheffen van de ‘intelligente lockdown’. In de brief worden uitgebreid de mogelijke gevaren van zo’n tracing-app opgesomd en worden de kaders geschetst waaraan zo’n app zou moeten voldoen.
Lambèr Royakkers is een van de drie TU/e-wetenschappers die de brief hebben ondertekend. De andere twee zijn Carlo van de Weijer, directeur van het Eindhoven Artificial Intelligence Systems Institute, en Veronika Cheplygina, universitair docent bij Biomedische Technologie. In totaal ondertekenden zestig wetenschappers de brief. De naam van Royakkers is eronder gekomen omdat de opstellers ervan medestanders zochten binnen hun netwerken. Hij staat volledig achter de inhoud.
“Het lijkt alsof de regering als een kip zonder kop een app wil laten ontwikkelen, zonder dat er goed is nagedacht over alle consequenties die daaraan verbonden zijn. Op dit moment valt er niets zinnigs over te zeggen. Hoe effectief is zo’n app? Hoe betrouwbaar moet ie zijn en hoe garandeer je die betrouwbaarheid? Is de anonimiteit gewaarborgd? Hoe zit het verder met de privacy? Hoe zorg je ervoor dat de app geen discriminatie in de hand werkt? Bijvoorbeeld van mensen in de zorg. Als die straks geregistreerd staan als personen die nog recent met coronaslachtoffers in aanraking zijn geweest, mogen ze dan niet meer de supermarkt in?”
Multidisciplinaire groep
De vraag is volgens Royakkers ook wie er bij de ontwikkeling van zo’n app allemaal betrokken moeten worden. “Dat moet een zeer multidisciplinaire groep mensen zijn: uit de zorg, it’ers, app-ontwikkelaars, juristen, ethici, gedragswetenschappers, en vergeet vooral de gebruiker zelf niet. De groep gebruikers waarvoor men iets maakt, wordt namelijk vaak niet om een mening gevraagd.”
Zorgen maakt Royakkers zich ook over de onomkeerbaarheid van zaken die door zo’n app kunnen plaatsvinden. “Het is funest om met zo’n app te gaan experimenteren in de samenleving. Daar moeten strikte voorzorgsmaatregelen aan verbonden zijn. Ik leer mijn studenten dat ze altijd waardenbewust moeten ontwerpen. Dat betekent met een duidelijke visie op waarden als privacy, effectiviteit en autonomie bij de introductie van een technologie, zoals deze app."
"De regering mag dit niet beschouwen als een soort pilot, waarbij je denkt de foutjes er later wel uit te halen. Want dat is dan niet meer mogelijk. Dan gaat het om allerlei privacygevoelige informatie die al gedeeld is. Waar komt dat te staan? Wie mag het bekijken? Ik verwacht dat bij zo’n omvangrijk project ook een groot social-mediabedrijf wordt ingeschakeld. Hoelang blijft de informatie bewaard en hoe wordt gegarandeerd dat die informatie ook weer wordt vernietigd? Of zo’n app dan wel of niet vrijwillig gebruikt moet worden, is dan nog niet eens aan de orde. Alleen als duidelijk is wat je van zo’n app kunt verwachten en hoe het gesteld is met de privacy, zullen mensen er iets mee willen doen.”
Europees niveau
Royakkers heeft er een hard hoofd in dat op korte termijn een app ontwikkeld kan worden die aan al die voorwaarden voldoet. “Ik zou ook liever zien dat dit een project wordt dat op Europees niveau wordt opgepakt, en niet dat elk land nu op eigen initiatief iets gaat ontwikkelen. En kijk ook vooral naar de apps die nu al in het buitenland worden ingezet, en leer van de ervaringen die ze er daarmee hebben opgedaan.”
Zelf ziet hij wel mogelijkheden voor apps die op een kleinere schaal bijdragen aan meer veiligheid en het voorkomen van besmetting. “Zoals voor het openbaar vervoer. Als je via een app van de NS kunt zien hoe het die dag is gesteld met de bezetting van treinen, kun je daar je reisgedrag op aanpassen. Dat zou ook kunnen voor het bezoek aan bioscopen of theaters en eventueel voor restaurants.”
Discussie