- Onderzoek
- 24/11/2021
AI blijvend onderdeel van de maatschappij: “Niet reguleren geen optie”
We staan op een keerpunt in onze samenleving, stelt de Wetenschappelijke Raad voor het Regeringsbeleid (WRR): artificial intelligence is definitief onderdeel van de maatschappij en zal dat ook blijven. De overheid moet volgens de denktank meer doen om dat in goede banen te leiden. Goed voorbereid zijn op wat er komen gaat is echter niet gemakkelijk, zeggen EAISI-directeur Carlo van de Weijer en onderzoeker Savio Sciancalepore. “De overheid moet kaders schetsen zonder het proces te vertragen.”
Zelfrijdende auto’s, operatierobots, militaire drones. Artificial intelligence (AI) staat op het punt om volledig door te dringen in onze levens. De invloed ervan gaat volgens de WRR zo ver dat AI te vergelijken is met wereldveranderende technologieën als de stoommachine en elektriciteit.
De WRR schreef het rapport 'Opgave AI. De nieuwe systeemtechnologie' in opdracht van het kabinet, dat een adviesaanvraag deed over AI en publieke waarden. Dat de technologie invloed zal hebben op publieke waarden staat buiten kijf, zegt Carlo van de Weijer, directeur van Eindhoven Artificial Intelligence Systems Institute (EAISI).
“Het zal die zelfs heel positief beïnvloeden”, aldus Van de Weijer. “Denk bijvoorbeeld aan veiligheid: auto’s kunnen we, voor een belangrijk deel door AI, echt volledig veilig maken.” Elke technologie heeft volgens de directeur echter een schaduwkant. “Je kunt het vergelijken met vuur: handig om je huis mee te verwarmen en je eten mee te bereiden, maar je kunt er ook je vingers aan branden, of je huis ermee in de as leggen.” Alleen gaan de risico’s van AI wel iets verder. “Daar kun je, in tegenstelling tot vuur, de hele mensheid mee beschadigen.”
Geen vuur gebruiken is geen optie meer, maar er zijn regels om brandveiligheid te waarborgen. Geen AI meer gebruiken is ook niet meer mogelijk, zegt Van de Weijer. “Dus ook daar hebben we regels voor nodig.”
Cybersecurity
Dat onderschrijft ook Savio Sciancalepore, universitair docent bij de Security Group van Mathematics and Computer Science. “De enige manier waarop je AI veilig kunt houden, is door te zorgen dat de mensen die het gebruiken er op een verantwoordelijke manier mee omgaan. De technologie zelf is heel moeilijk te stoppen.”
In cybersecurity wordt AI juist gebruikt als tool om gevaren buiten de deur te houden. Zo is er een systeem dat door middel van AI indringers detecteert en onregelmatigheden herkent die door cyberaanvallen veroorzaakt zouden kunnen worden, vertelt Sciancalepore. “Je moet die systemen up-to-date houden, want indringers kunnen ook gebruik maken van wat wij ‘vijandige AI’ noemen. Criminelen die weten dat je de boel beveiligt door middel van algoritmes kunnen hun eigen algoritmes schrijven om die van jou te doorbreken.”
Belangrijk is om altijd op de hoogte te zijn van de laatste technologische ontwikkelingen op het gebied van AI. “De aanvaller wacht niet, die moet je voor blijven”, aldus Sciancalepore. De overheid moet dat ook doen, zegt hij. “Volgens mij zitten ze er redelijk bovenop; voor zover ik heb gezien zijn ze betrokken bij veel onderzoeksprojecten.”
Democratisch
Toch zou de overheid méér moeten doen om niet achter te blijven, stelt het WRR. Maar het is niet gemakkelijk om voorbereid te zijn op een technologische ontwikkeling die op zoveel vlakken invloed zal krijgen, zegt Van de Weijer.
“De overheid moet kaders schetsen, liefst zonder het proces te veel te vertragen. De Chinezen regelen alles vanuit de overheid, Amerikanen geven voorrang aan de grote bedrijven. Europa benadert het meer vanuit een democratisch perspectief met een focus op individuele rechten.”
Dat gaat misschien wat trager dan in China en Amerika, maar het is wel de enige manier om machines niet machtiger te maken dan de mens, zegt Van de Weijer. “Reguleren zit per definitie innovatie in de weg. Maar niet reguleren is met AI geen optie.”
En hoewel de overheid meer zou moeten doen, gebeurt er echt al wel wat in Nederland, benadrukt hij. “Kennisinstituten, bedrijven, overheidsinstanties en maatschappelijke organisaties zijn bijvoorbeeld verenigd in de Nederlandse AI Coalitie. Ook EAISI zit daarbij. We zijn daar al bezig met het mogelijke gevaar en de morele kant van AI.”
Privacy
“De coalitie heeft 276 miljoen euro ontvangen van het Nationaal Groeifonds. Het eerste geld daarvan, 44 miljoen, gaan naar zogenoemde ELSA-labs (Ethical, Legal, Societal aspects of AI), dat zich bezighoudt met de ethische, juridische en maatschappelijke aspecten van AI.” Ook aan de TU/e zelf gaat veel aandacht naar de ethische kant van AI, zegt Van de Weijer. Hij verwijst daarbij naar de onderzoeksgroep Human Technology Interaction, die inzoomt op de interactie tussen mens en technologie.
Hoewel Van de Weijer overtuigd is van de positieve invloed die AI kan hebben op de samenleving, spreekt hij ook van een moeilijke balans. “Als een auto zelf veiliger kan rijden, moet de mens dan nog wel in kunnen grijpen? En laat je het OV over aan een vervoersbedrijf of aan Google? Het is niet verstandig om alles kapot te reguleren, maar je moet ook zeker niet alles vrijgeven.”
Discussie