Cyberpunk is een dystopisch sciencefictiongenre waarin computers – robots, cyborgs en andere kunstmatige intelligentie – de macht hebben gegrepen. Als een van de pioniers van de cyberpunk is de Texaanse schrijver Bruce Sterling bij uitstek geschikt om vrijdagmiddag 25 november te spreken op een evenement met de naam AI FOR ALL - From the dark side to the light.

Sterling is onder de indruk van de “flying saucer” – het Evoluon – waar hij is ontvangen, en moderator Koert van Mensvoort (links op de foto bovenaan) is op zijn beurt verguld om Sterling live te zien. Hij is immers een van de ‘denkers over de toekomst’ uit de portrettengalerij van de expositie RetroFuture, die nog tot maart te bezoeken is in datzelfde Evoluon. TU/e-fellow Van Mensvoort is directeur van Next Nature, de organisatie achter de expositie.

Glasscherven

‘Generally speaking, the stupider artificial intelligence is, the better I like it!’ is een uitspraak van Sterling en hij laat het publiek – in de zaal en via livestream – graag zien waarom dat is. En wel aan de hand van beelden die hij maakte door opdrachten te geven aan een text to image generator.

Wat blijkt is dat de generator veel moeite heeft met de simpelste opdrachten: een dambord zit vol foutjes. Een labyrint heeft geen ingang. En een hand blijkt helemaal een ondoenlijke opdracht: vier vingers, anatomisch onmogelijke houdingen. Hoe komt dat?

“Doordat we geen woorden hebben voor de vele manieren waarop we onze handen kunnen houden. Wat je ziet, is dat de generator niet tekent, maar genereert. Dit is niet meer dan automated statistics: beelden die pixel voor pixel zijn samengesteld uit waarschijnlijkheden die volgen uit databestanden.”

De AI doet dus steeds hetzelfde kunstje. En daarnaast ontbeert het een heleboel aspecten van de menselijke intelligentie, laat Sterling zien: hij heeft de generator een beeld laten maken van een jongetje dat opgewekt zijn ontbijt van glasscherven naar binnen werkt. Gezond verstand noch ethische overwegingen hebben de generator ervan weerhouden om keurig aan die opdracht te voldoen.

Gloomy

Marleen Stikker is een van de oprichters van Waag, een organisatie die de raakvlakken van technologie en maatschappij onderzoekt. Ze schreef het boek Het internet is stuk - maar we kunnen het repareren (2019).

Vrijdag in het Evoluon is ze tegen wil en dank de brenger van de sombere boodschap. Want ook AI is stuk, en in handen van bedrijven met miljardairs aan het hoofd die zich vele malen minder bekommeren om ons welzijn dan om het vergaren van onze persoonlijke data.

En dat is inderdaad een somber – gloomy noemt ze het – besef. Een sfeer die, zo valt meerdere sprekers op, overeenkomt met de uitstraling van de door AI gecreëerde beelden uit Sterlings presentatie: allemaal zijn ze doordrongen van een vervreemdende otherness.

Maar we zitten dus met een probleem. AI moet ons immers gaan redden: data analytics, machine learning, deep learning –  het zijn allemaal toverwoorden van vooruitgang. Maar tegelijkertijd is er iets structureel mis met datzelfde beloofde land van AI.

Privilege

Ook Hendrik-Jan Grievink, designer bij Next Nature, zag tot zijn ongemak hoe de technologische vooruitgang groepen mensen uitsluit en – verder – de periferie in dwingt. Denk aan ongeregistreerde vluchtelingen of ‘digibete’ ouderen. Anekdotisch voorbeeld: “Omdat ik altijd met mijn smartphone betaal, heb ik nooit meer cash op zak om een daklozenkrant te kopen.”

Grievink bedacht het begrip technoprivilege en ontwierp een meetinstrument à la de zeven vinkjes van Joris Luyendijk. Tijdens DDW ging hij hiermee data verzamelen, iets wat hij uiteindelijk wereldwijd wil doen, om in kaart te brengen waar mensen profiteren van of juist lijden onder technologische vooruitgang. Benieuwd naar jouw technoprivilege? Check het hier.

Verplicht label

De drie sprekers gaan ter afsluiting in gesprek met TU/e-wetenschappers Panos Markopoulos en Kristina Andersen (derde en tweede van rechts op de foto bovenaan), beiden werkzaam bij Industrial Design en EAISI. Hoe denken zij dat we AI ‘for all’ kunnen maken? Markopoulos, hoogleraar Design for behavior change, ziet een rol weggelegd voor de wetenschap om technologie bereikbaar te maken voor meer mensen.

Uhd Andersen pleit tegen de verlammende angst voor AI als ongrijpbare macht: AI zelf is en blijft een instrument, het eventuele gevaar zit in de bedoelingen van de mensen die het bedienen. Ze oppert enkele maatregelen die ongemakken rondom AI in het dagelijks leven kunnen verkleinen: “Een soort spamfilter of adblocker, maar dan voor door AI gegenereerde troep. Of een verplicht label, zodat je weet wanneer je te maken hebt met een product van AI.”

Data commons

Marleen Stikker voelt zich intussen genoodzaakt de ernst van de kwestie nog eens naar voren te halen. “Als dingen misgaan, is onze reflex: reguleren.” De EU doet dat bijvoorbeeld met de nieuwe Digital Markets Act. Maar is dat genoeg in dit geval?

“Er is een groeiende politieke beweging die pleit voor data commons: een systeem waarin publieke waarden bepalen hoe onze data worden beschermd – niet neoliberale, marktgestuurde partijen. Om te veranderen hoe de technologie zich binnen onze maatschappij ontwikkelt, moeten we ons economische model heroverwegen.”

TU/e-hoogleraar Wijnand IJsselsteijn, wetenschappelijk directeur van het Center for Humans and Technology, bedankt in zijn slotwoord voor het aanreiken van dat activistisch perspectief: “We hoeven niet mee te gaan in de retoriek van ‘het overkomt ons’. We kunnen invloed uitoefenen op de richting waarin AI zich zal ontwikkelen – en dat kunnen we ook onze studenten meegeven.”