“Ik geloof niet in doemverhalen over computers die de macht overnemen”
Tonen de computeralgoritmes achter Artificiële Intelligentie en Facebook ons de weg naar de hemel, of vormen ze een kortere route recht naar de hel? Volgens Hannah Fry een beetje van allebei, maar een ding is zeker, met een zelfrijdende auto komen we er niet.
[Interview] China wil de komende drie jaar een netwerk van 400 miljoen nieuwe camera’s uitrollen om door middel van gezichtsherkenning de bevolking in het oog te houden. De camera’s zullen over het hele land verspreid staan, op straathoeken en in kleine steegjes, waardoor de positie van de 1,3 miljard Chinezen altijd en overal bekend zal zijn. Sesame Credit heet dit systeem waarbij voorbeeldige burgers punten zullen krijgen en niet zo voorbeeldige die zullen moeten inleveren. Wie meer dan 600 punten heeft, krijgt een speciale creditcard. Met 650 punten mag je gebruik maken van een VIP-rij in de luchthaven en 750 geeft je het recht op een spoedvisum naar Europa. Wat er gebeurt met iemand die onder nul gaat, weten we in feite liever niet. En voor wie het toch wil weten, hebben we een goede raad: sla er George Orwells 1984 maar eens op na.
“Voor Europeanen is dit inderdaad een bijzonder dystopische toekomstvisie,” zegt Hannah Fry, “maar ik heb er met een paar Chinezen over gesproken en die waren eerder positief. In China wil je juist heel graag gezien worden als een gehoorzame en voorbeeldige burger. Zelf sta ik natuurlijk helemaal aan de Europese kant. Wij Britten hebben geweigerd identiteitskaarten in te voeren omdat deze een inbreuk zouden vormen op onze privacy. Wij vinden het een fundamenteel recht dat we anoniem over straat kunnen lopen.”
Hannah Fry is een Londense wiskundige en auteur van het fel geprezen boek Algoritmes aan de macht, hoe blijf je menselijk in een geautomatiseerde wereld? Algoritmes zijn in feite niet meer dan procedures om een probleem op te lossen. Ik vertrek van A, wil in B aankomen en de weg ertussen noemen we een algoritme. Een recept zou je ook een algoritme kunnen noemen. Het beschrijft hoe je van losse ingrediënten tot een lekkere maaltijd komt. De succesvolste algoritmes zijn natuurlijk computerprogramma’s en het is daar dat ze iets sinisters krijgen, want dan kunnen ze niet alleen gebruikt worden om muziek te componeren, zoals David Cope doet, of om seriemoordenaars te arresteren aan de hand van alle mogelijke sporen die ze op alle mogelijke plaatsen achterlieten, maar dan kunnen ze ook uitgroeien tot een Sesame Credit.
“Ik weet het, het is een schrikbarend toekomstbeeld, dat van Sesame Credit,” vervolgt Fry, “maar toch blijf ik optimistisch. Er is geen enkele reden om bang te zijn voor algoritmes. We moeten beducht zijn voor mensen die er misbruik van willen maken, dat zeker, maar onze toekomst ziet er ook een stuk beter uit door algoritmes. De wereld is een rommeltje en het grootste deel van onze activiteiten bestaat uit het bestrijden van dat rommeltje. Daar kunnen algoritmes ons echt bij helpen. Zo lang we maar niet vergeten dat ze niet perfect zijn natuurlijk.”
Wij hebben onze eigen Sesame Credit zouden sommigen opmerken, Facebook, waarop onze privacy te grabbel wordt gegooid.
“Welke privacy? Die hebben we toch al lang niet meer?”
Komt dat niet doordat we zo paranoïde zijn over privacy? Heel veel zaken zijn toch gewoon onschuldig, terwijl de echt belangrijke daardoor ondergesneeuwd dreigen te raken?
“Waar trek je inderdaad de grens? Kan het mij iets schelen dat mijn boodschappenlijstje bij Amazon publiek gemaakt wordt? Niet echt. Misschien staat er wel een introductie in de statistiek op waarvan ik niet per se wil dat iedereen weet dat ik die gekocht heb, maar hé, we moeten inderdaad niet overdrijven. Wil ik daarmee ook dat iedereen weet welke rare hersenkronkels ik heb en welke bizarre zaken ik daardoor zit te googelen wanneer ik ’s nachts niet kan slapen? Misschien niet. En dan heb ik het nog niet eens over porno of zo, maar gewoon over private zaken zoals mijn gevoelens en gedachten.”
Maar waarom zou iemand die publiek willen maken? En wie zou er aandacht aan besteden?
“Het probleem ontstaat pas wanneer bedrijven aan de haal gaan met de informatie die je in feite niet met anderen wil delen en die dan gebruiken om je gedrag te manipuleren. Dat is wat Cambridge Analytica deed, net als veel andere gelijkaardige firma’s trouwens. In opdracht van de wapenlobby ging Cambridge Analytica op zoek naar neurotische alleenstaande moeders. Die werden dan bestookt met boodschappen als: ‘Iemand dringt je huis binnen, wil je je dan niet kunnen verdedigen?’ Met een beeld daarbij van een jonge vrouw die een inbreker onder schot houdt. Het kan niet de bedoeling zijn dat firma’s onze angsten uitbuiten voor eigen gewin. Dit type microtargeting is echt wel zorgwekkend.”
Dit is inderdaad een verfoeilijke daad, maar microtargeting wordt over het algemeen toch gewoon gebruikt om ons iets te verkopen? Wanneer ik op Google op zoek ga naar een nieuwe computer krijg ik geheid allerlei aanbiedingen van online winkels die me stevige kortingen aanbieden. Dat kan toch voordelig zijn? Is microtargeting daarom niet iets als een mes? Je kan er iemand mee vermoorden, maar je kan er ook je boterhammen mee smeren.
“Sorry, maar die ga ik dus van je stelen (lacht luidop), een algoritme is als een mes, je kan er iemand mee vermoorden en je kan er je boterhammen mee smeren. Dat is de spijker op de kop. Maar ergens moet je een lijn trekken wat wel en wat niet kan, en dat kun je niet aan het grote publiek overlaten. Dat weet immers niet wat er gaande is. Je kan het ook niet aan de firma’s die aan microtargeting doen overlaten omdat je niet kan verwachten dat zij een eerlijke keuze zullen maken tussen winst en fatsoen. De overheid moet dus regels opleggen. Met een voluntaristische ethische code zullen we er niet komen. Ik denk dat de geneeskunde hier een mooi voorbeeld is. Nog niet zo lang geleden kon je om het even welk vloeistofje in een flesje gieten, het als medicijn verkopen en er nog eens een fortuin aan overhouden ook. Dat kan nu niet meer omdat we een orgaan als de FDA in het leven hebben geroepen, de Amerikaanse Food and Drug Administration die tussen de firma’s en de gebruikers in staat. Enerzijds bewaakt zij het intellectuele eigendom van de firma’s, maar anderzijds controleert zij ook of de voordelen van wat er op de markt komt wel opwegen tegen de nadelen. Zo’n FDA hebben we ook nodig voor het internet.”
Deed Cambrige Analytica meer dan gericht adverteren? Die firma ging op zoek naar een goede doelgroep om deze met de juiste reclame te bewerken. Zij gebruikten het juiste net om de juiste vissen te vangen, zou je kunnen zeggen. En dat doet toch iedere adverteerder? Je gaat toch ook geen vlees proberen verkopen aan een vegetariër?
“Daar heb je helemaal gelijk in. Tot op zekere hoogte deed Cambridge Analytica inderdaad niets anders dan wat iedere politieke campagnemaker ooit deed, op zoek gaan naar de zwevende kiezers en die binnen proberen halen. Barrack Obama gebruikte in 2012 tijdens zijn campagne A/B testing. Hij was de eerste presidentskandidaat die meer dan een miljard dollar aan donaties wist op te halen, waarvan 690 miljoen via het internet. Aan zijn internetcampagne ging een heel onderzoek vooraf waarbij getest werd hoe mensen reageerden op verschillende kleuren en groottes van foto’s en doneerknoppen op het scherm. Dit A/B testing was ook een vorm van microtargeting. Waar Cambridge Analytica echter in de fout ging was dat ze er ook nog eens fake news bovenop deden. Op dat moment stopten ze met het gebruiken van een net en gingen ze over op dieptebommen. Wat Cambridge Analytica vooral aantoonde was dat Facebook het Wilde Westen was. Voor andere media bestonden regels, voor sociale media niet.”
Heeft Trump zijn presidentschap aan een paar computeralgoritmes te danken?
“Wellicht niet. We mogen de invloed er ook niet van overschatten. 0,1% verschil, denkt men, maar dat Facebook in de nasleep ervan verplicht werd de algoritmes van de nieuwsfeeds te veranderen, waardoor je meer te zien krijgt van wat je vrienden posten en minder informatie van buitenstaanders, is natuurlijk positief. Net zoals het invoeren van een hiërarchie wat nieuwsbronnen betreft. De New York Times stond vroeger op Facebook op dezelfde hoogte als de Angryville Gazette, om zomaar iets te verzinnen. Dat is nu niet langer zo.”
En wat met die andere grote bedreiging, A.I.? Zullen computeralgoritmes ooit de macht overnemen?
“A.I. is heel lang een belofte geweest en dat is het tot op zekere hoogte nog steeds, al komt er stilaan toch wel wat schot in de zaak. In 2012 zagen we een grote doorbraak. Geoffrey Hinton en zijn team namen deel aan een wedstrijd waarin de deelnemers een algoritme dienden te schrijven dat in staat was het verschil te zien tussen een hond en een kat. Fluitje van een cent, denk je, maar voor een computer is dat heel moeilijk. Het was zelfs heel lang de maatstaf waaraan A.I. afgemeten werd. Hinton kwam met iets op de proppen dat dit werkelijk kon en dat veranderde alles. We hebben vandaag meer data over en een veel gedetailleerder beeld van de wereld dan pakweg een decennium geleden. En dat door de laptops en smartphones die we gebruiken en de informatie die ze verzamelen over hoe we ons gedragen. We hebben nu ook veel meer rekenkracht dan in het verleden. En misschien ook niet onbelangrijk, we hebben onze kijk op A.I. bijgesteld. Het idee dat we dit superintelligente computersysteem kunnen maken dat alle problemen zal oplossen is verder weg dan ooit. We zetten nu veel meer in op kleine projecten van echt nuttige A.I. Het bedrijf Deep Mind heeft bijvoorbeeld een A.I.-systeem ontworpen dat de koeling van een datacenter regelt. Servers wekken enorm veel hitte op. Om alle servers van de hele wereld af te koelen heb je ongeveer net zoveel energie nodig als een gemiddeld land verbruikt. Die koeling zo rationeel mogelijk laten verlopen is dus geen slecht idee. Deep Mind verving de mensen die dat voeger deden door een A.I.-systeem en het verbruik daalde meteen met een derde. En dat gewoon omdat zo’n systeem op korte tijd met heel veel data rekening kan houden.”
En leert dat systeem ook bij?
“Dat is inderdaad het kernwoord wanneer het over A.I. gaat, bijleren. Heel veel algoritmes in onze wereld, en dus ook in mijn boek, veranderen nooit. A.I. doet dat wel. Die leert bij. In dit specifieke geval kreeg het systeem historische data ingevoerd, en heeft het ook de mogelijkheid om te leren uit zijn eigen activiteiten. Na iedere kleine wijziging, worden de gevolgen daarvan in rekening gebracht, waarna weer wordt bijgestuurd en dat tot in het oneindige. Het systeem wordt dus steeds beter.”
In welke sector ziet u de mooiste toekomst weggelegd voor A.I.?
“Ongetwijfeld in de geneeskunde. A.I. is niet in staat de plek van een arts in te nemen. Zo ver zijn we nog lang niet, maar waar A.I. wel degelijk een grote toegevoegde waarde heeft is in de beeldvorming, het interpreteren van longscans of borstbiopsies bijvoorbeeld. Er bestaat zelfs een computersysteem dat een camera bestuurt die bij een colonoscopie gebruikt wordt en actief op zoek gaat naar darmpoliepen en -tumoren. Het doel is minder fouten en betere diagnoses, maar wel samen met een arts. A.I. moet artsen niet overbodig maken, maar wel hun efficiëntie vergroten.”
In feite is dat toch de boodschap van je boek, dat we niet moeten kiezen tussen mensen of algoritmes, maar daarentegen voor een combinatie van beide?
“Ja, en ik denk dat dit in de toekomst ook meer en meer zal gebeuren. Ik geloof niet in doemverhalen over computers die de macht overnemen. Ik denk liever in termen van partnerschap. Neem bijvoorbeeld de automatische piloot van een vliegtuig. Die bestaat al decennialang en wordt steeds beter. In feite zouden vliegtuigen best zonder piloten kunnen vliegen, maar toch is het aantal piloten in een cockpit niet afgenomen. We laten het ook niet toe dat het vliegtuig alles zelf doet, want daardoor zou de piloot niet langer zijn bekwaamheid kunnen oefenen. Een cockpit is dus nog steeds volledig op mensenmaat gemaakt, ook al speelt de computer een grote rol bij het vliegen.”
En wat met de zelfrijdende auto, zal die ook altijd een ‘piloot’ nodig hebben, of komt er ooit een die volledig autonoom zal rijden?
“Iedere firma die zich bezighoudt met het ontwikkelen van zelfrijdende auto’s zal je vertellen dat je op bepaalde trajecten zonder chauffeur kan rijden, maar op de meest niet. Dat zelf rijden is nog niet veel meer dan een chique cruise control, een dure gimmick die auto’s doet verkopen. Een volstrekt zelfrijdende auto zal er trouwens nooit komen. Zo’n auto moet immers honderd procent betrouwbaar zijn, altijd en overal, en dat kan niemand garanderen. Daarom zal er altijd een mens nodig zijn, en als dat zo is moet die mens de laatste beslissingsmacht krijgen. Als je veronderstelt dat je mens in de auto zal zitten zonder iets te doen, gewoon om in het geval van een probleem het stuur over te nemen, maak je een denkfout. Niet alleen zal die mens binnen de kortste keren niet meer opletten, als er een probleem optreedt zal hij ook tijd nodig hebben om een overzicht te krijgen van wat er aan de hand is. Zo’n probleem zal immers altijd complex zijn, anders zou de zelfrijdende auto het zelf wel kunnen oplossen. Uit tests is gebleken dat een mens gemiddeld veertig seconden nodig heeft om te snappen wat er aan de hand is, veel te laat om nog in te grijpen natuurlijk. Een bijkomende reden waarom de zelfrijdende auto er nooit zal komen is dat zo’n auto in de stad meer zou stilstaan dan rijden. Hij moet immers altijd en voor iedereen kunnen stoppen, ook voor een fietser die geen voorrang geeft of voor een voetganger die zomaar zonder kijken de rijweg opstapt. Eens dat geweten, zou niemand nog enig respect hebben voor zo’n auto. Niemand zou hem voorrang verlenen. Logisch gezien kunnen zelfrijdende auto’s dus alleen autonoom rijden daar waar ze niet in contact kunnen komen met andere weggebruikers. Op hun eigen wegen dus, maar in feite hebben we al zoiets. We noemen dat een trein.”
Is het probleem niet dat de wereld zich moeilijk laat reduceren tot algoritmes?
“Natuurlijk. We willen de wereld terugbrengen tot een wiskundige beschrijving ervan en dat is toch altijd zoiets als een ronde pin in een vierkant gat steken. Soms lukt het te laten uitschijnen dat het gat gedicht is, maar er zullen in de hoeken altijd kleine spleetjes overblijven waar de realiteit naar buiten lekt. Daarom zullen er nooit zelfrijdende auto’s komen en moeten we er altijd op toezien dat de mens het overwicht behoudt tijdens zijn samenwerking met algoritmes. Wanneer Sesame Credit zelf de lakens begint uit te delen zijn we verloren.”
—
Eerder verschenen in De Morgen
