Wat is intelligentie en wat bewustzijn? Het is niet altijd duidelijk, maar toch willen we slimme
computers bouwen waardoor we zelf alsmaar dommer worden.
[Interview] Een venusvliegenvanger kan niet alleen vliegen vangen, hij kan ook tellen. Dat ontdekte de Duitse
hoogleraar Rainer Hedrich een jaar of vijf geleden. Door middel van elektrische pulsen gaf hij de plant het gevoel dat er een insect op een van haar vangbladeren was neergestreken. Bij een eerste puls merkte de plant die op, bij een tweede begon de val zich te sluiten, bij een derde sloot de val volledig, een vierde leidde tot de aanmaak van een hormoon voor het verorberen van de prooi en
een vijfde maakte dat er verteringsenzymen vrijkwamen. Hedrich deed zijn proef honderden keren en kreeg steeds hetzelfde resultaat. Betekent dit dat een venusvliegenvanger bewust kan tellen? Natuurlijk niet, maar het impliceert wel dat een organisme niet over een brein hoeft te beschikken om rekenkundige vaardigheden te hebben. Kris Merckx haalt deze cijferende vliegenvanger aan in zijn boek Uit het hoofd om te illustreren hoe moeilijk het is om intelligentie te definiëren. Dat de plant vijf pulsen nodig heeft om de verteringssappen te laten vloeien is ontegensprekelijk efficiënt te noemen. Als ze dat bij de eerste puls al zou doen, zou dit immers tot veel energieverspilling leiden, want stel dat het insect wegvliegt, dan was alles voor niets geweest.
Slim dus, maar is het ook intelligent?
“In het verleden hebben we altijd met een verkeerde blik naar intelligentie gekeken,” zegt Merckx, “Alsof intelligent
gedrag beperkt zou zijn tot mensen. Dieren zijn in die redenering bijvoorbeeld niet intelligent. Ofwel zit hun gedrag ingebakken, als een stukje voorgeprogrammeerde software, ofwel zegt men dat ze signaalgevoelig gedrag vertonen, zoals we dat bijvoorbeeld kennen van de hond van Pavlov: het belletje rinkelt en de speekselproductie komt op gang. Vandaag gebeurt er echter heel veel
onderzoek naar dierlijke intelligentie, en zelfs naar plantenintelligentie. Zo weten we dat er kraaien zijn die zelf werktuigen maken die uit meerdere onderdelen bestaan. Dat is aardig intelligent. En als ik mijn kat vergelijk met alle eerdere katten die ik had, dan zie ik dat die allemaal anders waren. Als die alleen zouden beschikken over vooringebouwde software, dan zouden het eerder
robotstofzuigers zijn dan dieren met een eigen specificiteit.”
En computers?
“Onlangs beweerde een werknemer van Google dat deze firma een computer met bewustzijn had ontwikkeld. Ik bleef er vrij stoïcijns bij, moet ik bekennen. Dat is immers al vaker beweerd, van in de jaren 1950 al. De vraag is natuurlijk wat bewustzijn is, en dat begrip is net zoals intelligentie bijzonder moeilijk te definiëren. Maar dat wil nog niet zeggen dat we nergens staan. Google heeft de eerste general purpose AI gebouwd, een AI die dus niet gemaakt is om één enkele taak uit te voeren, zoals liedjes herkennen bijvoorbeeld, maar tussen de 600 en de 800 taken kan leren. Ook in de ontwikkeling van creatieve computers gebeuren er opmerkelijke zaken. OpenAI is bijvoorbeeld een taalmodel dat zelf talen kan leren en schrijven. Men heeft dat onlangs toegepast op kunst, waardoor je bijvoorbeeld tegen je computer kunt zeggen dat je een schilderij wil van een hond op de maan in de stijl van Vincent Van Gogh en dan maakt die OpenAI dat. Er is dus geen sprake van bewuste computers, maat wel van het automatiseren van taken waarvoor je nu ofwel bijzonder creatieve of slimme mensen nodig hebt.”
Maar denkt u dat er ooit bewuste computers komen?
“Ik zou daar voorzichtig in blijven. Neem bijvoorbeeld een zelfrijdende auto. Die moet zijn omgeving meteen herkennen en er vliegensvlug op reageren. In mijn vrije tijd kweek ik kippen van een quasi uitgestorven ras. Ik zit dan soms naar mijn dieren te kijken en dan merk ik dat een kuiken op het vlak van herkenning nog mijlenver voor ligt op een Tesla. Een kuiken zal altijd zijn mama herkennen, zowel aan het geluid als aan het beeld, en vanuit alle mogelijke invalshoeken, net zoals zijn broertjes en zusjes trouwens. Dat is een vorm van aangeleerd gedrag, want zo’n kuiken wordt niet geboren met een foto van zijn mama en zijn broertjes en zusjes in het hoofd. Dat leergedrag is ook de basis van AI, alleen heeft die AI nog steeds ongelooflijk veel data nodig om er iets uit te leren, terwijl dat kuiken meteen zijn mama herkent. Om een kat te herkennen heeft een kind geen drie miljoen afbeeldingen van katten nodig, maar AI wel, vandaar dat Google vandaag inzet op het ontwikkelen van AI die net als mensen en dieren kan leren uit kleinere datasets.”
Ook in de gedaante van AI blijft de computer uiteindelijk een grote rekenmachine?
“De huidige computersystemen berekenen inderdaad nog steeds uitkomsten van geprogrammeerde bewerkingen. Vanaf de eerste ontwerpen voor een computer, van bij Charles Babbage in de negentiende eeuw al, dachten we dat we machines maakten die werkten als de menselijke geest, terwijl het in feite omgekeerd was. We veronderstelden dat onze hersenen werken als de machines
die we maakten. Je zou het kunnen vergelijken met Newton die zei dat het heelal een groot uurwerk was. Maar is dat wel zo? In ons brein zitten miljarden neuronen die verbinding maken met elkaar. Ieder neuron bestaat uit duizenden moleculen die met elkaar interageren. Nu kun je wel een neuraal computernetwerk bouwen, maar de werking van die moleculen zul je daar niet in kunnen vangen. Iedere cel in ons lichaam is in feite al een gigantische supercomputer. Wat ik de laatste maanden steeds vaker hoor is dat we een ander spoor moeten volgen. Misschien werken onze hersenen niet met uit of aan, of 0 of 1, maar eerder als een kwantumprocessor die beide tegelijkertijd kan opleveren, of iets tussen die twee in, zoals 0,6 bijvoorbeeld. Stel dat dit zo is, en we op basis daarvan AI willen ontwikkelen, dan moeten we helemaal opnieuw beginnen.”
U zei net dat AI creatieve taken zal overnemen. Zullen er jobs verdwijnen?
“Ja, jobs waar nu voor gestudeerd moet worden, en aan een spectaculair tempo. Ik zou niemand aanraden om vandaag nog voor vertaler-tolk te gaan. De kwaliteit van de vertaalprogramma’s gaat tegenwoordig zo snel vooruit dat die studie overbodig wordt. Er is lang gelachen met Google Translate, en het vertaalt inderdaad niet perfect, maar het is wel een systeem dat talen leert uit ervaring, en niet door er eerst spelling en grammatica in te pompen. Google Translate leert dus bij, en als je kijkt naar de beste vertaalmachines, zoals DeepL bijvoorbeeld, dan sta je versteld van het resultaat. In de toekomst zal het ook niet bij geschreven taal blijven. Je zal dan met iemand in Zweden kunnen bellen, waarbij hij jouw stem in het Zweeds zal horen en jij de zijne in het
Nederlands. Geef het nog vijf jaar en deze combinatie van vertalen en spraaksynthese met AI is werkelijkheid. De computer zal steeds meer taken van ons overnemen. Vandaar misschien dat onze hersenomvang aan het afnemen is, omdat we die hersenen steeds minder gebruiken.”
Worden wij dan dommer?
“Dat is een moeilijke vraag omdat slim en dom moeilijk te definiëren zijn. We hebben alleszins niet de grootste hersenen. In onze neocortex, de buitenste laag van de hersenen waarmee we denken, zitten de neuronen in lagen en vouwtjes, waardoor er in een schedelruimte die kleiner is dan bijvoorbeeld die van een olifant, toch meer ruimte is. Bij een baby is dat nog niet volgroeid, het
duurt ongeveer tot je dertigste. We noemen dat het gyrificatieproces. Wanneer we vaststellen dat de omvang van de menselijke hersenen afneemt, zegt dit in feite niets. We moeten ook nagaan of het gyrificatieproces afneemt. Misschien zijn onze hersenen wel gewoon compacter aan het worden. Men heeft vastgesteld dat sinds het ontstaan van steden en de daaraan gekoppelde
arbeidsspecialisatie de hersenomvang geleidelijk aan afgenomen is. Als mensen zich binnen een netwerk specialiseren in een bepaalde taak, stoten ze andere taken af, is dan het idee.”
Dus als we niet langer zaken memoriseren, maar ze opzoeken op internet, worden we dommer?
“Als je nooit iets uit je hoofd leert, zul je er ook steeds meer moeite mee krijgen wanneer je het wel eens moet doen, omdat je hersenen er niet op getraind zijn. Als je dus tegen kinderen zegt dat ze niets meer moeten kennen omdat ze het indien nodig wel kunnen opzoeken en je tegelijkertijd feitenkennis associeert met slim zijn, dan worden we inderdaad dommer. Maar ik ben daar
voorzichtig in.”
Maar we kunnen onze hersenen toch trainen en weer slimmer worden?
“Natuurlijk. Hoe vaker je iets oefent, hoe makkelijker iets gaat. Dat is de kracht van herhaling. In de AI noemt men dat reinforcement learning, je maakt fouten en je leert eruit. Een kleuter die leert stappen doet dat niet naar het voorbeeld van zijn ouders. Die leert dat zelf en die leert dat steeds beter te doen zonder dat hij zich daar bewust van is. Zoiets leer je letterlijk met vallen en opstaan. En hoe meer je leert, hoe meer verbanden je kunt leggen. Als je dat ziet als een voorbeeld van intelligentie, dan klopt het dat wanneer je niet meer oefent en herhaalt, je ook effectief dommer wordt.”
Veel mensen zien vooral de gevaren van AI, waarbij inbreuk gepleegd wordt op hun privacy en ze
misleid worden door deep fakes. Hebben ze gelijk?
“Op Youtube kun je Slaughterbots bekijken, een korte sf-film waarin zwermen kleine autonome drones mensen met ‘foute’ ideeën uitschakelen door drie gram explosieven in hun hersenen te schieten. Op het einde van de film waarschuwt computerwetenschapper Stuart Russell voor de komst van autonome wapens die op eigen houtje mensen kunnen doden. Zulke systemen bestaan al en zijn gemodelleerd op zwermintelligentie bij mieren en bijen. Dat is natuurlijk spectaculair, maar
ook ongelooflijk gevaarlijk.”
Hoe hou je dit tegen?
“Niet, die wapensystemen komen er. Zelfs al zouden Europa en de VS zeggen dat dit omwille van ethische redenen niet door de beugel kan, dan zullen anderen er wel mee aan de slag gaan. Je zou dit op wereldschaal moeten verbieden, maar dat lukt nooit. We zullen naar analogie met de nucleaire wedloop een militaire AI-wedloop krijgen. Sommigen zullen zeggen dat het toch niet erg
is. Laat die robots elkaar maar uitschakelen, dan vallen er geen menselijke slachtoffers, maar wat als ze een heel land innemen?”
De staat met de slimste AI wordt dan wereldheerser?
“Poetin heeft ooit gezegd dat het land dat leidinggevend wordt op het vlak van AI de wereld zal kunnen overnemen. Dat zal duidelijk niet Rusland zijn, maar wel China of de VS. Voor zoverre het nog nodig zal zijn om een land echt te veroveren natuurlijk. Met AI kun je veel verder gaan dan dat. In China word je via AI en de snelste gezichtsherkenningssystemen constant gemonitord. Een paar keer door het rood lopen leidt tot een waarschuwing, of tot het weigeren van een lening omdat je je leven in gevaar brengt. Vorig jaar zijn er iets meer dan honderdduizend mensen gestraft op basis van het sociale-kredietsysteem. Zij mochten een jaar lang het land niet verlaten. Wat ook gebeurt is het afnemen van huisdieren omdat je te weinig goede punten hebt verzameld. De systeemtrouw wordt dan automatisch groot natuurlijk. Bij ons gaat het allemaal iets subtieler. Meta verzamelt ook veel data over ons en schermt er dan mee dat die informatie geanonimiseerd is en nooit verbonden wordt aan een naam. Maar ze weten net zo goed wie wie is natuurlijk, want we laten overal sporen na op het internet.”
Moeten we dan geen AI ontwikkelen die het verschil kent tussen goed en kwaad?
“Een beroemd ethisch vraagstuk over zelfrijdende auto’s gaat als volgt. Een kind loopt net voor een zelfrijdende auto achter zijn bal aan. Die rijdt te snel om te stoppen en kan alleen de stoep oprijden om het kind te ontwijken, maar daar wandelt een oude vrouw. Wat moet de auto doen? In China zeggen ze dan dat de auto het kind moet doodrijden omdat er kinderen genoeg zijn en die oude vrouw levenservaring en wijsheid heeft opgebouwd waar je respect voor moet hebben. In Amerika zou men net het tegenovergestelde zeggen. Die oude vrouw heeft haar leven achter zich, terwijl het kind er nog moet aan beginnen. Ook je AI zal dus altijd cultureel bepaald zijn. Denk daar dus maar eens aan wanneer je over een paar jaar een zelfrijdende Chinese auto koopt.” (lacht)
—
Eerder verschenen in De Morgen.
