Pleidooi voor een nieuwe overkoepelende ethische theorie
[Recensie] Enge tijd geleden was ik aanwezig op een literaire avond waar Maxim Februari werd geïnterviewd over zijn nieuwste boek Doe zelf normaal. Hij zette helder de mogelijke gedragsveranderingen uiteen die automatisering en techniek teweegbrengen. Hij onderkende de mogelijke gevaren, zonder paniekerig te doen. Vooral legde hij de vinger op de zere plek toen het over de Coronamaatregelen ging. Het gebruik van technologie, met name de Corona-app, doet iets fundamenteels met onze democratische rechtsorde. Maxim Februari beantwoordde deskundig de vragen uit het publiek, zonder zich als alwetende op te stellen. Ik was onder de indruk van zijn optreden en wilde graag zijn boek lezen.
Na het lezen van Doe zelf normaal ben ik wat teleurgesteld. Het boek is een essay, waarin Maxim Februari de risico’s aftast van automatisering en technologie in relatie tot fundamentele menselijke rechten. Hij behandelt allerlei interessante voorbeelden, filosofeert over mogelijke ontwikkelingen en wijst op het gebrek aan urgentie bij overheden en burgers als het om privacy en grondrechten gaat. Op een van de eerste pagina’s stelt hij dat er een nieuwe overkoepelende ethische theorie nodig is. Helaas geeft hij verderop nergens aanzetten tot een dergelijke theorie. Maar helemaal aan het eind van zijn essay herhaalt hij wel deze oproep. Als zo’n theorie inderdaad noodzakelijk is, had ik hier iets meer over willen lezen.
Menselijk gedrag
Maxim Februari is een veelzijdig mens die over uiteenlopende onderwerpen geschreven heeft: kunst, literatuur, filosofie, ethiek, recht, automatisering, privacy en meer. In de Doe zelf normaal komen veel van deze onderwerpen voorbij. Misschien gaat zijn betoog in de kern over menselijk gedrag. Wat doet een samenleving die afhankelijk is van technologie met ons gedrag? Hij ziet daarbij de veranderende natuur (klimaatverandering, nieuwe virussen, e.d.) als een tweede uitdaging, of bedreiging. De hedendaagse mens zit ingeklemd tussen (de grenzen van) de natuur en (de mogelijkheden van) de technologie. Hij stelt dat deze twee grote systemen niet geïnteresseerd zijn in de mens. En als je uitzoomt, “kun je zien dat we in één groot netwerk zitten van ecosystemen, menselijke samenlevingen en technologieën.”
In een rechtstaat kan het overtreden van de wet leiden tot boetes of opsluiting. De volgorde is dan: een regel opgesteld door mensen, overtreding ervan, betrapt worden en mogelijk een boete krijgen. Bij het overtreden van de Coronaregels die door een app gestuurd worden, gebeurt er iets anders. Je kunt niet in gesprek gaan met de handhaver om de situatie uit te leggen. Je reed bijvoorbeeld te hard vanwege een noodgeval. De Corona-app geeft aan of je ergens naar binnen mag, of het poortje opengaat; hier komt geen mens aan te pas. De handhaving is veel dwingender. Het instellen van een nieuwe regel door de overheid betekent meteen de mogelijkheid deze te handhaven. De persoonlijke ruimte is eruit verdwenen. Maxim Februari ziet deze technische manier om regels op te leggen en te handhaven overal opduiken. Het gaat daarbij vaak ook om schending van privacyregels, maar deze andere manier om wetten op te stellen en te handhaven is een belangrijke omslag in onze rechtstaat, die nog niet genoeg wordt opgemerkt. Hij ziet het terug bij bijvoorbeeld gemeenten die probleemwijken in kaart willen brengen of de belastingdienst die mogelijke wanbetalers op wil sporen. Gegevens worden aan elkaar gekoppeld en de analyse onttrekt zich steeds meer aan menselijke keuzes. De vele data generen als vanzelf de regels. Door het woud van onderling verbonden technologieën nemen we steeds minder vaak zelf een beslissing. Als voorbeeld geeft hij een klein defect in een vliegtuig. Een kapotte hoogtemeter was niet alleen onhandig, andere systemen kregen de verkeerde informatie waardoor het vliegtuig neerstortte.
Datacratie
Het generen van regels uit enorm veel data is iets wat computers goed kunnen. Artificiële intelligentie kan ingezet worden bij besluitvormingsprocessen in een rechtbank, in een ziekenhuis of bij ministeries. Maxim Februari noemt deze trend datacratie, democratische keuzes worden dan meer en meer gemaakt op basis van data. We lijken ook steeds meer datagestuurd te denken. Vraagstukken worden vaak gezien als datavraagstuk, bijvoorbeeld in misdaadbestrijding. Vrij eenvoudig zijn wijken en straten aan te wijzen waar de kans het grootst is dat er een potentiële crimineel woont. Het punt is dat data-analyses onze administratie helpen, maar je er niet automatisch morele keuzes uit kunt afleiden. Ondertussen worden deze wel door het systeem genomen, zie bijvoorbeeld de toeslagenaffaire.
Het is zeer interessant om over deze en meer onderwerpen te lezen. Maxim Februari geeft aan dat overheden de gevaren van het ontstaan van een datacratie wel inzien, maar te weinig tegen de gevaren doen. Er is volgens hem veel meer nodig. En hier komt hij met zijn pleidooi voor een nieuwe overkoepelende ethische theorie. Het is heel jammer dat hier het essay stopt.
—
Eerder verschenen op Uitgelezen Boeken
