Maxim Februari: We moeten ons niet laten chanteren door crises die alleen maar op te lossen zouden zijn met kunstmatige intelligentie

Onze rechtsbescherming loopt ernstig gevaar, schrijft Maxim Februari in zijn boek Doe zelf normaal. We zijn onderdeel van een groot netwerk van ecosystemen, dieren en technologische componenten die elk hun eigen eisen stellen. Dat zagen we al tijdens de Covid-pandemie. Niemand die wist hoe het ontstaan was, kennis ontbrak. Ook over de vaccinaties ontbrak kennis, je moest ‘Big Pharma’ maar geloven.

Als je de grondrechten en vrijheden van de bevolking wilt beschermen, is het zaak persoonsgegevens te beschermen, zegt Februari. Maar dat is niet voldoende, want als je die privacy op orde hebt in het leven van burgers (zodat machtige partijen niet kunnen meekijken), dan is de rechtsbescherming nog steeds niet geregeld. Digitalisering verandert immers de manier waarop overheden regels kunnen opleggen en, niet te vergeten, afdwingen. En dat gaat verder dan de inbreuk op onze persoonlijke levenssfeer.

Digitaal vaccinatiepaspoort

Zo werd de QR-code op je smartphone tijdens de coronapandemie ook als toegangspas gebruikt. Die smartphone is meer dan een vaccinatieboekje, de regels worden digitaal gehandhaafd, niet de mens maar de smartphone handhaaft. Door de digitale, ‘smart’-technologieën is de wereld een abstract netwerk geworden. Digitale code stuurt ons gedrag effectiever dan een wet, je hebt geen omslachtige procedures meer nodig die juridische regels meestal moeten doorlopen.

Stel dat het digitaal vaccinatiepaspoort wordt verbonden met andere digitale toegangspassen, alles heel handig bij elkaar in een gezamenlijke portefeuille, een ‘wallet’. U hebt er waarschijnlijk al een in uw smartphone met een paar betaalpassen en toegangskaartjes. Stel dat de overheid daar sociale mediaprofielen van burgers aan vastknoopt. Dan zitten we dichtbij het Chinese systeem van observatie, controle en uitsluiting. Dan neemt dwang de plaats van het recht in.

Dat gevaar loopt ook een Europees ID-wallet waar op dit moment aan gewerkt wordt. Die nieuwe manier om gedrag van burgers af te dwingen, verandert op een fundamenteel niveau iets in het recht. Dat is het centrale thema van Februari’s boek. Er is een crisis en dus wordt de overheid wel gedwongen om in te grijpen. Voor griep, corona, verkeersovertredingen, opwarming van de aarde hebben we inmiddels de nodige technologie in huis. Daarmee wordt echter tegelijkertijd de rechtspositie van de burger uitgehold. En de staat houdt niet van losse eindjes.

Neem het klimaat. Uitstootreductie krijgt voorrang op alle overige doelen die de overheid zich stelt. Vanwege de energietransitie moeten huizen van het gas af en daarbij is dwang onvermijdelijk, zegt de (inmiddels demissionaire) minister Hugo de Jonge van Ruimtelijke Ordening. Boerenbedrijven moeten worden uitgekocht en onteigend om de klimaatverandering tegen te gaan.

Er hangen dreigingen in de lucht

Klimaatverandering is een ‘existentiële dreiging’ en een noodsituatie die vraagt om uitzonderlijke ingrepen. Juridische procedures duren te lang, we moeten dwang toepassen. We hebben geen tijd te verliezen. Democratische procedures lopen overal in de wereld achter of worden met voeten getreden. Lucas Bergkamp schreef recent dat sinds het Urgenda-vonnis ingrijpen van de rechter gelegitimeerd wordt door dezelfde drogredenering: er bestaat ‘wetenschappelijke’ noodzaak de democratische procedures te omzeilen.

Het coronavirus zorgde ervoor dat bedrijven, scholen en instellingen werden gesloten. Er werd een avondklok ingesteld, gasten thuis ontvangen werd verboden. Dat werd even het nieuwe normaal. Klimaat wordt voorgesteld als een nog veel groter probleem dan Covid. Meer haast is geboden.

Het is heel wel mogelijk dat kunstmatig-intelligente systemen de technologische ontwikkeling van ons overnemen. Dan is de mens niet meer dan een portie materie die ze tot iets nieuws kunnen verwerken, iets wat de systemen nuttiger vinden, zegt Luke Muelhauser, directeur vaan het Machine Intelligence Research Institute in Berkeley. Het klinkt nogal filmisch, schrijft Februari, maar er hangt meer in de lucht dan klimaatdreiging alleen.

We zitten ingeklemd tussen twee grote systemen die niet in mensen geïnteresseerd zijn. Natuur aan de ene kant, technologie aan de andere kant. Stel dat ecologische systemen en kunstmatig-intelligente systemen in de nabije toekomst gaan samenwerken. Stel dat de technologie zich gaat richten op natuurbehoud en men creëert met AI natuurgebieden die autonoom opereren.

Die technologieën kunnen zelfstandig nieuw strategisch gedrag ontwikkelen en verhoudingen aangaan met andere levende organismen. De schadelijke aanwezigheid van de mens kan eenvoudig omzeild worden. Veel eco-linkse politici zullen dit omarmen, het is immers ‘wetenschappelijk’ doorgerekend door het ecologisch model.

Wat Februari wil laten zien is veel minder futuristisch dan we denken, we kennen inmiddels verschillende bronnen van informatie, zeeën die gemonitord worden, machines die met elkaar communiceren, digitale architecturen, een hybride netwerk waarbinnen de grenzen vervaagd zijn tussen de fysieke wereld en de gedigitaliseerde wereld. Bijen vliegen rond met sensoren in rugzakjes om de oogst te monitoren. Kleine vogels slepen zendertjes met zonnecellen mee om onderweg signalen door te kunnen sturen naar grotere vogels met zenders op batterijen, waarna die grotere vogels de signalen weer doorsturen naar een satelliet. Er zijn mensen-en-bijen-netwerken ontstaan. Bomen-en-junglenetwerken.

Wie controleert de macht?

Een aantal jaren geleden waren Erik Brynjolfsson en Andrew McAfee er al van overtuigd dat we voor een ingrijpende transformatie van de maatschappij staan, zoiets als bij de industriële revolutie. Ze noemden hun invloedrijke boek dan ook The Second Machine Age. Niet een mechanische revolutie, maar een exponentiële, digitale en combinatorische. Daar zitten we nu middenin.

De vraag is: wie ontwerpt die AI, wie controleert de macht? Amazon, Apple, Huawei, Facebook, Microsoft, Google, zij denken allemaal de wereldproblemen op te kunnen lossen met kunstmatige intelligentie, schrijft Februari. Het World Economic Forum heeft een Strategic Partnership getekend met de Verenigde Naties om gezamenlijk de 2030 Agenda voor Duurzame Ontwikkeling te verwezenlijken. Politieke afwegingen zijn vrijwel overbodig geworden, de bedrijven nemen de rol van besluitnemer over. En veel klimaatwetenschappers vinden het klimaat belangrijker dan de democratie. Terecht concludeert Februari dat de rechtsstaat onder druk staat.

We leven in een grid democracy, in een wereld waar besluitvorming niet langer centraal geregeld is, maar verdeeld is over de planeet en op meerdere manieren met elkaar verknoopt is. Politieke vertegenwoordiging wordt langzaamaan vervangen door ‘stakeholders’. Dat kunnen ngo’s zijn, actiegroepen of particuliere verenigingen. Informatie en desinformatie gaan door elkaar heen lopen. Platforms en bedrijven zetten eigen systemen voor rechtspraak op. Deep Mind, onderdeel van Alphabet, ontwikkelde een democratisch AI-systeem, een waarde-gebonden beslissingssysteem waar meerderheid van stemmen doorslaggevend is.

Terecht zegt Februari dat dit een zorgelijke ontwikkeling is. Democratie is het omgaan met conflicten over de waardensfeer, er moeten compromissen gesloten worden, minderheden moeten beschermd worden. Al lijken de compromissen de laatste jaren uit het bewustzijn te verdwijnen.

Normaal gesprek blijft noodzakelijk

Hoe dan wel? De vraag blijft of je zelf nog zeggenschap hebt of dat nieuwe normen voortkomen uit het middelen van al die gegevens die we verwerken en opslaan. Stellen we zelf nog de wet, of laten we dat doen door AI, door nieuwe kunstmatige normen, door de grootste gemene deler?

Februari’s antwoord is duidelijk: een belichaamd gesprek is noodzakelijk in onze mensentaal, laten we gezamenlijk over de wenselijkheid van gedrag praten in rechtszalen, leesclubs, cafés, praatprogramma’s, parlement etc. Normen en waarden laten zich niet zo eenvoudig ondubbelzinnig uitdrukken zoals dat in code het geval is. Dit is niet het tijdperk van AI of robotica, maar van de rechtswetenschap, de sociale wetenschappen en de geesteswetenschappen, schrijft hij.

Dat is dan nog wel afhankelijk van welke sociologie en welke politieke filosofie lijkt me. Of eigenlijk helemaal niet van de wetenschappen, zegt Februari, veel problemen zijn waardenproblemen en zijn politiek of moreel van aard. Bedrijven of algoritmes moeten onderworpen worden aan grondrechten en rechtsbeginselen als rechtvaardigheid, toegang tot een onafhankelijke rechter, verbod op willekeur.

Februarí ’s vertrouwen in de huidige rechtspraak is net wat groter dan dat van mij, het recht lijkt me al te veel gepolitiseerd waar het klimaat betreft. Februari’s boek is een essay, het zet een aantal alarmerende beschouwingen en voorbeelden systematisch op een rij, het is een heldere en kritische beschrijving van onze huidige ‘denkende technologie’, en met name de gevolgen voor recht, rechtvaardigheid en politiek. Uiterst actueel, vlot geschreven met kennis van zaken. Een interessant boek.

Maxim Februari, Doe zelf normaal, menselijk recht in tijden van datasturing en natuurgeweld (Prometheus, 2023). Maxim Februari is filosoof, jurist en columnist van NRC.

Arie Graafland is emeritus-hoogleraar aan de TU Delft.

Wynia’s Week verschijnt 104 keer per jaar met even onafhankelijke als broodnodige berichtgeving. De donateurs maken dat mogelijk. Doet u mee? Hartelijk dank!