In de digitale wereld zijn wij zelf het product

We leven in een gedigitaliseerde wereld. Dat heeft enorme voordelen gebracht: het internet, de bereikbaarheid en het snel vinden van informatie. Waar je twintig jaar geleden nog naar de bibliotheek ging, ga je nu naar de Google zoekmachines.

Maar de nadelen worden ook steeds duidelijker. Onze persoonlijke ervaringen worden op een openbare markt verhandeld. De Amerikaanse Harvard-hoogleraar Shoshana Zuboff noemt het ‘surveillance-kapitalisme’. Surveillance-kapitalisme verhandelt menselijke ervaring als een soort onbewerkt materiaal om het om te vormen tot datasets over gedrag.

Handel in immateriële goederen

Een deel van deze data is bedoeld om ons leven makkelijker te maken, er is bijvoorbeeld een servicepakket dat je nodig hebt voor je cv-ketel, maar er zijn extra’s aan verbonden, en die worden ingevoerd in computerprogramma’s die je gedrag kunnen voorspellen. En die voorspelling is interessant voor andere bedrijven, die graag betalen voor die gegevens. De bedrijven die deze immateriële goederen verhandelen zijn er schatrijk mee geworden.

Niemand komt bij u aan de deur om u te verplichten iets aan te schaffen. Het is allemaal veel subtieler, een duwtje hier, en een aanbod daar. Bestel eens een boek bij Amazon, u krijgt daarna een lijstje te zien van andere boeken die gedestilleerd zijn uit de koopervaring van anderen. Amazon weet precies waar u in geïnteresseerd bent.

De CV-thermostaat van Nest

Uw Nest-thermostaat is ontwikkeld door een bedrijf van Alphabet, de Google holding, en werd in 2018 door Google opgenomen in haar portfolio. De thermostaat maakt gebruik van bewegingssensoren en computerprogramma’s die uw gedrag registreren en vertalen naar de juiste temperatuur op het juiste moment in uw huis. In combinatie met een modulerende cv-ketel bespaar je ook nog eens energie. Uw gebruik wordt bijgehouden en teruggekoppeld naar de servers van Google. Iedere thermostaat heeft een privacy policy, en een service-overeenkomst.

Nest neemt nauwelijks verantwoordelijkheid voor de data die ze verzamelt, en verkoopt de data door aan andere geïnteresseerde bedrijven. U kunt natuurlijk weigeren. Maar uit een analyse van twee Engelse wetenschappers blijkt dat je ongeveer duizend contracten moet doorlopen om de precieze voorwaarden duidelijk te krijgen voor je thermostaat.

Het doel is ons te automatiseren

Het gaat niet alleen meer over een proces waarmee ons gedrag geregistreerd wordt, maar om een vergaande gedragsinvloed op ons leven. Het is niet langer voldoende om informatiestromen te automatiseren, maar het doel is om ons te automatiseren, zo schrijft Zuboff.

Ze maakt definitief een eind aan het ideaal van rond de eeuwwisseling, het idee dat het digitaal verbonden zijn met anderen per definitie sociaal is of, meer recent, ‘inclusief’ en dat dit altijd tendeert naar meer democratie en democratisering van kennis. De inmiddels gevleugelde uitspraak dat wanneer je iets gratis aangeboden wordt, jij zelf het product wel moet zijn, is maar ten dele waar. De eigenlijke klant is het bedrijf dat handelt in een markt voor toekomstig gedrag. Uw en mijn gedrag.

Data-opslag en de autoverzekeraar

Hal Varian, een van Google’s CEO’s, laat zien hoe computerisering, data-opslag en gedragsobservatie interessant zijn voor een autoverzekeraar. Het systeem dat je auto monitort kan ook de betalingen van je premie in de gaten houden. Als je te laat bent met je betaling kan het systeem een startonderbreker in werking stellen. Het algoritme geeft tegelijk je locatie aan en je auto kan opgehaald worden door de sleepdienst.

De verzekeraar kan ook je rijgedrag in de gaten houden, en dat resulteert in een hogere of lagere premie. Verzekeraars weten al sinds jaren dat rijgedrag samenhangt met persoonskenmerken. Ze konden er weinig aan doen, maar met dit systeem zijn er ongekende mogelijkheden.

Amerikaanse consultants adviseren hun klanten in de verzekeringswereld om gebruik te gaan maken van deze surveillancemogelijkheden. Deloitte weet uit eigen onderzoek dat de meeste mensen huiverig zijn om persoonskenmerken vrij te geven. De consultants van Deloitte adviseren dan ook om lagere premies in te zetten om mensen over te halen. Je krijgt met andere woorden kortingen als je maar keurig rijdt en op tijd betaald.

De EU en de maximumsnelheid

De EU heeft inmiddels wetgeving aangenomen die alle autofabrikanten vanaf 2024 verplicht de rijsnelheid te beperken tot een vastgestelde maximumsnelheid. Nieuwe auto’s krijgen een ‘kastje’ dat in verbinding staat met een computernetwerk dat snelheden en locaties registreert. Te hoge snelheid betekent waarschuwingstrillingen en automatisch afnemende snelheid tot een door de EU bepaald maximum. Een monitorsysteem dat ongekende mogelijkheden biedt voor verdere surveillance.

Zo lang er benzineauto’s zijn kun je niet meer te hard optrekken, want denk aan het milieu, je mag je motor niet onnodig laten draaien voor een stoplicht, want het milieu, etc. De maximum snelheid kan eenvoudig bijgesteld worden. Daar ga je dan met je Porsche op de Duitse snelweg met honderd kilometer per uur.

In feite hebben we niet goed door wat er aan de hand is, zegt Zuboff. We gebruiken nog steeds categorieën als ‘monopoly vorming’ of ‘privacy gevoeligheid’, om surveillance-kapitalisme tegen te gaan.

En hoewel deze categorieën van vitaal belang zijn, en er sprake is van monopolievorming en er bovendien een reële dreiging is van het schenden van onze privacy, schieten al deze woorden te kort waar het gaat om dit bewakingsfenomeen. Dit nieuwe regime dat we nog nauwelijks in beeld hebben is veel ingrijpender dan ‘monopolyvorming’ of ‘privacyschending’. Maar de EU heeft er geen belangstelling voor.

Klaus Schwab

Surveillance-kapitalisme is niet hetzelfde als digitale technologie. Het is digitale technologie in actie. In een vorig artikel in Wynia’s Week over Klaus Schwab beschreef ik zijn gretige en kritiekloze omarming van fenomenen als artificiële intelligentie (AI), robotica, zelfsturende auto’s, 3D-printing en kwantum computing.

Er is veel meer aan de hand, de surveillancekapitalist wil ons doen geloven, net zoals Schwab, dat Google een onvermijdelijk gevolg is van nieuwe technologie. Commerciële belangen en technologische noodzaak zijn echter niet hetzelfde.

Mijn probleem met Schwab is niet dat hij de CEO’s van de tech-bedrijven uitnodigt, het probleem is de veronderstelde onontkoombaarheid van surveillance die met deze bijeenkomsten in Davos gemeengoed is geworden. Je zult je moeten verdiepen in de concrete praktijk en niet alleen in bijvoorbeeld de monopolievorming zoals de EU doet.

De EU en het anti-trust onderzoek

De Europese Commissie heeft een formeel anti-trust onderzoek ingesteld naar de juridische overeenkomst tussen Google en Meta (Facebook) met betrekking tot hun advertentiestrategie. De vraag is of hier niet een EU-wetgeving voor open concurrentie is geschonden. Google kon onze privé-ervaringen omzetten in financieel gewin omdat wetgeving op dat gebied ontbrak.

Margrethe Vestager die hier namens de EU toezicht op houdt, moet uitzoeken of de vele uitgevers die gebruik maken van online-advertenties niet in de wielen gereden worden door de ‘Jedi Blue’-overeenkomst tussen Google en Meta. Jedi Blue, het contract tussen de twee kan gezien worden als oneerlijke economische concurrentie door monopolievorming, waardoor andere aanbieders uit de markt gedrukt worden.

Dit maakt ook duidelijk dat technologie nooit op zichzelf staat, de reeks artificiële intelligentie, robotica etc heeft een economisch doel, het zijn geen interessante uitvindingen op zichzelf. Zuboff is in veel meer geïnteresseerd dan economie alleen, ze verzet zich terecht tegen het schenden van de grenzen van onze privé-ervaringen, en onze morele integriteit.

Duopoly

De vraag die zij stelt is hoe zinvol het is om de monopoliepositie van Google en Facebook aan te vechten zoals de EU voorstaat. Het zal volgens haar resulteren in meerdere surveillancebedrijven, die weliswaar op kleinere schaal actief zijn, maar wel de weg openen naar nog meer surveillance.

De ‘duo-poly’, een tweezijdig monopoly van Google en Facebook in hun advertentiestrategie vermindert het aantal surveillancebedrijven in online-advertenties niet wezenlijk. De EU die zich graag beroept op onze waardengemeenschap lijkt hier geen oog voor te hebben.

Het internet verdwijnt

Het lijkt of het werkelijke probleem onzichtbaar is. Onze digitale wereld is zo’n algemeen goed geworden, dat we nauwelijks doorhebben wat er speelt. Zuboff refereert aan een bijeenkomst van het World Economic Forum in 2015 in Davos, de ‘winter speeltuin van het neoliberalisme’ zoals ze het noemt.

Eric Schmidt, de vroegere CEO van Google (later Alphabet), was door Schwab uitgenodigd om te praten over de toekomst van het internet. Naast hem zaten Sheryl Sandberg en Marissa Mayer, beiden CEO van Google en Yahoo. Eric Schmidt weet hoe hij een zaal moet toespreken, zijn openingszin is dat het internet zal verdwijnen. Rumoer alom in de zaal.

Schaduwland

Zijn argument is als volgt. Er zullen zo veel IP-adressen komen, zo veel computers, sensors, spullen die je draagt, dat je het niet langer opmerkt. De digitale wereld is ondergronds gegaan. Net als de immense hoeveelheid infrastructuur in buizen, leidingen, kabels, relais en verbindingen die je niet meer ziet maar die wel degelijk ondergronds aanwezig zijn.

Schmidts opmerking was echter niet nieuw. Hij parafraseerde de computerwetenschapper Mark Weiser. Hij wees er op dat de verst gevorderde technologie inmiddels onzichtbaar is geworden. De computers zelf verdwijnen naar de achtergrond.

Weiser beschreef onze virtuele wereld als een ‘schaduwland’, want we zitten nog steeds achter een bureau, vaak met andere mensen, en buiten regent het of schijnt de zon. De materiële wereld is altijd aanwezig, en we zijn zelf onderdeel van die wereld als levende materie. Het wordt tijd dat we veel kritischer kijken naar dat schaduwland.

Arie Graafland schrijft voor Wynia’s Week artikelen over actuele onderwerpen, vaak naar aanleiding van recente boekpublicaties. Wynia’s Week verschijnt twee keer per week en is gratis. De donateurs maken dat mogelijk. Doneren kan op verschillende manieren. Kijk HIER. Hartelijk dank!