Gepubliceerd op Vrij Links op 19 juni 2020, onder de titel ‘Traceer, analyseer, manipuleer‘.

Als het gaat om de inzet van digitale technologie om het gedrag van de burger te sturen, bestaat de meest principiële zorg eruit dat de politiek zo buitenspel wordt gezet. Welnu, laat het buitenspel zetten van de politiek nu precies de ideologische missie zijn van de mensen achter dergelijke technologie, de mensen in Silicon Valley, de mensen achter ‘big tech’, de mensen die bedrijven als Google, Facebook en Twitter besturen.

De directe aanleiding om dit goed tot ons door te laten dringen is de wens van de overheid om een opsporings-app in te zetten in de strijd tegen het coronavirus. De aankondiging in april door minister De Jonge oogde ietwat overhaast, maar ze leek dan ook deels bedoeld om de burger alvast te laten wennen aan het idee, mocht de inzet op goed moment echt nodig zijn. Want binnen de huidige situatie mag de urgentie dan wel lijken te zijn weggeëbd, dat kan straks zomaar weer anders zijn, als er bijvoorbeeld toch weer sprake is van een nieuwe besmettingsgolf, als het vinden van een vaccin langer gaat duren dan voorspeld, of wanneer de economische gevolgen tot een toenemende onverdraagzaamheid beginnen te leiden.

Het bekende maar onbegrijpelijke liedje

Reden genoeg om de ideeën achter data-surveillance en ‘digitale disciplinering’ nog eens goed te doordenken dus, overigens ook zonder de corona-app. We worden immers al sinds jaar en dag met waarschuwingen om de oren geslagen als het gaat om het weggeven van onze data: ons gedrag zal voorspeld en gestuurd worden, grote bedrijven zullen ons leven steeds verder infiltreren, de democratie wordt uitgehold en ongelijkheid tussen mensen vergroot, zoals o.a. dit artikel van De Correspondent beschrijft. Dit soort bezwaren klinkt inmiddels even zorgelijk als vertrouwd, maar het probleem is dat we ons er weinig concreets bij voor kunnen stellen. De problemen lijken eerder filosofisch van aard dan dat zij een directe bedreiging vormen voor onze welvaart of levensgeluk.

Het probleem is simpelweg dat wij ons er geen goede voorstelling van kunnen maken hoe het uit handen geven van onze data en privacy onze individuele levens negatief zou kunnen gaan beïnvloeden. Eerlijk gezegd heb ook ik geen idee wat voor rampspoed mij persoonlijk ten deel zal vallen als de macht van overheid en bedrijfsleven omtrent ‘big data’ niet bliksemsnel ingeperkt wordt. De persoonlijke voordelen aanwijzen van het weggeven van onze data en privacy is daarentegen een stuk makkelijker. Zo kunnen we immers ‘gratis’ gebruik maken van de diensten van Google, Facebook, Whatsapp en Instagram en van de talloze andere apps op onze smartphone. Deelnemen aan het moderne leven zonder het onvoorwaardelijk in zee gaan met Silicon Valley is nagenoeg onmogelijk.

Zolang de risico’s van een nieuwe technologie onduidelijk zijn, vertrouwen we onbewust op de kunde en goede intenties van de makers, degenen die ons in deze nieuwe en potentieel risicovolle situatie hebben gebracht. Waar wij tevens op vertrouwen is het idee dat digitale technologie ideologisch neutraal is, maar dat zou in het geval van de digitale revolutie waar we ons thans in bevinden zomaar eens een belangrijke misvatting kunnen zijn.

Het hippiekapitalisme achter ‘big tech’

Wanneer het gaat om traceer- of gezondheidsapps is het namelijk niet zozeer de overheid of het bedrijfsleven als zodanig waarop we vertrouwen – indirect en zonder dat we het doorhebben vertrouwen we vooral op de ideële motieven van de technologie-ontwikkelaars, oftewel op de ideologie van Silicon Valley. Om dit goed te begrijpen is het raadzaam om Cybertopia te kijken, de sublieme documentaire van de Nederlandse Marije Meerman over de ideologische missie achter ‘big tech’, hier te zien bij VPRO’s Tegenlicht.

Op overtuigende wijze leggen de makers van Cybertopia bloot wie nu eigenlijk precies de mensen zijn die onze levens op afstand diepgaand beïnvloeden, wat hen ten diepste drijft en wat hun politieke einddoel is. Google, Facebook, Uber en de vele andere bedrijven en start-ups die de Valley rijk is, zijn feitelijk het resultaat van een onwaarschijnlijk huwelijk tussen linkse hippiecultuur en een op libertarische leest geschoeid hyperkapitalisme. Een psychedelisch monsterverbond van progressieve visionairs, briljante technerds en anti-autoritaire durfkapitalisten voor wie geen idee te dol is; geniale maar rusteloze randfiguren die op de troepen vooruitlopen en niet zelden middels een ‘microdoseering’ LSD hun creativiteit op de werkvloer  trachten te vergroten. Voor alles geldt: hoe onconventioneler, hoe beter.

In de documentaire beschrijft cultuurhistoricus Fred Turner de protagonisten in Cybertopia ongeveer als volgt: ‘Ja er lopen hier de nodige rechtse figuren rond. Verkleed in roze konijnenpakken welteverstaan.’ Overigens wordt Silicon Valley inmiddels bekritiseerd vanwege de steeds dominanter wordende politieke correctheid aldaar. Een verwarrende som der delen dus, maar opgeteld lijkt het adagium ‘links lullen, rechts vullen’ nergens meer van toepassing te zijn dan hier.

Desondanks wordt duidelijk dat u met uw Google-, smartphone- en socialemediagebruik niet alleen de zakken van de aandeelhouders en tech-elite vult; zoals in de documentaire duidelijk wordt, financiert en steunt u vooral een radicale ideologische beweging die er een diep gekoesterd wantrouwen ten aanzien van staat en overheid op nahoudt. De wereld van de eenentwintigste eeuw zoals zij die voor zich zien is een enkel en interactief globalistisch systeem, waarin mensen niet langer gebonden zijn aan land, traditie of cultuur, en waar de macht van de oude instituten, die volgens hen per definitie gecorrumpeerd zijn, drastisch is ingeperkt. De bewoners bewegen zich door de wereld als atomaire deeltjes, op hun wenken bediend door ‘the internet of everything’.

Technosolutionisme

Deze vanuit Silicon Valley geregisseerde digitale revolutie zal de mensheid eindelijk in staat stellen om de ouderwetse manier van politiek bedrijven definitief achter zich te laten. Het idee dat we hier louter met hebzuchtige machtswellustingen te maken hebben is dan ook een simplificatie; velen in de Valley zijn er oprecht van overtuigd dat politiek het grote obstakel is dat tussen hen en een betere wereld in staat. Het door ‘big tech’ gepropageerde ‘technosolutionisme’, het idee dat ‘big data’ de burger beter kan bedienen dan politieke ideeën dat kunnen, en dat maatschappelijke problemen beter opgelost kunnen worden met behulp van technologie dan met politiek overleg, is ontstaan vanuit ideologisch idealisme en daarom allerminst neutraal.

Mocht dit u allemaal nog steeds te abstract klinken, stelt u zich dan voor dat telkens wanneer u op een link klikt of iets op sociale media post, dit automatisch zou leiden tot een donatie aan bijvoorbeeld de Internationale Socialisten, de Edmund Burke-stichting of de Rooms-Katholieke Kerk, zonder dat dit erbij vermeld wordt, en zonder dat u de keuze heeft om een andere organisatie te steunen.

‘Ethics by design’

Terug naar de ‘corona-app’. De grootste uitdaging voor de ontwerpers van apps is gelegen in het overwinnen van weerstand bij de consument, waarbij de grenzen van het tolereerbare logischerwijs consequent worden opgezocht; een app die ingewikkeld is in het gebruik of die zich al te opdringerig ‘gedraagt’ is immers geen lang leven beschoren. Premier Rutte haastte zich om te zeggen dat installatie van zo’n app niet verplicht zal worden, maar met het juiste ontwerp en de inbouw van wat slimmigheidjes is verplichte installatie straks waarschijnlijk helemaal niet nodig.

Veel slimmer en wellicht ook simpeler is het om de burger straks domweg te verleiden om, ondanks zijn bezwaren, toch tot installatie en gebruik over te gaan. Bij de meeste apps bestaat dit verleiden eruit dat ze aantrekkelijk zijn ontworpen en simpelweg leuk om te gebruiken; de zogeheten ‘ervaringontwerpers’ weten onze psychologische zwaktes doorgaans makkelijk te vinden.

Daarnaast moet het gebruik simpelweg voordeel bieden en wellicht zelfs privileges opleveren, zoals bijvoorbeeld het makkelijker binnenkomen van cafés en restaurants. Een app die dit laatste mogelijk maakt is reeds ontwikkeld; de makers ervan opperen om hun database beschikbaar te stellen aan bijvoorbeeld de GGD. En het is slechts een ideetje, maar wat te denken van een corona-app die je kunt koppelen aan je Tinder-account? De mogelijkheden om de volksgezondheid te koppelen aan een verdienmodel zijn legio; de verleiding voor de overheid om gebruik te maken van de data waarover het bedrijfsleven beschikt zal groot zijn.

Wat voor apps in het algemeen geldt zal voor corona-apps in het bijzonder gelden, namelijk dat zij op een dieper niveau ‘sturend’ van aard zijn. De gebruiker is in de veronderstelling dat hij zelf de regie heeft over zijn gedrag, terwijl hij in feite precies datgene doet wat de ontwerpers voor ogen hebben. Afhankelijk van het type app, zijn in deze sturende functie dikwijls ook één of meerdere ethische componenten geïmplementeerd, zoals uitgelegd door hoogleraar ICT-recht Lokke Moerel in een buitengewoon inzichtelijk interview.

De kritiek op het op deze wijze bevorderen van ethisch gedrag, een fenomeen ook wel ‘ethics by design’ genoemd, is drieledig. Allereerst bewijst het feit dát er een ethisch element in het ontwerp verscholen ligt dat deze apps, platformen en sociale media nooit ethisch neutraal (en dus ook niet politiek neutraal) kunnen zijn, ook al doen de platformen zelf doorgaans voorkomen van wel.

Hieruit volgt het tweede punt van kritiek, namelijk dat wat ‘het goede’ is niet langer wordt besloten in het politieke debat, maar in plaats daarvan binnenskamers wordt bepaald door een handjevol uiterst machtige bedrijven in een monopoliepositie, met bovendien enorme financiële belangen. En waar je in de politiek kunt kiezen voor een partij wiens gedachtengoed aansluit bij jouw idee van wat goed is, is dat in het geval van big tech onmogelijk, aangezien je niet of nauwelijks voor een alternatief kunt kiezen. Feitelijk nemen deze bedrijven zo ethische en politieke besluiten voor ons, terwijl zij niet op democratische wijze ter verantwoording kunnen worden geroepen.

Het derde bezwaar bestaat eruit dat de burger, door zijn ethische besluitvorming uit te besteden, zijn individuele verantwoordelijkheid afstaat, waarmee één van de belangrijkste pijlers onder de liberale democratie wordt weggeslagen. In het geval van een corona-app hoeft de burger niet langer zelf na te denken over wat verantwoordelijk gedrag is of niet; de app stuurt hem automatisch in de richting van ‘het goede’.

Deur naar de toekomst

Inmiddels hebben ook Google en Apple hun diensten aangeboden in de strijd tegen corona: de app zal immers op hùn apparaten gebruikt moeten gaan worden. In het eerder genoemde interview legt Moerel uit dat deze bedrijven niet zozeer bezig zijn met het ontwerpen van een corona-app zelf, maar veeleer met de aanleg van een nieuwe infrastructuur waardoor dit soort traceer- en gezondheidsapps optimaal zullen kunnen functioneren op hun toestellen, ook als zij zijn ontwikkeld door andere partijen. Een universele standaard maakt het immers makkelijker om data te extraheren en om grote en verschillende groepen gebruikers hetzelfde noodzakelijke gedrag te laten vertonen.

Al met al is het geen uitgemaakte zaak dat ons allerlei nare dingen zullen overkomen wanneer we eenmaal dit pad zijn ingeslagen. Ook al zijn de processen zoals boven geschetst reëel, het zijn geleidelijke processen waar je op individueel niveau waarschijnlijk weinig tot niets van merkt. En wie weet blijkt de inzet van traceer- en gezondheidsapps inderdaad de meest effectieve manier te zijn om de corona-crisis het hoofd te bieden, of om toekomstige pandemieën in een vroeg stadium te kunnen neutraliseren.

Daags na de aankondiging heeft een bezorgde club van privacy-experts en organisaties een pamflet opgesteld met eisen waaraan een corona-app moet voldoen om hun goedkeuring te verdragen. Mijns inziens zullen zij zich er geen zorgen om hoeven te maken dat de gegevens straks tot individuen herleidbaar zullen zijn of dat er tegen de afspraak in toch data centraal opgeslagen wordt of voor andere doeleinden gebruikt; overheid en bedrijfsleven zullen integer en kundig genoeg zijn om met de grootst mogelijke zorg aan de voorwaarden van critici te voldoen.

Wellicht moeten zij, paradoxaal genoeg, juist eerder vrezen dat zo’n corona-app een doorslaand succes wordt. De deur naar nieuwe en mogelijk ‘cybertopiaanse’ manieren van besturen, waar rechtsfilosoof en mede-ondertekenaar van het pamflet Maxim Februari nota bene zelf voor waarschuwt, komt dan immers op een verleidelijke kier te staan.