Een supercomputer gericht op je brein: mindfulness, machines en meetgegevens

Elk platform dat je gebruikt, gebruikt hetzelfde argument: je hebt geklikt, dus je moet het wel gewild hebben. Randima Fernando vindt dat dit de grootste leugen is die de aandachtseconomie over zichzelf vertelt – dezelfde reflex die ervoor zorgt dat een automobilist zijn ogen op een auto-ongeluk op de snelweg richt, ten onrechte aangezien voor verlangen. Bouw een feed die de hele dag auto-ongelukken simuleert en je krijgt clicks. Maar je krijgt niets wat iemand daadwerkelijk wilde.

Randima Fernando groeide op in een boeddhistisch gezin, werkte zeven jaar aan de opbouw van een non-profitorganisatie die mindfulness op scholen introduceerde, en adviseerde vervolgens nog acht jaar lang Silicon Valley over mensgericht ontwerp. Het is daarom vreemd om hem Thomas Hübl ronduit te horen vertellen dat meditatie alleen je niet zal redden. Niet omdat mindfulness niet werkt, maar omdat het apparaat aan de andere kant van je scherm, in zijn woorden, een supercomputer is die op je hersenen is gericht, en geen enkele hoeveelheid discipline kan een tegenstander met meer data over jou dan jijzelf betrouwbaar verslaan. Maar daar blijft het niet bij: zijn antwoord volgt twee sporen tegelijk, een gericht op wat een persoon in zijn eigen leven kan doen, en een gericht op wat er in het systeem zelf moet veranderen.

In deze samenvatting

Deel één

Monetarisering van fundamentele levenseenheden

"Aandacht," zegt Randima, "is de fundamentele eenheid waarin de geest functioneert" — en er bestaat een hele industrie omdat die eenheid deelbaar en verkoopbaar bleek te zijn. Gratis producten bestaan ​​om die stukjes te oogsten en ze vervolgens door te verkopen aan adverteerders. Dat betekent dat een platform niet geoptimaliseerd is voor wat je daadwerkelijk komt doen. Het is geoptimaliseerd voor hoe lang het je kan vasthouden voordat het je doorgeeft aan iemand anders.

Die ene mismatch heeft een domino-effect. Toen TikTok een snellere manier vond om de aandacht te trekken met korte video's, werden alle concurrenten, zoals hij het zelf zegt, "terug naar de directiekamers en strategiesessies" gestuurd om het te kopiëren of terrein te verliezen – een race die beloont wat het snelst de aandacht trekt, zonder mechanisme om te vragen wat het de persoon aan de andere kant kost. De journalistiek neigt naar de "clickbait-achtige, hyperbolische, polariserende" kant van het spectrum, omdat dat is wat het algoritme overleeft. Politieke campagnes voeren A/B-tests uit en leren empirisch dat de meest opruiende kop wint – dus plaatsen ze er meer van. Een "like"-knop leert een platform stilletjes wat het je vaker moet laten zien, en een feed versmalt jaar na jaar tot een steeds extremere versie van wat al aansloeg. Zijn voorgestelde experiment is bijna verontrustend eenvoudig: wissel feeds met een vriend die anders stemt dan jij. Je zult zien, zegt hij, "heel andere content en een heel andere realiteit." Kinderen leren de onderliggende 'sociale fysica' van likes en shares op dezelfde manier als ze zwaartekracht leren – vroeg en door gevoel, niet door instructie. Randima trekt dezelfde extractielogica door tot aan de rand van de planeet: groei gebaseerd op 'miljarden airconditioners, miljarden auto's, miljarden stuks vee' gedraagt ​​zich op dezelfde manier als aandachtsextractie – beide overtreffen uiteindelijk wat het onderliggende systeem, een geest of een atmosfeer, kan absorberen.

Deel twee

Reflex, geen verlangen

Thomas brengt zijn eigen perspectief in op het patroon: een gereguleerd zenuwstelsel, zo stelt hij, zorgt voor een meer genuanceerde relatie met technologie — meer vermogen om op te merken wat er mis is, meer echte keuzemogelijkheden. Een ontregeld zenuwstelsel, bijvoorbeeld door trauma dat iemand in hyperactivatie, gevoelloosheid of fragmentatie brengt, vernauwt datzelfde veld nog voordat iemand de kans krijgt om te kiezen. Hij vraagt ​​Randima rechtstreeks: leert de aandachtseconomie die interne ontregeling bewust uit te buiten?

Randima's antwoord draait om verslaving als een kwestie van diepgang – hoe diep, in zijn woorden, "de stekker" in de hersenen gaat. Deze technologieën hebben geleerd om de dopamine-reacties te activeren die geëvolueerd zijn om overleving en voortplanting te belonen, en richten ze op niets: een melding, een scrollbeweging, een flits. Het duidelijkste voorbeeld hiervan zijn volgens hem kinderen – niet omdat er iets mis met ze is, maar omdat hun dopaminesystemen zich nog moeten aanpassen aan de wereld om hen heen. Zet een scherm voor een tweejarige en zijn ogen zullen het onvrijwillig volgen, omdat de helderheid zo is ingesteld dat deze alles in de kamer overtreft – wat hij een "hypernormale stimulus" noemt, die verder gaat dan wat een lichaam evolutionair gezien kan verwachten. Zodra de dopaminereceptoren van een kind zich aan dat niveau van input hebben aangepast, voelt het gewone leven vlak aan en kan het wegnemen van het apparaat leiden tot reële, disproportionele stress.

Hij benadrukt een onderscheid dat in de meeste gesprekken over technologie over het hoofd wordt gezien: wat mensen aanklikken is niet hetzelfde als wat ze willen. "Mensen hebben erop geklikt, dus dat is wat ze willen," zeggen bedrijven – maar dat, zo betoogt Randima, verwart een reflex met een intentie.

Iedereen kijkt naar een auto-ongeluk op de snelweg, zegt hij, omdat aandacht voor gevaar een overlevingsmechanisme is, niet omdat iemand daadwerkelijk een wereld vol auto-ongelukken wil. Zijn slotwoord is structureel, niet moraliserend: een bedrijf dat overleeft op jouw aandacht heeft een ingebouwd belangenconflict met het daadwerkelijk van dienst zijn aan jou , want een echt nuttig product zou je geven wat je nodig hebt en je laten vertrekken – precies het tegenovergestelde van wat de cijfers hoog houdt.

Deel drie

Grenzen van de winning en het verschuiven van het systeem

Op de vraag hoe het systeem daadwerkelijk verandert, splitst Randima de vraag helder in tweeën: wat mogelijk is binnen de huidige economie, en of die economie überhaupt duurzaam is. Binnen die economie, zegt hij, draait alles uiteindelijk om de prijs – dus de interventies die werken, zijn de interventies die uiteindelijk de winst van een bedrijf raken . Een documentaire als The Social Dilemma vergroot het publieke bewustzijn; bewustzijn leidt tot politieke druk voor nieuwe wetten; wetten maken rechtszaken mogelijk; rechtszaken koppelen uiteindelijk een geldbedrag aan schade die voorheen gratis kon worden aangericht. Klokkenluiders zijn om dezelfde reden belangrijk – een gelekt intern document is het bewijs dat een bedrijf op de hoogte was, en dat is wat bewustzijn omzet in aansprakelijkheid. Het obstakel is altijd de snelheid: technologie ontwikkelt zich sneller dan al deze correctiemechanismen kunnen bijbenen.

Als we nog verder uitzoomen, zien we dat Randima dezelfde wet op de geest toepast als op olie.

Olie wordt sneller uit de grond gehaald dan dat het in miljoenen jaren kan worden aangevuld, en dat is een probleem. Aandacht, focus en het vermogen om betekenis te geven worden sneller aangetast dan rust en reflectie ze kunnen herstellen, en – volgens dezelfde logica – is dat ook een probleem. Moeizaam verworven vaardigheden zoals aanhoudende aandacht vergen echte discipline om op te bouwen en zijn met weinig moeite te verliezen; een wekelijkse meditatieoefening, merkt hij op, is geen partij voor een telefoon die is ontworpen om acht uur per dag of langer om aandacht te strijden. Kinderen, wier geest kneedbaarder is, merken dit het snelst.

Hij legt de link met ongelijkheid met een uitspraak die tegelijkertijd een diagnose is: het kapitalisme "is zeer gevoelig voor kapitaal" — daadwerkelijk verantwoordelijk voor echte vooruitgang in de geneeskunde, voedselproductie en technologie, en net zo betrouwbaar voor de concentratie van rijkdom, tenzij er actief iets tegenin gaat. Hij ziet de komst van krachtige AI minder als een nieuw probleem dan als het oude probleem in een hogere snelheid — en mogelijk als de druk die de prikkelstructuur uiteindelijk tot verandering dwingt.

Deel vier

AI: Extractieprobleem, nu sneller

Randima's visie op kunstmatige intelligentie is bijna bedrieglijk eenvoudig: technologie is altijd de grootste versneller van de mensheid geweest, en deze generatie AI is de krachtigste versie van die versneller tot nu toe – een combinatie van verbeteringen op het gebied van hardware, algoritmes, data en rekenkracht, allemaal tegelijk, sneller dan de wet van Moore ooit heeft gewerkt. Er zit een ironie in waar hij niet bij stilstaat: dezelfde grafische hardware die hij zeven jaar lang bij Nvidia ontwikkelde, om beelden op een scherm te projecteren, om "pixels te laten oplichten", bleek bijna per ongeluk de motor te zijn van precies die versnelling waar hij nu voor waarschuwt.

Maar een gaspedaal verandert de richting niet. Het versterkt de richting waarin een systeem al wijst. In een economie die voornamelijk gericht is op de winning van grondstoffen, stuurt AI de winning niet om – het zet die juist in de hoogste versnelling. Het meest directe effect, zo betoogt hij, is de automatisering van cognitief werk vóór fysieke arbeid, simpelweg omdat software gemakkelijker te automatiseren is dan robotica. De bedrijfslogica is niet zozeer sinister als wel alledaags: machines hebben geen ziektedagen, vakanties of zorgverzekering nodig, dus waar een bedrijf kosten kan besparen door te vereenvoudigen, zal het dat doen – dezelfde structurele zwaartekracht die ervoor zorgde dat de trickle-down-economie er niet in slaagde om daadwerkelijk iets te verdelen.

Hij is er zorgvuldig op bedacht om er geen verhaal met slechts één einde van te maken. De voordelen van AI – in de geneeskunde, bij klimaatoplossingen en bij nieuwe energiebronnen – zijn reëel, zegt hij, en mogen niet zomaar worden genegeerd. Zijn kanttekening betreft de volgorde: de samenleving moet eerst tot een goed begrip komen en verstandige collectieve keuzes maken voordat die voordelen zich daadwerkelijk kunnen manifesteren. En als de onderliggende systemen eerst instorten – polarisatie, ongelijkheid, een gedeelde realiteit die al gefragmenteerd is – dan komen de goede resultaten er helemaal niet.

Wat dit tweede contact volgens hem gevaarlijker maakt, is de verspreiding: deze technologie is niet gecentraliseerd zoals sociale mediaplatformen dat wel waren. Dat betekent dat de reguleringsinstrumenten, die zelfs bij een handvol grote bedrijven al moeite hadden, nu botsen met iets dat op ieders telefoon draait. Iedereen kan nu naar believen een overtuigende nepvideo of een neponderzoeksrapport maken.

Deel vijf

Win het door niet mee te doen aan de strijd.

Tot slot biedt Randima twee verschillende benaderingen aan — niet in een opeenvolging van twee, niet of-of-situaties, maar verschillend genoeg om elk op zichzelf te staan. De ene is gericht op het systeem. De andere is gericht op het zelf.

Verander de prikkels

Om te begrijpen waar een systeem, bedrijf of persoon nu daadwerkelijk op mikt, moet je de structuur van de beloningen lezen, niet de letterlijke woorden: beloningen onthullen veel meer over gedrag dan woorden of reclamecampagnes. Het is dezelfde logica die in deel drie hierboven is besproken: prijsmechanismen, wetgeving, rechtszaken, klokkenluiders die stille kennis omzetten in daadwerkelijke aansprakelijkheid. Het veranderen van de beloningen die een bedrijf ontvangt, gaat langzamer dan het veranderen van een gewoonte, maar het is de hefboom die het systeem zelf beïnvloedt, niet alleen de relatie van één persoon ermee.

Verzaking

De persoonlijke stap begint vóór al het andere: krijg oprechte duidelijkheid, idealiter hardop, met mensen en leraren die je vertrouwt, over wat een wijs leven en echt succes voor jou betekenen – en laat die duidelijkheid, en niet de algoritmische menu's van Netflix of sociale media, de richting van je aandacht bepalen.

Thomas brengt het gesprek direct terug naar mindfulness: welke rol speelt het hier nu eigenlijk? Randima's antwoord bestaat uit twee delen, en dit is waar de bewering aan het begin van dit artikel volledig wordt onderbouwd. Het eerste deel is ruimhartig: mindfulness bouwt echt bewustzijn op – van gedachten, emoties, lichamelijke gewaarwordingen – wat de innerlijke ruimte creëert om een ​​keuze te observeren vóórdat deze gemaakt wordt, in plaats van erna. In combinatie met een helder beeld van hoe een vaardig leven eruitziet, is die pauze het moment waarop betere keuzes daadwerkelijk tot stand komen.

Het tweede deel is het lastigste, en het is hetzelfde punt waarmee hij begon: zelfs geavanceerde mindfulness-training zal niet veel voor je betekenen als je je bevindt in een systeem dat is gebouwd door een bedrijf dat constant analyses uitvoert op fundamentele menselijke cognitieve vooroordelen – een supercomputer gericht op de hersenen, zoals hij het noemt. Zijn slotadvies is niet om het algoritme te overtreffen in discipline. Het is een soort afstand nemen, een bewuste scheiding van alles wat al als onbekwaam is aangemerkt, in plaats van een strijd die gewonnen moet worden door harder je best te doen.

Niet winnen. Helemaal weigeren te vechten – en de helderheid die mindfulness biedt gebruiken om duidelijker te zien waar je niet moet staan.

Geen van beide stappen vervangt de andere. Het veranderen van de prikkels verandert wat het systeem beloont; het afzweren ervan verandert je eigen relatie tot dat systeem, terwijl het in wezen hetzelfde blijft. Randima doet al jaren beide tegelijk.

↑ Terug naar boven