En supercomputer rettet mod din hjerne: Mindfulness, maskiner og målinger

Enhver platform, du bruger, peger på det samme argument: du klikkede, så du må have ønsket det. Randima Fernando mener, at det er den største løgn, opmærksomhedsøkonomien fortæller om sig selv – den samme refleks, der får en bilists øjne til at vende sig mod et biluheld på motorvejen, forvekslet med begær. Byg et feed, der producerer bilulykker hele dagen, og du vil få klik. Du vil ikke få noget af det, som nogen rent faktisk ønskede.

Randima Fernando blev opdraget af buddhistiske forældre, brugte syv år på at opbygge en nonprofitorganisation, der skalerede mindfulness ind i skolerne, og har brugt yderligere otte år på at rådgive Silicon Valley om humant design. Så det er mærkeligt at høre ham direkte fortælle Thomas Hübl, at meditation alene ikke vil redde dig. Ikke fordi mindfulness ikke virker - for tingen på den anden side af din skærm er, med hans ord, en supercomputer rettet mod din hjerne, og ingen mængde disciplin slår pålideligt en modstander med flere data om dig, end du har om dig selv. Det er dog ikke der, han afslutter det: hans faktiske svar løber ad to spor på én gang, et rettet mod, hvad en person kan gøre i sit eget liv, og et rettet mod, hvad der skal ændres i selve systemet.

I denne oversigt

Del et

Monetisering af fundamentale livsenheder

"Opmærksomhed," siger Randima, "er den grundlæggende enhed, som sindet opererer i" - og en hel industri eksisterer, fordi den enhed viste sig at være delelig og salgbar. Gratis produkter findes for at høste udsnittene og derefter videresælge dem til annoncører, hvilket betyder, at en platform ikke er optimeret til det, du rent faktisk kom for at gøre. Den er optimeret til, hvor længe den kan holde dig, før den overdrager dig til en anden.

Den ene fejljustering kaskaderer udad. Da TikTok fandt en hurtigere måde at kapre opmærksomhed med kortformatvideo, blev alle konkurrenter, med hans ord, sendt "tilbage til bestyrelseslokalerne og strategimøderne" for at kopiere den eller tabe terræn - et kapløb, der belønner det, der fanger opmærksomheden hurtigst, uden en mekanisme til at spørge, hvad det koster personen i den anden ende. Journalistikken glider mod den "klik-baity, hyperbolske, splittende" ende af spektret, fordi det er det, der overlever algoritmen. Politiske kampagner kører A/B-tests og lærer empirisk, at den mest forargede overskrift vinder - så de kører flere af dem. En "synes godt om"-knap lærer stille og roligt en platform, hvad den skal vise dig mere af, og et feed indsnævres år efter år til en stadig mere ekstrem version af det, der allerede har resoneret. Hans foreslåede eksperiment er næsten foruroligende simpelt: byt feeds med en ven, der stemmer anderledes end dig. Du vil se, siger han, "meget anderledes indhold og en meget anderledes virkelighed." Børn opfanger den underliggende "sociale fysik" i likes og deler den måde, de lærer tyngdekraft på - tidligt og ved følelse, ikke instruktion. Randima trækker den samme udvindingslogik ud til planetens grænser: vækst bygget på "milliarder af klimaanlæg, milliarder af biler, milliarder af husdyr" opfører sig på samme måde som opmærksomhedsudvinding gør - begge overgår i sidste ende, hvad det underliggende system, et sind eller en atmosfære, kan absorbere.

Del to

Refleks, ikke begær

Thomas bruger sin egen ramme til mønsteret: et reguleret nervesystem, foreslår han, skaber et mere nuanceret forhold til teknologi – mere kapacitet til at bemærke, hvad der er galt, mere reelt valg. Et dysreguleret nervesystem, et traume, der tipper nogen ud i hyperaktivering, følelsesløshed eller fragmentering, indsnævrer det samme felt, før en person overhovedet får mulighed for at vælge. Han spørger Randima direkte: lærer opmærksomhedsøkonomien at udnytte denne interne dysregulering med vilje?

Randimas svar går gennem afhængighed som et spørgsmål om dybde – hvor langt, med hans ord, "jacken" går ind i hjernen. Disse teknologier har lært at udløse de dopaminresponser, der udviklede sig til at belønne overlevelse og reproduktion, og sigte dem mod ingenting: en notifikation, en skriftrulle, et lysglimt. Det klareste tilfælde, for ham, er børn – ikke fordi der er noget galt med dem, men fordi deres dopaminsystemer stadig kalibrerer sig til verden. Sæt en skærm foran en toårig, og deres øjne vil ufrivilligt spore den, fordi lysstyrken er blevet konstrueret til at overgå alt andet i rummet – hvad han kalder en "hypernormal stimulus", der går ud over alt, hvad en krop udviklede sig til at forvente. Når et barns dopaminreceptorer er kalibreret til det niveau af input, læses det almindelige liv som fladt, og at tage enheden væk kan udløse reel, uforholdsmæssig ubehag.

Han er omhyggelig med en sondring, som de fleste samtaler om teknologi springer over: Det, folk klikker på, er ikke det samme, som det, de ønsker. "Folk klikkede på det, så det er det, de ønsker," siger virksomheder – men det, argumenterer Randima, forveksler refleks med intention.

Alle ser på et biluheld på motorvejen, siger han, fordi opmærksomhed på fare er en overlevelsesmekanisme, ikke fordi nogen rent faktisk ønsker en verden fuld af bilulykker. Hans konklusion er strukturel, ikke moraliserende: en virksomhed, der overlever på din opmærksomhed, har en indbygget interessekonflikt med rent faktisk at tjene dig , fordi et ægte nyttigt produkt ville give dig det, du havde brug for, og lade dig gå – det modsatte af, hvad der holder målingerne oppe.

Del tre

Grænser for udvinding og systemskift

Adspurgt om, hvordan systemet rent faktisk ændrer sig, deler Randima spørgsmålet klart op i to: hvad er muligt i den nuværende økonomi, og om den økonomi overhovedet er bæredygtig. Indeni den, siger han, går alt i sidste ende gennem prisen - så de interventioner, der virker, er dem, der i sidste ende påvirker en virksomheds bundlinje . En dokumentar som The Social Dilemma opbygger offentlig bevidsthed; bevidsthed bliver til politisk pres for nye love; love muliggør retssager; retssager knytter endelig et beløb til skader, der tidligere havde været frie til at påføre. Whistleblowere er vigtige af samme grund - et lækket internt dokument er bevis på, at en virksomhed vidste det, hvilket er det, der forvandler bevidsthed til ansvar. Hindringen er altid hastighed: teknologien bevæger sig hurtigere, end nogen af ​​disse korrigerende mekanismer kan spore den.

Zoomer man yderligere ud, anvender Randima den samme lov på sindet, som han ville anvende på olie.

At få olie ud af jorden hurtigere end millioner af år kan erstatte den, og det er et problem. Skær opmærksomhed, fokus og meningsdannelse hurtigere end hvile og refleksion kan genopbygge dem, og – med samme logik – er det også et problem. Hårdt tilkæmpede evner som vedvarende opmærksomhed kræver reel disciplin at opbygge og meget lidt at udhule; en ugentlig meditationspraksis, bemærker han, er ingen match for en telefon, der er konstrueret til at konkurrere om opmærksomhed otte timer om dagen eller mere. Børn, hvis sind er mere formbart, mærker det hurtigst.

Han forbinder tråden med ulighed med en linje, der også fungerer som en diagnose: kapitalismen "er meget følsom over for kapital" – den er reelt ansvarlig for reelle fremskridt inden for medicin, mad og teknologi, og den koncentrerer rigdom lige så pålideligt, medmindre noget aktivt modvirker den. Han ser ankomsten af ​​kraftfuld AI mindre som et nyt problem end som det gamle i højere hastighed – og muligvis som det pres, der i sidste ende tvinger incitamentsstrukturen til at ændre sig.

Del fire

AI: Udvindingsproblem, nu hurtigere

Randimas forståelse af kunstig intelligens er næsten bedragerisk simpel: Teknologi har altid været menneskehedens største accelerator, og denne generation af AI er den mest kraftfulde version af denne accelerator til dato – den kombinerer gevinster på tværs af hardware, algoritmer, data og beregning på én gang, hurtigere end Moores lov nogensinde har gjort. Der er en ironi, han ikke dvæler ved: den samme grafikhardware, som han brugte syv år hos Nvidia på at bygge, til at lave billeder på en skærm, "som oplyser pixels", viste sig, næsten ved et tilfælde, at blive motoren bag netop den acceleration, han nu advarer om.

Men en accelerator ændrer ikke retning. Den forstærker den retning, et system allerede peger i. Med fokus på en overvejende udvindingsøkonomi omdirigerer AI ikke udvindingen – den sætter den "på overdrive". Den nærmeste effekt, argumenterer han, er automatisering af kognitivt arbejde før fysisk arbejde, af den simple grund, at software er lettere at automatisere end robotteknologi. Forretningslogikken er ikke så meget uhyggelig som mere banal: maskiner behøver ikke sygedage, ferier eller sundhedspleje, så uanset hvor en virksomhed kan reducere omkostningerne ved at forenkle, vil den gøre det – den samme strukturelle tyngdekraft, der fik trickle-down-økonomien til rent faktisk at undlade at fordele noget.

Han er omhyggelig med ikke at gøre dette til en historie med kun én slutning. Fordelene ved kunstig intelligens – inden for medicin, klimaløsninger, nye energikilder – er reelle, siger han, og bør ikke ignoreres. Hans forbehold handler om rækkefølge: samfundet skal igennem en døråbning af fornuftig forståelse og kloge kollektive valg, før disse fordele rent faktisk kan ramme, og hvis de underliggende systemer først bryder sammen – polarisering, ulighed, en fælles virkelighed, der allerede er brudt – så kommer de gode resultater aldrig overhovedet.

Det, der ifølge ham gør denne anden kontakt mere farlig, er distribution: Denne teknologi er ikke centraliseret på samme måde som sociale medieplatforme var, hvilket betyder, at de reguleringsværktøjer, der kæmpede selv med en håndfuld store virksomheder, er oppe imod noget, der kører på alles telefoner – alle kan nu generere en overbevisende falsk video eller en falsk researchartikel efter behag.

Del fem

Vind ved ikke at være i kampen

Afslutningsvis tilbyder Randima to forskellige træk – ikke sekventielle, ikke enten/eller, men forskellige nok til, at hver fortjener sin egen vægt. Den ene er rettet mod systemet. Den anden er rettet mod selvet.

Skift incitamenterne

For at forstå, hvad et system, en virksomhed eller en person rent faktisk optimerer til, skal du læse incitamentsstrukturen, ikke de angivne ord: incitamenter afslører meget mere om adfærd end ord eller reklamekampagner. Det er den samme bundlinjelogik, der er dækket ovenfor i del tre - prismekanismer, lovgivning, retssager, whistleblowere, der forvandler stille opmærksomhed til reel ansvar. At ændre, hvad en virksomhed bliver belønnet for at gøre, er langsommere end at ændre en vane, men det er den håndtag, der berører selve systemet, ikke kun én persons forhold til det.

Afkald

Det personlige skridt starter før alt andet af dette: vær oprigtigt klar, ideelt set højt, med mennesker og lærere, du stoler på, om, hvad et klogt liv og ægte fremgang rent faktisk betyder for dig – og lad den klarhed, ikke Netflix' eller sociale mediers algoritmiske menuer, sætte retningen for din opmærksomhed.

Thomas vender samtalen direkte tilbage til mindfulness: hvilken rolle spiller det egentlig her? Randimas svar har to dele, og det er her, påstanden fra starten af ​​dette stykke får sin fulde redegørelse. Den første del er generøs: mindfulness opbygger reel bevidsthed - om tanker, følelser, kropslige sanseindtryk - hvilket skaber det indre rum til at bemærke et valg, før det træffes, i stedet for bagefter. Parret med forudgående klarhed over, hvordan et dygtigt liv ser ud, er det netop denne pause, der hvor bedre valg rent faktisk sker.

Den anden del er den sværere, og det er den samme, som han indledte med: Selv avanceret mindfulness-træning vil ikke gøre så meget for dig, hvis du står inde i et system bygget af en virksomhed, der konstant analyserer fundamentale menneskelige kognitive bias – en supercomputer rettet mod hjernen, som han udtrykker det. Hans afsluttende råd er ikke at udmanøvrere algoritmen. Det er en slags afsværgelse, en bevidst adskillelse fra det, der allerede er blevet identificeret som udygtigt, snarere end en kamp, ​​der skal vindes ved at prøve hårdere.

Ikke at vinde. At nægte at kæmpe overhovedet – og bruge den klarhed, mindfulness giver, til tydeligere at se, hvor man ikke skal stå.

Ingen af ​​bevægelserne erstatter den anden. Skiftende incitamenter ændrer, hvad systemet belønner; afsavn ændrer dit eget forhold til systemet, mens det stadig er, hvad det er. Randima har nu brugt år på at gøre begge dele på én gang.

↑ Tilbage til toppen