En superdator riktad mot din hjärna: Mindfulness, maskiner och mätvärden

Varje plattform du använder pekar mot samma argument: du klickade, så du måste ha velat ha det. Randima Fernando anser att det är den största lögnen uppmärksamhetsekonomin berättar om sig själv – samma reflex som får en förare att rikta blicken mot en bilolycka på motorvägen, misstagen för begär. Bygg ett flöde som tillverkar bilolyckor hela dagen så får du klick. Du kommer inte att få något som någon faktiskt ville ha.

Randima Fernando uppfostrades av buddhistiska föräldrar, tillbringade sju år med att bygga upp en ideell organisation som skalade upp mindfulness i skolor och har tillbringat ytterligare åtta år med att ge råd till Silicon Valley om human design. Så det är konstigt att höra honom säga till Thomas Hübl, helt enkelt, att meditation ensam inte kommer att rädda dig. Inte för att mindfulness inte fungerar – för saken på andra sidan skärmen är, med hans ord, en superdator riktad mot din hjärna, och ingen mängd disciplin slår tillförlitligt en motståndare med mer data om dig än du har om dig själv. Det är dock inte där han lämnar det: hans faktiska svar går på två spår samtidigt, ett riktat mot vad en person kan göra i sitt eget liv, och ett riktat mot vad som måste förändras i själva systemet.

I denna sammanfattning

Del ett

Monetisering av grundläggande livsenheter

”Uppmärksamhet”, säger Randima, ”är den grundläggande enhet sinnet verkar i” – och en hel industri existerar eftersom den enheten visade sig vara delbar och säljbar. Gratisprodukter finns för att skörda bitarna och sedan sälja dem vidare till annonsörer, vilket innebär att en plattform inte är optimerad för vad du faktiskt kom för att göra. Den är optimerad för hur länge den kan hålla dig kvar innan den överlämnar dig till någon annan.

Den enda felställningen kaskaderar utåt. När TikTok hittade ett snabbare sätt att kapa uppmärksamhet med kortformatsvideo, skickades varje konkurrent, med hans ord, "tillbaka till styrelserummen och strategimötena" för att kopiera den eller tappa mark – en kapplöpning som belönar det som fångar uppmärksamhet snabbast, utan någon mekanism för att fråga vad det kostar personen i andra änden. Journalistik glider mot den "klickbetonade, hyperboliska, splittrande" änden av spektrumet eftersom det är det som överlever algoritmen. Politiska kampanjer kör A/B-tester och lär sig, empiriskt, att den mest upprörande rubriken vinner – så de kör fler av dem. En "gilla"-knapp lär tyst en plattform vad den ska visa dig mer av, och ett flöde smalnar, år efter år, till en alltmer extrem version av det som redan resonerat. Hans föreslagna experiment är nästan oroande enkelt: byt flöden med en vän som röstar annorlunda än du. Du kommer att se, säger han, "väldigt annorlunda innehåll och väldigt annorlunda verklighet". Barn plockar upp den underliggande "sociala fysiken" i gilla-markeringar och delar hur de lär sig gravitation – tidigt, och genom känsla, inte instruktioner. Randima drar samma extraktionslogik ut till planetens utkant: tillväxt byggd på "miljarder luftkonditioneringsapparater, miljarder bilar, miljarder boskap" beter sig på samma sätt som uppmärksamhetsextraktion gör – båda springer så småningom ut ur det som det underliggande systemet, ett sinne eller en atmosfär, kan absorbera.

Del två

Reflex, inte begär

Thomas använder sin egen ram för mönstret: ett reglerat nervsystem, menar han, skapar en mer nyanserad relation till teknologi – större förmåga att lägga märke till vad som är fel, mer verkliga valmöjligheter. Ett dysreglerat system, ett trauma som leder till hyperaktivering, domningar eller fragmentering, begränsar samma fält innan en person ens får möjlighet att välja. Han frågar Randima direkt: lär sig uppmärksamhetsekonomin att utnyttja den interna dysregleringen med flit?

Randimas svar går genom beroende som en djupgående fråga – hur djupt, med hans ord, "jacket" går in i hjärnan. Dessa teknologier har lärt sig att utlösa de dopaminreaktioner som utvecklats för att belöna överlevnad och reproduktion, och rikta dem mot ingenting: en avisering, en scroll, en ljusblixt. Det tydligaste fallet, för honom, är barn – inte för att något är fel med dem, utan för att deras dopaminsystem fortfarande kalibreras till världen. Ställ en skärm framför en tvååring och deras ögon kommer ofrivilligt att följa den, eftersom ljusstyrkan har konstruerats för att överstiga allt annat i rummet – vad han kallar en "hypernormal stimulus", bortom allt en kropp utvecklats för att förvänta sig. När ett barns dopaminreceptorer har kalibrerats till den nivån av input, läses det vanliga livet som platt, och att ta bort enheten kan utlösa verklig, oproportionerlig nöd.

Han är noga med en distinktion som de flesta samtal om teknologi hoppar över: vad folk klickar på är inte detsamma som vad de vill ha. "Folk klickade på det, så det är vad de vill ha", säger företag – men det, menar Randima, förväxlar reflex med avsikt.

Alla ser på en bilolycka på motorvägen, säger han, eftersom uppmärksamhet på fara är en överlevnadsmekanism, inte för att någon faktiskt vill ha en värld full av bilolyckor. Hans slutsats är strukturell, inte moraliserande: ett företag som överlever på din uppmärksamhet har en inbyggd intressekonflikt med att faktiskt betjäna dig , eftersom en genuint användbar produkt skulle ge dig vad du behövde och låta dig gå – motsatsen till vad som håller mätvärdena uppe.

Del tre

Gränser för extraktion och systemförskjutning

På frågan om hur systemet faktiskt förändras delar Randima frågan tydligt i två delar: vad som är möjligt inom den nuvarande ekonomin, och om den ekonomin överhuvudtaget är hållbar. Inom den, säger han, går allt så småningom genom pris – så de interventioner som fungerar är de som så småningom påverkar ett företags resultat . En dokumentär som The Social Dilemma bygger upp allmänhetens medvetenhet; medvetenhet blir politiskt tryck för nya lagar; lagar möjliggör rättstvister; rättstvister kopplar slutligen en siffra till skador som tidigare varit fria att orsaka. Visselblåsare är viktiga av samma anledning – ett läckt internt dokument är bevis på att ett företag visste, vilket är det som förvandlar medvetenhet till ansvar. Hindret är alltid hastighet: tekniken rör sig snabbare än någon av dessa korrigerande mekanismer kan spåra den.

Zooma ut ytterligare, och Randima tillämpar samma lag på sinnet som han skulle tillämpa på olja.

Att ta upp olja ur marken snabbare än miljontals år kan ersätta den, och det är ett problem. Skär ner uppmärksamhet, fokus och meningsskapande snabbare än vila och reflektion kan återuppbygga dem, och – med samma logik – är det också ett problem. Svårt vunna förmågor som ihållande uppmärksamhet kräver verklig disciplin att bygga upp och väldigt lite att urholka; en veckovis meditationsövning, konstaterar han, är ingen match för en telefon som är konstruerad för att konkurrera om uppmärksamhet åtta timmar om dagen eller mer. Barn, vars sinnen är mer formbara, känner det snabbast.

Han kopplar tråden till ojämlikhet med en rad som även fungerar som en diagnos: kapitalismen "är mycket känslig för kapital" – den är genuint ansvarig för verkliga framsteg inom medicin, mat och teknologi, och koncentrerar lika tillförlitligt rikedom om inte något aktivt motverkar det. Han ser ankomsten av kraftfull AI mindre som ett nytt problem än som det gamla i högre hastighet – och möjligen som det tryck som slutligen tvingar incitamentsstrukturen att förändras.

Del fyra

AI: Extraktionsproblem, nu snabbare

Randimas syn på artificiell intelligens är nästan bedrägligt enkel: teknologi har alltid varit mänsklighetens största accelerator, och den här generationen av AI är den kraftfullaste versionen av den acceleratorn hittills – den kombinerar vinster över hårdvara, algoritmer, data och beräkningar på en gång, snabbare än Moores lag någonsin. Det finns en ironi han inte uppehåller sig vid: samma grafikhårdvara som han tillbringade sju år på Nvidia med att bygga, för att skapa bilder på en skärm, "lysa upp pixlar", visade sig, nästan av en slump, bli motorn för just den acceleration han nu varnar för.

Men en accelerator ändrar inte riktning. Den förstärker vilken riktning ett system redan pekar i. Riktad mot en övervägande utvinningsbar ekonomi omdirigerar AI inte utvinningen – den sätter den "på överväxel". Den närmaste effekten, menar han, är automatisering av kognitivt arbete före fysiskt arbete, av den enkla anledningen att programvara är lättare att automatisera än robotik. Affärslogiken är inte så mycket ondskefull som vardaglig: maskiner behöver inte sjukdagar, semestrar eller sjukvård, så varhelst ett företag kan minska kostnaderna genom att förenkla, kommer det att göra det – samma strukturella gravitation som gjorde att trickle-down-ekonomin inte lyckades distribuera någonting.

Han är noga med att inte göra det här till en historia med bara ett slut. AI:s fördelar – inom medicin, klimatlösningar, nya energikällor – är verkliga, säger han, och bör inte förbises. Hans varning handlar om sekvens: samhället måste ta sig igenom en dörröppning av sunt förnuft och kloka kollektiva val innan dessa fördelar faktiskt kan landa, och om de underliggande systemen bryter samman först – polarisering, ojämlikhet, en delad verklighet som redan är splittrad – kommer de goda resultaten aldrig alls.

Det som gör denna andra kontakt farligare, enligt hans berättelse, är distribution: den här tekniken är inte centraliserad på samma sätt som sociala medieplattformar var, vilket innebär att de regleringsverktyg som kämpade även med en handfull stora företag ställs inför något som körs på allas telefoner – vem som helst kan nu generera en övertygande falsk video, eller en falsk forskningsartikel, när som helst.

Del fem

Vinn genom att inte vara med i kampen

Avslutningsvis erbjuder Randima två distinkta drag – inte sekventiella, inte antingen/eller, men tillräckligt olika för att var och en förtjänar sin egen tyngd. Det ena riktar sig mot systemet. Det andra riktar sig mot jaget.

Skifta incitamenten

För att förstå vad ett system, företag eller en person faktiskt optimerar för, läs incitamentsstrukturen, inte de uttalade orden: incitament avslöjar mycket mer om beteende än ord eller reklamkampanjer. Det är samma slutgiltiga logik som tas upp ovan i del tre – prismekanismer, lagstiftning, rättstvister, visselblåsare som förvandlar tyst medvetenhet till verkligt ansvar. Att ändra vad ett företag belönas för att göra är långsammare än att ändra en vana, men det är den hävstång som berör själva systemet, inte bara en persons relation till det.

Avsägelse

Den personliga utvecklingen börjar före allt annat av detta: bli genuint tydlig, helst högt, med människor och lärare du litar på, om vad ett klokt liv och verklig framgång faktiskt betyder för dig – och låt den klarheten, inte Netflix eller sociala mediers algoritmiska menyer, bestämma riktningen för din uppmärksamhet.

Thomas vänder samtalet tillbaka direkt till mindfulness: vilken roll spelar det egentligen här? Randimas svar har två delar, och det är här påståendet från början av den här texten får sin fulla redogörelse. Den första delen är generös: mindfulness bygger verklig medvetenhet – om tanke, känsla, kroppslig förnimmelse – vilket skapar det inre utrymmet att lägga märke till ett val innan det görs istället för efteråt. Tillsammans med en förhandsklarhet om hur ett skickligt liv ser ut, är det just den pausen där bättre val faktiskt sker.

Den andra delen är den svårare, och det är samma som han inledde med: inte ens avancerad mindfulnessträning kommer att göra så mycket för dig om du står inuti ett system byggt av ett företag som ständigt analyserar grundläggande mänsklig kognitiv bias – en superdator riktad mot hjärnan, som han uttrycker det. Hans avslutande råd är inte att utmanövrera algoritmen. Det är ett slags avsägelse, en medveten separation från det som redan identifierats som oskickligt, snarare än en kamp som ska vinnas genom att försöka hårdare.

Att inte vinna. Att vägra att kämpa alls – och använda den klarhet som mindfulness ger för att tydligare se var man inte ska stå.

Inget av stegen ersätter det andra. Förändrade incitament förändrar vad systemet belönar; avsägelse förändrar din egen relation till det systemet medan det fortfarande är vad det är. Randima har nu ägnat år åt att göra båda samtidigt.

↑ Tillbaka till toppen