Superračunalnik, usmerjen v vaše možgane: Čuječnost, stroji in metrike

Vsaka platforma, ki jo uporabljate, se sklicuje na isti argument: kliknili ste, zato ste si to morali želeti. Randima Fernando meni, da je to največja laž, ki jo ekonomija pozornosti govori o sebi – isti refleks, ki voznikov pogled usmeri proti prometni nesreči na avtocesti, ki jo zamenjajo za željo. Zgradite vir, ki ves dan proizvaja prometne nesreče, in dobili boste klike. Ne boste dobili ničesar, kar bi si kdo dejansko želel.

Randima Fernando je bila vzgojena pri budističnih starših, sedem let je gradila neprofitno organizacijo, ki je čuječnost razširila v šole, in osem let je svetovala Silicijevi dolini o humanem oblikovanju. Zato je nenavadno slišati ga, kako Thomasu Hüblu brez ovinkarjenja pove, da vas meditacija sama po sebi ne bo rešila. Ne zato, ker čuječnost ne deluje – ker je stvar na drugi strani vašega zaslona, ​​po njegovih besedah, superračunalnik, usmerjen v vaše možgane, in nobena disciplina ne more zanesljivo premagati nasprotnika, ki ima o vas več podatkov, kot jih imate vi sami o sebi. Vendar to ni kraj: njegov dejanski odgovor poteka hkrati na dveh tirnicah, ena je usmerjena v to, kaj lahko človek stori v svojem življenju, druga pa v to, kaj se mora spremeniti v samem sistemu.

V tem povzetku

Prvi del

Monetizacija temeljnih življenjskih enot

»Pozornost,« pravi Randima, »je temeljna enota, v kateri deluje um« – in cela industrija obstaja, ker se je izkazalo, da je ta enota deljiva in prodajna. Obstajajo brezplačni izdelki, ki pobirajo te rezine in jih nato preprodajajo oglaševalcem, kar pomeni, da platforma ni optimizirana za to, kar ste dejansko prišli početi. Optimizirana je za to, kako dolgo vas lahko zadrži, preden vas preda nekomu drugemu.

Ta ena sama neusklajenost se kaskadno širi navzven. Ko je TikTok našel hitrejši način za ugrabitev pozornosti s kratkimi videoposnetki, je bil vsak tekmec, po njegovih besedah, poslan "nazaj v sejne sobe in na strateške seje", da ga kopira ali izgubi tla pod nogami – tekma, ki nagrajuje tisto, kar najhitreje pritegne pozornost, brez mehanizma, ki bi vprašal, koliko to stane osebo na drugem koncu. Novinarstvo se premika proti "vabi na klike, hiperboličnemu, razdiralnemu" koncu spektra, ker prav to preživi algoritem. Politične kampanje izvajajo A/B teste in se empirično naučijo, da zmaga naslov, ki najbolj povzroča ogorčenje – zato jih izvajajo več. Gumb "všeč mi je" tiho uči platformo, kaj naj vam pokaže več, vir pa se iz leta v leto zoži na vse bolj ekstremno različico tistega, kar je že odmevalo. Njegov predlagani eksperiment je skoraj zaskrbljujoče preprost: zamenjajte vire s prijateljem, ki glasuje drugače kot vi. Videli boste, pravi, "zelo drugačno vsebino in zelo drugačno resničnost." Otroci se naučijo osnovne "socialne fizike" všečkov in delijo, kako se učijo gravitacije – zgodaj in z občutkom, ne z navodili. Randima isto logiko ekstrakcije potegne na rob planeta: rast, zgrajena na "milijardah klimatskih naprav, milijardah avtomobilov, milijardah živine", se obnaša enako kot ekstrakcija pozornosti – oboje sčasoma prehiti tisto, kar lahko absorbira osnovni sistem, um ali ozračje.

Drugi del

Refleks, ne želja

Thomas v vzorec vnese svoj lastni okvir: reguliran živčni sistem, kot trdi, omogoča bolj niansiran odnos s tehnologijo – večjo sposobnost opazovanja, kaj ni v redu, več resnične izbire. Disreguliran živčni sistem, travma, ki nekoga pahne v hiperaktivacijo, otrplost ali razdrobljenost, zoži isto polje, še preden se oseba sploh lahko odloči. Randimo neposredno vpraša: ali se ekonomija pozornosti uči namerno izkoriščati to notranjo disregulacijo?

Randimaov odgovor sega skozi odvisnost kot vprašanje globine – kako daleč, po njegovih besedah, "vtičnica" seže v možgane. Te tehnologije so se naučile sprožiti dopaminske odzive, ki so se razvili za nagrajevanje preživetja in razmnoževanja, in jih usmerjajo v nič: obvestilo, zvitek, blisk svetlobe. Zanj so najbolj jasen primer otroci – ne zato, ker bi bilo z njimi kaj narobe, ampak zato, ker se njihovi dopaminski sistemi še vedno prilagajajo svetu. Postavite zaslon pred dvoletnika in njegove oči ga bodo nehote sledile, ker je svetlost zasnovana tako, da presega vse ostalo v sobi – kar imenuje "hipernormalni dražljaj", ki presega vse, kar bi telo lahko pričakovalo od evolucije. Ko se otrokovi dopaminski receptorji umerijo na to raven vnosa, se običajno življenje zdi ravno, odvzem naprave pa lahko sproži resnično, nesorazmerno stisko.

Previden je glede razlike, ki jo večina pogovorov o tehnologiji preskoči: tisto, kar ljudje kliknejo, ni isto kot tisto, kar si želijo. »Ljudje so kliknili na to, torej to si želijo,« pravijo podjetja – vendar to, trdi Randima, zamenjuje refleks z namenom.

Vsi gledajo na prometno nesrečo na avtocesti, pravi, ker je pozornost na nevarnost mehanizem preživetja, ne pa zato, ker si kdo dejansko želi sveta, polnega prometnih nesreč. Njegov zaključek je strukturen, ne moralizirajoč: podjetje, ki preživi od vaše pozornosti, ima vgrajen konflikt interesov z dejanskim služenjem vam , saj bi vam resnično uporaben izdelek dal tisto, kar potrebujete, in vas pustil oditi – ravno nasprotno od tega, kar ohranja kazalnike visoke.

Tretji del

Meje ekstrakcije in premikanja sistema

Na vprašanje, kako se sistem dejansko spreminja, Randima vprašanje jasno razdeli na dva dela: kaj je mogoče znotraj trenutnega gospodarstva in ali je to gospodarstvo sploh vzdržno. Znotraj njega, pravi, vse na koncu teče skozi ceno – zato so intervencije, ki delujejo, tiste, ki na koncu vplivajo na dobiček podjetja . Dokumentarni film, kot je Družbena dilema , ozavešča javnost; ozaveščenost postane politični pritisk za nove zakone; zakoni omogočajo sodne spore; sodni spori končno določijo znesek v dolarjih za škodo, ki bi jo lahko povzročili. Žvižgači so pomembni iz istega razloga – razkrit interni dokument je dokaz, da je podjetje vedelo, kar ozaveščenost spremeni v odgovornost. Ovira je vedno hitrost: tehnologija se razvija hitreje, kot jo lahko spremlja kateri koli od teh popravnih mehanizmov.

Če se še bolj pomanjšamo, Randima uporabi isti zakon za um, kot bi ga uporabil za nafto.

Nafto iz zemlje jemljemo hitreje, kot jo lahko nadomestijo milijoni let, in to je problem. Pozornost, osredotočenost in smiselnost prekinjamo hitreje, kot jih lahko počitek in refleksija obnovita, in – po isti logiki – tudi to je problem. Težko pridobljene sposobnosti, kot je trajna pozornost, zahtevajo resnično disciplino za izgradnjo in zelo malo za spodkopavanje; tedenska meditacija, ugotavlja, se ne more kosati s telefonom, ki je zasnovan tako, da se osem ur na dan ali več poteguje za pozornost. Otroci, katerih um je bolj voljan, to začutijo najhitreje.

Nit neenakosti poveže z vezjo, ki hkrati služi kot diagnoza: kapitalizem »je zelo občutljiv na kapital« – resnično odgovoren za resničen napredek v medicini, hrani in tehnologiji ter prav tako zanesljivo koncentrira bogastvo, razen če se mu nekaj aktivno upre. Prihod močne umetne inteligence vidi manj kot nov problem in bolj kot starega z večjo hitrostjo – in morda kot pritisk, ki končno prisili strukturo spodbud k spremembi.

Četrti del

Umetna inteligenca: Težava z ekstrakcijo, zdaj hitrejša

Randimaov okvir za umetno inteligenco je skoraj varljivo preprost: tehnologija je bila vedno največji pospeševalnik človeštva, ta generacija umetne inteligence pa je doslej najmočnejša različica tega pospeševalnika – združuje dobičke v strojni opremi, algoritmih, podatkih in računanju hkrati, hitreje kot se je kdaj premaknil Moorov zakon. Obstaja ironija, o kateri se ne poglobi: ista grafična strojna oprema, ki jo je sedem let gradil pri Nvidiji, za ustvarjanje slik na zaslonu, "osvetljevanje slikovnih pik", se je skoraj po naključju izkazala za motor prav tistega pospeševanja, na katerega zdaj opozarja.

Toda pospeševalnik ne spremeni smeri. Okrepi smer, v katero je sistem že usmerjen. Umetna inteligenca, ki je usmerjena v pretežno ekstraktivno gospodarstvo, ne preusmerja ekstrakcije – temveč jo "preusmeri". Najbližji učinek, trdi, je avtomatizacija kognitivnega dela pred fizičnim delom, iz preprostega razloga, ker je programsko opremo lažje avtomatizirati kot robotiko. Poslovna logika ni toliko zlovešča kot bolj vsakdanja: stroji ne potrebujejo bolniških dni, dopustov ali zdravstvene oskrbe, zato kjer koli lahko podjetje zmanjša stroške s poenostavitvijo, to tudi stori – ista strukturna gravitacija, zaradi katere ekonomija kapljanja ni uspela dejansko ničesar porazdeliti.

Pazi, da iz tega ne naredi zgodbe z enim samim koncem. Prednosti umetne inteligence – v medicini, podnebnih rešitvah, novih virih energije – so resnične, pravi, in jih ne gre zanemariti. Njegovo opozorilo se nanaša na zaporedje: družba mora prebroditi pot zdravega razuma in modrih kolektivnih odločitev, preden se te koristi dejansko pokažejo, in če se osnovni sistemi prej porušijo – polarizacija, neenakost, že tako razdrobljena skupna resničnost – dobri rezultati sploh nikoli ne pridejo.

Po njegovem mnenju je ta drugi stik še bolj nevaren zaradi distribucije: ta tehnologija ni centralizirana, kot so bile platforme družbenih medijev, kar pomeni, da se regulativna orodja, ki so se borila celo s peščico velikih podjetij, soočajo z nečim, kar deluje na telefonu vsakogar – zdaj lahko kdorkoli po mili volji ustvari prepričljiv lažen videoposnetek ali lažno raziskovalno nalogo.

Peti del

Zmagajte tako, da ne boste v boju

Za konec Randima ponuja dve različni potezi – ne zaporedni, ne enostranski, ampak dovolj različni, da si vsaka zasluži svojo težo. Ena je usmerjena v sistem. Druga je usmerjena v jaz.

Spremenite spodbude

Da bi razumeli, za kaj se kateri koli sistem, podjetje ali oseba dejansko optimizira, preberite strukturo spodbud, ne izrečenih besed: spodbude razkrijejo veliko več o vedenju kot besede ali oglaševalske kampanje. Gre za isto bistvo logike, kot je bilo opisano zgoraj v tretjem delu – mehanizmi cen, zakonodaja, sodni spori, žvižgači, ki tiho zavedanje spreminjajo v resnično odgovornost. Spreminjanje nagrajevanja podjetja je počasnejše od spreminjanja navade, vendar je to vzvod, ki se dotika samega sistema, ne le odnosa ene osebe do njega.

Odpoved

Osebna poteza se začne pred vsem ostalim: iskreno si razjasnite, idealno na glas, z ljudmi in učitelji, ki jim zaupate, kaj za vas dejansko pomeni modro življenje in resnična uspešnost – in naj ta jasnost, ne algoritmični meniji Netflixa ali družbenih medijev, usmerjajo vašo pozornost.

Thomas pogovor obrne nazaj neposredno k čuječnosti: kakšno vlogo pravzaprav igra tukaj? Randimain odgovor ima dva dela in prav tu dobi trditev z začetka tega članka svojo polno potrditev. Prvi del je velikodušen: čuječnost gradi resnično zavedanje – misli, čustev, telesnih občutkov – kar ustvarja notranji prostor za opazovanje izbire, preden je sprejeta, namesto po njej. V kombinaciji s predhodno jasnostjo o tem, kako izgleda spretno življenje, je ta premor tisti, kjer se dejansko zgodijo boljše izbire.

Drugi del je težji in je isti kot tisti, s katerim je začel: niti napredni trening čuječnosti vam ne bo kaj dosti pomagal, če stojite znotraj sistema, ki ga je zgradilo podjetje in nenehno analizira temeljne človeške kognitivne pristranskosti – superračunalnik, usmerjen v možgane, kot pravi. Njegov zaključni nasvet ni, da bi algoritem prekosili z discipliniranjem. Gre za neke vrste odpoved, zavestno ločitev od vsega, kar je že bilo opredeljeno kot nesposobno, in ne za bitko, ki jo je mogoče dobiti z večjim trudom.

Ne zmagati. Sploh se zavrniti bojevati – in uporabiti kakršno koli jasnost, ki jo ponuja čuječnost, da bolj jasno vidimo, kje ne smemo stati.

Nobena poteza ne nadomesti druge. Spreminjanje spodbud spremeni, kaj sistem nagrajuje; odpoved spremeni vaš odnos do tega sistema, medtem ko je ta še vedno takšen, kot je. Randima že leta počne oboje hkrati.

↑ Nazaj na vrh