Superračunalo usmjereno prema vašem mozgu: Mindfulness, strojevi i metrike

Svaka platforma koju koristite upućuje na isti argument: kliknuli ste, pa ste to morali htjeti. Randima Fernando smatra da je to najveća laž koju ekonomija pažnje govori o sebi - isti refleks koji vozaču brzo skrene pogled prema prometnoj nesreći na autocesti, što se pogrešno smatra željom. Izgradite feed koji cijeli dan proizvodi prometne nesreće i dobit ćete klikove. Nećete dobiti ništa što je itko zapravo želio.

Randima Fernando odgojena je od strane budističkih roditelja, sedam godina je gradila neprofitnu organizaciju koja je proširila mindfulness u škole, a osam godina je savjetovala Silicijsku dolinu o humanom dizajnu. Stoga je čudno čuti ga kako Thomasu Hüblu bez ustručavanja govori da vas sama meditacija neće spasiti. Ne zato što mindfulness ne funkcionira - jer je stvar s druge strane vašeg ekrana, njegovim riječima, superračunalo usmjereno prema vašem mozgu, i nikakva količina discipline pouzdano ne pobjeđuje protivnika s više podataka o vama nego što vi imate o sebi. Međutim, tu ne staje: njegov stvarni odgovor ide na dva kolosijeka odjednom, jedan usmjeren na ono što osoba može učiniti unutar vlastitog života, a drugi na ono što se mora promijeniti u samom sustavu.

U ovom sažetku

Prvi dio

Monetizacija osnovnih životnih jedinica

„Pažnja“, kaže Randima, „temeljna je jedinica u kojoj um djeluje“ - i cijela industrija postoji jer se ta jedinica pokazala djeljivom i prodajnom. Besplatni proizvodi postoje za prikupljanje dijelova, a zatim njihovu preprodaju oglašivačima, što znači da platforma nije optimizirana za ono što ste zapravo došli učiniti. Optimizirana je za to koliko dugo vas može zadržati prije nego što vas preda nekome drugome.

To jedno neusklađenost kaskadno se širi prema van. Kad je TikTok pronašao brži način da otme pažnju kratkim videom, svaki je konkurent, prema njegovim riječima, poslan "natrag u sobe za sastanke i strateške sesije" da ga kopira ili izgubi tlo pod nogama - utrka koja nagrađuje ono što najbrže privuče pažnju, bez mehanizma za pitanje koliko to košta osobu na drugom kraju. Novinarstvo se pomiče prema "mamcu za klikove, hiperboličkom, razdornom" kraju spektra jer to preživljava algoritam. Političke kampanje provode A/B testove i empirijski uče da naslov koji generira najviše bijesa pobjeđuje - pa ih pokreću više. Gumb "sviđa mi se" tiho uči platformu što vam treba više prikazivati, a feed se iz godine u godinu sužava na sve ekstremniju verziju onoga što je već odjeknulo. Njegov predloženi eksperiment gotovo je uznemirujuće jednostavan: zamijenite feedove s prijateljem koji glasa drugačije od vas. Vidjet ćete, kaže, "vrlo drugačiji sadržaj i vrlo drugačiju stvarnost". Djeca usvajaju temeljnu "društvenu fiziku" lajkova i dijele način na koji uče gravitaciju - rano i osjećajem, a ne uputama. Randima izvodi istu logiku ekstrakcije do ruba planeta: rast izgrađen na "milijardama klima uređaja, milijardama automobila, milijardama stoke" ponaša se na isti način kao i ekstrakcija pažnje - oboje na kraju nadmašuje ono što temeljni sustav, um ili atmosfera, može apsorbirati.

Drugi dio

Refleks, a ne želja

Thomas donosi vlastiti okvir u obrazac: regulirani živčani sustav, sugerira on, omogućuje nijansiraniji odnos s tehnologijom - veću sposobnost uočavanja što nije u redu, više stvarnog izbora. Disregulirani, trauma koja nekoga gura u hiperaktivaciju, obamrlost ili fragmentaciju, sužava isto polje prije nego što osoba uopće dođe do izbora. Izravno pita Randimu: uči li ekonomija pažnje namjerno iskorištavati tu unutarnju disregulaciju?

Randima odgovor provlači se kroz ovisnost kao pitanje dubine - koliko duboko, njegovim riječima, "priključak" ide u mozak. Ove tehnologije su naučile pokretati dopaminske reakcije koje su evoluirale kako bi nagradile preživljavanje i reprodukciju, i ne usmjeravaju ih ni na što: obavijest, svitak, bljesak svjetlosti. Najjasniji slučaj, za njega, su djeca - ne zato što s njima nešto nije u redu, već zato što se njihovi dopaminski sustavi još uvijek kalibriraju prema svijetu. Stavite ekran ispred dvogodišnjaka i njihove će ga oči nehotice pratiti, jer je svjetlina projektirana da nadmaši sve ostalo u sobi - ono što on naziva "hipernormalnim podražajem", izvan svega što bi tijelo evoluiralo očekivati. Nakon što se djetetovi dopaminski receptori kalibriraju na tu razinu unosa, običan život se čita kao ravan, a oduzimanje uređaja može izazvati stvarnu, nesrazmjernu nevolju.

Oprezno se odnosi na razliku koju većina razgovora o tehnologiji preskače: ono što ljudi kliknu nije isto što i ono što žele. „Ljudi su kliknuli na to, pa to je ono što žele“, kažu tvrtke - ali to, tvrdi Randima, brka refleks s namjerom.

Svi gledaju prometnu nesreću na autocesti, kaže on, jer je pažnja prema opasnosti mehanizam preživljavanja, a ne zato što netko zapravo želi svijet pun prometnih nesreća. Njegov zaključak je strukturalni, a ne moralizirajući: posao koji preživljava zahvaljujući vašoj pažnji ima ugrađeni sukob interesa s time da vam zapravo služi , jer bi vam istinski koristan proizvod dao ono što vam je potrebno i pustio vas da odete - suprotno od onoga što održava metriku visokom.

Treći dio

Granice ekstrakcije i pomicanja sustava

Na pitanje kako se sustav zapravo mijenja, Randima pitanje jasno dijeli na dva: što je moguće unutar trenutnog gospodarstva i je li to gospodarstvo uopće održivo. Unutar njega, kaže, sve na kraju prolazi kroz cijenu - pa su intervencije koje djeluju one koje na kraju dotiču profitabilnost tvrtke . Dokumentarac poput filma Društvena dilema gradi javnu svijest; svijest postaje politički pritisak za nove zakone; zakoni omogućuju parnice; parnice konačno pripisuju iznos u dolarima šteti koja se mogla slobodno prouzročiti. Zviždači su važni iz istog razloga - procurili interni dokument dokaz je da je tvrtka znala, što svijest pretvara u odgovornost. Prepreka je, uvijek, brzina: tehnologija se kreće brže nego što je bilo koji od ovih mehanizama ispravljanja može pratiti.

Ako se dodatno udaljimo, Randima će primijeniti isti zakon na um koji bi primijenio na naftu.

Vađenje nafte iz zemlje brže nego što je milijuni godina mogu zamijeniti, i to je problem. Smanjivanje pažnje, fokusa i stvaranja smisla brže nego što ih odmor i promišljanje mogu obnoviti, i - istom logikom - to je također problem. Teško stečene sposobnosti poput održive pažnje zahtijevaju pravu disciplinu za izgradnju, a vrlo malo za narušavanje; tjedna praksa meditacije, napominje, ne može se mjeriti s telefonom konstruiranim da se natječe za pažnju osam sati dnevno ili više. Djeca, čiji su umovi podložniji promjenama, to najbrže osjete.

Povezuje nit s nejednakošću linijom koja služi i kao dijagnoza: kapitalizam "vrlo je osjetljiv na kapital" - istinski odgovoran za stvarni napredak u medicini, hrani i tehnologiji, te jednako pouzdano koncentrira bogatstvo osim ako mu se nešto aktivno ne suprotstavi. Dolazak moćne umjetne inteligencije vidi manje kao novi problem, a više kao stari koji se razvija većom brzinom - i, moguće, kao pritisak koji konačno prisiljava strukturu poticaja na promjenu.

Četvrti dio

AI: Problem ekstrakcije, sada brže

Randimain okvir za umjetnu inteligenciju gotovo je varljivo jednostavan: tehnologija je oduvijek bila najveći akcelerator čovječanstva, a ova generacija umjetne inteligencije najmoćnija je verzija tog akceleratora dosad - kombinirajući dobitke u hardveru, algoritmima, podacima i računanju odjednom, brže nego što se Mooreov zakon ikada pomaknuo. Postoji ironija na kojoj se ne zadržava: isti grafički hardver koji je sedam godina gradio u Nvidiji, za izradu slika na ekranu, "osvjetljavanje piksela", pokazao se, gotovo slučajno, kao motor upravo ubrzanja na koje sada upozorava.

Ali akcelerator ne mijenja smjer. On pojačava bilo koji smjer u kojem je sustav već usmjeren. Usmjerena na pretežno ekstraktivnu ekonomiju, umjetna inteligencija ne preusmjerava ekstrakciju - stavlja je "na prekoračenje brzine". Najbliži učinak, tvrdi on, je automatizacija kognitivnog rada prije fizičkog rada, iz jednostavnog razloga što je softver lakše automatizirati nego robotiku. Poslovna logika nije toliko zlokobna koliko svakodnevna: strojevima ne trebaju dani bolovanja, godišnji odmori ili zdravstvena skrb, pa gdje god tvrtka može smanjiti troškove pojednostavljenjem, to će i učiniti - ista strukturna gravitacija koja je učinila da ekonomija procjeđivanja zapravo ništa ne distribuira.

Pazi da od ovoga ne napravi priču s samo jednim završetkom. Prednosti umjetne inteligencije - u medicini, klimatskim rješenjima, novim izvorima energije - stvarne su, kaže, i ne treba ih odmahnuti rukom. Njegova primjedba odnosi se na redoslijed: društvo mora proći kroz vrata zdravog razuma i mudrih kolektivnih odluka prije nego što te koristi zapravo mogu doći do izražaja, a ako se temeljni sustavi prvi slome - polarizacija, nejednakost, već fragmentirana zajednička stvarnost - dobri ishodi nikada uopće ne dolaze.

Ono što ovaj drugi kontakt čini opasnijim, prema njegovom mišljenju, jest distribucija: ova tehnologija nije centralizirana kao što su bile platforme društvenih medija, što znači da se regulatorni alati koji su se mučili čak i s nekolicinom velikih tvrtki suočavaju s nečim što radi na svačijem telefonu - svatko sada može generirati uvjerljiv lažni video ili lažni istraživački rad, po volji.

Peti dio

Pobijedite tako što nećete biti u borbi

Zaključno, Randima nudi dva različita poteza - ne uzastopna, ne ili/ili, već dovoljno različita da svaki zaslužuje vlastitu težinu. Jedan je usmjeren na sustav. Drugi je usmjeren na sebe.

Promijenite poticaje

Da biste razumjeli što bilo koji sustav, tvrtka ili osoba zapravo optimizira, pročitajte strukturu poticaja, a ne navedene riječi: poticaji otkrivaju puno više o ponašanju nego riječi ili reklamne kampanje. To je ista logika u osnovi obrađena u trećem dijelu - mehanizmi cijena, zakonodavstvo, parnice, zviždači pretvaraju tihu svijest u stvarnu odgovornost. Promjena onoga za što tvrtka dobiva nagradu sporija je od promjene navike, ali to je poluga koja dotiče sam sustav, a ne samo odnos jedne osobe prema njemu.

Odricanje

Osobni potez počinje prije svega ostalog: iskreno razjasnite, idealno naglas, ljudima i učiteljima kojima vjerujete, što za vas zapravo znači mudar život i pravi uspjeh – i dopustite toj jasnoći, a ne algoritamskim izbornicima Netflixa ili društvenih mreža, da usmjere vašu pažnju.

Thomas izravno vraća razgovor na svjesnost: kakvu ulogu ona zapravo ovdje igra? Randimain odgovor ima dva dijela, i tu tvrdnja s početka ovog teksta dobiva svoje puno objašnjenje. Prvi dio je velikodušan: svjesnost gradi stvarnu svijest - misli, emocija, tjelesnih osjeta - što stvara unutarnji prostor za uočavanje izbora prije nego što se napravi, umjesto nakon toga. Uparen s prethodnom jasnoćom o tome kako izgleda vješt život, ta pauza je mjesto gdje se zapravo događaju bolji izbori.

Drugi dio je teži, i to je isti onaj s kojim je započeo: čak ni napredni trening svjesnosti neće vam puno pomoći ako stojite unutar sustava koji je izgradila tvrtka koja provodi stalnu analizu protiv temeljne ljudske kognitivne pristranosti - superračunalo usmjereno prema mozgu, kako on kaže. Njegov završni savjet nije da se algoritam nadmaši disciplinom. To je vrsta odricanja, namjerno odvajanje od onoga što je već identificirano kao nevješto, a ne bitka koju treba dobiti većim trudom.

Ne pobjeđuje. Odbija uopće se boriti - i koristi bilo kakvu jasnoću koju pruža svjesnost kako bi jasnije vidio gdje ne treba stajati.

Niti jedan potez ne zamjenjuje drugi. Promjena poticaja mijenja ono što sustav nagrađuje; odricanje mijenja vaš vlastiti odnos prema tom sustavu dok je on još uvijek ono što jest. Randima već godinama radi oboje odjednom.

↑ Natrag na vrh