Superpočítač namierený na váš mozog: Všímavosť, stroje a metriky

Každá platforma, ktorú používate, poukazuje na rovnaký argument: klikli ste, takže ste to museli chcieť. Randima Fernandová si myslí, že je to najväčšia lož, ktorú ekonomika pozornosti hovorí o sebe – ten istý reflex, ktorý upriami pohľad vodiča na autonehodu na diaľnici, ktorú si mylne považuje za túžbu. Vytvorte kanál, ktorý bude celý deň produkovať autonehody, a budete dostávať kliknutia. Nedostanete nič, čo by niekto v skutočnosti chcel.

Randima Fernando vyrastala v budhistických rodinách, sedem rokov budovala neziskovú organizáciu, ktorá rozšírila všímavosť do škôl, a ďalších osem rokov sa venovala poradenstvu v Silicon Valley v oblasti humánneho dizajnu. Je preto zvláštne počuť ho, ako Thomasovi Hüblovi priamo hovorí, že meditácia sama o sebe vás nezachráni. Nie preto, že by všímavosť nefungovala – pretože tá vec na druhej strane vašej obrazovky je, podľa jeho slov, superpočítač namierený na váš mozog a žiadna disciplína spoľahlivo neporazí súpera, ktorý má o vás viac údajov, ako máte vy sami o sebe. Tým to však nekončí: jeho skutočná odpoveď sa uberá dvoma smermi naraz, jedna je zameraná na to, čo človek môže robiť vo svojom vlastnom živote, a druhá na to, čo sa musí zmeniť v samotnom systéme.

V tomto súhrne

Prvá časť

Speňaženie základných životných jednotiek

„Pozornosť,“ hovorí Randima, „je základnou jednotkou, v ktorej myseľ funguje“ – a celé odvetvie existuje, pretože sa ukázalo, že táto jednotka je deliteľná a predajná. Existujú bezplatné produkty na zber týchto častí a ich následný predaj inzerentom, čo znamená, že platforma nie je optimalizovaná na to, čo ste si v skutočnosti prišli urobiť. Je optimalizovaná na to, ako dlho vás dokáže udržať, kým vás neodovzdá niekomu inému.

Táto jediná nesúladnosť sa kaskádovito šíri smerom von. Keď TikTok našiel rýchlejší spôsob, ako uniesť pozornosť krátkymi videami, každý konkurent bol podľa jeho slov poslaný „späť do zasadacích miestností a na strategické stretnutia“, aby ho skopíroval alebo stratil pôdu pod nohami – preteky, ktoré odmeňujú to, čo najrýchlejšie upúta pozornosť, bez mechanizmu, ktorý by sa mohol opýtať, koľko to stojí osobu na druhom konci. Žurnalistika sa posúva smerom k „clickbaity, hyperbolickému, rozdeľujúcemu“ koncu spektra, pretože to je to, čo prežije algoritmus. Politické kampane vykonávajú A/B testy a empiricky sa učia, že titulok, ktorý vyvoláva najviac pobúrenia, vyhráva – takže ich spúšťajú viac. Tlačidlo „páči sa mi to“ potichu učí platformu, čoho vám má ukázať viac, a feed sa rok čo rok zužuje na čoraz extrémnejšiu verziu toho, čo už rezonovalo. Jeho navrhovaný experiment je takmer znepokojivo jednoduchý: vymeňte si feedy s priateľom, ktorý hlasuje inak ako vy. Uvidíte, hovorí, „veľmi odlišný obsah a veľmi odlišnú realitu“. Deti si osvojujú základnú „sociálnu fyziku“ lajkov a zdieľajú spôsob, akým sa učia gravitáciu – v ranom veku a pocitom, nie inštrukciami. Randima posúva rovnakú logiku extrakcie až na okraj planéty: rast postavený na „miliardách klimatizácií, miliardách áut, miliardách hospodárskych zvierat“ sa správa rovnako ako extrakcia pozornosti – obe nakoniec predbehnú to, čo dokáže absorbovať základný systém, myseľ alebo atmosféra.

Druhá časť

Reflex, nie túžba

Thomas do tohto vzorca vnáša vlastný koncept: regulovaný nervový systém, ako tvrdí, vytvára jemnejší vzťah s technológiou – väčšiu schopnosť všímať si, čo nie je v poriadku, a reálnejšiu voľbu. Dysregulovaný systém, trauma, ktorá niekoho uvrhne do hyperaktivácie, necitlivosti alebo fragmentácie, zužuje to isté pole skôr, ako si človek vôbec môže vybrať. Randimu priamo pýta: učí sa ekonomika pozornosti využívať túto vnútornú dysreguláciu zámerne?

Randimova odpoveď sa zameriava na závislosť ako na otázku hĺbky – ako ďaleko, podľa jeho slov, „jack“ siaha do mozgu. Tieto technológie sa naučili spúšťať dopamínové reakcie, ktoré sa vyvinuli na odmeňovanie prežitia a reprodukcie, a necielia ich na nič: oznámenie, zvitok, záblesk svetla. Najjasnejším prípadom sú pre neho deti – nie preto, že by s nimi niečo nebolo v poriadku, ale preto, že ich dopamínové systémy sa stále kalibrujú na svet. Dajte obrazovku pred dvojročné dieťa a jeho oči ju budú nedobrovoľne sledovať, pretože jas bol navrhnutý tak, aby prekonal všetko ostatné v miestnosti – to, čo nazýva „hypernormálny podnet“, nad rámec všetkého, čo by telo mohlo očakávať. Keď sa dopamínové receptory dieťaťa kalibrujú na túto úroveň vstupu, bežný život sa javí ako plochý a odobratie zariadenia môže vyvolať skutočné, neprimerané utrpenie.

Dáva si pozor na rozdiel, ktorý väčšina rozhovorov o technológiách preskakuje: to, na čo ľudia klikajú, nie je to isté, čo chcú. „Ľudia na to klikli, takže to je to, čo chcú,“ hovoria spoločnosti – ale to, tvrdí Randima, si mýli reflex so zámerom.

Každý sa pozerá na autonehodu na diaľnici, hovorí, pretože pozornosť venovaná nebezpečenstvu je mechanizmus prežitia, nie preto, že by niekto skutočne chcel svet plný autonehôd. Jeho záver je štrukturálny, nie moralizujúci: podnik, ktorý prežíva vďaka vašej pozornosti, má v sebe zabudovaný konflikt záujmov s tým, aby vám skutočne slúžil , pretože skutočne užitočný produkt by vám dal to, čo potrebujete, a nechal by vás odísť – opak toho, čo udržiava metriky na vysokej úrovni.

Tretia časť

Limity extrakcie a posunu systému

Na otázku, ako sa systém v skutočnosti mení, Randima otázku jasne rozdeľuje na dve časti: čo je možné v rámci súčasnej ekonomiky a či je táto ekonomika vôbec udržateľná. V jej rámci, hovorí, všetko nakoniec prechádza cez cenu – takže intervencie, ktoré fungujú, sú tie, ktoré sa nakoniec dotknú hospodárskych výsledkov spoločnosti . Dokument ako Sociálna dilema buduje verejné povedomie; povedomie sa stáva politickým tlakom na nové zákony; zákony umožňujú súdne spory; súdne spory nakoniec pripisujú sumu v dolároch škodám, ktoré mohli voľne spôsobiť. Informátori sú dôležití z rovnakého dôvodu – uniknutý interný dokument je dôkazom, že spoločnosť vedela, a to mení povedomie na zodpovednosť. Prekážkou je vždy rýchlosť: technológia sa pohybuje rýchlejšie, ako ju dokáže sledovať ktorýkoľvek z týchto korekčných mechanizmov.

Pri ďalšom oddialení Randima uplatní na myseľ rovnaký zákon, aký by uplatnil na ropu.

Ťažiť ropu zo zeme rýchlejšie, ako ju milióny rokov dokážu nahradiť, a to je problém. Znižovať pozornosť, sústredenie a vnímanie zmyslov rýchlejšie, ako ich odpočinok a reflexia dokážu obnoviť, a – z rovnakej logiky – aj to je problém. Ťažko nadobudnuté schopnosti, ako je sústredená pozornosť, si vyžadujú skutočnú disciplínu na vybudovanie a len veľmi málo na narušenie; poznamenáva, že týždenná meditačná prax sa nevyrovná telefónu navrhnutému tak, aby súťažil o pozornosť osem hodín denne alebo viac. Deti, ktorých myseľ je tvárnejšia, to pociťujú najrýchlejšie.

Túto niť spája s nerovnosťou líniou, ktorá zároveň slúži ako diagnóza: kapitalizmus „je veľmi citlivý na kapitál“ – skutočne zodpovedný za skutočný pokrok v medicíne, potravinárstve a technológiách a rovnako spoľahlivo koncentruje bohatstvo, pokiaľ mu niečo aktívne nepôsobí proti. Príchod výkonnej umelej inteligencie vníma menej ako nový problém a viac ako ten starý vo vyššej rýchlosti – a možno aj ako tlak, ktorý nakoniec prinúti zmeniť štruktúru stimulov.

Štvrtá časť

AI: Problém s extrakciou, teraz rýchlejší

Randimov koncept umelej inteligencie je takmer až klamlivo jednoduchý: technológia bola vždy najväčším urýchľovačom ľudstva a táto generácia umelej inteligencie je doteraz najvýkonnejšou verziou tohto urýchľovača – spája zisky v oblasti hardvéru, algoritmov, dát a výpočtov naraz, rýchlejšie, ako sa kedy pohol Moorov zákon. Existuje irónia, ktorou sa nezaoberá: ten istý grafický hardvér, ktorý sedem rokov vyvíjal v spoločnosti Nvidia, na vytváranie obrázkov na obrazovke, „rozsvecovanie pixelov“, sa takmer náhodou stal motorom práve toho zrýchlenia, pred ktorým teraz varuje.

Ale akcelerátor nemení smer. Zosilňuje smer, ktorým je systém už nasmerovaný. AI, zameraná na prevažne ťažobnú ekonomiku, nepresmeruje ťažbu – prepne ju „na plný výkon“. Najbližším efektom je podľa neho automatizácia kognitívnej práce pred fyzickou prácou z prostého dôvodu, že softvér sa automatizuje ľahšie ako robotika. Obchodná logika nie je ani tak zlovestná, ako skôr všedná: stroje nepotrebujú dni práceneschopnosti, dovolenky ani zdravotnú starostlivosť, takže všade, kde môže spoločnosť znížiť náklady zjednodušením, urobí to – rovnaká štrukturálna gravitácia, ktorá spôsobila, že ekonomika presakovania nedokázala v skutočnosti nič rozdeliť.

Dáva si pozor, aby z toho neurobil príbeh s iba jedným koncom. Výhody umelej inteligencie – v medicíne, v riešeniach klímy, v nových zdrojoch energie – sú skutočné, hovorí, a nemali by sa ignorovať. Jeho výhrada sa týka postupnosti: spoločnosť musí prejsť cestou zdravého rozumu a múdrych kolektívnych rozhodnutí, kým sa tieto výhody skutočne prejavia, a ak sa základné systémy zrútia ako prvé – polarizácia, nerovnosť, už aj tak rozdrobená spoločná realita – dobré výsledky sa nikdy nedostavia.

Podľa jeho slov je tento druhý kontakt nebezpečnejší najmä vďaka distribúcii: táto technológia nie je centralizovaná tak, ako boli platformy sociálnych médií, čo znamená, že regulačné nástroje, ktoré mali problémy aj s hŕstkou veľkých spoločností, čelia niečomu, čo beží na telefóne každého – teraz si ktokoľvek môže podľa ľubovôle vygenerovať presvedčivé falošné video alebo falošnú výskumnú prácu.

Piata časť

Vyhrajte tým, že nebudete v boji

Na záver Randima ponúka dva odlišné ťahy – nie postupné, nie buď/alebo, ale dostatočne odlišné, aby si každý zaslúžil vlastnú váhu. Jeden je zameraný na systém. Druhý je zameraný na seba samého.

Zmeňte stimuly

Aby ste pochopili, na čo sa systém, spoločnosť alebo osoba v skutočnosti snaží optimalizovať, prečítajte si štruktúru stimulov, nie uvedené slová: stimuly odhaľujú o správaní oveľa viac ako slová alebo reklamné kampane. Je to tá istá logika v konečnom dôsledku, aká bola spomenutá v tretej časti – cenové mechanizmy, legislatíva, súdne spory, oznamovatelia, ktorí premieňajú tiché povedomie na skutočnú zodpovednosť. Zmena toho, za čo je spoločnosť odmeňovaná, je pomalšia ako zmena zvyku, ale je to páka, ktorá sa dotýka samotného systému, nielen vzťahu jednej osoby k nemu.

Zrieknutie sa

Osobný krok začína ešte pred čímkoľvek ostatným: úprimne si ujasnite, ideálne nahlas, s ľuďmi a učiteľmi, ktorým dôverujete, čo pre vás v skutočnosti znamená múdry život a skutočný úspech – a nechajte túto jasnosť, nie algoritmické menu Netflixu alebo sociálnych médií, určiť smer vašej pozornosti.

Thomas obracia konverzáciu priamo k všímavosti: akú úlohu tu vlastne zohráva? Randimina odpoveď má dve časti a práve tu sa tvrdenie z úvodu tohto článku naplno prejavuje. Prvá časť je veľkorysá: všímavosť buduje skutočné uvedomenie si – myšlienok, emócií, telesných pocitov – čo vytvára vnútorný priestor na všimnutie si voľby skôr, ako sa urobí, a nie až potom. V spojení s predchádzajúcou jasnosťou o tom, ako vyzerá zručný život, je táto pauza miestom, kde sa skutočne dejú lepšie voľby.

Druhá časť je tá ťažšia a je to tá istá, ktorou začal: ani pokročilý tréning všímavosti vám veľa neurobí, ak stojíte vo vnútri systému vybudovaného spoločnosťou, ktorá neustále analyzuje základné ľudské kognitívne skreslenie – superpočítač namierený na mozog, ako to sám nazýva. Jeho záverečnou radou nie je prekonať algoritmus. Je to akési zrieknutie sa, zámerné oddelenie sa od všetkého, čo už bolo identifikované ako nešikovné, a nie boj, ktorý treba vyhrať väčším úsilím.

Nevyhrávanie. Odmietanie akéhokoľvek boja – a využívanie akejkoľvek jasnosti, ktorú poskytuje všímavosť, aby sme jasnejšie videli, kde nestojíme.

Ani jeden krok nenahrádza ten druhý. Zmena stimulov mení to, čo systém odmeňuje; zrieknutie sa mení váš vlastný vzťah k tomuto systému, pričom je stále tým, čím je. Randima už roky robí oboje naraz.

↑ Späť na začiatok