Superpočítač namířený na váš mozek: Všímavost, stroje a metriky

Každá platforma, kterou používáte, poukazuje na stejný argument: klikli jste, takže jste to museli chtít. Randima Fernandová si myslí, že to je největší lež, kterou ekonomika pozornosti říká sama o sobě – stejný reflex, který upírá řidičův pohled na autonehodu na dálnici, mylně považovaný za touhu. Vytvořte kanál, který bude celý den produkovat autonehody, a budete získávat kliknutí. Nedostanete nic, co by kdokoli skutečně chtěl.

Randima Fernando vyrůstala v buddhistických rodinách, sedm let budovala neziskovou organizaci, která rozšířila mindfulness do škol, a dalších osm let se věnovala poradenství v Silicon Valley v oblasti humánního designu. Je tedy zvláštní slyšet ho Thomasovi Hüblovi přímo říkat, že meditace sama o sobě vás nezachrání. Ne proto, že by mindfulness nefungovala – protože ta věc na druhé straně vaší obrazovky je, podle jeho slov, superpočítač namířený na váš mozek a žádná disciplína spolehlivě neporazí soupeře, který o vás má více dat, než máte vy sami. Tím to ale nekončí: jeho skutečná odpověď se ubírá dvěma směry najednou, jeden zaměřený na to, co člověk může dělat ve svém vlastním životě, a druhý na to, co se musí změnit v samotném systému.

V tomto shrnutí

První část

Monetizace základních životních jednotek

„Pozornost,“ říká Randima, „je základní jednotkou, ve které mysl funguje“ – a celé odvětví existuje proto, že se ukázalo, že tato jednotka je dělitelná a prodejná. Existují bezplatné produkty, které slouží k sklizni jednotlivých částí a jejich následnému prodeji inzerentům, což znamená, že platforma není optimalizována pro to, co jste si skutečně přišli udělat. Je optimalizována pro to, jak dlouho vás dokáže udržet, než vás předá někomu jinému.

Tato jediná nesouladnost se kaskádovitě šíří. Když TikTok našel rychlejší způsob, jak unést pozornost krátkými videi, každý konkurent byl, podle jeho slov, poslán „zpátky do zasedacích místností a na strategické schůzky“, aby ho kopíroval, nebo ztratil půdu pod nohama – závod, který odměňuje cokoli, co upoutá pozornost nejrychleji, bez mechanismu, který by se zeptal, kolik to stojí osobu na druhém konci. Žurnalistika se posouvá směrem k „clickbaity, hyperbolickému, rozdělujícímu“ konci spektra, protože to je to, co algoritmus přežije. Politické kampaně provádějí A/B testy a empiricky se učí, že titulek, který vyvolává nejvíce pobouření – takže jich spustí více. Tlačítko „To se mi líbí“ tiše učí platformu, čeho vám má ukazovat více, a feed se rok od roku zužuje na stále extrémnější verzi toho, co již rezonovalo. Jeho navrhovaný experiment je téměř znepokojivě jednoduchý: vyměňte si feedy s přítelem, který volí jinak než vy. Uvidíte, říká, „velmi odlišný obsah a velmi odlišnou realitu“. Děti se učí základní „sociální fyziku“ lajků a sdílejí způsob, jakým se učí gravitaci – brzy a pocitově, nikoli instrukcemi. Randima ukazuje stejnou logiku extrakce až na okraj planety: růst postavený na „miliardách klimatizací, miliardách aut, miliardách hospodářských zvířat“ se chová stejně jako extrakce pozornosti – obojí nakonec předčí to, co dokáže základní systém, mysl nebo atmosféra, absorbovat.

Druhá část

Reflex, ne touha

Thomas do tohoto vzorce vnáší vlastní koncept: regulovaný nervový systém, jak naznačuje, vede k jemnějšímu vztahu s technologií – větší schopnosti vnímat, co je v nepořádku, a k reálnějším možnostem volby. Dysregulovaný systém, trauma, které někoho uvrhne do hyperaktivace, necitlivosti nebo fragmentace, zužuje stejné pole dříve, než si člověk vůbec může vybrat. Randimy se přímo ptá: učí se ekonomika pozornosti tuto vnitřní dysregulaci využívat záměrně?

Randimova odpověď se zaměřuje na závislost jako na otázku hloubky – jak hluboko, jeho slovy, „zvedák“ zasahuje do mozku. Tyto technologie se naučily spouštět dopaminové reakce, které se vyvinuly k odměňování přežití a reprodukce, a nezaměřují je na nic: oznámení, svitek, záblesk světla. Nejjasnějším případem jsou pro něj děti – ne proto, že by s nimi bylo něco v nepořádku, ale proto, že se jejich dopaminové systémy stále kalibrují na svět. Dejte před dvouleté dítě obrazovku a jeho oči ji budou nedobrovolně sledovat, protože jas byl navržen tak, aby překonal vše ostatní v místnosti – to, co nazývá „hypernormálním stimulem“, nad rámec čehokoli, co by tělo mohlo očekávat. Jakmile se dopaminové receptory dítěte kalibrují na tuto úroveň vstupu, běžný život se jeví jako plochý a odebrání zařízení může vyvolat skutečné, nepřiměřené utrpení.

Je opatrný ohledně rozdílu, který většina rozhovorů o technologiích přeskakuje: to, na co lidé klikají, není totéž, co chtějí. „Lidé na to klikli, takže to je to, co chtějí,“ říkají firmy – ale to, tvrdí Randima, plete reflex s úmyslem.

Každý se podle něj dívá na autonehodu na dálnici, protože pozornost věnovaná nebezpečí je mechanismem přežití, ne proto, že by si někdo skutečně přál svět plný autonehod. Jeho závěr je strukturální, nikoli moralizující: podnik, který přežívá díky vaší pozornosti, má vestavěný konflikt zájmů s tím, aby vám skutečně sloužil , protože skutečně užitečný produkt by vám dal to, co potřebujete, a nechal by vás odejít – opak toho, co udržuje metriky nahoře.

Třetí část

Meze extrakce a posun systému

Na otázku, jak se systém ve skutečnosti mění, Randima otázku jasně rozděluje na dvě části: co je možné v rámci současné ekonomiky a zda je tato ekonomika vůbec udržitelná. Uvnitř ní, říká, se všechno nakonec odvíjí od ceny – takže intervence, které fungují, jsou ty, které se nakonec dotknou hospodářského výsledku společnosti . Dokument jako Sociální dilema buduje povědomí veřejnosti; povědomí se stává politickým tlakem na nové zákony; zákony umožňují soudní spory; soudní spory nakonec připojují částku v dolarech ke škodám, které mohly být způsobeny. Informátoři jsou důležití ze stejného důvodu – uniklý interní dokument je důkazem, že společnost věděla, což mění povědomí v odpovědnost. Překážkou je vždy rychlost: technologie se pohybuje rychleji, než ji kterýkoli z těchto korekčních mechanismů dokáže sledovat.

Při dalším oddálení Randima aplikuje na mysl stejný zákon, jaký by aplikoval na ropu.

Těžba ropy ze země rychleji, než ji miliony let dokáží nahradit, a to je problém. Ořezávání pozornosti, soustředění a smyslotvornosti rychleji, než je odpočinek a reflexe dokáží znovu vybudovat, a – ze stejné logiky – i to je problém. Těžce získané schopnosti, jako je trvalá pozornost, vyžadují k vybudování skutečnou disciplínu a jen velmi málo k narušení; týdenní meditační praxe, poznamenává, se nevyrovná telefonu navrženému tak, aby o pozornost soupeřil osm hodin denně nebo i déle. Děti, jejichž mysl je tvárnější, to cítí nejrychleji.

Spojuje tuto nit s nerovností pomocí linie, která zároveň slouží jako diagnóza: kapitalismus „je velmi citlivý na kapitál“ – skutečně zodpovědný za skutečný pokrok v medicíně, potravinářství a technologiích a stejně spolehlivě koncentruje bohatství, pokud mu něco aktivně nebrání. Příchod výkonné umělé inteligence vnímá méně jako nový problém a spíše jako ten starý ve vyšší rychlosti – a možná jako tlak, který nakonec donutí strukturu pobídek ke změně.

Část čtvrtá

AI: Problém s extrakcí, nyní rychlejší

Randimův koncept umělé inteligence je až zdánlivě jednoduchý: technologie byla vždy největším akcelerátorem lidstva a tato generace umělé inteligence je dosud nejvýkonnější verzí tohoto akcelerátoru – kombinuje zisky napříč hardwarem, algoritmy, daty a výpočetní technikou najednou, rychleji, než se kdy pohnul Moorův zákon. Existuje ironie, kterou Randim nezabývá: stejný grafický hardware, který strávil sedm let vývojem ve společnosti Nvidia, pro vytváření obrázků na obrazovce, „rozsvěcování pixelů“, se téměř náhodou stal motorem právě té akcelerace, před kterou nyní varuje.

Ale akcelerátor nemění směr. Zesiluje jakýkoli směr, kterým je systém již namířen. AI, zaměřená na převážně těžební ekonomiku, těžbu nepřesměruje – uvádí ji „na plný výkon“. Nejbližším důsledkem je podle něj automatizace kognitivní práce před fyzickou prací, a to z prostého důvodu, že software se automatizuje snadněji než robotika. Obchodní logika není ani tak zlověstná, jako spíše všední: stroje nepotřebují nemocenskou, dovolenou ani zdravotní péči, takže kdekoli může společnost snížit náklady zjednodušením, udělá to – stejná strukturální gravitace, která způsobila, že ekonomika stékání selhala ve skutečné distribuci čehokoli.

Dává si pozor, aby z toho neudělal příběh s jediným koncem. Výhody umělé inteligence – v medicíně, v klimatických řešeních, v nových zdrojích energie – jsou skutečné, říká, a neměly by být ignorovány. Jeho výhrada se týká posloupnosti: společnost musí projít dveřmi zdravého rozumu a moudrých kolektivních rozhodnutí, než se tyto výhody skutečně projeví, a pokud se základní systémy zhroutí jako první – polarizace, nerovnost, sdílená realita již roztříštěná – dobré výsledky se nikdy nedostaví.

Podle jeho názoru je tento druhý kontakt nebezpečnější právě díky distribuci: tato technologie není centralizovaná tak, jako tomu bylo u platforem sociálních médií, což znamená, že regulační nástroje, které se potýkaly i s hrstkou velkých společností, čelí něčemu, co běží na telefonu každého – kdokoli si nyní může dle libosti vytvořit přesvědčivé falešné video nebo falešnou výzkumnou práci.

Část pátá

Vyhrajte tím, že nebudete v boji

Randima na závěr nabízí dva odlišné tahy – ne sekvenční, ne buď/anebo, ale dostatečně odlišné, aby si každý zasloužil svou vlastní váhu. Jeden je zaměřen na systém. Druhý je zaměřen na sebe sama.

Změňte pobídky

Abyste pochopili, k čemu se jakýkoli systém, společnost nebo osoba ve skutečnosti snaží optimalizovat, čtěte strukturu pobídek, nikoli uvedená slova: pobídky odhalují o chování mnohem více než slova nebo reklamní kampaně. Je to stejná logika v konečném důsledku, jakou jsme popsali výše ve třetí části – cenové mechanismy, legislativa, soudní spory, oznamovatelé, kteří mění tiché povědomí ve skutečnou odpovědnost. Změna toho, za co je společnost odměňována, je pomalejší než změna zvyku, ale je to páka, která se dotýká samotného systému, nikoli jen vztahu jedné osoby k němu.

Odřeknutí

Osobní krok začíná ještě před čímkoli ostatním: upřímně si, ideálně nahlas, s lidmi a učiteli, kterým důvěřujete, ujasněte, co pro vás moudrý život a skutečný úspěch skutečně znamenají – a nechte tuto jasnost, nikoli algoritmické nabídky Netflixu nebo sociálních médií, určovat směr vaší pozornosti.

Thomas obrací konverzaci zpět přímo k všímavosti: jakou roli zde vlastně hraje? Randimova odpověď má dvě části a právě zde se tvrzení z úvodu tohoto článku dostává svého plného vysvětlení. První část je velkorysá: všímavost buduje skutečné uvědomění – myšlenek, emocí, tělesných pocitů – což vytváří vnitřní prostor pro vnímání volby před jejím učiněním, a ne až po ní. Ve spojení s předchozí jasností o tom, jak vypadá dovedný život, je tato pauza místem, kde se skutečně dějí lepší volby.

Druhá část je ta těžší a je to ta samá, kterou začal: ani pokročilý trénink všímavosti vám tolik nepomůže, pokud stojíte uvnitř systému postaveného společností, která neustále analyzuje základní lidské kognitivní zkreslení – superpočítač namířený na mozek, jak to sám nazývá. Jeho závěrečnou radou není překonávat algoritmus. Je to jakési zřeknutí se, úmyslné oddělení od všeho, co již bylo identifikováno jako nešikovné, spíše než bitva, kterou lze vyhrát větším úsilím.

Nevyhrávat. Odmítat vůbec bojovat – a využít jakoukoli jasnost, kterou všímavost poskytuje, abych jasněji viděl, kde nestát.

Ani jeden krok nenahrazuje ten druhý. Změna pobídek mění to, co systém odměňuje; zřeknutí se mění váš vlastní vztah k tomuto systému, i když je stále tím, čím je. Randima už roky dělá obojí najednou.

↑ Zpět nahoru