Superkomputer skierowany na Twój mózg: uważność, maszyny i metryki

Każda platforma, z której korzystasz, wskazuje na ten sam argument: kliknąłeś, więc musiałeś tego chcieć. Randima Fernando uważa, że ​​to największe kłamstwo, jakie gospodarka uwagi opowiada o sobie – ten sam odruch, który kieruje wzrok kierowcy na wypadek samochodowy na autostradzie, mylnie brany za pożądanie. Stwórz kanał, który cały dzień produkuje wypadki samochodowe, a będziesz miał kliknięcia. Nie dostaniesz niczego, czego ktokolwiek naprawdę chciał.

Randima Fernando wychował się w buddyjskiej rodzinie, spędził siedem lat na budowaniu organizacji non-profit, która wprowadziła uważność do szkół, a kolejne osiem lat doradzał Dolinie Krzemowej w zakresie projektowania humanitarnego. Dziwnie więc słyszeć, jak mówi wprost Thomasowi Hüblowi, że sama medytacja cię nie uratuje. Nie dlatego, że uważność nie działa – bo to, co widzisz po drugiej stronie ekranu, to, jak to ujął, superkomputer skierowany na twój mózg, a żadna dyscyplina nie pokona przeciwnika, który ma o tobie więcej danych niż ty sam o sobie. Na tym jednak nie kończy: jego odpowiedź biegnie dwoma torami jednocześnie, jednym ukierunkowanym na to, co dana osoba może zrobić we własnym życiu, i drugim, który koncentruje się na tym, co musi zmienić w samym systemie.

W tym podsumowaniu

Część pierwsza

Monetyzacja podstawowych jednostek życia

„Uwaga”, mówi Randima, „to podstawowa jednostka, w której funkcjonuje umysł” – i cała branża istnieje, ponieważ ta jednostka okazała się podzielna i zbywalna. Darmowe produkty istnieją po to, by zbierać te fragmenty, a następnie odsprzedawać je reklamodawcom, co oznacza, że ​​platforma nie jest zoptymalizowana pod kątem tego, po co faktycznie przyszedłeś. Jest zoptymalizowana pod kątem tego, jak długo może cię zatrzymać, zanim przekaże cię komuś innemu.

Ta pojedyncza rozbieżność ma charakter kaskadowy. Kiedy TikTok znalazł szybszy sposób na przyciągnięcie uwagi za pomocą krótkich filmów, wszyscy konkurenci zostali, jak to ujął, odesłani „z powrotem do sal konferencyjnych i na sesje strategiczne”, by go skopiować lub stracić pozycję – w wyścigu, który nagradza to, co najszybciej przyciągnie uwagę, bez mechanizmu pozwalającego zapytać, ile to kosztuje osobę po drugiej stronie. Dziennikarstwo dryfuje w stronę „clickbaity, hiperbolicznego, wywołującego podziały” krańca spektrum, ponieważ to właśnie przetrwa algorytm. Kampanie polityczne przeprowadzają testy A/B i empirycznie dowiadują się, że wygrywa nagłówek wywołujący największe oburzenie – więc publikują ich więcej. Przycisk „lubię to” dyskretnie podpowiada platformie, czego ma częściej pokazywać, a kanał z roku na rok zawęża się do coraz bardziej ekstremalnej wersji tego, co już rezonowało. Jego sugerowany eksperyment jest wręcz niepokojąco prosty: zamień się kanałami ze znajomym, który głosuje inaczej niż ty. Zobaczysz, jak mówi, „zupełnie inną treść i zupełnie inną rzeczywistość”. Dzieci przyswajają podstawową „fizykę społeczną” polubień i udostępniania w taki sam sposób, w jaki uczą się grawitacji – wcześnie i na podstawie wyczucia, a nie instrukcji. Randima doszukuje się tej samej logiki ekstrakcji aż po krańce planety: wzrost oparty na „miliardach klimatyzatorów, miliardach samochodów, miliardach zwierząt gospodarskich” zachowuje się tak samo, jak ekstrakcja uwagi – oba ostatecznie przekraczają to, co może wchłonąć system, umysł lub atmosfera.

Część druga

Refleks, nie pragnienie

Thomas wnosi do tego schematu własną ramę: uregulowany układ nerwowy, jak sugeruje, sprzyja bardziej zniuansowanej relacji z technologią – większej zdolności dostrzegania tego, co jest nie tak, bardziej realnego wyboru. Układ rozregulowany, w którym trauma wpędza kogoś w stan hiperaktywacji, otępienia lub fragmentacji, zawęża to pole, zanim jeszcze dana osoba zdąży dokonać wyboru. Pyta Randimę wprost: czy gospodarka uwagi uczy się celowo wykorzystywać tę wewnętrzną dysregulację?

Odpowiedź Randimy dotyczy uzależnienia jako kwestii głębi – jak głęboko, jak to ujął, „walet” sięga do mózgu. Technologie te nauczyły się wyzwalać reakcje dopaminowe, które ewoluowały, by nagradzać przetrwanie i reprodukcję, i ukierunkowywać je na nic: powiadomienie, przewijanie ekranu, błysk światła. Najwyraźniejszym przykładem są dla niego dzieci – nie dlatego, że coś z nimi jest nie tak, ale dlatego, że ich układy dopaminowe wciąż kalibrują się do świata. Postaw ekran przed dwulatkiem, a jego oczy mimowolnie będą go śledzić, ponieważ jasność została zaprojektowana tak, aby przewyższała wszystko inne w pomieszczeniu – to, co Randima nazywa „hipernormalnym bodźcem”, wykraczającym poza wszystko, czego ewolucyjnie oczekuje ciało. Gdy receptory dopaminy dziecka skalibrują się do tego poziomu bodźców, codzienne życie wydaje się płaskie, a odebranie urządzenia może wywołać prawdziwy, nieproporcjonalny stres.

Uważa na rozróżnienie, które pomija większość rozmów o technologii: to, w co ludzie klikają, nie jest tym samym, czego chcą. „Ludzie kliknęli, więc tego właśnie chcą” – mówią firmy – ale Randima argumentuje, że to myli odruch z intencją.

Każdy patrzy na wypadek samochodowy na autostradzie, mówi, ponieważ uwaga skupiona na niebezpieczeństwie jest mechanizmem przetrwania, a nie dlatego, że ktokolwiek chce świata pełnego wypadków samochodowych. Jego zakończenie ma charakter strukturalny, a nie moralizatorski: firma, która przetrwa dzięki twojej uwadze, ma wbudowany konflikt interesów z faktycznym świadczeniem usług , ponieważ naprawdę użyteczny produkt dałby ci to, czego potrzebujesz i pozwoliłby ci odejść – a to jest przeciwieństwo tego, co utrzymuje wskaźniki na wysokim poziomie.

Część trzecia

Granice ekstrakcji i przesuwania systemu

Zapytany, jak system się faktycznie zmienia, Randima rozdziela pytanie wyraźnie na dwie części: co jest możliwe w obecnej gospodarce i czy ta gospodarka jest w ogóle zrównoważona. W niej, mówi, wszystko ostatecznie przechodzi przez cenę — więc interwencje, które działają, to te, które ostatecznie dotykają wyniku finansowego firmy . Dokument taki jak The Social Dilemma buduje świadomość społeczną; świadomość staje się presją polityczną na nowe prawa; prawa umożliwiają procesy sądowe; procesy sądowe ostatecznie przypisują kwotę dolarową szkodom, które mogły zostać wyrządzone. Sygnaliści są ważni z tego samego powodu — wyciekły wewnętrzny dokument jest dowodem, że firma wiedziała, a to właśnie zmienia świadomość w odpowiedzialność. Przeszkodą jest zawsze prędkość: technologia rozwija się szybciej, niż którykolwiek z tych mechanizmów korygujących może ją śledzić.

Oddalając się jeszcze bardziej, Randima stosuje do umysłu tę samą zasadę, którą zastosowałby do ropy naftowej.

Wydobycie ropy z ziemi szybciej, niż miliony lat będą w stanie ją zastąpić, stanowi problem. Zmniejszenie uwagi, skupienia i nadawania sensu szybciej, niż odpoczynek i refleksja mogą je odbudować, stanowi problem – i – zgodnie z tą samą logiką – również stanowi problem. Zdobyte z trudem zdolności, takie jak koncentracja uwagi, wymagają prawdziwej dyscypliny, a ich zniszczenie jest bardzo ograniczone; cotygodniowa praktyka medytacji, jak zauważa, nie ma szans w starciu z telefonem zaprojektowanym do walki o uwagę przez osiem godzin dziennie lub dłużej. Dzieci, których umysły są bardziej podatne na wpływy, odczuwają to najszybciej.

Łączy on wątek nierówności z linią, która jednocześnie stanowi diagnozę: kapitalizm „jest bardzo wrażliwy na kapitał” – autentycznie odpowiedzialny za realny postęp w medycynie, żywności i technologii, i równie skutecznie koncentrował bogactwo, chyba że coś aktywnie mu przeciwdziała. Postrzega on nadejście potężnej sztucznej inteligencji nie jako nowy problem, a raczej jako stary problem rozwijający się z większą prędkością – i być może jako presję, która ostatecznie zmusi strukturę bodźców do zmiany.

Część czwarta

AI: Problem ekstrakcji, teraz szybszy

Koncepcja Randimy dotycząca sztucznej inteligencji jest niemal pozornie prosta: technologia zawsze była największym akceleratorem ludzkości, a obecne pokolenie sztucznej inteligencji jest jak dotąd najpotężniejszą wersją tego akceleratora – kumulując jednocześnie korzyści w zakresie sprzętu, algorytmów, danych i obliczeń, szybciej niż kiedykolwiek działało prawo Moore'a. Jest w tym pewna ironia, nad którą nie rozwodzi się: ten sam sprzęt graficzny, który budował przez siedem lat w firmie Nvidia, do tworzenia obrazów na ekranie, „rozświetlając piksele”, okazał się, niemal przypadkiem, motorem napędowym tego właśnie przyspieszenia, przed którym teraz ostrzega.

Ale akcelerator nie zmienia kierunku. Wzmacnia kierunek, w którym system już podąża. Ukierunkowana na gospodarkę w przeważającej mierze ekstrakcyjną, sztuczna inteligencja nie przekierowuje procesu ekstrakcji – wręcz przeciwnie, „włącza go na najwyższych obrotach”. Najbliższym efektem, jak argumentuje, jest automatyzacja pracy poznawczej przed pracą fizyczną, z prostego powodu – oprogramowanie jest łatwiejsze do zautomatyzowania niż robotyka. Logika biznesowa nie jest aż tak złowroga, jak prozaiczna: maszyny nie potrzebują zwolnień lekarskich, urlopów ani opieki zdrowotnej, więc wszędzie tam, gdzie firma może obniżyć koszty poprzez uproszczenie, zrobi to – ta sama strukturalna grawitacja, która sprawiła, że ​​ekonomia spływu nie zdołała w rzeczywistości niczego rozpowszechnić.

Uważa, by nie uczynić z tego historii z jednym zakończeniem. Jego zdaniem potencjał sztucznej inteligencji – w medycynie, w rozwiązaniach klimatycznych, w nowych źródłach energii – jest realny i nie należy go lekceważyć. Jego zastrzeżenie dotyczy kolejności: społeczeństwo musi przejść przez wrota sensownego myślenia i mądrych, zbiorowych wyborów, zanim te korzyści będą mogły faktycznie nastąpić, a jeśli najpierw załamią się podstawowe systemy – polaryzacja, nierówności, już rozbita wspólna rzeczywistość – dobre rezultaty w ogóle się nie pojawią.

Według niego, to właśnie dystrybucja sprawia, że ​​ten drugi kontakt jest jeszcze bardziej niebezpieczny: technologia ta nie jest scentralizowana w taki sposób, jak platformy mediów społecznościowych, co oznacza, że ​​narzędzia regulacyjne, które miały problemy nawet z kilkoma dużymi firmami, teraz mają do czynienia z czymś, co działa na telefonie każdego — każdy może teraz wygenerować przekonujący fałszywy film lub fałszywą pracę naukową, kiedy tylko zechce.

Część piąta

Wygraj, nie angażując się w walkę

Na koniec Randima proponuje dwa odrębne ruchy – nie sekwencyjne, nie albo-albo, ale na tyle różne, że każdy z nich zasługuje na swoją wagę. Jeden jest skierowany do systemu. Drugi jest skierowany do samego siebie.

Przesuń bodźce

Aby zrozumieć, co system, firma lub osoba faktycznie optymalizuje, należy czytać strukturę zachęt, a nie słowa: zachęty ujawniają o wiele więcej o zachowaniu niż słowa czy kampanie reklamowe. To ta sama logika, którą omówiliśmy w Części Trzeciej – mechanizmy cenowe, przepisy, procesy sądowe, sygnaliści zamieniający cichą świadomość w realną odpowiedzialność. Zmiana sposobu nagradzania firmy jest wolniejsza niż zmiana nawyku, ale to dźwignia wpływa na sam system, a nie tylko relacja jednej osoby z nim.

Zrzeczenie się

Osobisty krok zaczyna się przed całym tym zamieszaniem: jasno i szczerze powiedz, najlepiej na głos, osobom i nauczycielom, którym ufasz, co tak naprawdę dla ciebie oznacza mądre życie i prawdziwy sukces — i pozwól, aby ta jasność, a nie algorytmiczne menu Netflixa czy mediów społecznościowych, wyznaczyła kierunek twojej uwagi.

Thomas ponownie kieruje rozmowę bezpośrednio na uważność: jaką rolę ona tu właściwie odgrywa? Odpowiedź Randimy składa się z dwóch części i to właśnie tutaj twierdzenie z początku tego tekstu znajduje swoje pełne uzasadnienie. Pierwsza część jest hojna: uważność buduje prawdziwą świadomość – myśli, emocji, doznań cielesnych – co tworzy wewnętrzną przestrzeń, by zauważyć wybór przed jego dokonaniem, a nie dopiero po. W połączeniu z wcześniejszą jasnością co do tego, jak wygląda umiejętne życie, ta chwila ciszy to moment, w którym faktycznie dokonują się lepsze wybory.

Druga część jest trudniejsza i jest taka sama, od której zaczął: nawet zaawansowany trening uważności niewiele ci da, jeśli znajdujesz się w systemie zbudowanym przez firmę, która stale analizuje fundamentalne ludzkie uprzedzenia poznawcze – superkomputerze skierowanym na mózg, jak to ujął. Jego rada końcowa nie polega na przechytrzeniu algorytmu. To rodzaj wyrzeczenia, celowego oddzielenia się od tego, co zostało już zidentyfikowane jako nieumiejętne, a nie walka, którą można wygrać, starając się bardziej.

Nie wygrywając. Całkowicie odmawiając walki – i wykorzystując wszelką jasność, jaką daje uważność, by wyraźniej zobaczyć, gdzie nie warto stać.

Żaden z tych ruchów nie zastępuje drugiego. Zmiana bodźców zmienia to, co system nagradza; wyrzeczenie się zmienia twoją własną relację z tym systemem, gdy pozostaje on tym, czym jest. Randima od lat robi jedno i drugie naraz.

↑ Powrót na górę