Un supercomputer îndreptat spre creierul tău: Mindfulness, mașini și metrici

Fiecare platformă pe care o folosești indică același argument: ai dat clic, deci trebuie să-ți fi dorit. Randima Fernando crede că aceasta este cea mai mare minciună pe care o spune economia atenției despre sine - același reflex care atrage privirea unui șofer către un accident de mașină pe autostradă, confundat cu dorința. Construiește un feed care produce accidente auto toată ziua și vei obține clicuri. Nu vei obține nimic din ceea ce și-a dorit cineva cu adevărat.

Randima Fernando a fost crescut de părinți budiști, a petrecut șapte ani construind o organizație non-profit care a extins mindfulness-ul în școli și a petrecut încă opt ani consiliind Silicon Valley cu privire la designul uman. Așadar, este ciudat să-l auzi spunându-i lui Thomas Hübl, categoric, că meditația singură nu te va salva. Nu pentru că mindfulness-ul nu funcționează - pentru că chestia de cealaltă parte a ecranului tău este, în cuvintele lui, un supercomputer îndreptat spre creierul tău și nicio cantitate de disciplină nu poate învinge în mod sigur un adversar cu mai multe date despre tine decât ai tu despre tine însuți. Totuși, nu se oprește aici: răspunsul său real merge pe două căi simultan, una care vizează ceea ce o persoană poate face în propria viață și una care vizează ceea ce trebuie să se schimbe în sistemul în sine.

În acest rezumat

Partea întâi

Monetizarea Unităților de Viață Fundamentale

„Atenția”, spune Randima, „este unitatea fundamentală în care funcționează mintea” - și o întreagă industrie există pentru că acea unitate s-a dovedit a fi divizibilă și vandabilă. Există produse gratuite pentru a colecta felii, apoi a le revinde agenților de publicitate, ceea ce înseamnă că o platformă nu este optimizată pentru ceea ce ai venit de fapt să faci. Este optimizată pentru cât timp te poate reține înainte de a te preda altcuiva.

Această singură nealiniere se extinde în cascadă. Când TikTok a găsit o modalitate mai rapidă de a capta atenția cu videoclipuri scurte, fiecare concurent a fost trimis, în cuvintele sale, „înapoi în sălile de ședințe și la sesiunile de strategie” pentru a-l copia sau a pierde teren - o cursă care recompensează orice captează atenția cel mai rapid, fără niciun mecanism care să întrebe cât costă persoana de la celălalt capăt. Jurnalismul se îndreaptă spre capătul spectrului „atrăgător de clicuri, hiperbolic, diviziv”, pentru că asta supraviețuiește algoritmului. Campaniile politice rulează teste A/B și învață, empiric, că titlul care generează cea mai mare indignare câștigă - așa că rulează mai multe. Un buton „like” învață în liniște o platformă ce să vă arate mai mult, iar un flux se restrânge, an de an, într-o versiune din ce în ce mai extremă a ceea ce a rezonat deja. Experimentul sugerat de el este aproape tulburător de simplu: schimbați fluxurile cu un prieten care votează diferit față de dvs. Veți vedea, spune el, „conținut foarte diferit și realitate foarte diferită”. Copiii preiau „fizica socială” fundamentală a aprecierilor și împărtășesc modul în care învață gravitația - devreme și prin sentiment, nu prin instrucțiuni. Randima folosește aceeași logică de extragere până la marginea planetei: creșterea construită pe „miliarde de aparate de aer condiționat, miliarde de mașini, miliarde de animale” se comportă la fel cum o face extragerea atenției - ambele depășesc în cele din urmă ceea ce poate absorbi sistemul subiacent, o minte sau o atmosferă.

Partea a doua

Reflex, nu dorință

Thomas își aduce propria perspectivă asupra acestui tipar: un sistem nervos reglat, sugerează el, creează o relație mai nuanțată cu tehnologia - o capacitate mai mare de a observa ce este în neregulă, o alegere mai reală. Un sistem dereglat, o traumă care duce pe cineva la hiperactivare, amorțeală sau fragmentare, îngustează același câmp înainte ca o persoană să poată alege măcar. El o întreabă direct pe Randima: oare economia atenției învață să exploateze această dereglare internă în mod intenționat?

Răspunsul lui Randima trece prin dependență ca o chestiune de profunzime - cât de departe, în cuvintele sale, pătrunde „mufa” în creier. Aceste tehnologii au învățat să declanșeze răspunsurile dopaminei care au evoluat pentru a recompensa supraviețuirea și reproducerea și să nu le țintească spre nimic: o notificare, o pergament, o străfulgerare de lumină. Cel mai clar caz, pentru el, sunt copiii - nu pentru că ar fi ceva în neregulă cu ei, ci pentru că sistemele lor de dopamină încă se calibrează la lume. Pune un ecran în fața unui copil de doi ani și ochii lui îl vor urmări involuntar, deoarece luminozitatea a fost proiectată să depășească orice altceva din cameră - ceea ce el numește un „stimul hipernormal”, dincolo de orice se așteaptă un corp evoluat. Odată ce receptorii de dopamină ai unui copil s-au calibrat la acel nivel de input, viața obișnuită pare plată, iar luarea dispozitivului poate declanșa o suferință reală, disproporționată.

El este atent la o distincție pe care majoritatea conversațiilor despre tehnologie o omit: ceea ce oamenii dau clic nu este același lucru cu ceea ce își doresc. „Oamenii au dat clic pe el, deci asta își doresc”, spun companiile - dar asta, susține Randima, confundă reflexul cu intenția.

Toată lumea se uită la un accident de mașină pe autostradă, spune el, pentru că atenția la pericol este un mecanism de supraviețuire, nu pentru că cineva își dorește cu adevărat o lume plină de accidente auto. Încheierea sa este structurală, nu moralizatoare: o afacere care supraviețuiește datorită atenției tale are un conflict de interese inerent în ceea ce privește servirea efectivă a clienților tăi , deoarece un produs cu adevărat util ți-ar oferi ceea ce ai nevoie și te-ar lăsa să pleci - opusul a ceea ce menține indicatorii sus.

Partea a treia

Limitele extracției și deplasării sistemului

Întrebat cum se schimbă de fapt sistemul, Randima împarte clar întrebarea în două: ce este posibil în interiorul economiei actuale și dacă acea economie este sustenabilă. În interiorul ei, spune el, totul trece în cele din urmă prin preț - așa că intervențiile care funcționează sunt cele care ating în cele din urmă profitul unei companii . Un documentar precum The Social Dilemma construiește conștientizarea publicului; conștientizarea devine presiune politică pentru noi legi; legile permit litigiile; litigiile atașează în cele din urmă o sumă de bani daunelor care au fost libere să se producă. Denunțătorii contează din același motiv - un document intern scurs este dovada că o companie știa, ceea ce transformă conștientizarea în răspundere. Obstacolul, întotdeauna, este viteza: tehnologia se mișcă mai repede decât o pot urmări oricare dintre aceste mecanisme de corectare.

Dacă mișcăm imaginea mai departe, Randima aplică minții aceeași lege pe care ar aplica-o petrolului.

Dacă se scoate petrolul din pământ mai repede decât pot fi înlocuite de milioane de ani, aceasta este o problemă. Atenția, concentrarea și înțelegerea mai repede decât le pot reconstrui odihna și reflecția și - conform aceleiași logici - și aceasta este o problemă. Capacități dobândite cu greu, cum ar fi atenția susținută, necesită o disciplină reală pentru a fi dezvoltate și foarte puține pentru a fi erodate; o practică săptămânală de meditație, observă el, nu se compară cu un telefon conceput să concureze pentru atenție opt ore pe zi sau mai mult. Copiii, ale căror minți sunt mai maleabile, simt cel mai repede acest lucru.

El leagă firul de inegalitate printr-o replică care servește și ca un diagnostic: capitalismul „este foarte sensibil la capital” - responsabil cu adevărat pentru progresele reale în medicină, alimente și tehnologie și concentrând la fel de fiabil bogăția, cu excepția cazului în care ceva o contracarează activ. El vede sosirea unei inteligențe artificiale puternice mai puțin ca o problemă nouă și mai mult ca pe cea veche la o viteză mai mare - și, posibil, ca presiunea care forțează în cele din urmă structura stimulentelor să se schimbe.

Partea a patra

IA: Problema extracției, acum mai rapidă

Cadrul lui Randima pentru inteligența artificială este aproape înșelător de simplu: tehnologia a fost întotdeauna cel mai mare accelerator al umanității, iar această generație de IA este cea mai puternică versiune a acestui accelerator de până acum - acumulând câștiguri la nivelul hardware-ului, algoritmilor, datelor și calculului, toate simultan, mai rapid decât a mișcat vreodată Legea lui Moore. Există o ironie asupra căreia nu se oprește: același hardware grafic pe care l-a construit șapte ani la Nvidia, pentru a realiza imagini pe un ecran, „luminând pixelii”, s-a dovedit, aproape accidental, să devină motorul acelei accelerații despre care avertizează acum.

Însă un accelerator nu schimbă direcția. El amplifică orice direcție în care este deja îndreptat un sistem. Ținând cont de o economie predominant extractivă, IA nu redirecționează extracția - o pune „în suprasarcină”. Cel mai apropiat efect, susține el, este automatizarea muncii cognitive înaintea muncii fizice, din simplul motiv că software-ul este mai ușor de automatizat decât robotica. Logica de afaceri nu este atât sinistră, cât banală: mașinile nu au nevoie de zile de concediu medical, vacanțe sau asistență medicală, așa că oriunde o companie poate reduce costurile prin simplificare, o va face - aceeași gravitație structurală care a făcut ca economia de tip trickle-down să nu reușească să distribuie nimic.

Are grijă să nu facă din asta o poveste cu un singur final. Avantajele inteligenței artificiale - în medicină, în soluțiile climatice, în noile surse de energie - sunt reale, spune el, și nu ar trebui ignorate. Avertismentul său este legat de secvență: societatea trebuie să treacă printr-o poartă a înțelegerii raționale și a alegerilor colective înțelepte înainte ca aceste beneficii să poată apărea efectiv, iar dacă sistemele subiacente se destramă mai întâi - polarizarea, inegalitatea, o realitate comună deja fracturată - rezultatele bune nu apar niciodată.

Ceea ce face ca acest al doilea contact să fie mai periculos, în relatarea sa, este distribuția: această tehnologie nu este centralizată așa cum erau platformele de socializare, ceea ce înseamnă că instrumentele de reglementare care se luptau chiar și cu câteva companii mari se confruntă cu ceva care rulează pe telefonul tuturor - oricine poate acum genera un videoclip fals convingător sau o lucrare de cercetare falsă, după bunul plac.

Partea a cincea

Câștigă nefiind implicat în luptă

În încheiere, Randima oferă două mișcări distincte — nu secvențiale, nici „ori/ori”, dar suficient de diferite încât fiecare să își merite propria pondere. Una este îndreptată spre sistem. Cea de-a doua este îndreptată spre sine.

Schimbați stimulentele

Pentru a înțelege pentru ce optimizează de fapt orice sistem, companie sau persoană, citiți structura stimulentelor, nu cuvintele enunțate: stimulentele dezvăluie mult mai multe despre comportament decât cuvintele sau campaniile publicitare. Este aceeași logică de bază abordată mai sus în Partea a treia - mecanisme de preț, legislație, litigii, denunțători care transformă conștientizarea tăcută în răspundere reală. Schimbarea acțiunilor pentru care o companie este recompensată este mai lentă decât schimbarea unui obicei, dar este pârghia care atinge sistemul în sine, nu doar relația unei persoane cu acesta.

Renunţare

Mișcarea personală începe înainte de orice altceva: exprimă-te cu adevărat clar, ideal cu voce tare, cu oameni și profesori în care ai încredere, despre ce înseamnă de fapt pentru tine o viață înțeleaptă și o prosperitate reală - și lasă acea claritate, nu meniurile algoritmice ale Netflix sau ale rețelelor sociale, să-ți stabilească direcția atenției.

Thomas întoarce conversația direct la mindfulness: ce rol joacă aceasta de fapt aici? Răspunsul Randimei are două părți, iar aici își primește întreaga explicație afirmația de la începutul acestui articol. Prima parte este generoasă: mindfulness construiește o conștientizare reală - a gândului, emoției, senzației corporale - care creează spațiul intern pentru a observa o alegere înainte de a fi făcută, în loc de după. Împreună cu o claritate prealabilă despre cum arată o viață abilă, acea pauză este locul în care se întâmplă de fapt alegeri mai bune.

A doua parte este cea mai dificilă și este aceeași cu care a început: nici măcar antrenamentul avansat de mindfulness nu te va ajuta prea mult dacă te afli în interiorul unui sistem construit de o companie care efectuează analize constante împotriva prejudecăților cognitive umane fundamentale - un supercomputer îndreptat spre creier, cum spune el. Sfatul său final este să nu depășești disciplina algoritmului. Este un fel de renunțare, o separare deliberată de orice a fost deja identificat ca fiind neîndemânatic, mai degrabă decât o bătălie de câștigat prin eforturi mai mari.

A nu câștiga. A refuza să lupți deloc — și a folosi orice claritate oferă atenția conștientă pentru a vedea, mai clar, unde nu trebuie să te poziționezi.

Niciuna dintre mișcări nu o înlocuiește pe cealaltă. Schimbarea stimulentelor schimbă ceea ce sistemul recompensează; renunțarea îți schimbă propria relație cu acel sistem, cât timp acesta este încă ceea ce este. Randima a petrecut ani de zile făcând ambele lucruri simultan.

↑ Înapoi sus