Un superordinador apuntat al teu cervell: atenció plena, màquines i mètriques

Cada plataforma que fas servir apunta al mateix argument: vas fer clic, així que devies haver-ho volgut. Randima Fernando creu que aquesta és la mentida més gran que l'economia de l'atenció diu sobre si mateixa: el mateix reflex que fa que els ulls d'un conductor es dirigeixin cap a un accident de cotxe a l'autopista, confós amb desig. Crea un feed que fabriqui accidents de cotxe tot el dia i obtindràs clics. No obtindràs res del que ningú volgués realment.

Randima Fernando va ser criat per pares budistes, va passar set anys construint una organització sense ànim de lucre que va ampliar la consciència plena a les escoles i n'ha passat vuit més assessorant Silicon Valley sobre el disseny humà. Per això és estrany sentir-lo dir a Thomas Hübl, rotundament, que la meditació per si sola no et salvarà. No perquè la consciència plena no funcioni, sinó perquè allò que hi ha a l'altra banda de la pantalla és, en les seves paraules, un superordinador apuntant al teu cervell, i cap disciplina pot vèncer de manera fiable un oponent amb més dades sobre tu que tu mateix. Però no és aquí on ho deixa: la seva resposta real funciona en dues vies alhora, una dirigida al que una persona pot fer dins de la seva pròpia vida i una altra dirigida al que ha de canviar en el sistema mateix.

En aquest resum

Primera part

Monetització d'unitats de vida fonamentals

"L'atenció", diu Randima, "és la unitat fonamental en què opera la ment", i existeix tota una indústria perquè aquesta unitat va resultar ser divisible i vendible. Existeixen productes gratuïts per collir-ne les porcions i després revendre-les als anunciants, cosa que significa que una plataforma no està optimitzada per al que realment has vingut a fer. Està optimitzada per quant de temps et pot retenir abans de lliurar-te a algú altre.

Aquest únic desajustament es propaga cap a l'exterior. Quan TikTok va trobar una manera més ràpida de segrestar l'atenció amb vídeos de format curt, tots els competidors van ser enviats, en les seves paraules, "de tornada a les sales de juntes i a les sessions d'estratègia" per copiar-ho o perdre terreny, una cursa que recompensa allò que capta l'atenció més ràpidament, sense cap mecanisme per preguntar quant costa a la persona de l'altre extrem. El periodisme deriva cap a l'extrem "atracador de clics, hiperbòlic i divisiu" de l'espectre perquè això és el que sobreviu a l'algoritme. Les campanyes polítiques executen proves A/B i aprenen, empíricament, que guanya el titular que genera més indignació, així que en publiquen més. Un botó "m'agrada" ensenya silenciosament a una plataforma què mostrar-te més, i un feed es redueix, any rere any, a una versió cada cop més extrema del que ja ha ressonat. L'experiment que suggereix és gairebé inquietantment senzill: intercanvia feeds amb un amic que vota diferent a tu. Veuràs, diu, "contingut molt diferent i realitat molt diferent". Els nens capten la "física social" subjacent dels "m'agrada" i comparteixen la manera com aprenen la gravetat, aviat i per sentiment, no per instrucció. Randima utilitza la mateixa lògica d'extracció fins a la vora del planeta: el creixement basat en "milers de milions d'aparells d'aire condicionat, milers de milions de cotxes, milers de milions de bestiar" es comporta de la mateixa manera que ho fa l'extracció d'atenció: ambdues acaben superant el que el sistema subjacent, una ment o una atmosfera, pot absorbir.

Segona part

Reflex, no desig

Thomas aporta el seu propi marc al patró: un sistema nerviós regulat, suggereix, crea una relació més matisada amb la tecnologia: més capacitat per adonar-se del que no funciona, més elecció real. Un sistema desregulat, un trauma que fa que algú caigui en hiperactivació, entumiment o fragmentació, redueix aquest mateix camp abans que una persona pugui triar. Li pregunta directament a Randima: l'economia de l'atenció està aprenent a explotar aquesta desregulació interna a propòsit?

La resposta de Randima passa per l'addicció com una qüestió de profunditat: fins a quin punt, en les seves paraules, arriba "el jack" al cervell. Aquestes tecnologies han après a desencadenar les respostes de dopamina que van evolucionar per recompensar la supervivència i la reproducció, i no les dirigeixen a res: una notificació, un pergamí, un flaix de llum. El cas més clar, per a ell, són els nens, no perquè els passi res malament, sinó perquè els seus sistemes de dopamina encara s'estan calibrant al món. Poseu una pantalla davant d'un nen de dos anys i els seus ulls la seguiran involuntàriament, perquè la brillantor ha estat dissenyada per superar tot el que hi ha a l'habitació, el que ell anomena un "estímul hipernormal", més enllà de qualsevol cosa que un cos hagi evolucionat per esperar. Un cop els receptors de dopamina d'un nen s'han calibrat a aquest nivell d'entrada, la vida ordinària es llegeix plana, i treure el dispositiu pot desencadenar una angoixa real i desproporcionada.

Té cura amb una distinció que la majoria de converses sobre tecnologia passen per alt: allò que la gent fa clic no és el mateix que el que vol. "La gent hi ha fet clic, així que això és el que volen", diuen les empreses, però això, argumenta Randima, confon el reflex amb la intenció.

Tothom mira un accident de cotxe a l'autopista, diu, perquè l'atenció al perill és un mecanisme de supervivència, no perquè algú vulgui realment un món ple d'accidents de cotxe. El seu tancament és estructural, no moralitzador: un negoci que sobreviu gràcies a la teva atenció té un conflicte d'interessos inherent amb el fet de servir-te realment , perquè un producte realment útil et donaria el que necessitaves i et deixaria marxar, el contrari del que manté les mètriques altes.

Tercera part

Límits de l'extracció i el desplaçament del sistema

Quan se li pregunta com canvia realment el sistema, Randima divideix la qüestió clarament en dues parts: què és possible dins de l'economia actual i si aquesta economia és sostenible en absolut. Dins d'ella, diu, tot acaba passant pel preu, de manera que les intervencions que funcionen són les que finalment afecten els resultats d'una empresa . Un documental com The Social Dilemma crea consciència pública; la consciència es converteix en pressió política per a noves lleis; les lleis permeten litigis; els litigis finalment lliguen una xifra en dòlars als danys que s'havien pogut infligir lliurement. Els denunciants importen per la mateixa raó: un document intern filtrat és la prova que una empresa sabia, que és el que converteix la consciència en responsabilitat. L'obstacle, sempre, és la velocitat: la tecnologia avança més ràpid del que qualsevol d'aquests mecanismes correctors pot rastrejar-la.

Si allunyeu més la imatge, Randima aplica la mateixa llei a la ment que aplicaria al petroli.

Treure el petroli del sòl més ràpid del que milions d'anys poden reemplaçar-lo, i això és un problema. Tallar l'atenció, la concentració i la comprensió més ràpid del que el descans i la reflexió poden reconstruir-les, i, amb la mateixa lògica, això també és un problema. Les capacitats adquirides amb esforç, com l'atenció sostinguda, requereixen una disciplina real per construir-se i molt poca per erosionar-se; una pràctica setmanal de meditació, assenyala, no és rival per a un telèfon dissenyat per competir per l'atenció vuit hores al dia o més. Els nens, les ments dels quals són més mal·leables, ho senten més ràpid.

Connecta el fil amb la desigualtat amb una línia que també serveix com a diagnòstic: el capitalisme "és molt sensible al capital" , és genuïnament responsable dels avenços reals en medicina, alimentació i tecnologia, i concentra la riquesa de manera igual de fiable tret que alguna cosa la contraresti activament. Veu l'arribada d'una IA potent menys com un problema nou que com l'antic a una velocitat més alta, i, possiblement, com la pressió que finalment obliga l'estructura d'incentius a canviar.

Quarta part

IA: Problema d'extracció, ara més ràpid

El marc de Randima per a la intel·ligència artificial és gairebé enganyosament simple: la tecnologia sempre ha estat el major accelerador de la humanitat, i aquesta generació d'IA és la versió més potent d'aquest accelerador fins ara, que acumula guanys en maquinari, algoritmes, dades i computació alhora, més ràpid del que la llei de Moore mai va avançar. Hi ha una ironia en què no s'atura: el mateix maquinari gràfic que va passar set anys a Nvidia construint, per fer imatges en una pantalla, "il·luminant píxels", va resultar, gairebé per accident, convertir-se en el motor de la mateixa acceleració de la qual ara adverteix.

Però un accelerador no canvia de direcció. Amplifica la direcció cap a la qual ja estigui apuntant un sistema. Apuntant a una economia predominantment extractiva, la IA no redirigeix ​​l'extracció, sinó que la posa "a tota marxa". L'efecte més proper, argumenta, és l'automatització del treball cognitiu abans que del treball físic, per la simple raó que el programari és més fàcil d'automatitzar que la robòtica. La lògica empresarial no és tant sinistra com quotidiana: les màquines no necessiten dies de baixa per malaltia, vacances ni assistència sanitària, de manera que allà on una empresa pot reduir costos simplificant, ho farà: la mateixa gravetat estructural que va fer que l'economia de degoteig no aconseguís distribuir res.

Té cura de no convertir aquesta història en una història amb un sol final. Els avantatges de la IA —en medicina, en solucions climàtiques, en noves fonts d'energia— són reals, diu, i no s'han de menystenir. La seva advertència és sobre la seqüència: la societat ha de travessar una porta de sentit comú i decisions col·lectives sàvies abans que aquests beneficis puguin arribar realment, i si els sistemes subjacents es trenquen primer —la polarització, la desigualtat, una realitat compartida ja fracturada— els bons resultats no arriben mai.

El que fa que aquest segon contacte sigui més perillós, segons ell, és la distribució: aquesta tecnologia no està centralitzada com ho eren les plataformes de xarxes socials, cosa que significa que les eines reguladores que tenien dificultats fins i tot amb un grapat de grans empreses s'enfronten a alguna cosa que funciona al telèfon de tothom: ara qualsevol pot generar un vídeo fals convincent o un treball de recerca fals a voluntat.

Cinquena part

Guanya-ho no participant en la lluita

Per acabar, Randima ofereix dos moviments diferents: no seqüencials, ni un o l'altre, però prou diferents com per merèixer el seu propi pes. Un està dirigit al sistema. L'altre està dirigit a un mateix.

Canviar els incentius

Per entendre què està optimitzant realment qualsevol sistema, empresa o persona, llegiu l'estructura d'incentius, no les paraules dites: els incentius revelen molt més sobre el comportament que les paraules o les campanyes publicitàries. És la mateixa lògica de fons que s'ha tractat a la tercera part: mecanismes de preus, legislació, litigis, denunciants que converteixen la consciència silenciosa en responsabilitat real. Canviar allò per què una empresa rep una recompensa és més lent que canviar un hàbit, però és la palanca que toca el sistema en si, no només la relació d'una persona amb ell.

Renúncia

El moviment personal comença abans de la resta d'això: explica amb claredat, idealment en veu alta, amb persones i professors de confiança, què significa realment per a tu una vida sàvia i una veritable prosperitat, i deixa que aquesta claredat, i no els menús algorítmics de Netflix o les xarxes socials, marqui la direcció de la teva atenció.

Thomas torna a centrar la conversa directament en la consciència plena: quin paper hi juga realment? La resposta de Randima té dues parts, i aquí és on l'afirmació de la part superior d'aquest article rep tota la seva explicació. La primera part és generosa: la consciència plena crea una consciència real —del pensament, l'emoció, la sensació corporal— que crea l'espai intern per adonar-se d'una elecció abans que es faci en lloc de després. Juntament amb la claredat prèvia sobre com és una vida hàbil, aquesta pausa és on realment es produeixen millors decisions.

La segona part és la més difícil, i és la mateixa amb la qual va començar: ni tan sols un entrenament avançat en mindfulness et servirà de gaire si ets dins d'un sistema construït per una empresa que fa anàlisis constants contra el biaix cognitiu humà fonamental: un superordinador apuntant al cervell, com ell diu. El seu consell final no és sobredisciplinar l'algoritme. És una mena de renúncia, una separació deliberada de tot allò que ja s'ha identificat com a poc hàbil, en lloc d'una batalla que s'ha de guanyar esforçant-s'hi més.

No guanyar. Rebutjar lluitar en absolut, i utilitzar tota la claredat que proporciona la consciència plena per veure, més clarament, on no cal posicionar-se.

Cap dels dos moviments substitueix l'altre. Canviar els incentius canvia el que el sistema recompensa; la renúncia canvia la teva pròpia relació amb aquest sistema mentre encara és el que és. Randima ha passat anys fent les dues coses alhora.

↑ Torna a dalt