Un supercomputer puntato sul tuo cervello: consapevolezza, macchine e metriche

Ogni piattaforma che utilizzi punta allo stesso argomento: hai cliccato, quindi lo volevi. Randima Fernando ritiene che questa sia la più grande bugia che l'economia dell'attenzione racconta su se stessa: lo stesso riflesso che fa scattare lo sguardo di un automobilista verso un incidente stradale in autostrada, scambiandolo per desiderio. Crea un feed che produce incidenti stradali tutto il giorno e otterrai clic. Ma non otterrai nulla che qualcuno desiderasse davvero.

Randima Fernando è cresciuto in una famiglia buddista, ha trascorso sette anni a costruire un'organizzazione no-profit che ha diffuso la mindfulness nelle scuole e altri otto a fornire consulenza alla Silicon Valley sul design a misura d'uomo. Perciò è strano sentirlo dire a Thomas Hübl, senza mezzi termini, che la meditazione da sola non ti salverà. Non perché la mindfulness non funzioni, ma perché ciò che si trova dall'altra parte dello schermo è, per usare le sue parole, un supercomputer puntato sul tuo cervello, e nessuna disciplina, per quanto intensa, può battere in modo affidabile un avversario che ha più dati su di te di quanti tu ne abbia su te stesso. Ma non si ferma qui: la sua risposta si sviluppa su due binari contemporaneamente, uno incentrato su ciò che una persona può fare nella propria vita e l'altro su ciò che deve cambiare nel sistema stesso.

In questo riassunto

Parte prima

Monetizzazione delle unità vitali fondamentali

"L'attenzione", afferma Randima, "è l'unità fondamentale su cui si basa il funzionamento della mente" e un intero settore è nato perché quest'unità si è rivelata divisibile e vendibile. I prodotti gratuiti esistono per raccogliere queste porzioni di attenzione e rivenderle agli inserzionisti, il che significa che una piattaforma non è ottimizzata per ciò che effettivamente si desidera fare. È ottimizzata per quanto tempo riesce a trattenervi prima di cedervi a qualcun altro.

Quel singolo disallineamento si propaga a cascata. Quando TikTok ha trovato un modo più rapido per catturare l'attenzione con i video di breve durata, ogni concorrente è stato costretto, per usare le sue parole, a "tornare nelle sale riunioni e alle sessioni strategiche" per copiarlo o perdere terreno: una corsa che premia ciò che cattura l'attenzione più velocemente, senza alcun meccanismo per chiedersi quale sia il costo per chi si trova dall'altra parte. Il giornalismo tende a scivolare verso l'estremità "acchiappa-click, iperbolica e divisiva" dello spettro perché è ciò che sopravvive all'algoritmo. Le campagne politiche conducono test A/B e imparano, empiricamente, che il titolo che genera più indignazione vince, quindi ne pubblicano di più. Un pulsante "Mi piace" insegna silenziosamente a una piattaforma cosa mostrarti di più, e un feed si restringe, anno dopo anno, in una versione sempre più estrema di ciò che ha già avuto risonanza. Il suo esperimento suggerito è di una semplicità quasi inquietante: scambiare i feed con un amico che vota diversamente da te. Vedrai, dice, "contenuti molto diversi e una realtà molto diversa". I bambini apprendono le "fisiche sociali" sottostanti ai like e alle condivisioni nello stesso modo in cui imparano la gravità: precocemente e attraverso l'esperienza, non tramite l'istruzione. Randima estende la stessa logica di estrazione fino ai confini del pianeta: la crescita basata su "miliardi di condizionatori, miliardi di automobili, miliardi di capi di bestiame" si comporta allo stesso modo dell'estrazione di attenzione: entrambe, alla fine, superano la capacità di assorbimento del sistema sottostante, che sia una mente o un'atmosfera.

Parte seconda

Riflesso, non desiderio

Thomas propone la sua personale interpretazione di questo schema: un sistema nervoso regolato, suggerisce, permette un rapporto più sfumato con la tecnologia, offrendo una maggiore capacità di percepire eventuali anomalie e una scelta più reale. Un sistema nervoso disregolato, innescato da un trauma che porta a iperattivazione, intorpidimento o frammentazione, restringe questo campo d'azione ancor prima che la persona abbia la possibilità di scegliere. Chiede direttamente a Randima: l'economia dell'attenzione sta forse imparando a sfruttare intenzionalmente questa disregolazione interna?

La risposta di Randima si basa sulla dipendenza come questione di profondità: quanto in profondità, per usare le sue parole, "la presa" penetra nel cervello. Queste tecnologie hanno imparato ad attivare le risposte dopaminergiche, evolutesi per ricompensare la sopravvivenza e la riproduzione, e le indirizzano verso il nulla: una notifica, uno scorrimento, un lampo di luce. Il caso più lampante, per lui, è quello dei bambini, non perché ci sia qualcosa di sbagliato in loro, ma perché i loro sistemi dopaminergici sono ancora in fase di adattamento al mondo. Mettete uno schermo davanti a un bambino di due anni e i suoi occhi lo seguiranno involontariamente, perché la luminosità è stata progettata per superare qualsiasi altra cosa nella stanza: quello che lui definisce uno "stimolo ipernormale", al di là di qualsiasi cosa un corpo si sia evoluto per aspettarsi. Una volta che i recettori dopaminergici di un bambino si sono calibrati a quel livello di input, la vita ordinaria appare piatta e togliere il dispositivo può scatenare un disagio reale e sproporzionato.

È attento a sottolineare una distinzione che la maggior parte delle conversazioni sulla tecnologia tralascia: ciò su cui le persone cliccano non è la stessa cosa di ciò che desiderano. "Le persone ci hanno cliccato sopra, quindi è quello che vogliono", dicono le aziende, ma secondo Randima questo confonde il riflesso con l'intenzione.

Tutti guardano un incidente stradale in autostrada, dice, perché l'attenzione al pericolo è un meccanismo di sopravvivenza, non perché qualcuno voglia davvero un mondo pieno di incidenti stradali. La sua conclusione è di natura strutturale, non moralistica: un'azienda che sopravvive grazie alla tua attenzione ha un conflitto di interessi intrinseco con il servirti realmente , perché un prodotto veramente utile ti darebbe ciò di cui hai bisogno e ti lascerebbe andare – l'opposto di ciò che mantiene alti i parametri di vendita.

Parte terza

Limiti di estrazione e spostamento del sistema

Interrogato su come il sistema possa effettivamente cambiare, Randima divide nettamente la questione in due: cosa sia possibile all'interno dell'economia attuale e se tale economia sia effettivamente sostenibile. Al suo interno, afferma, tutto alla fine passa attraverso il prezzo, quindi gli interventi efficaci sono quelli che incidono direttamente sul bilancio di un'azienda . Un documentario come "The Social Dilemma" sensibilizza l'opinione pubblica; la consapevolezza si trasforma in pressione politica per nuove leggi; le leggi consentono di avviare procedimenti legali; i procedimenti legali, infine, quantificano in termini monetari i danni che prima potevano essere inflitti impunemente. Gli informatori sono importanti per lo stesso motivo: un documento interno trapelato dimostra che un'azienda era a conoscenza dei fatti, ed è questo che trasforma la consapevolezza in responsabilità legale. L'ostacolo, come sempre, è la velocità: la tecnologia si evolve più rapidamente di quanto qualsiasi meccanismo di correzione possa starle dietro.

Allargando ulteriormente lo sguardo, Randima applica alla mente la stessa legge che applicherebbe al petrolio.

Estrarre il petrolio dal sottosuolo più velocemente di quanto milioni di anni possano rimpiazzarlo, e questo è un problema. Compromettere l'attenzione, la concentrazione e la capacità di dare un senso alle cose più velocemente di quanto il riposo e la riflessione possano rigenerarle, e – per la stessa logica – anche questo è un problema. Capacità faticosamente conquistate come l'attenzione sostenuta richiedono una vera disciplina per essere sviluppate e ben poco per essere erose; una pratica settimanale di meditazione, osserva, non è paragonabile a un telefono progettato per competere per l'attenzione otto ore al giorno o più. I bambini, la cui mente è più malleabile, ne risentono più rapidamente.

Egli collega il tema della disuguaglianza con una frase che funge anche da diagnosi: il capitalismo "è molto sensibile al capitale" , responsabile di reali progressi in medicina, alimentazione e tecnologia, e altrettanto affidabile nel concentrare la ricchezza, a meno che qualcosa non intervenga attivamente per contrastarlo. Vede l'avvento di una potente intelligenza artificiale non tanto come un nuovo problema, quanto come il vecchio problema che si ripresenta a velocità maggiore e, forse, come la pressione che costringerà finalmente a un cambiamento della struttura degli incentivi.

Parte quarta

IA: Il problema dell'estrazione, ora più veloce

La visione di Randima sull'intelligenza artificiale è quasi ingannevolmente semplice: la tecnologia è sempre stata il più grande acceleratore dell'umanità, e questa generazione di IA è la versione più potente di tale acceleratore finora, capace di moltiplicare i progressi su hardware, algoritmi, dati e potenza di calcolo contemporaneamente, a una velocità superiore a quella della Legge di Moore. C'è un'ironia su cui non si sofferma: lo stesso hardware grafico che ha sviluppato per sette anni in Nvidia, per creare immagini su uno schermo, "illuminando i pixel", si è rivelato, quasi per caso, il motore di quella stessa accelerazione di cui ora mette in guardia.

Ma un acceleratore non cambia direzione. Amplifica la direzione in cui un sistema è già orientato. Applicata a un'economia prevalentemente estrattiva, l'intelligenza artificiale non reindirizza l'estrazione, bensì la mette "in modalità overdrive". L'effetto più simile, sostiene, è l'automazione del lavoro cognitivo prima del lavoro fisico, per la semplice ragione che il software è più facile da automatizzare della robotica. La logica aziendale non è tanto sinistra quanto banale: le macchine non hanno bisogno di giorni di malattia, ferie o assistenza sanitaria, quindi ovunque un'azienda possa ridurre i costi semplificando, lo farà – la stessa forza di gravità strutturale che ha impedito alla teoria del "trickle-down economics" di distribuire effettivamente alcunché.

Si guarda bene dal presentare questa storia come un racconto con un unico finale. I vantaggi dell'intelligenza artificiale – in medicina, nelle soluzioni climatiche, nelle nuove fonti di energia – sono reali, afferma, e non dovrebbero essere ignorati. La sua avvertenza riguarda la sequenza: la società deve prima attraversare una fase di buon senso e di sagge scelte collettive prima che questi benefici possano effettivamente concretizzarsi, e se i sistemi sottostanti crollano prima – polarizzazione, disuguaglianza, una realtà condivisa già frammentata – i risultati positivi non arriveranno mai.

Ciò che rende questo secondo contatto più pericoloso, secondo lui, è la distribuzione: questa tecnologia non è centralizzata come lo erano le piattaforme dei social media, il che significa che gli strumenti di regolamentazione che faticavano persino con una manciata di grandi aziende si trovano ora a fronteggiare qualcosa che gira sul telefono di tutti: chiunque può generare a piacimento un video falso convincente o un falso articolo di ricerca.

Parte quinta

Vincilo non partecipando alla lotta

In conclusione, Randima propone due mosse distinte, non sequenziali, non alternative, ma sufficientemente diverse da meritare ciascuna la propria attenzione. Una è rivolta al sistema. L'altra è rivolta a se stessi.

Modificare gli incentivi

Per capire cosa un sistema, un'azienda o una persona stia effettivamente ottimizzando, è necessario analizzare la struttura degli incentivi, non le parole pronunciate: gli incentivi rivelano molto di più sul comportamento rispetto alle parole o alle campagne pubblicitarie. Si tratta della stessa logica di fondo descritta nella Parte Tre: meccanismi di prezzo, legislazione, contenziosi, informatori che trasformano una tacita consapevolezza in una reale responsabilità. Cambiare ciò per cui un'azienda viene premiata è più lento che cambiare un'abitudine, ma è la leva che agisce sul sistema stesso, non solo sul rapporto di una singola persona con esso.

Rinuncia

Il passo personale inizia prima di tutto il resto: chiarisci in modo autentico, idealmente ad alta voce, con persone e insegnanti di cui ti fidi, cosa significano realmente per te una vita saggia e una vera prosperità, e lascia che questa chiarezza, e non i menu algoritmici di Netflix o dei social media, orienti la tua attenzione.

Thomas riporta la conversazione direttamente sulla mindfulness: che ruolo gioca concretamente in questo contesto? La risposta di Randima si articola in due parti, ed è qui che l'affermazione iniziale di questo articolo trova la sua piena spiegazione. La prima parte è generosa: la mindfulness sviluppa una vera consapevolezza – di pensieri, emozioni, sensazioni corporee – che crea lo spazio interiore per notare una scelta prima che venga fatta, anziché dopo. Insieme a una precedente chiarezza su cosa significhi una vita appagante, quella pausa è il momento in cui avvengono le scelte migliori.

La seconda parte è la più difficile, ed è la stessa con cui ha iniziato: anche un addestramento avanzato alla mindfulness non ti servirà a molto se ti trovi all'interno di un sistema costruito da un'azienda che effettua analisi costanti contro i pregiudizi cognitivi umani fondamentali – un supercomputer puntato sul cervello, come dice lui. Il suo consiglio finale non è quello di superare l'algoritmo in disciplina. È una sorta di rinuncia, una separazione deliberata da tutto ciò che è già stato identificato come inefficace, piuttosto che una battaglia da vincere sforzandosi di più.

Non vincere. Rifiutarsi del tutto di combattere e usare la chiarezza che la consapevolezza può offrire per vedere, più chiaramente, dove non posizionarsi.

Nessuna delle due mosse sostituisce l'altra. Cambiare gli incentivi modifica ciò che il sistema premia; la rinuncia modifica il proprio rapporto con quel sistema, pur mantenendolo inalterato. Randima ha trascorso anni a fare entrambe le cose contemporaneamente.

↑ Torna all'inizio