Superdators, kas vērsts uz jūsu smadzenēm: apzinātība, mašīnas un metrika

Katra platforma, ko izmantojat, norāda uz vienu un to pašu argumentu: jūs noklikšķinājāt, tātad jūs to noteikti vēlējāties. Randima Fernando domā, ka tie ir lielākie meli, ko uzmanības ekonomika stāsta par sevi — tas pats reflekss, kas pievērš vadītāja uzmanību autoavārijai uz šosejas, kļūdaini noturot to par vēlmi. Izveidojiet plūsmu, kas visu dienu rada autoavārijas, un jūs saņemsiet klikšķus. Jūs neiegūsiet neko tādu, ko kāds patiesībā vēlētos.

Randimu Fernando audzināja budistu vecāki, septiņus gadus viņš pavadīja, veidojot bezpeļņas organizāciju, kas ieviesa apzinātību skolās, un vēl astoņus gadus ir konsultējis Silīcija ieleju par humānu dizainu. Tāpēc ir dīvaini dzirdēt viņu tieši sakām Tomasam Hīblam, ka meditācija vien jūs neglābs. Ne tāpēc, ka apzinātība nedarbotos — tāpēc, ka lieta jūsu ekrāna otrā pusē, viņa vārdiem sakot, ir superdators, kas vērsts uz jūsu smadzenēm, un nekāda disciplīna nevar droši pārspēt pretinieku ar vairāk datu par jums nekā jums pašiem par sevi. Tomēr viņš to neaptur pie šīs tēmas: viņa patiesā atbilde vienlaikus ir divos virzienos — viena ir vērsta uz to, ko cilvēks var darīt savā dzīvē, bet otra — uz to, kas jāmaina pašā sistēmā.

Šajā kopsavilkumā

Pirmā daļa

Fundamentālo dzīves vienību monetizācija

"Uzmanība," saka Randima, "ir pamatvienība, kurā darbojas prāts" — un vesela nozare pastāv tāpēc, ka šī vienība izrādījās dalāma un pārdodama. Bezmaksas produkti pastāv, lai novāktu šķēles un pēc tam pārdotu tās reklāmdevējiem, kas nozīmē, ka platforma nav optimizēta tam, ko jūs patiesībā darījāt. Tā ir optimizēta tam, cik ilgi tā var jūs noturēt, pirms nodod jūs kādam citam.

Šī vienīgā neatbilstība izplatās uz āru. Kad TikTok atrada ātrāku veidu, kā piesaistīt uzmanību ar īsformāta video, katrs konkurents, viņa vārdiem sakot, tika nosūtīts "atpakaļ uz valdes sēžu zālēm un stratēģijas sesijām", lai to kopētu vai zaudētu — sacensības, kas atalgo to, kas visātrāk piesaista uzmanību, bez mehānisma, kas pajautātu, cik tas maksā otram cilvēkam. Žurnālistika virzās uz spektra "klikšķu ēsmas, hiperbolisko, šķeļošo" galu, jo tas ir tas, kas izdzīvo algoritmu. Politiskās kampaņas veic A/B testus un empīriski uzzina, ka uzvar visvairāk sašutumu izraisošais virsraksts — tāpēc tās veic vairāk šādu testu. Poga "patīk" klusi iemāca platformai, ko jums rādīt vairāk, un plūsma gadu no gada sašaurinās līdz arvien ekstremālākai versijai tam, kas jau ir rezonējis. Viņa ieteiktais eksperiments ir gandrīz satraucoši vienkāršs: apmainieties plūsmām ar draugu, kurš balso citādi nekā jūs. Jūs redzēsiet, viņš saka, "ļoti atšķirīgu saturu un ļoti atšķirīgu realitāti". Bērni apgūst atzīmju "patīk" un kopīgošanas pamatā esošo "sociālo fiziku" tāpat kā viņi apgūst gravitāciju — agri un sajūtot, nevis mācot. Randima izmanto to pašu ekstrakcijas loģiku līdz planētas malai: izaugsme, kas balstīta uz "miljardiem gaisa kondicionieru, miljardiem automašīnu, miljardiem mājlopu", uzvedas tāpat kā uzmanības ekstrakcija — abi galu galā pārspēj to, ko spēj absorbēt pamatā esošā sistēma, prāts vai atmosfēra.

Otrā daļa

Reflekss, nevis vēlme

Tomass šim modelim pievieno savu skatījumu: regulēta nervu sistēma, viņš norāda, rada niansētākas attiecības ar tehnoloģijām — lielāku spēju pamanīt, kas nav kārtībā, vairāk reālas izvēles iespēju. Disregulēta nervu sistēma, trauma, kas kādu noved hiperaktivitātē, nejūtīgumā vai fragmentācijā, sašaurina šo pašu lauku, pirms cilvēks vispār paspēj izvēlēties. Viņš tieši jautā Randimam: vai uzmanības ekonomika mācās apzināti izmantot šo iekšējo disregulāciju?

Randimas atbilde ir saistīta ar atkarības dziļumu — cik tālu, viņa vārdiem sakot, "domkrats" nonāk smadzenēs. Šīs tehnoloģijas ir iemācījušās iedarbināt dopamīna reakcijas, kas evolūcijas gaitā ir atalgojušas izdzīvošanu un vairošanos, un nevirzīt tās uz neko: paziņojumu, ritinājumu, gaismas uzplaiksnījumu. Viņam skaidrākais gadījums ir bērni — nevis tāpēc, ka ar viņiem kaut kas nebūtu kārtībā, bet gan tāpēc, ka viņu dopamīna sistēmas joprojām kalibrējas pasaulei. Novietojiet ekrānu divgadīga bērna priekšā, un viņa acis neviļus tam sekos, jo spilgtums ir konstruēts tā, lai tas pārsniegtu visu pārējo telpā — to viņš sauc par "hipernormālu stimulu", kas pārsniedz visu, ko ķermenis ir evolūcijas gaitā sagaidījis. Kad bērna dopamīna receptori ir kalibrējušies šim ievades līmenim, parastā dzīve tiek uztverta kā plakana, un ierīces atņemšana var izraisīt reālas, nesamērīgas ciešanas.

Viņš rūpīgi izvērtē atšķirību, ko lielākā daļa sarunu par tehnoloģijām ignorē: tas, uz ko cilvēki noklikšķina, nav tas pats, ko viņi vēlas. "Cilvēki uz tā noklikšķināja, tātad to viņi vēlas," saka uzņēmumi, taču Randima apgalvo, ka tas jauc refleksu ar nodomu.

Viņš saka, ka visi vēro autoavāriju uz šosejas, jo uzmanības pievēršana briesmām ir izdzīvošanas mehānisms, nevis tāpēc, ka kāds patiesībā vēlētos pasauli, kas pilna ar autoavārijām. Viņa secinājums ir strukturāls, nevis moralizējošs: uzņēmumam, kas izdzīvo, pateicoties jūsu uzmanībai, ir iebūvēts interešu konflikts ar faktisku jūsu apkalpošanu , jo patiesi noderīgs produkts sniegtu jums nepieciešamo un ļautu jums aiziet — pretēji tam, kas uztur rādītājus.

Trešā daļa

Ieguves ierobežojumi un sistēmas maiņa

Jautāts, kā sistēma patiesībā mainās, Randima jautājumu skaidri sadala divās daļās: kas ir iespējams pašreizējās ekonomikas ietvaros un vai šī ekonomika vispār ir ilgtspējīga. Viņš saka, ka tās iekšienē viss galu galā ir atkarīgs no cenas, tāpēc intervences, kas darbojas, ir tās, kas galu galā ietekmē uzņēmuma peļņu . Dokumentālā filma, piemēram, "Sociālā dilemma" , veicina sabiedrības informētību; informētība kļūst par politisku spiedienu jaunu likumu pieņemšanai; likumi ļauj uzsākt tiesvedību; tiesvedība beidzot piešķir naudas skaitli kaitējumam, ko iepriekš varēja brīvi nodarīt. Trauksmes cēlēji ir svarīgi tā paša iemesla dēļ — nopludināts iekšējais dokuments ir pierādījums, ka uzņēmums zināja, un tas pārvērš informētību par atbildību. Šķērslis vienmēr ir ātrums: tehnoloģijas attīstās ātrāk, nekā jebkurš no šiem korekcijas mehānismiem spēj tām izsekot.

Tālinot vēl vairāk, Randima piemēros prātam to pašu likumu, ko viņš piemērotu naftai.

Izsmelt naftu no zemes ātrāk, nekā miljoniem gadu to var aizstāt, un tā ir problēma. Sagriezt uzmanību, fokusu un jēgas uztveršanu ātrāk, nekā atpūta un pārdomas tās var atjaunot, un — pēc tās pašas loģikas — arī tā ir problēma. Grūti iegūtas spējas, piemēram, ilgstoša uzmanība, prasa īstu disciplīnu, lai tās attīstītu, un ļoti maz, lai tās mazinātu; viņš norāda, ka iknedēļas meditācijas prakse nespēj konkurēt ar tālruni, kas izstrādāts, lai konkurētu par uzmanību astoņas stundas dienā vai vairāk. Bērni, kuru prāti ir elastīgāki, to izjūt visātrāk.

Viņš saista šo pavedienu ar nevienlīdzību ar frāzi, kas vienlaikus kalpo arī kā diagnoze: kapitālisms "ir ļoti jutīgs pret kapitālu" — patiesi atbildīgs par reāliem sasniegumiem medicīnā, pārtikā un tehnoloģijās, un tikpat droši koncentrējas bagātība, ja vien kaut kas tam aktīvi nepretojas. Viņš uzskata, ka jaudīga mākslīgā intelekta ienākšana ir nevis jauna problēma, bet gan vecā problēma ar lielāku ātrumu — un, iespējams, kā spiediens, kas beidzot piespiež mainīties stimulēšanas struktūrai.

Ceturtā daļa

Mākslīgais intelekts: ieguves problēma, tagad ātrāka

Randimas mākslīgā intelekta koncepcija ir gandrīz maldinoši vienkārša: tehnoloģijas vienmēr ir bijušas cilvēces lielākais paātrinātājs, un šī mākslīgā intelekta paaudze ir šī paātrinātāja visspēcīgākā versija — apvienojot ieguvumus aparatūras, algoritmu, datu un skaitļošanas jomā vienlaikus, ātrāk nekā jebkad ir mainījies Mūra likums. Ir ironija, pie kuras viņš nekavējas: tā pati grafikas aparatūra, kuras izstrādē viņš pavadīja septiņus gadus Nvidia, attēlu veidošanai ekrānā, "izgaismojot pikseļus", gandrīz nejauši izrādījās par tieši tā paātrinājuma dzinēju, par kuru viņš tagad brīdina.

Taču akselerators nemaina virzienu. Tas pastiprina jebkuru virzienu, kurā sistēma jau ir vērsta. Vērsts uz pārsvarā ieguves ekonomiku, mākslīgais intelekts nepārvirza ieguvi — tas to "ieslēdz pārslodzē". Viņš apgalvo, ka tuvākā ietekme ir kognitīvā darba automatizācija pirms fiziskā darba, vienkārša iemesla dēļ — programmatūru ir vieglāk automatizēt nekā robotiku. Biznesa loģika nav tik draudīga, cik ikdienišķa: mašīnām nav vajadzīgas slimības dienas, atvaļinājumi vai veselības aprūpe, tāpēc visur, kur uzņēmums var samazināt izmaksas, vienkāršojot, tas to arī darīs — tā pati strukturālā gravitācija, kas lika lejupvērstajai ekonomikai faktiski neko neizplatīt.

Viņš uzmanās, lai šis stāsts nepārvērstos par vienu galu. Viņš saka, ka mākslīgā intelekta priekšrocības — medicīnā, klimata risinājumos, jaunos enerģijas avotos — ir reālas, un tās nevajadzētu ignorēt. Viņa atruna ir par secību: sabiedrībai ir jāiziet cauri labas izpratnes un gudru kolektīvu izvēļu ceļam, pirms šie ieguvumi faktiski var nonākt, un, ja vispirms sabrūk pamatā esošās sistēmas — polarizācija, nevienlīdzība, jau sašķelta kopīga realitāte —, labie rezultāti nekad netiek sasniegti.

Viņaprāt, šo otro kontaktu bīstamāku padara izplatīšana: šī tehnoloģija nav centralizēta tā, kā tas bija sociālo mediju platformās, kas nozīmē, ka regulatīvie rīki, kas sagādāja grūtības pat dažiem lieliem uzņēmumiem, tagad ir pretrunā ar kaut ko, kas darbojas ikviena tālrunī — ikviens tagad var pēc savas patikas ģenerēt pārliecinošu viltotu video vai viltotu pētījumu.

Piektā daļa

Uzvariet, nepiedaloties cīņā

Noslēgumā Randima piedāvā divus atšķirīgus gājienus — nevis secīgus, nevis “vai nu/vai”, bet pietiekami atšķirīgus, lai katrs no tiem būtu pelnījis savu svaru. Viens ir vērsts pret sistēmu. Otrs ir vērsts pret sevi.

Mainiet stimulus

Lai saprastu, kāpēc jebkura sistēma, uzņēmums vai persona patiesībā optimizē, izlasiet stimulēšanas struktūru, nevis izteiktos vārdus: stimuli atklāj daudz vairāk par uzvedību nekā vārdi vai reklāmas kampaņas. Tā ir tā pati pamatloģika, kas aplūkota iepriekš trešajā daļā — cenu mehānismi, likumdošana, tiesvedība, trauksmes cēlēji, kas klusu apzināšanos pārvērš reālā atbildībā. Mainīt to, par ko uzņēmums saņem atlīdzību, ir lēnāk nekā mainīt ieradumu, taču tā ir svira, kas ietekmē pašu sistēmu, nevis tikai vienas personas attiecības ar to.

Atteikšanās

Personīgais solis sākas pirms visa pārējā: patiesi skaidri, ideālā gadījumā skaļi, ar cilvēkiem un skolotājiem, kuriem uzticaties, pastāstiet, ko jums patiesībā nozīmē gudra dzīve un patiesa labklājība — un ļaujiet šai skaidrībai, nevis Netflix vai sociālo mediju algoritmiskajām izvēlnēm, noteikt jūsu uzmanības virzienu.

Tomass sarunu atkal pievērš tieši apzinātībai: kāda loma tai šeit īsti ir? Randimas atbildei ir divas daļas, un tieši šeit pilnībā tiek pamatots šī raksta sākumā minētais apgalvojums. Pirmā daļa ir dāsna: apzinātība veido reālu apzināšanos — domu, emociju, ķermeņa sajūtu —, kas rada iekšējo telpu, lai pamanītu izvēli pirms tās izdarīšanas, nevis pēc tās izdarīšanas. Apvienojumā ar iepriekšēju skaidrību par to, kā izskatās prasmīga dzīve, šī pauze ir vieta, kur patiesībā notiek labākas izvēles.

Otrā daļa ir grūtākā, un tā ir tā pati, ar kuru viņš sāka: pat padziļināta apzinātības apmācība neko daudz nedos, ja atrodaties sistēmā, ko izveidojis uzņēmums, kas pastāvīgi analizē cilvēka fundamentālās kognitīvās neobjektivitātes — kā viņš pats to formulē kā superdatoru, kas vērsts uz smadzenēm. Viņa noslēguma padoms nav pārspēt algoritmu. Tā ir sava veida atteikšanās, apzināta atdalīšanās no visa, kas jau ir atzīts par neveiklu, nevis cīņa, kas jāuzvar, pieliekot vairāk pūļu.

Neuzvarēt. Atsakoties cīnīties vispār — un izmantojot jebkādu skaidrību, ko sniedz apzinātība, lai skaidrāk saskatītu, kur nestāvēt.

Neviena no šīm darbībām neaizstāj otru. Stimulu maiņa maina to, ko sistēma atalgo; atteikšanās maina jūsu pašu attiecības ar šo sistēmu, kamēr tā joprojām ir tāda, kāda tā ir. Randima jau gadiem ilgi dara abus vienlaikus.

↑ Atpakaļ uz augšu