Superkompiuteris, nukreiptas į jūsų smegenis: sąmoningumas, mašinos ir metrika

Kiekviena jūsų naudojama platforma pateikia tą patį argumentą: jūs spustelėjote, vadinasi, jūs to norėjote. Randima Fernando mano, kad tai didžiausias melas, kurį dėmesio ekonomika pasakoja apie save – tas pats refleksas, kuris vairuotojo žvilgsnį nukreipia į automobilio avariją greitkelyje, painiojamą su geismu. Sukurkite sklaidos kanalą, kuris visą dieną generuoja automobilių avarijas, ir gausite paspaudimų. Jūs negausite nieko, ko kas nors iš tikrųjų norėjo.

Randima Fernando užaugo budistų šeimoje, septynerius metus kūrė ne pelno siekiančią organizaciją, kuri diegė sąmoningumą mokyklose, o dar aštuonerius metus konsultavo Silicio slėnį humaniško dizaino klausimais. Tad keista girdėti jį tiesiai šviesiai sakant Thomasui Hüblui, kad vien meditacija jūsų neišgelbės. Ne todėl, kad sąmoningumas neveikia – todėl, kad tas daiktas kitoje jūsų ekrano pusėje, jo žodžiais tariant, yra superkompiuteris, nukreiptas į jūsų smegenis, ir jokia drausmės priemonė patikimai nenugalės priešininko, turinčio daugiau duomenų apie jus nei jūs patys apie save. Tačiau jis to nepalieka: jo tikrasis atsakymas apima dvi kryptis vienu metu: viena skirta tam, ką žmogus gali padaryti savo gyvenime, o kita – tam, ką reikia pakeisti pačioje sistemoje.

Šioje santraukoje

Pirmoji dalis

Fundamentalių gyvenimo vienetų monetizavimas

„Dėmesys“, – sako Randima, – „yra pagrindinis vienetas, kuriame veikia protas“ – ir visa pramonės šaka egzistuoja todėl, kad šis vienetas pasirodė esąs dalomas ir parduodamas. Nemokami produktai egzistuoja tam, kad būtų galima nuimti dalis ir perparduoti jas reklamuotojams, o tai reiškia, kad platforma nėra optimizuota tam, ką jūs iš tikrųjų darėte. Ji optimizuota tam, kiek laiko ji gali jus išlaikyti, prieš perduodama jus kam nors kitam.

Tas vienintelis neatitikimas persmelkia išorę. Kai „TikTok“ atrado greitesnį būdą užvaldyti dėmesį trumpais vaizdo įrašais, visi konkurentai, jo žodžiais tariant, buvo „išsiųsti atgal į posėdžių sales ir strategijos sesijas“, kad nukopijuotų arba prarastų pozicijas – lenktynės, kuriose apdovanojama tai, kas greičiausiai patraukia dėmesį, be jokio mechanizmo, kuris paklaustų kitoje pusėje esančio žmogaus. Žurnalistika juda link „paspaudimų masalo, hiperbolizavimo, skaldymo“ spektro galo, nes būtent tai išgyvena algoritmą. Politinės kampanijos atlieka A/B testus ir empiriškai sužino, kad laimi labiausiai pasipiktinimą sukelianti antraštė – todėl jų daro daugiau. Mygtukas „patinka“ tyliai moko platformą, ko jums daugiau rodyti, o sklaidos kanalas metai iš metų siaurėja iki vis ekstremalesnės versijos to, kas jau buvo sulaukusi atgarsio. Jo siūlomas eksperimentas yra beveik nerimą keliančiai paprastas: apsikeiskite sklaidos kanalais su draugu, kuris balsuoja kitaip nei jūs. Pamatysite, pasak jo, „labai skirtingą turinį ir labai skirtingą realybę“. Vaikai perima pagrindinę patiktukų ir dalijimosi „socialinę fiziką“ taip, kaip jie mokosi gravitacijos – anksti ir per pojūtį, o ne per instrukcijas. Randima tą pačią ištraukimo logiką taiko iki planetos pakraščio: augimas, pagrįstas „milijardais oro kondicionierių, milijardais automobilių, milijardais gyvulių“, elgiasi taip pat, kaip ir dėmesio ištraukimas – abu galiausiai pranoksta tai, ką gali sugerti pagrindinė sistema – protas ar atmosfera.

Antra dalis

Refleksas, o ne troškimas

Tomas pateikia savo požiūrį: reguliuojama nervų sistema, anot jo, sukuria subtilesnį santykį su technologijomis – didesnį gebėjimą pastebėti, kas negerai, daugiau realaus pasirinkimo. Disreguliuota nervų sistema, trauma, sukelianti žmogaus hiperaktyvaciją, apatiją ar fragmentaciją, susiaurina tą patį lauką dar prieš jam spėjant rinktis. Jis tiesiai šviesiai klausia Randimos: ar dėmesio ekonomika mokosi sąmoningai išnaudoti tą vidinę disreguliaciją?

Randimos atsakymas apima priklausomybės, kaip gilumos, klausimą – kaip giliai, jo žodžiais tariant, „domkratas“ patenka į smegenis. Šios technologijos išmoko sukelti dopamino reakcijas, kurios evoliucionavo tam, kad apdovanotų už išlikimą ir dauginimąsi, ir nukreipti jas į nieką: pranešimą, slinktį, šviesos blyksnį. Jam aiškiausias atvejis yra vaikai – ne todėl, kad su jais kas nors negerai, o todėl, kad jų dopamino sistemos vis dar kalibruojasi pagal pasaulį. Padėkite ekraną prieš dvejų metų vaiką, ir jo akys nevalingai jį seks, nes ryškumas buvo sukurtas taip, kad pranoktų viską, kas yra kambaryje – tai, ką jis vadina „hipernormaliu stimuliu“, viršijančiu viską, ko evoliucionavo kūnas. Kai vaiko dopamino receptoriai sukalibruojasi prie tokio įvesties lygio, įprastas gyvenimas ima atrodyti plokščias, o prietaiso atėmimas gali sukelti tikrą, neproporcingą stresą.

Jis atsargiai vertina skirtumą, kurį dauguma pokalbių apie technologijas praleidžia: tai, ką žmonės spusteli, nėra tas pats, ko jie nori. „Žmonės spustelėjo, vadinasi, to jie ir nori“, – sako įmonės, – tačiau, anot Randimos, tai painioja refleksą su ketinimu.

Visi stebi automobilio avariją greitkelyje, sako jis, nes dėmesys pavojui yra išlikimo mechanizmas, o ne todėl, kad kas nors iš tikrųjų norėtų pasaulio, pilno automobilių avarijų. Jo išvada yra struktūrinė, o ne moralizuojanti: verslas, kuris išgyvena dėl jūsų dėmesio, turi integruotą interesų konfliktą su faktiniu jūsų aptarnavimu , nes tikrai naudingas produktas suteiktų jums tai, ko jums reikia, ir leistų jums išeiti – priešingai nei tai, kas palaiko rodiklius.

Trečia dalis

Išgavimo ribos ir sistemos perkėlimas

Paklaustas, kaip iš tikrųjų keičiasi sistema, Randima klausimą aiškiai padalija į dvi dalis: kas įmanoma dabartinės ekonomikos viduje ir ar ta ekonomika apskritai yra tvari. Jo teigimu, viskas joje galiausiai priklauso nuo kainos – taigi , veiksmingos intervencijos yra tos, kurios galiausiai paliečia įmonės pelną . Toks dokumentinis filmas kaip „Socialinė dilema“ didina visuomenės informuotumą; informuotumas tampa politiniu spaudimu kurti naujus įstatymus; įstatymai įgalina bylinėjimąsi; bylinėjimasis galiausiai priskiria dolerio sumą žalai, kurią buvo galima padaryti. Pranešėjai apie pažeidimus yra svarbūs dėl tos pačios priežasties – nutekėjęs vidinis dokumentas yra įrodymas, kad įmonė žinojo, o tai paverčia informuotumą atsakomybe. Kliūtis visada yra greitis: technologijos juda greičiau, nei bet kuris iš šių taisomųjų mechanizmų gali jas sekti.

Dar labiau atitolinus vaizdą, Randima pritaikys tą patį dėsnį protui, kurį taikytų naftai.

Išgauti naftą iš žemės greičiau, nei milijonai metų gali ją atkurti, ir tai yra problema. Dėmesį, susikaupimą ir prasmės suvokimą suskaidyti greičiau, nei poilsis ir apmąstymai gali juos atkurti, ir – remiantis ta pačia logika – tai taip pat yra problema. Sunkiai iškovotiems gebėjimams, tokiems kaip ilgalaikis dėmesys, ugdyti reikia tikros disciplinos, o jų naikinti – labai mažai; jis pažymi, kad savaitinė meditacijos praktika neprilygsta telefonui, sukurtam konkuruoti dėl dėmesio aštuonias valandas per dieną ar daugiau. Vaikai, kurių protai yra lankstesni, tai pajunta greičiausiai.

Jis susieja šią giją su nelygybe eilute, kuri kartu yra ir diagnozė: kapitalizmas „yra labai jautrus kapitalui“ – iš tikrųjų atsakingas už realią medicinos, maisto ir technologijų pažangą ir lygiai taip pat patikimai koncentruoja turtą, nebent kažkas aktyviai tam prieštarautų. Jis galingo dirbtinio intelekto atsiradimą laiko ne tiek nauja problema, kiek senosios, besivystančios didesniu greičiu, atsiradimu – ir, galbūt, spaudimu, kuris galiausiai priverčia paskatų struktūrą keistis.

Ketvirta dalis

Dirbtinis intelektas: ištraukimo problema, dabar greitesnė

Randimos dirbtinio intelekto samprata beveik apgaulingai paprasta: technologijos visada buvo didžiausias žmonijos greitintuvas, o ši dirbtinio intelekto karta yra galingiausia šio greitintuvo versija – ji vienu metu kaupia pranašumus aparatinėje įrangoje, algoritmuose, duomenyse ir skaičiavimuose, greičiau nei kada nors pajudėjo Moore'o dėsnis. Yra ironija, ties kuria jis nesigilina: ta pati grafinė įranga, kurią jis septynerius metus kūrė „Nvidia“, skirta vaizdams ekrane kurti, „apšviečiant pikselius“, beveik atsitiktinai tapo būtent to pagreičio varikliu, apie kurį jis dabar perspėja.

Tačiau akseleratorius nekeičia krypties. Jis sustiprina bet kurią kryptį, į kurią sistema jau yra nukreipta. Nukreiptas į daugiausia išgaunamąją ekonomiką, dirbtinis intelektas neperkreipia išgavimo krypties – jis ją „perjungia į perkrovą“. Artimiausias poveikis, anot jo, yra kognityvinio darbo automatizavimas prieš fizinį darbą dėl paprastos priežasties, kad programinę įrangą lengviau automatizuoti nei robotiką. Verslo logika yra ne tiek grėsminga, kiek banali: mašinoms nereikia nedarbingumo dienų, atostogų ar sveikatos priežiūros, todėl visur, kur įmonė gali sumažinti išlaidas supaprastindama, ji tai padarys – ta pati struktūrinė gravitacija, dėl kurios lašėjimo ekonomika nesugebėjo iš tikrųjų nieko paskirstyti.

Jis stengiasi, kad ši istorija netaptų viena pabaiga. Jis teigia, kad dirbtinio intelekto privalumai – medicinoje, klimato kaitos sprendimuose, naujuose energijos šaltiniuose – yra realūs ir neturėtų būti ignoruojami. Jo įspėjimas susijęs su seka: visuomenė turi įveikti prasmingų kolektyvinių sprendimų ir išmintingų sprendimų kelią, kad ši nauda iš tikrųjų būtų pasiekta, o jei pirmiausia sugrius pagrindinės sistemos – poliarizacija, nelygybė, jau suskilusi bendra realybė – geri rezultatai niekada nepasiekiami.

Jo teigimu, šį antrąjį kontaktą pavojingesniu daro platinimas: ši technologija nėra centralizuota, kaip buvo socialinės žiniasklaidos platformos, o tai reiškia, kad reguliavimo priemonės, kurios sunkiai veikė net su keliomis didelėmis įmonėmis, susiduria su tuo, kas veikia kiekvieno telefone – dabar kiekvienas gali kada panorėjęs sukurti įtikinamą netikrą vaizdo įrašą ar netikrą mokslinį darbą.

Penktoji dalis

Laimėk nedalyvaudamas kovoje

Pabaigoje „Randima“ siūlo du skirtingus veiksmus – ne nuoseklius, ne „arba/arba“, bet pakankamai skirtingus, kad kiekvienas nusipelno savo svorio. Vienas nukreiptas į sistemą, o kitas – į save.

Pakeiskite paskatas

Norėdami suprasti, ko iš tikrųjų siekia bet kuri sistema, įmonė ar asmuo, skaitykite paskatų struktūrą, o ne pasakytus žodžius: paskatos atskleidžia daug daugiau apie elgesį nei žodžiai ar reklamos kampanijos. Tai ta pati esminė logika, aptarta trečioje dalyje – kainų mechanizmai, teisės aktai, teisminiai ginčai, informatoriai, tylų supratimą paverčiantys realia atsakomybe. Keisti tai, už ką įmonė gauna atlygį, yra lėčiau nei keisti įprotį, tačiau tai yra svertas, kuris paliečia pačią sistemą, o ne tik vieno žmogaus santykį su ja.

Atsisakymas

Asmeninis žingsnis prasideda prieš visa kita: nuoširdžiai aiškiai, geriausia garsiai, pasakyk žmonėms ir mokytojams, kuriais pasitiki, ką jums iš tikrųjų reiškia išmintingas gyvenimas ir tikras klestėjimas – ir leiskite tam aiškumui, o ne „Netflix“ ar socialinių tinklų algoritminiams meniu, nukreipti jūsų dėmesį.

Tomas grįžta prie sąmoningumo: kokį vaidmenį jis čia iš tikrųjų atlieka? Randimos atsakymas susideda iš dviejų dalių, ir būtent čia šio straipsnio pradžioje pateiktas teiginys įgauna visą savo reikšmę. Pirmoji dalis yra dosni: sąmoningumas ugdo tikrąjį sąmoningumą – mintis, emocijas, kūno pojūčius – kuris sukuria vidinę erdvę pastebėti pasirinkimą prieš jį darant, o ne po jo. Kartu su išankstiniu aiškumu apie tai, kaip atrodo įgudęs gyvenimas, ši pauzė yra ta vieta, kur iš tikrųjų įvyksta geresni pasirinkimai.

Antroji dalis yra sunkesnė, ir ji ta pati, kuria jis pradėjo: net ir pažangūs sąmoningumo mokymai jums daug nepadės, jei stovėsite sistemoje, kurią sukūrė įmonė, nuolat analizuojanti esminius žmogaus kognityvinius šališkumus – tai, kaip jis teigia, superkompiuteris, nukreiptas į smegenis. Baigiamasis jo patarimas – ne pranokti algoritmą drausminant. Tai savotiškas atsisakymas, sąmoningas atsiskyrimas nuo to, kas jau buvo identifikuota kaip neįgūdinga, o ne kova, kurią galima laimėti labiau stengiantis.

Nelaimėjimas. Visiškas atsisakymas kovoti ir bet kokio aiškumo, kurį suteikia sąmoningumas, panaudojimas, kad aiškiau pamatytumėte, kur nereikėtų stoti.

Nei vienas žingsnis nepakeičia kito. Paskatų keitimas keičia tai, už ką sistema atlygina; atsisakymas keičia jūsų paties santykį su ta sistema, nors ji vis dar yra tokia, kokia yra. Randima jau daugelį metų daro abu dalykus vienu metu.

↑ Grįžti į viršų