Egy agyadra irányított szuperszámítógép: Tudatosság, gépek és metrikák

Minden platform, amit használsz, ugyanarra az érvre mutat: rákattintottál, tehát biztosan akartad. Randima Fernando szerint ez a legnagyobb hazugság, amit a figyelemgazdaság önmagáról elsüt – ugyanaz a reflex, ami egy autóbalesetre szegezi a tekintetét az autópályán, amit vágynak tévesztenek. Építs egy olyan hírfolyamot, ami egész nap autóbaleseteket gyárt, és kattintásokat fogsz kapni. Nem fogsz olyat kapni, amit bárki is valójában akart.

Randima Fernandót buddhista szülők nevelték, hét évet töltött egy nonprofit szervezet felépítésével, amely a tudatos jelenlétet (mindfulness) iskolákba is elterjesztette, és további nyolc évet töltött azzal, hogy a Szilícium-völgyet humánus tervezéssel kapcsolatos tanácsokkal látta el. Ezért furcsa hallani, ahogy Thomas Hüblnek kereken azt mondja, hogy a meditáció önmagában nem fog megmenteni. Nem azért, mert a tudatos jelenlét (mindfulness) nem működik – mert a képernyőd túloldalán lévő dolog, az ő szavaival élve, egy szuperszámítógép, amely az agyad felé mutat, és semmilyen fegyelem nem tudja megbízhatóan legyőzni azt az ellenfelet, akinek több adata van rólad, mint neked saját magadról. De nem itt hagyja abba a kérdést: a tényleges válasza egyszerre két szálon fut, az egyik arra irányul, hogy mit tehet egy ember a saját életében, a másik pedig arra, hogy mit kell megváltoztatnia magában a rendszerben.

Ebben az összefoglalóban

Első rész

Fundamentális Életegységek Pénzszerzése

„A figyelem” – mondja Randima – „az az alapvető egység, amelyben az elme működik” – és egy egész iparág azért létezik, mert ez az egység oszthatónak és eladhatónak bizonyult. Léteznek ingyenes termékek, amelyek a szeleteket gyűjtik össze, majd továbbértékesítik a hirdetőknek, ami azt jelenti, hogy egy platform nincs arra optimalizálva, amiért valójában jöttél. Arra van optimalizálva, hogy mennyi ideig tud téged megtartani, mielőtt átadna valaki másnak.

Ez az egyetlen eltérés kifelé is terjed. Amikor a TikTok gyorsabb módszert talált a figyelemfelkeltésre rövid formátumú videókkal, minden versenytársát – szavaival élve – „visszaküldték a tárgyalótermekbe és a stratégiai ülésekre”, hogy lemásolják, vagy elveszítsék a pozíciójukat – egy olyan verseny, amely azt jutalmazza, ami a leggyorsabban megragadja a figyelmet, anélkül, hogy bármilyen mechanizmust kellene arra, hogy megkérdezze, mibe kerül ez a másik oldalon lévő személynek. Az újságírás a spektrum „kattintásvadász, hiperbolikus, megosztó” vége felé sodródik, mert ez az, ami túléli az algoritmust. A politikai kampányok A/B teszteket futtatnak, és empirikusan megtudják, hogy a leginkább felháborodást kiváltó címsor nyer – ezért többet futtatnak belőlük. Egy „tetszik” gomb csendben megtanítja a platformot, hogy miből mutasson többet, és a hírfolyam évről évre egyre szélsőségesebb verziójává szűkül annak, ami már rezonált. Az általa javasolt kísérlet szinte nyugtalanítóan egyszerű: cserélj hírfolyamokat egy barátoddal, aki másképp szavaz, mint te. Látni fogod, mondja, „nagyon más tartalmat és nagyon más valóságot”. A gyerekek a lájkok és megosztások mögöttes „szociális fizikáját” úgy sajátítják el, ahogyan a gravitációt tanulják meg – korán, és érzésre, nem oktatás útján. Randima ugyanezt a figyelemkivonási logikát vonja le egészen a bolygó pereméig: a „légkondicionálók milliárdjaira, autók milliárdjaira, állatállomány milliárdjaira” épülő növekedés ugyanúgy viselkedik, mint a figyelemkivonás – mindkettő végül meghaladja azt, amit az alapul szolgáló rendszer, egy elme vagy egy légkör, elnyelni képes.

Második rész

Reflex, nem vágy

Thomas a saját megközelítését hozza a mintázatba: egy szabályozott idegrendszer, állítja, árnyaltabb kapcsolatot teremt a technológiával – nagyobb képességet a hibák észlelésére, több valódi választási lehetőséget. Egy szabályozatlan idegrendszer, vagyis egy olyan trauma, ami hiperaktivitásba, zsibbadásba vagy fragmentációba taszít valakit, leszűkíti ezt a mezőt, mielőtt az ember egyáltalán választhatna. Egyenesen Randimától kérdezi: vajon a figyelemgazdaság szándékosan tanulja meg kihasználni ezt a belső szabályozási zavart?

Randima válasza a függőségen keresztül vezet végig, mint mélységi kérdésen – szavaival élve, hogy „meddig jut az agyba” „a jack”. Ezek a technológiák megtanulták kiváltani azokat a dopaminválaszokat, amelyek a túlélés és a szaporodás jutalmazására fejlődtek ki, és semmire sem irányulnak: egy értesítésre, egy tekercsre, egy fényvillanásra. Számára a legtisztább eset a gyerekek – nem azért, mert bármi baj van velük, hanem azért, mert a dopaminrendszerük még mindig kalibrálódik a világhoz. Tegyünk egy képernyőt egy kétéves elé, és a szeme önkéntelenül is követni fogja azt, mert a fényerőt úgy tervezték, hogy felülmúljon mindent a szobában – ezt ő „hipernormális ingernek” nevezi, ami túlmutat mindenen, amire egy test evolúciósan számíthat. Miután egy gyermek dopaminreceptorai kalibrálódtak erre a bemeneti szintre, a hétköznapi élet laposnak tűnik, és az eszköz elvétele valódi, aránytalan stresszt okozhat.

Óvatosan kezel egy olyan különbséget, amelyet a technológiáról szóló beszélgetések legtöbbje átsiklanak: amire az emberek rákattintanak, az nem ugyanaz, mint amit akarnak. „Az emberek rákattintottak, tehát ezt akarják” – mondják a cégek –, de Randima szerint ez összekeveri a reflexet a szándékkal.

Azt mondja, mindenki egy autóbalesetet néz az autópályán, mert a veszélyre való odafigyelés egy túlélési mechanizmus, nem pedig azért, mert bárki is egy autóbalesetekkel teli világot akar. A zárszava strukturális, nem moralizáló: egy olyan vállalkozásnak, amely a figyelmednek köszönhetően marad fenn, beépített érdekellentéte van azzal, hogy ténylegesen kiszolgáljon téged , mert egy valóban hasznos termék megadná, amire szükséged van, és hagyná, hogy elmenj – az ellenkezője annak, ami fenntartja a mutatókat.

Harmadik rész

A kitermelés korlátai és a rendszer eltolása

Amikor arról kérdezték, hogy valójában hogyan változik a rendszer, Randima egyértelműen két részre osztja a kérdést: mi lehetséges a jelenlegi gazdaságon belül, és hogy egyáltalán fenntartható-e ez a gazdaság. Belül, mondja, minden végül az áron múlik – tehát azok a beavatkozások működnek, amelyek végül érintik egy vállalat végeredményét . Egy olyan dokumentumfilm, mint A társadalmi dilemma , növeli a közvélemény tudatosságát; a tudatosság politikai nyomássá válik az új törvények iránt; a törvények lehetővé teszik a pereket; a perek végül dollárösszeget rendelnek azokhoz a károkhoz, amelyeket korábban szabadon lehetett volna okozni. A visszaélést bejelentők ugyanazon okból fontosak – egy kiszivárgott belső dokumentum bizonyíték arra, hogy a vállalat tudott a történtekről, és ez az, ami a tudatosságot felelősséggé változtatja. Az akadály mindig a sebesség: a technológia gyorsabban fejlődik, mint ahogy ezek a korrekciós mechanizmusok bármelyike ​​nyomon tudja követni.

Ha tovább kicsinyítjük a képet, Randima ugyanazt a törvényt alkalmazza az elmére, mint amit az olajra tenne.

Az olaj gyorsabban nyerhető ki a földből, mint ahogy azt évmilliók pótolni tudják, és ez problémát jelent. A figyelem, a fókusz és az értelemalkotás gyorsabban hasad szét, mint ahogy a pihenés és az elmélkedés újjáépítheti őket, és – ugyanezen logika szerint – ez is probléma. A nehezen megszerzett képességek, mint például a tartós figyelem, valódi fegyelmet igényelnek a kiépítésükhöz, és nagyon kevés leépülésükhöz; egy heti meditációs gyakorlat, jegyzi meg, nem veheti fel a versenyt egy olyan telefonnal, amelyet úgy terveztek, hogy napi nyolc órát vagy többet versengjen a figyelemért. A gyerekek, akiknek az elméje rugalmasabb, érzik ezt meg a leggyorsabban.

A szálat az egyenlőtlenséghez egy olyan sorral köti össze, amely egyben diagnózis is: a kapitalizmus „nagyon érzékeny a tőkére” – valóban felelős az orvostudomány, az élelmiszeripar és a technológia valódi fejlődéséért, és ugyanolyan megbízhatóan koncentrálja a vagyont, hacsak valami aktívan nem ellensúlyozza azt. A nagy teljesítményű mesterséges intelligencia megjelenését kevésbé új problémának, mint inkább a régi, nagyobb sebességgel jelentkező problémának tekinti – és esetleg olyan nyomásnak, amely végül az ösztönző struktúrát a változásra kényszeríti.

Negyedik rész

MI: Kitermelési probléma, most gyorsabb

Randima mesterséges intelligenciáról alkotott felfogása szinte megtévesztően egyszerű: a technológia mindig is az emberiség legnagyobb gyorsítója volt, és a mesterséges intelligencia jelenlegi generációja ennek a gyorsítónak a legerősebb változata – egyszerre ötvözi a hardver, az algoritmusok, az adatok és a számítástechnika előnyeit, gyorsabban, mint ahogy Moore törvénye valaha is megtette. Van egy irónia, aminél nem időzik el sokáig: ugyanaz a grafikus hardver, amelynek fejlesztését hét évig töltötte az Nvidiánál a képernyőn megjelenő képek készítéséhez, a „pixelek megvilágításához”, szinte véletlenül vált annak a gyorsulásnak a motorjává, amelyre most figyelmeztet.

De egy gyorsító nem változtatja meg az irányt. Felerősíti azt az irányt, amelybe egy rendszer már eleve mutat. Egy túlnyomórészt kitermelő gazdaságra irányulva a mesterséges intelligencia nem irányítja át a kitermelést – „túlpörgeti”. A legközelebbi hatás, állítja, a kognitív munka automatizálása a fizikai munka előtt, egyszerűen azért, mert a szoftvereket könnyebb automatizálni, mint a robotikát. Az üzleti logika nem annyira baljós, mint inkább hétköznapi: a gépeknek nincs szükségük betegszabadságra, szabadságra vagy egészségügyi ellátásra, így ahol egy vállalat egyszerűsítéssel csökkentheti a költségeket, ott meg is fogja tenni – ugyanaz a strukturális gravitáció, amely miatt a leszivárgó gazdaságtan képtelen volt bármit is elosztani.

Óvatos arra, hogy ne legyen ebből egy történet, amelynek csak egy vége van. A mesterséges intelligencia előnyei – az orvostudományban, az éghajlatváltozás megoldásaiban, az új energiaforrásokban – valósak, mondja, és nem szabad elhessegetni őket. Kikötése a sorrendre vonatkozik: a társadalomnak át kell jutnia egy józan ész és bölcs kollektív döntések kapuján, mielőtt ezek az előnyök ténylegesen megérkezhetnének, és ha az alapul szolgáló rendszerek előbb összeomlanak – polarizáció, egyenlőtlenség, egy már megtört közös valóság –, a jó eredmények soha nem jönnek el.

Elmondása szerint ezt a második kapcsolatfelvételt a terjesztés teszi veszélyesebbé: ez a technológia nem centralizált, mint a közösségi média platformok voltak, ami azt jelenti, hogy azok a szabályozási eszközök, amelyek még néhány nagyvállalattal is küzdöttek, most mindenki telefonján futó valamivel ütköznek – most bárki tetszés szerint készíthet meggyőző hamis videót vagy hamis kutatási cikket.

Ötödik rész

Nyerj azzal, hogy nem veszel részt a harcban

Végezetül, Randima két különálló lépést kínál – nem egymást követőeket, nem vagy/vagy-t, de elég különbözőeket ahhoz, hogy mindegyik megérdemeljen egy saját súlyt. Az egyik a rendszert, a másik pedig az ént célozza meg.

Változtasd meg az ösztönzőket

Ahhoz, hogy megértsük, miért optimalizál valójában egy rendszer, vállalat vagy személy, az ösztönző struktúrát kell olvasnunk, ne a kimondott szavakat: az ösztönzők sokkal többet árulnak el a viselkedésről, mint a szavak vagy a reklámkampányok. Ugyanaz a lényegi logika érvényesül, mint amit a harmadik részben tárgyaltunk – ármechanizmusok, jogszabályok, perek, a visszaélést bejelentők, akik a csendes tudatosságot valódi felelősséggé változtatják. A vállalat jutalmazásának megváltoztatása lassabb, mint egy szokás megváltoztatása, de ez az emelőkar, ami magát a rendszert érinti, nem csak egyetlen személy hozzá fűződő viszonyát.

Lemondás

A személyes lépés minden más előtt elkezdődik: őszintén tisztázd – ideális esetben hangosan – a megbízható emberekkel és tanárokkal, hogy mit jelent valójában számodra a bölcs élet és az igazi boldogulás – és hagyd, hogy ez a tisztánlátás, ne pedig a Netflix vagy a közösségi média algoritmikus menüi irányítsák a figyelmedet.

Thomas visszatereli a beszélgetést közvetlenül a tudatos jelenlétre: milyen szerepet játszik itt valójában? Randima válasza két részből áll, és itt kapja meg teljes magyarázatát a cikk elején felvetett állítás. Az első rész nagylelkű: a tudatos jelenlét valódi tudatosságot épít – gondolatok, érzelmek, testi érzések tekintetében –, amely megteremti a belső teret ahhoz, hogy a döntést még azelőtt észrevegyük, hogy meghoznánk, ahelyett, hogy utána. A tehetséges élettel kapcsolatos előzetes tisztánlátással párosulva ez a szünet az a hely, ahol a jobb döntések megszületnek.

A második rész a nehezebb, és ugyanaz, amivel kezdte: még a haladó szintű mindfulness tréning sem fog sokat segíteni, ha egy olyan rendszerben állsz, amelyet egy olyan cég épített, amely folyamatosan elemzi az alapvető emberi kognitív torzításokat – egy agyra irányított szuperszámítógép, ahogy ő fogalmaz. Záró tanácsa nem az, hogy fegyelmezzük felül az algoritmust. Ez egyfajta lemondás, egy szándékos elkülönülés attól, amit már ügyetlenként azonosítottak, nem pedig egy olyan csata, amelyet keményebb próbálkozással lehet megnyerni.

Nem győzünk. Teljesen lemondunk a harcról – és a tudatos jelenlét által nyújtott tisztaságot felhasználjuk, hogy tisztábban lássuk, hol ne álljunk meg.

Egyik lépés sem helyettesíti a másikat. Az ösztönzők megváltoztatása megváltoztatja azt, hogy mit jutalmaz a rendszer; a lemondás megváltoztatja a saját viszonyodat ehhez a rendszerhez, miközben az még mindig az, ami. Randima éveket töltött azzal, hogy mindkettőt egyszerre tegye.

↑ Vissza a tetejére