Суперкомпјутер усмерен ка вашем мозгу: Пажња, машине и метрике

Свака платформа коју користите указује на исти аргумент: кликнули сте, па сте то морали желети. Рандима Фернандо сматра да је то највећа лаж коју економија пажње говори о себи — исти рефлекс који усмерава поглед возача ка саобраћајној несрећи на аутопуту, погрешно схваћен као жеља. Направите фид који цео дан производи саобраћајне несреће и добићете кликове. Нећете добити ништа што је неко заправо желео.

Рандиму Фернандо су одгајали будистички родитељи, провела је седам година градећи непрофитну организацију која је проширила свесност у школе, а осам је провела саветујући Силицијумску долину о хуманом дизајну. Зато је чудно чути га како Томасу Хублу директно говори да вас сама медитација неће спасити. Не зато што свесност не функционише - зато што је ствар са друге стране вашег екрана, његовим речима, суперрачунар усмерен ка вашем мозгу, и никаква количина дисциплине не може поуздано победити противника са више података о вама него што ви имате о себи. Међутим, ту он не завршава: његов стварни одговор иде на два колосека истовремено, један усмерен на оно што особа може да уради у свом животу, а други на оно што се мора променити у самом систему.

У овом резимеу

Први део

Монетизација основних животних јединица

„Пажња“, каже Рандима, „је фундаментална јединица у којој ум функционише“ — и читава индустрија постоји зато што се испоставило да је та јединица дељива и продајна. Бесплатни производи постоје да би се сакупили делови, а затим их препродали оглашивачима, што значи да платформа није оптимизована за оно што сте заправо дошли да урадите. Оптимизована је за то колико дуго може да вас задржи пре него што вас преда неком другом.

Та једна неусклађеност се шири ка споља. Када је ТикТок пронашао бржи начин да отме пажњу кратким видео записима, сваки такмичар је, по његовим речима, послат „назад у сале за састанке и стратешке сесије“ да га копира или изгуби тло – трка која награђује оно што најбрже привуче пажњу, без механизма да пита колико то кошта особу на другом крају. Новинарство се креће ка „мамцу за кликове, хиперболичном, раздорном“ крају спектра јер то је оно што преживљава алгоритам. Политичке кампање спроводе А/Б тестове и емпиријски уче да наслов који највише генерише негодовање побеђује – па их покрећу више. Дугме „лајк“ тихо учи платформу шта да вам више приказује, а фид се, из године у годину, сужава на све екстремнију верзију онога што је већ одјекнуло. Његов предложени експеримент је готово узнемирујуће једноставан: замените фидове са пријатељем који гласа другачије од вас. Видећете, каже он, „веома другачији садржај и веома другачију стварност“. Деца усвајају основну „друштвену физику“ лајкова и деле начин на који уче гравитацију – рано и по осећају, а не по инструкцијама. Рандима извлачи исту логику екстракције до ивице планете: раст изграђен на „милијардама клима уређаја, милијардама аутомобила, милијардама стоке“ понаша се на исти начин као и екстракција пажње – оба на крају надмашују оно што основни систем, ум или атмосфера, могу да апсорбују.

Други део

Рефлекс, а не жеља

Томас доноси свој оквир овом обрасцу: регулисан нервни систем, сугерише он, омогућава нијансиранији однос са технологијом — већу способност да се примети шта није у реду, више стварног избора. Дисрегулисан, траума која некога доводи у хиперактивацију, утрнулост или фрагментацију, сужава исто то поље пре него што особа уопште може да изабере. Он директно пита Рандиму: да ли економија пажње учи да намерно искористи ту унутрашњу дисрегулацију?

Рандимин одговор пролази кроз зависност као питање дубине — колико дубоко, његовим речима, „џек“ иде у мозак. Ове технологије су научиле да покрећу допаминске реакције које су еволуирале да награде преживљавање и репродукцију, и да их усмеравају ни на шта: обавештење, скроловање, бљесак светлости. Најјаснији случај, за њега, су деца — не зато што нешто није у реду са њима, већ зато што се њихови допамински системи још увек калибришу према свету. Ставите екран испред двогодишњака и њихове очи ће га нехотице пратити, јер је осветљеност пројектована да премаши све остало у просторији — оно што он назива „хипернормалним стимулусом“, изван свега што тело еволуира да очекује. Када се дечји допамински рецептори калибришу на тај ниво уноса, обичан живот се чита као раван, а одузимање уређаја може изазвати праву, несразмерну патњу.

Он је опрезан у вези са разликом коју већина разговора о технологији прескаче: оно што људи кликну није исто што и оно што желе. „Људи су кликнули на то, тако да је то оно што желе“, кажу компаније — али то, тврди Рандима, меша рефлекс са намером.

Сви гледају саобраћајну несрећу на аутопуту, каже он, јер је пажња усмерена на опасност механизам преживљавања, а не зато што неко заправо жели свет пун саобраћајних несрећа. Његов закључак је структуран, а не морализаторски: посао који опстаје захваљујући вашој пажњи има уграђени сукоб интереса са тим да вам заправо служи , јер би вам истински користан производ дао оно што вам је потребно и пустио вас да одете – супротно од онога што одржава метрику високом.

Трећи део

Границе екстракције и померања система

На питање како се систем заправо мења, Рандима питање јасно дели на два: шта је могуће унутар тренутне економије и да ли је та економија уопште одржива. Унутар ње, каже он, све на крају иде кроз цену - тако да су интервенције које функционишу оне које на крају дотичу профит компаније . Документарац попут „Друштвене дилеме“ гради јавну свест; свест постаје политички притисак за нове законе; закони омогућавају судске спорове; судски спорови коначно додају износ у доларима штети која је могла слободно да се нанесе. Узбуњивачи су важни из истог разлога - процурели интерни документ је доказ да је компанија знала, што је оно што претвара свест у одговорност. Препрека је, увек, брзина: технологија се креће брже него што било који од ових механизама за корекцију може да је прати.

Ако се приказ додатно удаљи, Рандима ће применити исти закон на ум који би применио на нафту.

Вадити нафту из земље брже него што је милиони година могу заменити, и то је проблем. Смањивати пажњу, фокус и стварање смисла брже него што их одмор и размишљање могу обновити, и – по истој логици – и то је проблем. Тешко стечене способности попут одрживе пажње захтевају праву дисциплину да би се изградиле, а врло мало да би се еродирале; недељна пракса медитације, примећује он, не може се мерити са телефоном који је направљен да се такмичи за пажњу осам сати дневно или више. Деца, чији су умови подложнији промени, то најбрже осећају.

Он повезује нит са неједнакошћу линијом која служи и као дијагноза: капитализам „је веома осетљив на капитал“ — истински одговоран за стварни напредак у медицини, храни и технологији, и подједнако поуздано концентрише богатство осим ако му нешто активно не супротстави. Он долазак моћне вештачке интелигенције види мање као нови проблем, а више као стари који се јавља већом брзином — и, могуће, као притисак који коначно приморава структуру подстицаја да се промени.

Четврти део

Вештачка интелигенција: Проблем са екстракцијом, сада бржи

Рандимин оквир за вештачку интелигенцију је готово варљиво једноставан: технологија је одувек била највећи акцелератор човечанства, а ова генерација вештачке интелигенције је најмоћнија верзија тог акцелератора до сада — комбинујући добитке у хардверу, алгоритмима, подацима и рачунарству одједном, брже него што се Муров закон икада померио. Постоји иронија на којој се не задржава: исти графички хардвер који је седам година градио у Нвидији, за прављење слика на екрану, „осветљавање пиксела“, испоставио се, готово случајно, да је постао мотор управо убрзања на које сада упозорава.

Али акцелератор не мења смер. Он појачава било који смер у ком је систем већ усмерен. Усмерена ка претежно екстрактивној економији, вештачка интелигенција не преусмерава екстракцију - она ​​је ставља „на пребрзу брзину“. Најближи ефекат, тврди он, је аутоматизација когнитивног рада пре физичког рада, из једноставног разлога што је софтвер лакше аутоматизовати него роботику. Пословна логика није толико злокобна колико свакодневна: машинама нису потребни дани болести, одмори или здравствена заштита, тако да где год компанија може да смањи трошкове поједностављивањем, то ће и учинити - иста структурна гравитација која је довела до тога да економија цурења не успе да заправо дистрибуира било шта.

Он пази да од овога не направи причу са само једним крајем. Предности вештачке интелигенције – у медицини, климатским решењима, новим изворима енергије – су стварне, каже он, и не треба их одмахивати. Његова напомена се тиче редоследа: друштво мора да прође кроз врата здравог разума и мудрих колективних избора пре него што те користи заиста могу да се осете, а ако се основни системи прво покваре – поларизација, неједнакост, већ разбијена заједничка стварност – добри исходи никада не стижу.

Оно што овај други контакт чини опаснијим, према његовом мишљењу, јесте дистрибуција: ова технологија није централизована као што су то биле платформе друштвених медија, што значи да се регулаторни алати који су се борили чак и са неколико великих компанија суочавају са нечим што ради на телефону свакога – сада свако може да генерише убедљив лажни видео или лажни истраживачки рад, по жељи.

Пети део

Победите тако што нећете бити у борби

Завршавајући, Рандима нуди два различита потеза — не секвенцијалне, не или/или, већ довољно различите да сваки заслужује своју тежину. Један је усмерен на систем. Један је усмерен на себе.

Промените подстицаје

Да бисте разумели шта било који систем, компанија или особа заправо оптимизује, прочитајте структуру подстицаја, а не наведене речи: подстицаји откривају много више о понашању него речи или рекламне кампање. То је иста суштинска логика која је обрађена горе у трећем делу – механизми цена, законодавство, парнице, узбуњивачи који претварају тиху свест у стварну одговорност. Промена онога за шта компанија добија награду је спорија од промене навике, али то је полуга која дотиче сам систем, а не само однос једне особе према њему.

Одрицање

Лични потез почиње пре свега осталог: искрено разјасните, идеално наглас, са људима и наставницима којима верујете, шта за вас заправо значи мудар живот и прави напредак – и пустите да та јасноћа, а не алгоритамски менији Нетфликса или друштвених медија, одређују правац ваше пажње.

Томас директно враћа разговор на пажљивост: какву улогу она заправо игра овде? Рандимин одговор има два дела, и ту тврдња са почетка овог текста добија своје пуно објашњење. Први део је великодушан: пажљивост гради праву свест – о мислима, емоцијама, телесним осећајима – што ствара унутрашњи простор да се примети избор пре него што се направи, уместо после. Упарена са претходном јасноћом о томе како изгледа вешт живот, та пауза је место где се заправо дешавају бољи избори.

Други део је тежи, и то је исти онај са којим је и почео: чак ни напредни тренинг пажње неће вам много помоћи ако стојите унутар система који је изградила компанија која стално анализира фундаменталне људске когнитивне пристрасности – суперкомпјутер усмерен ка мозгу, како он каже. Његов завршни савет је да не дисциплинује алгоритам. То је врста одрицања, намерно одвајање од свега што је већ идентификовано као невешто, а не битка коју треба добити већим трудом.

Не побеђује. Одбија да се уопште бори — и користи било какву јасноћу коју свесност пружа да би се јасније видело где не треба стајати.

Ниједан потез не замењује други. Промена подстицаја мења оно што систем награђује; одрицање мења ваш сопствени однос према том систему док је он још увек оно што јесте. Рандима је годинама радила и једно и друго истовремено.

↑ Назад на врх