Суперкомпютър, насочен към вашия мозък: Внимателност, машини и показатели

Всяка платформа, която използвате, сочи към един и същ аргумент: кликнали сте, така че сигурно сте го искали. Рандима Фернандо смята, че това е най-голямата лъжа, която икономиката на вниманието казва за себе си - същият рефлекс, който насочва поглед на шофьора към автомобилна катастрофа на магистралата, погрешно приеман за желание. Създайте емисия, която произвежда автомобилни катастрофи по цял ден и ще получавате кликвания. Няма да получите нищо, което някой всъщност е искал.

Рандима Фернандо е отгледана от будистки родители, прекарала е седем години в изграждането на организация с нестопанска цел, която разпространи осъзнатостта в училищата, и е прекарала още осем в консултиране на Силициевата долина по хуманен дизайн. Затова е странно да го чуеш да казва на Томас Хюбл, категорично, че медитацията сама по себе си няма да те спаси. Не защото осъзнатостта не работи – защото нещото от другата страна на екрана ти е, по думите му, суперкомпютър, насочен към мозъка ти, и никаква дисциплина не може надеждно да победи опонент с повече данни за теб, отколкото имаш ти самия. Не е краят на въпроса обаче: действителният му отговор е едновременно в две направления, единият насочен към това, което човек може да прави в собствения си живот, а другият – към това, което трябва да се промени в самата система.

В това резюме

Част първа

Монетизиране на фундаментални жизнени единици

„Вниманието“, казва Рандима, „е фундаменталната единица, в която функционира умът“ – и цяла индустрия съществува, защото тази единица се оказа делима и продаваема. Безплатни продукти съществуват, за да се съберат парчетата, след което да се препродадат на рекламодатели, което означава, че платформата не е оптимизирана за това, което всъщност сте дошли да правите. Тя е оптимизирана за това колко дълго може да ви задържи, преди да ви предаде на някой друг.

Това единично несъответствие се разпространява каскадно навън. Когато TikTok намери по-бърз начин да отвлече вниманието с кратки видеоклипове, всеки конкурент беше изпратен, по неговите думи, „обратно в заседателните зали и стратегическите сесии“, за да го копира или да загуби позиции – надпревара, която възнаграждава това, което привлече вниманието най-бързо, без механизъм да попита колко струва това на човека от другата страна. Журналистиката се измества към „кликбейт, хиперболичен, разделящ“ край на спектъра, защото това е, което оцелява след алгоритъма. Политическите кампании провеждат A/B тестове и емпирично научават, че най-възмутителното заглавие печели – така че те пускат повече от тях. Бутонът „харесва ми“ тихо учи платформата какво да ви показва повече, а емисията се стеснява, година след година, до все по-екстремна версия на това, което вече е резонирало. Предложеният от него експеримент е почти обезпокоително прост: разменете емисиите с приятел, който гласува различно от вас. Ще видите, казва той, „много различно съдържание и много различна реалност“. Децата усвояват основната „социална физика“ на харесванията и споделят начина, по който учат гравитацията – рано и чрез усещане, а не чрез инструкции. Рандима извежда същата логика на извличане до края на планетата: растежът, изграден върху „милиарди климатици, милиарди коли, милиарди добитък“, се държи по същия начин като извличането на внимание – и двете в крайна сметка надминават това, което основната система, ум или атмосфера, може да абсорбира.

Част втора

Рефлекс, а не желание

Томас влага своя собствена концепция в модела: регулираната нервна система, според него, води до по-нюансирана връзка с технологиите – по-голяма способност да се забелязва какво не е наред, по-реален избор. Дисрегулираната нервна система, травмата, която тласка някого към хиперактивация, вцепенение или фрагментация, стеснява същото поле, преди човек дори да може да избере. Той пита директно Рандима: дали икономиката на вниманието се учи да експлоатира тази вътрешна дисрегулация нарочно?

Отговорът на Рандима се промъква през пристрастяването като въпрос на дълбочина - докъде, по неговите думи, „жакът“ отива в мозъка. Тези технологии са се научили да задействат допаминовите реакции, еволюирали, за да възнаградят оцеляването и размножаването, и да ги насочват към нищо: известие, свитък, светкавица. Най-ясният случай за него са децата - не защото нещо не е наред с тях, а защото техните допаминови системи все още се калибрират към света. Поставете екран пред двегодишно дете и очите му неволно ще го проследят, защото яркостта е проектирана да надвишава всичко останало в стаята - това, което той нарича „хипернормален стимул“, отвъд всичко, което едно тяло е еволюирало да очаква. След като допаминовите рецептори на детето са се калибрирали до това ниво на вход, обикновеният живот се възприема като плосък и отнемането на устройството може да предизвика истински, непропорционален дистрес.

Той внимава относно разграничението, което повечето разговори за технологиите пропускат: това, върху което хората кликват, не е същото като това, което искат. „Хората са кликнали върху него, така че това е, което искат“, казват компаниите – но това, твърди Рандима, бърка рефлекса с намерението.

Всеки гледа на автомобилна катастрофа на магистралата, казва той, защото вниманието към опасността е механизъм за оцеляване, а не защото някой всъщност иска свят, пълен с автомобилни катастрофи. Неговият извод е структурен, а не морализиращ: бизнес, който оцелява благодарение на вашето внимание, има вграден конфликт на интереси с това действително да ви обслужва , защото един наистина полезен продукт би ви дал това, от което се нуждаете, и би ви позволил да си тръгнете - обратното на това, което поддържа показателите високи.

Част трета

Граници на извличане и изместване на системата

На въпроса как всъщност се променя системата, Рандима разделя въпроса ясно на две: какво е възможно в рамките на настоящата икономика и дали тази икономика изобщо е устойчива. В нея, казва той, всичко в крайна сметка се осъществява чрез цената - така че интервенциите, които работят, са тези, които в крайна сметка докосват печалбата на компанията . Документален филм като „Социалната дилема“ изгражда обществена осведоменост; осведомеността се превръща в политически натиск за нови закони; законите дават възможност за съдебни спорове; съдебните спорове най-накрая приписват парична стойност на вредите, които са могли да бъдат причинени. Лицата, подаващи сигнали за нередности, са важни по същата причина - изтекъл вътрешен документ е доказателство, че една компания е знаела, което е, което превръща осведомеността в отговорност. Препятствието винаги е скоростта: технологиите се развиват по-бързо, отколкото който и да е от тези коригиращи механизми може да ги проследи.

При по-голямо намаляване на мащаба Рандима прилага същия закон към ума, който би приложил към петрола.

Добивът на петрол от земята е по-бърз, отколкото милиони години могат да го заменят, и това е проблем. Намаляваме вниманието, фокуса и осмислянето по-бързо, отколкото почивката и размисълът могат да ги възстановят, и – по същата логика – това също е проблем. Трудно спечелените способности, като например продължително внимание, изискват истинска дисциплина, за да се изградят, и много малко за ерозиране; седмичната практика на медитация, отбелязва той, не може да се сравни с телефон, проектиран да се конкурира за внимание осем часа на ден или повече. Децата, чиито умове са по-гъвкави, усещат това най-бързо.

Той свързва нишката с неравенството с линия, която служи и като диагноза: капитализмът „е много чувствителен към капитала“ – наистина отговорен за реалния напредък в медицината, храните и технологиите и също толкова надеждно концентрира богатството, освен ако нещо активно не му противодейства. Той вижда появата на мощен изкуствен интелект не толкова като нов проблем, колкото като стар с по-висока скорост – и евентуално като натиск, който най-накрая принуждава структурата на стимулите да се промени.

Част четвърта

AI: Проблем с извличането, сега по-бърз

Рамката на Рандима за изкуствения интелект е почти измамно проста: технологиите винаги са били най-големият ускорител на човечеството, а това поколение ИИ е най-мощната версия на този ускорител досега – комбинирайки едновременно печалби от хардуер, алгоритми, данни и изчисления, по-бързо отколкото Законът на Мур някога се е движил. Има една ирония, върху която той не се спира: същият графичен хардуер, който е разработвал седем години в Nvidia, за създаване на изображения на екран, „осветяващ пиксели“, се оказа, почти случайно, двигателят на самото ускорение, за което сега предупреждава.

Но ускорителят не променя посоката. Той усилва посоката, в която системата вече е насочена. Насочен към предимно добивна икономика, изкуственият интелект не пренасочва добива – той го поставя „на свръхпроизводство“. Най-близкият ефект, твърди той, е автоматизирането на когнитивната работа пред физическия труд, по простата причина, че софтуерът е по-лесен за автоматизиране от роботиката. Бизнес логиката не е толкова зловеща, колкото банална: машините не се нуждаят от болнични, отпуски или здравеопазване, така че където и да една компания може да намали разходите чрез опростяване, тя ще го направи – същата структурна гравитация, която накара икономиката на просмукване да не успее да разпредели нищо.

Той внимава да не превърне това в история само с един край. Ползите от изкуствения интелект – в медицината, в климатичните решения, в новите източници на енергия – са реални, казва той, и не бива да бъдат пренебрегвани. Неговото предупреждение е относно последователността: обществото трябва да премине през врата на разумно мислене и мъдри колективни избори, преди тези ползи действително да могат да се появят, и ако основните системи се разпаднат първи – поляризация, неравенство, вече раздробена споделена реалност – добрите резултати никога не се постигат.

Според него това, което прави този втори контакт по-опасен, е разпространението: тази технология не е централизирана по начина, по който бяха платформите за социални медии, което означава, че регулаторните инструменти, които се бореха дори с шепа големи компании, са изправени пред нещо, което работи на телефона на всеки - сега всеки може да генерира убедително фалшиво видео или фалшива научна статия, когато пожелае.

Част пета

Спечелете го, като не участвате в битката

В заключение, Рандима предлага два отделни хода – не последователни, не „или/или“, но достатъчно различни, че всеки от тях да заслужава собствена тежест. Единият е насочен към системата. Другият е насочен към самия себе си.

Променете стимулите

За да разберете за какво всъщност се оптимизира дадена система, компания или човек, прочетете структурата на стимулите, а не посочените думи: стимулите разкриват много повече за поведението, отколкото думите или рекламните кампании. Същата логика е обхваната по-горе в трета част – ценови механизми, законодателство, съдебни спорове, лица, подаващи сигнали за нередности, превръщащи тихата осведоменост в реална отговорност. Промяната на това, за което една компания получава възнаграждение, е по-бавна от промяната на навик, но това е лостът, който докосва самата система, а не само връзката на един човек с нея.

Отричане

Личният ход започва преди всичко останало: обяснете искрено, за предпочитане на глас, с хора и учители, на които имате доверие, какво всъщност означава за вас мъдър живот и истински просперитет – и позволете на тази яснота, а не на алгоритмичните менюта на Netflix или социалните медии, да насочат вниманието ви.

Томас връща разговора директно към осъзнатостта: каква роля всъщност играе тя тук? Отговорът на Рандима има две части и тук твърдението от началото на тази статия получава пълното си обяснение. Първата част е щедра: осъзнатостта изгражда истинска осъзнатост – на мисълта, емоцията, телесното усещане – което създава вътрешно пространство за забелязване на избора преди да бъде направен, вместо след това. В съчетание с предварителна яснота за това как изглежда един умел живот, тази пауза е мястото, където всъщност се случват по-добрите избори.

Втората част е по-трудната и е същата, с която той започна: дори напредналото обучение за осъзнатост няма да ви е от голяма полза, ако стоите в система, изградена от компания, която извършва постоянен анализ срещу фундаменталните човешки когнитивни пристрастия – суперкомпютър, насочен към мозъка, както той го нарича. Неговият заключителен съвет е да не се прекалява с дисциплинирането на алгоритъма. Това е вид отказ, умишлено отделяне от всичко, което вече е било идентифицирано като неумело, а не битка, която трябва да бъде спечелена с по-големи усилия.

Не печеля. Отказвам да се боря изобщо – и използвам каквато и да е яснота, която осъзнатостта предоставя, за да видя по-ясно къде не трябва да заставам.

Нито едно от двете не замества другото. Промяната на стимулите променя това, което системата възнаграждава; отказът променя собствената ви връзка с тази система, докато тя все още е такава, каквато е. Рандима е прекарала години, правейки и двете едновременно.

↑ Обратно горе