Суперкомп'ютер, спрямований на ваш мозок: усвідомленість, машини та метрики

Кожна платформа, яку ви використовуєте, вказує на один і той самий аргумент: ви клацнули, отже, ви, мабуть, цього хотіли. Рандіма Фернандо вважає, що це найбільша брехня, яку економіка уваги розповідає про себе — той самий рефлекс, який приковує погляд водія до ДТП на шосе, помилково сприймаючи його за бажання. Створіть стрічку, яка цілий день вироблятиме ДТП, і ви отримуватимете кліки. Ви не отримаєте нічого, чого насправді хтось хотів.

Рандіма Фернандо виросла в сім'ї, будуючи некомерційну організацію, яка поширила усвідомленість на школи, і ще вісім років консультувала Кремнієву долину з питань гуманного дизайну. Тому дивно чути, як він прямо каже Томасу Хюблу, що сама лише медитація вас не врятує. Не тому, що усвідомленість не працює, а тому, що річ по той бік вашого екрана, за його словами, є суперкомп'ютером, спрямованим на ваш мозок, і жодна дисципліна не зможе надійно перемогти опонента, який має більше даних про вас, ніж у вас самих. Однак на цьому він не зупиняється: його фактична відповідь базується одночасно на двох напрямках: один спрямований на те, що людина може робити у власному житті, а інший — на тому, що має змінитися в самій системі.

У цьому резюме

Частина перша

Монетизація фундаментальних життєвих одиниць

«Увага, — каже Рендіма, — це фундаментальна одиниця, в якій працює розум», — і ціла індустрія існує завдяки тому, що ця одиниця виявилася подільною та такою, що її можна продавати. Безкоштовні продукти існують для того, щоб збирати фрагменти, а потім перепродавати їх рекламодавцям, а це означає, що платформа не оптимізована для того, для чого ви насправді прийшли. Вона оптимізована для того, як довго вона може вас утримувати, перш ніж передати вас комусь іншому.

Ця єдина невідповідність каскадом поширюється назовні. Коли TikTok знайшов швидший спосіб захопити увагу за допомогою коротких відео, кожного конкурента, за його словами, відправили «повернутися до залів засідань та стратегічних сесій», щоб скопіювати його або втратити позиції — гонка, яка винагороджує те, що найшвидше привертає увагу, без механізму запитати, скільки це коштує людині на іншому кінці. Журналістика дрейфує до «клікбейтного, гіперболічного, роз'єднуючого» кінця спектра, тому що саме це виживає в алгоритмі. Політичні кампанії проводять A/B-тестування та емпірично дізнаються, що перемагає заголовок, який викликає найбільше обурення, — тому вони запускають їх більше. Кнопка «лайк» непомітно вчить платформу, чого показувати вам більше, і стрічка звужується рік за роком до дедалі екстремальнішої версії того, що вже резонувало. Запропонований ним експеримент майже тривожно простий: обміняйтеся стрічками з другом, який голосує інакше, ніж ви. Ви побачите, каже він, «дуже інший контент і зовсім іншу реальність». Діти засвоюють основну «соціальну фізику» лайків і розповідають, як вони вивчають гравітацію — рано та на дотик, а не на інструкції. Рендіма проводить ту саму логіку вилучення уваги аж до краю планети: зростання, побудоване на «мільярдах кондиціонерів, мільярдах автомобілів, мільярдах худоби», поводиться так само, як і вилучення уваги — обидва зрештою перевершують те, що може поглинути базова система, розум чи атмосфера.

Частина друга

Рефлекс, а не бажання

Томас привносить власну концепцію в цю закономірність: регульована нервова система, на його думку, забезпечує більш тонкі стосунки з технологіями — більшу здатність помічати, що не так, більш реальний вибір. Дисрегульована нервова система, травма, що призводить до гіперактивації, оніміння або фрагментації, звужує це ж поле ще до того, як людина навіть зможе зробити вибір. Він безпосередньо запитує Рендіму: чи вчиться економіка уваги навмисно використовувати цю внутрішню дисрегуляцію?

Відповідь Рендіми проходить через залежність як питання глибини — наскільки глибоко, за його словами, «джек» проникає в мозок. Ці технології навчилися запускати дофамінові реакції, які еволюціонували, щоб винагороджувати виживання та розмноження, і не спрямовувати їх ні на що: сповіщення, прокручування, спалах світла. Найяскравішим випадком для нього є діти — не тому, що з ними щось не так, а тому, що їхні дофамінові системи все ще калібруються відповідно до світу. Поставте екран перед дворічною дитиною, і її очі мимоволі відстежуватимуть його, тому що яскравість була розроблена так, щоб перевищувати все інше в кімнаті — те, що він називає «гіпернормальним стимулом», що перевищує все, що організм еволюціонував очікувати. Як тільки дофамінові рецептори дитини калібруються до цього рівня вхідних даних, звичайне життя сприймається як плоске, а відбирання пристрою може викликати справжній, непропорційний стрес.

Він обережно ставиться до розмежування, яке більшість розмов про технології пропускають: те, на що люди натискають, не те саме, що вони хочуть. «Люди натискали на це, тож це те, чого вони хочуть», — кажуть компанії, — але це, стверджує Рендіма, плутає рефлекс із наміром.

Усі дивляться на автомобільну аварію на шосе, каже він, бо увага до небезпеки — це механізм виживання, а не тому, що хтось насправді хоче світ, повний автомобільних аварій. Його висновок структурний, а не моралізаторський: бізнес, який виживає завдяки вашій увазі, має вбудований конфлікт інтересів із реальним обслуговуванням вас , бо справді корисний продукт дасть вам те, що вам потрібно, і дозволить вам піти — протилежне тому, що підтримує показники.

Частина третя

Межі видобутку та зміщення системи

На запитання про те, як насправді змінюється система, Рендіма чітко розділяє питання на дві частини: що можливо в рамках сучасної економіки та чи є ця економіка взагалі сталою. Усередині неї, каже він, все зрештою залежить від ціни, тому втручання, які працюють, це ті, що зрештою впливають на прибуток компанії . Документальний фільм, такий як «Соціальна дилема» , підвищує обізнаність громадськості; обізнаність перетворюється на політичний тиск для нових законів; закони сприяють судовим розглядам; судові процеси зрештою додають грошову суму до шкоди, яку можна було завдати безперешкодно. Інформатори важливі з тієї ж причини — витік внутрішнього документа є доказом того, що компанія знала, що перетворює обізнаність на відповідальність. Перешкодою завжди є швидкість: технології розвиваються швидше, ніж будь-який із цих коригувальних механізмів може їх відстежити.

Якщо ще більше віддалитися, то Рендіма застосує той самий закон до розуму, що й до нафти.

Видобувати нафту з землі швидше, ніж мільйони років можуть її замінити, і це проблема. Зменшувати увагу, фокус та смислоутворення швидше, ніж відпочинок та роздуми можуть їх відновити, і — за тією ж логікою — це теж проблема. Так важко набуті здібності, такі як стійка увага, вимагають справжньої дисципліни для розвитку та дуже малої руйнації; щотижнева практика медитації, зазначає він, не зрівняється з телефоном, розробленим для боротьби за увагу вісім годин на день або більше. Діти, чий розум більш гнучкий, відчувають це найшвидше.

Він пов'язує цю нитку з нерівністю за допомогою рядка, який одночасно є діагнозом: капіталізм «дуже чутливий до капіталу» — справді відповідальний за реальний прогрес у медицині, харчовій промисловості та технологіях, і так само надійно концентрує багатство, якщо щось активно йому не протидіє. Він розглядає появу потужного штучного інтелекту не стільки як нову проблему, скільки як стару, що розвивається з більшою швидкістю, — і, можливо, як тиск, який нарешті змушує структуру стимулів змінитися.

Частина четверта

Штучний інтелект: Проблема видобування, тепер швидше

Теорія штучного інтелекту, яку Рендіма використовує, майже оманливо проста: технології завжди були найпотужнішим прискорювачем людства, і це покоління ШІ є найпотужнішою версією цього прискорювача на сьогоднішній день — він поєднує в собі переваги апаратного забезпечення, алгоритмів, даних та обчислень одночасно, швидше, ніж будь-коли рухався закон Мура. Є іронія, на якій він не зациклюється: те саме графічне обладнання, яке він сім років створював у Nvidia для створення зображень на екрані, «підсвічування пікселів», майже випадково стало двигуном того самого прискорення, про яке він зараз попереджає.

Але прискорювач не змінює напрямок. Він посилює той напрямок, куди вже спрямована система. Спрямований на переважно екстрактивну економіку, ШІ не перенаправляє видобуток — він переводить його «на прискорений режим». Найближчим наслідком, стверджує він, є автоматизація когнітивної роботи перед фізичною працею з тієї простої причини, що програмне забезпечення легше автоматизувати, ніж робототехніку. Бізнес-логіка не стільки зловісна, скільки буденна: машинам не потрібні лікарняні, відпустки чи медичне обслуговування, тому там, де компанія може скоротити витрати шляхом спрощення, вона це зробить — та сама структурна гравітація, яка змусила економіку просочування не змогти насправді розподілити щось.

Він обережно намагається не перетворювати цю історію лише на одну кінцівку. Переваги штучного інтелекту — у медицині, кліматичних рішеннях, нових джерелах енергії — реальні, каже він, і їх не слід ігнорувати. Його застереження стосується послідовності: суспільство має пройти через шлях здорового глузду та мудрого колективного вибору, перш ніж ці переваги зможуть реально прийти на світ, і якщо першими руйнуються базові системи — поляризація, нерівність, спільна реальність, яка вже роздроблена — хороші результати взагалі ніколи не досягаються.

На його думку, цей другий контакт робить небезпечнішим саме поширення: ця технологія не є централізованою, як це було з платформами соціальних мереж, а це означає, що регуляторні інструменти, які мали труднощі навіть з кількома великими компаніями, стикаються з чимось, що працює на телефоні кожного — тепер кожен може створити переконливе фальшиве відео або фальшиву дослідницьку роботу, коли забажає.

Частина п'ята

Перемога, не беручи участі в боротьбі

На завершення, Randima пропонує два окремі кроки — не послідовні, не або/або, але достатньо різні, щоб кожен заслуговував на власну вагу. Один спрямований на систему. Інший спрямований на себе.

Змініть стимули

Щоб зрозуміти, для чого насправді оптимізується будь-яка система, компанія чи людина, прочитайте структуру стимулів, а не слова: стимули розкривають набагато більше про поведінку, ніж слова чи рекламні кампанії. Це та сама суть логіки, що розглядалася вище в третій частині — цінові механізми, законодавство, судові процеси, інформатори перетворюють тиху обізнаність на реальну відповідальність. Зміна того, за що компанія отримує винагороду, відбувається повільніше, ніж зміна звички, але це важіль, який торкається самої системи, а не лише стосунків однієї людини до неї.

Зречення

Особистий крок починається ще до всього іншого: щиро та відверто поясніть, в ідеалі вголос, людям та вчителям, яким ви довіряєте, що насправді означає для вас мудре життя та справжній успіх — і дозвольте цій ясності, а не алгоритмічним меню Netflix чи соціальних мереж, спрямувати вашу увагу.

Томас повертає розмову безпосередньо до усвідомленості: яку роль вона насправді тут відіграє? Відповідь Рендіми складається з двох частин, і саме тут твердження з початку цієї статті отримує своє повне пояснення. Перша частина є щедрою: усвідомленість розвиває справжню усвідомленість — думки, емоцій, тілесних відчуттів — що створює внутрішній простір для помічення вибору до його прийняття, а не після. У поєднанні з попереднім розумінням того, як виглядає вміле життя, ця пауза є тим місцем, де насправді відбувається кращий вибір.

Друга частина — складніша, і це та сама, з якої він почав: навіть просунуте навчання усвідомленості не зробить для вас багато, якщо ви стоїте всередині системи, створеної компанією, яка постійно проводить аналіз фундаментальних когнітивних упереджень людини — суперкомп'ютера, спрямованого на мозок, як він це висловився. Його заключна порада — не перехитрувати алгоритм. Це свого роду зречення, навмисне відділення від того, що вже було визначено як невміле, а не битва, яку можна виграти, докладаючи більше зусиль.

Не перемагати. Відмовлятися від боротьби взагалі — і використовувати будь-яку ясність, яку надає усвідомленість, щоб ясніше побачити, де не варто стояти.

Жоден з цих кроків не замінює інший. Зміна стимулів змінює те, що винагороджує система; відмова змінює ваші власні стосунки з цією системою, поки вона залишається такою, якою вона є. Рендіма вже роками робить і те, і інше одночасно.

↑ На початок сторінки