Isang Supercomputer na Nakatutok sa Iyong Utak: Pagiging Mapagmalay, Mga Makina at Sukatan

Bawat platapormang ginagamit mo ay tumuturo sa iisang argumento: nag-click ka, kaya malamang gusto mo rin ito. Iniisip ni Randima Fernando na iyon ang pinakamalaking kasinungalingan na sinasabi ng attention economy tungkol sa sarili nito — ang parehong reflex na nagpapatingin sa isang drayber patungo sa isang aksidente sa highway, na napagkakamalang pagnanasa. Gumawa ng feed na gumagawa ng mga aksidente sa kotse buong araw at makakakuha ka ng mga pag-click. Wala kang makukuhang anumang talagang gusto ng sinuman.

Si Randima Fernando ay pinalaki ng mga magulang na Buddhist, gumugol ng pitong taon sa pagtatayo ng isang non-profit na organisasyon na nagpalawak ng mindfulness sa mga paaralan, at gumugol ng walong taon pa sa pagpapayo sa Silicon Valley tungkol sa makataong disenyo. Kaya kakaibang marinig siyang sabihin kay Thomas Hübl, nang walang pag-aalinlangan, na ang meditasyon lamang ay hindi magliligtas sa iyo. Hindi dahil sa hindi gumagana ang mindfulness — dahil ang nasa kabilang panig ng iyong screen ay, sa kanyang mga salita, isang supercomputer na nakatutok sa iyong utak, at walang disiplina ang maaasahang makakatalo sa isang kalaban na may mas maraming datos tungkol sa iyo kaysa sa mayroon ka tungkol sa iyong sarili. Gayunpaman, hindi doon niya ito itinitigil: ang kanyang aktwal na sagot ay tumatakbo sa dalawang landas nang sabay-sabay, ang isa ay naglalayong gawin ang isang tao sa loob ng kanilang sariling buhay, at ang isa ay naglalayong baguhin ang dapat baguhin sa sistema mismo.

Sa Buod na Ito

Unang Bahagi

Pag-monetize ng mga Pangunahing Yunit ng Buhay

"Ang atensyon," sabi ni Randima, "ang pangunahing yunit kung saan gumagana ang isip" — at umiiral ang isang buong industriya dahil ang yunit na iyon ay naging mahahati, at maibebenta. May mga libreng produkto na ginagamit para anihin ang mga piraso, pagkatapos ay ibenta muli ang mga ito sa mga advertiser, na nangangahulugang ang isang plataporma ay hindi na-optimize para sa kung ano talaga ang iyong layunin. Ito ay na-optimize para sa kung gaano katagal ka nitong kayang hawakan bago ka ibigay sa iba.

Ang nag-iisang maling pagkakahanay na iyon ay dumadaloy palabas. Nang makahanap ang TikTok ng mas mabilis na paraan para agawin ang atensyon gamit ang maiikling video, bawat kakumpitensya, sa kanyang mga salita, ay pinabalik sa mga boardroom at sa mga sesyon ng estratehiya upang kopyahin ito o matatalo — isang karera na nagbibigay ng gantimpala sa anumang pinakamabilis na nakakakuha ng atensyon, nang walang mekanismo upang tanungin kung magkano ang magiging kapalit nito sa kabilang panig. Ang pamamahayag ay lumilipat patungo sa "click-baity, hyperbolic, divisive" na dulo ng spectrum dahil iyon ang nananatili sa algorithm. Ang mga kampanyang pampulitika ay nagsasagawa ng mga A/B test at natututo, sa empirikal na paraan, na ang headline na pinakanakakagawa ng galit ang nananalo — kaya mas marami silang pinapatakbong mga ito. Ang isang button na "like" ay tahimik na nagtuturo sa isang platform kung ano ang ipapakita sa iyo nang higit pa, at ang isang feed ay lumiliit, taon-taon, sa isang lalong sukdulang bersyon ng anumang bagay na umuugong na. Ang kanyang iminungkahing eksperimento ay halos hindi kapani-paniwalang simple: makipagpalitan ng mga feed sa isang kaibigan na bumoto nang iba kaysa sa iyo. Makikita mo, aniya, "napakaibang nilalaman at napakaibang realidad." Natutuklasan ng mga bata ang pinagbabatayan na "social physics" ng mga like at share sa paraan ng kanilang pagkatuto ng grabidad — nang maaga, at sa pamamagitan ng pakiramdam, hindi sa pamamagitan ng pagtuturo. Ginagamit ni Randima ang parehong lohika ng pagkuha ng atensyon hanggang sa dulo ng planeta: ang paglago na nakabatay sa "bilyong air conditioner, bilyun-bilyong kotse, bilyun-bilyong alagang hayop" ay kumikilos sa parehong paraan ng pagkuha ng atensyon — kapwa kalaunan ay nalalampasan ang kayang makuha ng pinagbabatayang sistema, isang isip o isang kapaligiran.

Ikalawang Bahagi

Repleksyon, Hindi Pagnanais

Dinadala ni Thomas ang sarili niyang balangkas sa huwaran: ang isang regulated nervous system, ayon sa kanya, ay lumilikha ng mas malalim na ugnayan sa teknolohiya — mas maraming kakayahang mapansin kung ano ang mali, mas totoong pagpili. Ang isang dysregulated, ang trauma na nagdudulot ng hyperactivation, pamamanhid, o pagkapira-piraso, ay nagpapaliit sa parehong larangan bago pa man makapili ang isang tao. Direktang tinanong niya si Randima: natututo ba ang attention economy na samantalahin ang internal dysregulation na iyon?

Ang sagot ni Randima ay sumasaklaw sa adiksyon bilang isang malalim na usapin — kung gaano kalayo, sa kanyang mga salita, ang "jack" ay pumapasok sa utak. Natuto ang mga teknolohiyang ito na mag-trigger ng mga tugon ng dopamine na umunlad upang gantimpalaan ang kaligtasan at reproduksyon, at hindi itinutuon ang mga ito sa wala: isang abiso, isang scroll, isang kislap ng liwanag. Ang pinakamalinaw na kaso, para sa kanya, ay ang mga bata — hindi dahil may mali sa kanila, kundi dahil ang kanilang mga sistema ng dopamine ay naka-calibrate pa rin sa mundo. Maglagay ng screen sa harap ng isang dalawang taong gulang at ang kanilang mga mata ay hindi sinasadyang susubaybayan ito, dahil ang liwanag ay ininhinyero upang malampasan ang lahat ng iba pa sa silid — ang tinatawag niyang "hypernormal stimulus," na higit pa sa anumang inaasahan ng isang katawan. Kapag ang mga dopamine receptor ng isang bata ay naka-calibrate na sa antas ng input na iyon, ang ordinaryong buhay ay mababasa bilang patag, at ang pag-alis ng aparato ay maaaring magdulot ng tunay at hindi proporsyonal na pagkabalisa.

Maingat siya sa isang pagkakaiba na nilalaktawan ng karamihan sa mga pag-uusap tungkol sa teknolohiya: ang kini-click ng mga tao ay hindi katulad ng gusto nila. "Nag-click ang mga tao rito, kaya iyon ang gusto nila," sabi ng mga kumpanya — ngunit iyon, ayon kay Randima, ay napagkakamalang reflex sa intensyon.

Lahat ay tumitingin sa isang aksidente sa sasakyan sa highway, aniya, dahil ang atensyon sa panganib ay isang mekanismo ng kaligtasan, hindi dahil may sinuman ang talagang nagnanais ng isang mundong puno ng mga aksidente sa sasakyan. Ang kanyang pagtatapos ay istruktural, hindi moral: ang isang negosyong nakaligtas sa iyong atensyon ay may likas na salungatan ng interes sa aktwal na paglilingkod sa iyo , dahil ang isang tunay na kapaki-pakinabang na produkto ay magbibigay sa iyo ng iyong kailangan at hahayaan kang umalis — ang kabaligtaran ng kung ano ang nagpapanatili sa mga sukatan na mataas.

Ikatlong Bahagi

Mga Limitasyon ng Pagkuha at Pagbabago ng Sistema

Nang tanungin kung paano nga ba talaga nagbabago ang sistema, malinaw na hinati ni Randima ang tanong sa dalawa: ano ang posible sa loob ng kasalukuyang ekonomiya, at kung ang ekonomiyang iyon ay napapanatili ba talaga. Sa loob nito, aniya, lahat ng bagay ay kalaunan ay dumadaan sa presyo — kaya ang mga interbensyong epektibo ang siyang kalaunan ay nakakaapekto sa kita ng isang kumpanya . Ang isang dokumentaryo tulad ng The Social Dilemma ay nagpapatibay ng kamalayan ng publiko; ang kamalayan ay nagiging pampulitikang presyon para sa mga bagong batas; ang mga batas ay nagbibigay-daan sa litigasyon; ang litigasyon ay sa wakas ay naglalagay ng isang dolyar na halaga sa mga pinsalang malayang naidudulot. Mahalaga ang mga whistleblower sa parehong dahilan — ang isang leaked na panloob na dokumento ay patunay na alam ng isang kumpanya, na siyang nagiging dahilan ng pananagutan ng kamalayan. Ang balakid, palagi, ay ang bilis: ang teknolohiya ay mas mabilis na gumagalaw kaysa sa kayang subaybayan ito ng alinman sa mga mekanismong ito ng pagwawasto.

Lumayo pa lalo, at ilalapat ni Randima sa isip ang parehong batas na ilalapat niya sa langis.

Mas mabilis na maalis ang langis sa lupa kaysa sa kayang palitan ng milyun-milyong taon, at problema iyon. Mas mabilis na matanggal ang atensyon, pokus, at pag-unawa kaysa sa muling pagbubuo ng pahinga at pagmumuni-muni, at — sa parehong lohika — problema rin iyon. Ang mga kapasidad na pinaghirapan tulad ng patuloy na atensyon ay nangangailangan ng tunay na disiplina upang mabuo at napakakaunting mababawasan; ang lingguhang pagsasanay sa pagmumuni-muni, aniya, ay walang kapantay sa isang teleponong ginawa upang makipagkumpitensya para sa atensyon walong oras o higit pa sa isang araw. Ang mga bata, na ang mga isip ay mas madaling mabaluktot, ang pinakamabilis na nakakaramdam nito.

Iniuugnay niya ang hibla sa hindi pagkakapantay-pantay gamit ang isang linyang nagsisilbing diagnosis: ang kapitalismo ay "napakasensitibo sa kapital" — tunay na responsable para sa mga tunay na pagsulong sa medisina, pagkain, at teknolohiya, at kasing-maaasahang pagtutuon ng kayamanan maliban kung may aktibong sumasalungat dito. Nakikita niya ang pagdating ng makapangyarihang AI bilang isang luma na may mas mabilis na bilis — at, marahil, bilang presyur na sa wakas ay pumipilit sa istruktura ng insentibo na magbago.

Bahagi Apat

AI: Problema sa Pagkuha, Mas Mabilis Na Ngayon

Ang balangkas ni Randima para sa artificial intelligence ay halos mapanlinlang na simple: ang teknolohiya ay palaging ang pinakadakilang accelerator ng sangkatauhan, at ang henerasyong ito ng AI ang pinakamakapangyarihang bersyon ng accelerator na iyon sa lahat ng panahon — na nagpapalawak ng mga natamo sa hardware, algorithm, data, at compute nang sabay-sabay, mas mabilis kaysa sa nagawa ng Batas ni Moore. Mayroong isang ironiya na hindi niya pinagtutuunan ng pansin: ang parehong graphics hardware na ginugol niya ng pitong taon sa Nvidia building, para sa paggawa ng mga larawan sa isang screen, na "nagbibigay-liwanag sa mga pixel," ay lumabas, halos hindi sinasadya, na naging makina ng mismong acceleration na ngayon ay ibinababala niya.

Ngunit ang isang accelerator ay hindi nagbabago ng direksyon. Pinapalakas nito ang alinmang direksyon na nakaturo na ang isang sistema. Nakaturo sa isang ekonomiyang nangingibabaw sa pagkuha, hindi nire-redirect ng AI ang pagkuha — inilalagay nito ito sa "overdrive." Ang pinakamalapit na epekto, aniya, ay ang automation ng cognitive work bago ang pisikal na paggawa, sa madaling dahilan na mas madaling i-automate ang software kaysa sa robotics. Ang lohika ng negosyo ay hindi naman gaanong masama kundi pangkaraniwan: hindi kailangan ng mga makina ng sick days, bakasyon, o pangangalagang pangkalusugan, kaya saanman makakabawas ng gastos ang isang kumpanya sa pamamagitan ng pagpapasimple, gagawin nito — ang parehong structural gravity na nagpabigo sa trickle-down economics na aktwal na ipamahagi ang anuman.

Maingat siyang huwag gawing kuwentong iisa lang ang wakas. Aniya, ang bentahe ng AI — sa medisina, sa mga solusyon sa klima, sa mga bagong mapagkukunan ng enerhiya — ay totoo, at hindi dapat isantabi. Ang kanyang babala ay tungkol sa pagkakasunod-sunod: kailangang dumaan ang lipunan sa isang pintuan ng mahusay na paggawa ng makatuwiran at matalinong kolektibong pagpili bago aktwal na makarating ang mga benepisyong iyon, at kung ang mga pinagbabatayang sistema ay unang masisira — polarisasyon, hindi pagkakapantay-pantay, isang ibinahaging realidad na nahati na — ang magagandang resulta ay hindi kailanman darating.

Ang nagpapadelikado sa pangalawang pakikipag-ugnayang ito, ayon sa kanya, ay ang pamamahagi: ang teknolohiyang ito ay hindi sentralisado tulad ng mga social media platform noon, na nangangahulugang ang mga regulatory tool na nahihirapan kahit sa iilang malalaking kumpanya ay kalaban na ngayon ng isang bagay na tumatakbo sa telepono ng lahat — kahit sino ay maaari nang bumuo ng isang nakakakumbinsing pekeng video, o isang pekeng research paper, anumang oras na gusto nila.

Ikalimang Bahagi

Manalo sa pamamagitan ng Hindi Pagsali sa Laban

Bilang pagtatapos, nag-aalok si Randima ng dalawang magkaibang galaw — hindi magkakasunod, hindi alinman/o, ngunit sapat ang pagkakaiba na bawat isa ay may kanya-kanyang bigat. Ang isa ay nakatutok sa sistema. Ang isa naman ay nakatutok sa sarili.

Ilipat ang mga Insentibo

Para maunawaan kung para saan talaga ino-optimize ng anumang sistema, kumpanya, o tao, basahin ang istruktura ng insentibo, hindi ang mga nakasaad na salita: ang mga insentibo ay nagpapakita ng higit pa tungkol sa pag-uugali kaysa sa mga salita , o mga kampanya sa advertising. Ito ay ang parehong lohika sa ilalim na linya na tinalakay sa itaas sa Ikatlong Bahagi — mga mekanismo ng presyo, batas, litigasyon, mga whistleblower na ginagawang tunay na pananagutan ang tahimik na kamalayan. Ang pagbabago ng kung ano ang ginagantimpalaan ng isang kumpanya sa paggawa ay mas mabagal kaysa sa pagbabago ng isang nakagawian, ngunit ito ang pingga na nakakaapekto sa sistema mismo, hindi lamang sa relasyon ng isang tao dito.

Pagtalikod

Ang personal na hakbang ay nagsisimula bago pa man ang alinman sa mga susunod na hakbang: maging tunay na malinaw, mas mainam kung malakas ang loob, sa mga tao at gurong pinagkakatiwalaan mo, tungkol sa kung ano talaga ang ibig sabihin ng isang matalinong buhay at tunay na kasaganaan para sa iyo — at hayaang ang kalinawang iyon, hindi ang mga algorithmic menu ng Netflix o social media, ang magtakda ng direksyon ng iyong atensyon.

Direktang ibinabalik ni Thomas ang usapan sa pagiging mapagmasid: ano nga ba talaga ang papel na ginagampanan nito rito? Ang sagot ni Randima ay may dalawang bahagi, at dito nakukuha ang buong paglalahad ng pahayag mula sa itaas ng artikulong ito. Ang unang bahagi ay bukas-palad: ang pagiging mapagmasid ay bumubuo ng tunay na kamalayan — sa pag-iisip, emosyon, pandama ng katawan — na lumilikha ng panloob na espasyo upang mapansin ang isang pagpili bago ito gawin sa halip na pagkatapos. Kaakibat ng naunang kalinawan tungkol sa kung ano ang hitsura ng isang buhay na may kasanayan, ang paghintong iyon ang siyang tunay na nangyayaring mas magagandang pagpili.

Ang pangalawang bahagi ang mas mahirap, at ito rin ang ginamit niya sa pagsisimula: kahit ang advanced mindfulness training ay hindi gaanong makakatulong sa iyo kung nakatayo ka sa loob ng isang sistemang ginawa ng isang kumpanyang patuloy na nagsasagawa ng pagsusuri laban sa pangunahing cognitive bias ng tao — isang supercomputer na nakatutok sa utak, gaya ng pagkakasabi niya. Ang pangwakas niyang payo ay huwag higitan ang disiplina sa algorithm. Ito ay isang uri ng pagtalikod, isang sinasadyang paghihiwalay mula sa anumang natukoy na bilang hindi mahusay, sa halip na isang labanan na dapat ipanalo sa pamamagitan ng mas pagsisikap.

Hindi nananalo. Tumanggi talagang lumaban — at ginagamit ang anumang kalinawan na ibinibigay ng pagiging mapagmasid upang makita, nang mas malinaw, kung saan hindi dapat tumayo.

Walang galaw na makakapantay sa isa't isa. Ang pagbabago ng mga insentibo ay nagbabago sa kung ano ang gantimpala ng sistema; ang pagtalikod ay nagbabago sa iyong sariling relasyon sa sistemang iyon habang ito ay kung ano pa rin ito. Gumugol si Randima ng mga taon ngayon sa paggawa ng pareho nang sabay-sabay.

↑ Balik sa itaas