Superkomputer yang Ditujukan ke Otak Anda: Kesedaran, Mesin & Metrik

Setiap platform yang anda gunakan menunjukkan hujah yang sama: anda mengklik, jadi anda pasti menginginkannya. Randima Fernando berpendapat bahawa itulah pembohongan terbesar yang diceritakan oleh ekonomi perhatian tentang dirinya sendiri — refleks yang sama yang menarik perhatian pemandu ke arah kemalangan kereta di lebuh raya, yang disalah anggap sebagai keinginan. Bina suapan yang menghasilkan kemalangan kereta sepanjang hari dan anda akan mendapat klik. Anda tidak akan mendapat apa-apa yang sebenarnya diingini oleh sesiapa pun.

Randima Fernando dibesarkan oleh ibu bapa yang beragama Buddha, menghabiskan tujuh tahun membina sebuah badan bukan berasaskan keuntungan yang meningkatkan kesedaran ke sekolah-sekolah, dan telah menghabiskan lapan tahun lagi menasihati Silicon Valley tentang reka bentuk yang berperikemanusiaan. Jadi, agak pelik apabila mendengarnya memberitahu Thomas Hübl, secara terus terang, bahawa meditasi sahaja tidak akan menyelamatkan anda. Bukan kerana kesedaran tidak berkesan — kerana perkara di seberang skrin anda, dalam kata-katanya, adalah sebuah superkomputer yang dihalakan ke otak anda, dan tiada disiplin yang dapat mengalahkan lawan yang mempunyai lebih banyak data tentang anda daripada yang anda ada pada diri sendiri. Namun, dia tidak berhenti di situ: jawapan sebenarnya berjalan pada dua landasan sekaligus, satu bertujuan untuk apa yang boleh dilakukan oleh seseorang dalam kehidupan mereka sendiri, dan satu lagi bertujuan untuk apa yang perlu diubah dalam sistem itu sendiri.

Dalam Ringkasan Ini

Bahagian Satu

Mengewangkan Unit Hayat Asas

"Perhatian," kata Randima, "adalah unit asas tempat minda beroperasi" — dan seluruh industri wujud kerana unit itu ternyata boleh dibahagikan dan dijual. Produk percuma wujud untuk menuai hirisan, kemudian menjualnya semula kepada pengiklan, yang bermaksud platform tidak dioptimumkan untuk apa yang sebenarnya anda lakukan. Ia dioptimumkan untuk berapa lama ia boleh menahan anda sebelum menyerahkan anda kepada orang lain.

Ketidakselarasan tunggal itu mengalir keluar. Apabila TikTok menemui cara yang lebih pantas untuk merampas perhatian dengan video pendek, setiap pesaing dihantar, dalam kata-katanya, "kembali ke bilik lembaga pengarah dan sesi strategi" untuk meniru atau kehilangan tempat — perlumbaan yang memberi ganjaran kepada apa sahaja yang menarik perhatian paling cepat, tanpa mekanisme untuk bertanya berapa kosnya kepada orang di hujung yang lain. Kewartawanan beralih ke hujung spektrum "klik-bait, hiperbolik, memecahbelahkan" kerana itulah yang bertahan dalam algoritma. Kempen politik menjalankan ujian A/B dan belajar, secara empirikal, bahawa tajuk utama yang paling menimbulkan kemarahan menang — jadi mereka menjalankan lebih banyak daripadanya. Butang "suka" secara senyap mengajar platform apa yang perlu ditunjukkan kepada anda lebih banyak, dan suapan menyempit, tahun demi tahun, menjadi versi yang semakin ekstrem bagi apa sahaja yang telah bergema. Eksperimen yang dicadangkannya hampir mudah: bertukar suapan dengan rakan yang mengundi secara berbeza daripada anda. Anda akan melihat, katanya, "kandungan yang sangat berbeza dan realiti yang sangat berbeza." Kanak-kanak mempelajari "fizik sosial" asas suka dan perkongsian dengan cara mereka mempelajari graviti — lebih awal, dan melalui perasaan, bukan arahan. Randima menggunakan logik pengekstrakan yang sama hingga ke hujung planet ini: pertumbuhan yang dibina di atas "berbilion penghawa dingin, berbilion kereta, berbilion ternakan" bertindak sepertimana pengekstrakan perhatian — kedua-duanya akhirnya mengatasi apa yang boleh diserap oleh sistem asas, minda atau atmosfera.

Bahagian Dua

Refleks, Bukan Keinginan

Thomas membawa kerangka tersendiri kepada corak tersebut: sistem saraf yang terkawal, beliau mencadangkan, mewujudkan hubungan yang lebih bernuansa dengan teknologi — lebih banyak kapasiti untuk melihat apa yang tidak kena, pilihan yang lebih nyata. Satu lagi yang tidak terkawal, trauma yang menyebabkan seseorang mengalami hiperaktif, kebas, atau pemecahan, menyempitkan bidang yang sama sebelum seseorang sempat memilih. Beliau bertanya secara langsung kepada Randima: adakah ekonomi perhatian belajar untuk mengeksploitasi ketidakaturan dalaman itu dengan sengaja?

Jawapan Randima merangkumi ketagihan sebagai soal kedalaman — sejauh mana, dalam kata-katanya, "jek" masuk ke dalam otak. Teknologi ini telah belajar untuk mencetuskan tindak balas dopamin yang berevolusi untuk memberi ganjaran kepada kelangsungan hidup dan pembiakan, dan tidak menyasarkannya kepada apa-apa: pemberitahuan, skrol, kilatan cahaya. Kes yang paling jelas, baginya, adalah kanak-kanak — bukan kerana ada yang tidak kena dengan mereka, tetapi kerana sistem dopamin mereka masih menentukur kepada dunia. Letakkan skrin di hadapan kanak-kanak berusia dua tahun dan mata mereka secara tidak sengaja akan menjejakinya, kerana kecerahan telah direkayasa untuk melebihi segala-galanya di dalam bilik — apa yang beliau panggil "rangsangan hipernormal," melebihi apa sahaja yang dijangkakan oleh badan. Sebaik sahaja reseptor dopamin kanak-kanak telah menentukur pada tahap input tersebut, kehidupan biasa dibaca sebagai mendatar, dan mengambil peranti itu boleh mencetuskan tekanan yang nyata dan tidak seimbang.

Dia berhati-hati tentang perbezaan yang kebanyakan perbualan tentang teknologi terlepas pandang: apa yang orang klik tidak sama dengan apa yang mereka mahukan. "Orang ramai mengkliknya, jadi itulah yang mereka mahukan," kata syarikat — tetapi itu, Randima berhujah, mengelirukan refleks dengan niat.

Semua orang melihat kemalangan kereta di lebuh raya, katanya, kerana perhatian kepada bahaya adalah mekanisme untuk terus hidup, bukan kerana sesiapa pun benar-benar mahukan dunia yang penuh dengan kemalangan kereta. Penutupnya bersifat struktur, bukan moral: perniagaan yang bertahan dengan perhatian anda mempunyai konflik kepentingan terbina dalam dengan benar-benar melayani anda , kerana produk yang benar-benar berguna akan memberikan apa yang anda perlukan dan membiarkan anda pergi — bertentangan dengan apa yang memastikan metrik sentiasa tinggi.

Bahagian Tiga

Had Pengekstrakan dan Peralihan Sistem

Ditanya bagaimana sistem itu sebenarnya berubah, Randima membahagikan soalan itu kepada dua perkara: apa yang mungkin berlaku dalam ekonomi semasa, dan sama ada ekonomi itu mampan sama sekali. Di dalamnya, katanya, semuanya akhirnya bergantung pada harga — jadi intervensi yang berkesan adalah yang akhirnya menyentuh keuntungan syarikat . Dokumentari seperti The Social Dilemma membina kesedaran awam; kesedaran menjadi tekanan politik untuk undang-undang baharu; undang-undang membolehkan litigasi; litigasi akhirnya mengenakan angka dolar kepada kemudaratan yang selama ini bebas dikenakan. Pemberi maklumat penting atas sebab yang sama — dokumen dalaman yang bocor adalah bukti yang diketahui oleh syarikat, yang mengubah kesedaran menjadi liabiliti. Halangannya, sentiasa, adalah kepantasan: teknologi bergerak lebih pantas daripada mana-mana mekanisme pembetulan ini dapat mengesannya.

Jika dizum lebih jauh, Randima akan menggunakan hukum yang sama pada minda seperti yang akan dia gunakan pada minyak.

Mengeluarkan minyak dari tanah lebih cepat daripada yang boleh digantikan oleh jutaan tahun, dan itu satu masalah. Mengurangkan perhatian, fokus, dan pemahaman lebih cepat daripada rehat dan refleksi dapat membinanya semula, dan — dengan logik yang sama — itu juga satu masalah. Kapasiti yang diperolehi dengan susah payah seperti perhatian yang berterusan memerlukan disiplin yang sebenar untuk dibina dan sangat sedikit untuk dihakis; amalan meditasi mingguan, katanya, tidak setanding dengan telefon yang direka bentuk untuk bersaing untuk mendapatkan perhatian lapan jam sehari atau lebih. Kanak-kanak, yang mindanya lebih mudah dibentuk, merasainya paling cepat.

Dia menghubungkan benang merah dengan ketidaksamaan dengan garis yang berfungsi sebagai diagnosis: kapitalisme "sangat sensitif terhadap modal" — benar-benar bertanggungjawab untuk kemajuan sebenar dalam perubatan, makanan dan teknologi, dan sama-sama menumpukan kekayaan melainkan sesuatu secara aktif mengatasinya. Dia melihat kedatangan AI yang berkuasa kurang sebagai masalah baharu tetapi sebagai masalah lama pada kelajuan yang lebih tinggi — dan, mungkin, sebagai tekanan yang akhirnya memaksa struktur insentif untuk berubah.

Bahagian Empat

AI: Masalah Pengekstrakan, Kini Lebih Pantas

Kerangka Randima untuk kecerdasan buatan hampir mudah: teknologi sentiasa menjadi pemecut terhebat manusia, dan generasi AI ini merupakan versi pemecut yang paling berkuasa setakat ini — menggabungkan keuntungan merentasi perkakasan, algoritma, data dan pengiraan sekaligus, lebih pantas daripada Hukum Moore yang pernah digerakkan. Terdapat ironi yang tidak dibincangkannya: perkakasan grafik yang sama yang dihabiskannya selama tujuh tahun di bangunan Nvidia, untuk membuat gambar pada skrin, "menerangi piksel," ternyata, hampir secara tidak sengaja, menjadi enjin pecutan yang kini diperingatkannya.

Tetapi pemecut tidak mengubah arah. Ia menguatkan mana-mana arah yang telah dihalakan oleh sistem. Ditujukan kepada ekonomi yang didominasi ekstraktif, AI tidak mengalihkan pengekstrakan — ia menjadikannya "berlebihan." Kesan terdekat, hujahnya, ialah automasi kerja kognitif sebelum buruh fizikal, atas sebab yang jelas bahawa perisian lebih mudah diautomasikan daripada robotik. Logik perniagaan tidaklah jahat tetapi biasa: mesin tidak memerlukan hari sakit, percutian atau penjagaan kesihatan, jadi di mana sahaja syarikat boleh mengurangkan kos dengan memudahkan, ia akan — graviti struktur yang sama yang menyebabkan ekonomi titisan ke bawah gagal untuk benar-benar mengagihkan apa-apa.

Dia berhati-hati agar tidak menjadikan cerita ini hanya dengan satu pengakhiran. Kelebihan AI — dalam perubatan, dalam penyelesaian iklim, dalam sumber tenaga baharu — adalah nyata, katanya, dan tidak boleh diabaikan. Peringatannya adalah tentang urutan: masyarakat perlu melalui pintu pembuatan yang masuk akal dan pilihan kolektif yang bijak sebelum manfaat tersebut benar-benar dapat diterima, dan jika sistem yang mendasarinya rosak terlebih dahulu — polarisasi, ketidaksamaan, realiti bersama yang sudah retak — hasil yang baik tidak akan pernah tiba sama sekali.

Apa yang menjadikan hubungan kedua ini lebih berbahaya, menurutnya, adalah pengedaran: teknologi ini tidak berpusat seperti platform media sosial, yang bermaksud alat kawal selia yang bergelut walaupun dengan segelintir syarikat besar sedang berhadapan dengan sesuatu yang berjalan pada telefon semua orang — sesiapa sahaja kini boleh menghasilkan video palsu yang meyakinkan, atau kertas penyelidikan palsu, sesuka hati.

Bahagian Lima

Menanginya dengan Tidak Berada dalam Pertarungan

Sebagai penutup, Randima menawarkan dua gerakan berbeza — bukan berurutan, bukan sama ada/atau, tetapi cukup berbeza sehingga setiap satunya mempunyai beratnya sendiri. Satu ditujukan kepada sistem. Satu ditujukan kepada diri sendiri.

Tukar Insentif

Untuk memahami apa yang sebenarnya dioptimumkan oleh mana-mana sistem, syarikat atau individu, baca struktur insentif, bukan perkataan yang dinyatakan: insentif mendedahkan lebih banyak tentang tingkah laku daripada perkataan , atau kempen pengiklanan. Ia adalah logik asas yang sama yang dibincangkan di atas dalam Bahagian Tiga — mekanisme harga, perundangan, litigasi, pemberi maklumat yang mengubah kesedaran senyap menjadi liabiliti sebenar. Mengubah apa yang syarikat mendapat ganjaran kerana melakukan adalah lebih perlahan daripada mengubah tabiat, tetapi tuas itulah yang menyentuh sistem itu sendiri, bukan hanya hubungan seseorang dengannya.

Penolakan

Langkah peribadi bermula sebelum semua perkara ini berlaku: jelaskan dengan sebenar-benarnya, idealnya secara lantang, dengan orang dan guru yang anda percayai, tentang apa sebenarnya erti kehidupan yang bijak dan kemakmuran sebenar bagi anda — dan biarkan kejelasan itu, bukan menu algoritma Netflix atau media sosial, yang menentukan arah perhatian anda.

Thomas secara langsung mengembalikan perbualan kepada kesedaran: apakah peranan sebenarnya yang dimainkannya di sini? Jawapan Randima mempunyai dua bahagian, dan di sinilah dakwaan dari bahagian atas artikel ini mendapat penjelasan penuhnya. Bahagian pertama adalah murah hati: kesedaran membina kesedaran sebenar — tentang pemikiran, emosi, sensasi badan — yang mewujudkan ruang dalaman untuk memerhatikan pilihan sebelum ia dibuat dan bukannya selepasnya. Digandingkan dengan kejelasan awal tentang bagaimana kehidupan yang mahir, jeda itu adalah di mana pilihan yang lebih baik sebenarnya berlaku.

Bahagian kedua adalah yang lebih sukar, dan ia adalah bahagian yang sama yang beliau mulakan: latihan kesedaran lanjutan pun tidak akan banyak membantu anda jika anda berdiri di dalam sistem yang dibina oleh syarikat yang menjalankan analisis berterusan terhadap bias kognitif asas manusia — sebuah superkomputer yang menghala ke otak, seperti yang beliau katakan. Nasihat penutupnya bukanlah untuk mengatasi disiplin algoritma. Ia adalah sejenis penolakan, pemisahan yang disengajakan daripada apa sahaja yang telah dikenal pasti sebagai tidak mahir, bukannya pertempuran yang perlu dimenangi dengan berusaha lebih keras.

Tidak menang. Menolak untuk melawan langsung — dan menggunakan apa sahaja kejelasan yang diberikan oleh kesedaran untuk melihat, dengan lebih jelas, di mana tidak boleh berdiri.

Kedua-dua langkah ini tidak akan memberi kesan kepada yang lain. Perubahan insentif mengubah ganjaran yang diberikan oleh sistem; penolakan mengubah hubungan anda sendiri dengan sistem tersebut semasa ia masih seperti sedia ada. Randima telah menghabiskan masa bertahun-tahun melakukan kedua-duanya sekaligus.

↑ Kembali ke atas