Superkomputer yang Diarahkan ke Otak Anda: Kesadaran, Mesin & Metrik

Setiap platform yang Anda gunakan mengarah pada argumen yang sama: Anda mengklik, jadi Anda pasti menginginkannya. Randima Fernando berpikir itu adalah kebohongan terbesar yang disampaikan ekonomi perhatian tentang dirinya sendiri — refleks yang sama yang mengarahkan pandangan pengemudi ke kecelakaan mobil di jalan raya, yang disalahartikan sebagai keinginan. Buatlah feed yang terus-menerus menampilkan kecelakaan mobil sepanjang hari dan Anda akan mendapatkan klik. Anda tidak akan mendapatkan apa pun yang sebenarnya diinginkan siapa pun.

Randima Fernando dibesarkan oleh orang tua beragama Buddha, menghabiskan tujuh tahun membangun organisasi nirlaba yang menerapkan praktik mindfulness di sekolah-sekolah, dan delapan tahun lagi memberikan nasihat kepada Silicon Valley tentang desain yang manusiawi. Jadi, aneh rasanya mendengar dia mengatakan kepada Thomas Hübl, dengan tegas, bahwa meditasi saja tidak akan menyelamatkan Anda. Bukan karena mindfulness tidak berhasil — tetapi karena yang ada di balik layar Anda, menurutnya, adalah superkomputer yang diarahkan ke otak Anda, dan tidak ada disiplin yang dapat mengalahkan lawan yang memiliki lebih banyak data tentang Anda daripada yang Anda miliki tentang diri Anda sendiri. Namun, bukan di situ saja: jawaban sebenarnya berjalan pada dua jalur sekaligus, satu ditujukan pada apa yang dapat dilakukan seseorang dalam kehidupan mereka sendiri, dan satu lagi ditujukan pada apa yang harus diubah dalam sistem itu sendiri.

Dalam Ringkasan Ini

Bagian Satu

Memonetisasi Unit Kehidupan Fundamental

“Perhatian,” kata Randima, “adalah unit fundamental tempat pikiran beroperasi”—dan seluruh industri ada karena unit tersebut ternyata dapat dibagi dan dijual. Produk gratis ada untuk memanen bagian-bagian tersebut, kemudian menjualnya kembali kepada pengiklan, yang berarti sebuah platform tidak dioptimalkan untuk apa yang sebenarnya ingin Anda lakukan. Platform tersebut dioptimalkan untuk berapa lama ia dapat menahan Anda sebelum menyerahkan Anda kepada orang lain.

Ketidaksesuaian tunggal itu berdampak luas. Ketika TikTok menemukan cara yang lebih cepat untuk merebut perhatian dengan video pendek, setiap pesaing, menurutnya, "dikembalikan ke ruang rapat dan sesi strategi" untuk menirunya atau kehilangan pangsa pasar — ​​sebuah perlombaan yang memberi penghargaan kepada apa pun yang paling cepat menarik perhatian, tanpa mekanisme untuk menanyakan apa kerugiannya bagi orang di ujung lainnya. Jurnalisme cenderung ke arah spektrum "click-bait, hiperbolis, dan memecah belah" karena itulah yang bertahan dari algoritma. Kampanye politik menjalankan uji A/B dan belajar, secara empiris, bahwa judul berita yang paling memicu kemarahanlah yang menang — jadi mereka menjalankan lebih banyak judul berita seperti itu. Tombol "suka" secara diam-diam mengajarkan platform apa yang harus lebih banyak ditampilkan kepada Anda, dan umpan berita menyempit, dari tahun ke tahun, menjadi versi yang semakin ekstrem dari apa pun yang sudah beresonansi. Eksperimen yang disarankannya hampir sangat sederhana: tukar umpan berita dengan teman yang memiliki pandangan politik berbeda dari Anda. Anda akan melihat, katanya, "konten yang sangat berbeda dan realitas yang sangat berbeda." Anak-anak memahami "fisika sosial" yang mendasari "like" dan "share" seperti halnya mereka mempelajari gravitasi — sejak dini, dan melalui perasaan, bukan instruksi. Randima menarik logika ekstraksi yang sama hingga ke ujung planet: pertumbuhan yang dibangun di atas "miliaran AC, miliaran mobil, miliaran ternak" berperilaku sama seperti ekstraksi perhatian — keduanya pada akhirnya melampaui apa yang dapat diserap oleh sistem yang mendasarinya, yaitu pikiran atau atmosfer.

Bagian Kedua

Refleks, Bukan Keinginan

Thomas menghadirkan kerangka berpikirnya sendiri pada pola tersebut: sistem saraf yang teratur, menurutnya, menghasilkan hubungan yang lebih bernuansa dengan teknologi — lebih banyak kemampuan untuk memperhatikan apa yang tidak beres, lebih banyak pilihan nyata. Sistem saraf yang tidak teratur, trauma yang membuat seseorang mengalami hiperaktivasi, mati rasa, atau fragmentasi, mempersempit bidang yang sama bahkan sebelum seseorang sempat memilih. Dia bertanya langsung kepada Randima: apakah ekonomi perhatian belajar untuk mengeksploitasi disregulasi internal itu dengan sengaja?

Jawaban Randima membahas kecanduan sebagai masalah kedalaman — seberapa jauh, menurutnya, "perangkat" itu masuk ke dalam otak. Teknologi-teknologi ini telah belajar untuk memicu respons dopamin yang berevolusi untuk memberi penghargaan pada kelangsungan hidup dan reproduksi, dan mengarahkannya pada hal yang tidak berarti: sebuah notifikasi, gulir layar, kilatan cahaya. Kasus yang paling jelas, baginya, adalah anak-anak — bukan karena ada yang salah dengan mereka, tetapi karena sistem dopamin mereka masih menyesuaikan diri dengan dunia. Letakkan layar di depan anak berusia dua tahun dan mata mereka akan secara tidak sadar mengikuti layar tersebut, karena kecerahannya telah direkayasa untuk melebihi segala sesuatu yang lain di ruangan itu — apa yang ia sebut sebagai "stimulus hipernormal," di luar apa pun yang diharapkan tubuh melalui evolusi. Begitu reseptor dopamin anak telah menyesuaikan diri dengan tingkat input tersebut, kehidupan biasa terasa hambar, dan mengambil perangkat tersebut dapat memicu tekanan yang nyata dan tidak proporsional.

Ia berhati-hati dalam membedakan hal yang sering diabaikan dalam sebagian besar percakapan tentang teknologi: apa yang diklik orang tidak sama dengan apa yang mereka inginkan. "Orang-orang mengkliknya, jadi itulah yang mereka inginkan," kata perusahaan—tetapi, menurut Randima, hal itu mencampuradukkan refleks dengan niat.

Semua orang melihat kecelakaan mobil di jalan raya, katanya, karena memperhatikan bahaya adalah mekanisme bertahan hidup, bukan karena ada yang benar-benar menginginkan dunia yang penuh dengan kecelakaan mobil. Kesimpulannya bersifat struktural, bukan moralistik: bisnis yang bertahan hidup dengan mengandalkan perhatian Anda memiliki konflik kepentingan bawaan dengan benar-benar melayani Anda , karena produk yang benar-benar bermanfaat akan memberi Anda apa yang Anda butuhkan dan membiarkan Anda pergi — kebalikan dari apa yang membuat metrik tetap tinggi.

Bagian Ketiga

Batasan Ekstraksi dan Pergeseran Sistem

Ketika ditanya bagaimana sistem tersebut benar-benar berubah, Randima membagi pertanyaan tersebut dengan jelas menjadi dua: apa yang mungkin terjadi dalam perekonomian saat ini, dan apakah perekonomian tersebut berkelanjutan sama sekali. Di dalamnya, katanya, semuanya pada akhirnya berputar pada harga — jadi intervensi yang berhasil adalah intervensi yang pada akhirnya menyentuh laba perusahaan . Sebuah film dokumenter seperti The Social Dilemma membangun kesadaran publik; kesadaran menjadi tekanan politik untuk undang-undang baru; undang-undang memungkinkan litigasi; litigasi akhirnya menetapkan angka dolar untuk kerugian yang sebelumnya bebas untuk ditimbulkan. Pelapor pelanggaran penting karena alasan yang sama — dokumen internal yang bocor adalah bukti bahwa perusahaan tahu, yang mengubah kesadaran menjadi tanggung jawab hukum. Hambatannya, selalu, adalah kecepatan: teknologi bergerak lebih cepat daripada mekanisme koreksi apa pun yang dapat melacaknya.

Jika kita melihat dari perspektif yang lebih luas, Randima menerapkan hukum yang sama pada pikiran seperti yang ia terapkan pada minyak.

Mengambil minyak dari dalam tanah lebih cepat daripada jutaan tahun yang dapat menggantikannya, dan itu adalah masalah. Mengurangi perhatian, fokus, dan kemampuan memahami lebih cepat daripada waktu istirahat dan refleksi yang dapat membangunnya kembali, dan—dengan logika yang sama—itu juga masalah. Kapasitas yang diperoleh dengan susah payah seperti perhatian yang berkelanjutan membutuhkan disiplin nyata untuk dibangun dan sangat sedikit untuk terkikis; praktik meditasi mingguan, katanya, tidak sebanding dengan telepon yang dirancang untuk bersaing memperebutkan perhatian delapan jam sehari atau lebih. Anak-anak, yang pikirannya lebih mudah dibentuk, merasakannya paling cepat.

Ia menghubungkan benang merah tersebut dengan ketidaksetaraan melalui sebuah kalimat yang sekaligus berfungsi sebagai diagnosis: kapitalisme "sangat sensitif terhadap modal" — benar-benar bertanggung jawab atas kemajuan nyata dalam bidang kedokteran, pangan, dan teknologi, dan sama andalnya dalam memusatkan kekayaan kecuali ada sesuatu yang secara aktif melawannya. Ia melihat kedatangan AI yang canggih bukan sebagai masalah baru, melainkan sebagai masalah lama dengan kecepatan lebih tinggi — dan, mungkin, sebagai tekanan yang akhirnya memaksa struktur insentif untuk berubah.

Bagian Empat

AI: Masalah Ekstraksi, Kini Lebih Cepat

Kerangka berpikir Randima tentang kecerdasan buatan hampir tampak sederhana: teknologi selalu menjadi akselerator terbesar umat manusia, dan generasi AI ini adalah versi akselerator yang paling ampuh hingga saat ini — menggabungkan peningkatan di seluruh perangkat keras, algoritma, data, dan komputasi sekaligus, lebih cepat daripada hukum Moore. Ada ironi yang tidak ia bahas: perangkat keras grafis yang sama yang ia bangun selama tujuh tahun di Nvidia, untuk membuat gambar di layar, "menerangi piksel," ternyata, hampir secara tidak sengaja, menjadi mesin dari akselerasi yang sekarang ia peringatkan.

Namun, akselerator tidak mengubah arah. Ia memperkuat arah mana pun yang sudah dituju oleh suatu sistem. Jika diarahkan ke ekonomi yang didominasi oleh kegiatan ekstraktif, AI tidak mengalihkan ekstraksi—melainkan mempercepatnya. Dampak terdekat, menurutnya, adalah otomatisasi pekerjaan kognitif sebelum pekerjaan fisik, karena alasan sederhana bahwa perangkat lunak lebih mudah diotomatisasi daripada robotika. Logika bisnisnya tidak begitu jahat, melainkan biasa saja: mesin tidak membutuhkan cuti sakit, liburan, atau perawatan kesehatan, jadi di mana pun perusahaan dapat memangkas biaya dengan menyederhanakan, mereka akan melakukannya—gravitasi struktural yang sama yang membuat ekonomi trickle-down gagal untuk benar-benar mendistribusikan apa pun.

Ia berhati-hati agar ini bukan cerita dengan hanya satu akhir. Manfaat AI—dalam bidang kedokteran, solusi iklim, dan sumber energi baru—adalah nyata, katanya, dan tidak boleh diabaikan. Peringatannya adalah tentang urutan: masyarakat harus melewati pintu gerbang pengambilan keputusan yang masuk akal dan pilihan kolektif yang bijaksana sebelum manfaat tersebut benar-benar terwujud, dan jika sistem yang mendasarinya runtuh terlebih dahulu—polarisasi, ketidaksetaraan, realitas bersama yang sudah terpecah—hasil yang baik tidak akan pernah terwujud sama sekali.

Menurutnya, yang membuat kontak kedua ini lebih berbahaya adalah distribusinya: teknologi ini tidak terpusat seperti platform media sosial, yang berarti perangkat regulasi yang bahkan kesulitan menangani segelintir perusahaan besar kini berhadapan dengan sesuatu yang berjalan di ponsel setiap orang — siapa pun sekarang dapat membuat video palsu yang meyakinkan, atau makalah penelitian palsu, sesuka hati.

Bagian Kelima

Raih kemenangan dengan tidak terlibat dalam pertarungan.

Sebagai penutup, Randima menawarkan dua langkah berbeda — tidak berurutan, bukan pilihan antara satu atau yang lain, tetapi cukup berbeda sehingga masing-masing layak mendapat bobot tersendiri. Yang satu ditujukan pada sistem. Yang lainnya ditujukan pada diri sendiri.

Mengubah Insentif

Untuk memahami apa yang sebenarnya dioptimalkan oleh suatu sistem, perusahaan, atau individu, bacalah struktur insentifnya, bukan kata-kata yang diucapkan: insentif mengungkapkan lebih banyak tentang perilaku daripada kata-kata , atau kampanye iklan. Ini adalah logika dasar yang sama yang dibahas di atas pada Bagian Tiga — mekanisme harga, legislasi, litigasi, pelapor yang mengubah kesadaran diam-diam menjadi tanggung jawab nyata. Mengubah apa yang menjadi imbalan bagi perusahaan lebih lambat daripada mengubah kebiasaan, tetapi itu adalah pengungkit yang menyentuh sistem itu sendiri, bukan hanya hubungan satu orang dengan sistem tersebut.

Penolakan

Langkah personal dimulai sebelum semua hal lainnya: pahami dengan jelas, idealnya secara lisan, dengan orang-orang dan guru yang Anda percayai, apa arti kehidupan yang bijaksana dan kesuksesan sejati bagi Anda — dan biarkan kejelasan itu, bukan menu algoritmik Netflix atau media sosial, yang menentukan arah perhatian Anda.

Thomas mengalihkan kembali percakapan langsung ke kesadaran penuh (mindfulness): apa sebenarnya perannya di sini? Jawaban Randima memiliki dua bagian, dan di sinilah klaim dari awal tulisan ini mendapatkan penjelasan lengkapnya. Bagian pertama cukup luas: kesadaran penuh membangun kesadaran nyata — tentang pikiran, emosi, sensasi tubuh — yang menciptakan ruang internal untuk memperhatikan pilihan sebelum dibuat, bukan setelahnya. Dipadukan dengan kejelasan sebelumnya tentang seperti apa kehidupan yang terampil, jeda itulah tempat pilihan yang lebih baik benar-benar terjadi.

Bagian kedua adalah bagian yang lebih sulit, dan itu sama dengan yang ia sampaikan di awal: bahkan pelatihan kesadaran tingkat lanjut pun tidak akan banyak membantu jika Anda berada di dalam sistem yang dibangun oleh perusahaan yang terus-menerus melakukan analisis terhadap bias kognitif manusia yang mendasar — ​​sebuah superkomputer yang diarahkan ke otak, seperti yang ia katakan. Saran penutupnya bukanlah untuk mengalahkan algoritma dengan disiplin. Ini adalah semacam penolakan, pemisahan yang disengaja dari apa pun yang telah diidentifikasi sebagai tidak terampil, daripada pertempuran yang harus dimenangkan dengan berusaha lebih keras.

Tidak menang. Menolak untuk bertarung sama sekali — dan menggunakan kejernihan pikiran yang diberikan untuk melihat, dengan lebih jelas, di mana sebaiknya tidak berdiri.

Tidak ada langkah yang dapat menggantikan langkah lainnya. Pergeseran insentif mengubah apa yang dihargai oleh sistem; pelepasan mengubah hubungan Anda sendiri dengan sistem tersebut selagi sistem itu masih tetap seperti adanya. Randima telah menghabiskan bertahun-tahun melakukan keduanya sekaligus.

↑ Kembali ke atas