Berikut transkripnya. Anda juga dapat

Ya, saya melihat ini sebenarnya bagian besar yang belum saya bahas, tetapi saya pikir kita perlu membicarakannya sedikit, yaitu bagian kecanduan. Seringkali orang terjebak pada bagian kecanduan dan mereka tidak melihat rangkaian peristiwa secara keseluruhan. Itulah yang ingin saya jelaskan. Dalam beberapa hal, Anda dapat menganggap bagian kecanduan seperti jika Anda menghubungkan otak kita ke sistem-sistem ini, kecanduan itu seperti seberapa dalam koneksi tersebut masuk ke otak Anda? Seringkali teknologi-teknologi ini telah belajar dengan sangat baik bagaimana membajak semacam rangsangan dopamin yang kita dapatkan yang dimaksudkan untuk memberi kita penghargaan karena melakukan perilaku-perilaku yang memperpanjang hidup atau perilaku reproduksi, semacam mekanisme bertahan hidup.

Namun sekarang kita telah membajak mekanisme tersebut dan malah terjebak dengan rangsangan dopamin yang sebenarnya tidak membawa kita ke mana pun. Saya pikir ini terlihat sangat jelas pada anak-anak. Banyak orang yang mendengarkan bersama anak-anak akan mengerti betapa sulitnya mengambil perangkat dari seorang anak karena mereka sekarang mendapatkan rangsangan hipernormal, hipernormal artinya di luar apa yang normal, di luar apa yang sehat, di luar apa yang telah berevolusi untuk dilakukan tubuh. Rangsangan. Hal-hal ini, seperti segala sesuatu, sangat cepat, sangat… Bahkan layar, hanya untuk anak-anak yang masih sangat kecil, kecerahan layarnya sudah hipernormal.

Jika Anda mengambil anak berusia dua tahun atau satu tahun, jika Anda menyalakan TV atau telepon, kecerahan layar itu lebih terang daripada apa pun di sekitarnya, sehingga mata mereka akan langsung tertuju ke sana di lingkungan dalam ruangan. Jadi, Anda memiliki situasi di mana ada semua rangsangan hipernormal ini. Belum lagi, sekarang setiap kartun, setiap video YouTube, setiap permainan, setiap aplikasi, semuanya bersaing untuk mendapatkan rangsangan ini. Kita mengalami disregulasi. Begitu reseptor kita terlatih untuk tingkat dopamin tersebut, kita tidak akan berfungsi dengan baik ketika kita mendapatkan tingkat dopamin normal. Jadi, Anda menemukan situasi mengerikan di mana anak-anak, jika Anda mengambil telepon mereka, mereka akan mengamuk. Terkadang bahkan ada hasil yang jauh lebih buruk yang terjadi karena otak mereka mengalami perubahan struktur. Saya pikir itu adalah bagian yang penting.

Aspek lainnya adalah gagasan untuk memberikan apa yang diinginkan orang. Perusahaan sering melakukan ini dan berkata, “Hei, karena orang mengkliknya, itulah yang mereka inginkan,” padahal sebenarnya itu adalah sesuatu yang mau tidak mau mereka lakukan. Mereka tidak bisa menahan diri karena jika Anda terus mengikuti berita, jika Anda melihat gambar sensasional yang menarik minat Anda, Anda akan mengkliknya. Tetapi itu tidak berarti itulah yang ingin Anda lakukan. Jika ada sesuatu yang besar dan berkedip muncul, mata Anda akan tertuju ke sana. Itu tidak berarti Anda ingin melihatnya. Salah satu analogi yang kami buat adalah jika Anda mengemudi di jalan raya dan Anda melihat kecelakaan mobil, dan AI mengamati Anda dan mereka berkata, “Oh, wow, lihat, manusia tampaknya menyukai kecelakaan mobil. Mereka selalu melihat kecelakaan mobil. Mari kita ciptakan dunia dengan kecelakaan mobil di mana-mana.”

Jelas, bukan itu yang kita inginkan. Kita melihat kecelakaan mobil karena kita tahu itu berkaitan dengan kelangsungan hidup kita. Jadi kita cenderung sangat waspada, dan kita memperhatikan hal itu, tetapi bukan berarti itu dunia yang kita inginkan. Analoginya adalah bahwa media sosial kita sering kali penuh dengan metafora kecelakaan mobil, dan pada akhirnya membuat kita semua mengklik hal-hal yang tidak kita inginkan, dan itu mencuri perhatian dan waktu kita dengan cara yang tidak sesuai dengan niat awal kita. Pertanyaannya adalah, dunia yang jauh lebih bijaksana adalah dunia di mana alat yang kita miliki atau tempat-tempat di mana kita menghabiskan waktu menanyakan apa niat kita, alih-alih menyimpulkannya berdasarkan apa yang kita klik.

Karena hal-hal tersebut seringkali hampir selalu tidak selaras. Masalahnya adalah, jika mereka melakukan itu dan benar-benar mencoba membimbing kita ke apa yang kita inginkan, waktu kita di situs akan jauh lebih singkat. Itu tidak menghasilkan uang dengan baik. Itulah kenyataannya, bahwa apa pun yang orang katakan, Anda harus melihat model bisnis di balik produk apa pun yang Anda gunakan. Model bisnis mengungkapkan struktur insentif yang sebenarnya. Inilah mengapa perusahaan media sosial tidak bisa begitu membantu Anda karena mereka benar-benar membutuhkan Anda untuk berada di situs, bukan, misalnya, mempelajari hal yang Anda butuhkan lalu pergi dan menjalani hidup Anda di tempat lain seperti di luar layar.

Ada konflik kepentingan di sana, dan itulah mengapa mereka benar-benar kesulitan untuk benar-benar bermanfaat bagi tindakan besar yang berarti.

Anda mengatakan sesuatu yang sangat penting. Anda mengatakan bahwa hanya karena orang-orang mengklik dan sesuatu mendapatkan banyak klik, itu belum tentu yang kita inginkan, tetapi justru itulah yang menarik perhatian kita, mungkin karena kebutuhan dasar yang jauh lebih fundamental untuk bertahan hidup dan apa pun yang dipicu oleh berita sensasional, gambar sensasional. Tahun lalu, kami memiliki sesi tentang jurnalisme yang berwawasan trauma, dan kami menyampaikan bahwa berita sensasional dan unggahan media sosial sebenarnya merugikan kesehatan masyarakat. Kita sedang menuju… maksud saya, ada banyak data yang dapat kita kumpulkan tentang hal itu yang sebenarnya tidak sehat. Itu menciptakan lebih banyak polarisasi, seperti yang Anda katakan, banyak hal, lebih banyak stres dalam masyarakat dan segala macam hal.

Namun ada argumen ini. Ada sistem ekonomi di baliknya. Pertanyaan saya selanjutnya adalah, bagaimana kita bisa berubah dari posisi kita sekarang? Tetapi kita tidak bisa hanya memiliki ide bagus karena jelas kita berada di posisi kita sekarang karena suatu alasan. Ada alasan mengapa kita di sini. Bagaimana kita benar-benar dapat bertransformasi menjadi dunia yang mempertimbangkan model ekonomi yang mendorong banyak motivasi bisnis? Dan kemudian ada bagian dari diri saya yang mungkin lebih tidak terkendali yang tidak dapat sepenuhnya berinteraksi dengan teknologi dengan cara yang baik bagi saya. Mungkin Anda dapat sedikit menjelaskan kepada kami cara-cara untuk memasuki dunia yang berbeda yang tidak melarang teknologi yang kita katakan, “Oh, [tidak terdengar].” Bagaimana kita melakukannya? Apakah kita sampai pada versi yang lebih sehat dari—

Ini jelas sangat, sangat sulit. Ada beberapa jawaban dalam sistem saat ini, dan kemudian ada pertanyaan tentang sistem saat ini. Apakah itu bahkan bisa diterapkan? Apakah itu sesuatu yang akan terus berfungsi? Mari kita mulai dengan bagian yang mudah, yaitu dalam sistem saat ini, karena sistem tersebut berpusat pada harga, semuanya dibangun di sekitar penawaran dan permintaan dan harga di tengahnya, dan begitulah cara kerja ekonomi. Itulah yang kita lacak, yaitu dolar, pendapatan dalam mata uang apa pun.

Jadi, dalam interaksi, pada dasarnya intervensi, yang memengaruhi harga adalah yang akan berhasil. Ada cara untuk melakukan itu. Misalnya, film The Social Dilemma, ketika dirilis, menghasilkan banyak tekanan di mana orang-orang memahami, hei, ini agak berbahaya. Jadi, itu menciptakan tekanan negatif untuk menggunakan produk-produk ini, tetapi tetap saja, itu saja tidak terlalu memengaruhi harga karena tidak banyak orang yang meninggalkan platform tersebut. Yang dilakukannya adalah menciptakan kesadaran sehingga para pembuat undang-undang dapat membuat undang-undang baru, sanksi baru untuk melakukan hal yang salah.

Jika Anda menyakiti anak-anak, ada hukuman untuk itu, dan kemudian bisa ada litigasi dan tuntutan hukum. Nah, sekarang Anda bisa melihat hubungannya dengan tanda dolar. Pada akhirnya, baik lembaga pemerintah atau litigasi, seperti firma hukum, akan menuntut Anda, dan kemudian biaya kerugian yang telah Anda lakukan akan kembali menjadi tanggung jawab Anda. Salah satu hal menarik yang terjadi dengan teknologi adalah perkembangannya jauh lebih cepat daripada kemampuan institusi kita untuk mengimbanginya. Seringkali, maksud saya sepanjang waktu, teknologi yang muncul memiliki dampak yang belum kita pahami… Pertama-tama, seringkali kita tidak sepenuhnya memahaminya. Ini juga terjadi dengan kecerdasan buatan. Kita tidak sepenuhnya memahami bagaimana semua itu akan terjadi, apa kerugiannya, bagaimana ukuran kerugian tersebut, dan sebagainya.

Ketika kita dapat mengukur dan kemudian memasukkannya kembali ke neraca perusahaan dan membuat mereka membayarnya, maka hal itu mulai memengaruhi harga. Sekali lagi, Anda kembali ke tanda dolar. Hal-hal serupa yang dapat Anda lakukan, Anda dapat memiliki cara untuk menginspirasi bagaimana membangun teknologi yang lebih manusiawi. Itu adalah salah satu cara untuk mensubsidi biaya R&D untuk melakukan hal yang benar, sehingga Anda dapat menginspirasi orang, mengajari orang bagaimana melakukan hal yang benar. Ada orang dalam yang dapat menghasilkan tekanan. Ketika orang membocorkan informasi, ketika sesuatu yang sangat buruk terjadi dan seorang pelapor berbicara, itu adalah cara lain untuk mengembalikan semua biaya tersebut ke perusahaan karena dokumen yang bocor menunjukkan bahwa perusahaan tahu ada kerugian yang sekarang perlu dipertanggungjawabkan.

Ini semua hanyalah contoh. Pada dasarnya, ada serangkaian langkah yang dapat Anda lakukan di sana, dan itu semua berada dalam sistem saat ini. Mengubah sistem adalah hal yang sangat sulit. Saya pikir pada dasarnya gagasan bahwa kita dapat terus berkembang selamanya, bahwa kita dapat terus mengekstraksi dan semuanya akan baik-baik saja, itu tidak benar. Anda dapat melihat sekeliling dan itu tidak masuk akal. Apa pun yang Anda ekstrak harus beregenerasi dengan kecepatan yang sebanding dengan kecepatan ekstraksi. Jika Anda mengekstraksi dengan sangat, sangat, sangat cepat… Misalnya, jika Anda mengambil minyak dari bumi yang membutuhkan jutaan tahun untuk terbentuk dan Anda menghabiskan semuanya hanya dalam beberapa ratus tahun atau bahkan kurang dari beberapa ratus tahun, itu adalah masalah besar. Itu tidak berkelanjutan.

Hal yang sama juga berlaku untuk… Jadi ada sumber daya fisik dan juga pikiran kita. Lihatlah pikiran kita sendiri, dan jika kita mulai membagi perhatian kita lebih cepat daripada kemampuan regenerasinya, lebih cepat daripada kemampuan penyembuhan, tidur, atau pemahaman kita terhadap dunia, kita mulai merusak semua kemampuan ini dan kemampuan tersebut tidak dapat beregenerasi dengan cepat, sehingga membentuk pola pikir yang terkondisi. Ini adalah topik menarik yang berkaitan dengan kesadaran dan pengembangan diri. Saya rasa kita semua tahu bahwa dibutuhkan banyak usaha dan disiplin untuk melakukan hal yang benar, untuk melakukan latihan mental, latihan fisik, berolahraga, dan semua hal tersebut.

Tidak mudah untuk makan sehat atau apa pun yang kita anggap penting, tetapi sangat mudah untuk melupakan kebiasaan tersebut dan melakukan kesalahan, terutama sekarang. Sekali lagi, pikirkan tentang anak-anak dan pertumbuhan mereka karena mereka jauh lebih mudah dibentuk. Setelah mereka mempelajari kebiasaan yang salah, mengajarkan kebiasaan yang benar sangat sulit. Setelah kita mengembangkan… Kita mungkin bekerja sangat keras untuk mengembangkan perhatian yang lebih dalam dan lebih lama, seperti perhatian berkelanjutan, lebih banyak kesadaran, tetapi jika Anda memikirkannya, dan telepon ada di sekitar kita selama delapan jam sehari atau lebih melakukan proses pelatihannya, maka mungkin Anda akan duduk dan bermeditasi selama 15 menit, atau 30 menit, atau mungkin 45 menit, yang banyak dilakukan oleh para meditator yang mendalam, tetapi bahkan mereka akan mengalami kesulitan jika mereka menggunakan telepon sepanjang waktu.

Itu seperti membatalkan proses pelatihan. Kemudian dengan anak-anak, maksud saya itu terjadi jauh lebih cepat. Saya pikir ini adalah hal-hal yang harus kita sadari ketika kita berpikir tentang, oke, bagaimana kita dapat mentransisikan sistem ekonomi kita ke sesuatu yang lebih sehat? Ini juga belum termasuk ketidaksetaraan. Sistem ekonomi yang kita miliki saat ini, salah satu cara saya mengatakannya adalah bahwa kapitalisme sangat sensitif terhadap modal. Sistem ini telah memberi kita banyak manfaat selama bertahun-tahun, banyak kemajuan. Persaingan dan ekstraksi semacam ini telah membawa banyak kemajuan dalam bidang kedokteran dan makanan, pakaian, tempat tinggal, seperti semua hal ini, teknologi, kita memiliki semua teknologi yang luar biasa ini untuk mempelajari berbagai hal, informasi, dan sekarang kecerdasan buatan adalah contohnya.

Namun sekali lagi, semua ini tentu ada harganya, dan jika kita membiarkan hal-hal ini berjalan dengan cara yang tidak berkelanjutan, saya pikir itu adalah masalah besar. Di situlah kita berada. Jika kita memikirkan bagaimana kita ingin mengubah sistem, saya pikir situasi AI adalah salah satunya, mungkin merupakan motivasi yang baik untuk menyelesaikan dan mengatasi sebagian dari masalah itu karena saya rasa hal itu tidak akan berkelanjutan seiring kita mengotomatisasi jutaan pekerjaan. Ketidaksetaraan akan semakin melebar. Kapitalisme, seperti yang saya katakan, cenderung mendistribusikan modal secara tidak merata. Hal itu terus terjadi berulang kali.

Terjadi konsentrasi kekayaan, dan sekarang kita akan mengalami percepatan yang lebih mendalam dari keseluruhan proses tersebut. Saya rasa hal itu tidak akan menguntungkan banyak orang. Kita harus sangat memperhatikan hal itu. Kabar terbaik yang bisa saya sampaikan adalah mungkin ini adalah kesempatan untuk melakukan beberapa perubahan.

Bagaimana menurut Anda, seperti yang sudah Anda sebutkan, ada film The Social Dilemma, film yang membahas tentang media sosial dan ekonomi ketegangan, dan sekarang kita berada di keadaan yang berbeda. Seperti yang Anda katakan, perkembangannya sangat cepat. Sekarang ada AI, dan saya tidak tahu berapa banyak orang yang benar-benar tahu bagaimana cara kerjanya, tetapi seperti bagaimana semua proses sebenarnya berjalan dan ke mana arahnya. Itulah mengapa kita berada di momen yang tidak dapat diprediksi, dan mungkin Anda dapat sedikit berbicara tentang momen ini. Apa sisi positifnya, sisi negatifnya? Apa yang perlu kita perhatikan?

Ya, tentu. Saya rasa hal terbaik yang perlu diingat oleh siapa pun yang mendengarkan adalah teknologi selalu menjadi akselerator yang hebat. Teknologi adalah akselerator terbesar umat manusia. Anda bisa memberikan argumen yang kuat untuk itu. AI bisa dibilang puncak dari akselerasi. AI mempercepat berbagai hal dengan sangat cepat. Generasi terbaru kecerdasan buatan ini sangat mumpuni. AI generatif dapat menghasilkan teks, gambar, audio, video, semuanya dengan kualitas sangat tinggi, dan perkembangannya sangat cepat, jauh lebih cepat daripada hukum Moore, lebih cepat daripada teknologi chip, daripada teknologi semikonduktor karena perkembangannya bersifat majemuk. Jadi, AI ini didorong oleh teknologi semikonduktor, tetapi juga teknologi algoritmik. Cara kita menjalankan sesuatu, cara kita mengumpulkan data, cara kita menghubungkan komputer bersama dalam klaster, semua itu mendukungnya. AI ini berkembang sangat cepat.

Jadi, AI akhirnya menjadi akselerator terbesar dan akan mempercepat semua yang kita miliki, cara kita melakukan sesuatu sekarang. Jika Anda memikirkan perusahaan mana pun di luar sana, mereka telah berpikir dengan sangat hati-hati, mereka seperti kembali dan berkata, “Oke, mari kita buat strategi kita. Mari kita lihat kekuatan dan kelemahan kita,” dan mereka telah melakukan investasi mereka. Mereka telah membangun pabrik, proses, dan sumber daya manusia mereka, dan mereka telah menemukan cara mereka melakukan sesuatu. Yang dilihat semua orang sekarang adalah, oke, cara kita melakukan sesuatu sudah baik, tetapi bagaimana kita membuatnya lebih baik? Bagaimana AI dapat mempercepat proses itu? Semua orang mengajukan pertanyaan ini.

Jika kita sudah memiliki sistem yang didominasi oleh ekstraksi, kita akan meningkatkan ekstraksi tersebut secara drastis. Ekstraksi akan diperkuat berkali-kali lipat, mengurangi gesekan di mana pun kita bisa. Itu satu aspek. Ada aspek lain… Saya rasa saya harus mengatakan, itu adalah aspek yang dominan. Saya pikir itu akan mendorong masa depan kita. Sebagian dari itu adalah proses otomatisasi. Ini semacam akal sehat. Jika Anda seorang pemilik bisnis, semua orang selalu mencari teknologi baru untuk membuat bisnis berjalan lebih baik, melakukan hal-hal lebih cepat dan lebih efisien, sehingga sebagian pekerjaan akan mulai diotomatisasi, terutama pekerjaan yang lebih kognitif, seperti gelar sarjana dan magister khususnya. Jenis pekerjaan seperti itu. Jenis pemikiran seperti itu.

AI cukup bagus dalam hal-hal tersebut. Pekerjaan fisik lebih sulit. Itu akan datang sedikit kemudian, tetapi robot juga sedang dilatih. Ini benar. Tetapi pertama-tama, akan ada pekerjaan kognitif ini. Ketika sebagian besar pekerjaan kognitif telah diotomatisasi dan hanya sedikit yang tersisa untuk dilakukan manusia, maka pemilik bisnis akan mulai berpikir, “Hei, tunggu sebentar. Saya tidak membutuhkan empat manusia. Saya hanya membutuhkan satu manusia di sini,” karena selalu ada biaya tambahan untuk koordinasi dan manusia, kita berantakan. Kita sakit. Kita punya prioritas. Kita butuh liburan. Kita butuh perawatan kesehatan. Dan mesin tidak membutuhkan semua itu.

Jadi, Anda akan menemukan hal semacam ini… Ini akan menjadi bisnis yang baik dan orang-orang akan membuat pilihan bisnis. Ini adalah alasan yang sama mengapa ekonomi trickle-down tidak berhasil, karena psikologi manusia tidak bekerja seperti itu. Kapan pun ada kesempatan untuk menyederhanakan, mengotomatiskan, dan mengurangi biaya, pemilik bisnis akan melakukannya karena itulah yang mereka dapatkan imbalannya. Ini adalah tren yang dapat kita harapkan. Itulah tren yang dominan. Kita juga harus bersikap adil dan mengatakan bahwa pada saat yang sama, tidak diragukan lagi bahwa kecerdasan buatan sangat mungkin untuk memajukan penelitian medis, untuk memajukan iklim. Mengurangi karbon adalah salah satu hal yang mungkin terjadi.

Sumber energi baru, seperti teknologi baterai atau sumber energi yang lebih berkelanjutan dan berdaya hasil tinggi, obat-obatan, semua hal ini adalah hal-hal hebat yang dapat terjadi. Tidak ada keraguan tentang itu, tetapi kami selalu menekankan bahwa ada urutan dalam hal-hal ini. Anda tidak dapat mencapai semua hal baik jika masyarakat runtuh sebelum itu. Ini seperti sebuah pintu yang harus Anda lewati, dan pintu itu melibatkan pemahaman yang baik, mampu memahami dunia, pengambilan keputusan yang baik, mampu membuat pilihan bijak dan tidak kehilangan jati diri dalam prosesnya. Semua pertanyaan tentang pekerjaan dan orang-orang perlu memiliki semacam keamanan. Kita perlu memiliki sistem yang benar-benar selaras sedemikian rupa sehingga tidak menciptakan ketidaksetaraan yang lebih besar daripada yang kita miliki sekarang. Idealnya, kita harus menguranginya. Dan kemudian kita dapat mencapai masa depan yang cerah itu.

Semua itu harus dilakukan dengan urutan yang benar. Dan tentu saja, sama seperti perusahaan media sosial sebelumnya, setiap perusahaan sekarang terjebak dalam perlombaan untuk mencari tahu bagaimana mereka dapat menerapkan kecerdasan buatan dan memaksimalkan pendapatan secepat mungkin menggunakan teknologi terbaru tanpa berhenti untuk menilai dampak negatifnya, mengurangi dampaknya, dan melakukan investasi yang diperlukan untuk mencegah terjadinya dampak negatif yang tidak terduga. Kita sering mengatakan bahwa media sosial adalah kontak pertama kita dengan kecerdasan buatan, dan AI generasi ini adalah kontak kedua. Sama seperti pertama kali, kita tidak dapat melihat semua efek hilir ini.

Kita melihat fenomena perhatian ini, tetapi kita tidak melihat dampak lanjutannya dengan jelas. Sama saja.