Нижче наведено стенограму. Ви також мо

Так, я бачив, що це насправді велика частина, в яку я не вдавався, але, гадаю, нам варто трохи поговорити про залежність. Часто люди застрягають на частині залежності і не бачать повного ланцюга подій. Саме це я хотів би розглянути. У певному сенсі можна уявити частину залежності так, ніби ви підключаєте наш мозок до цих систем, залежність — це те, наскільки глибоко розташований роз'єм у вашому мозку? Часто ці технології дуже добре навчилися викрадати дофамінові імпульси, які ми отримуємо, призначені для винагороди за певну поведінку, що продовжує життя, або репродуктивну поведінку, щось на кшталт механізмів виживання.

Але тепер ми захопили ці механізми і натомість просто застрягли на викидах дофаміну, які насправді нікуди нас не ведуть. Я думаю, що це дуже, дуже зворушливо проявляється у дітей. Багато людей, які слухають разом з дітьми, розуміють, як важко забрати пристрій у дитини, тому що вони отримують цей гіпернормальний стимул, гіпернормальний, що виходить за межі того, що є нормальним, за межі того, що є здоровим, за межі того, що організм еволюціонував робити. Стимул. Ці речі, як-от все дуже швидкоплинне, дуже... Навіть екрани, тільки для дуже маленьких дітей, яскравість екрана вже гіпернормальна.

Якщо взяти дворічну чи однорічну дитину, якщо ви ввімкнете телевізор або телефон, яскравість цього екрана буде яскравішою, ніж будь-що навколо, тому їхні очі одразу ж звернуться на це в приміщенні. І таким чином ви отримаєте ситуацію, коли є всі ці гіпернормальні подразники. Не кажучи вже про те, що кожен мультфільм, кожне відео на YouTube, кожна гра, кожен додаток – усі вони конкурують за це. Ми порушуємо свою регуляцію. Як тільки наші рецептори навчені до такого рівня дофаміну, ми не дуже добре справляємося, коли отримуємо нормальний рівень дофаміну. ​​Тож ви зустрічаєте такі жахливі ситуації, коли діти, якщо ви заберете телефон, влаштовують істерики. Іноді це навіть набагато гірші наслідки, які трапляються через те, що їхній мозок перепрограмований. Я думаю, що це важлива частина.

Інша частина — це ідея надання людям того, чого вони хочуть. Компанії часто так роблять і кажуть: «Гей, оскільки люди натиснули на це, це те, чого вони хочуть», коли насправді це те, чого вони не можуть не робити. Вони не можуть стриматися, бо якщо ви живете в стрічці, якщо ви бачите якесь сенсаційне зображення, яке викликає у вас інтерес, ви натискаєте на нього. Але це не означає, що ви хотіли саме цього. Якщо з’явиться щось велике, що спалахне, ваш погляд звернеться на це. Це не означає, що ви хотіли на це подивитися. Одна з аналогій, яку ми проводимо, полягає в тому, що ви їдете по шосе і бачите автомобільну аварію, а штучний інтелект спостерігає за вами і каже: «Ого, дивіться, люди, здається, люблять автомобільні аварії. Вони завжди дивляться на автомобільні аварії. Давайте створимо світ, де автомобільні аварії будуть всюди».

Очевидно, це не те, чого ми хочемо. Ми дивимося на автомобільні аварії, бо знаємо, що це певною мірою пов'язано з нашим виживанням. Тож ми схильні бути дуже напоготові, і ми дивимося на це, але це не означає, що це той світ, якого ми хочемо. Аналогія полягає в тому, що наші стрічки часто сповнені метафоричних автомобільних аварій, і зрештою це змушує нас усіх клікати на речі, на які ми не маємо наміру, і це краде нашу увагу та наш час способами, які не узгоджуються з нашим початковим наміром. Питання в тому, який світ був би набагато мудрішим, якби інструменти, які ми маємо, або місця, де ми проводимо час, запитували нас про наш намір, а не робили висновки про це на основі того, на що ми клікаємо.

Тому що ці методи часто майже завжди не узгоджуються. Проблема в тому, що якби вони це зробили і справді намагалися б направити нас до того, що ми маємо намір зробити, наш час на сайті був би набагато коротшим. Це не дуже добре монетизує. Це така реальність, що що б люди не казали, вам потрібно дивитися на бізнес-модель, що стоїть за будь-яким продуктом, який ви використовуєте. Бізнес-модель розкриває фактичну структуру стимулів. Ось чому компанії соціальних мереж просто не можуть бути вам корисними, бо їм дійсно потрібно, щоб ви були на сайті, а не, наприклад, вивчали те, що вам потрібно, а потім йшли та жили своїм життям деінде, наприклад, за кадром.

Тут існує конфлікт інтересів, і саме тому їм дуже важко бути по-справжньому корисними для будь-якого великого значущого заходу.

Ви сказали щось дуже важливе. Ви сказали, що просто тому, що люди клікають, і щось має багато кліків, це не обов'язково те, чого ми хочемо, але це насправді те, що привертає нашу увагу, можливо, через набагато фундаментальніші базові потреби виживання та все, що викликає ця сенсаційна стрічка новин, сенсаційні зображення. Минулого року у нас був трек про журналістику, що базується на травмах, і ми вказали на те, що насправді сенсаційні новини та стрічки соціальних мереж шкідливі для громадського здоров'я. Ми на шляху до... Я маю на увазі, що є багато даних, які ми можемо зібрати, і які насправді не є здоровими. Це створює більшу поляризацію, як ви сказали, багато речей, більше стресу в суспільстві тощо.

Але є такий аргумент. За цим стоїть економічна система. Моє наступне питання: як ми можемо змінитися з того місця, де ми є? Але ми не можемо просто мати гарну ідею, бо, очевидно, ми опинилися там, де ми є, без причини. Є причина, чому ми тут. Як ми можемо насправді перетворитися на світ, який враховує економічну модель, що значною мірою мотивує бізнес? А потім є ця, можливо, більш нерегульована частина мене, яка не може повноцінно взаємодіяти з технологіями так, щоб це було добре для мене. Можливо, ви можете трохи розповісти нам, які є способи потрапити в інший світ, який не забороняє технології, щоб ми сказали: «О, [нерозбірливо]». Як нам це зробити? Чи досягнемо ми більш здорової версії...

Це, очевидно, дуже, дуже складно. У рамках чинної системи є деякі відповіді, а потім є питання щодо чинної системи. Чи це взагалі працює? Чи це те, що продовжуватиме функціонувати? Почнемо з простої частини, яка знаходиться в рамках чинної системи, тому що система зосереджена на ціні, все побудовано навколо попиту та пропозиції, а ціни – посередині, і саме так працює економіка. Це те, що ми відстежуємо, це долари, дохід у будь-якій валюті.

І тому у взаємодіях, по суті, втручаннях, які впливають на ціну, є тими, які будуть успішними. Є способи зробити це. Наприклад, коли вийшов фільм «Соціальна дилема», він створив великий тиск, коли люди зрозуміли, що це певною мірою шкідливо. І це створює певний негативний тиск щодо використання цих продуктів, але все ж це саме по собі не так сильно впливає на ціну, тому що не так багато людей залишають платформи. Це робить те, що підвищує обізнаність, щоб законодавці могли створювати нові закони, нові покарання за неправильні дії.

Якщо ви завдаєте шкоди дітям, за це передбачено покарання, а потім можуть бути судові позови та судові позови. Ось тут ви можете бачити зв'язок зі знаком долара. Зрештою, або якась державна установа, або судовий процес, наприклад, юридична фірма, подасть на вас до суду, і тоді витрати на заподіяну вами шкоду знову лягають на ваші плечі. Одна з цікавих речей, яка відбувається з технологіями, полягає в тому, що вони розвиваються набагато швидше, ніж наші інституції можуть за ними встигати. Часто, я маю на увазі весь час, технології, які з'являються, мають наслідки, яких ми ще не усвідомлюємо... По-перше, часто ми не до кінця розуміємо це. Це відбувається і зі штучним інтелектом. Ми не до кінця розуміємо, як все це відбуватиметься, яка шкода, як її вимірювати тощо.

Коли ми можемо виміряти, а потім повернути це на баланс компанії та змусити її за це платити, тоді це починає впливати на ціну. Знову ж таки, ви повертаєтеся до знака долара. Ті самі речі, які ви можете робити, ви можете мати способи надихати, як створювати більш гуманні технології. Це один із способів субсидування витрат на дослідження та розробки для правильних дій, щоб ви могли надихати людей, навчати їх, як робити правильні речі. Є інсайдери, які можуть чинити тиск. Коли люди повідомляють про порушення, коли відбувається щось справді погане, і інформатор висловлюється, це ще один спосіб повернути всі ці витрати назад у компанію, тому що витікають документи, які показують, що компанії знали про шкоду, яку тепер потрібно врахувати.

Це все приклади. По суті, є набір кроків, які ви можете зробити, і все це в рамках поточної системи. Зміна систем – це дуже складна річ. Я думаю, що фундаментально ідея про те, що ми можемо продовжувати зростати вічно, що ми можемо продовжувати видобувати, і все буде добре, просто не відповідає дійсності. Ви можете озирнутися навколо, і це просто не має сенсу. Те, з чого ви видобуваєте, має відновлюватися зі швидкістю, що відповідає швидкості видобутку. Якщо ви видобуваєте дуже, дуже, дуже швидко... Наприклад, якщо ви видобуваєте нафту з землі, яка утворювалася мільйони років, і витрачаєте її всю протягом лише кількох сотень років або навіть менше ніж кілька сотень років, це велика проблема. Це просто не є сталим процесом.

Те саме з… Отже, є фізичні ресурси, а є ще й наш розум. Ви дивитеся на наш власний розум, і якщо ми починаємо розрізати свою увагу швидше, ніж вона може відновитися, швидше, ніж ми можемо зцілитися, ми можемо заснути, швидше, ніж ми можемо осмислити світ, ми починаємо порушувати всі ці здібності, і вони не відновлюють швидко обумовленість розуму. Це цікава тема, пов'язана з усвідомленістю та самовдосконаленням. Я думаю, ми всі знаємо, що потрібно багато зусиль і дисципліни, щоб робити правильні речі, займатися розумовим тренуванням, фізичним тренуванням, робити вправи, все це.

Це непросто, харчуватися здорово чи щось інше, що ми вважаємо важливим, але дуже легко від цього відучити та завдати шкоди, особливо зараз. Знову ж таки, подумайте про дітей та їхній ріст, бо вони набагато більш податливі. Як тільки вони засвоять неправильні звички, навчити їх правильним дуже важко. Як тільки ми розвинемо… Ми можемо дуже наполегливо працювати над розвитком глибшої, тривалішої уваги, як-от стійкої уваги, більшої уважності, але якщо подумати, то телефон знаходиться поруч з нами вісім годин на день або більше, проходячи процес тренування, а потім, можливо, ви б сиділи та медитували 15 хвилин, або 30 хвилин, або, можливо, 45 хвилин, що багато глибоких медитаторів робили б більше в цьому напрямку, але навіть їм було б дуже важко, якби вони користувалися телефоном постійно.

Це свого роду скасовує процес навчання. А з дітьми це відбувається набагато швидше. Я думаю, що це саме ті речі, про які ми повинні пам'ятати, коли думаємо про те, як ми можемо перейти на щось здоровіше? Це також не стосується нерівності. Економічна система, яку ми маємо зараз, я б сказав, що капіталізм дуже чутливий до капіталу. Він приніс нам багато переваг протягом багатьох років, багато досягнень. Такий вид конкуренції та видобутку ресурсів приніс багато досягнень у медицині, продуктах харчування, одязі, житлі, у всіх цих речах, технологіях, у нас є всі ці чудові технології для навчання, інформації, а тепер штучний інтелект є прикладом.

Але знову ж таки, все це має свою ціну, і якщо ми дозволимо цим речам працювати нестабільним чином, я думаю, що це велика проблема. Ось де ми зараз знаходимося. Якщо ми подумаємо про те, як ми хочемо змінити систему, я думаю, що ситуація зі штучним інтелектом є однією з них, можливо, є гарною мотивацією для вирішення та усунення деяких з них, тому що я не думаю, що це збережеться, оскільки ми автоматизуємо мільйони й мільйони робочих місць. Нерівність стане ще ширшою. Капіталізм, як я вже казав, має тенденцію нерівномірно розподіляти капітал. Він продовжує робити це знову і знову, знову і знову.

Відбувається концентрація багатства, і тепер ми матимемо ще глибше прискорення всього цього процесу. Я не думаю, що це добре спрацює для великої кількості людей. Нам потрібно звернути на це багато уваги. Найкраща новина, яку я можу сказати, це те, що, можливо, це можливість внести деякі зміни.

Як ви бачите, тепер, коли ви вже згадували про це, був фільм «Соціальна дилема», який стосувався соціальних мереж та економіки напруги, і зараз ми вже перебуваємо в іншому стані. Як ви сказали, він розвивається дуже швидко. Зараз є штучний інтелект, і я не знаю, скільки людей знають, як він насправді працює, але це схоже на те, як насправді працюють усі процеси та куди вони рухатимуться. Ось чому ми живемо в непередбачуваний момент, і, можливо, ви можете трохи поговорити про цей момент. Які його переваги, недоліки? Про що нам потрібно подбати?

Так, звісно. Я думаю, що найкраще, що варто пам’ятати кожному, хто слухає, це те, що технології завжди були чудовим прискорювачем. Технології – найвеличніший прискорювач людства. Можна навести вагомі аргументи на користь цього. Штучний інтелект – це свого роду вершина прискорення. Він дуже швидко прискорює речі. Це останнє покоління штучного інтелекту надзвичайно потужне. Генеративний ШІ може створювати текст, зображення, аудіо, відео, все у дуже високій якості, і він дуже швидко вдосконалюється, набагато швидше, ніж закон Мура, швидше, ніж технологія чипів, ніж вдосконалювалася напівпровідникова технологія, тому що вона складна. Отже, рушійною силою є напівпровідникова технологія, а також алгоритмічна технологія. Просто те, як ми керуємо речами, як ми можемо збирати дані, як ми можемо об’єднувати комп’ютери разом у кластери – все це його живить. Він розвивається надзвичайно швидко.

І ось ШІ стає найбільшим акселератором, і він пришвидшить усе, що ми маємо, те, як ми робимо речі зараз. Якщо ви подумаєте про будь-яку компанію, вони дуже ретельно все обміркували, вони повернулися назад і сказали: «Гаразд, давайте розробимо нашу стратегію. Давайте розглянемо наші сильні та слабкі сторони», і вони зробили свої інвестиції. Вони створили свої фабрики, свої процеси, своїх людей, і вони ніби зрозуміли, як вони роблять речі. Зараз усі дивляться на те, що те, як ми робимо речі, добре, але як ми можемо зробити це кращим? Як ШІ може пришвидшити цей процес? Усі ставлять це питання.

Якщо у нас вже є переважно екстрактивна система, ми перемикаємо цю екстракцію на прискорену швидкість. Вона буде посилена багаторазово, зменшуючи тертя скрізь, де це можливо. Це один аспект. Є ще один аспект… Я думаю, я маю сказати, що це домінуючий аспект. Я думаю, що це певним чином керуватиме нашим майбутнім. Частково це процес автоматизації. Це свого роду здоровий глузд. Якщо ви власник бізнесу, усі завжди шукають нові технології, щоб бізнес працював краще, робив речі швидше та ефективніше, тому частина роботи почне автоматизуватися, особливо більш когнітивні роботи, зокрема бакалаврська та магістерська. Такі роботи. Такий тип мислення.

Штучний інтелект досить добре справляється з цим. Фізична праця складніша. Вона з'явиться трохи пізніше, але роботів також навчають. Це правда. Але спочатку це будуть когнітивні завдання. Коли значна частина когнітивних завдань буде автоматизована, і людині залишиться лише трохи, тоді власники бізнесу почнуть говорити: «Гей, зачекайте хвилинку. Мені не потрібні чотири людини. Мені потрібна лише одна людина», тому що завжди є ці додаткові витрати на координацію, а люди — це безлад. Ми хворіємо. У нас є пріоритети. Нам потрібні відпустки. Нам потрібна медична допомога. А машинам нічого з цього не потрібно.

І ви знайдете таке… Це просто буде хороший бізнес, і люди будуть робити бізнес-вибір. Це та сама причина, чому економіка просочування не працює, полягає в тому, що так не працює людська психологія. Щоразу, коли є можливість спростити, автоматизувати та зменшити витрати, власники бізнесу робитимуть це, тому що за це їх винагороджують. Це свого роду тенденція, яку ми можемо очікувати. Це домінуюча тенденція. Ми також повинні бути справедливими і сказати, що водночас немає сумнівів, що штучний інтелект, ймовірно, просуне медичні дослідження, покращить клімат. Скорочення викидів вуглецю — це одна з речей, які можуть бути можливими.

Нові джерела енергії, такі як технології акумуляторів або просто більш стійкі, високопродуктивні джерела енергії, медицина, все це – це просто чудові речі, які можуть статися. У цьому немає жодних сумнівів, але ми завжди наголошуємо, що в цих речах є певний порядок. Ви не можете досягти всіх хороших речей, якщо суспільство розвалиться до цього. Це щось на кшталт дверей, через які потрібно пройти, і ці двері передбачають здорове розуміння, здатність розуміти світ, правильний вибір, здатність робити мудрий вибір і не втрачати себе в цьому процесі. Усі ці питання щодо робочих місць і людей потребують певної безпеки. Нам потрібна система, яка насправді узгоджена таким чином, щоб не створювати ще більшої нерівності, ніж та, що ми маємо зараз. В ідеалі, ми повинні її зменшити. І тоді ми зможемо досягти цього світлого майбутнього.

Їх потрібно робити в правильному порядку. І, звичайно, замість того, щоб, як і компанії соціальних мереж до них, кожна компанія зараз потрапила в цю гонку, щоб з'ясувати, як вони можуть впровадити штучний інтелект та максимізувати дохід якомога швидше, використовуючи найновіші технології, не зупиняючись на оцінці шкоди, пом'якшенні її, здійсненні інвестицій, необхідних для запобігання непередбачуваній шкоді. Ми любимо говорити, що соціальні мережі були нашим першим контактом зі штучним інтелектом, а цей раунд ШІ — другим контактом. Як і вперше, ми не могли побачити всіх цих подальших наслідків.

Ми помітили цю проблему з увагою, але не дуже чітко побачили подальші наслідки. Те саме.