Ниже приведена стенограмма. Вы также м

Да, я заметил, что это довольно важный момент, который я не затронул, но думаю, нам стоит немного поговорить о проблеме зависимости. Часто люди зацикливаются на проблеме зависимости и не видят всей цепочки событий. Именно это я и хотел обсудить. В некотором смысле, проблему зависимости можно представить так: если подключить наш мозг к этим системам, то насколько глубоко этот «кабель» войдет в мозг? Зачастую эти технологии очень хорошо научились перехватывать выбросы дофамина, которые мы получаем и которые предназначены для вознаграждения за определенные действия, продлевающие жизнь или репродуктивные, — своего рода механизмы выживания.

Но теперь мы захватили эти механизмы и вместо этого просто застряли в выбросах дофамина, которые на самом деле никуда нас не ведут. Я думаю, это очень, очень ярко проявляется у детей. Многие из тех, кто слушает нас и общается с детьми, поймут, как трудно отнять у ребенка гаджет, потому что он получает этот сверхнормальный стимул, сверхнормальный в смысле выходящий за рамки нормы, за рамки того, что здорово, за рамки того, к чему эволюционировал организм. Стимул. Все эти вещи, как и все остальное, очень быстро меняются, очень… Даже экраны, даже для очень маленьких детей, имеют сверхнормальную яркость.

Если взять двухлетнего или годовалого ребенка, включить телевизор или телефон, яркость экрана будет выше, чем у всего окружающего, и поэтому его взгляд сразу же будет направлен на это в помещении. Таким образом, возникает ситуация, когда все эти сверхнормальные стимулы. Не говоря уже о том, что теперь каждый мультфильм, каждое видео на YouTube, каждая игра, каждое приложение — все они конкурируют за это. Мы теряем регуляцию. Как только наши рецепторы привыкают к такому уровню дофамина, мы плохо справляемся и при нормальном уровне дофамина. Поэтому возникают ужасные ситуации, когда, если у детей забрать телефон, они начинают истерить. Иногда последствия бывают даже намного хуже, потому что их мозг перестраивается. Я думаю, это очень важный момент.

Другой важный момент — это идея предоставления людям того, чего они хотят. Компании часто поступают именно так, говоря: «Раз люди кликнули, значит, они этого хотят», хотя на самом деле они не могут удержаться от этого. Они не могут удержаться, потому что, если вы постоянно находитесь в ленте новостей, и видите сенсационное изображение, которое вызывает у вас интерес, вы кликнете на него. Но это не значит, что вы этого хотели. Если появляется что-то яркое и броское, ваш взгляд сразу же привлечется к этому. Это не значит, что вы хотели на это смотреть. Одна из аналогий, которую мы приводим, — это когда вы едете по шоссе и видите автомобильную аварию, а искусственный интеллект наблюдает за вами и говорит: «Ого, люди, похоже, обожают автомобильные аварии. Они всегда смотрят на них. Давайте создадим мир, где автомобильные аварии происходят повсюду».

Очевидно, это не то, чего мы хотим. Мы следим за автомобильными авариями, потому что знаем, что это как-то связано с нашим выживанием. Поэтому мы, как правило, очень настороженно относимся к этому и следим за этим, но это не значит, что это тот мир, которого мы хотим. Аналогия такова: наши ленты новостей часто полны метафорических автомобильных аварий, и в конечном итоге это заставляет нас кликать на то, на что мы не собирались кликать, это отнимает наше внимание и время способами, которые не соответствуют нашим первоначальным намерениям. Вопрос в том, каким был бы гораздо более мудрый мир, если бы инструменты, которыми мы располагаем, или места, где мы проводим время, спрашивали нас о наших намерениях, вместо того, чтобы делать выводы на основе того, на что мы кликаем.

Потому что эти факторы почти всегда не совпадают. Проблема в том, что если бы они действительно пытались направить нас к тому, что мы хотим, наше время на сайте сократилось бы. Это не очень хорошо монетизируется. Такова реальность: что бы ни говорили люди, нужно смотреть на бизнес-модель любого продукта, которым вы пользуетесь. Бизнес-модель раскрывает реальную структуру мотивации. Именно поэтому компании, работающие в сфере социальных сетей, не могут быть вам так полезны, потому что им действительно нужно, чтобы вы были на сайте, а не, например, изучали необходимую информацию, а затем уходили жить своей жизнью где-то в другом месте, за кадром.

Здесь возникает конфликт интересов, и именно поэтому им очень трудно принести реальную пользу в каких-либо значимых масштабах.

Вы сказали нечто очень важное. Вы сказали, что просто потому, что люди кликают и что-то набирает много кликов, это не обязательно то, чего мы хотим, но именно это, возможно, привлекает наше внимание из-за гораздо более фундаментальных базовых потребностей выживания и того, что запускается этой сенсационной новостной лентой, сенсационными изображениями. В прошлом году у нас был раздел, посвященный журналистике, учитывающей травматический опыт, и мы в некотором смысле подчеркнули, что сенсационные новости и ленты социальных сетей наносят вред общественному здоровью. Мы движемся к… Я имею в виду, что мы можем собрать много данных, которые на самом деле не очень полезны. Это создает еще большую поляризацию, как вы сказали, множество вещей, больше стресса в обществе и всевозможные другие вещи.

Но есть такой аргумент. За этим стоит экономическая система. Мой следующий вопрос: как мы можем измениться, оставаясь на прежнем месте? Но у нас не может быть просто хорошей идеи, потому что, очевидно, мы находимся там, где находимся, не просто так. Есть причина, по которой мы здесь. Как мы можем на самом деле трансформироваться в мир, который учитывает экономическую модель, которая во многом определяет мотивацию бизнеса? И, возможно, есть еще одна, более неуправляемая часть меня, которая не может в полной мере взаимодействовать с технологиями так, чтобы это было полезно для меня. Может быть, вы могли бы немного рассказать нам о том, как мы можем войти в другой мир, который не запрещает технологии, о которых мы говорим: «О, [неразборчиво]». Как нам это сделать? Достигнем ли мы более здоровой версии…

Это, очевидно, очень и очень сложно. В рамках существующей системы есть некоторые ответы, но есть и вопросы о ней. Работоспособна ли она вообще? Будет ли она продолжать функционировать? Давайте начнем с простого, а именно с существующей системы, потому что она основана на цене, все построено вокруг спроса и предложения и цен, и именно так работает экономика. Мы отслеживаем доллары, выручку в любой валюте.

Таким образом, в контексте взаимодействий, по сути, вмешательств, влияющих на цену, успешными оказываются именно такие меры. Существуют способы это сделать. Например, фильм «Социальная дилемма», когда он вышел, вызвал сильное давление, заставившее людей понять, что эти продукты в некоторой степени вредны. Это создало негативное давление, побуждающее к использованию этих продуктов, но само по себе это не сильно повлияло на цену, потому что не так много людей покидают платформы. Вместо этого это повысило осведомленность, что позволило законодателям принимать новые законы и устанавливать новые наказания за противоправные действия.

Если вы причиняете вред детям, за это предусмотрено наказание, а затем могут последовать судебные разбирательства и иски. Вот, теперь вы видите связь со знаком доллара. В конце концов, либо какое-либо государственное учреждение, либо юридическая фирма подадут на вас в суд, и тогда расходы на причиненный вами вред лягут на ваши плечи. Одна из интересных особенностей технологий заключается в том, что они развиваются гораздо быстрее, чем наши институты успевают за ними. Зачастую, я имею в виду постоянно, появляющиеся технологии оказывают влияние, которое мы еще не замечаем… Во-первых, часто мы не до конца понимаем их. Это происходит и с искусственным интеллектом. Мы не до конца понимаем, как все это будет происходить, какой будет вред, как его измерить и все такое.

Когда мы можем измерить это, а затем отразить на балансе компании и заставить её за это заплатить, это начинает влиять на цену. Опять же, вы возвращаетесь к доллару. Аналогичным образом, вы можете вдохновлять на создание более гуманных технологий. Это один из способов субсидирования затрат на НИОКР, чтобы делать всё правильно, вдохновлять людей, учить их делать правильные вещи. Есть инсайдеры, которые могут оказывать давление. Когда люди сообщают о нарушениях, когда происходит что-то действительно плохое, и информатор высказывается, это ещё один способ вернуть все эти затраты в компанию, потому что происходит утечка документов, которые показывают, что компании знали о причиненном вреде, за который теперь нужно платить.

Это всё лишь примеры. В принципе, там есть набор действий, которые можно предпринять, и всё это в рамках существующей системы. Смена системы — очень сложная задача. Я думаю, что в основе своей идея о том, что мы можем расти вечно, что мы можем продолжать добывать ресурсы, и всё будет хорошо, просто неверна. Можно оглянуться вокруг, и это просто не имеет смысла. То, что вы добываете, должно восстанавливаться со скоростью, соизмеримой со скоростью добычи. Если вы добываете очень, очень, очень быстро… Например, если вы извлекаете нефть из земли, на образование которой ушли миллионы лет, и израсходуете её всю за несколько сотен лет или даже меньше, это большая проблема. Это просто неустойчиво.

То же самое и с… Итак, есть физические ресурсы, а есть еще и наш разум. Посмотрите на наш собственный разум, и если мы начнем распределять наше внимание быстрее, чем оно сможет восстанавливаться, быстрее, чем мы сможем исцелиться, быстрее, чем мы сможем спать, быстрее, чем мы сможем осмыслить мир, мы начнем разрушать все эти способности, и они не восстанавливаются быстро – это приведет к формированию условностей в уме. Это интересная тема, связанная с осознанностью и самосовершенствованием. Я думаю, мы все знаем, что требуется много усилий и дисциплины, чтобы делать правильные вещи, заниматься умственной тренировкой, физической тренировкой, упражнениями – всем этим.

Нелегко питаться правильно или делать что-то еще, что мы считаем важным, но очень легко отучиться от этих привычек и нанести вред, особенно сейчас. Опять же, подумайте о детях и их развитии, потому что они гораздо более податливы. Как только они усвоили неправильные привычки, научить их правильным очень сложно. Мы можем очень усердно работать над развитием более глубокого, длительного внимания, например, устойчивого внимания, большей осознанности, но если подумать, телефон находится рядом с нами восемь часов в день или больше, выполняя свой тренировочный процесс, а затем вы, возможно, посидите и помедитируете 15, 30 или даже 45 минут, что многие практикующие глубокую медитацию делают чаще, но даже им будет очень трудно, если они будут постоянно пользоваться телефоном.

Это в некотором смысле сводит на нет процесс обучения. А с детьми это происходит гораздо быстрее. Я думаю, что именно об этом мы должны помнить, когда думаем о том, как мы можем перевести наши экономические системы на более здоровый уровень. Здесь также не упоминается неравенство. Экономическая система, которая у нас сейчас есть, — я бы сказал, что капитализм очень чувствителен к капиталу. За эти годы он принес нам много преимуществ, много достижений. Такая конкуренция и эксплуатация ресурсов привели к значительному прогрессу в медицине, пищевой промышленности, производстве одежды, жилья — во всех этих областях, в технологиях. У нас есть все эти замечательные технологии для обучения, получения информации, и теперь искусственный интеллект — тому пример.

Но опять же, все это имеет свою цену, и если мы позволим этим вещам развиваться неустойчивым образом, я думаю, это станет большой проблемой. Вот где мы находимся. Если мы подумаем о том, как хотим изменить систему, я думаю, ситуация с ИИ — одна из них, возможно, хорошая мотивация для решения и устранения некоторых проблем, потому что я не думаю, что это будет продолжаться, пока мы автоматизируем миллионы и миллионы рабочих мест. Неравенство будет становиться еще шире. Капитализм, как я уже говорил, имеет тенденцию распределять капитал неравномерно. Он продолжает делать это снова и снова.

Происходит концентрация богатства, и теперь мы станем свидетелями еще более глубокого ускорения этого процесса. Я думаю, это плохо скажется на большом количестве людей. Мы должны уделять этому большое внимание. Лучшая новость, которую я могу сказать, заключается в том, что, возможно, это возможность внести некоторые изменения.

Как вы видите ситуацию, раз уж вы об этом упомянули? Был фильм «Социальная дилемма», который затрагивал тему социальных сетей и напряженной экономики, а сейчас мы находимся в совершенно другом состоянии. Как вы сказали, развитие происходит очень быстро. Сейчас есть искусственный интеллект, и я не знаю, сколько людей знают, как он на самом деле работает, но это похоже на то, как все процессы работают и куда они будут двигаться. Вот почему мы находимся в непредсказуемом моменте, и, может быть, вы могли бы немного рассказать об этом моменте. Каковы преимущества, недостатки? О чем нам нужно позаботиться?

Да, конечно. Думаю, лучше всего всем, кто слушает, помнить, что технологии всегда были мощным ускорителем. Технологии — величайший ускоритель человечества. Можно привести убедительные аргументы в пользу этого. Искусственный интеллект — это своего рода вершина ускорения. Он ускоряет процессы очень быстро. Последнее поколение искусственного интеллекта обладает огромными возможностями. Генеративный ИИ может создавать текст, изображения, аудио, видео — всё очень высокого качества, и он очень быстро совершенствуется, намного быстрее закона Мура, быстрее, чем развивались технологии производства чипов и полупроводников, потому что это накопительный процесс. Таким образом, движущей силой являются не только полупроводниковые технологии, но и алгоритмические технологии. То, как мы управляем процессами, как мы можем собирать данные, как мы можем объединять компьютеры в кластеры — всё это питает его. Он развивается чрезвычайно быстро.

Таким образом, ИИ становится самым мощным ускорителем и будет ускорять все, что у нас есть, все то, как мы сейчас работаем. Если вы посмотрите на любую компанию, она очень тщательно все обдумала, вернулась к истокам и сказала: «Хорошо, давайте разработаем нашу стратегию. Давайте посмотрим на наши сильные и слабые стороны», и они сделали свои инвестиции. Они создали свои заводы, свои процессы, своих сотрудников и в какой-то степени определили, как они работают. Сейчас все смотрят на то, что, хорошо, как мы работаем, но как мы можем сделать это лучше? Как ИИ может ускорить этот процесс? Все задают себе этот вопрос.

Если у нас уже есть преимущественно добывающая система, мы усиливаем это добывающее производство. Оно будет многократно масштабироваться за счет снижения трения везде, где это возможно. Это один аспект. Есть и другой аспект… Думаю, следует сказать, что это доминирующий аспект. Я думаю, что именно он будет определять наше будущее. Частично это связано с процессом автоматизации. Это своего рода здравый смысл. Если вы владелец бизнеса, все постоянно ищут новые технологии, чтобы улучшить работу бизнеса, ускорить и повысить эффективность, поэтому часть рабочих мест начнет автоматизироваться, особенно те, которые связаны с когнитивными процессами, то есть, в частности, для обладателей степени бакалавра и магистра. Это именно такие работы. Это требует такого рода мышления.

Искусственный интеллект неплохо справляется с этими задачами. Физический труд сложнее. Это произойдёт немного позже, но роботов тоже обучают. Это правда. Но сначала будут автоматизированы когнитивные задачи. Когда значительная часть когнитивной работы будет автоматизирована, и человеку останется лишь немного, тогда владельцы бизнеса начнут думать: «Подождите-ка. Мне не нужны четыре человека. Мне нужен всего один человек», потому что всегда есть дополнительные затраты на координацию, а люди — мы неорганизованные. Мы болеем. У нас есть приоритеты. Нам нужны отпуска. Нам нужно медицинское обслуживание. А машинам ничего из этого не нужно.

И поэтому вы обнаружите, что… Это просто будет выгодный бизнес, и люди будут делать бизнес-решения. Это та же причина, по которой теория «просачивания благ сверху вниз» не работает: так не работает человеческая психология. Всякий раз, когда есть возможность упростить, автоматизировать и снизить затраты, владельцы бизнеса будут это делать, потому что за это их вознаграждают. Это своего рода тенденция, которую мы можем ожидать. Это доминирующая тенденция. Мы также должны быть справедливы и сказать, что в то же время нет сомнений в том, что искусственный интеллект с высокой вероятностью будет способствовать развитию медицинских исследований, улучшению климата. Сокращение выбросов углерода — это одна из вещей, которые могут стать возможными.

Новые источники энергии, например, аккумуляторные технологии или просто более устойчивые, высокоэффективные источники энергии, медицина — все это замечательные вещи, которые могут произойти. В этом нет никаких сомнений, но мы всегда подчеркиваем, что в этих процессах есть определенная последовательность. Невозможно достичь всего хорошего, если общество не развалится раньше. Это как дверь, через которую нужно пройти, и эта дверь включает в себя умение осмысливать мир, делать правильный выбор, принимать мудрые решения и не терять себя в этом процессе. Все эти вопросы, касающиеся рабочих мест и людей, должны быть защищены. Нам нужна система, которая действительно согласована таким образом, чтобы не создавать еще большего неравенства, чем сейчас. В идеале, мы должны его сократить. И тогда мы сможем достичь светлого будущего.

Все это нужно делать в правильном порядке. И, конечно же, как и компании, работающие в сфере социальных сетей, каждая компания сейчас вовлечена в гонку за тем, как как можно быстрее внедрить искусственный интеллект и максимизировать прибыль, используя новейшие технологии, не останавливаясь, чтобы оценить потенциальный вред, смягчить последствия и сделать необходимые инвестиции для предотвращения непредсказуемых негативных последствий. Мы любим говорить, что социальные сети были нашим первым знакомством с искусственным интеллектом, а нынешний этап внедрения ИИ — вторым. Как и в первый раз, мы не могли предвидеть все эти последствия.

Мы наблюдали этот эффект привлечения внимания, но не очень четко увидели его последующие последствия. То же самое.