네, 맞아요. 네, 정말 아름다워요. 깊은 이해로 이끌어주신 과정이 정말 아름다웠습니다. 오랫동안 트라우마를 연구해 온 사람으로서, 당신의 이야기를 듣고 당신이 어떻게 반응하는지 들어보니, 제가 느끼는 건… 제가 보기에는, 지금처럼 안정된 상태일 때는 기술을 훨씬 더 섬세하게 사용할 수 있다는 거예요. 공감이 가지 않는 잘못된 정보를 훨씬 더 잘 알아차릴 수 있고, 선택할 수 있는 위치에 있다는 거죠.
하지만 우리가 균형을 잃고 트라우마로 인해 과잉 활성화되거나, 소외되거나, 무감각해지면, 우리는 소위 말하는 내면의 조절 기능을 제대로 수행하지 못하게 됩니다. 신경계가 스스로를 제대로 조절하지 못하는 것이죠. 그래서 종종 극심한 스트레스 상태에 빠지게 됩니다. 그런 상태에서는 세상이 더 좁아지거나, 더 파편화된 것처럼 느껴지게 되고, 결국 기술 사용 방식 또한 이러한 요인들에 의해 결정될 가능성이 큽니다. 요즘 주의력 경제와 사용자의 의식적인 선택, 또는 그러한 선택들이 내면의 불균형을 이용하는 방식을 생각해 보면, 그들은 이러한 내면의 불균형을 이용해 사람들의 관심을 사로잡는 방법을 찾아낸 것 같습니다. 그들에게 어떤 말씀을 하실지 궁금합니다.
네, 제가 자세히 다루지 않았던 중요한 부분이 있는데, 바로 중독에 관한 것입니다. 많은 사람들이 중독이라는 부분에만 집중하고 전체적인 맥락을 놓치는 경우가 많습니다. 그래서 제가 그 부분을 짚어보고 싶었습니다. 중독은 마치 우리의 뇌를 이러한 시스템에 연결하는 것과 같다고 볼 수 있는데, 그 연결은 뇌에 얼마나 깊이 박혔는가를 나타냅니다. 이러한 기술들은 생존 메커니즘과 관련된 행동, 즉 생명 연장이나 생식 행동에 대한 보상으로 우리에게 분비되는 도파민 분비를 교묘하게 이용하는 방법을 터득했습니다.
하지만 이제 우리는 그러한 메커니즘을 악용하여, 실제로는 아무런 도움이 되지 않는 도파민 분비에만 매달리고 있습니다. 저는 이러한 현상이 아이들에게서 매우 극명하게 나타난다고 생각합니다. 자녀를 둔 많은 분들이 공감하시겠지만, 아이들에게서 전자기기를 뺏는 것은 매우 어렵습니다. 아이들은 이제 정상적인 범위를 넘어서는, 건강한 범위를 넘어서는, 신체가 진화해 온 범위를 넘어서는 과도한 자극에 노출되어 있기 때문입니다. 모든 것이 매우 빠르게 진행되고, 심지어 화면조차도, 특히 어린아이들에게는 화면 밝기가 이미 과도하게 밝습니다.
두 살배기나 한 살배기 아이에게 TV를 켜거나 휴대폰을 켜주면, 화면 밝기가 주변의 어떤 것보다 밝아서 아이의 시선은 실내 환경에서도 곧바로 화면으로 향하게 됩니다. 이렇게 과도한 자극에 노출되는 상황이 발생하는 거죠. 게다가 요즘은 만화, 유튜브 영상, 게임, 앱 등 모든 것들이 아이의 관심을 끌기 위해 경쟁하고 있습니다. 결국 우리 뇌는 도파민 분비에 적응하지 못하게 됩니다. 도파민 수용체가 특정 수준의 도파민에 익숙해지면, 정상적인 도파민 수치가 유지될 때는 제대로 반응하지 못하게 되는 겁니다. 그래서 아이들에게서 휴대폰을 뺏으면 떼를 쓰는 끔찍한 상황이 발생하기도 하고, 심지어는 뇌 구조가 바뀌어서 훨씬 더 심각한 결과로 이어지는 경우도 있습니다. 저는 이것이 중요한 원인이라고 생각합니다.
또 다른 중요한 점은 사람들에게 그들이 원하는 것을 제공하는 것입니다. 기업들은 종종 이렇게 말하며 "사람들이 클릭했으니, 그들이 원하는 것이겠죠."라고 하지만, 사실은 어쩔 수 없이 그렇게 하는 것입니다. 사람들이 피드를 계속 보고, 흥미를 끄는 자극적인 이미지를 보면 클릭하게 되기 때문입니다. 하지만 그렇다고 해서 그것이 당신이 원했던 것은 아닙니다. 크고 번쩍이는 무언가가 나타나면 시선이 그쪽으로 향하게 마련입니다. 당신이 그것을 보고 싶어 했다는 뜻은 아니죠. 우리가 흔히 하는 비유는 이렇습니다. 고속도로를 운전하다가 교통사고를 목격했는데, 인공지능이 당신을 관찰하다가 "와, 사람들은 교통사고를 좋아하는 것 같네. 항상 교통사고를 보잖아. 그럼 세상 곳곳에 교통사고를 만들어 보자."라고 말하는 것과 같습니다.
분명히, 우리가 원하는 세상은 그런 세상이 아닙니다. 우리는 교통사고를 보는데, 그것이 우리의 생존과 직결된다는 것을 알기 때문입니다. 그래서 우리는 항상 경계 태세를 유지하고, 교통사고 소식을 주시하지만, 그렇다고 해서 그것이 우리가 원하는 세상이라는 뜻은 아닙니다. 비유하자면, 우리의 소셜 미디어 피드는 종종 비유적인 교통사고로 가득 차 있고, 결국 우리는 의도하지 않은 것들을 클릭하게 되고, 우리의 주의력과 시간을 원래 의도와는 다른 방식으로 빼앗깁니다. 그렇다면 훨씬 더 현명한 세상은 우리가 사용하는 도구나 시간을 보내는 공간들이 우리가 무엇을 클릭하는지에 따라 의도를 추측하는 대신, 우리의 의도가 무엇인지 묻는 세상이 아닐까요?
왜냐하면 그런 것들은 거의 항상 일치하지 않기 때문입니다. 문제는, 만약 그들이 그렇게 한다면, 우리가 원하는 방향으로 이끌어주려고 노력한다면, 우리가 사이트에 머무는 시간이 훨씬 짧아질 것이고, 이는 수익 창출에 도움이 되지 않는다는 것입니다. 사람들이 뭐라고 하든, 어떤 제품을 사용하든 그 이면에 있는 비즈니스 모델을 살펴봐야 한다는 것이 현실입니다. 비즈니스 모델은 실제 인센티브 구조를 보여줍니다. 소셜 미디어 회사들이 여러분에게 그다지 도움이 될 수 없는 이유도 바로 여기에 있습니다. 그들은 여러분이 사이트에 계속 머물러 있기를 바라기 때문입니다. 예를 들어, 필요한 정보를 얻고 나서 다른 곳에서 일상생활을 하는 것과는 대조적으로 말이죠.
거기에는 이해 상충 관계가 있고, 바로 그 때문에 그들이 실질적으로 의미 있는 큰 성과에 기여하기가 매우 어려운 것입니다.
제4부
재생되는 것과 재생되지 않는 것
정말 중요한 말씀을 해주셨습니다. 단순히 사람들이 많이 클릭하고 클릭 수가 많다는 이유만으로 우리가 원하는 바를 얻는 것은 아니라는 말씀이시죠. 오히려 생존과 같은 훨씬 더 근본적인 욕구나 자극적인 뉴스 피드, 자극적인 이미지에 의해 우리의 관심이 쏠리는 것일지도 모릅니다. 작년에 저희는 트라우마에 대한 이해를 바탕으로 한 저널리즘에 대한 세션을 진행했는데, 그때 선정적인 뉴스와 소셜 미디어 피드가 공중 보건에 해롭다는 점을 지적했습니다. 우리는 지금… 이와 관련해서 수집할 수 있는 데이터가 많이 있는데, 이러한 현상은 건강에 좋지 않습니다. 말씀하신 것처럼 양극화를 심화시키고, 사회에 스트레스를 가중시키는 등 여러 가지 문제를 야기합니다.
하지만 이런 주장이 있습니다. 그 이면에는 경제 시스템이 존재합니다. 제 다음 질문은, 우리가 현재 있는 곳에서 어떻게 변화할 수 있을까 하는 것입니다. 하지만 단순히 좋은 아이디어만 가질 수는 없습니다. 왜냐하면 우리가 지금 있는 곳에 있는 데에는 분명한 이유가 있기 때문입니다. 우리가 여기에 있는 이유가 있습니다. 어떻게 하면 기업들의 동기를 부여하는 경제 모델을 고려한 세상으로 실제로 변화할 수 있을까요? 그리고 제 안에는 어쩌면 좀 더 불안정한 부분이 있어서, 기술과 제게 유익한 방식으로 완전히 상호작용하지 못하는 것 같습니다. 우리가 "아, [잘 안 들림]"이라고 말하며 기술을 금지하지 않는 다른 세상으로 나아가는 방법에 대해 좀 더 자세히 설명해 주시겠습니까? 어떻게 하면 더 건강한 형태의 기술 발전으로 나아갈 수 있을까요?
이건 분명히 매우 어려운 문제입니다. 현행 시스템 내에도 해답이 있지만, 현행 시스템 자체에 대한 의문점도 있습니다. 과연 현행 시스템이 제대로 작동할 수 있을까요? 앞으로도 계속 유지될 수 있을까요? 쉬운 부분부터 시작해 보겠습니다. 현행 시스템은 가격을 중심으로 돌아가고, 모든 것이 수요와 공급, 그리고 그 중간에 있는 가격을 중심으로 구축되어 있습니다. 경제는 기본적으로 이런 방식으로 작동합니다. 우리가 추적하는 것은 바로 달러, 즉 어떤 통화로든 표시된 수익입니다.
그래서 상호작용, 즉 가격에 영향을 미치는 개입만이 성공할 것입니다. 그렇게 할 수 있는 방법은 있습니다. 예를 들어, 영화 '소셜 딜레마'가 개봉했을 때, 사람들은 이러한 제품들이 해로울 수 있다는 것을 깨닫게 되면서 상당한 압력을 받았습니다. 이는 해당 제품 사용을 억제하는 부정적인 압력을 만들어내지만, 플랫폼을 떠나는 사람이 많지 않기 때문에 그 자체만으로는 가격에 큰 영향을 미치지 않습니다. 중요한 것은 이러한 인식을 높여 입법자들이 새로운 법률을 제정하고 잘못된 행위에 대한 새로운 처벌을 내릴 수 있도록 하는 것입니다.
아동에게 해를 끼치면 처벌을 받게 되고, 소송으로 이어질 수 있습니다. 이제 돈과의 연관성을 알 수 있겠죠? 결국 정부 기관이나 로펌 같은 소송 관련 기관이 당신을 고소할 것이고, 당신이 저지른 피해에 대한 비용은 결국 당신의 어깨에 돌아오게 됩니다. 기술 발전의 흥미로운 점 중 하나는 우리 사회 제도가 따라잡을 수 없을 정도로 빠르게 발전한다는 것입니다. 새로운 기술이 등장할 때마다, 아니, 항상, 우리가 아직 제대로 이해하지 못하는 영향들이 나타납니다. 인공지능도 마찬가지입니다. 인공지능이 정확히 어떤 결과를 초래할지, 어떤 피해가 있을지, 그 피해를 어떻게 측정할지 등을 아직 완전히 이해하지 못하고 있습니다.
측정 가능한 결과를 기업의 재무제표에 반영하여 비용을 청구할 수 있게 되면, 가격에 영향을 미치기 시작합니다. 결국 돈 문제로 귀결되는 것이죠. 이와 마찬가지로, 보다 인간적인 기술을 개발하도록 영감을 주는 방법도 있습니다. 이는 올바른 일을 하는 데 필요한 연구 개발 비용을 지원하는 한 가지 방법입니다. 사람들에게 영감을 주고, 올바른 일을 하는 방법을 가르칠 수 있습니다. 내부 고발을 통해 압력을 행사할 수도 있습니다. 심각한 문제가 발생했을 때 내부 고발자가 목소리를 내면, 기업이 피해를 알고 있었다는 사실을 보여주는 문서가 유출되어 기업에 책임을 물을 수 있게 됩니다.
이것들은 모두 예시일 뿐입니다. 기본적으로, 현재 시스템 내에서 할 수 있는 몇 가지 조치가 있습니다. 시스템을 바꾸는 것은 매우 어려운 일입니다. 우리가 영원히 성장하고, 계속해서 자원을 추출해도 괜찮을 것이라는 생각은 근본적으로 사실이 아닙니다. 주변을 둘러보면 그런 생각은 앞뒤가 맞지 않는다는 것을 알 수 있습니다. 추출하는 자원은 추출 속도에 비례하여 재생되어야 합니다. 예를 들어, 수백만 년에 걸쳐 형성된 석유를 단 몇 백 년, 심지어 그보다 더 짧은 시간 안에 모두 추출해 버린다면 심각한 문제가 발생합니다. 그것은 지속 가능하지 않습니다.
마찬가지로… 물리적인 자원이 있고, 또 우리의 정신도 있죠. 우리 자신의 정신을 살펴보면, 주의력이 회복되는 속도보다, 치유되는 속도보다, 잠자는 속도보다, 세상을 이해하는 속도보다 더 빠르게 주의력을 분산시키기 시작하면, 이러한 모든 기능들이 손상되기 시작하고, 마음의 조건화는 빠르게 회복되지 않습니다. 이는 마음챙김과 자기계발과 관련된 흥미로운 주제입니다. 우리는 모두 올바른 일을 하고, 정신 훈련을 하고, 신체 훈련을 하고, 운동을 하는 등 모든 일에 많은 노력과 훈련이 필요하다는 것을 알고 있습니다.
건강하게 먹는 습관이나 우리가 중요하다고 생각하는 것들을 들이는 건 쉽지 않지만, 그런 습관들을 버리거나 오히려 해치는 건 아주 쉽습니다. 특히 요즘 같은 시대에는 더욱 그렇죠. 아이들의 성장 과정을 생각해 보세요. 아이들은 훨씬 더 쉽게 영향을 받습니다. 일단 잘못된 습관을 들이면, 올바른 습관을 가르치는 건 정말 어렵습니다. 우리도 마찬가지로, 집중력을 기르기 위해, 예를 들어 지속적인 주의력이나 마음챙김을 기르기 위해 열심히 노력할 수 있습니다. 하지만 생각해 보세요. 휴대폰은 하루에 8시간 이상 우리 주변에 있으면서 끊임없이 우리를 훈련시킵니다. 그런 다음 15분, 30분, 아니면 45분 정도 명상을 한다고 해도 (많은 심도 있는 명상가들은 그보다 더 오래 명상을 합니다), 그들조차도 휴대폰을 계속 사용한다면 명상에 집중하기 어려울 것입니다.
그건 일종의 훈련 과정을 무효화하는 거죠. 특히 아이들의 경우, 그런 현상이 훨씬 더 빠르게 나타납니다. 우리가 어떻게 하면 경제 시스템을 더 건강한 방향으로 전환할 수 있을지 고민할 때, 이런 점들을 반드시 인지해야 한다고 생각합니다. 불평등 문제도 빼놓을 수 없죠. 지금 우리가 가진 경제 시스템은, 제가 즐겨 표현하는 방식인데, 자본주의는 자본에 매우 민감합니다. 자본주의는 지난 수년간 우리에게 많은 혜택과 발전을 가져다주었습니다. 이러한 경쟁과 자원 착취는 의학, 식량, 의복, 주거 등 모든 분야에서 많은 발전을 가져왔고, 기술 분야에서도 마찬가지였습니다. 우리는 정보를 학습하고, 인공지능을 활용하는 등 다양한 기술을 갖게 되었습니다.
하지만 이 모든 것에는 대가가 따르며, 이러한 것들이 지속 불가능한 방식으로 운영되도록 내버려 둔다면 큰 문제가 될 것입니다. 지금 우리가 처한 상황이 바로 그렇습니다. 시스템을 어떻게 바꿔야 할지 고민할 때, 인공지능 문제는 이러한 문제들을 해결하고 대처해야 할 좋은 동기가 될 수 있다고 생각합니다. 수백만 개의 일자리가 자동화되면서 이러한 상황이 지속될 수는 없을 것이고, 불평등은 더욱 심화될 것입니다. 자본주의는 자본을 불평등하게 분배하는 경향이 있으며, 이러한 현상이 반복적으로 나타납니다.
부의 집중 현상이 항상 있어왔는데, 이제 그 과정이 훨씬 더 가속화될 것 같습니다. 저는 이것이 많은 사람들에게 좋은 결과로 이어지지 않을 거라고 생각합니다. 우리는 이 문제에 많은 관심을 기울여야 합니다. 그나마 다행인 점은 어쩌면 이것이 변화를 만들어낼 기회가 될 수도 있다는 것입니다.
제5부
두 번째 접촉
방금 말씀하셨듯이, 소셜 미디어와 긴장 경제를 다룬 영화 '소셜 딜레마'가 있었는데, 지금은 상황이 완전히 달라졌습니다. 말씀하신 대로 모든 것이 매우 빠르게 발전하고 있죠. 인공지능(AI)도 등장했는데, 얼마나 많은 사람들이 AI의 작동 방식을 제대로 알고 있는지는 모르겠지만, 모든 과정이 어떻게 돌아가고 앞으로 어떻게 발전할지 예측하기 어렵습니다. 그래서 지금은 모든 것이 불확실한 시기입니다. 이러한 상황에 대해 좀 더 자세히 말씀해 주시겠어요? 장점과 단점은 무엇이고, 우리가 무엇에 주의해야 할까요?
네, 물론입니다. 청취자 여러분께서 가장 기억하셔야 할 점은 기술이 항상 인류 발전을 가속화해 왔다는 것입니다. 기술은 인류 역사상 가장 강력한 가속기라고 할 수 있습니다. 인공지능은 이러한 가속의 정점이라고 할 수 있습니다. 모든 것을 매우 빠른 속도로 가속화하고 있죠. 최신 세대의 인공지능은 놀라울 정도로 뛰어납니다. 생성형 인공지능은 텍스트, 이미지, 오디오, 비디오 등 모든 것을 매우 높은 품질로 생성할 수 있으며, 발전 속도 또한 무어의 법칙이나 반도체 칩 기술보다 훨씬 빠릅니다. 반도체 기술도 중요하지만 알고리즘 기술 또한 중요한 역할을 합니다. 우리가 시스템을 운영하는 방식, 데이터를 수집하는 방식, 컴퓨터를 클러스터로 연결하는 방식 등 모든 것이 인공지능 발전을 이끌고 있습니다. 인공지능은 정말 빠르게 발전하고 있습니다.
그래서 인공지능은 가장 큰 가속기가 될 것이고, 우리가 현재 하고 있는 모든 일들을 가속화할 것입니다. 어떤 기업이든 생각해 보면, 그들은 신중하게 전략을 세우고, 강점과 약점을 분석한 후 투자를 결정했습니다. 공장과 공정, 인력을 구축하고, 자신들이 일하는 방식을 정립해 왔습니다. 이제 모든 기업이 주목하는 것은 '우리의 방식은 좋지만, 어떻게 하면 더 좋게 만들 수 있을까?'입니다. 인공지능은 어떻게 이 과정을 가속화할 수 있을까요? 모두가 이 질문을 던지고 있습니다.
이미 우리가 주로 착취적인 시스템을 가지고 있다면, 이제 그 착취를 극대화하는 것입니다. 마찰을 줄이기 위해 가능한 모든 곳에서 노력하는 과정에서 그 효과는 몇 배로 증폭될 것입니다. 이것이 한 가지 측면입니다. 또 다른 측면이 있는데… 아니, 어쩌면 가장 중요한 측면이라고 해야 할 것 같습니다. 저는 이것이 우리의 미래를 이끌어갈 것이라고 생각합니다. 그중 하나가 바로 자동화 과정입니다. 이는 상식적인 이야기입니다. 사업주라면 누구나 사업 운영을 개선하고, 일을 더 빠르고 효율적으로 처리할 수 있는 새로운 기술을 찾고 있습니다. 따라서 특히 인지 능력이 요구되는 직종, 즉 학사 및 석사 학위 소지자를 위한 직종에서 업무의 일부가 자동화될 것입니다. 이러한 유형의 직종, 이러한 사고방식을 요구하는 직종에서 말입니다.
인공지능은 그런 면에서 꽤 뛰어납니다. 육체노동은 더 어렵죠. 좀 더 시간이 걸리겠지만, 로봇도 훈련을 받고 있습니다. 이건 사실입니다. 하지만 우선은 인지적인 업무부터 자동화될 겁니다. 인지적인 업무의 상당 부분이 자동화되고 사람이 해야 할 일이 조금만 남게 되면, 사업주들은 "잠깐만. 사람 네 명이 필요 없네. 한 명만 있으면 되겠어."라고 생각하기 시작할 겁니다. 왜냐하면 사람을 고용하면 항상 조정하는 데 드는 추가 비용이 발생하고, 사람은 실수를 저지르기도 하고, 아프기도 하고, 우선순위가 정해져 있고, 휴가도 필요하고, 의료보험도 필요하니까요. 하지만 기계는 그런 것들이 필요 없죠.
그래서 이런 현상이 나타날 겁니다. 사업적으로도 이득이 될 것이고, 사람들은 사업적인 선택을 할 것입니다. 낙수효과 이론이 통하지 않는 이유도 마찬가지입니다. 인간 심리가 그렇게 작동하지 않기 때문입니다. 단순화하고 자동화하고 비용을 절감할 기회가 있다면 사업주들은 그렇게 할 것입니다. 왜냐하면 그렇게 하는 것이 그들에게 보상이 되기 때문입니다. 이것이 우리가 예상할 수 있는 추세이며, 지배적인 추세입니다. 동시에 인공지능이 의학 연구와 기후 변화에 큰 도움이 될 것이라는 점도 분명히 짚고 넘어가야 합니다. 탄소 배출량 감축 또한 인공지능이 가능하게 할 수 있는 일 중 하나입니다.
새로운 에너지원, 즉 배터리 기술이나 보다 지속 가능하고 생산성이 높은 에너지원, 의학 등 이 모든 것들은 앞으로 일어날 수 있는 훌륭한 일들입니다. 의심의 여지가 없습니다. 하지만 우리는 항상 이러한 일들에는 순서가 있다는 점을 강조합니다. 사회가 그 전에 무너진다면 모든 좋은 것들을 이룰 수는 없습니다. 마치 넘어야 할 문과 같습니다. 그 문을 통과하려면 세상을 제대로 이해하고, 현명한 선택을 하고, 그 과정에서 우리 자신을 잃지 않는 능력이 필요합니다. 일자리와 사람들에 대한 모든 문제에는 일종의 안정성이 보장되어야 합니다. 우리는 지금보다 더 심각한 불평등을 초래하지 않는, 오히려 불평등을 줄이는 방향으로 나아가는 시스템을 구축해야 합니다. 그래야만 밝은 미래로 나아갈 수 있을 것입니다.
이러한 작업들은 올바른 순서대로 진행되어야 합니다. 하지만 소셜 미디어 기업들이 그랬던 것처럼, 지금의 모든 기업들은 인공지능을 어떻게 최대한 빨리 도입하고 최신 기술을 활용하여 수익을 극대화할 수 있을지에만 급급한 나머지, 그로 인한 피해를 평가하고, 완화하고, 예측 불가능한 피해를 예방하기 위해 필요한 투자를 하지 않고 있습니다. 소셜 미디어가 인공지능과의 첫 번째 접촉이었다면, 이번 인공지능 시대는 두 번째 접촉이라고 할 수 있습니다. 첫 번째 접촉과 마찬가지로, 이번에도 모든 파급 효과를 예측할 수는 없었습니다.
우리는 이러한 관심 현상을 목격했지만, 그로 인한 파급 효과는 명확하게 파악하지 못했습니다. 똑같은 상황이죠.