Một siêu máy tính nhắm thẳng vào não bạn: Chánh niệm, máy móc và số liệu

Mọi nền tảng bạn sử dụng đều hướng đến cùng một luận điểm: bạn đã nhấp chuột, vậy nên chắc chắn bạn muốn điều đó. Randima Fernando cho rằng đó là lời nói dối lớn nhất mà nền kinh tế chú ý tự nói với chính mình — cùng một phản xạ khiến người lái xe lập tức nhìn chằm chằm vào một vụ tai nạn xe hơi trên đường cao tốc, nhầm lẫn đó là sự ham muốn. Hãy tạo ra một nguồn cấp dữ liệu liên tục đăng tải các vụ tai nạn xe hơi và bạn sẽ nhận được lượt nhấp chuột. Nhưng bạn sẽ không nhận được bất cứ thứ gì mà ai đó thực sự muốn.

Randima Fernando được nuôi dưỡng trong một gia đình theo đạo Phật, dành bảy năm xây dựng một tổ chức phi lợi nhuận đưa chánh niệm vào trường học, và tám năm nữa tư vấn cho Thung lũng Silicon về thiết kế nhân văn. Vì vậy, thật lạ khi nghe ông thẳng thừng nói với Thomas Hübl rằng chỉ thiền định thôi sẽ không cứu rỗi được bạn. Không phải vì chánh niệm không hiệu quả — mà vì thứ ở phía bên kia màn hình của bạn, theo lời ông, là một siêu máy tính đang nhắm vào não bạn, và không có bất kỳ sự kỷ luật nào có thể đánh bại một đối thủ có nhiều dữ liệu về bạn hơn chính bạn. Tuy nhiên, ông không dừng lại ở đó: câu trả lời thực sự của ông đi theo hai hướng cùng một lúc, một hướng đến những gì một người có thể làm trong cuộc sống của chính họ, và một hướng đến những gì cần phải thay đổi trong chính hệ thống.

Tóm lại

Phần một

Kiếm tiền từ các đơn vị sinh mệnh cơ bản

Randima nói: "Sự chú ý là đơn vị cơ bản mà tâm trí hoạt động" - và cả một ngành công nghiệp tồn tại bởi vì đơn vị đó hóa ra lại có thể chia nhỏ và bán được. Các sản phẩm miễn phí tồn tại để thu thập các phần nhỏ đó, rồi bán lại cho các nhà quảng cáo, điều đó có nghĩa là một nền tảng không được tối ưu hóa cho những gì bạn thực sự muốn làm. Nó được tối ưu hóa cho việc giữ chân bạn trong bao lâu trước khi chuyển bạn cho người khác.

Sự sai lệch nhỏ đó lan rộng ra. Khi TikTok tìm ra cách nhanh hơn để thu hút sự chú ý bằng video ngắn, mọi đối thủ cạnh tranh, theo lời ông, "bị đẩy trở lại phòng họp và các buổi họp chiến lược" để sao chép hoặc mất lợi thế - một cuộc đua mà phần thưởng thuộc về bất cứ điều gì thu hút sự chú ý nhanh nhất, mà không có cơ chế nào để hỏi xem người ở đầu kia phải trả giá như thế nào. Báo chí dần nghiêng về phía "giật gân, cường điệu, gây chia rẽ" vì đó là những gì tồn tại được qua thuật toán. Các chiến dịch chính trị chạy thử nghiệm A/B và học hỏi một cách thực nghiệm rằng tiêu đề gây phẫn nộ nhất sẽ thắng - vì vậy họ đăng nhiều tiêu đề như vậy hơn. Nút "thích" âm thầm dạy cho nền tảng biết nên hiển thị cho bạn nhiều nội dung hơn, và nguồn cấp dữ liệu thu hẹp lại, năm này qua năm khác, thành một phiên bản ngày càng cực đoan hơn của bất cứ điều gì đã gây được tiếng vang. Thí nghiệm mà ông đề xuất gần như đơn giản đến mức đáng lo ngại: trao đổi nguồn cấp dữ liệu với một người bạn có quan điểm bỏ phiếu khác với bạn. Bạn sẽ thấy, ông nói, "nội dung rất khác và thực tế rất khác." Trẻ em tiếp thu "vật lý xã hội" cơ bản của lượt thích và chia sẻ giống như cách chúng học trọng lực - từ sớm, và bằng cảm giác, chứ không phải bằng hướng dẫn. Randima mở rộng logic khai thác tương tự đến tận cùng hành tinh: sự tăng trưởng được xây dựng trên "hàng tỷ máy điều hòa, hàng tỷ ô tô, hàng tỷ gia súc" hoạt động theo cùng một cách như việc khai thác sự chú ý - cả hai cuối cùng đều vượt quá khả năng hấp thụ của hệ thống cơ bản, một tâm trí hay một bầu khí quyển.

Phần Hai

Phản xạ, không phải ham muốn

Thomas đưa ra cách nhìn riêng của mình về vấn đề này: ông cho rằng một hệ thần kinh được điều chỉnh tốt sẽ tạo ra mối quan hệ tinh tế hơn với công nghệ — khả năng nhận biết những gì bất thường tốt hơn, nhiều lựa chọn thực sự hơn. Ngược lại, một hệ thần kinh rối loạn, chấn thương khiến ai đó rơi vào trạng thái kích hoạt quá mức, tê liệt cảm xúc hoặc phân mảnh, sẽ thu hẹp phạm vi lựa chọn đó ngay cả trước khi người đó kịp đưa ra quyết định. Ông hỏi thẳng Randima: liệu nền kinh tế chú ý có đang học cách khai thác sự rối loạn nội tại đó một cách có chủ đích hay không?

Câu trả lời của Randima xoay quanh chứng nghiện ở mức độ sâu sắc — theo lời ông, "cái jack" (ám chỉ sự ảnh hưởng, can thiệp) vào não bộ đến mức nào. Những công nghệ này đã học cách kích hoạt phản ứng dopamine, vốn được tiến hóa để tưởng thưởng cho sự sống còn và sinh sản, và hướng chúng vào những thứ vô nghĩa: một thông báo, một thao tác cuộn chuột, một tia sáng. Trường hợp rõ ràng nhất, theo ông, là trẻ em — không phải vì có điều gì đó không ổn với chúng, mà vì hệ thống dopamine của chúng vẫn đang điều chỉnh để thích nghi với thế giới. Đặt một màn hình trước mặt một đứa trẻ hai tuổi và mắt chúng sẽ tự động dõi theo, bởi vì độ sáng đã được thiết kế để vượt trội hơn mọi thứ khác trong phòng — điều mà ông gọi là "kích thích siêu bình thường", vượt xa bất cứ điều gì mà cơ thể đã tiến hóa để mong đợi. Một khi các thụ thể dopamine của trẻ đã điều chỉnh đến mức độ đầu vào đó, cuộc sống bình thường trở nên tẻ nhạt, và việc lấy đi thiết bị có thể gây ra sự đau khổ thực sự, không tương xứng.

Ông ấy rất cẩn trọng về một sự khác biệt mà hầu hết các cuộc thảo luận về công nghệ thường bỏ qua: những gì mọi người nhấp chuột không giống với những gì họ muốn. "Mọi người đã nhấp chuột vào đó, vậy nên đó là những gì họ muốn," các công ty nói - nhưng Randima lập luận rằng điều đó đã nhầm lẫn giữa phản xạ và ý định.

Ông ấy nói rằng mọi người đều nhìn vào những vụ tai nạn xe hơi trên đường cao tốc bởi vì sự chú ý đến nguy hiểm là một cơ chế sinh tồn, chứ không phải vì ai đó thực sự muốn một thế giới đầy rẫy tai nạn xe hơi. Kết luận của ông mang tính cấu trúc, chứ không phải là giáo điều: một doanh nghiệp tồn tại nhờ sự chú ý của bạn sẽ có mâu thuẫn lợi ích cố hữu với việc thực sự phục vụ bạn , bởi vì một sản phẩm thực sự hữu ích sẽ cung cấp cho bạn những gì bạn cần và cho phép bạn rời đi — điều ngược lại với những gì giúp duy trì các chỉ số cao.

Phần ba

Giới hạn khai thác và sự dịch chuyển hệ thống

Khi được hỏi hệ thống thực sự thay đổi như thế nào, Randima đã chia câu hỏi thành hai phần rõ ràng: điều gì khả thi trong nền kinh tế hiện tại, và liệu nền kinh tế đó có bền vững hay không. Ông nói, trong đó, mọi thứ cuối cùng đều xoay quanh giá cả — vì vậy , những biện pháp can thiệp hiệu quả là những biện pháp cuối cùng ảnh hưởng đến lợi nhuận của công ty . Một bộ phim tài liệu như The Social Dilemma nâng cao nhận thức cộng đồng; nhận thức trở thành áp lực chính trị để ban hành luật mới; luật pháp cho phép kiện tụng; kiện tụng cuối cùng gắn một con số tiền tệ cho những thiệt hại mà trước đây có thể gây ra một cách tự do. Người tố giác cũng quan trọng vì lý do tương tự — một tài liệu nội bộ bị rò rỉ là bằng chứng cho thấy công ty đã biết, đó là điều biến nhận thức thành trách nhiệm pháp lý. Trở ngại, luôn luôn, là tốc độ: công nghệ phát triển nhanh hơn bất kỳ cơ chế điều chỉnh nào có thể theo kịp.

Nhìn ở phạm vi rộng hơn nữa, Randima áp dụng cùng một quy luật cho tâm trí như ông đã áp dụng cho dầu mỏ.

Khai thác dầu mỏ nhanh hơn tốc độ tái tạo của hàng triệu năm là một vấn đề. Làm suy giảm sự chú ý, tập trung và khả năng hiểu biết nhanh hơn tốc độ nghỉ ngơi và suy ngẫm có thể phục hồi chúng, và – theo cùng logic đó – đó cũng là một vấn đề. Những khả năng khó đạt được như sự tập trung bền vững cần kỷ luật thực sự để xây dựng và rất ít khi bị suy giảm; ông lưu ý rằng, việc thực hành thiền định hàng tuần không thể sánh được với việc sử dụng điện thoại được thiết kế để cạnh tranh sự chú ý tám giờ một ngày hoặc hơn. Trẻ em, với trí óc dễ uốn nắn hơn, cảm nhận điều này nhanh nhất.

Ông liên kết vấn đề bất bình đẳng với một nhận định vừa là vấn đề chính vừa là chẩn đoán: chủ nghĩa tư bản "rất nhạy cảm với vốn" — thực sự chịu trách nhiệm cho những tiến bộ thực sự trong y học, thực phẩm và công nghệ, và cũng chắc chắn tập trung của cải trừ khi có điều gì đó chủ động chống lại nó. Ông coi sự xuất hiện của trí tuệ nhân tạo mạnh mẽ không phải là một vấn đề mới mà là vấn đề cũ với tốc độ nhanh hơn — và, có thể, là áp lực cuối cùng buộc cấu trúc khuyến khích phải thay đổi.

Phần bốn

Trí tuệ nhân tạo: Giải quyết vấn đề trích xuất dữ liệu, giờ đây nhanh hơn.

Quan điểm của Randima về trí tuệ nhân tạo thoạt nhìn có vẻ đơn giản: công nghệ luôn là động lực thúc đẩy mạnh mẽ nhất của nhân loại, và thế hệ AI hiện tại là phiên bản mạnh mẽ nhất của động lực đó – tạo ra những tiến bộ vượt bậc trên phần cứng, thuật toán, dữ liệu và khả năng tính toán cùng một lúc, nhanh hơn cả định luật Moore. Có một điều trớ trêu mà ông không đề cập đến: chính phần cứng đồ họa mà ông đã dành bảy năm tại Nvidia để xây dựng, dùng để tạo ra hình ảnh trên màn hình, "thắp sáng các điểm ảnh", lại vô tình trở thành động lực thúc đẩy sự phát triển mà ông đang cảnh báo hiện nay.

Nhưng bộ tăng tốc không thay đổi hướng đi. Nó khuếch đại hướng đi mà hệ thống đã hướng tới. Hướng đến một nền kinh tế chủ yếu dựa vào khai thác, AI không chuyển hướng việc khai thác — mà nó đẩy nó "lên mức tối đa". Ông lập luận rằng hiệu ứng gần nhất là tự động hóa công việc trí tuệ trước công việc chân tay, vì lý do đơn giản là phần mềm dễ tự động hóa hơn robot. Logic kinh doanh không quá nham hiểm mà chỉ đơn giản là bình thường: máy móc không cần nghỉ ốm, nghỉ phép hay chăm sóc sức khỏe, vì vậy bất cứ nơi nào một công ty có thể cắt giảm chi phí bằng cách đơn giản hóa, họ sẽ làm vậy — cùng một lực hấp dẫn cấu trúc đã khiến kinh tế học "chảy xuống" thất bại trong việc thực sự phân phối bất cứ thứ gì.

Ông ấy cẩn thận không để câu chuyện này chỉ có một kết thúc duy nhất. Ông nói rằng những lợi ích của AI – trong y học, trong các giải pháp khí hậu, trong các nguồn năng lượng mới – là có thật và không nên bị bỏ qua. Điều ông lưu ý là về trình tự: xã hội phải vượt qua được rào cản của việc đưa ra những quyết định sáng suốt và những lựa chọn tập thể đúng đắn trước khi những lợi ích đó thực sự có thể được hiện thực hóa, và nếu các hệ thống nền tảng sụp đổ trước – sự phân cực, bất bình đẳng, một thực tại chung đã bị chia rẽ – thì những kết quả tốt đẹp sẽ không bao giờ đến.

Theo ông, điều khiến sự tiếp xúc thứ hai này trở nên nguy hiểm hơn là sự phân phối: công nghệ này không tập trung như các nền tảng mạng xã hội, điều đó có nghĩa là các công cụ quản lý vốn đã gặp khó khăn ngay cả với một số ít các công ty lớn giờ đây phải đối mặt với thứ đang hoạt động trên điện thoại của mọi người — bất cứ ai giờ đây cũng có thể tạo ra một video giả mạo thuyết phục, hoặc một bài nghiên cứu giả mạo, theo ý muốn.

Phần năm

Giành chiến thắng bằng cách không tham gia cuộc chiến.

Tóm lại, Randima đưa ra hai động thái riêng biệt — không theo trình tự, không phải là lựa chọn một trong hai, nhưng đủ khác biệt để mỗi động thái đều có trọng lượng riêng. Một động thái nhắm vào hệ thống. Một động thái nhắm vào bản thân.

Thay đổi động lực

Để hiểu rõ bất kỳ hệ thống, công ty hay cá nhân nào thực sự đang tối ưu hóa điều gì, hãy đọc cấu trúc động lực, chứ không phải những lời nói được nêu ra: động lực tiết lộ nhiều hơn về hành vi so với lời nói hay các chiến dịch quảng cáo. Đó là logic cốt lõi tương tự như đã đề cập ở Phần Ba phía trên — cơ chế giá cả, luật pháp, kiện tụng, người tố giác biến nhận thức thầm lặng thành trách nhiệm pháp lý thực sự. Thay đổi những gì một công ty được khen thưởng khi làm sẽ chậm hơn so với thay đổi một thói quen, nhưng đó là đòn bẩy tác động đến chính hệ thống, chứ không chỉ mối quan hệ của một người với hệ thống đó.

Từ bỏ

Bước chuyển đổi cá nhân bắt đầu trước tất cả những điều còn lại: hãy thực sự rõ ràng, lý tưởng nhất là nói ra thành lời, với những người và giáo viên mà bạn tin tưởng, về ý nghĩa của một cuộc sống khôn ngoan và sự thành công thực sự đối với bạn — và hãy để sự rõ ràng đó, chứ không phải các thuật toán của Netflix hay mạng xã hội, định hướng sự chú ý của bạn.

Thomas trực tiếp đưa cuộc trò chuyện trở lại với chánh niệm: vậy chánh niệm thực sự đóng vai trò gì ở đây? Câu trả lời của Randima gồm hai phần, và đây là nơi mà luận điểm ở đầu bài viết được giải thích đầy đủ. Phần đầu tiên khá rộng lượng: chánh niệm xây dựng nhận thức thực sự — về suy nghĩ, cảm xúc, cảm giác cơ thể — tạo ra không gian nội tâm để nhận ra một lựa chọn trước khi nó được thực hiện thay vì sau đó. Kết hợp với sự hiểu rõ từ trước về một cuộc sống khéo léo trông như thế nào, khoảnh khắc tạm dừng đó chính là nơi những lựa chọn tốt hơn thực sự được đưa ra.

Phần thứ hai khó hơn, và cũng chính là phần ông ấy đã mở đầu: ngay cả việc luyện tập chánh niệm nâng cao cũng không giúp ích được nhiều nếu bạn đang đứng trong một hệ thống được xây dựng bởi một công ty liên tục phân tích những thành kiến ​​nhận thức cơ bản của con người — một siêu máy tính nhắm vào não bộ, như ông ấy nói. Lời khuyên cuối cùng của ông không phải là vượt qua thuật toán bằng cách rèn luyện kỷ luật. Đó là một kiểu từ bỏ, một sự tách biệt có chủ ý khỏi bất cứ điều gì đã được xác định là không khéo léo, chứ không phải là một cuộc chiến cần thắng bằng cách cố gắng hơn nữa.

Không giành chiến thắng. Từ chối chiến đấu hoàn toàn — và sử dụng sự minh mẫn mà chánh niệm mang lại để nhìn rõ hơn những điểm không nên đứng.

Cả hai hành động đều không thể thay thế cho nhau. Việc thay đổi động lực sẽ thay đổi những gì hệ thống khen thưởng; việc từ bỏ sẽ thay đổi mối quan hệ của bạn với hệ thống đó trong khi nó vẫn giữ nguyên bản chất. Randima đã dành nhiều năm để thực hiện cả hai cùng một lúc.

↑ Trở lại đầu trang