Una supercomputadora apuntando a tu cerebro: atención plena, máquinas y métricas

Todas las plataformas que utilizas se basan en el mismo argumento: hiciste clic, así que debías quererlo. Randima Fernando cree que esa es la mayor mentira que la economía de la atención se cuenta a sí misma: el mismo reflejo que hace que un conductor dirija la mirada hacia un accidente de coche en la autopista, confundiéndolo con deseo. Crea un feed que muestre accidentes de coche todo el día y conseguirás clics. Pero no conseguirás nada que la gente realmente quisiera.

Randima Fernando fue criado por padres budistas, dedicó siete años a crear una organización sin ánimo de lucro que implementó la práctica de la atención plena en las escuelas y ha dedicado otros ocho a asesorar a Silicon Valley sobre diseño humanista. Por eso resulta extraño oírle decir a Thomas Hübl, sin rodeos, que la meditación por sí sola no te salvará. No porque la atención plena no funcione, sino porque lo que está al otro lado de la pantalla es, en sus palabras, una supercomputadora apuntando a tu cerebro, y ninguna cantidad de disciplina puede vencer de forma fiable a un oponente que tiene más información sobre ti que tú mismo. Pero no se queda ahí: su respuesta se divide en dos vertientes: una centrada en lo que una persona puede hacer en su propia vida y otra en lo que debe cambiar en el sistema mismo.

En este resumen

Primera parte

Monetización de las Unidades Fundamentales de Vida

Según Randima, «la atención es la unidad fundamental con la que opera la mente», y toda una industria existe porque esa unidad resultó ser divisible y comercializable. Los productos gratuitos existen para extraer esa atención y luego revenderla a los anunciantes, lo que significa que una plataforma no está optimizada para lo que realmente viniste a hacer. Está optimizada para cuánto tiempo puede retenerte antes de pasarte a otra persona.

Esa única discrepancia tiene un efecto dominó. Cuando TikTok encontró una forma más rápida de captar la atención con vídeos cortos, todos los competidores, en sus propias palabras, se vieron obligados a "volver a las salas de juntas y a las sesiones de estrategia" para copiarlo o perder terreno: una carrera que premia lo que capta la atención más rápido, sin ningún mecanismo para preguntar qué coste tiene para el usuario. El periodismo tiende hacia el extremo sensacionalista, hiperbólico y divisivo del espectro porque es lo que sobrevive al algoritmo. Las campañas políticas realizan pruebas A/B y aprenden, empíricamente, que el titular que genera más indignación es el que gana, así que publican más. Un botón de "Me gusta" le enseña discretamente a una plataforma qué mostrarte más, y un feed se va estrechando, año tras año, hasta convertirse en una versión cada vez más extrema de lo que ya tuvo repercusión. Su experimento propuesto es sorprendentemente sencillo: intercambia feeds con un amigo que vote de forma diferente a ti. Verás, dice, "contenido muy diferente y una realidad muy diferente". Los niños captan la "física social" subyacente de los "me gusta" y las interacciones del mismo modo que aprenden la gravedad: desde pequeños, por intuición y sin necesidad de instrucciones. Randima traslada esta misma lógica de extracción hasta los confines del planeta: el crecimiento basado en "miles de millones de aires acondicionados, miles de millones de coches, miles de millones de cabezas de ganado" se comporta de la misma manera que la extracción de atención; ambas acaban superando la capacidad de absorción del sistema subyacente, ya sea una mente o una atmósfera.

Segunda parte

Reflejo, no deseo

Thomas aporta su propia perspectiva al patrón: un sistema nervioso regulado, sugiere, propicia una relación más matizada con la tecnología, con mayor capacidad para detectar anomalías y una mayor libertad de elección. Un sistema desregulado, provocado por un trauma que desencadena hiperactivación, insensibilidad o fragmentación, reduce ese mismo campo antes incluso de que la persona pueda elegir. Le pregunta directamente a Randima: ¿está la economía de la atención aprendiendo a explotar deliberadamente esa desregulación interna?

La respuesta de Randima se centra en la adicción como una cuestión de profundidad: hasta dónde llega, en sus palabras, "el conector" en el cerebro. Estas tecnologías han aprendido a activar las respuestas de dopamina que evolucionaron para recompensar la supervivencia y la reproducción, y las dirigen a la nada: una notificación, un desplazamiento, un destello de luz. El caso más claro, para él, son los niños, no porque tengan algún problema, sino porque sus sistemas de dopamina aún se están adaptando al mundo. Si se coloca una pantalla frente a un niño de dos años, sus ojos la seguirán involuntariamente, porque el brillo se ha diseñado para superar todo lo demás en la habitación; lo que él llama un "estímulo hipernormal", más allá de lo que un cuerpo evolutivamente espera. Una vez que los receptores de dopamina de un niño se han calibrado a ese nivel de información, la vida cotidiana se percibe como plana, y quitarle el dispositivo puede provocar una angustia real y desproporcionada.

Él hace hincapié en una distinción que la mayoría de las conversaciones sobre tecnología pasan por alto: lo que la gente hace clic no es lo mismo que lo que quiere. "La gente hizo clic, así que eso es lo que quiere", dicen las empresas, pero Randima argumenta que eso confunde el reflejo con la intención.

Según él, todo el mundo mira un accidente de coche en la autopista porque la atención al peligro es un mecanismo de supervivencia, no porque alguien desee un mundo lleno de accidentes. Su conclusión es estructural, no moralizante: una empresa que sobrevive gracias a tu atención tiene un conflicto de intereses inherente con respecto a servirte realmente , porque un producto verdaderamente útil te daría lo que necesitas y te dejaría marchar, justo lo contrario de lo que mantiene altas las estadísticas.

Tercera parte

Límites de extracción y cambio del sistema

Cuando se le pregunta cómo cambia realmente el sistema, Randima divide la pregunta claramente en dos: qué es posible dentro de la economía actual y si esa economía es sostenible. Dentro de ella, dice, todo se reduce al precio, por lo que las intervenciones que funcionan son las que finalmente impactan en los resultados de una empresa . Un documental como El dilema de las redes sociales crea conciencia pública; la conciencia se convierte en presión política para nuevas leyes; las leyes permiten litigios; los litigios finalmente le ponen precio a los daños que antes se podían causar libremente. Los denunciantes importan por la misma razón: un documento interno filtrado es prueba de que una empresa lo sabía, lo que convierte la conciencia en responsabilidad. El obstáculo, siempre, es la velocidad: la tecnología avanza más rápido de lo que cualquiera de estos mecanismos correctivos puede seguirla.

Si ampliamos aún más la perspectiva, Randima aplica a la mente la misma ley que aplicaría al petróleo.

Extraer petróleo del subsuelo a un ritmo mayor del que millones de años pueden regenerarlo es un problema. Disminuir la atención, la concentración y la capacidad de razonamiento a un ritmo mayor del que el descanso y la reflexión pueden recuperarlas también es un problema, siguiendo la misma lógica. Capacidades tan valiosas como la atención sostenida requieren una disciplina firme para desarrollarse y se debilitan con mucha facilidad; una práctica semanal de meditación, señala, no se compara con un teléfono diseñado para competir por la atención durante ocho horas al día o más. Los niños, cuyas mentes son más maleables, lo perciben con mayor rapidez.

Conecta este tema con la desigualdad mediante una afirmación que funciona también como diagnóstico: el capitalismo «es muy sensible al capital» , responsable de los avances reales en medicina, alimentación y tecnología, y que, a su vez, concentra la riqueza de forma igualmente eficaz a menos que algo lo contrarreste activamente. Considera que la llegada de la IA potente no es tanto un problema nuevo como el mismo problema a mayor velocidad, y, posiblemente, la presión que finalmente obliga a cambiar la estructura de incentivos.

Cuarta parte

IA: Problema de extracción, ahora más rápido

El planteamiento de Randima sobre la inteligencia artificial es engañosamente simple: la tecnología siempre ha sido el mayor acelerador de la humanidad, y esta generación de IA es la versión más potente de ese acelerador hasta la fecha, acumulando avances en hardware, algoritmos, datos y computación simultáneamente, a un ritmo mucho más rápido que la Ley de Moore. Hay una ironía en la que no se detiene: el mismo hardware gráfico que desarrolló durante siete años en Nvidia para crear imágenes en una pantalla, para "iluminar píxeles", resultó ser, casi por accidente, el motor de la misma aceleración sobre la que ahora advierte.

Pero un acelerador no cambia de dirección. Amplifica la dirección en la que ya apunta un sistema. En una economía predominantemente extractiva, la IA no redirige la extracción, sino que la acelera al máximo. El efecto más cercano, argumenta, es la automatización del trabajo cognitivo antes que del trabajo físico, por la sencilla razón de que el software es más fácil de automatizar que la robótica. La lógica empresarial no es tanto siniestra como mundana: las máquinas no necesitan bajas por enfermedad, vacaciones ni atención médica, así que dondequiera que una empresa pueda reducir costes simplificando, lo hará; la misma gravedad estructural que hizo que la teoría del goteo económico fracasara en su intento de distribuir algo.

Él se cuida de no convertir esto en una historia con un único final. El potencial de la IA —en medicina, en soluciones climáticas, en nuevas fuentes de energía— es real, afirma, y ​​no debe descartarse. Su advertencia se refiere a la secuencia: la sociedad debe superar un umbral de razonamiento lógico y decisiones colectivas acertadas antes de que esos beneficios se materialicen, y si los sistemas subyacentes se desmoronan primero —polarización, desigualdad, una realidad compartida ya fracturada— los buenos resultados nunca llegarán.

Según su relato, lo que hace que este segundo contacto sea más peligroso es la distribución: esta tecnología no está centralizada como lo estaban las plataformas de redes sociales, lo que significa que las herramientas regulatorias que tenían dificultades incluso con un puñado de grandes empresas se enfrentan ahora a algo que funciona en el teléfono de todo el mundo; cualquiera puede generar un vídeo falso convincente o un artículo de investigación falso a su antojo.

Parte cinco

Gánalo sin estar en la pelea.

Para concluir, Randima propone dos movimientos distintos: no son secuenciales ni excluyentes, sino lo suficientemente diferentes como para que cada uno tenga su propia importancia. Uno está dirigido al sistema. El otro, al individuo.

Cambiar los incentivos

Para comprender qué es lo que realmente busca optimizar cualquier sistema, empresa o persona, hay que analizar la estructura de incentivos, no las palabras: los incentivos revelan mucho más sobre el comportamiento que las palabras o las campañas publicitarias. Se trata de la misma lógica fundamental que se abordó en la tercera parte: mecanismos de precios, legislación, litigios y denunciantes que transforman la información confidencial en responsabilidad real. Cambiar aquello por lo que una empresa recibe recompensas es más lento que cambiar un hábito, pero es la palanca que influye en el sistema en sí, no solo en la relación de una persona con él.

Renuncia

El paso a nivel personal comienza antes que todo lo demás: aclara de forma genuina, idealmente en voz alta, con personas y maestros de tu confianza, qué significan realmente para ti una vida sabia y un verdadero florecimiento, y deja que esa claridad, y no los menús algorítmicos de Netflix o las redes sociales, guíe tu atención.

Thomas retoma la conversación directamente sobre la atención plena: ¿qué papel desempeña realmente en este contexto? La respuesta de Randima consta de dos partes, y aquí es donde se explica en su totalidad la afirmación inicial. La primera parte es generosa: la atención plena desarrolla una verdadera consciencia —de los pensamientos, las emociones y las sensaciones corporales—, lo que crea el espacio interno necesario para percibir una decisión antes de tomarla, en lugar de después. Combinada con una claridad previa sobre cómo es una vida plena, esa pausa es donde, en realidad, se toman mejores decisiones.

La segunda parte es la más difícil, y es la misma con la que empezó: ni siquiera un entrenamiento avanzado en atención plena te servirá de mucho si estás dentro de un sistema creado por una empresa que realiza análisis constantes contra los sesgos cognitivos humanos fundamentales; una supercomputadora apuntando al cerebro, como él la describe. Su consejo final no es superar en disciplina al algoritmo. Es una especie de renuncia, una separación deliberada de todo aquello que ya se ha identificado como deficiente, en lugar de una batalla que se gana esforzándose más.

No ganar. Rechazar la lucha por completo y usar la claridad que brinda la atención plena para ver, con mayor nitidez, dónde no posicionarse.

Ninguna de las dos acciones sustituye a la otra. Modificar los incentivos cambia lo que el sistema recompensa; la renuncia cambia la propia relación con ese sistema, aunque este siga siendo el mismo. Randima lleva años haciendo ambas cosas a la vez.

↑ Volver arriba