Ένας υπερυπολογιστής που στρέφεται προς τον εγκέφαλό σας: Ενσυνειδητότητα, Μηχανές & Μετρήσεις

Κάθε πλατφόρμα που χρησιμοποιείτε υποδηλώνει το ίδιο επιχείρημα: κάνατε κλικ, άρα πρέπει να το θέλατε. Η Ραντιμά Φερνάντο πιστεύει ότι αυτό είναι το μεγαλύτερο ψέμα που λέει η οικονομία της προσοχής για τον εαυτό της - το ίδιο αντανακλαστικό που στρέφει τα μάτια ενός οδηγού σε ένα τροχαίο ατύχημα στον αυτοκινητόδρομο, το οποίο εκλαμβάνεται λανθασμένα ως επιθυμία. Δημιουργήστε μια ροή που παράγει τροχαία ατυχήματα όλη μέρα και θα έχετε κλικ. Δεν θα έχετε τίποτα που κάποιος ήθελε πραγματικά.

Ο Ραντιμά Φερνάντο μεγάλωσε από βουδιστές γονείς, πέρασε επτά χρόνια χτίζοντας έναν μη κερδοσκοπικό οργανισμό που επεκτάθηκε στην ενσυνειδητότητα στα σχολεία και έχει περάσει άλλα οκτώ χρόνια συμβουλεύοντας τη Σίλικον Βάλεϊ για τον ανθρώπινο σχεδιασμό. Είναι λοιπόν περίεργο να τον ακούς να λέει στον Τόμας Χιμπλ, κατηγορηματικά, ότι ο διαλογισμός από μόνος του δεν πρόκειται να σε σώσει. Όχι επειδή η ενσυνειδητότητα δεν λειτουργεί - επειδή αυτό που βρίσκεται στην άλλη πλευρά της οθόνης σου είναι, κατά τα λεγόμενά του, ένας υπερυπολογιστής που στρέφεται προς τον εγκέφαλό σου, και καμία πειθαρχία δεν κερδίζει αξιόπιστα έναν αντίπαλο που έχει περισσότερα δεδομένα για εσένα από όσα έχεις εσύ για τον εαυτό σου. Δεν το αφήνει όμως εκεί: η πραγματική του απάντηση κινείται σε δύο κατευθύνσεις ταυτόχρονα, η μία στοχεύει στο τι μπορεί να κάνει ένα άτομο στη ζωή του και η άλλη στοχεύει στο τι πρέπει να αλλάξει στο ίδιο το σύστημα.

Σε αυτήν την περίληψη

Μέρος Πρώτο

Αποκτώντας έσοδα από βασικές μονάδες ζωής

«Η προσοχή», λέει ο Ραντιμά, «είναι η θεμελιώδης μονάδα στην οποία λειτουργεί το μυαλό» — και υπάρχει μια ολόκληρη βιομηχανία επειδή αυτή η μονάδα αποδείχθηκε διαιρετή και πωλήσιμη. Υπάρχουν δωρεάν προϊόντα για να συλλέγονται τα κομμάτια και στη συνέχεια να μεταπωλούνται σε διαφημιστές, πράγμα που σημαίνει ότι μια πλατφόρμα δεν είναι βελτιστοποιημένη για αυτό που πραγματικά ήρθατε να κάνετε. Είναι βελτιστοποιημένη για το πόσο καιρό μπορεί να σας κρατήσει πριν σας παραδώσει σε κάποιον άλλο.

Αυτή η μοναδική κακή ευθυγράμμιση εξαπλώνεται προς τα έξω. Όταν το TikTok βρήκε έναν πιο γρήγορο τρόπο να κλέψει την προσοχή με βίντεο σύντομης μορφής, κάθε ανταγωνιστής στάλθηκε, όπως λέει, «πίσω στις αίθουσες συνεδριάσεων και στις συνεδρίες στρατηγικής» για να το αντιγράψει ή να χάσει έδαφος - ένας αγώνας που ανταμείβει ό,τι τραβάει την προσοχή πιο γρήγορα, χωρίς μηχανισμό να ρωτήσει πόσο κοστίζει στο άτομο στην άλλη άκρη. Η δημοσιογραφία οδεύει προς το άκρο του φάσματος «που προκαλεί κλικ, είναι υπερβολικό, διχαστικό» επειδή αυτό είναι που επιβιώνει από τον αλγόριθμο. Οι πολιτικές καμπάνιες εκτελούν δοκιμές A/B και μαθαίνουν, εμπειρικά, ότι οι τίτλοι που προκαλούν την πιο οργή κερδίζουν - έτσι εκτελούν περισσότερες από αυτές. Ένα κουμπί «μου αρέσει» διδάσκει σιωπηλά σε μια πλατφόρμα τι να σας δείξει περισσότερο, και μια ροή περιορίζεται, χρόνο με το χρόνο, σε μια ολοένα και πιο ακραία εκδοχή ό,τι έχει ήδη βρει απήχηση. Το προτεινόμενο πείραμά του είναι σχεδόν ανησυχητικά απλό: ανταλλάξτε ροές με έναν φίλο που ψηφίζει διαφορετικά από εσάς. Θα δείτε, λέει, «πολύ διαφορετικό περιεχόμενο και πολύ διαφορετική πραγματικότητα». Τα παιδιά μαθαίνουν την υποκείμενη «κοινωνική φυσική» των likes και τα κοινοποιούν με τον τρόπο που μαθαίνουν τη βαρύτητα — νωρίς και με το συναίσθημα, όχι με τη διδασκαλία. Η Randima αντλεί την ίδια λογική εξαγωγής μέχρι την άκρη του πλανήτη: η ανάπτυξη που βασίζεται σε «δισεκατομμύρια κλιματιστικά, δισεκατομμύρια αυτοκίνητα, δισεκατομμύρια ζώα» συμπεριφέρεται με τον ίδιο τρόπο που συμπεριφέρεται η εξαγωγή προσοχής — και τα δύο τελικά ξεπερνούν αυτό που μπορεί να απορροφήσει το υποκείμενο σύστημα, ένα μυαλό ή μια ατμόσφαιρα.

Μέρος Δεύτερο

Αντανάκλαση, όχι επιθυμία

Ο Τόμας φέρνει το δικό του πλαίσιο στο μοτίβο: ένα ρυθμιζόμενο νευρικό σύστημα, υποστηρίζει, δημιουργεί μια πιο λεπτή σχέση με την τεχνολογία - μεγαλύτερη ικανότητα να παρατηρεί κανείς τι είναι λάθος, περισσότερες πραγματικές επιλογές. Ένα δυσρυθμισμένο νευρικό σύστημα, το τραύμα που οδηγεί κάποιον σε υπερδραστηριότητα, μούδιασμα ή κατακερματισμό, περιορίζει το ίδιο πεδίο πριν καν προλάβει να επιλέξει. Ρωτάει ευθέως τον Ραντίμα: μήπως η οικονομία της προσοχής μαθαίνει να εκμεταλλεύεται αυτή την εσωτερική δυσλειτουργία σκόπιμα;

Η απάντηση του Randima διαπερνά τον εθισμό σε βάθος - πόσο μακριά, σύμφωνα με τα λεγόμενά του, φτάνει «η υποδοχή» στον εγκέφαλο. Αυτές οι τεχνολογίες έχουν μάθει να ενεργοποιούν τις αντιδράσεις ντοπαμίνης που εξελίχθηκαν για να ανταμείψουν την επιβίωση και την αναπαραγωγή, και δεν τις στοχεύουν πουθενά: μια ειδοποίηση, μια κύλιση, μια λάμψη φωτός. Η πιο ξεκάθαρη περίπτωση, για αυτόν, είναι τα παιδιά - όχι επειδή κάτι δεν πάει καλά με αυτά, αλλά επειδή τα συστήματα ντοπαμίνης τους εξακολουθούν να προσαρμόζονται στον κόσμο. Βάλτε μια οθόνη μπροστά σε ένα δίχρονο παιδί και τα μάτια του θα την παρακολουθούν ακούσια, επειδή η φωτεινότητα έχει σχεδιαστεί για να υπερβαίνει οτιδήποτε άλλο στο δωμάτιο - αυτό που αποκαλεί «υπερφυσιολογικό ερέθισμα», πέρα ​​από οτιδήποτε εξελίχθηκε να περιμένει ένα σώμα. Μόλις οι υποδοχείς ντοπαμίνης ενός παιδιού έχουν βαθμονομηθεί σε αυτό το επίπεδο εισόδου, η συνηθισμένη ζωή διαβάζεται ως επίπεδη και η αφαίρεση της συσκευής μπορεί να προκαλέσει πραγματική, δυσανάλογη δυσφορία.

Είναι προσεκτικός με μια διάκριση που οι περισσότερες συζητήσεις για την τεχνολογία παραβλέπουν: αυτό στο οποίο κάνουν κλικ οι άνθρωποι δεν είναι το ίδιο με αυτό που θέλουν. «Οι άνθρωποι έκαναν κλικ σε αυτό, άρα αυτό θέλουν», λένε οι εταιρείες — αλλά αυτό, υποστηρίζει ο Ραντίμα, συγχέει το αντανακλαστικό με την πρόθεση.

Όλοι κοιτάζουν ένα τροχαίο ατύχημα στον αυτοκινητόδρομο, λέει, επειδή η προσοχή στον κίνδυνο είναι ένας μηχανισμός επιβίωσης, όχι επειδή κάποιος θέλει πραγματικά έναν κόσμο γεμάτο τροχαία ατυχήματα. Η άποψή του είναι δομική, όχι ηθικολογική: μια επιχείρηση που επιβιώνει με την προσοχή σας έχει μια ενσωματωμένη σύγκρουση συμφερόντων με το να σας εξυπηρετεί πραγματικά , επειδή ένα πραγματικά χρήσιμο προϊόν θα σας έδινε αυτό που χρειαζόσασταν και θα σας άφηνε να φύγετε - το αντίθετο από αυτό που διατηρεί τις μετρήσεις ψηλά.

Μέρος Τρίτο

Όρια εξαγωγής και μετατόπισης του συστήματος

Όταν ρωτήθηκε πώς αλλάζει στην πραγματικότητα το σύστημα, ο Ραντίμα χωρίζει το ερώτημα ξεκάθαρα σε δύο: τι είναι δυνατό μέσα στην τρέχουσα οικονομία και αν αυτή η οικονομία είναι καθόλου βιώσιμη. Μέσα σε αυτήν, λέει, όλα τελικά εξαρτώνται από το κόστος - επομένως οι παρεμβάσεις που λειτουργούν είναι αυτές που τελικά αγγίζουν τα κέρδη μιας εταιρείας . Ένα ντοκιμαντέρ όπως το "The Social Dilemma" ενισχύει την ευαισθητοποίηση του κοινού. Η ευαισθητοποίηση γίνεται πολιτική πίεση για νέους νόμους. Οι νόμοι επιτρέπουν τις δικαστικές διαμάχες. Οι δικαστικές διαμάχες τελικά αποδίδουν ένα ποσό σε δολάρια σε ζημιές που ήταν ελεύθερα να προκαλέσουν. Οι καταγγέλλοντες έχουν σημασία για τον ίδιο λόγο - ένα διαρροή εσωτερικού εγγράφου αποτελεί απόδειξη ότι μια εταιρεία γνώριζε, κάτι που μετατρέπει την ευαισθητοποίηση σε ευθύνη. Το εμπόδιο, πάντα, είναι η ταχύτητα: η τεχνολογία κινείται πιο γρήγορα από ό,τι μπορούν να την εντοπίσουν οποιοσδήποτε από αυτούς τους μηχανισμούς διόρθωσης.

Αν κάνεις ακόμα μεγαλύτερο σμίκρυνση, ο Ραντίμα εφαρμόζει στο μυαλό τον ίδιο νόμο που θα εφάρμοζε στο πετρέλαιο.

Αφαιρέστε το πετρέλαιο από το έδαφος πιο γρήγορα από όσο μπορούν να το αντικαταστήσουν εκατομμύρια χρόνια, και αυτό είναι ένα πρόβλημα. Κόψτε την προσοχή, την εστίαση και την κατανόηση πιο γρήγορα από ό,τι μπορούν να τα ξαναχτίσουν η ξεκούραση και ο στοχασμός, και - με την ίδια λογική - αυτό είναι επίσης ένα πρόβλημα. Ικανότητες που αποκτήθηκαν με κόπο, όπως η διαρκής προσοχή, απαιτούν πραγματική πειθαρχία για να χτιστούν και πολύ λίγα για να διαβρωθούν. Μια εβδομαδιαία πρακτική διαλογισμού, σημειώνει, δεν μπορεί να συγκριθεί με ένα τηλέφωνο που έχει σχεδιαστεί για να ανταγωνίζεται για την προσοχή οκτώ ώρες την ημέρα ή περισσότερο. Τα παιδιά, των οποίων το μυαλό είναι πιο εύπλαστο, το νιώθουν πιο γρήγορα.

Συνδέει το νήμα με την ανισότητα με μια ατάκα που λειτουργεί και ως διάγνωση: ο καπιταλισμός «είναι πολύ ευαίσθητος στο κεφάλαιο» — είναι πραγματικά υπεύθυνος για τις πραγματικές εξελίξεις στην ιατρική, τα τρόφιμα και την τεχνολογία, και συγκεντρώνει τον πλούτο εξίσου αξιόπιστα, εκτός αν κάτι την αντισταθμίσει ενεργά. Βλέπει την άφιξη της ισχυρής Τεχνητής Νοημοσύνης λιγότερο ως νέο πρόβλημα και περισσότερο ως το παλιό με μεγαλύτερη ταχύτητα — και, ενδεχομένως, ως την πίεση που τελικά αναγκάζει τη δομή κινήτρων να αλλάξει.

Μέρος Τέταρτο

Τεχνητή Νοημοσύνη: Πρόβλημα εξαγωγής, τώρα πιο γρήγορα

Το πλαίσιο του Randima για την τεχνητή νοημοσύνη είναι σχεδόν απατηλά απλό: η τεχνολογία ήταν ανέκαθεν ο μεγαλύτερος επιταχυντής της ανθρωπότητας και αυτή η γενιά Τεχνητής Νοημοσύνης είναι η πιο ισχυρή έκδοση αυτού του επιταχυντή μέχρι σήμερα — συνδυάζοντας κέρδη σε υλικό, αλγόριθμους, δεδομένα και υπολογισμούς ταυτόχρονα, πιο γρήγορα από ό,τι είχε ποτέ επιτύχει ο Νόμος του Moore. Υπάρχει μια ειρωνεία στην οποία δεν επικεντρώνεται: το ίδιο υλικό γραφικών που πέρασε επτά χρόνια στην κατασκευή της Nvidia, για να δημιουργεί εικόνες σε μια οθόνη, «φωτίζοντας pixel», αποδείχθηκε, σχεδόν τυχαία, ότι έγινε η μηχανή της ίδιας επιτάχυνσης για την οποία προειδοποιεί τώρα.

Αλλά ένας επιταχυντής δεν αλλάζει κατεύθυνση. Ενισχύει όποια κατεύθυνση έχει ήδη προσανατολιστεί ένα σύστημα. Στοχεύοντας σε μια κυρίως εξορυκτική οικονομία, η Τεχνητή Νοημοσύνη δεν ανακατευθύνει την εξόρυξη - την θέτει «σε υπερφόρτωση». Το πλησιέστερο αποτέλεσμα, υποστηρίζει, είναι η αυτοματοποίηση της γνωστικής εργασίας πριν από τη σωματική εργασία, για τον απλό λόγο ότι το λογισμικό είναι πιο εύκολο να αυτοματοποιηθεί από τη ρομποτική. Η επιχειρηματική λογική δεν είναι τόσο δυσοίωνη όσο συνηθισμένη: οι μηχανές δεν χρειάζονται άδειες ασθενείας, διακοπές ή υγειονομική περίθαλψη, οπότε όπου μια εταιρεία μπορεί να μειώσει το κόστος απλοποιώντας, θα το κάνει - η ίδια δομική βαρύτητα που έκανε την οικονομία της διασποράς να μην κατανέμει τίποτα στην πραγματικότητα.

Προσέχει να μην κάνει αυτή την ιστορία με ένα μόνο τέλος. Τα πλεονεκτήματα της Τεχνητής Νοημοσύνης - στην ιατρική, στις κλιματικές λύσεις, στις νέες πηγές ενέργειας - είναι πραγματικά, λέει, και δεν πρέπει να παραβλέπονται. Η προειδοποίησή του αφορά την ακολουθία: η κοινωνία πρέπει να περάσει από μια πόρτα καλής κατανόησης και σοφών συλλογικών επιλογών προτού αυτά τα οφέλη μπορέσουν να αποδώσουν πραγματικά, και αν τα υποκείμενα συστήματα καταρρεύσουν πρώτα - πόλωση, ανισότητα, μια κοινή πραγματικότητα που έχει ήδη διασπαστεί - τα καλά αποτελέσματα δεν έρχονται ποτέ.

Αυτό που κάνει αυτή τη δεύτερη επαφή πιο επικίνδυνη, κατά την άποψή του, είναι η διανομή: αυτή η τεχνολογία δεν είναι συγκεντρωτική όπως ήταν οι πλατφόρμες κοινωνικής δικτύωσης, πράγμα που σημαίνει ότι τα ρυθμιστικά εργαλεία που δυσκολεύονταν ακόμη και με μια χούφτα μεγάλες εταιρείες έρχονται αντιμέτωπα με κάτι που τρέχει στο τηλέφωνο όλων - ο καθένας μπορεί πλέον να δημιουργήσει ένα πειστικό ψεύτικο βίντεο ή μια ψεύτικη ερευνητική εργασία, κατά βούληση.

Μέρος Πέμπτο

Κερδίστε το χωρίς να συμμετέχετε στη μάχη

Κλείνοντας, η Ραντιμά προσφέρει δύο ξεχωριστές κινήσεις — όχι διαδοχικές, ούτε είτε/είτε, αλλά αρκετά διαφορετικές ώστε η καθεμία να αξίζει το δικό της βάρος. Η μία στοχεύει στο σύστημα. Η άλλη στοχεύει στον εαυτό.

Μετατόπιση των κινήτρων

Για να κατανοήσετε τι πραγματικά βελτιστοποιεί οποιοδήποτε σύστημα, εταιρεία ή άτομο, διαβάστε τη δομή των κινήτρων, όχι τις λέξεις που αναφέρονται: τα κίνητρα αποκαλύπτουν πολύ περισσότερα για τη συμπεριφορά παρά για τα λόγια ή τις διαφημιστικές καμπάνιες. Είναι η ίδια λογική που καλύπτεται παραπάνω στο Τρίτο Μέρος - μηχανισμοί τιμολόγησης, νομοθεσία, δικαστικές διαμάχες, καταγγέλλοντες που μετατρέπουν την σιωπηλή επίγνωση σε πραγματική ευθύνη. Η αλλαγή αυτού για το οποίο ανταμείβεται μια εταιρεία είναι πιο αργή από την αλλαγή μιας συνήθειας, αλλά είναι ο μοχλός που αγγίζει το ίδιο το σύστημα, όχι μόνο τη σχέση ενός ατόμου με αυτό.

Αποκήρυξη

Η προσωπική κίνηση ξεκινά πριν από όλα τα υπόλοιπα: ξεκαθαρίστε πραγματικά, ιδανικά φωναχτά, με ανθρώπους και δασκάλους που εμπιστεύεστε, τι σημαίνει στην πραγματικότητα για εσάς μια σοφή ζωή και μια πραγματική ευημερία — και αφήστε αυτή τη σαφήνεια, και όχι τα αλγοριθμικά μενού του Netflix ή των μέσων κοινωνικής δικτύωσης, να καθορίσουν την κατεύθυνση της προσοχής σας.

Ο Τόμας στρέφει την συζήτηση πίσω στην ενσυνειδητότητα: ποιος είναι ο ρόλος που παίζει στην πραγματικότητα εδώ; Η απάντηση της Ραντίμα έχει δύο μέρη, και εδώ εξηγείται πλήρως ο ισχυρισμός από την αρχή αυτού του άρθρου. Το πρώτο μέρος είναι γενναιόδωρο: η ενσυνειδητότητα χτίζει πραγματική επίγνωση - σκέψης, συναισθήματος, σωματικής αίσθησης - η οποία δημιουργεί τον εσωτερικό χώρο για να παρατηρήσει κανείς μια επιλογή πριν γίνει αντί για μετά. Σε συνδυασμό με την προηγούμενη σαφήνεια σχετικά με το πώς μοιάζει μια επιδέξια ζωή, αυτή η παύση είναι το σημείο όπου συμβαίνουν στην πραγματικότητα καλύτερες επιλογές.

Το δεύτερο μέρος είναι το πιο δύσκολο, και είναι το ίδιο με το οποίο ξεκίνησε: ακόμη και η προηγμένη εκπαίδευση ενσυνειδητότητας δεν πρόκειται να σας κάνει και πολλά αν βρίσκεστε μέσα σε ένα σύστημα που έχει κατασκευαστεί από μια εταιρεία που εκτελεί συνεχή ανάλυση κατά των θεμελιωδών ανθρώπινων γνωστικών προκαταλήψεων - έναν υπερυπολογιστή που στρέφεται προς τον εγκέφαλο, όπως το θέτει. Η τελική του συμβουλή δεν είναι να υπερνικήσει τον αλγόριθμο. Είναι ένα είδος απάρνησης, ένας σκόπιμος διαχωρισμός από οτιδήποτε έχει ήδη αναγνωριστεί ως άτεχνο, παρά μια μάχη που πρέπει να κερδηθεί προσπαθώντας περισσότερο.

Δεν κερδίζω. Αρνούμαι να πολεμήσω καθόλου — και χρησιμοποιώ όποια διαύγεια μου προσφέρει η ενσυνειδητότητα για να δω, πιο καθαρά, πού δεν πρέπει να σταθώ.

Καμία από τις δύο κινήσεις δεν αντικαθιστά την άλλη. Η μετατόπιση των κινήτρων αλλάζει αυτό που ανταμείβει το σύστημα. Η απάρνηση αλλάζει τη δική σας σχέση με αυτό το σύστημα, όσο αυτό εξακολουθεί να είναι. Η Ραντίμα έχει περάσει χρόνια τώρα κάνοντας και τα δύο ταυτόχρονα.

↑ Επιστροφή στην κορυφή