Vous trouverez ci-dessous la transcrip

Oui, j'ai remarqué que c'est un point important que je n'ai pas abordé, mais dont je pense qu'il est important de parler : la dépendance. Souvent, les gens se focalisent uniquement sur cet aspect et ne voient pas l'ensemble du processus. C'est ce que je voulais expliquer. On peut imaginer la dépendance comme si notre cerveau était branché à ces systèmes ; la dépendance, c'est comme la profondeur de cette connexion. Ces technologies ont souvent appris à détourner les pics de dopamine qui nous récompensent pour certains comportements essentiels à la survie ou à la reproduction, de véritables mécanismes de survie.

Mais aujourd'hui, nous avons détourné ces mécanismes et nous nous retrouvons avec des décharges de dopamine qui ne nous mènent nulle part. Je pense que cela se manifeste de façon très frappante chez les enfants. Beaucoup de personnes qui écoutent avec des enfants comprendront combien il est difficile de leur retirer un appareil, car ils reçoivent désormais une stimulation hypernormale, c'est-à-dire au-delà de ce qui est normal, au-delà de ce qui est sain, au-delà de ce pour quoi le corps a évolué. Tout va très vite, très vite… Même les écrans, pour les très jeunes enfants, la luminosité est déjà hypernormale.

Si vous prenez un enfant de deux ans ou d'un an et que vous allumez la télévision ou un téléphone, la luminosité de l'écran est plus forte que tout ce qui l'entoure, et ses yeux se porteront immédiatement dessus, surtout à l'intérieur. On se retrouve donc avec une surstimulation excessive. Sans compter que tous les dessins animés, toutes les vidéos YouTube, tous les jeux, toutes les applications rivalisent pour capter cette stimulation. Notre système est déréglé. Une fois nos récepteurs habitués à ce niveau de dopamine, nous avons du mal à réagir à des niveaux normaux. On observe alors des situations dramatiques : si on retire le téléphone à un enfant, il pique une crise. Parfois, les conséquences sont même bien pires, car son cerveau est modifié. Je pense que c'est un facteur important.

L'autre aspect important, c'est cette idée de donner aux gens ce qu'ils veulent. Les entreprises le font souvent en disant : « Puisque les gens ont cliqué dessus, c'est que c'est ce qu'ils veulent », alors qu'en réalité, c'est quelque chose qu'ils ne peuvent pas s'empêcher de faire. Ils ne peuvent pas s'en empêcher, car si vous passez votre temps connecté à un flux d'actualités, si vous voyez une image sensationnelle qui pique votre curiosité, vous allez cliquer dessus. Mais cela ne signifie pas que c'est ce que vous vouliez faire. Si une grosse image clignotante apparaît, votre regard sera attiré par elle. Cela ne signifie pas que vous vouliez la regarder. Une des analogies que nous utilisons est celle de quelqu'un qui conduit sur l'autoroute et qui voit un accident de voiture. Une IA vous observe et se dit : « Tiens, les humains semblent adorer les accidents de voiture. Ils regardent toujours les accidents de voiture. Créons un monde où les accidents de voiture sont omniprésents. »

Évidemment, ce n'est pas ce que nous souhaitons. Nous sommes attentifs aux accidents de voiture car nous savons qu'ils sont liés à notre survie. Nous sommes donc particulièrement vigilants et nous y prêtons attention, mais cela ne signifie pas pour autant que c'est le monde que nous désirons. Par analogie, nos fils d'actualité sont souvent saturés de distractions, et au final, cela nous pousse à cliquer sur des choses que nous ne voulons pas, ce qui détourne notre attention et notre temps de manière contraire à nos intentions. La question est : un monde plus sage serait-il un monde où les outils que nous utilisons ou les plateformes que nous fréquentons nous interrogent sur nos intentions au lieu de les déduire de nos clics ?

Parce que ces objectifs sont rarement alignés. Le problème, c'est que s'ils s'y employaient et tentaient réellement de nous guider vers ce que nous souhaitons, notre temps passé sur leur site serait bien plus court. Ce qui n'est pas très rentable. C'est un peu la réalité : quoi qu'on en dise, il faut analyser le modèle économique de chaque produit, quel qu'il soit. Ce modèle révèle la véritable structure des incitations. C'est pourquoi les entreprises de médias sociaux ne peuvent pas être très utiles : elles ont besoin que vous soyez sur leur site, au lieu de vous laisser, par exemple, apprendre ce dont vous avez besoin, puis vaquer à vos occupations ailleurs, loin des écrans.

Il y a là un conflit d'intérêts, et c'est pourquoi ils ont beaucoup de mal à être réellement utiles à une quelconque mesure significative d'envergure.

Vous avez dit quelque chose de très important. Vous avez dit que le nombre de clics, même si ce n'est pas forcément ce que nous recherchons, capte notre attention, peut-être à cause de besoins de survie plus fondamentaux, déclenchés par ce flux d'informations et d'images sensationnalistes. L'année dernière, nous avions un atelier sur le journalisme sensible aux traumatismes, et nous avons démontré que les informations sensationnalistes et les réseaux sociaux sont néfastes pour la santé publique. Nous sommes en train de… enfin, nous collectons beaucoup de données qui montrent que ce n'est pas bon pour la santé. Cela crée davantage de polarisation, comme vous l'avez dit, et bien d'autres choses encore, plus de stress dans la société, etc.

Mais il y a cet argument. Il y a un système économique derrière tout ça. Ma prochaine question serait : comment pouvons-nous changer notre situation actuelle ? Mais on ne peut pas se contenter d'une bonne idée, car il est évident que si nous en sommes là, c'est pour une raison. Il y a une raison à notre présence ici. Comment pouvons-nous réellement nous transformer en un monde qui prenne en compte le modèle économique qui motive en grande partie les entreprises ? Et puis, il y a cette part de moi, peut-être plus perturbée, qui ne parvient pas à interagir pleinement avec la technologie de manière bénéfique. Pourriez-vous nous expliquer comment accéder à un monde différent, qui n'interdit pas les technologies que nous jugeons inappropriées ? Comment y parvenir ? Pouvons-nous parvenir à une version plus saine de…

C'est évidemment très difficile. Le système actuel apporte des réponses, mais il soulève aussi des questions. Est-il viable ? Va-t-il continuer à fonctionner ? Commençons par le plus simple, car le système actuel est centré sur les prix. Tout repose sur l'offre et la demande, et les prix d'échange sont les prix du marché. C'est ainsi que fonctionne l'économie. Ce que nous suivons, ce sont les dollars, les recettes, quelle que soit la devise.

Ainsi, dans les interactions, et plus précisément les interventions qui influent sur les prix, ce sont celles qui réussissent. Il existe des moyens d'y parvenir. Par exemple, la sortie du film « Derrière nos écrans de fumée » (The Social Dilemma) a exercé une forte pression, les gens prenant conscience du caractère potentiellement nocif de ces pratiques. Cela crée une incitation à ne pas utiliser ces produits, mais à elle seule, elle n'a pas d'impact significatif sur les prix, car peu d'utilisateurs quittent les plateformes. Ce que cela permet, c'est de sensibiliser le public, incitant ainsi les législateurs à adopter de nouvelles lois et à instaurer de nouvelles sanctions pour les comportements inappropriés.

Si vous portez atteinte à des enfants, vous encourez des sanctions, et des poursuites judiciaires peuvent s'ensuivre. Voilà le lien avec l'aspect financier. Tôt ou tard, un organisme gouvernemental ou un cabinet d'avocats vous poursuivra en justice, et vous devrez assumer les coûts des préjudices causés. L'un des aspects les plus frappants de la technologie est sa capacité à progresser beaucoup plus vite que nos institutions ne peuvent suivre. Très souvent, voire constamment, les nouvelles technologies ont des conséquences que nous ne maîtrisons pas encore pleinement. C'est également le cas de l'intelligence artificielle. Nous ne comprenons pas encore précisément comment tout cela va se dérouler, quels sont les préjudices, comment les mesurer, etc.

Quand on peut mesurer et imputer ces coûts au bilan de l'entreprise, cela commence à avoir un impact sur les prix. On en revient toujours à l'aspect financier. De la même manière, on peut encourager le développement de technologies plus humaines. C'est une façon de subventionner les coûts de R&D liés à une approche responsable, et ainsi inspirer et former les équipes. Des personnes internes peuvent exercer une pression. Lorsqu'un lanceur d'alerte dénonce un problème grave, cela permet de répercuter les coûts sur l'entreprise, car des documents divulgués révèlent que les entreprises étaient au courant des préjudices et qu'il est désormais nécessaire d'en assumer les conséquences.

Ce ne sont que des exemples. En gros, il existe un ensemble de mesures que vous pouvez prendre, et tout cela s'inscrit dans le système actuel. Changer de système est extrêmement difficile. Je pense que l'idée fondamentale selon laquelle nous pouvons croître indéfiniment, extraire des ressources sans cesse et que tout ira bien, est tout simplement fausse. Il suffit de regarder autour de soi pour s'en rendre compte. Tout ce dont on extrait des ressources doit se régénérer à un rythme proportionnel à celui de l'extraction. Si l'extraction est extrêmement rapide… Par exemple, si vous extrayez du pétrole d'un gisement qui a mis des millions d'années à se former et que vous épuisez toutes les réserves en quelques centaines d'années, voire moins, cela pose un grave problème. Ce n'est tout simplement pas viable.

Il en va de même pour… Il y a donc les ressources physiques, et puis il y a aussi notre esprit. Si l'on observe notre propre esprit, on constate que si l'on commence à le surcharger d'attention plus vite qu'il ne peut se régénérer, plus vite que nous ne pouvons guérir, dormir, ou comprendre le monde, on commence à altérer toutes ces facultés, et elles ne se régénèrent pas rapidement, en raison du conditionnement mental. C'est un sujet intéressant, lié en quelque sorte à la pleine conscience et au développement personnel. Nous savons tous qu'il faut beaucoup d'efforts et de discipline pour faire ce qu'il faut : s'entraîner mentalement, physiquement, faire de l'exercice, etc.

Ce n'est pas facile de manger sainement ou d'adopter tout ce que nous jugeons important, mais il est très facile de désapprendre ces habitudes et de se faire du mal, surtout en ce moment. Prenons l'exemple des enfants et de leur développement : ils sont beaucoup plus malléables. Une fois qu'ils ont pris de mauvaises habitudes, leur en inculquer de bonnes est très difficile. Une fois que nous avons développé… Nous pouvons travailler dur pour développer une attention plus profonde et plus longue, comme une attention soutenue, une plus grande pleine conscience, mais quand on y pense, le téléphone est autour de nous huit heures par jour, voire plus, pour nous entraîner, et ensuite on peut s'asseoir et méditer pendant 15, 30 ou même 45 minutes – ce que font beaucoup de méditants profonds –, même eux auraient beaucoup de mal à se déconnecter s'ils utilisaient leur téléphone en permanence.

Cela revient à anéantir tout le processus d'apprentissage. Et chez les enfants, cela se produit beaucoup plus rapidement. Je pense que ce sont des choses dont nous devons tenir compte lorsque nous réfléchissons à la manière de faire évoluer nos systèmes économiques vers quelque chose de plus sain. Sans parler des inégalités. Le système économique actuel, que je qualifierais de très sensible au capital, nous a apporté de nombreux avantages et progrès au fil des ans. Cette concurrence et cette extraction de ressources ont permis des avancées considérables dans les domaines de la médecine, de l'alimentation, de l'habillement, du logement, et bien d'autres encore. Grâce aux technologies, nous disposons de formidables outils pour apprendre, accéder à l'information, et l'intelligence artificielle en est un exemple.

Mais encore une fois, tout cela a un coût, et si nous laissons ces choses évoluer de manière non durable, je pense que ce sera un grave problème. Voilà où nous en sommes. Si nous réfléchissons à la manière dont nous voulons changer le système, je pense que la situation de l'IA est un bon exemple, une motivation pour résoudre et aborder certains de ces problèmes, car je ne pense pas que cela puisse durer, à mesure que nous automatisons des millions et des millions d'emplois. Les inégalités vont se creuser encore davantage. Le capitalisme, comme je le disais, tend à répartir le capital de manière inégale. Il le fait sans cesse.

On observe une concentration des richesses, et nous allons assister à une accélération encore plus marquée de ce processus. Je ne pense pas que cela soit favorable à un grand nombre de personnes. Nous devons y prêter une attention particulière. Le point positif, c'est que cela représente peut-être une opportunité de changement.

Puisque vous l'avez mentionné, il y a eu le film « Derrière nos écrans de fumée » (The Social Dilemma), qui abordait la question des réseaux sociaux et de l'économie de la tension, et nous sommes déjà dans une situation différente. Comme vous l'avez dit, les choses évoluent très vite. Aujourd'hui, il y a l'intelligence artificielle, et je ne sais pas combien de personnes comprennent vraiment son fonctionnement, mais c'est comme pour tous les processus : comment fonctionnent-ils réellement et où cela va-t-il nous mener ? C'est pourquoi nous vivons une période imprévisible, et peut-être pourriez-vous nous en parler un peu. Quels sont les avantages, les inconvénients ? À quoi devons-nous faire attention ?

Oui, bien sûr. Je pense que le plus important à retenir pour tous ceux qui nous écoutent, c'est que la technologie a toujours été un formidable accélérateur. La technologie est le plus grand accélérateur de l'humanité. On peut facilement le démontrer. L'IA représente en quelque sorte le summum de cette accélération. Elle accélère les choses à une vitesse fulgurante. Cette dernière génération d'intelligence artificielle est extrêmement performante. L'IA générative peut produire du texte, des images, de l'audio, de la vidéo, le tout avec une très haute qualité, et elle progresse très rapidement, bien plus vite que la loi de Moore, plus vite que la technologie des puces, plus vite que la technologie des semi-conducteurs ne progressait, car son évolution est cumulative. Elle est donc alimentée par la technologie des semi-conducteurs, mais aussi par la technologie algorithmique. La façon dont nous fonctionnons, dont nous collectons des données, dont nous connectons les ordinateurs en grappes, tout cela contribue à son développement. Elle progresse à une vitesse fulgurante.

L'IA s'avère donc être le plus grand accélérateur et va transformer en profondeur tous nos modes de fonctionnement actuels. Chaque entreprise a mûrement réfléchi, a analysé sa stratégie, ses forces et ses faiblesses, et a investi en conséquence. Elle a construit ses usines, optimisé ses processus, recruté ses équipes et a trouvé son mode de fonctionnement. Aujourd'hui, la question qui se pose est la suivante : comment améliorer nos méthodes de travail ? Comment l'IA peut-elle accélérer ce processus ? C'est la question que tout le monde se pose.

Si notre système est déjà majoritairement extractif, nous allons intensifier cette extraction à l'extrême. Elle sera considérablement amplifiée, et ce, malgré nos efforts pour réduire les frictions autant que possible. C'est un aspect. Il y en a un autre… que je qualifierais d'aspect dominant. Je pense que c'est ce qui va façonner notre avenir. L'automatisation en fait partie. C'est une évidence. Tout chef d'entreprise est constamment à la recherche de nouvelles technologies pour améliorer son fonctionnement, accélérer et optimiser ses processus. Par conséquent, une partie des emplois va commencer à être automatisée, notamment les emplois à forte composante cognitive, nécessitant en particulier un diplôme de licence ou de master. Ce type d'emploi, ce type de raisonnement.

L'IA excelle dans ces domaines. Le travail physique est plus difficile. L'automatisation viendra un peu plus tard, mais les robots sont aussi en cours de formation. C'est vrai. Mais d'abord, ce seront les tâches cognitives qui seront automatisées. Quand une part importante de ces tâches sera automatisée et qu'il ne restera plus qu'une petite part à faire pour l'humain, les chefs d'entreprise se diront : « Attendez une minute. Je n'ai pas besoin de quatre personnes. Une seule suffit. » Car il y a toujours ce coût supplémentaire de coordination, et les humains, nous sommes imparfaits. Nous tombons malades. Nous avons des priorités. Nous avons besoin de vacances. Nous avons besoin de soins de santé. Les machines, elles, n'ont besoin de rien de tout cela.

Vous allez donc constater que… Ce sera tout simplement une bonne stratégie commerciale et les entreprises feront les choix qui s'imposent. C'est la même raison pour laquelle la théorie du ruissellement ne fonctionne pas : la psychologie humaine ne fonctionne pas ainsi. Dès qu'une opportunité de simplifier, d'automatiser et de réduire les coûts se présente, les chefs d'entreprise la saisiront, car c'est ce qui les motive. C'est la tendance à laquelle nous pouvons nous attendre. C'est la tendance dominante. Il faut également reconnaître que, parallèlement, l'intelligence artificielle est sans aucun doute susceptible de faire progresser la recherche médicale et la lutte contre le changement climatique. La réduction des émissions de carbone est l'une des possibilités qui s'offrent à nous.

De nouvelles sources d'énergie, comme les batteries ou des sources d'énergie plus durables et à haut rendement, la médecine, tout cela représente d'excellentes perspectives. C'est indéniable, mais nous insistons toujours sur le fait que ces choses doivent suivre un ordre précis. On ne peut accéder à tous ces bienfaits si la société s'effondre avant. C'est comme une porte qu'il faut franchir, et cela implique de bien comprendre le monde, de faire des choix judicieux et de ne pas se perdre en chemin. Toutes ces questions relatives à l'emploi et à la sécurité des individus nécessitent une certaine protection. Nous avons besoin d'un système réellement équilibré qui ne crée pas d'inégalités encore plus criantes qu'aujourd'hui. Idéalement, nous devrions les réduire. Et alors seulement, nous pourrons bâtir un avenir meilleur.

Ces étapes doivent être réalisées dans le bon ordre. Or, comme les entreprises de médias sociaux avant elles, chaque entreprise est désormais prise dans une course effrénée pour déployer l'intelligence artificielle et maximiser ses revenus au plus vite grâce aux dernières technologies, sans prendre le temps d'évaluer les risques, de les atténuer ni d'investir pour prévenir les dommages imprévus. On dit souvent que les médias sociaux ont été notre premier contact avec l'intelligence artificielle, et cette nouvelle génération d'IA, le second. Tout comme la première fois, nous n'avons pas pu anticiper tous ces effets à long terme.

Nous avons constaté cet engouement pour l'attention, mais nous n'avons pas perçu clairement les conséquences en aval. Pareil.