Nachfolgend finden Sie das Transkript.

Ja, ich sehe, dass das ein wichtiger Punkt ist, den ich bisher nicht angesprochen habe, über den wir aber unbedingt sprechen sollten: die Sucht. Oftmals konzentrieren sich die Leute nur auf die Sucht und sehen nicht den gesamten Zusammenhang. Genau das wollte ich erläutern. Man kann sich die Sucht gewissermaßen so vorstellen, als ob man unser Gehirn mit diesen Systemen verbindet. Die Sucht hängt davon ab, wie tief diese Verbindung in unser Gehirn reicht. Diese Technologien haben oft sehr gut gelernt, die Dopaminausschüttung zu manipulieren, die uns eigentlich für lebensverlängernde oder reproduktive Verhaltensweisen belohnen soll – also quasi Überlebensmechanismen.

Doch nun haben wir diese Mechanismen gekapert und hängen stattdessen in Dopamin-Kicks fest, die uns letztendlich nirgendwohin bringen. Ich denke, das zeigt sich besonders deutlich bei Kindern. Viele, die mit Kindern zu tun haben, werden verstehen, wie schwer es ist, einem Kind ein Gerät wegzunehmen, weil es nun einem übersteigerten Reiz ausgesetzt ist – übersteigert im Sinne von jenseits des Normalen, jenseits dessen, was gesund ist, jenseits dessen, wozu der Körper evolutionär bedingt ist. Reizüberflutung. Alles ist sehr schnelllebig, sehr… Selbst die Bildschirme, gerade für sehr kleine Kinder, sind schon in ihrer Helligkeit übersteigert.

Wenn man ein zwei- oder einjähriges Kind beobachtet und den Fernseher oder das Handy einschaltet, ist die Bildschirmhelligkeit heller als alles um sie herum. In Innenräumen werden ihre Augen daher sofort darauf gerichtet. So entsteht eine Situation mit übermäßigen Reizen. Hinzu kommt, dass heutzutage jeder Cartoon, jedes YouTube-Video, jedes Spiel, jede App um diese Aufmerksamkeit buhlt. Das führt zu einer gestörten Dopaminregulation. Sind unsere Rezeptoren erst einmal auf diesen Dopaminspiegel trainiert, kommen wir mit normalen Dopaminwerten nicht mehr gut zurecht. Es kommt dann zu solchen schrecklichen Situationen: Wenn man Kindern das Handy wegnimmt, bekommen sie Wutanfälle. Manchmal sind die Folgen sogar noch viel schlimmer, weil sich ihre Gehirnstruktur verändert hat. Ich denke, das ist ein wichtiger Aspekt.

Der andere Aspekt ist die Idee, den Leuten zu geben, was sie wollen. Unternehmen machen das oft und sagen: „Hey, weil die Leute darauf geklickt haben, wollen sie genau das“, obwohl sie eigentlich nur das tun, was sie gar nicht anders können. Sie können sich nicht beherrschen, denn wenn man ständig in einem Feed unterwegs ist und ein reißerisches Bild sieht, das das Interesse weckt, klickt man darauf. Aber das heißt nicht, dass man das wirklich wollte. Wenn etwas blinkt und aufleuchtet, fällt der Blick automatisch darauf. Das heißt aber nicht, dass man es sich ansehen wollte. Wir vergleichen das gerne mit folgendem Beispiel: Man fährt auf der Autobahn und sieht einen Autounfall, und eine KI beobachtet einen und denkt sich: „Wow, die Menschen scheinen Autounfälle zu lieben. Sie schauen sich ständig Autounfälle an. Lasst uns eine Welt erschaffen, in der es überall Autounfälle gibt.“

Das ist natürlich nicht das, was wir wollen. Wir sehen uns Autounfälle an, weil wir wissen, dass sie mit unserem Überleben zusammenhängen. Deshalb sind wir in solchen Situationen besonders wachsam und beobachten die Nachrichten. Das heißt aber nicht, dass wir uns so eine Welt wünschen. Die Analogie dazu ist, dass unsere Feeds oft voller metaphorischer Autounfälle sind. Letztendlich verleitet uns das dazu, auf Dinge zu klicken, die wir gar nicht anklicken wollen. Es raubt uns Aufmerksamkeit und Zeit auf eine Weise, die nicht unseren ursprünglichen Absichten entspricht. Die Frage ist: Wäre eine Welt nicht viel klüger, wenn die Werkzeuge, die wir nutzen, oder die Orte, an denen wir unsere Zeit verbringen, uns nach unseren Absichten fragen würden, anstatt sie anhand unserer Klicks zu erschließen?

Denn diese Ziele stimmen fast immer nicht überein. Das Problem ist: Wenn sie uns wirklich in die gewünschte Richtung lenken würden, wäre unsere Zeit auf der Website deutlich kürzer. Das lässt sich nicht gut monetarisieren. Das ist die Realität: Egal, was andere sagen, man muss sich das Geschäftsmodell hinter jedem Produkt ansehen, egal welches man nutzt. Das Geschäftsmodell offenbart die tatsächlichen Anreize. Deshalb können Social-Media-Unternehmen einem nicht wirklich helfen, denn sie brauchen einen unbedingt vor Ort, anstatt dass man sich beispielsweise das Nötige aneignet und dann abseits der Plattform sein Leben weiterlebt.

Hier besteht ein Interessenkonflikt, und deshalb fällt es ihnen extrem schwer, in irgendeiner Weise wirklich nützlich zu sein.

Du hast etwas sehr Wichtiges gesagt. Du meintest, dass Klicks nicht unbedingt das sind, was wir wollen, sondern vielmehr unsere Aufmerksamkeit fesseln – vielleicht aufgrund viel grundlegenderer Überlebensbedürfnisse und der durch reißerische Nachrichten und Bilder ausgelösten Emotionen. Letztes Jahr hatten wir einen Schwerpunkt auf traumasensiblem Journalismus und haben deutlich gemacht, dass reißerische Nachrichten und Social-Media-Feeds der öffentlichen Gesundheit schaden. Wir sind dabei, … ich meine, wir können viele Daten dazu sammeln, und das ist tatsächlich nicht gut. Es führt, wie du sagtest, zu mehr Polarisierung, mehr Stress in der Gesellschaft und vielem mehr.

Aber da ist dieses Argument. Dahinter steckt ein Wirtschaftssystem. Meine nächste Frage wäre: Wie können wir von unserem jetzigen Standpunkt aus etwas verändern? Wir können nicht einfach nur eine gute Idee haben, denn offensichtlich sind wir nicht ohne Grund da, wo wir sind. Es gibt einen Grund, warum wir hier sind. Wie können wir uns tatsächlich in eine Welt verwandeln, die das Wirtschaftsmodell berücksichtigt, das einen Großteil der Motivation der Unternehmen antreibt? Und dann ist da noch dieser vielleicht etwas unregulierte Teil von mir, der nicht vollständig und auf eine für mich gute Weise mit der Technologie interagieren kann. Vielleicht können Sie uns ein wenig erläutern, wie wir in eine andere Welt gelangen können, die Technologie nicht verbietet, bei der wir sagen: „Oh, [unverständlich]“. Wie schaffen wir das? Erreichen wir eine gesündere Version von …

Das ist offensichtlich sehr, sehr schwierig. Es gibt einige Antworten innerhalb des bestehenden Systems, aber auch Fragen zum bestehenden System selbst. Ist es überhaupt praktikabel? Wird es auf Dauer funktionieren? Fangen wir mit dem einfacheren Teil an, nämlich dem bestehenden System. Denn im Zentrum des Systems steht der Preis; alles basiert auf Angebot und Nachfrage und den Preisen in der Mitte. So funktioniert die Wirtschaft im Prinzip. Wir erfassen die Einnahmen in Dollar, in welcher Währung auch immer.

Bei Interaktionen, also Interventionen, die den Preis beeinflussen, sind daher diejenigen erfolgreich, die es werden. Es gibt verschiedene Wege, dies zu erreichen. Beispielsweise erzeugte der Film „The Social Dilemma“ nach seinem Erscheinen großen Druck, da die Menschen erkannten, dass diese Produkte schädlich waren. Dadurch entsteht ein gewisser negativer Druck, diese Produkte zu nutzen. Allein dadurch wird der Preis jedoch nicht wesentlich beeinflusst, da nur wenige Nutzer die Plattformen verlassen. Der Film schafft aber Bewusstsein, sodass Gesetzgeber neue Gesetze und Strafen für Fehlverhalten erlassen können.

Wer Kindern Schaden zufügt, muss mit Strafen rechnen, und es kann zu Gerichtsverfahren kommen. Hier wird der Zusammenhang mit den finanziellen Folgen deutlich. Letztendlich wird entweder eine staatliche Behörde oder eine Anwaltskanzlei Sie verklagen, und die Kosten für den angerichteten Schaden lasten dann auf Ihren Schultern. Ein interessantes Phänomen der Technologie ist, dass sie sich viel schneller entwickelt, als unsere Institutionen mithalten können. Oftmals – und ich meine, ständig – hat die neue Technologie Auswirkungen, die wir noch nicht absehen können. Erstens verstehen wir sie oft nicht vollständig. Das gilt auch für künstliche Intelligenz. Wir verstehen noch nicht genau, wie sich alles entwickeln wird, welche Schäden entstehen, wie diese Schäden gemessen werden und so weiter.

Wenn wir die Auswirkungen messen und sie der Unternehmensbilanz zuordnen können, sodass das Unternehmen dafür aufkommt, wirkt sich das auf den Preis aus. Letztendlich geht es wieder ums Geld. Man kann auch Wege finden, die Entwicklung humanerer Technologien zu fördern. Das ist eine Möglichkeit, die Forschungs- und Entwicklungskosten für verantwortungsvolles Handeln zu subventionieren und so Menschen zu inspirieren und ihnen beizubringen, wie man das Richtige tut. Es gibt Insider, die Druck ausüben können. Wenn jemand Missstände aufdeckt, wenn etwas Schlimmes passiert und ein Whistleblower sich äußert, ist das eine weitere Möglichkeit, die Kosten dem Unternehmen wieder in die Schuhe zu schieben, denn durchgesickerte Dokumente belegen, dass die Unternehmen von dem Schaden wussten, für den sie nun gerade gerade gerade gerade gerade noch geradestehen können.

Das sind alles nur Beispiele. Im Grunde gibt es eine Reihe von Maßnahmen, die man dort ergreifen kann, und das alles innerhalb des bestehenden Systems. Systeme zu verändern ist sehr schwierig. Ich denke, die Vorstellung, dass wir ewig wachsen und immer weiter fördern können und alles gut wird, ist einfach falsch. Man muss sich nur mal umschauen, und es ergibt einfach keinen Sinn. Was auch immer man abbaut, muss sich in einem Tempo regenerieren, das dem Abbautempo entspricht. Wenn man sehr, sehr, sehr schnell abbaut … Nehmen wir zum Beispiel Erdöl, dessen Entstehung Millionen von Jahren gedauert hat, und verbraucht es innerhalb weniger hundert Jahre oder sogar weniger, dann ist das ein großes Problem. Das ist einfach nicht nachhaltig.

Dasselbe gilt für… Es gibt also physische Ressourcen und dann gibt es unseren Geist. Wenn wir unsere Aufmerksamkeit schneller zersplittern, als sie sich regenerieren kann, als wir heilen, schlafen oder die Welt begreifen können, dann brechen wir all diese Fähigkeiten, und die Konditionierung des Geistes regeneriert sich nicht schnell. Das ist ein interessantes Thema, das mit Achtsamkeit und Selbstverbesserung zusammenhängt. Ich denke, wir alle wissen, dass es viel Anstrengung und Disziplin erfordert, das Richtige zu tun, mentales Training zu absolvieren, körperlich zu trainieren, Sport zu treiben – all diese Dinge.

Gesunde Ernährung und alles, was uns wichtig ist, ist nicht einfach, aber gerade heutzutage ist es sehr leicht, diese Gewohnheiten wieder zu verlernen und uns dadurch zu schaden. Denken Sie nur an Kinder und ihre Entwicklung, denn sie sind viel formbarer. Haben sie erst einmal die falschen Gewohnheiten verinnerlicht, ist es sehr schwer, ihnen die richtigen beizubringen. Wir arbeiten vielleicht hart daran, unsere Aufmerksamkeit zu vertiefen und länger zu halten, also Achtsamkeit zu üben. Aber wenn man bedenkt, dass das Handy acht Stunden oder länger am Tag um uns herum ist und quasi seinen „Trainingsprozess“ durchläuft, und man dann vielleicht 15, 30 oder 45 Minuten meditiert – was viele erfahrene Meditierende auch tun –, dann fällt es selbst ihnen schwer, wenn sie ständig am Handy hängen.

Das macht den Lernprozess gewissermaßen zunichte. Bei Kindern geht das viel schneller. Ich denke, wir müssen uns dessen bewusst sein, wenn wir darüber nachdenken, wie wir unsere Wirtschaftssysteme gesünder gestalten können. Dabei habe ich die Ungleichheit noch gar nicht erwähnt. Unser aktuelles Wirtschaftssystem – ich nenne es gerne den Kapitalismus – ist sehr kapitalempfindlich. Es hat uns über die Jahre viele Vorteile und Fortschritte gebracht. Dieser Wettbewerb und die Ausbeutung haben zu vielen Fortschritten in Medizin, Ernährung, Kleidung, Wohnraum und Technologien geführt. Wir verfügen über all diese wunderbaren Technologien, um zu lernen, Informationen zu sammeln, und künstliche Intelligenz ist ein gutes Beispiel dafür.

Aber auch hier gilt: All das hat seinen Preis, und wenn wir zulassen, dass diese Entwicklungen nicht nachhaltig verlaufen, entsteht ein großes Problem. Genau da stehen wir. Wenn wir darüber nachdenken, wie wir das System verändern wollen, bietet die KI-Situation einen guten Anstoß, um einige dieser Probleme anzugehen. Denn ich glaube nicht, dass diese Entwicklung nachhaltig sein wird, wenn wir Millionen von Arbeitsplätzen automatisieren. Die Ungleichheit wird sich weiter verschärfen. Wie bereits erwähnt, neigt der Kapitalismus dazu, Kapital ungleich zu verteilen. Und das wiederholt sich immer wieder.

Es gibt diese Konzentration von Reichtum, und jetzt wird sich dieser Prozess noch deutlich beschleunigen. Ich glaube nicht, dass das für viele Menschen gut ausgehen wird. Wir müssen dem große Aufmerksamkeit schenken. Die beste Nachricht ist aber, dass dies vielleicht eine Chance für Veränderungen ist.

Wie sehen Sie das, jetzt, wo Sie es schon erwähnt haben? Es gab ja den Film „The Social Dilemma“, der sich mit sozialen Medien und der damit einhergehenden Spannungsökonomie auseinandersetzte, und wir befinden uns inzwischen in einer ganz anderen Situation. Wie Sie sagten, entwickelt sich alles rasant. Jetzt gibt es die KI, und ich weiß nicht, wie viele Menschen wirklich verstehen, wie sie funktioniert, aber es geht darum, wie all die Prozesse ablaufen und wohin die Reise geht. Deshalb befinden wir uns in einer Zeit der Unvorhersehbarkeit. Vielleicht können Sie etwas dazu sagen. Was sind die Vorteile, die Nachteile? Worauf müssen wir achten?

Ja, sicher. Ich denke, das Wichtigste für alle Zuhörer ist, dass Technologie schon immer ein enormer Beschleuniger war. Technologie ist der größte Beschleuniger der Menschheit. Das lässt sich durchaus so argumentieren. Künstliche Intelligenz (KI) ist sozusagen der Gipfel der Beschleunigung. Sie beschleunigt die Dinge rasant. Die neueste Generation künstlicher Intelligenz ist extrem leistungsfähig. Generative KI kann Texte, Bilder, Audio und Video in sehr hoher Qualität erzeugen und verbessert sich rasant – viel schneller als das Mooresche Gesetz, schneller als die Chiptechnologie und die Halbleitertechnologie, da sich die Fortschritte exponentiell verstärken. Die Halbleitertechnologie treibt diese Entwicklung an, aber auch die algorithmische Technologie. Die Art und Weise, wie wir Dinge erledigen, wie wir Daten sammeln und Computer in Clustern vernetzen – all das treibt sie an. Sie entwickelt sich extrem schnell.

Künstliche Intelligenz erweist sich somit als größter Beschleuniger und wird alles, was wir heute tun, grundlegend verändern. Jedes Unternehmen hat sich intensiv mit seiner Strategie auseinandergesetzt, seine Stärken und Schwächen analysiert und entsprechend investiert. Es hat seine Produktionsstätten, Prozesse und Mitarbeiter optimiert und seine Arbeitsweise gefunden. Nun stellt sich die Frage: Wie können wir unsere Prozesse verbessern? Wie kann KI diesen Prozess beschleunigen? Diese Frage beschäftigt alle.

Wenn wir bereits ein überwiegend ressourcenintensives System haben, verstärken wir diese Ressourcennutzung massiv. Sie wird um ein Vielfaches gesteigert, indem wir Reibungsverluste so weit wie möglich reduzieren. Das ist ein Aspekt. Es gibt aber noch einen anderen… ich denke, das ist der dominierende Aspekt. Ich glaube, er wird unsere Zukunft maßgeblich prägen. Dazu gehört auch die Automatisierung. Das ist eigentlich logisch. Als Unternehmer ist man immer auf der Suche nach neuen Technologien, um den Geschäftsbetrieb zu optimieren, Prozesse zu beschleunigen und effizienter zu gestalten. Daher werden Teile der Arbeit automatisiert werden, insbesondere kognitive Tätigkeiten, also vor allem solche, die einen Bachelor- oder Masterabschluss erfordern. Diese Art von Arbeit. Diese Art von Denken.

KI ist in solchen Dingen ziemlich gut. Körperliche Arbeit ist schwieriger. Es wird zwar etwas später kommen, aber auch Roboter werden trainiert. Das stimmt. Aber zuerst werden es die kognitiven Aufgaben sein. Wenn ein Großteil einer kognitiven Aufgabe automatisiert ist und nur noch wenig vom Menschen erledigt werden muss, werden Unternehmer denken: „Moment mal. Ich brauche keine vier Menschen. Ich brauche nur einen.“ Denn es gibt immer diesen zusätzlichen Koordinationsaufwand, und Menschen sind nun mal unordentlich. Wir werden krank. Wir haben Prioritäten. Wir brauchen Urlaub. Wir brauchen medizinische Versorgung. Maschinen brauchen all das nicht.

Und so wird es sich entwickeln… Es wird einfach wirtschaftlich sinnvoll sein, und die Leute werden die entsprechenden Entscheidungen treffen. Aus demselben Grund funktioniert die Theorie des „Trickle-Down-Effekts“ nicht: So funktioniert die menschliche Psychologie einfach nicht. Sobald sich die Möglichkeit bietet, Prozesse zu vereinfachen, zu automatisieren und Kosten zu senken, werden Unternehmer dies tun, weil sie dafür belohnt werden. Das ist der Trend, den wir erwarten können. Er ist der vorherrschende Trend. Gleichzeitig sollten wir aber auch fairerweise erwähnen, dass künstliche Intelligenz zweifellos die medizinische Forschung und den Klimaschutz voranbringen wird. Die Reduzierung von CO₂ ist eine der Möglichkeiten, die sich daraus ergeben könnten.

Neue Energiequellen, wie Batterietechnologie oder einfach nachhaltigere, ertragreichere Energiequellen, Medizin – all das sind großartige Dinge, die möglich sind. Daran besteht kein Zweifel. Wir betonen jedoch immer wieder, dass diese Entwicklungen einer bestimmten Reihenfolge folgen müssen. Man kann all die positiven Entwicklungen nicht erreichen, wenn die Gesellschaft vorher zusammenbricht. Es ist wie eine Tür, durch die man hindurchgehen muss, und diese Tür erfordert ein gutes Urteilsvermögen, die Fähigkeit, die Welt zu verstehen, gute Entscheidungen zu treffen, kluge Entscheidungen zu treffen und sich dabei nicht selbst zu verlieren. All diese Fragen zu Arbeitsplätzen und Menschen brauchen Sicherheit. Wir brauchen ein System, das so ausgerichtet ist, dass es nicht noch größere Ungleichheit schafft als wir sie jetzt haben. Im Idealfall sollten wir sie verringern. Und dann können wir diese positive Zukunft erreichen.

Sie müssen in der richtigen Reihenfolge erfolgen. Und stattdessen – genau wie die Social-Media-Unternehmen vor ihnen – befindet sich nun jedes Unternehmen in diesem Wettlauf, künstliche Intelligenz so schnell wie möglich einzusetzen und den Umsatz mithilfe der neuesten Technologie zu maximieren, ohne die möglichen Schäden zu bewerten, ihnen entgegenzuwirken oder die notwendigen Investitionen zu tätigen, um unvorhersehbare Schäden zu verhindern. Wir sagen gern, Social Media war unser erster Kontakt mit künstlicher Intelligenz, und diese KI-Welle ist der zweite. Genau wie beim ersten Mal konnten wir all diese Folgewirkungen nicht vorhersehen.

Wir haben diesen Aufmerksamkeitseffekt zwar beobachtet, aber die Folgewirkungen nicht so deutlich gesehen. Dasselbe gilt für