• Home
  • Cybertech vs. Menschlichkeit?

Cybertech vs. Menschlichkeit?

Er gilt als personifiziertes Gewissen des Silicon Valley: Tristan Harris leistet Aufklärungsarbeit für einen bewussteren Umgang mit Social Media und KI. Auch beim letztjährigen Audi MQ! Innovation Summit war seine Keynote die Hauptattraktion. Ein digitaler Besuch.

29.01.2021 Text: Nadine Kaminski ― Foto: Shaughn and John, Stefan Boesl Lesezeit: 5 min

Tristan Harris im Porträt, mit Filter „Bildschirmflimmern“

Als Tristan Harris, vormals Design-Ethiker bei einem der weltgrößten Internetkonzerne, inzwischen Digitalisierungs-Aktivist und Mitbegründer der Nonprofit-Organisation „Center for Humane Technology“, sich per Smartphone in unseren Video-Call schaltet, merkt man ihm an, dass er gerade nicht auf eine weiße Bürowand schaut. Harris wirkt entspannt, beinahe gelöst. Tatsächlich begrüßt er uns dann mit den Worten: „Könnten Sie bloß mit mir diese fantastische Aussicht genießen! Die Berge von Arizona, der Himmel, die Wolken – hier atme ich gerade richtig durch.“ Digitalisierung kann etwas Großartiges sein. Sie macht flexibler, schafft neue Räume zur Lebens- und Arbeitsgestaltung. Aber – und um dieses große Aber geht es Tristan Harris – wenn wir nicht aufpassen, verlieren wir diese Freiheit so schnell, wie wir sie vermeintlich gewonnen haben.

Die Zukunft ist schon da

Science-Fiction-Szenarien spielen seit Jahrzehnten mit der Angst, dass KI, künstliche Intelligenz, in ferner Zukunft unsere Gesellschaft steuern könnte. „Wir haben außerdem immer gelernt, dass eine gegnerische Kraft unsere Stärken überwältigen muss, um uns zu kontrollieren“, erklärt uns Harris. „Wenn ich mein Gegenüber in eine bestimmte Richtung drängen will, muss meine Kraft die seine übertreffen.“ Doch schon während er als Kind aus Spaß Zaubertricks vorführte – spätestens aber, seit er im Persuasive Technology Lab der Universität Stanford studierte –, verstand Harris, dass es viel weniger Mühe bedarf, um Kontrolle auszuüben. „Wie bringt man eine Illusion zum Funktionieren? Man muss nur eine einzige Sache über die Psyche des Rezipienten wissen, die er selbst nicht weiß. Schon kann man sein Verhalten manipulieren. Man muss nicht Stärken überwältigen. Sondern Schwächen.“ 

 

Und genau so funktionieren laut Harris die meisten Social-Media-Oberflächen, Mail-Programme und Apps, die heute fester Bestandteil des Alltags von Milliarden Menschen sind. „Wir alle laufen nicht einfach mit Smartphones in der Tasche herum, sondern mit Automaten, die eine ähnliche Wirkung auf unser neurologisches Belohnungssystem haben wie einarmige Banditen im Spielkasino.“

Der Informations-Gap wächst

Wenn wir, die User, keine Ahnung haben, dass unser Gehirn verlässlich mit der Ausschüttung von Glückshormonen auf variable Belohnungen reagiert, sind wir im Vergleich zum geballten Wissen der Cybertech-Industrie natürlich hoffnungslos im Hintertreffen. „Variable Belohnungen“, führt Harris aus, „das bedeutet: Ich ziehe einen Hebel und erhalte manchmal eine saftige Belohnung – oh, aufregend! –, manchmal aber eben auch nicht.“ Nur ein Beispiel dafür, wie sich unsere ursprünglichsten Hirnfunktionen gegen uns verwenden lassen. Wir checken alle paar Minuten unseren E-Mail-Eingang, wischen hinauf oder herunter, um Aktualisierungen abzurufen – immer in der Hoffnung auf eine „Belohnung“. Kann man hier noch von einem bewussten Umgang mit Kommunikationstechnologie sprechen? Davon, dass wir selbst entscheiden, wie wir unsere Zeit verbringen? Nein, sagen Tristan Harris und viele andere WissenschaftlerInnen. 

 

„Videostream-Anbieter, Networking-Apps, News-Portale – sie alle befinden sich derzeit in einem gemeinsamen Wettkampf“, beschreibt Harris das Kernproblem, „dem Kampf um unsere Aufmerksamkeit.“ Technologie entwickele sich ja nicht willkürlich weiter, sondern reagiere auf Neuerungen der Konkurrenz mit eigenen Neuerungen. Eine der unangenehmen Nebenwirkungen dieser Spirale: die rasante Ausbreitung von Fake News. „Wut ist ein besserer Screentime-Generator als Zufriedenheit“, sagt Harris. Wühlt uns etwas auf, teilen wir es mit mehr Freunden, informieren uns auf mehr Kanälen, konsumieren gebannt immer weiter. Das realisiert der entsprechende Algorithmus. Und füttert uns mit mehr aufwühlendem Content. Das müssen nicht immer Fake News sein, aber eins ist sicher: Nicht der Wahrheitsgehalt entscheidet darüber, was auf unseren Pinnwänden und Timelines erscheint. „So ein persönlicher Newsfeed wird schließlich nicht von Menschen gesteuert, sondern von Algorithmen“, so Harris. „Und die achten nicht darauf, was richtig oder gesund für uns ist. Sondern darauf, was unsere Aufmerksamkeit länger in Beschlag nimmt.“

Wir brauchen ein digitales Zeitalter der Erleuchtung.“

Was jetzt zu tun ist

Ein kompliziertes Dilemma – gibt es Lösungsansätze? Harris sagt: Ja. „Zum einen müssen wir alle ein besseres Verständnis dafür entwickeln, wie angreifbar unser Geist ist, damit wir uns ungesunden Impulshandlungen wirkungsvoller widersetzen können.“ Damit fordert der Design-Ethiker quasi ein zweites, ein digitales Zeitalter der Aufklärung. „Zum Zweiten brauchen wir neue Modelle von Verantwortlichkeiten“, so Harris weiter. „Die Entscheider in den Kontrollräumen der großen Tech-Unternehmen müssen sich ihrer Verantwortung bewusst sein. Und sie müssen zur Rechenschaft gezogen werden können.“ Zum Dritten plädiert Harris – und das mit wachsendem Erfolg auch vor den CEOs im Valley – für eine „echte Design-Renaissance“. VerbraucherInnenschutz soll im Vordergrund stehen. Aber auch die Befähigung der bzw. das Angebot an die User, ihre Zeit sinnvoller zu nutzen. Gemeinsame Ziele müssen formuliert werden. Was erhoffen User sich wirklich im täglichen Umgang mit Social Media? Endlosspiralen von Videos und sich hochschaukelnden Forendiskussionen? Oder vielmehr aktive Hilfe bei der Gestaltung wertvoller Zeit abseits des Bildschirms? „Das kann ja zum Beispiel die Impulsgabe zu einer spontanen Dinner-Party sein, ein Vorschlag für die Gästeliste und Unterstützung beim Sammeln der RSVPs“, findet Harris.

Screenshot aus dem Keynote-Stream von Tristan Harris beim Audi MQ! Innovation Summit 2020
„Es ist ein Wettrennen in die Tiefen unseres Hirnstamms“: Als Keynote-Speaker auf dem digital abgehaltenen Audi MQ! Innovation Summit 2020 verblüffte Harris die Zuhörer.

Verantwortung und Chancen

Ob im Positiven oder Negativen: Künstliche Intelligenz „optimiert“ unser Verhalten, kennt unsere Psyche, errät und manipuliert unsere Wünsche – sie ist uns längst uneinholbar überlegen, dessen ist Harris sich sicher. Dieses Rad könne man nicht zurückdrehen. Nun gehe es aber eben darum, gesündere Werte zu implementieren als nur das Ziel, die größtmögliche Menge an Aufmerksamkeitsvolumen meistbietend an Werbekunden zu verkaufen. Er formuliert es so: „Auch Anwälte oder Ärzte haben ja einen großen Wissensvorsprung gegenüber ihren Klienten. Aber sie verpflichten sich durch ihren Berufsethos, in deren bestem Interesse zu handeln.“ Ein solcher Paradigmenwechsel sei auch in der Tech-Branche unumgänglich, glaubt Harris. Natürlich gepaart mit einem mündigen, achtsamen Nutzerverhalten. In diesem Sinne erhalten wir zum Schluss noch einen praktischen Tipp: „ Verbieten Sie sich nicht, Social Media zu benutzen. Erlauben Sie sich stattdessen, mehrmals täglich bewusst Zeit offline zu verbringen! Zeit mit lustigen, aufregenden, entspannenden Dingen.“ Auch das triggere schließlich unser Belohnungssystem. 

Präsentation eines Vortrags

Die Zukunftsweisenden

Audi hat den Anspruch, disziplinübergreifend einen progressiven Dialog zu pflegen: So entsteht ein Austausch am Puls der Zeit, der einen Ausblick auf zukünftige Entwicklungen ermöglicht.

Mehr erfahren

Das könnte Sie auch interessieren

Ihr Browser scheint nicht aktuell zu sein. Eventuell funktioniert unsere Website nicht optimal.
Die meisten Browser (nicht jedoch MS Internet Explorer 11 und älter) funktionieren dennoch problemlos.

Wir empfehlen Ihnen ein Update Ihres Webbrowsers!
Die jeweils neueste Version kann überall im Internet ein gutes Ergebnis sicherstellen.

Danke für Ihren Besuch und viel Spaß.

Ihr Audi Team