Im Jahr 2012 führte Facebook ein Experiment an 689.000 Menschen durch.
Das Ungewöhnliche daran war nicht die Zahl.
Es war auch nicht das Ergebnis.
Das Ungewöhnliche war, dass die Versuchspersonen nichts davon wussten. Und dass die Verantwortlichen die Ergebnisse später in einer wissenschaftlichen Fachzeitschrift veröffentlichten. Nicht als Skandal. Nicht als Enthüllung. Sondern als Forschung. [1]
Wer an diesem Morgen Facebook öffnete, sah etwas anderes als sein Nachbar.
Ein paar Beiträge weniger.
Ein paar Beiträge mehr.
Etwas weniger Positives.
Etwas weniger Negatives.
Kaum genug, um aufzufallen.
Aber ausreichend, um die Stimmung messbar zu verändern. Die Forscher nannten das „emotionale Ansteckung“ – emotional contagion. Sie zeigten, dass Menschen ihre eigene emotionale Ausdrucksweise veränderten, abhängig davon, welche Emotionen ihnen im Newsfeed präsentiert wurden. [1]
Man könnte sagen, das war die eigentliche Entdeckung.
Nicht, dass Menschen sich beeinflussen lassen. Das wussten wir bereits.
Die Entdeckung war etwas anderes: Wie wenig dafür nötig ist.
Der große Irrtum
Die meisten Menschen betrachten soziale Netzwerke noch immer als Werkzeuge. Facebook, Instagram, YouTube, TikTok. Digitale Orte, an denen man mit Freunden kommuniziert, Informationen austauscht und gelegentlich Werbung sieht.
Eine angenehme Vorstellung. Vor allem, weil sie den Eindruck vermittelt, man sei der Kunde. Aber Kunden sind diejenigen, deren Interessen geschützt werden.
Die eigentliche Ware wird gewöhnlich nicht gefragt.
Vor einigen Jahren prägte die Harvard-Professorin Shoshana Zuboff einen Begriff für dieses neue Geschäftsmodell: Surveillance Capitalism.
Überwachungskapitalismus.
Ihre zentrale Beobachtung war erschreckend schlicht: Menschliche Erfahrungen werden zu Rohmaterial. Sie werden gesammelt, analysiert und in Vorhersagen über zukünftiges Verhalten übersetzt. [2]
Nicht deine Daten sind wertvoll. Daten gibt es reichlich.
Wertvoll ist die Wahrscheinlichkeit. Die Wahrscheinlichkeit, dass du klickst. Dass du kaufst. Dass du bleibst. Dass du zurückkehrst. Dass du reagierst.
Was für die Maschine zählt
Das Beunruhigende beginnt dort, wo viele Erklärungen enden.
Menschen suchen gern nach Absichten. Nach Bösewichten. Nach geheimen Plänen.
Sie stellen sich vor, irgendwo säßen mächtige Personen an einem Konferenztisch und entschieden, welche Gedanken Milliarden Menschen morgen haben sollen.
Vielleicht wäre das sogar beruhigender. Denn ein Bösewicht kann scheitern. Eine Maschine nicht.
Eine Maschine verfolgt kein Ziel wie Wahrheit. Auch nicht Demokratie. Auch nicht das menschliche Wohlergehen.
Eine Maschine verfolgt das Ziel, das man ihr gibt. Und das Ziel vieler Plattformen lautet seit Jahren erstaunlich simpel:
Aufmerksamkeit.
Mehr Zeit. Mehr Klicks. Mehr Kommentare. Mehr Reaktionen.
Irgendwann entdeckt ein solches System etwas, das jeder Evolutionsbiologe ohnehin kennt: Unser Gehirn reagiert auf Bedrohungen, Angst und Empörung schneller als auf positive Reize. Das war über Jahrtausende ein Überlebensvorteil. Wer das Rascheln im Gebüsch ernst nahm, lebte länger.
Das Problem: Ein Algorithmus kann nicht unterscheiden, ob die Bedrohung real ist oder nur digital. Er erkennt lediglich, dass etwas Aufmerksamkeit erzeugt. Er kennt keine Geschichte. Keine Ethik. Keine Politik. Er sieht lediglich Muster.
Dieses Bild hält jemanden drei Sekunden fest. Jenes Bild zwölf Sekunden. Dieser Beitrag erzeugt zwei Kommentare. Jener erzeugt zweihundert.
Welchem Beitrag wirst du morgen den Vorzug geben?
Die Antwort ist offensichtlich. Und genau deshalb ist sie gefährlich.
Als die Firmen sich selbst warnten
Im Jahr 2021 veröffentlichte das Wall Street Journal interne Dokumente von Facebook. Die Recherche wurde unter dem Namen „Facebook Files“ bekannt. Die Dokumente zeichneten ein bemerkenswertes Bild: Die eigenen Forscher des Unternehmens hatten wiederholt auf problematische Effekte hingewiesen. [3]
In internen Untersuchungen wurde unter anderem beschrieben, dass Instagram bei einem Teil jugendlicher Mädchen bestehende Probleme mit dem Körperbild verschlechterte. Rund ein Drittel der betroffenen Mädchen gab an, dass sich negative Gefühle über das eigene Aussehen durch Instagram verstärkten. [4], [5]
Die brisanteste Frage lautet nicht, ob die Forscher recht hatten. Die brisanteste Frage lautet: Warum solche Erkenntnisse das System nicht grundlegend veränderten.
Vielleicht, weil das System funktionierte. Nicht gesellschaftlich. Nicht menschlich. Wirtschaftlich.
Die eleganteste Form der Kontrolle
Früher stellte man sich Kontrolle als etwas Sichtbares vor. Befehle. Verbote. Zensur. Propaganda. Eine Hand auf der Schulter. Eine Stimme im Ohr. Jemand, der sagt, was man denken soll.
Doch was passiert, wenn niemand mehr sagen muss, was du denken sollst?
Was passiert, wenn lediglich entschieden wird, was du sehen wirst?
Und was du nicht sehen wirst?
Vielleicht besteht die wirksamste Form der Beeinflussung nicht darin, Gedanken einzupflanzen.
Vielleicht besteht sie darin, die Landschaft zu gestalten, in der Gedanken entstehen.
Genau das macht die Geschichte des Facebook-Experiments so faszinierend.
Es ging nie darum, Menschen zu zwingen. Es ging darum, die Umgebung minimal zu verändern. Ein paar Informationen weniger. Ein paar Informationen mehr.
Der Rest geschah im Kopf der Nutzer selbst. [1]
Die unbequeme Erkenntnis
Die gefährlichste Version dieser Geschichte ist nicht die Verschwörung.
Die gefährlichste Version ist die ganz gewöhnliche.
Niemand musste die Welt absichtlich wütender machen.
Niemand musste morgens aufwachen und beschließen, Gesellschaften zu spalten.
Es genügte, eine Maschine zu bauen, die Aufmerksamkeit maximiert.
Der Rest ergab sich aus den Anreizen. Automatisch. Tag für Tag. Jahr für Jahr. Milliardenfach.
Und vielleicht liegt genau darin die unbequeme Wahrheit.
Das größte Verhaltensexperiment der Menschheitsgeschichte braucht keine Geheimhaltung. Kein Labor. Keine Tarnnamen. Keine verschlossenen Archive.
Es besitzt Logos. Apps. Push-Benachrichtigungen.
Und die meisten von uns haben heute bereits hineingeschaut. Mindestens einmal.
Schlussgedanke
Vielleicht ist die entscheidende Erkenntnis nicht, dass Technologie uns beeinflusst.
Das hat jede Kommunikationstechnologie getan – vom Buchdruck über das Radio bis zum Fernsehen.
Vielleicht ist die eigentliche Erkenntnis viel einfacher:
Noch nie in der Geschichte gab es Systeme, die in Echtzeit beobachten konnten, worauf Milliarden Menschen reagieren – und ihre Inhalte Sekunde für Sekunde daran anpassen konnten.
Ob wir das als Fortschritt, Risiko oder beides betrachten, muss jeder selbst entscheiden.
Aber bevor wir darüber urteilen können, sollten wir uns zumindest eine unbequeme Frage stellen:
Wenn ein Algorithmus heute bestimmen kann, worüber du nachdenkst – wie sicher bist du, dass deine Gedanke wirklich bei dir begonnen haben?
Quellen
[1] Kramer, A. D. I., Guillory, J. E., Hancock, J. T. (2014): Experimental Evidence of Massive-Scale Emotional Contagion Through Social Networks, PNAS. [pnas.org], [pubmed.ncb…lm.nih.gov]
[2] Shoshana Zuboff (2019): The Age of Surveillance Capitalism. [hbs.edu], [books.google.com]
[3] The Wall Street Journal: The Facebook Files (2021). [wsj.com], [business-h…rights.org]
[4] TIME: Zusammenfassung der Facebook-Files-Recherchen. [time.com]
[5] CNBC: Bericht zu internen Instagram-Studien und Auswirkungen auf Jugendliche. [cnbc.com]