Rat für Digitale Ökologie zeigt, wie Social-Media-Algorithmen bewusst Sucht und Abhängigkeit erzeugen

SUMMARY (Gutachten)

"Social-Media-Plattformen wie Facebook, Instagram, TikTok usw. stehen zunehmend in der Kritik, bewusst und gezielt Abhängigkeiten oder gar Suchtverhalten bei ihren Nutzerinnen
und Nutzern zu erzeugen. Ihre Designs und Algorithmen sind darauf ausgelegt, die Verweildauer und die Interaktion auf der Plattform zu maximieren, um daraus über Werbeeinnahmen kommerziellen Nutzen zu ziehen.Um individuell zugeschnittene Inhalte zu präsentieren, analysieren sie das Nutzerverhalten, wobei eine Feedbackschleife entsteht: Je mehr die Nutzer:innen interagieren, desto präziser sagt der Algorithmus vorher, welche Art von Inhalten und Belohnungen (Likes, Shares, etc.) sie am meisten in Bann ziehen. Gerade hat die EU-Kommission ein formelles Ermittlungsverfahren gegen TikTok eingeleitet, weil sein Algorithmus möglicherweise zu Abhängigkeit und Radikalisierung führe und den Jugendschutz verletze. Aktuell ist auch eine Klage von 33 US-Bundesstaaten gegen das Technologieunternehmen Meta anhängig, das seine Produkte so gestaltet habe, dass sie Abhängigkeit fördern und zur Verschärfung der psychischen Gesundheitskrise bei Kindern und Jugendlichen beitragen.

In diesem Positionspapier des Rates für Digitale Ökologie wird nun gezeigt, wie solche
Abhängigkeiten durch gezieltes Ausnutzen basaler neuronaler Lernmechanismen erzeugt
werden. Im Zentrum steht dabei das Dopamin, das als Neurotransmitter Erfahrungen belohnt, was zu einer erhöhten Motivation führt, das belohnte Verhalten zu wiederholen. Hinzu kommt aber der Mechanismus der intermittierenden Verstärkung: Wenn ein Verhalten gelegentlich und unvorhersehbar belohnt wird führt dies zu einer Verstärkung der Anstrengung und damit zum eigentlich „Lernen“. Dieser basale Lernmechanismus wird von Social-Media- Algorithmen gezielt ausgenutzt, was besonders für junge Menschen gefährlich ist, weil hier Abhängigkeiten in einer Phase erzeugt werden, in der ihre Gehirnentwicklung und zentrale Funktionen wie etwa die Impulskontrolle noch nicht abgeschlossen sind.

Alles, was im Kindes- und Jugendalter passiert-sei es in der Wahrnehmung, in der Kommunikation oder durch Handlungen-prägt die synaptische Verschaltungsarchitektur des sich entwickelnden Gehirns. Insbesondere das Frontalhirn, das eine Schlüsselrolle in der Impulskontrolle spielt, entwickelt sich bis weit in die Adoleszenz hinein.

Dies bedeutet, dass Jugendliche besonders anfällig für die auf das Belohnungssystem
abzielenden Designelemente in sozialen Medien sind. Darüber hinaus kann die intensive Nutzung dieser Medien langfristige Auswirkungen auf die Gehirnentwicklung Jugendlicher haben.

• Aufgrund der tiefen Intervention in die Gehirnentwicklung vieler hundert Millionen junger Nutzer:innen von Social Media lässt sich das, was wir gerade beobachten, als das größte soziale Experiment der Menschheitsgeschichte bezeichnen.

Der Rat für Digitale Ökologie fordert die Politik auf, diese eminent gefährliche Entwicklung
zur Kenntnis zu nehmen und – wie die US-Bundesstaaten – entsprechende Maßnahmen
zu ergreifen.

Es braucht

• (1) Vorgaben und Regularien, die die Anbieter zur algorithmischen Transparenz verpflichten, inklusive der Offenlegung, auf welche Variablen diese optimiert werden. Diese Daten braucht es sowohl für die Forschung als auch für die Suchtprävention. Doch mit einem Transparenz-Versprechen ist es nicht getan, sondern es brauccht
• (2) öffentlich-rechtliche soziale Plattformen, da diese schon längst Deliberations-Räume für Demokratie und Teilhabe sind. Ihre Funktionen innerhalb einer modernen Gesellschaft müssen als Teil kritischer Infrastruktur verstanden werden.
• Deshalb sollte es (3) gesetzlich untersagt werden, mit Verhaltensvorhersagen Geld zu verdienen. Das ist die Voraussetzung dafür, Plattformen wirklich user-zentriert und im Sinne der Nutzenden zu gestalten.
• Kurzfristig braucht es (4) verpflichtende Einschränkungen der auf Gewohnheit und Abhängigkeit optimierten Designs.
• Schließlich (5) ist die Bildungspolitik adressiert, die die Nutzung von Smartphones während der Unterrichtszeit einschränken oder ganz verbieten könnte.
• Die wichtigste Empfehlung an die Politik ist aber, ernst zu nehmen, dass (6) Social Media auch die Psychologie der Bürgerschaft des demokratischen Staates verändert – sowohl was die Mediennutzung, die Aufmerksamkeitsspanne, die Beziehungsverhältnisse und die Selbstverhältnisse der Menschen angeht.

Dabei ist direkt betroffen, was wir vor dem Hintergrund der Aufklärung und der politischen Geschichte für die zentrale Voraussetzung von Demokratie halten: nämlich die Autonomie der Bürger:innen und ihre eigene Urteilskraft. Gilt daher noch das Prinzip der „Erziehung zur Mündigkeit“, das normativ die westlichen Demokratien begründet und die Freiheit ihrer Mitglieder garantiert? Oder sehen wir hier, und nicht nur bei den heranwachsenden Gesellschaftsmitgliedern, Einschränkungen der Entwicklung der Urteilskraft, die weit über die individuellen Folgen hinaus Wirkung auf die soziale und politische Praxis in unseren Gesellschaften entfalten? Demokratien leben von der Urteilsfähigkeit und Verantwortungsbereitschaft ihrer Bürger:innen. Wenn diese unterminiert werden, können Demokratien langfristig nicht existieren."