Das Gegenteil von ‚gut‘ ist ‚gut gemeint‘. Karl Kraus

Die Überwachungskultur und ihre Feinde

Die pluralistische Sichtbarmachung unserer Privatsphäre durch Technologie hat System. Scoring-Modelle in der Finanz-, Versicherungs- und Personalbranche sind ein Wachstumsmarkt. Aber nach welchen psychologischen Methoden werden Sharing-Daten erhoben bzw. ausgewertet, fragt Simone Belko.

Die Feinde der Überwachungskultur sind nicht nur Staaten, die den gläsernen Bürger züchten, sondern auch die großen Tech-Unternehmen, die systemrelevante Algorithmen unter Verschluss halten.

Der Hype um das Internet ist verflogen. Die technischen Errungenschaften haben nicht dazu geführt, dass die Arbeit weniger oder die Gesellschaft besser oder gerechter geworden ist – das Gegenteil ist der Fall. Nur 15% des Geldes, das auf den internationalen Märkten zirkuliert, fließt in die Realwirtschaft ein. Der andere Teil wird als Assets in schwindelerregendem Tempo an der Börse gehandelt, wobei 80% des Tradings von hochkomplexen Algorithmen automatisch vorgenommen wird.1 Profitiert hat eine kleine Elite, die einen überproportional hohen und stetig wachsenden Anteil an dem Vermögen der Menschheit in den Händen hält, ohne dafür im Gegenzug realwirtschaftliche Leistung zu erbringen.

Die Politik dagegen wird maßgeblich durch größtenteils intransparente Lobbyarbeit großer Konzerne bestimmt, die ungehindert den sogenannten Drehtüreffekt für sich nutzen. Dies legt die politische Agenda einseitig auf eine angesichts zunehmender Verarmung und sozialer Spaltung fragwürdige Wachstums- und Beschäftigungspolitik fest, die die Rechte der Verbraucher in zweite Reihe stellt. Auf der Strecke bleiben zukunftsorientierte Lösungen in Kernbereichen wie Umwelt, Gesundheit und Bildung. Der politische Wille, Unternehmen durch härtere Gesetze stärker zur Verantwortung zu ziehen, ist sehr gering ausgeprägt. Leben wir also bereits in einer „Diktatur der Konzerne“ (Thilo Bode)?

Das Internet hat dabei geholfen, neue Abhängigkeiten geschaffen, statt uns von den bestehenden zu befreien. Der Kasino-Kapitalismus, der seit den 80ern die Realwirtschaft verwüstet, hat sich längst einen neue Verbündeten gesucht, um seine Macht zu sichern – das kommerzielle Internet. Denn wir leben in Zeiten des„Überwachungskapitalismus“ (Shoshana Zuboff), der die neoliberalen Finanzwirtschaft mit der Macht des Digitalen ausstattet und uns alle zu Sklaven des virtuellen Marktplatzes macht. Andrew Keen weist in seinem Buch „Das digitale Debakel“ nach, inwieweit das Internet mit daran Schuld ist, die bestehenden Ungleichheiten des neoliberalen Systems fortzusetzen, indem es eine neue Elite an Superreichen produziert und Arbeitsplätze vernichtet.

Die Matrix ist real. Während in der Onlinewelt perfektionierte Avatare in Phantasiewelten miteinander kommunizieren, wird diese Utopie mit neuen Abhängigkeiten, Ausbeutungen und Umweltverschmutzungen teuer bezahlt: der Auslagerung von Arbeit an den Kunden – den Prosumer -, der den Gewinn den Tech-Imperien noch weiter steigert. Hinzu kommt die menschenunwürdige Arbeit in den Minen für den Abbaus des Rohmaterials der Hardware, der Aufbau von gigantischen Serverparks in einstmals unberührten Landschaften und der immense Stromverbrauch für die Aktivitäten im Internet – als Beispiel seien hier die sehr realen Kosten für das Mining von Bitcoins genannt, welches enorme Mengen an Strom, Arbeitskraft und Rohstoffen verbraucht.

Die westliche Wirtschaft leidet unter dem Plattform-Kapitalismus. Während immer mehr Jobs der Automatisierung zum Opfer fallen, findet eine Proletarisierung der Wissensarbeiter statt. Die Proliferation von Inhalten hat die Ware Wissen inflationär verbilligt. Die großen Techkonzerne verdienen große Summen mit der Verwertung von Information bei vergleichsweise geringer Arbeitsbelastung, während sich ein neues Prekariat herausgebildet hat: Freelancer und Selbstständige, die für sie aus systemischem Zwang den Großteil der Arbeit erledigen. Diese Content Creators produzieren am Fließband die Ware Information, während die Content Performer, die digitalen Plattformen, sie dafür mit Reichweite belohnen. Die Content Creators müssen ihre Dienstleistungen in der Performer-Maschinerie als Ware dauerhaft diszipliniert anpreisen, um an Aufträge zu kommen. Dieses Sich-zu-Schau-Stellen in der Produktionsfabrik, um Unternehmer und Kunden zu überzeugen ihre Dienste in Anspruch zu nehmen, gleicht der Prostitution.2

Diese Machtverteilung hat ihre Entsprechung auf der Ebene zum Zugang zur Technologie. Die Arbeit der Prosumer ist häufig bestimmt von niedrigem Verdienst, unsicheren Arbeitsverhältnissen, befristeten Verträgen oder Zwang in die Selbstständigkeit. Um ihre Zukunft nicht zu gefährden, sind sie im verlinkten Datenuniversum zu einer Optimierung und Selbstüberwachung ihres Verhaltens gezwungen, die an Sklaverei grenzt. Finanzstarke Unternehmen und legale Entitäten sind hingegen mithilfe der Technik vor empfindlicher Durchleuchtung geschützt.

Die Unzufriedenheit mit der herrschenden Elite, die nicht in der Lage zu sein scheint, notwendige gesellschaftliche Reformen durchzusetzen, wird von einem Großteil der Bevölkerung mit Misstrauen und allgemeiner Globalisierungsskepsis abgestraft. Weltweit ist die Demokratie in Bedrängnis geraten: 64% der Menschen, die in Demokratien leben, glauben, dass ihre Regierung „selten“ oder „nie“ im Interesse des Allgemeinwohls handelt, verglichen mit 41% der Menschen, die in nicht-demokratischen Ländern leben.3 Dieser Vertrauensverlust ist reziprok: die traditionellen politischen und wirtschaftlichen Eliten misstrauen gleichermaßen der Effektivität der demokratischen Willensbildung in der neuen Öffentlichkeit digital fragmentierter Räume oder sind schlichtweg mit der Kakophonie der digitalen Community überfordert. So hat die Manipulation von sozialen Netzwerken durch Regierungs- und Wirtschaftsorganisationen auf der ganzen Welt zugenommen.4 Die totale Transparenz entwickelt sich entgegen der Hoffnungen der digitalen Netzgemeinde zum Apparat einer Überwachungsmaschinerie, die allzu häufig die Interessen von Macht- und Geldeliten durchsetzt.

Nicht nur in Europa, in der ganzen Welt sind reaktionäre Parteien und autoritäre Führungsstile auf dem Vormarsch. Nationalistische Populisten nutzen das Misstrauen der Bevölkerung in die neue Technologie und den Frust über mangelnde politische Gestaltung der alten Eliten geschickt, um Hass auf Ausländer, Frauen und sexuelle Minderheiten zu schüren. Im Gegensatz zu diesen Eliten beherrschen sie die neuen Technologien sehr gut und nutzen bewusst alle Möglichkeiten zur zielgruppengenauen Provokation. Sie heizen den gesellschaftlichen Diskurs durch einfache Stammeslogiken der Ausgrenzung auf, was

heutzutage in vielen Staaten beobachtbar ist. Am deutlichsten wird es in der „Us vs. Them“-Mentalität in den USA unter der Regierung von Präsident Trump formuliert. In Wirklichkeit verdeckt dieser Diskurs aber nur die weiter auseinander klaffende Realität zwischen herrschendem System und Untertanen.

Wie sieht es auf den zivilen sogenannten sozialen Plattformen aus? “Give anyone the power to share anything with anyone.” verspricht Facebook-Gründer Marc Zuckerberg in bester demokratischer Manier. Aber der Schein trügt – die Macht ist ungleich verteilt. Undurchsichtige Algorithmen entscheiden längst, wer welche ausgewählten Inhalte aus der Content-Flut angezeigt bekommt. So wird die Kommunikation im öffentlichen Newsfeed zu einer Art Glücksspiel – wieviele meiner Freunde und welche sehen meinen Post überhaupt und wann? Dass man als passive Nutzer unerkannt im Hintergrund bleiben kann, verstärkt eine Kultur des Ausspähens. Die User Experience im sogenannten Newsfeed leidet außerdem unter der Vielzahl an oftmals nicht deutlich erkennbaren Werbeanzeigen. Statt einem einheitlichen Diskurs entsteht eine Fragmentarisierung von sich überschneidenden Kommunikations- und Verkaufsräumen, die eher Verwirrung als Verständigung stiften. So ist es kein Wunder, dass sich das Sharing von Inhalten immer weiter ins Private verlagert. Die Entwickler reagieren darauf und setzen stärker auf kurzfristige, sich selbst löschende Stories, Groups und Messenger.

Aber ob das die Grundproblematik löst ist zweifelhaft. Zu tief liegen die systematischen Fehlkonstruktionen. Statt friedlicher harmonischer Koexistenz der Menschheit tragen Social Media-Netzwerke zur Spaltung und Radikalisierung der Gesellschaft bei. Sie vertiefen bestehende Vorurteile, Diskriminierungen und Ungleichheiten der Verteilung von Reichtum und Macht. Auch Facebooks privater Messenger WhatsApp steht unter dem begründeten Verdacht, den brasilianischen Wahlkampf durch eine von Lobbyisten finanzierte Fake News-Kampagne maßgeblich beeinflusst zu haben, in denen der linksgerichtete Kandidat Fernando Haddad diskreditiert wurde. Ist Facebook gar ein Verbrechersyndikat, wie Bürgerrechtler in Deutschland provokativ behaupten?

Auch wenn Silicon Valley mit sozialistischen Ideen liebäugelt und sich das bedingungslose Grundeinkommen und die Bekämpfung der Ungleichheit zum Ziel setzt, sprechen Geo- Fencing und Nudging eine eigene Sprache. Das Ziel ist die grenzenlose Manipulation des Nutzers, um sein Leben ganz an der Ideologie des Hyperkonsums auszurichten, die vor allem der Gewinnmaximierung der Techunternehmen nutzt. Die propagierten Ideen wie Sharing Economy und User Empowerment sind laut dem Internetkritiker Evgeny Morozov vor allem Verkaufsmärchen der Technologie-Unternehmen. Sie bedeuten für diejenigen, die auf Erwerbstätigkeit zum Lebensunterhalt angewiesen sind, nicht mehr Freiheit sondern neue Zwangsverhältnisse.

Die Zerstörung des Sozialen ist symptomatisch für das dahinterliegende System: Während die Börsenwerte von Facebook & Co. sich auf hohem Niveau einpendeln, wird die Content-Moderation in Schwellenländer outgesourct. Die Arbeitsbedingungen sind menschenunwürdig: lange Schichten mit extrem hohem Arbeitspensum bei gleichzeitig hoher Verantwortung, dauerhaftes Sichten von Inhalten mit traumatisierenden Inhalten, das alles ohne psychologische Betreuung. Der „Imperialismus der Zivilisation“ (Thomas Mann) versklavt durch die totale Vermarktung des Menschlichen. Das Ideal der grenzenlosen Transparenz huldigt einem Exhibitionismus, der dem Fratzenhaften und sogar dem privaten Grauen eine Bühne bietet. Die psychologische Konditionierung der Data Worker, die die Abgründe des Systems der kollektiven Selbstoffenbarung reparieren müssen, hat nach bester Clockwork Orange-Manier inhumane Nebenwirkungen.

Die psychologische Manipulation ist systemimmanent. Mit Social Engineering gerät der Mensch ins Visier. Die Täter nutzen die sozialen Netzwerke, um ihr Opfer passgenau auszusuchen. Opfer werden durch Datendiebstahl oder Betrug geschädigt oder durch geschickte Kombination von Kenntnis sensibler Informationen (die durch das Internet einfacher ist denn je) und der Ausnutzung menschlicher Verhaltensweisen zur Ausgabe hoher Geldsummen verführt. Laut FBI gab es 2013-18 weltweit knapp 80.000 Fälle von Business Email Compromise (BEC) und E-Mail-Account-Compromise (EAC) mit Gesamtverlusten in Höhe von über 10 Milliarden Euro.5

Wie problematisch Social Engineering im großen Rahmen ist, zeigen die jüngsten Eskalationen von Hetzjagden. So hat die kollektive Transparenzmaschine in der sogenannten Rohingya Krise dazu beigetragen, dass Hunderttausende Angehörige der muslimischen Minderheit der Rohingya nach rassistisch motivierten Tötungen, Verschleppungen, Folter, Vergewaltigungen, Zwangsarbeit und gewalttätiger Besitzdeprivation- und zerstörung fliehen mussten. Sie wurden zuvor über Facebook von militärischen und zivilen Autoritäten als Terroristen dargestellt, was in Hetze und Aufrufen zur Gewalt eskalierte, die durch die mangelhafte Regulierung auf Facebook und anderen sozialen Netzwerken offensichtlich verstärkt wurde. Auch in Ländern wie Libyen und den Phillipinen wird Social Media von Militär und kriminellen Organisationen instrumentalisiert, um politische Feinde zu verfolgen.

In autokratischen Staaten wie Russland und der Türkei versucht man mit weitreichenden staatlichen Eingriffen wie Gleichschaltung der vierten Gewalt, strikten Zensur-Methoden, Kontrolle von Online-Lizenzen oder aktiver Manipulation das Internet zu kontrollieren, um es im Sinne der Herrschenden zu instrumentalisieren. So ist die Türkei das Land mit den meisten Internetsperren weltweit.6 In Russland beschäftigt die berühmt-berüchtigte Internet Research Agency (Агентство интернет-исследований) sogenannte Trolls damit, den Diskurs auf Netzwerken wie Facebook und Twitter in eine Richtung zu lenken, der für die innen- und außenpolitische Stärkung der russischen Regierung günstig ist. Dabei schreckt sie nicht vor Falschmeldungen, gezielter Desinformation und Wahlmanipulation in Fremdstaaten zurück.

In China hat die kommunistische Regierung mit der Einführung eines scheinbar transparenten „Social Scoring“-Systems 2014 gar die perfekte Verbindung zwischen Erziehung zum idealen Pflichtbürger und kollektiver kapitalistischer Wertschöpfung geschaffen: je vertrauenswürdiger ein Bürger ist, desto mehr Punkte sammelt er. Die Chancen auf ein glückliches Leben inklusive Studienplatz, Wohnung, Online- Partnersuche, Kreditvergabe, exklusiver Krankenversorgung und dem Recht zu Reisen hängen von der angepassten Unterwerfung unter das Staatswohl ab, deren Kriterien eine kleine Elite bestimmt.

Die Hoffnung auf mehr gesellschaftliche Sicherheit durch datengetriebene Transparenz scheint ins Gegenteil zu kippen: Die allgegenwärtige psychologische Durchleuchtung nach weitgehend unbekannten Mustern fördert tiefes Misstrauen in großen Teilen der Bevölkerung. Nach den Snowden-Enthüllungen haben 34% der Amerikaner ihre Social Media-Nutzung dahingehend geändert, sich vor der Ausspähung durch die Regierung zu schützen. 25% haben ihr Verhalten im Bezug auf Telefon, Emails und Suchmaschinen geändert.7 Gleichzeitig ist das Ausmaß der Manipulation der Technologie durch Macht- und Geldeliten auf demokratische Prozesse zu beunruhigend geworden, um sie zu ignorieren.

Aber wie kann man die Überwachungskultur so gestalten, dass sie die Interessen der Konsumenten und Bürger besser berücksichtigt? Anfangen sollte man bei der Heuchelei der Tech-Unternehmen. Das Transparenz-Ideal des dataistischen Kontrollsystems wird schließlich nur scheinbar verwirklicht, nämlich an der Oberfläche, im zweidimensionalen Raum des User Interface. Dieser oberflächlichen Transparenz steht die verborgene Tiefenstruktur der Netzwerkbeziehungen gegenüber, in die nur die Tech-Unternehmen Einblick haben. Diese Struktur ist vergleichbar mit dem Verhältnis zwischen Internet und Deep Web: Entertainment meets Business.
Keiner aber weiß, was für Muster oder – noch interessanter – welche Abweichungen von Mustern die Tech-Unternehmen dort erkennen und wie und warum sich dies wiederum in Entscheidungen niederschlägt, Algorithmen auf die eine oder andere Art zu verändern. Diese Entscheidungen, die klammheimlich von den verantwortlichen Tech-Unternehmen getroffen werden, sind die eigentlichen undemokratischen Manipulationen, weil sie einen enormen Wissensvorteil auf den Seiten der Manipulatoren herstellen. Die Prosumer aber merken entweder gar nicht, dass sie in eine andere Richtung gelenkt werden oder merken es, können aber nicht verstehen, was vor sich geht. Dies ist das Gegenteil von Transparenz und stellt ernsthafte Probleme für die Selbstbestimmung von Individuen dar. Außerdem stellt es eine sehr wichtige Grundfrage: wie aussagekräftig sind Daten, die in einem wissenschaftlich nicht gesichertem Experimentierumfeld erhoben werden, das zudem bewusste Manipulation als Grundprinzip verwendet?

1 Foroohar, Rana: „Globalization has created wealth – but for whom?“ 18 May 2016. World Economic Forum- but-for-whom Abgerufen am 11.11.2018.

2 Kristian Lukic: „Colonization with Love“. 19.08.2016.

3 The Alliance of Democracies Foundation: „Democracy Perception Index 2018“. June 2018

4 Bradshaw, Samantha /Howard, Philip N.: „Challenging Truth And Trust: A Global Inventory Of Organised Social Media Manipulation“ Working Paper 2018.1. Oxford, UK: Project on Computational Propaganda.

5 „Business E-Mail Compromise the 12 Billion Dollar Scam“ 2nd July 2018. Public Service Announcement. Federal Buero of Investigation Abgerufen am 13.11.2018
6 „Im Schatten der Netzwelt – The Cleaners“. Dokumentarfilm Deutschland 2018. ARTE

Lesen Sie weitere Meinungen aus dieser Debatte von: Reinhard Olt, Vera Lengsfeld, Martin Lohmann.

Leserbriefe

comments powered by Disqus

Mehr zum Thema: Digitalisierung, Internet, Pressefreiheit

Debatte

Thüringen: Schlusslicht bei der Digitalisierung

Medium_562d49449a

„Dank Rot-Rot-Grün ist Thüringen ein digitales Entwicklungsland“

Beim aktuellen Deutschland-Index der Digitalisierung 2019 belegt Thüringen den letzten Platz. Die Studie ist ein Beleg für die Innovationsferne und das Infrastrukturversagen von Rot-Rot-Grün, so de... weiterlesen

Medium_1642163c2f
von Mario Voigt
15.03.2019

Debatte

Chancen der Digitalisierung nutzen

Medium_68a3bd43b9

Die revolutionäre Evolution – Aufbruch in ein neues Banking

Nur selten in ihrer Geschichte wurden Banken so durchgeschüttelt wie aktuell. Die Digitalisierung hat die Branche voll erwischt. Geschäftsmodelle, Prozesse und Produkte verändern sich rasant. Das K... weiterlesen

Medium_f538af88cf
von Michael Diederich
03.03.2019

Debatte

Zensur statt Digitalisierung

Medium_41d3b80aa6

Alice Weidel: Ich habe Zweifel an Digitalkompetenz der Bundesregierung

Eine Mehrheit der Deutschen traut der Bundesregierung nicht zu, die Digitalisierung tatsächlich voranzubringen. Dazu meint die Fraktionsvorsitzende der AfD im Deutschen Bundestag Alice Weidel weiterlesen

Medium_0156d00e54
von Alice Weidel
16.02.2019
meistgelesen / meistkommentiert