Lückenlose Überwachung unterläuft zivilisatorische Errungenschaften. Entscheiden Daten und Statistiken über die Rechte von Individuen, sind Menschenrechte ausgehebelt. Wird nicht mehr zwischen politischem Dissens und Delikt unterschieden, so gibt es keine Demokratie.
Die öffentliche Empörung erreichte einmal mehr Spitzenwerte, als die sogenannten Xinjiang Police Files chinesische Überwachungspraktiken im Umgang mit der Minorität der Uiguren publik machten. Sie lassen sich auf zwei Arten lesen. Ideologisch als höhnische Missachtung der Menschenrechte durch ein autokratisches Regime. Technologisch als vorläufig letztes Stadium des Social Engineering, der Abrichtung des Bürgers zum normierten Bestandteil eines sozialen Mega-Apparats. Das ist bereits besorgniserregend genug. Zumal dann, wenn man vernimmt, dass China seine Überwachungstechnologien in rund 80 Länder exportiert. Vorzugsweise in Länder mit schwachen demokratischen Strukturen.
Verhaltensdokumentation und Verhaltensprognose
Man muss deshalb die Praktiken der kommunistischen Führungsclique aus einer «erhöhten» Warte betrachten, um den Horizont der invasiven Überwachung abzumessen. In diesem Horizont werden Unterschiede aufgeweicht, die für eine demokratische Gesellschaft vital sind.
Zunächst der Unterschied zwischen Verhaltensdokumentation und Verhaltensprognose. Die Videokamera überwacht den Supermarkt, indem sie ein Verhalten dokumentiert. Es gibt aber auch die Überwachung, die ein bestimmtes Verhalten prognostiziert. Hier spielen grosse Datenmengen und Algorithmen zunehmend eine Leitrolle. Strafbehörden wenden sie zum Beispiel in der Rückfalleinschätzung von Straftätern an. Der Algorithmus sagt selbstverständlich nicht voraus, ob jemand ein Delikt begehen wird. Er dient einfach der präventiven Profilierung von Personen.
Person und persönliches Datenprofil
Das Verfahren ist alles andere als harmlos. Denn es unterminiert einen zweiten Unterschied, den zwischen der Person und ihrem Datenprofil. Die Algorithmen der Profilierung beruhen auf Statistik. Statistik interessiert sich nicht für das Individuum. Nicht ich, die Person E. K., stehe im Visier der Überwacher, sondern der Typus, der sich so-und-so verhält. Und der Typus, der sich so-und-so verhält, ist ein Destillat aus meinem persönlichen Datenprofil: meinen Konsum-, Ess-, Sexual-, Arbeits-, Freizeit-, Reisegewohnheiten. Er ist ein digitales Abstract meiner selbst, das mich für die Überwachungsmaschine repräsentiert.
In China gibt es zum Beispiel die «Integrated Joint Operations Platform» (IJOP) der Verhaltenspolizei. Sie berechnet für ein Datenprofil die Wahrscheinlichkeit, dass es die Stabilität der chinesischen Gesellschaft gefährdet. Ist eine Person einmal auf dem Radar, ordnet ihr diese Quantifizierung des Verdachts einen Score der Stabilitätsgefährdung zu. Von einem bestimmten Schwellenwert an gilt die Person dann als «Staatsfeind». Und die Staatsorgane greifen zu. Was im Besonderen erklärt, weshalb Bürger aufgrund völlig grotesker «Delikte» weggesperrt werden. Es genügt, bei Rot häufig die Strasse zu überqueren, «anstössige» Wörter im Chat zu benutzen – oder charakteristische Gesichtszüge von Minderheiten wie Uiguren aufzuweisen.
Der grosse Nutzen der Wahrscheinlichkeit
Dieses Spiel mit Wahrscheinlichkeiten hebt einen dritten Unterschied auf. Ob ich nun tatsächlich ein staatsgefährdender Bürger bin oder nicht, ist für den Überwachungsapparat im Grunde irrelevant. Wahrscheinlichkeitsvoraussagen haben immer ihren Nutzen.
Ein Informatiker der CIA drückte das so aus: «Der Wert einer Information stellt sich erst heraus, wenn man sie mit etwas anderem verknüpfen kann, das zu einem zukünftigen Zeitpunkt eintreten wird (…) Da man Punkte, die man nicht hat, auch nicht verknüpfen kann, betreiben wir Vorsorge. Im Grunde sammeln wir alles und bewahren es für alle Zeiten auf.»
Wer also zum Beispiel seine kleinen Kinder nackt am Strand auf Video festhält, könnte in dieser «Vorsorge» irgendwann als wahrscheinlicher Pornograph erscheinen. Das ist das Prinzip des Bespitzelns in Zeiten von Big Data: Man mache den Heuhaufen der Verdächtigen nur gross genug, und man findet ziemlich sicher eine Nadel.
Das neue Wettrüsten der Bespitzelung
Heuhaufenvergrösserung heisst in China «Sharp Eyes», nach dem Sinnspruch des Grossen Vorsitzenden: «Das Volk hat scharfe Augen». Scharfe Augen für all das, was nicht der Norm entspricht. Und was der Norm entspricht, definieren die Chefideologen der Partei. Der laufende Fünfjahresplan Chinas – 2021 bis 2025 – legt denn auch besonderen Wert darauf, dass Stadtverwaltungen mehr Governance durch Überwachung praktizieren. In Schanghai zum Beispiel überwacht seit 2019 ein smartes Mülltrennungssystem die Abfallentsorgung. Wer seinen Müll korrekt entsorgt, erhält soziale Kreditpunkte. Wozu Demokratie, wenn die Technologie den Bürger zu «gutem» Verhalten dressiert?
Der chinesische Staat ist ein gefrässiger Bespitzelungsmoloch. Er verleibt sich Hunderte von Millionen persönlicher Daten ein, um damit die lernenden Maschinen der künstlichen Intelligenz (KI) zu trainieren. Kaum überraschend, wenn die Kommunistische Partei die KI-Forschung als «einen neuen Schwerpunkt des internationalen Wettbewerbs» bezeichnet. Man darf vermuten, dass die Priorität nicht im wissenschaftlichen Erkenntnisfortschritt liegt, sondern im Wettrüsten der Überwachung. Es geht um einen neuen Kalten Krieg zwischen China und den USA, ein Streben nach der KI-Suprematie.
Der «ver-appte» Handy-Bürger
Das Transparentmachen von Konsumenten- und Bürgerverhalten ist auch im Westen das Ziel einer KI-getriebenen Soziologie, der «sozialen Physik». Alex Pentland, einer ihrer prononciertesten amerikanischen Vertreter, spricht ruhmredig von einer «Wiedererfindung der Gesellschaft im Sog von Big Data». Pentland hat den sogenannten soziometrischen Ausweis («sociometric badge») erfunden, einer Art von intelligenter Identitätskarte, die ich auf mir trage, und die ständig meinen Zustand und meine Wege im Netz registriert. Man rüstet etwa die Angestellten einer Firma mit einer solchen Karte aus. In ihr befinden sich Ortssensor, Akzelerometer, Mikrophon, die kontrollieren und registrieren, wohin man geht, mit wem und wie lange man spricht.
Heute bewerkstelligen die Handy-Apps dies alles. Pentland hält mit seiner Sicht nicht hinterm Berg: «Wer du tatsächlich bist, wird bestimmt durch den Ort, wo du deine Zeit verbringst, und durch die Dinge, die du kaufst.» Die chinesischen und amerikanischen Visionen gleichen sich: Das soziale Atom ist der mit unzähligen Apps ausgerüstete – der «ver-appte» – Konsumbürger. Die Ökonomin Shoshana Zuboff spricht von «Überwachungskapitalismus».
Dissens und Delikt
Ein letzter Unterschied sei hier erwähnt, der wohl sensibelste, nämlich zwischen Dissens und Delikt, zwischen Freiheitsrechten und Strafrecht. Demokratie lebt vom Dissens. Was aber, wenn ich mich zum Beispiel öffentlich so äussere, dass der Verdacht auf einen möglichen staatsgefährdenden Akt naheliegt. Bin ich jetzt ein «Staatsfeind»?
Die Ermittlungsbehörde wirft ein Auge auf mich, ihre Algorithmen forschen über mich nach, um Information über mein mögliches Verhalten zu gewinnen. Zwischen Äusserung und Akt liegt jedoch ein Kontinuum. Wo ist der Punkt, an dem die Staatsorgane «vorsorglich» eingreifen sollen? Das sagt ihnen nämlich die Maschine nicht. Heikle Sache.
Tatsächlich kann man sich fragen, was die grössere Gefahr für die Demokratie darstellt: der Dissens oder die Befugnis, den Dissens als Delikt zu qualifizieren. Geheimdienste und Autokraten greifen schon fast reflexartig zum Terrorismus- oder Spionageverdacht als Legitimation dafür, unbequeme Bürger kaltzustellen. Und die neuen Überwachungssysteme, die ihre Netze in den Datenozeanen auswerfen, eignen sich vorzüglich, diesen Verdacht zu nähren – das heisst, zivile Freiheiten zu beschneiden.
Big Data – Big Re-Education
Die heimlichen Autokraten sind die neuen Technologien. Sie sind nicht neutral, ihnen wohnt eine politische Wirkmacht inne. Das heisst, sie ermöglichen überhaupt erst ein bestimmtes politisches Handeln oder sie verstärken ein bestehendes. Grosstechnologien setzen sich zudem nicht demokratisch durch, ihrem Einsatz hinkt das Verständnis ihrer Folgen stets hinterher.
Dieses Defizit könnte sich bei den modernen Überwachungssystemen als besonders verhängnisvoll erweisen. Je selbständiger sie werden, desto effizienter erziehen sie uns um. Bis die Gesellschaft zu einem einzigen Umerziehungslager pervertiert ist, und wir nicht einmal mehr merken, dass wir nicht in einer Demokratie leben, sondern in einer Techno-Autokratie. Der Übergang ist fliessend. Wir stecken mitten drin in dieser Phase.