Vertraue den Daten?!

Predigt zur Jugendvesper des Bistums Osnabrück am 4.3.2021
Video der Predigt

Vertrauen ist gut, Kontrolle ist besser. Ein abgelutschter Spruch, oder? Aber irgendwas ist dennoch dran. Zwei Beispiele aus meiner Familie:
Wenn meine Frau und ich unsere Kinder fragen, ob sie ihre Hausaufgaben gemacht haben und sie sagen: Natürlich, Mama, klar, Papa – und wir die Hefte dann doch nochmal ansehen und möglicherweise Flüchtigkeitsfehler finden oder sogar eine falsche Lösung der Matheaufgabe. Oder wenn ich den Gurt doch noch mal überprüfe, obwohl die Kinder sich schon selbst anschnallen können. Dann haben alle was von der Kontrolle, sie dient einem gemeinsamen, höheren Gut. Und wenn wirklich alles in Ordnung ist, wenn – wie versprochen – alle Aufgaben gemacht sind, der Gurt straff sitzt, dann stärkt die Kontrolle das Vertrauen.

Chinas Sozialkreditsystem

Auch China will seinen Bürgerinnen und Bürgern vertrauen. Dort laufen seit einigen Jahren Testprojekte, die unter dem Namen Sozialkredit bekannt sind. Die Idee dahinter: Jede Bürgerin, jeder Bürger, hat einen individuellen Vertrauenswürdigkeits-Score, also einen Wert, der ihre oder seine Vertrauenswürdigkeit angibt. Diesen können die Menschen eigentlich selbst bestimmen, indem sie keine Straftaten begehen, sich an die Verkehrsregeln halten, ihre Rechnungen bezahlen und ein rechtschaffenes Leben führen. Wer einen hohen Score hat, wird vom Staat belohnt, bekommt z. B. kostenfreie Upgrades in der Bahn, kann kostenlos Medien aus der Bibliothek ausleihen oder bekommt eine besonders gute Platzierung in Dating-Apps. Andersherum: Wer nicht vertrauenswürdig ist, der oder dem kann das Internet gedrosselt werden, die Betroffenen können keine Fernzüge mehr buchen oder ihre Kinder nicht mehr auf öffentliche Schulen schicken.

Das Sozialkreditsystem wird möglich durch das intensive Sammeln von Daten. Und davon gibt’s in China genug. Das Land ist Weltmeister im mobilen Bezahlen – wer also wo was kauft, erfährt der Staat. Er überwacht zudem das Verhalten im Internet und wertet es aus. Tja, und dann wären da noch die Kameras – viele Kameras. In China gibt es Schätzungen zufolge zwischen 200 Millionen und 626 Millionen Kameras im öffentlichen Raum, die wirklich jeden Schritt der Menschen kennen, also, ob sie alten Frauen über die Straße helfen und abends direkt nach der Arbeit nach Hause zur Familie fahren – Pluspunkte auf dem Vertrauenskonto -, oder ob sie bei Rot über die Ampel gehen und nach der Arbeit regelmäßig in einer Kneipe oder gar bei einer fremden Bekanntschaft vorbeischauen. Minuspunkte.
Die Vertrauenswürdigkeit bestimmen also letztlich Computersysteme, die mithilfe Künstlicher Intelligenz Gesichter erkennen und diese mit anderen Daten – z. B. der Rechnung aus der Kneipe – zusammenführen.

Klingt wie eine wahr gewordene Black Mirror-Folge, oder? Doch Vorsicht: Die meisten Chines*innen in den Regionen, die an den Testprojekten teilnehmen, scheinen damit einverstanden zu sein. Sie verstehen die Belohnungen als Ansporn und betrachten die Einschränkungen als verdient.  Ihr eigener Vertrauenswürdigkeitsscore ist auch kein Geheimnis. Sie können ihn jederzeit über ihr Handy einsehen. Und: Was wir hier in Deutschland und Europa unter Datenschutz und Privatsphäre verstehen, wird in China aus kulturellen und historischen Gründen völlig anders betrachtet. Vor zu schnellen Urteilen sollten wir uns also hüten. Doch klar ist: Was richtiges und falsches Verhalten ist, was vertrauens- und vertrauensunwürdig ist, entscheidet der Staat mit seinen Algorithmen. So werden nicht nur Diebstahl, Verkehrssünden oder Fremdgehen mit einem niedrigen Score bestraft, sondern diversen Berichten zufolge auch kritische Journalist*innen oder Dissident*innen.
Der Spruch Big Brother is watching you wurde in den letzten Jahren inflationär benutzt. Aber wenn er irgendwo stimmt, dann sicherlich hier.
Der chinesische Staat will seinen Bürgerinnen und Bürgern vertrauen. Er will, dass sie sich untereinander vertrauen. Aber führt das Sozialkreditsystem zu Vertrauen?

Blicken wir zurück auf die Redewendung vom Anfang: Vertrauen ist gut, Kontrolle ist besser. Ich glaube, was in China Vertrauen heißt, ist ausschließlich Kontrolle… Es ist nichts anderes als Misstrauen des Staates in seine Bevölkerung.

Qualität vs. Quantität

Dazu kommt: Der Vertrauensbegriff im Sozialkreditsystem beruht auf Daten. Auf Internetdaten, Bewegungsdaten, Nullen und Einsen, Ampel rot oder Ampel grün, Kredit bezahlt oder Kredit nicht bezahlt – also Werten, mit denen Computer rechnen können.

Aber ist Vertrauen in Zahlen, in Daten, zu messen? Ich glaube nicht! Es ist eine Qualität, keine Größe. Vertrauen ist überhaupt nicht zu messen, sondern beruht auf Erfahrungen, Emotionen, Einstellungen. Nicht auf Daten und Zahlen. Wie so vieles in unserem Leben!
Das ist wohl einer der größten Fehleinschätzungen unserer Zeit: Dass die Propheten im Silicon Valley, in Peking oder Anderswo das Credo verbreiten, alles sei in Daten darstellbar – messbar, kontrollierbar und berechenbar…. Dass die manipulativen Werbestrategien der Tech-Industrie uns glauben lassen, intelligente Technik würde unser Leben per se besser machen, nein: wir wären nur dann vollständige Menschen, wenn wir die neuesten Gadgets und Widgets hätten, die alles messen und steuern können.  … und das uns diese digitale Sein uns mehr Kontrolle über unser Leben verheißt.
Dabei, und dafür ist China nur ein Beispiel, kontrolliert die Technik oft uns.

Und kaum jemand widerspricht den Technik-Gläubigen. Aus der Kirche kommen dazu selten deutliche Worte, die daran erinnern, dass der Mensch als nach Gottes Ebenbild geschaffenes Wesen mehr ist als Nullen und Einsen. Die Politik sieht nicht, dass hier Artikel 1 des Grundgesetzes in Frage steht, in dem es heißt: Die Würde des Menschen ist unantastbar. Dabei ist eine Reduzierung auf messbare und verwertbare Daten nichts anderes als ein Angriff auf die Würde des Menschen.
Und was sagen wir den Techno-Göttern, die und nicht als ganzen Menschen, sondern als Datenlieferanten sehen? „Naja, stimmt schon… aber so ne Apple Watch ist ja schon irgendwie ganz geil…“
So blieb der Aufschrei aus, als sich 2015 in den USA eine Kirche gegründet hat, die eine Künstliche Intelligenz als Gott anbetet. So gibt es kaum kritische Worte gegenüber der Quantify Yourself-Bewegung, die mithilfe von Fitnesstrackern und Körpersensoren das Leben vermessen und optimieren will – und deren Anhänger*innen bei der Frage „Wie geht es dir“? nur noch auf die Smartwatch schauen müssen – statt in sich hinein zu horchen. Dabei findet man dort so viel Echtes, so viel Wahres.
Vertrauen zum Beispiel.

Wenn ich jemandem vertraue, dann ist das ein Gefühl. Ein Gefühl der Sicherheit, der Zuneigung, der Gewissheit: Die oder der will mir nichts Böses! Dafür habe ich keine Beweise, die auf Zahlen und Daten beruhen, ich brauche auch keinen Score, der mir anzeigt, was ich empfinde! Nein – wenn ich jemandem vertraue, oder auch nicht vertraue, dann ist das einfach so. Dieses Gefühl ist wahr, obwohl es nicht messbar ist.
Ja, wir vertrauen auch mal den Falschen, ja, Vertrauen kann auch missbraucht werden. Aber auch messbare Zahlen können mich in die Irre führen, z. B. wenn der Maßstab nicht stimmt; Zahlen können manipuliert werden, ein Computer kann gehackt werden. Dagegen ist Vertrauen schon ein ziemlich verlässlicher Kompass für unser Leben. Ein Leben in Vertrauen – So stelle ich mir ein gutes Zusammenleben zwischen Menschen vor.

Vertrauen in Gott

Und so stelle ich mir Gott vor. Mein Glauben ist Vertrauen! Da gibt es keinen Beweis, dass er da ist, keine Standortdaten, die mir seinen Aufenthaltsort zeigen, keine Internetspuren, die er beim Surfen hinterlassen hat, keine Rechnung aus der Kneipe, in der er sein Feierabendbier trinkt, keinen Algorithmus, der sein Sein auswertet.
Und doch weiß ich, dass er da ist und mein Leben liebend umfängt.
Im Buch Jeremia heußt es: „Gesegnet der Mensch, der auf den HERRN vertraut und dessen Hoffnung der HERR ist.“ Und Jesus spricht im Markus und Matthäus-Evangelium zu seinen zweifelnden Jüngern: „Habt Vertrauen, ich bin es.“

Ich wünsche allen Menschen dieses Vertrauen in Gott. Es hat die Kraft, uns durch schwierige Zeiten zu tragen, wenn wir nicht mehr weiterwissen, verängstigt sind oder zweifeln. Wir dürfen darauf vertrauen, dass alles gut wird, auch in Sachen Corona, irgendwann, bald. Und wir können, wir müssen nicht mal genau sagen, warum wir das glauben. Wir wissen einfach, dass da jemand ist, dem wir nicht egal sind.
Und der offenbar das Vertrauen in uns Menschen auch noch nicht verloren hat – obwohl es Millionen Gründe dafür gäbe! Gott hat uns diese Erde anvertraut. Was für ein Risiko! Ein Risiko, das deshalb so hoch ist, weil er uns mit einem freien Willen ausgestattet hat – noch so ein Ding, das nicht messbar ist, dass sich jeder Erfassung durch Datensammler entzieht.

Gott hat uns diesen freien Willen geschenkt, den er nicht kontrollieren kann, und offenkundig auch nicht will. Und doch – nach 200.000 Jahren Krieg und Folter, Umweltzerstörung und menschlichen Allmachtsphantasien – vertraut er uns offenbar noch immer.
Dazu braucht er keine Kameras, keine Algorithmen, keine Berechnungen, kein Gadget, kein Widget, keinen Score.

Checken wir mal die Vertrauens-App in unserem Herzen.
Sie zeigt an: Er ist da. Er ist für uns da.
Big Father is watching you.
Halleluja!

Die 2020er – das Jahrzehnt der Tarnkappen?!

Der Investor und Risikokapital-Experte Fred Wilson hat eine Prognose über die Herausforderungen des neuen Jahrzehnts erstellt. Qua Job müsste er ein ziemlich guten Blick auf die Zukunft haben. Seine zehn Thesen sind allesamt lesens- und bedenkenswert. Eine hat es mir aber besonders angetan:

Die Massenüberwachung durch Regierungen und Unternehmen wird in diesem Jahrzehnt normal werden, und die Leute werden sich zunehmend neuen Produkten und Dienstleistungen zuwenden, um sich vor der Überwachung zu schützen. Die größten verbrauchertechnologischen Erfolge dieses Jahrzehnts werden im Bereich des Datenschutzes liegen.

Fred Wilson, www.avc.com; Übersetzung M. Brendel
Anlasslose Maskenüberwachung?

Das ist schon eine krasse Hypothese: Massenüberwachung wird normal werden? Es mag blauäugig scheinen, aber ich glaube, derzeit ist die Gesellschaft im Blick auf Überwachung so kritisch wie nie – zumindest Teile der Gesellschaft. Das BND-Gesetz ist vor dem Bundesverfassungsgericht, die EU-Kommission erwägt öffentliche Gesichtserkennung zu verbieten, die zu den gefährlichsten Überwachungstechniken gehört. auch Google-Chef Pichai hat sich wiederholt kritisch zu der Technologie geäußert. Auf der anderen Seite wurden gleichzeitig die Machenschaften von https://phonefindservice.info ,clearview-sammelt-milliarden-gesichtserkennungsdaten-100.html“ target=“_blank“>Clearview bekannt, die 3 Mrd. Portraitfotos aus dem Netz gefischt und für ihre Kunden kategorisiert haben. Und Indien will die Gesichtserkennung flächendeckend einführen.

Ich kann Fred Wilson also nicht widersprechen. Möglicherweise wird die neue Dekade das Jahrzehnt der Tarnkappe. Bereiten wir uns darauf vor. Dieser Blog wird an der Freiheit, Selbstbestimmtheit und Würde des*der Einzelnen in der analogen und digitalen Gesellschaft festhalten.
Happy new Years!

[UPDATE 20.1.2020] Streit um Huawei – an der Sache vorbei?

Warum ein Huawei-Ausschluss keine Sicherheit bringt

5G in Deutschland – Hört China mit?

In der Politik wird heftig darüber gestritten, ob der chinesische Elektronikkonzern Huawei aus der Ausstattung des deutschen 5G-Netzes ausgeschlossen werden soll. Als Bedenken werden die Möglichkeit zur Spionage, zur Überwachung, zur Fernabschaltung des Netzes aus politischen Gründen oder allgemein die Nähe Huaweis zum chinesischen Staat angegeben. Nicht nur US-Präsident Trump folgt dieser Argumentation, auch in den deutschen Regierungsparteien finden sich solche Stimmen.

Das ist natürlich etwas absurd, weil es gerade die Bundesregierung ist, die die Hintertüren in Messenger einbauen will und damit das Konzept der Verschlüsselung angreift. Diese ist nach Ansicht der Stiftung Wissenschaft und Politik auch im 5G-Netz der beste Schutz vor Datenmissbrauch.

Ist das Ziel die Vermeidung von Spionage, so sollte Deutschland unabhängig von der Entscheidung für oder gegen Produkte von Huawei die bestehenden Möglichkeiten zur Verschlüsselung von Kommunikation be­wahren und ausbauen

Daniel Voelsen, SWP-Aktuell 2019/A, 5. Februar 2019


Doch auch ein Ausschluss von Huawei als Netzausrüster bringt nicht in jedem Fall ein Sicherheitsplus. China in Sachen Überwachung zu unterschätzen, liegt mir fern – Huawei auszuschließen ist jedoch vielleicht etwas zu kurz gedacht. Warum? Weil dann sämtliche Mobilfunkdaten im über die Technik nur eines anderen Anbieters liefen. Die Konzentration von Datenflüssen ist immer risikoreich. Zum derzeitigen Stand würden bei einem Huawei-Bann die Mobilverbindungen von Telekom- und Vodafone-Smartphones allein über Ericsson-Funkmasten abgewickelt, die von O2 über Nokia. So viele 5G-Ausrüster gibt es weltweit nämlich nicht.
Vielleicht trauen wir finnischen oder schwedischen Konzernen zurecht mehr als chinesischen, ich persönlich bin ziemlich sicher, dass beide Konzerne selbst kein Interesse an Spionage oder Massenüberwachung haben. Doch pro Netz nur von einem Konzern, sei er auch noch so vertrauenswürdig, abhängig zu sein, birgt andere Risiken. Wer die Netze hacken will, sei es um zu überwachen, um zu spionieren oder Cyberangriffe durchzuführen, muss nur die Software eines Konzerns hacken. Mit zwei Ausrüstern (oder besser: noch mehr) pro Netz wäre der Angriff schwieriger, das Zusammenführen von Datenpaketen aufwändiger. Dasselbe würde auch für Huawei gelten, wenn die Firma Übles im Schilde führen würde, aber nur auf einen Teil des Netzes Zugriff hätte.
Ich bin froh, dass dieses Argument in der aktuellen Debatte eine Rolle spielt. Beispielsweise werben die beiden CSU-Digitalpolitiker Schipanski und Durz für Vielfalt im Netz:

Um die Abhängigkeit von einzelnen Anbietern sowie die Anfälligkeit des Netzes so gering wie möglich zu halten, müssen wir größtmögliche Diversität in unserem 5G-Netz sicherstellen. Der aktuell diskutierte Sicherheitskatalog sieht vor, dass maximal zwei Drittel des Netzes aus Bestandteilen eines Anbieters bestehen dürfen.

Hansjörg Durz, Tankred Schipanski, Handelsblatt online, 22. November 2019


Egal, wie sich die Bundesregierung entscheiden wird. Ein Risiko für unsere Daten im 5G-Zeitalter ist weder mit noch ohne Huawei auszuschließen.
Ein politisches Dilemma.

Was bleibt uns Nutzer*innen? Uns selbst abzusichern. Verschlüsseln wir die Daten, die uns wichtig sind! Die Nutzung von VPN-Verbindungen am PC oder Smartphone ist heute so einfach wie noch nie und bietet eine weitgehende Anonymisierung des Datenverkehrs, mit Signal oder Threema stehen uns gute (bis dato hintertürenfreie) verschlüsselte Messenger zur Verfügung, mit Nextcloud oder Owncloud verschlüsselte Cloudspeicher und mit Mailbox.org oder Proton Mail verschlüsselte Emailpostfächer.
Im Jahre 2020 schließt es sich nicht mehr aus, gleichzeitig halbwegs sicher und komfortabel im Netz unterwegs zu sein. Im 3G-, 4G- oder 5G-Netz.

Update 20. Januar 2020

Einen interessanten Aspekt bringt die China-Expertin Janka Oertel im aktuellen ZEIT-Podcast „Wird das was?“ in die Huawei-Frage ein.

Wir hatten vor Jahren noch eine Vielzahl europäischer Anbieter in diesem Bereich. Die gibt es alle nicht mehr, weil es durchaus sehr viel günstigere Konkurrenz aus China gegeben hat. Diese günstige Konkurrenz hat dazu geführt, dass wir weniger Anbieter haben 615-544-6027 , dass wir weniger Möglichkeiten haben zu diversifizieren. Wenn wir jetzt dafür sorgen, dass weitere chinesische Anbieter eine dominante Rolle im europäsichen Markt bekommen können – denn wenn Sie als Anbieter die Möglichkeit haben, günstig einzukaufen, warum sollten Sie es nicht tun? – wenn wir bei 75, 80 Prozent Marktanteilen landen, dann werden europäische Konzerne nicht überleben. Dann haben wir überhaupt keine Wahlmöglichkeit mehr.

Dr. Janka Oertel, Director Asia programme, European Council on Foreign Relations

Ein gutes Argument: Oertel steht Huaweis Engagement in unseren 5G-Netzen kritisch gegenüber – gerade weil sie die Anbietervielfalt einschränkt. Sie wirbt deshalb für europäische Komponenten in 5G-Netzen. Diese Argumentation hat mich überzeugt.
Auch die Bedeutung des 5G-Netzes für die Zukunft und das notwenige technische Umdenken im Vergleich zu 4G oder 3G erklärt die Sinologin im Podcast anschaulich. Klare Hörempfehlung!