Corona-App: Eine Frage des Vertrauens

Wie wird die offizielle deutsche Corona-App aussehen, und welche Bedeutung wird ihr im Kampf gegen die Pandemie zukommen? Zumindest scheinen mit der App zu sein, die wir Smartphonenutzer*innen möglicherweise in den kommenden Wochen installieren können, viele Hoffnungen verbunden zu sein. Doch sind die Erwartungen erfüllbar?

Die Bundesregierung hat gestern bekannt gegeben, die von den Nutzer*innen-Smartphones gesammelten Daten nun doch nicht zentral speichern und auswerten zu wollen. Bislang war eine Meta-Auswertung zur Beobachtung der Epidemie geplant. Nun wird die deutsche Corona-App offenbar doch einen dezentralen Ansatz verfolgen, bei dem die Daten auf den Smartphones bleiben. Doch mit diesem Zugeständnis an den Datenschutz, so wichtig wie er ist, ist noch längst nicht klar, dass die App ein Erfolg wird. Ich möchte einige Fragen in die Diskussion einbringen bzw. stark machen:

1. Wie zuverlässig ist die Bluetooth-Messung?
Die App bestimmt mit Hilfe der Bluetooth-Technologie die Nähe zweier Smartphones zueinander und protokolliert enge, länger andauernde Kontakte. Sie wird allerdings auch von einem Kontakt ausgehen, wenn ich auf der einen Seite der Wand auf meinem Sofa sitze und mein Nachbar auf der anderen Seite. Der Bluetooth-Kontakt ist da, obwohl das Infektionsrisiko bei null liegt. Viele IT-Profis, unter ihnen der Informatiker Henning Tillmann, warnen vor falscher Sicherheit. Ich frage mich: Relativieren solche Fehlmessungen, denen die Gesundheitsämter natürlich erstmal auf die Spur kommen müssen, nicht die Arbeitsentlastung der Behörden, die die App eigentlich bringen soll?

Zum anderen ist das, was ein Handy als Nähe zu einem anderen Handy angibt, kein fixer Wert. Entfernungsmessungen per Bluetooth sind nicht geeicht. Der Informatikprofessor Florian Gallwitz weist auf eine Studie hin, die bei verschiedenen Smartphones höchst unterschiedliche Signalstärken gemessen hat. Gallwitz‘ Fazit:

2. Zu wenig Vertrauen in Technik
Wenn ich Kontaktperson eines Infizierten identifiziert wurde und meine App mich bittet, das Gesundheitsamt anzurufen – werde ich das tun? Ich meine, mein Smartphone spinnt doch in letzter Zeit immer so, klingelt manchmal ganz unvermittelt… das könnte doch eine Fehlfunktion sein, oder?
Folge ich also der Aufforderung der Corona-App?
Wenn ich es mache, wird das Gesundheitsamt vermutlich einen Test anordnen – ohne, dass dort irgendjemand weiß oder mir sagen kann, ob ich wirklich mit einer*einem Infizierten in Kontakt gekommen bin (oder ob ich nur an der falschen Wand gesessen habe) – ist ja alles anonym.
Also: Fahre ich dann wirklich zum Testzentrum? Akzeptiere ich die notwendige Quarantäne, die mir während der Auswertung meines meines Test auferlegt wird? Was ist, wenn ich mir todsicher bin, dass ich in den letzten Tagen das Haus nicht verlassen habe?
Ich befürchte, dass das Misstrauen in die eigenen technischen Geräte und in nicht konkret nachvollziehbare Entscheidungen zu einer geringen Verbindlichkeit des Corona-Alarms führt.

3. Zu viel Vertrauen in Technik
Andersherum käme es hingegen noch schlimmer, wenn die App nämlich im blinden Vertrauen auf die Technik zu Leichtsinn ermuntert: die Nutzer*innen im Blick auf ihre persönlichen Kontaktbeschränkungen, die Politiker*innen im Blick auf weitere Lockerungen des Lockdowns.
(Auf das paradoxe Verhältnis zwischen Menschen und technischen Geräten gehe ich in meinem aktuellen Buch näher ein.)

4. Medienbildung first, Vertrauen second!
Die App bringt nur etwas, wenn Sie von vielen Menschen freiwillig installiert wird. Expert*innen sprechen von 60 % der Deutschen, die mitmachen müssen. Dazu braucht es natürlich Vertrauen, dass die persönlichen Daten sicher sind und nicht zu anderen Zwecken verwendet werden. Mit der Kehrtwende der Regierung ist dieses Vertrauen sicherlich leichter zu erreichen. Doch: Wissen die Nutzer*innen der App genug über die ganz normale Datensammlung auf ihren Handys, dass sie diese Entscheidung pro oder contra Corona-App mündig treffen können? Dass also das Vertrauen in diese Bundes-App gerechtfertigt ist?
Wenn nicht – Wer sagt ihnen, welche Macht Metadaten haben, was Profiling ist, womit Data Broker Geld verdienen?
Vertrauen braucht Aufklärung, und Aufklärung braucht Bildung. Und Bildung findet wg. Corona gerade nur sehr eingeschränkt statt.

5. Vertrauen in den Staat?
Die letzte Frage berüht ein durchgängiges Motiv dieses Blogs: den aus meiner Sicht mangelhaften Schutz unserer Freiheitsrechte durch die Bundesregierung. Ich frage ganz im Ernst: Können wir einer Regierung (oder von mir aus: einem Staat) vertrauen, der uns nicht vor ausländischer Massenüberwachung schützt und selbst in unserer Handys einbrechen will (Staatstrojaner)?

Ich hoffe, meine (teils als Sorgen enttarnten) Fragen erübrigen sich in den kommenden Wochen. Ich hoffe, unsere Gesellschaft kommt zu einer verantwortungsvollen Nutzung der Corona-App, die nur dem Zwecke der Pandemiebekämpfung dient und als solche erfolgreich ist. Und ich hoffe, die aktuelle Diskussion um die App führt zu einer breiteren Aufmerksamkeit für den Wert persönlicher Daten.
Dann hätte Corona doch etwas Gutes.

Bundestag gegen Ächtung autonome Waffensysteme – ein schwerer Fehler

Das folgende Thema rückt ein bisschen vom eigentlichen Schwerpunkt dieses Blogs – der Privatsphäre im digitalen Zeitalter – ab; es bewegt mich aber sehr, so dass ich diese Plattform für eine persönliche Einordnung nutzen möchte. Das Thema ist nicht minder wichtig: Es geht um den Frieden im digitalen Zeitalter.

Die Große Koalition hat sich am Freitag gegen eine Ächtung tödlicher autonomer Waffensysteme ausgesprochen, also Waffen, die alleine über den Abschuss von Zielen entscheiden. Anträge der Grünen und der Linken, die sich für eine deutsche Positionierung gegen die Waffentechnologie stark machen, wurden von CDU/CSU, SPD sowie teilweise der FDP und AFD abgelehnt. Details zu den Anträgen in der Zusammenfassung von heise.de – und die Bundestagsdebatte im Video hier.

Ich halte die Ablehnung für ein schlimmes Zeichen. Zum einen sieht der Koalitionsvertrag von 2013 und 2018 eine Ächtung der tödlichen Waffensysteme vor, auch die KI-Enquete-Kommission des Bundestages forderte dies Ende 2019. In der Bundestagsdebatte am Freitag führte eine CDU-Abgeordnete jedoch aus, „ein breites Fähigkeitsspektrum und die Möglichkeit, flexibel auf Bedrohungen reagieren zu können,“ seien unerlässlich. Die Mehrheit der Abgeordneten hat also entgegen der Einschätzung der eigenen Expert*innen entschieden – und die Große Koalition eine Chance verstreichen lassen, den den Koalitionsvertrag zu erfüllen. Doch das verlorene Vertrauen in die Rationalität der Politik ist im Vergleich ein kleines Problem. Vor allem sind tödliche autonome Waffen eine der gravierendsten Gefahren für den Frieden in der Welt. Mehr als 23.000 Personen, unter Ihnen Noam Chomsky, Stephen Hawking, Elon Musk und Steve Wozniak, haben seit 2015 einen offenen Brief unterschrieben, der die Ächtung dieser Waffensysteme fordert. Nach Angaben der Kampagne Stop Killer Robots sprechen sich auch 30 Länder dafür aus, daneben 130 NGOs, 4.500 KI-Forscher*innen, der UN-Generalsekretär, das EU-Parlament, das UNHCR, 26 Nobelpreisträger*innen – und 61 % der Bevölkerung in 26 Ländern. Eine riesige Front von Gegner*innen der lethal autonomous weapons.

Werbevideo für den südkoreanischen autonomen Roboter „SGR-A1“

Stop Killer Robots führt gute Argumente für eine Ächtung der Waffentechnologie 615-544-6756 , die sich zum Teil auch in den Anträgen der Parteien wiederfinden. Ich selbst habe ein Kapitel meines Buchs „Künftige Intelligenz – Menschsein im KI-Zeitalter“ den Argumenten für – aber vor allem: gegen autonome Waffensysteme gewidmet. Hier seien die wesentlichen Punkte angerissen:

  1. Autonom schießende Waffen sind keine Zukunftsmusik.
    Bereits heute sind an der innerkoreanischen Grenze Roboter im Einsatz, die zu eigenmächtigem Abschießen in der Lage sind (siehe Video). Auch Russland, die USA und China haben oder planen Roboter bzw. Drohnen, die dazu in der Lage sind, Israel forscht ebenso intensiv.
  2. Kommt es zu keiner internationalen Ächtung und die Waffensysteme werden tatsächlich erstmals eingesetzt, werden bei den anderen Staaten, die an der Technologie forschen, die Skrupel verschwinden die Waffen selbst „scharf zu stellen“. Es droht ein Wettrüsten.
  3. So wie alle Waffentechnologien werden auch die autonomen Waffensysteme in die Hände von Diktatoren, Despoten und innerstaatlichen Aufrührern fallen. Der völkerrechtswidrige Einsatz und Einsatz in Bürgerkriegen ist nicht zu verhindern.
  4. Die Waffen werden nicht in der Lage sein, rechtlich und moralisch einwandfrei zu funktionieren. Wie soll ein Algorithmus Freund von Feind unterscheiden, wenn eine herannahende Person keine Uniform trägt? Wie kann sichergestellt werden, dass ein autonomes Waffensystem den Genfer Konventionen folgend einen Feind gefangen nimmt, wenn der sich ergibt? Kann ein autonomes Waffensystem moralisch abwägen, wenn der Feind auf dem Dach eines Waisenhauses steht?
  5. Wer trägt die Verantwortung für die Entscheidungen, die die Waffen treffen? Wer hält den Kopf hin, wenn sie fehlprogrammiert sind oder gehackt werden und die Falschen töten? Hier gibt es ein Verantwortungsvakuum.
  6. In den Waffensystemen sitzen hochentwickelte neuronale Netze (Künstliche Intelligenzen), deren Entscheidungen grundsätzlich nicht nachvollzogen werden können. Bis heute sind KI-Anwendungen Black Boxes, deren Entscheidungsweg nicht einmal von ihren Programmierern erklärt werden kann. Wenn es um Leben und Tod geht, ist das eine Ungeheuerlichkeit: Wer kann damit leben, dass es für den Tod eines Angehörigen nicht nur keinen (im rechtlichen Sinne) Verantwortlichen oder einen (im moralischen Sinne) Schuldigen gibt, sondern nicht einmal erklärt werden kann, warum er getötet wurde?
  7. Wenn auf beiden Seiten des Konfliktes autonome Waffen agieren, ist die Gefahr eines Flash Wars real: Dann werden Aktionen und Reaktionen der hochcomputerisierten Systeme beider Seiten so schnell auf einander folgen, dass kein Mensch ihnen folgen kann. Weder die Kommandanten noch die Menschen in den jeweiligen feindlichen Gebieten wissen dann, wer warum den Krieg gewonnen hat – wenn sie denn überleben.

Mein Fazit: Dass sich alle Bundestagsfraktionen außer die der Grünen und der Linken gegen die längst überfällige eindeutige Positionierung gegen autonome Waffen ausgesprochen haben, ist eine unverantwortliche vertane Chance. Die unklare Position, die Deutschland oder auch Frankreich in der Frage einnehmen, gibt den Entwicklerstaaten und Firmen mehr Zeit, die Technologie einsatzbereit zu machen.
Ich vermute, die meisten Abgeordneten verstehen die grundsätzliche Funktionsweise neuronaler Netze nicht, deren sämtliche Risiken in tödlichen autonomen Waffensystemen zum Vorschein kommen. Neben Deep Fakes (denen ich auch ein Buchkapitel widme) gehören diese Waffen zu den größten akuten Gefahren, die uns durch die Künstliche Intelligenz drohen – und die die vielfältigen Vorteile der Technologie relativieren.

Weitere Informationen zu der Thematik gibt es beim Future of Life Institute und der Initiative Stop Killer Robots. Äußerst sehenswert ist der Kurzfilm Slaugtherbots, der die Missbrauchsmöglichkeiten autonomer Waffen eindrücklich vor Augen führt.
So richte ich einen Aufruf an alle, die mit dem Thema bislang nichts zu tun gehabt haben oder Diskussionen um angebliche Killer Roboter für Fragen der fernen Zukunft oder gar für Science Fiction halten: Macht euch schlau, bekennt Farbe und übt Druck aus – sprecht mit euren Bundestagsabgeordneten, macht Journalist*innen und Blogger*innen auf das Thema aufmerksam, teilt Beiträge wie diese und lasst eure Meinung in der analogen wie der digitalen Welt hören.

[UPDATE 20.1.2020] Streit um Huawei – an der Sache vorbei?

Warum ein Huawei-Ausschluss keine Sicherheit bringt

5G in Deutschland – Hört China mit?

In der Politik wird heftig darüber gestritten, ob der chinesische Elektronikkonzern Huawei aus der Ausstattung des deutschen 5G-Netzes ausgeschlossen werden soll. Als Bedenken werden die Möglichkeit zur Spionage, zur Überwachung, zur Fernabschaltung des Netzes aus politischen Gründen oder allgemein die Nähe Huaweis zum chinesischen Staat angegeben. Nicht nur US-Präsident Trump folgt dieser Argumentation, auch in den deutschen Regierungsparteien finden sich solche Stimmen.

Das ist natürlich etwas absurd, weil es gerade die Bundesregierung ist, die die Hintertüren in Messenger einbauen will und damit das Konzept der Verschlüsselung angreift. Diese ist nach Ansicht der Stiftung Wissenschaft und Politik auch im 5G-Netz der beste Schutz vor Datenmissbrauch.

Ist das Ziel die Vermeidung von Spionage, so sollte Deutschland unabhängig von der Entscheidung für oder gegen Produkte von Huawei die bestehenden Möglichkeiten zur Verschlüsselung von Kommunikation be­wahren und ausbauen

Daniel Voelsen, SWP-Aktuell 2019/A, 5. Februar 2019


Doch auch ein Ausschluss von Huawei als Netzausrüster bringt nicht in jedem Fall ein Sicherheitsplus. China in Sachen Überwachung zu unterschätzen, liegt mir fern – Huawei auszuschließen ist jedoch vielleicht etwas zu kurz gedacht. Warum? Weil dann sämtliche Mobilfunkdaten im über die Technik nur eines anderen Anbieters liefen. Die Konzentration von Datenflüssen ist immer risikoreich. Zum derzeitigen Stand würden bei einem Huawei-Bann die Mobilverbindungen von Telekom- und Vodafone-Smartphones allein über Ericsson-Funkmasten abgewickelt, die von O2 über Nokia. So viele 5G-Ausrüster gibt es weltweit nämlich nicht.
Vielleicht trauen wir finnischen oder schwedischen Konzernen zurecht mehr als chinesischen, ich persönlich bin ziemlich sicher, dass beide Konzerne selbst kein Interesse an Spionage oder Massenüberwachung haben. Doch pro Netz nur von einem Konzern, sei er auch noch so vertrauenswürdig, abhängig zu sein, birgt andere Risiken. Wer die Netze hacken will, sei es um zu überwachen, um zu spionieren oder Cyberangriffe durchzuführen, muss nur die Software eines Konzerns hacken. Mit zwei Ausrüstern (oder besser: noch mehr) pro Netz wäre der Angriff schwieriger, das Zusammenführen von Datenpaketen aufwändiger. Dasselbe würde auch für Huawei gelten, wenn die Firma Übles im Schilde führen würde, aber nur auf einen Teil des Netzes Zugriff hätte.
Ich bin froh, dass dieses Argument in der aktuellen Debatte eine Rolle spielt. Beispielsweise werben die beiden CSU-Digitalpolitiker Schipanski und Durz für Vielfalt im Netz:

Um die Abhängigkeit von einzelnen Anbietern sowie die Anfälligkeit des Netzes so gering wie möglich zu halten, müssen wir größtmögliche Diversität in unserem 5G-Netz sicherstellen. Der aktuell diskutierte Sicherheitskatalog sieht vor, dass maximal zwei Drittel des Netzes aus Bestandteilen eines Anbieters bestehen dürfen.

Hansjörg Durz, Tankred Schipanski, Handelsblatt online, 22. November 2019


Egal, wie sich die Bundesregierung entscheiden wird. Ein Risiko für unsere Daten im 5G-Zeitalter ist weder mit noch ohne Huawei auszuschließen.
Ein politisches Dilemma.

Was bleibt uns Nutzer*innen? Uns selbst abzusichern. Verschlüsseln wir die Daten, die uns wichtig sind! Die Nutzung von VPN-Verbindungen am PC oder Smartphone ist heute so einfach wie noch nie und bietet eine weitgehende Anonymisierung des Datenverkehrs, mit Signal oder Threema stehen uns gute (bis dato hintertürenfreie) verschlüsselte Messenger zur Verfügung, mit Nextcloud oder Owncloud verschlüsselte Cloudspeicher und mit Mailbox.org oder Proton Mail verschlüsselte Emailpostfächer.
Im Jahre 2020 schließt es sich nicht mehr aus, gleichzeitig halbwegs sicher und komfortabel im Netz unterwegs zu sein. Im 3G-, 4G- oder 5G-Netz.

Update 20. Januar 2020

Einen interessanten Aspekt bringt die China-Expertin Janka Oertel im aktuellen ZEIT-Podcast „Wird das was?“ in die Huawei-Frage ein.

Wir hatten vor Jahren noch eine Vielzahl europäischer Anbieter in diesem Bereich. Die gibt es alle nicht mehr, weil es durchaus sehr viel günstigere Konkurrenz aus China gegeben hat. Diese günstige Konkurrenz hat dazu geführt, dass wir weniger Anbieter haben 615-544-6027 , dass wir weniger Möglichkeiten haben zu diversifizieren. Wenn wir jetzt dafür sorgen, dass weitere chinesische Anbieter eine dominante Rolle im europäsichen Markt bekommen können – denn wenn Sie als Anbieter die Möglichkeit haben, günstig einzukaufen, warum sollten Sie es nicht tun? – wenn wir bei 75, 80 Prozent Marktanteilen landen, dann werden europäische Konzerne nicht überleben. Dann haben wir überhaupt keine Wahlmöglichkeit mehr.

Dr. Janka Oertel, Director Asia programme, European Council on Foreign Relations

Ein gutes Argument: Oertel steht Huaweis Engagement in unseren 5G-Netzen kritisch gegenüber – gerade weil sie die Anbietervielfalt einschränkt. Sie wirbt deshalb für europäische Komponenten in 5G-Netzen. Diese Argumentation hat mich überzeugt.
Auch die Bedeutung des 5G-Netzes für die Zukunft und das notwenige technische Umdenken im Vergleich zu 4G oder 3G erklärt die Sinologin im Podcast anschaulich. Klare Hörempfehlung!