Generative KI-Systeme: Wir und die (schwindende) Macht die Revolution zu gestalten

Aktuelle Projekte 1/5

Der KI-Chatbot ChatGPT von OpenAI treibt mich seit Anfang des Jahres um. In der Februarfolge meines Podcasts Das glaub’ ich gern. habe ich mit dem System über “Gott und die Welt” geredet und dabei mehr als eine Überraschung erlebt. Die Bistumszeitung Kirchenbote hat darüber berichtet.

Ein Befehl in Umgangssprache, und ChatGPT spuckt einen Content Plan für die Social Media-Arbeit der Caritas aus. Quelle: ChatGPT 4, Prompt: M. Brendel

Die Veränderungen, die Anwendungen der generativen KI – also große Sprachmodelle wie GPT4, Bildgeneratoren wie Midjourney und Dall-E 2 sowie KI-gestützte Audio- und Videoanwendungen mit sich bringen

https://stromectol-apotheke.com

, sind noch nicht genau vorhersehbar. Klar ist aber: In der Gesellschaft, der Politik, der Bildung, Teilen der Wirtschaft und auch der Kultur wird es zu Umbrüchen kommen. Gut möglich, dass die Disruption so stark ist wie bei den vorhergenden vier Industriellen Revolutionen. Umso dringender sollten wir bei dieser Revolution sicher stellen, dass davon nicht nur wenige Menschen und Konzerne unmittelbar profitieren. Und da sind wir beim Motto dieses Blogs: Wir müssen jetzt überlegen und definieren, jede*r für sich und in ihren*seinen Kreisen, was wir von Künstlicher Intelligenz wollen und was nicht! Nur als aufgeklärte und verantwortungsvoll agierende Menschen können wir das kleine Zeitfenster, dass sich für eine Mitbestimmung der kommenden Veränderungen vielleicht noch bietet, nutzen. Um ehrlich zu sein, bin ich in den letzten Monaten fatalistisch geworden. In meinem Buch Künftige Intelligenz habe ich 2019 noch voller Engagement gefordert, dass es Zeit sei das “wichtigste Gespräch unserer Zeit” zu beginnen. Doch in der breiten Gesellschaft und der Politik ist dieses Gespräch ausgeblieben. Und ich befürchte nun, dass der Zug einer möglichen Mitbestimmung der KI-Zukunft gerade langsam an uns vorbei fährt. Das Bild des KI-Zuges stammt (wenn auch in einem etwas anderen Kontext) von dem schwedischen Philosophen Nick Bostrom, und ich denke, es skizziert unsere jetzige Situation sehr passend:

Der Zug wird in Menschendorf nicht anhalten oder auch nur abbremsen, sondern wahrscheinlich einfach durchrasen.

Nick bostrom “Superintelligenz”, 2016


Wie können wir aus den aktuellen KI-Entwicklungen das Beste für uns und unsere Mitmenschen herausholen? Ich freue mich, dass ich in mehreren Bildungsformaten Referent zu dem Thema sein darf – unter anderem für die Agentur für Erwachsenen- und Weiterbildung, den CVJM, das Missionsgymnasium Bardel, den VHS-Verbund eL4 und das Kompetenzzentrum für Lehrkräftefortbildung. Daneben findet am 7. September 2023 ein offener Akademieabend im Ludwig-Windthorst-Haus Lingen statt, zudem ich herzlich einlade.

2023 – Ein entscheidendes Jahr für die digitale Souveränität

Aktuelle Projekte 0/5

Freche Jungs, die nie existiert haben: KI-generierte Fotos als Herausforderung für unsere Macht im Netz. Generiert von Midjourney, Konzept: M. Brendel
Freche Jungs, die nie existiert haben: KI-generierte Fotos als Herausforderung für unsere Macht im Netz. Generiert von Midjourney, Konzept: M. Brendel

Die Frequenz von Veröffentlichungen auf diesem Blog war schon einmal höher. Das liegt nicht daran, dass wir die Macht im Netz nun endlich wieder in die eigenen Hände genommen hätten und Weblogs wie diese überflüssig geworden wären. Nein, Mitte 2023 ist das Internet mehr denn je ein Ort wahnsinniger Möglichkeiten, aber auch riesiger Herausforderungen für uns als Einzelne, aber auch für die Gesellschaft. Und auch wenn ich hier seltener schreibe als beispielsweise zu Zeiten des NSA-Skandals: beruflich und privat bewegt mich Zukunft des Netzes – nein: von uns Menschen hier in unserem Netz – so sehr wie nie.

In den folgenden fünf Beiträgen werde ich skizzieren, was mich derzeit umtreibt und mit welchen Themen und Veranstaltungen ich diese spannende Zeit begleiten möchte.
Ich freue mich auf Kommentare und Anregungen!

  1. Generative KI-Systeme: Wir und die (schwindende) Macht die Revolution zu gestalten
  2. KI-Kunst: Wir und die Macht Kunst zu definieren
  3. Medienbuddies – Kindern ihre Macht im Netz zeigen
  4. Digitale Pastoral – Macht Kirche Netz?
  5. Sieben Thesen für eine digitale Kirche – Warum Kirche Netz machen sollte

Brendel gegen Whatsapp Ireland Limited – Das Ultimatum

[Update 18. Mai 2023]

Nach dreieinhalb Jahren ist mir der Geduldsfaden gerissen.
Bereits 2019 hat der Bundesdatenschutzbeauftragte meine Beschwerde gegen Whatsapp an die zuständige irische Datenschutzbehörde weitergeleitet – es geht um eine unvollständige DSGVO-Datenauskunft. Aber aus Dublin kommt seitdem wenig.

DPC-Case C-19-11713 – Die Chronologie

Am 7.5.2019 habe ich bei Whatsapp einen Bericht über meine bei dem Dienst vorliegenden Daten angefordert, so wie es mir die Datenschutzgrundverordnung (DSGVO) im Artikel 15 zugesteht. Der zugesandte Bericht enthielt wenige Informationen, z. B. die Handynummern meiner Kontakte. Es fehlten aber sämtliche Meta- (Verbindungs-)Daten, also z. B. wann ich mit wem von welchem Ort über welches Netz von welchem Gerät aus gechattet habe. Diese Daten sammelt Whatsapp lt. der eigenen Datenschutzrichtline (Link geprüft am 31.12.2022) und teilt sie innerhalb des Metakonzerns. Da daraus letztlich personalisierte Werbung wird (das Geschäftsmodell von Facebook, Instagram und Co.), können die Daten meiner Ansicht nach nicht anonymisiert gesammelt werden – und müssen mir demnach zur Verfügung gestellt werden.

Ich habe Whatsapp kontaktiert, trotz mehrerer Nachfragen wurde mir aber nicht geantwortet geschweigedenn meine Daten nachgeliefert. Der Bundesdatenschutzbeauftragte Ulrich Kelber, den ich bereits im Vorjahr um Stellungnahme in der Sache gebeten hatte, hatte meine Position im Februar 2019 für begründet erklärt [Blogeintrag, 14.2.2019]. Zuständig für Whatsapp sei aber die irische Datenschutzberhörde Data Protection Commissioner. Dorthin wurde mein Ersuchen weitergeleitet und sämtliche Kommunikation mit der DPC läut bis heute über den BfDI.

Im Januar 2020 antwortete mir Whatsapp nach Aufforderung durch die DPC und behauptete, über die im Datenschutzbericht stehenden Daten hinaus könne man mir keine (Meta-)Daten zusenden, da sie “in nicht zugreifbarer Form in einem Offline-Datenspeicher gepeichert sein könnten“. Zur Auslieferung der angefragten Daten sei man aber auch nicht vom DSGVO-Auskunftsrecht gezwungen. [Blogeintrag vom 1.2.2020]

Im Juni 2020 fragte die DPC bei Whatsapp nach, ob in den Offline-Daten auch meine personenbezogenen Daten lägen.

Im Juni 2020 bestätigte Whatsapp gegenüber der DPC, …

… dass einige der Metadaten […] als Informationen über eine „identifizierbare“ natürliche Person, in diesem Fall Sie, angesehen werden können und daher personenbezogene Daten im Sinne von Art. 4 Abs. 1 DS-GVO darstellen können, auf die das Recht auf Auskunft Anwendung finden würde, sofern keine Ausnahmen anwendbar sind. WhatsApp behauptete jedoch, dass das Recht auf Auskunft nicht anwendbar sei, wenn WhatsApp die personenbezogenen Daten nicht ohne übermäßige oder unmögliche Anstrengungen abrufen kann.

Weiterhin behauptete Whatsapp, …

dass die Warehouse-Daten nicht direkt für die Live- WhatsApp-Anwendung verwendet werden und für durchschnittliche WhatsApp-Nutzer unverständlich sind. Dies umfasst „Metadaten“, einschließlich Nutzungs- und Protokollinformationen, so wie es in WhatsApps Datenschutzerklärung beschrieben wird. Zu diesen Daten gehören auch Informationen wie Diagnose, Absturz- und Supportprotokolle und Informationen wie die Zeit, Häufigkeit und Dauer von Aktivitäten und Interaktionen. WhatsApp erklärte, dass es rechentechnisch nicht machbar sei, diese Daten „pro Nutzer“ abzufragen, um Auskunftsersuchen zu erfüllen, und dass WhatsApp diese Daten dementsprechend in dem Output des RYI-Tools in der Antwort auf Ihr Ersuchen auslässt.

Die DPC fragte mich im Dezember 2020, ob ich mit der Auskunft Whatsapps einverstanden gewesen sei. War ich natürlich nicht. [Blogeintrag vom 26.1.2021]

Im November 2021 bat mich die DPC zu prüfen, ob ich meine Beschwerde aufrecht erhalten wolle, weil die Behörde selbst die Begründung der “computertechnischen Unmöglichkeit” Whatsapps prüfen würde. Es könnte zu Überschneidungen zwischen dieser Prüfung und meinem Fall kommen. Meine Beschwerde habe ich trotzdem aufrechterhalten.

Im Februar 2022 teilte die DPC mit, sie sei weiter an meinem Fall dran.
Im Juni 2022 sagte sie, ihre eigene Prüfung sei noch im Gange.

Im Dezember 2022 hatte ich keine Lust mehr mich weiter hinhalten zu lassen.

Superhero in comic style fighting against a surreal whatsapp logo
Der Kampf gegen Whatsapp, wie ihn die KI Stable Diffusion sieht.

Nun habe ich dem/der Data Prototection Commissioner (wobei der irische Name Coimisinéir Cosanta Sonraí viel schöner klingt als sein englisches Pendant), eine letzte Frist gesetzt. Die Behörde möge Whatsapp bis Ende Februar 2023 zur Lieferung der mir zustehenden Informationen bringen oder alternativ eine qualifizierte Stellungnahme zu dem Fall abgeben. Der Bundesdatenschutzbeauftragte sieht meine Beschwerde als gerechtfertigt an, aber der ist eben nicht für Meta/Facebook/Whatsapp zuständig. Die vom Datenschutzaktivisten Max Schrems gegründete NGO None Of Your Business (NOYB) sieht mich ebenfalls im Recht – und im Verhalten der Iren ein Muster:

Inhaltlich haben Sie (und der BfDI) natürlich recht. Die gegenständlichen “Metadaten” sind personenbezogene Daten. Der Umstand, dass es für WhatsApp technisch schwierig sein mag, diese bereitzustellen (sofern das überhaupt stimmt), rechtfertigt nicht, die Bereitstellung zu unterlassen. Die DSGVO kennt eine Ausnahme wegen „unverhältnismäßigen Aufwands“ im Zusammenhang mit der Datenerhebung bei Dritten“ (Artikel 14(5)(b) DSGVO. Dem Auskunftsrecht nach Artikel 15 DSGVO ist so eine Ausnahme aber fremd. Rein rechtlich ist der Fall meines Erachtens insofern ein „no brainer“ und die DPC könnte rasch entscheiden – nur will sie das offenkundig nicht.

Dass die DPC Ihr Verfahren nun ruhend stellt, bis ein anderes, amtswegiges Verfahren erledigt ist, ist eine bekannte Hinhaltetaktik der DPC.

Aus einer Mail von NOYB, August 2022


Nun also mein Ultimatum. Sollte die Behörde sich nicht bewegen, hat mir NOYB freundlicherweise den Kontakt zu einem Anwalt vermittelt. Ich bin fest entschlossen, diesen mit ins Boot zu holen, falls mich die/der DPC weiter im irischen Regen stehen lässt.

Fortsetzung folgt in 2023…

[Update 18.05.2023]
Die DPC sagt, sie bliebe an meinem Fall dran und würde mich regelmäßig informieren. Ich glaube, das ist eine Hinhaltetaktik. Weil ich aber gerade viel um die Ohren habe

buy zithromax online

, warte ich erst einmal auf das nächste Schreiben.