Mittwoch, 15. April 2020

Corona App: Wie gute Absicht den Weg zu einer autoritären Gesellschaft öffnet

»Asking people to choose between privacy and health is, in fact, the very root of the problem.«, Yuval Noah Harari
Ich bin gelinde gesagt verwundert darüber, wie viele Organisationen nach – aus meiner Sicht – eindimensionaler Analyse die neue Corona App des roten Kreuzes empfehlen. Dies sollte umgehend ein Ende finden:

Wir stecken in einer demokratiepolitisch höchst kritischen Situation. Autoritäre Politik wird derzeit mit der Covid-Krise gerechtfertigt. Dies scheint in weiten Bereichen tatsächlich der Situation – für einen begrenzten Zeitraum – angemessen zu sein. Nur wenige bezweifeln, und ich gehöre nicht dazu, dass die Corona-Krise eine  schwerwiegende epidemiologische Bedrohung darstellt.

Aber die Grenzen sind sehr eng. Wie etwa Yuval Noah Harari in einem Artikel bemerkt: auf eine Krise folgt stets irgendeine neue Krise. Es findet sich daher immer wieder ein neuer Grund, Maßnahmen, die eigentlich ausschließlich für die erste Krise definiert wurden, immer weiter zu prolongieren. »Viele Kurzzeitmaßnahmen werden zur neuen Normalität.« Er nennt unter anderem das Beispiel des Krieges israelischen Krieges von 1948. Einige der weitreichenden Notstandsgesetze der Zeit wirken (ohne wirkliche Begründung) bis heute weiter!

Panoptikum nach Jeremy Bentham.


Wir haben ähnliche Ansätze ganz konkret auch in Österreich erlebt, wo im Raum stand zu prüfen, wen Menschen in ihre Privatwohnungen einladen. Unter dem (eher billigen) Schlagwort der »Coronaparties« wurden die propagandistischen Messer geschärft – vermutlich um zu prüfen wie weit man gehen kann, was eine Bevölkerung noch bereit ist zu akzeptieren. Kann man auch noch die letzte Bastion der Privatsphäre knacken? 

Das passt zu dem Verständnis vieler heutiger Politiker, die sich darin gefallen ihre Politik an den reaktionärsten und autoritärsten Vertretern statt an den klügsten und überlegtesten zu orientieren. Die Idee von »Prävention durch totale Transparenz« geht übrigens auf Jeremy Bentham zurück. Er wollte Panoptika für Gefangene, aber auch (was weniger bekannt ist) für Arme bauen, wo sie unter hygienischen Bedingungen aber total überwacht für die Aktionäre arbeiten sollten.

Diesen Kontext sollte man vor Augen haben, wenn man als Organisation oder als einflussreiches Individuum eine »Corona-App« empfiehlt. Es ist nicht, wie vielleicht unter eindimensionalem »Geek-Verständnis« gesehen, ein cooles Gimmick, interessante Technik, die Leben rettet. Es hat vielmehr das Potential eines Werkzeugs in einem viel weitreichenderen Werkzeugkastens für die Politik der Zukunft, die jetzt in der Krise (wenig widersprochen) getestet wird. Wer das nicht versteht, macht sich aus meiner Sicht zum Handlanger – im positiven Falls – eines »Solutionism«, wie wir ihn aus der Tech-Szene nun seit Jahrzehnten kennen, eher aber eines autoritären und gleichzeitig hilflosen Staatsverständnis, das die nächsten Jahrzehnte prägen kann. Für letzteres sprechen Hinweise, die auf die Finanzierung und Informationskampagne der App aus Regierungskreisen zeigen.

Die App wirkt auf den ersten Blick »richtig« gemacht, aber schon auf den zweiten Blick wird die Funktionalität fragwürdig. Kann es mit den aktuellen Technologien überhaupt einigermaßen glaubwürdig gelingen Menschen vor einer Ansteckung zu warnen? Techniker, die ähnliche Apps in der Vergangenheit im Einsatz hatten, bezweifeln das – meiner Ansicht nach – zu Recht. Auch die Arge Daten kommt zu einem ähnlichen Schluss und folgert: »Finger weg von der App«

Dies öffnet eine weitere Problematik der heutigen Zeit: Daten und Entscheidungen. Daten haben ein sehr fundamentales Problem: sie werden verwendet. Ob die Qualität stimmt, oder nicht. Wir gewöhnen Menschen daran, Daten zu vertrauen, Entscheidungen darauf aufzubauen. Was das Smartphone sagt, wird schon stimmen. Leider ist heute oftmals das Gegenteil der Fall: die Qualität der erfassten Daten (besonders auch im Corona-Kontext) ist häufig von bemerkenswert schlechter Qualität, vor allem nach der Integration von Datensätzen, und dennoch werden alle möglichen Korrelationen und statistischen Auswertungen darauf aufgebaut und ohne Warnung publiziert. Was dürfen wir von einer App erwarten, die wahrscheinlich ebenso fragwürdige Daten sammelt – fragwürdig im Sinne des Zweckes – und daraus dann Entscheidungen ableitet? Im Falle der Corona App kommt noch hinzu, dass mit einer großen Zahl and false positives und false negatives gleichermaßen zu rechnen ist. Mit anderen Worten: die Warnungen werden reichlich fragwürdiger Qualität sein.

Nicht zuletzt sollten wir nicht vergessen, dass diese App nur funktionieren kann, wenn ein Großteil der Bürger sie installiert. Das ist ohne Zwang keinesfalls zu erwarten. Anders gesagt: Die App wird (im besten Falle) scheitern oder dazu dienen, die Menschen an immer schwerwiegendere Grundrechtseingriffe zu gewöhnen. Nudging, um Überwachung und totale Transparenz zum Normalfall zu machen. Das Argument, diese aktuelle Version (und Betonung liegt auf aktuelle Version) würde datenschutzkonform agieren, ist irrelevant. Das folgt schon aus der recht einfachen Überlegung, dass die App bei freiwilliger Nutzung keinesfalls funktionieren wird, da sie eine große Zahl an Nutzern voraussetzt, die so nicht gegeben sind. Daraus folgt: freiwillig ist vergebene Zeit und Mühe, und der logische Schritt führt zur Verfplichtung. Explizit oder Implizit (Sie dürfen die Reise nur buchen, das Geschäft nur betreten, wenn, ...)

Es geht weiters es um das psychologische Moment: hat man »Otto Normalbürger« einmal daran gewöhnt »für die Krise« stets eine App installiert zu haben, wird das zum Status Quo, man hinterfrägt das nicht weiter. Ist die App einmal installiert, kommt die zweite oder dritte schon leichter hinterher, beziehungsweise werden neue Features in dieser App nachgeladen, die dann nicht mehr vermeintlich unproblematisch sind. Diese Form von Feature-Creep, oder besser Surveillance-Creep ist nichts neues. Wir können dies bei Datenkraken wie Facebook oder Google, sowie bei der ständigen Ausweitung von Überwachungskameras und deren Nutzung, seit Jahren beobachten. 

Vergessen wir auch nicht, dass ranghohe Politiker sich für gar einen App-Zwang ausgesprochen haben. Dass dieser juristisch derzeit gar nicht durchsetzbar wäre spricht möglicherweise nur für deren Inkompetenz, legt aber vielleicht offen, welche Geisteshaltung dahintersteht. Lassen sich nicht doch juristische Rahmenbedingungen schaffen, die eine solche Zwangs-App in Zukunft ermöglichen? Dann ist der Schritt, diese App von einem Verein zu einer staatlichen Stelle zu übernehmen nur mehr ein kleiner. Mit allen Konsequenzen, die daraus folgen, wenn diese staatlichen Stellen einem immer autoritäreren Verständnis unterliegen. Vergessen wir nicht, dass sich Staaten schon in der Vergangenheit durchaus fragwürdiger Unternehmen bedient haben, um Überwachungssoftware zu entwickeln und verbreiten.

Ein Blick nach Israel zeigt, wie Harari im genannten Artikel beschreibt, in welche Richtung diese Überwachung gehen kann. Und die Abstimmung in der Krise mit Israel wird ja, dem Vernehmen nach, von einigen österreichischen Politikern gerne gesucht.

Energische Maßnahmen in einer Situation wie der aktuellen sind gerechtfertigt, aber die Grenzen des vernünftigen sind schnell überschritten. Aus Übereifer auf der einen Seite – gut gemeint ist nicht immer gut gemacht – oder aus fragwürdigen politisch/ideologischen Motiven auf der anderen Seite.

Ich möchte daher alle Organisationen aufrufen, die sich in der Öffentlichkeit positiv über die Corona-App geäußert und diese eventuell sogar beworben haben, ihre Position zu überdenken. Es geht nicht um eine App alleine. Dies ist viel zu klein gedacht. Es geht um ein politisches und gesellschaftliches Prinzip – die offene Gesellschaft – das gerade in kleinen, aber gezielten Schritten geopfert werden könnte. 

Ergänzung zum ersten Artikel: (1) Es wird fallweise das Argument vorgebracht, dass wir die österreichische Corona-App keinesfalls »beschädigen« sollten, denn viele andere Apps wären deutlich schlechter, was Datenschutz betrifft, teilweise sogar zentralisiert.

Das Problem dieser Argumentation liegt meine Ansicht nach offen auf der Hand: sie ist in Wahrheit wohl das Gegenteil, nämlich eine Bestätigung meiner Kritik. Lassen wir uns auf eine Corona-App ein, ist der nächste Schritt – nachdem wir die Menschen daran gewöhnt haben – nur mehr ein sehr kleiner und für autoritäre Absichten äußerst naheliegend. 

Die Lösung ist daher nicht die österreichische App, sondern schlicht keine App und deutliche Opposition gegen jede App, die Menschen und deren Kontakte erfasst.

(2) Weiters sollten Techniker ihre Wahrnehmung in der Öffentlichkeit nicht unterschätzen. Man mag sich persönlich damit beruhigen, dass man ja nur bestimmte Aspekte (Sicherheit, Datenschutz, ...) bewertet und sich nicht zum größeren Kontext äußert. Diese »Bescheidenheit« überlebt die erste Boulevard-Schlagzeile nicht, die dann etwa lautet: »Techniker X bewertet Corona-App«. Schon hat man (vielleicht unfreiwillig) im Auge der Konsumenten Zeugnis über alles abgelegt. 

Dies ist nichts unerwartetes, nichts überraschendes, sondern Teil des Medien-Spiels. Wenn man sich zu einem sensiblen Thema äußert, sollte einem klar sein, dass man den ganzen Weg geht. Freiwillig oder unfreiwillig.

Ergänzung zum Artikel (Oktober 2020): Wir hatten Glück, und Politiker hatten (noch) nicht den Mut Zwangsmaßnahmen einzuleiten, die App war also (wie erwartet) erfolglos. Viel zu wenig Menschen haben sie installiert und die Funktionsweise bleibt weiterhin fragwürdig.

Ergänzung zum Artikel (Jänner 2021): ORF berichtet, dass die Polizei in Singapur nun Contact-Tracing Daten zur Strafverfolgung erhält, obwohl dies zu Beginn der verpflichtenden App-Nutzung ausgeschlossen worden war. Die Konsequenz im neuen Jahr ist, dass meine Prognose im Artikel zutreffend war. 

Zusammengefasst: Contact-Tracing-Apps sind Solutionism, gut gemeint aber im besten Falle nutzlos, jedenfalls solange sie nicht gesetzlich verpflichtend eingeführt werden. Derartige sensible Daten sollten im Sinne der Datensparsamkeit aber niemals erfasst und erhoben werden. Das Missbrauchsrisiko ist wesentlich zu hoch. Bei freiwilligen Apps verschwenden wir Ressourcen, werden sie verpflichtend, riskieren wir unsere Freiheit.

Ergänzung zum Artikel (11.01.2021): »Die Gesellschaft müsse abwägen, ob ihr der Daten- oder der Gesundheitsschutz wichtiger sei, forderte Merz« und » "Warum kann nicht das Gesundheitsamt wissen, wo ich bin? Ich hab damit keine Probleme.« Und genau aus diesem Grund, weil eben Politiker wie Herr Merz kein Problem mit solchen Maßnahmen hat, war die Corona-App von Anfang an (wie vorhergesagt) eine fatal schlechte Idee.

Erweiterung zum Artkiel (23.01.2021): Nun fordert übrigens auch der deutsche Ex-Kulturstaatsminister Julian Nida-Rümelin (SPD) die Standortdaten der Nutzer der Corona-App zu ermitteln und an die Behörden zu übergeben. Argumentiert wird mit Erfolgen des Contact-Tracings in Südkorea, wo allerdings laut Heise Artikel gar nicht auf Apps zurückgegriffen wird:
»Nach Ansicht Nida-Rümelins sollten Anwender im Falle eines positiven Corona-Tests die über die CWA gesammelten Standortdaten den Gesundheitsämtern zur Verfügung stellen. Der Betroffene lege sein Smartphone dort auf den Tisch und "die lesen das aus". Das könnte man auch "pseudonymisiert machen, entsprechend verschlüsselt", meinte der einstige Kulturbeauftragte der Bundesregierung. Es wäre aber wichtig, eine "Nachverfolgbarkeit der Identitäten" vorzusehen,«
Nida-Rümelin hat in der Vergangenheit zahlreiche, aus meiner Sicht sehr interessante Beiträge im Bereich Ethik und Universitätspolitik/Bildung geleistet, sowohl in Form von Büchern, wie guten Vorträgen. In den letzten Jahren beschäftigt er sich mit dem heute zentralen Themenbereich des Digitalen Humanismus – das möchte man nach solchen Aussagen gar nicht glauben – dies allerdings, leider – wieder aus meiner Sicht – nicht besonders reflektiert.

Ergänzung zum Artikel (04.05.2021): In einem längeren Thread wird analysiert, wie Singapur zunächst versprochen hat, die Contact-Tracing Daten nur unter Einhaltung der Privatsphäre zu nutzen, es sich jetzt aber herausstellt, dass diese Daten für alle möglichen Zwecke verwendet wurden. Genau wie von mir prognostiziert. Das Argument, dass dies technisch mit der deutschen App nicht möglich wäre ist irrelevant, denn Technik lässt sich leicht ändern, wenn eine App einmal (wie es mit Technik immer geschieht) in den Hintergrund gerät, zum »Alltag« wird. 

Jetzt wird in Deutschland etwa davon gesprochen, den Impfpass zu digitalisieren und mit der Corona-App zu verbinden. Dies ist genau der Beginn des Feature-Creeps von dem ich gesprochen habe. Ab wann darf ich dann nur mehr verreisen, ein Geschäft betreten, wenn ich die Corona-App vorweise?

Ergänzend ebenfalls aus dem oben genannten Thread:

»Adoption of TraceTogether was left voluntary at first; take-up was poor.«

»Over the past year, SafeEntry is everywhere. If I need to buy eggs, I need to scan a QR code for SafeEntry into the mall, then a QR code to get into the supermarket. If I need to go to any other shops, I have to scan into each and every shop.«

Ebenfalls genau das, was ich vorhergesagt habe, und vergleichbares kommt jetzt in Deutschland (einer Demokratie) wohl mit dem Impfpass.

Ergänzung 12.07.2021 Im ersten Artikel vor über einem Jahr habe ich von der Gefahr des Feature Creeps geschrieben. Wie erwartet, der Feature Creep ist hier. Die Corona-App (Deutschland) wird zur Zertifikats-Wallet


Weitere interessante Artikel zur weiteren Vertiefung

2 Kommentare:

Anonym hat gesagt…

Hallo Herr Dr. Schatten,

ich finde diesen Blogeintrag hervorragend und er drückt meine (und auch sie Sorgen vieler meiner Mitmenschen) aus.
Es gibt zum Glück viele Politiker die mit Populismus versuchen weiterzukommen und nicht mit Überlegung oder Strategie versuchen etwas zu bewirken (ob positiv oder negativ sei dahin gestellt), oder die vielleicht sogar das Wohl der Mitbürger (wie es eigentlich in ihrer Jobdescription steht) im Blick haben.

Die Frage die sich mir stellt ist. Welche Möglichkeiten haben wir in der Hand? Wir haben einen Rechtsstaat der die Bevölkerung immer mehr "knechtet" und ein undurchsichtiges Konstrukt vorantreibt in dem er die Machenschaften versteckt die seinem Machterhalt/-ausbau dienen. Ich bin kein Mensch der auf die Straße geht so wie es viele andere in Österreich mittlerweile tun. Was ist die alternative? Soll man sich in eine digitale Isolation begeben um all dem zu entgehen? Kann auf Dauer auch nicht funktionieren weil man früher oder später in diese "hast du das,... dann darfst du das" Situation gerät.
Das stetige ausweiten der rechtlichen Situation die solche Aktionen legitimieren ist ja durchaus schon zu beobachten. Gesetze die die Rechte der Bürger einschränken werden mit ganz wenig Aufhebens einfach verabschiedet. Irgendwann steht man als Bürger vor den vollendeten Tatsachen.

Ein sehr facettenreiches Thema das zu durchblicken es vieler Blickwinkel bedarf, die, wenn man als Otto Normalo sein "durchnittsleben" lebt, zu viel Zeit in Anspruch nehmen. Das System funktioniert. Sind die Menschen beschäftigt, haben sie keine Zeit nachzudenken.

Liebe Grüße
m

Alexander Schatten hat gesagt…

Also ich bin mir nicht sicher, wo diese Ansicht hingeht.

In der Tat stecken wir in einer Zeit wo man mit Widersprüchen leben und umgehen muss: Die Schwere der Corona-Krise macht Eingriffe in etablierte Rechte in der Tat notwendig. Diese sollten allerdings klug und mit der notwendigen Geschwindigkeit und Effektivität durchgeführt werden.

Australien und Neuseeland etwa zeigen, dass richtige Maßnahmen hart, schnell dafür aber kurz sein sollten. Wir machen derzeit das Gegenteil: wir starten die Maßnahmen viel zu spät, verlieren damit das Fenster in dem effizient gehandelt werden kann, und ziehen dann viel zu schwache und damit fast wirkungslose Maßnahmen über Monate.

Dass unter diesen Rahmenbedingungen viele Menschen das Vertrauen in die Politik verlieren ist verständlich. Kompetenz muss man sich hart erarbeiten. Vertrauen ist schnell verloren. Das ist leider passiert.

Demgegenüber stehen aber, und darum geht es in diesem Artikel, Maßnahmen wie die Corona-App, die unter demokratisch rechtfertigbaren Rahmenbedingungen keine nennenswerte Wirkung entfaltet und in Summe mehr Schaden als Nutzen anrichtet. Ich habe dieses Thema auch darum aufgegriffen, weil es ein Trend unserer Zeit ist zu glauben, man könne alle Probleme mit technischen »Lösungen« beheben, deren Effekte sich dann häufig als schlimmer als das Problem herausstellen.

Zum Abschluss...

Es freut mich, dass Sie sich die Zeit genommen haben, mein Blog zu lesen. Natürlich sind viele Dinge, die ich hier diskutiere aus einem subjektiven Blickwinkel geschrieben. Vielleicht teilen Sie einige Ansichten auch nicht: Es würde mich jedenfalls freuen, Kommentare zu lesen...

Noch ein Zitat zum Schluß:

"Ich verhielt mich so, als wartete ein Heer von Zwergen nur darauf, meine Einsicht in das Tagesproblem, zur Urteilsfindung von Gesellschaft und Politik zu übersetzen. Und nun stellt sich heraus: Dieses Heer gibt es nicht.

Ganz im Gegenteil erweist sich das kulturelle Getriebe als selbstimmunisierend gegen Kritik und Widerlegung. Es ist dem Lernen feind und wehrt sich in kollektiver Geschlossenheit gegen Umdeutung und Innovation.", Rupert Riedl, Evolution und Erkenntnis, Piper (1985)

:-)