Corona App: Wie gute Absicht den Weg zu einer autoritären Gesellschaft öffnet

»Asking people to choose between privacy and health is, in fact, the very root of the problem.«, Yuval Noah Harari

Ich bin gelinde gesagt verwundert darüber, wie viele Organisationen nach – aus meiner Sicht – eindimensionaler Analyse die neue Corona App des roten Kreuzes empfehlen. Dies sollte umgehend ein Ende finden:

Wir stecken in einer demokratiepolitisch höchst kritischen Situation. Autoritäre Politik wird derzeit mit der Covid-Krise gerechtfertigt. Dies scheint in weiten Bereichen tatsächlich der Situation – für einen begrenzten Zeitraum – angemessen zu sein. Nur wenige bezweifeln, und ich gehöre nicht dazu, dass die Corona-Krise eine  schwerwiegende epidemiologische Bedrohung darstellt.

Aber die Grenzen sind sehr eng. Wie etwa Yuval Noah Harari in einem Artikel bemerkt: auf eine Krise folgt stets irgendeine neue Krise. Es findet sich daher immer wieder ein neuer Grund, Maßnahmen, die eigentlich ausschließlich für die erste Krise definiert wurden, immer weiter zu prolongieren. »Viele Kurzzeitmaßnahmen werden zur neuen Normalität.« Er nennt unter anderem das Beispiel des Krieges israelischen Krieges von 1948. Einige der weitreichenden Notstandsgesetze der Zeit wirken (ohne wirkliche Begründung) bis heute weiter!

Panoptikum nach Jeremy Bentham.

Wir haben ähnliche Ansätze ganz konkret auch in Österreich erlebt, wo im Raum stand zu prüfen, wen Menschen in ihre Privatwohnungen einladen. Unter dem (eher billigen) Schlagwort der »Coronaparties« wurden die propagandistischen Messer geschärft – vermutlich um zu prüfen wie weit man gehen kann, was eine Bevölkerung noch bereit ist zu akzeptieren. Kann man auch noch die letzte Bastion der Privatsphäre knacken? 

Das passt zu dem Verständnis vieler heutiger Politiker, die sich darin gefallen ihre Politik an den reaktionärsten und autoritärsten Vertretern statt an den klügsten und überlegtesten zu orientieren. Die Idee von »Prävention durch totale Transparenz« geht übrigens auf Jeremy Bentham zurück. Er wollte Panoptika für Gefangene, aber auch (was weniger bekannt ist) für Arme bauen, wo sie unter hygienischen Bedingungen aber total überwacht für die Aktionäre arbeiten sollten.

Diesen Kontext sollte man vor Augen haben, wenn man als Organisation oder als einflussreiches Individuum eine »Corona-App« empfiehlt. Es ist nicht, wie vielleicht unter eindimensionalem »Geek-Verständnis« gesehen, ein cooles Gimmick, interessante Technik, die Leben rettet. Es hat vielmehr das Potential eines Werkzeugs in einem viel weitreichenderen Werkzeugkastens für die Politik der Zukunft, die jetzt in der Krise (wenig widersprochen) getestet wird. Wer das nicht versteht, macht sich aus meiner Sicht zum Handlanger – im positiven Falls – eines »Solutionism«, wie wir ihn aus der Tech-Szene nun seit Jahrzehnten kennen, eher aber eines autoritären und gleichzeitig hilflosen Staatsverständnis, das die nächsten Jahrzehnte prägen kann. Für letzteres sprechen Hinweise, die auf die Finanzierung und Informationskampagne der App aus Regierungskreisen zeigen.

Die App wirkt auf den ersten Blick »richtig« gemacht, aber schon auf den zweiten Blick wird die Funktionalität fragwürdig. Kann es mit den aktuellen Technologien überhaupt einigermaßen glaubwürdig gelingen Menschen vor einer Ansteckung zu warnen? Techniker, die ähnliche Apps in der Vergangenheit im Einsatz hatten, bezweifeln das – meiner Ansicht nach – zu Recht. Auch die Arge Daten kommt zu einem ähnlichen Schluss und folgert: »Finger weg von der App«. 

Dies öffnet eine weitere Problematik der heutigen Zeit: Daten und Entscheidungen. Daten haben ein sehr fundamentales Problem: sie werden verwendet. Ob die Qualität stimmt, oder nicht. Wir gewöhnen Menschen daran, Daten zu vertrauen, Entscheidungen darauf aufzubauen. Was das Smartphone sagt, wird schon stimmen. Leider ist heute oftmals das Gegenteil der Fall: die Qualität der erfassten Daten (besonders auch im Corona-Kontext) ist häufig von bemerkenswert schlechter Qualität, vor allem nach der Integration von Datensätzen, und dennoch werden alle möglichen Korrelationen und statistischen Auswertungen darauf aufgebaut und ohne Warnung publiziert. Was dürfen wir von einer App erwarten, die wahrscheinlich ebenso fragwürdige Daten sammelt – fragwürdig im Sinne des Zweckes – und daraus dann Entscheidungen ableitet? Im Falle der Corona App kommt noch hinzu, dass mit einer großen Zahl and false positives und false negatives gleichermaßen zu rechnen ist. Mit anderen Worten: die Warnungen werden reichlich fragwürdiger Qualität sein.

Nicht zuletzt sollten wir nicht vergessen, dass diese App nur funktionieren kann, wenn ein Großteil der Bürger sie installiert. Das ist ohne Zwang keinesfalls zu erwarten. Anders gesagt: Die App wird (im besten Falle) scheitern oder dazu dienen, die Menschen an immer schwerwiegendere Grundrechtseingriffe zu gewöhnen. Nudging, um Überwachung und totale Transparenz zum Normalfall zu machen. Das Argument, diese aktuelle Version (und Betonung liegt auf aktuelle Version) würde datenschutzkonform agieren, ist irrelevant. Das folgt schon aus der recht einfachen Überlegung, dass die App bei freiwilliger Nutzung keinesfalls funktionieren wird, da sie eine große Zahl an Nutzern voraussetzt, die so nicht gegeben sind. Daraus folgt: freiwillig ist vergebene Zeit und Mühe, und der logische Schritt führt zur Verfplichtung. Explizit oder Implizit (Sie dürfen die Reise nur buchen, das Geschäft nur betreten, wenn, ...)

Es geht weiters es um das psychologische Moment: hat man »Otto Normalbürger« einmal daran gewöhnt »für die Krise« stets eine App installiert zu haben, wird das zum Status Quo, man hinterfrägt das nicht weiter. Ist die App einmal installiert, kommt die zweite oder dritte schon leichter hinterher, beziehungsweise werden neue Features in dieser App nachgeladen, die dann nicht mehr vermeintlich unproblematisch sind. Diese Form von Feature-Creep, oder besser Surveillance-Creep ist nichts neues. Wir können dies bei Datenkraken wie Facebook oder Google, sowie bei der ständigen Ausweitung von Überwachungskameras und deren Nutzung, seit Jahren beobachten. 

Vergessen wir auch nicht, dass ranghohe Politiker sich für gar einen App-Zwang ausgesprochen haben. Dass dieser juristisch derzeit gar nicht durchsetzbar wäre spricht möglicherweise nur für deren Inkompetenz, legt aber vielleicht offen, welche Geisteshaltung dahintersteht. Lassen sich nicht doch juristische Rahmenbedingungen schaffen, die eine solche Zwangs-App in Zukunft ermöglichen? Dann ist der Schritt, diese App von einem Verein zu einer staatlichen Stelle zu übernehmen nur mehr ein kleiner. Mit allen Konsequenzen, die daraus folgen, wenn diese staatlichen Stellen einem immer autoritäreren Verständnis unterliegen. Vergessen wir nicht, dass sich Staaten schon in der Vergangenheit durchaus fragwürdiger Unternehmen bedient haben, um Überwachungssoftware zu entwickeln und verbreiten.

Ein Blick nach Israel zeigt, wie Harari im genannten Artikel beschreibt, in welche Richtung diese Überwachung gehen kann. Und die Abstimmung in der Krise mit Israel wird ja, dem Vernehmen nach, von einigen österreichischen Politikern gerne gesucht.

Energische Maßnahmen in einer Situation wie der aktuellen sind gerechtfertigt, aber die Grenzen des vernünftigen sind schnell überschritten. Aus Übereifer auf der einen Seite – gut gemeint ist nicht immer gut gemacht – oder aus fragwürdigen politisch/ideologischen Motiven auf der anderen Seite.

Ich möchte daher alle Organisationen aufrufen, die sich in der Öffentlichkeit positiv über die Corona-App geäußert und diese eventuell sogar beworben haben, ihre Position zu überdenken. Es geht nicht um eine App alleine. Dies ist viel zu klein gedacht. Es geht um ein politisches und gesellschaftliches Prinzip – die offene Gesellschaft – das gerade in kleinen, aber gezielten Schritten geopfert werden könnte. 

Ergänzung zum ersten Artikel: (1) Es wird fallweise das Argument vorgebracht, dass wir die österreichische Corona-App keinesfalls »beschädigen« sollten, denn viele andere Apps wären deutlich schlechter, was Datenschutz betrifft, teilweise sogar zentralisiert.

Das Problem dieser Argumentation liegt meine Ansicht nach offen auf der Hand: sie ist in Wahrheit wohl das Gegenteil, nämlich eine Bestätigung meiner Kritik. Lassen wir uns auf eine Corona-App ein, ist der nächste Schritt – nachdem wir die Menschen daran gewöhnt haben – nur mehr ein sehr kleiner und für autoritäre Absichten äußerst naheliegend. 

Die Lösung ist daher nicht die österreichische App, sondern schlicht keine App und deutliche Opposition gegen jede App, die Menschen und deren Kontakte erfasst.

(2) Weiters sollten Techniker ihre Wahrnehmung in der Öffentlichkeit nicht unterschätzen. Man mag sich persönlich damit beruhigen, dass man ja nur bestimmte Aspekte (Sicherheit, Datenschutz, ...) bewertet und sich nicht zum größeren Kontext äußert. Diese »Bescheidenheit« überlebt die erste Boulevard-Schlagzeile nicht, die dann etwa lautet: »Techniker X bewertet Corona-App«. Schon hat man (vielleicht unfreiwillig) im Auge der Konsumenten Zeugnis über alles abgelegt. 

Dies ist nichts unerwartetes, nichts überraschendes, sondern Teil des Medien-Spiels. Wenn man sich zu einem sensiblen Thema äußert, sollte einem klar sein, dass man den ganzen Weg geht. Freiwillig oder unfreiwillig.

Ergänzung zum Artikel (Oktober 2020): Wir hatten Glück, und Politiker hatten (noch) nicht den Mut Zwangsmaßnahmen einzuleiten, die App war also (wie erwartet) erfolglos. Viel zu wenig Menschen haben sie installiert und die Funktionsweise bleibt weiterhin fragwürdig.

Ergänzung zum Artikel (Jänner 2021): ORF berichtet, dass die Polizei in Singapur nun Contact-Tracing Daten zur Strafverfolgung erhält, obwohl dies zu Beginn der verpflichtenden App-Nutzung ausgeschlossen worden war. Die Konsequenz im neuen Jahr ist, dass meine Prognose im Artikel zutreffend war. 

Zusammengefasst: Contact-Tracing-Apps sind Solutionism, gut gemeint aber im besten Falle nutzlos, jedenfalls solange sie nicht gesetzlich verpflichtend eingeführt werden. Derartige sensible Daten sollten im Sinne der Datensparsamkeit aber niemals erfasst und erhoben werden. Das Missbrauchsrisiko ist wesentlich zu hoch. Bei freiwilligen Apps verschwenden wir Ressourcen, werden sie verpflichtend, riskieren wir unsere Freiheit.

Ergänzung zum Artikel (11.01.2021): »Die Gesellschaft müsse abwägen, ob ihr der Daten- oder der Gesundheitsschutz wichtiger sei, forderte Merz« und » "Warum kann nicht das Gesundheitsamt wissen, wo ich bin? Ich hab damit keine Probleme.« Und genau aus diesem Grund, weil eben Politiker wie Herr Merz kein Problem mit solchen Maßnahmen hat, war die Corona-App von Anfang an (wie vorhergesagt) eine fatal schlechte Idee.

Erweiterung zum Artkiel (23.01.2021): Nun fordert übrigens auch der deutsche Ex-Kulturstaatsminister Julian Nida-Rümelin (SPD) die Standortdaten der Nutzer der Corona-App zu ermitteln und an die Behörden zu übergeben. Argumentiert wird mit Erfolgen des Contact-Tracings in Südkorea, wo allerdings laut Heise Artikel gar nicht auf Apps zurückgegriffen wird:

»Nach Ansicht Nida-Rümelins sollten Anwender im Falle eines positiven Corona-Tests die über die CWA gesammelten Standortdaten den Gesundheitsämtern zur Verfügung stellen. Der Betroffene lege sein Smartphone dort auf den Tisch und "die lesen das aus". Das könnte man auch "pseudonymisiert machen, entsprechend verschlüsselt", meinte der einstige Kulturbeauftragte der Bundesregierung. Es wäre aber wichtig, eine "Nachverfolgbarkeit der Identitäten" vorzusehen,«

Nida-Rümelin hat in der Vergangenheit zahlreiche, aus meiner Sicht sehr interessante Beiträge im Bereich Ethik und Universitätspolitik/Bildung geleistet, sowohl in Form von Büchern, wie guten Vorträgen. In den letzten Jahren beschäftigt er sich mit dem heute zentralen Themenbereich des Digitalen Humanismus – das möchte man nach solchen Aussagen gar nicht glauben – dies allerdings, leider – wieder aus meiner Sicht – nicht besonders reflektiert.

Ergänzung zum Artikel (04.05.2021): In einem längeren Thread wird analysiert, wie Singapur zunächst versprochen hat, die Contact-Tracing Daten nur unter Einhaltung der Privatsphäre zu nutzen, es sich jetzt aber herausstellt, dass diese Daten für alle möglichen Zwecke verwendet wurden. Genau wie von mir prognostiziert. Das Argument, dass dies technisch mit der deutschen App nicht möglich wäre ist irrelevant, denn Technik lässt sich leicht ändern, wenn eine App einmal (wie es mit Technik immer geschieht) in den Hintergrund gerät, zum »Alltag« wird. 

Jetzt wird in Deutschland etwa davon gesprochen, den Impfpass zu digitalisieren und mit der Corona-App zu verbinden. Dies ist genau der Beginn des Feature-Creeps von dem ich gesprochen habe. Ab wann darf ich dann nur mehr verreisen, ein Geschäft betreten, wenn ich die Corona-App vorweise?

Ergänzend ebenfalls aus dem oben genannten Thread:

»Adoption of TraceTogether was left voluntary at first; take-up was poor.«

»Over the past year, SafeEntry is everywhere. If I need to buy eggs, I need to scan a QR code for SafeEntry into the mall, then a QR code to get into the supermarket. If I need to go to any other shops, I have to scan into each and every shop.«

Ebenfalls genau das, was ich vorhergesagt habe, und vergleichbares kommt jetzt in Deutschland (einer Demokratie) wohl mit dem Impfpass.

Ergänzung 12.07.2021 Im ersten Artikel vor über einem Jahr habe ich von der Gefahr des Feature Creeps geschrieben. Wie erwartet, der Feature Creep ist hier. Die Corona-App (Deutschland) wird zur Zertifikats-Wallet. 

Ergänzung 15.09.2021 Mittlerweile stellt sich heraus, dass auch die zweite deutsche Corona-App, die Luca-App nicht nur aus Datenschutzgründen problematisch, sondern teuer und nutzlos ist. Auch hier das heute übliche Bild: wir Digitalisieren, weil Digitalisieren ist modern und löst Probleme. Leider stellt sich heraus, immer häufiger ist das Gegenteil der Fall: Digitalisierung ist ein Millionengrab und schafft mehr Probleme als Lösungen, wenn sie falsch angegangen wird. Mehr dazu in einem anderen Post.

Ergänzung 14.01.2022 Wie im ursprünglichen Artikel beschrieben, ist Feature Creep eine der wesentlichen Bedrohungen, wenn man Digitalisierung in problematischen Bereichen zulässt. Genau das ist — wie angekündigt — nun in der (deutschen) Corona-App passiert. Es gibt ein neues »Check In« Feature, das aus Datenschutz-Gesichtspunkten heraus als sehr kritisch zu betrachten ist. Das ist der Grund, warum bestimmte Bereiche des Lebens konsequent nicht digitalisiert werden sollten!

Ergänzung 18.02.2022 Die gute Nachricht nach zwei Jahren: die österr. Stop Corona App wird eingestellt. Wie von Anfang an bemerkt: eine solche App kann nur funktionieren, wenn elementare Grundrechte einer liberalen Gesellschaft verletzt werden. Zum Glück ist das nicht passiert und die App war erfolglos. 

Ergänzung 10.01.2023 Ein neuer Artikel, der versschiedenste digitale Maßnahmen weltweit untersucht, legt nahe, dass meine frühzeitig geäußerten Bedenken weitgehend zutreffend waren. 

“In the pandemic’s bewildering early days, millions worldwide believed government officials who said they needed confidential data for new tech tools that could help stop coronavirus’ spread. In return, governments got a firehose of individuals’ private health details, photographs that captured their facial measurements and their home addresses.”

and

“Once you get it, is very unlikely it will ever go away.”

Weitere interessante Artikel zur weiteren Vertiefung

• The tech »solutions« for coronavirus take the surveillance state to the next level, Evgeny Morozov
• Technologie in Corona-Zeiten (Die Zeit)
• Prof. Jürgen Pfeffer in Ö1-Radio
• Bruce Schneier über Contact Tracing (»this is primarily an exercise in that false syllogism: Something must be done. This is something. Therefore, we must do it. It's techies proposing tech solutions to what is primarily a social problem.«)
• und allgemein: Brett Frischmann, Re-enineering Humanity