Vorschläge der Datenethikkommission: Deut­scher Gold-Stan­dard für Daten­re­gu­lie­rung in Europa?

Im aktuellen Koalitionsvertrag nimmt die Digitalisierung viel Raum ein, auf 175 Seiten kommt das Wort 93 Mal vor. Und CDU, CSU und SPD machen auch kein Geheimnis daraus, dass die Politik dafür externe Expertise brauchen wird. Die Regierung hat deshalb nicht nur einen Digitalrat ins Leben gerufen, ein neunköpfiges ständiges Expertengremium. Die wirklich wesentlichen Linien, eine Art Grundsatzplan für die Digitalisierung, sollte aber die sogenannte Datenethikkommission erarbeiten. 2018 nahm sie die Arbeit auf, sechs der 16 Experten sind Juristen. Am Mittwoch stellte das Gremium im Berliner Justizministerium seine Ergebnisse vor: ein 230 Seiten langes Gutachten, das LTO vorliegt.

An jedem der Vorschläge zu den Themenbereichen von Künstlicher Intelligenz, dem Einsatz von Algorithmen in Unternehmen und Verwaltung bis hin zu neuen Intermediären wie Google, Facebook und Co ist die zentrale Herausforderung abzulesen: Wie viel Regulierung soll es geben, um Grundrechte zu schützen und (Markt-)Machtmissbrauch einzuhegen? Und wie viel Spielraum braucht die dynamische Entwicklung wichtiger Technologien, damit Deutschland als Standort nicht abgehängt wird?

EU-Datenregulierung made in Germany?

Das Herzstück des Berichts stellen die Vorschläge zur Regulierung von Algorithmen dar – und sie könnten ein Vorbild für Europa werden.

Die Experten empfehlen nämlich eine EU-Verordnung für algorithmische Systeme zu schaffen, die Abkürzung dafür liefert das Papier gleich mit: "Allgemeine europäische Algorithmen-Verordnung", kurz "EUVAS". Als zentrales Element schlagen die Experten ein fünfstufiges Modell vor. Es soll helfen abzuschätzen, wie gefährlich ein Algorithmus ist. "Systemkritikalität" nennen die Experten das: Wie wahrscheinlich ist es, dass das algorithmische System für einen Schadenseintritt sorgt und wie schwerwiegend fällt der zu befürchtende Schaden aus? Die Regulierungsmöglichkeiten reichen von Offenlegungspflichten gegenüber den Aufsichtsbehörden bis hin zu einem Totalverbot.

Welche Gefahren überhaupt durch Algorithmen drohen könnten, verdeutlicht der Bericht mit zahlreichen Beispielen. Etwa: für eine intelligente Hausalarmanlage werden keine Updates mehr angeboten, infolgedessen kommt es zu einem Cyberangriff und einem Wohnungseinbruch. Oder ein Algorithmus bewertet die Kreditwürdigkeit eines Verbrauchers fehlerhaft.

Doch wie stehen die Chancen, dass die deutschen Vorschläge in einem europäischen Regulierungsprojekt münden? Mit Paul Nemitz war der Hauptberater der EU-Kommission im Bereich Generaldirektion und Verbraucherschutz als Mitglied unmittelbar am Expertenbericht beteiligt. Und auch die neue EU-Kommissionspräsidenten Ursula von der Leyen hat kürzlich versprochen, innerhalb der ersten 100 Amtstage eine Regelungsinitiative zu "ethischen Auswirkungen der Künstlichen Intelligenz" auf den Weg zu bringen. Daneben kündigte sie ein Gesetz für digitale Dienste an, inklusive Haftungs- und Sicherheitsregeln für Online-Plattformen. Alles also Punkte, die auch das Gutachten der Datenethikkommission adressiert.

Wie Europa "digitale Souveränität" zurückgewinnen kann

So hatte auch die EU-Kommission zudem eine eigene Expertengruppe zur Ethik Künstlicher Intelligenz (KI) und Algorithmen eingesetzt, die im Juni 2019 insgesamt 33 Politikratschläge lieferte. Unter anderem fordern die Experten, KI-Technologie nicht für "unverhältnismäßige Massenüberwachung von Individuen" durch Private zu erlauben. Das mag nicht die spektakulärste Einsicht sein, aber auffallend ist, dass auch der Ansatz der deutschen Datenethikkommission an mehreren Stellen die "Totalüberwachung" durch private Unternehmen als zentrale Gefahr und absolute Grenze benennt. An Anknüpfungspunkten zwischen den Vorschlägen aus Deutschland und den Regulierungsplänen aus Brüssel wird es also nicht mangeln.

Die EU-Kommission wirkt dabei mit Nachdruck auf eine Vereinheitlichung von ethischen Standards bei der Digitalisierung in den europäischen Mitgliedsstaaten hin. Diese könnten damit auch eine deutliche Handschrift made in Germany bekommen. Dabei dürfte auch hilfreich sein, dass Deutschland im zweiten Halbjahr 2020 die EU-Ratspräsidentschaft übernimmt.

Am Mittwoch sagte die Ethikerin und Co-Sprecherin der Datenethikkommission, Frau Prof. Dr. Christiane Woopen in Berlin, dass es in Europa darum gehe, "die digitale Souveränität zurückzugewinnen". Ein ausdifferenziertes und einheitliches Niveau der Datenregulierung in Europa werde der EU auch eine Verhandlungsposition gegenüber der USA oder anderen internationalen Partnern verschaffen.

Algorithmen unter "Generalverdacht"?

Kaum ist das Gutachten vorgestellt, gibt es auch schon zahlreiche kritische Stimmen zu den Vorschlägen. Der Präsident des IT-Verbandes Bitkom, Achim Berg, kritisierte die vorgeschlagene Algorithmen-Regulierung als über das Ziel hinausschießend. In dem Bericht würden "fast alle Algorithmen unter Generalverdacht gestellt", sagte Berg dem Handelsblatt. Algorithmen seien längst Teil des Alltags, vom Navi bis zur Wettervorhersage.

Der Vorstand des Verbands der Internetwirtschaft eco, Oliver J. Süme, kommentierte: "Mit einigen Forderungen ist die Kommission deutlich übers Ziel hinausgeschossen. Regulierungsphantasien wie die EUVAS könnten zur echten Digitalisierungs-Bremse werden, denn Algorithmen sind die Basis digitaler Transformation."

Während CDU, SPD und Grüne Zustimmung zu den Vorschlägen signalisierten, kam Kritik von der FDP. Die Debatte über Algorithmen zeige ein typisch deutsches Problem: "Oft sollen Dinge schon verboten werden, bevor irgendein Schaden entstanden ist", sagte Fraktionsvize Frank Sitta dem Handelsblatt.

Digitaler Nachlass und Haftung für Algorithmus-Fehler

So unterschiedlich wie die Vorschläge sind und so verschieden die Themenbereiche sind, so unterschiedlich wird auch ihre Umsetzung sein. Beim digitalen Nachlass, zu dem der Bundesgerichtshof 2018 zum ersten Mal entschieden hatte, empfiehlt die Kommission, Diensteanbietern wie Facebook neue Pflichten aufzulerlegen, zum Beispiel Qualitätssicherung bei Angeboten digitaler Nachlassplanung zu betreiben sowie Regelungen zum postmortalen Datenschutz zu treffen. Hier stellen sich noch drängende Fragen: Wie lässt es sich mit dem Schutz der Privatsphäre vereinbaren, wenn umfangreiche Kommunikation aus Chats nach dem Tod eines Kommunikationspartners den Erben in die Hände fällt? Zumal Chats, E-Mails oder Messenger-Nachrichten nicht ohne weiteres mit Tagebüchern oder Briefen verglichen werden könnten. Der Bericht sieht hier Regelungsbedarf, denn der Datenschutz durch die Datenschutzgrundverordnung erlischt mit dem Tod. Was dann an persönlicher Kommunikation gelöscht, vererbt, oder teil veröffentlicht werden soll, ist noch ungeklärt.

Ebenso dürften die Vorschläge zur Haftung Aussicht auf Umsetzung haben: Der Bericht entwirft einen ausdifferenzierten Ansatz, wer wann Verantwortung übernimmt, wenn ein chirurgischer Roboter einen Patienten fehlerhaft operiert oder durch einen Banken-Algorithmus die Kreditwürdigkeit eines Kunden falsch beurteilt wird. Haftungsfragen, die sich unweigerlich vermehrt stellen werden und die es in Gefährdungs- oder Produkthaftungskategorien zu übersetzen gilt.

Größere Widerstände dürften hinsichtlich der Pläne zur Zentralisierung der Datenschutzaufsicht für den Markt zu erwarten sein. Sollte es nicht ausreichen, die Ausstattung der bestehenden Aufsichtsbehörden der Länder zu verbessern, sollte eine neue Behörde auf Bundesebene geschaffen und mit einem weiten Mandat ausgerüstet werden, so der Vorschlag des Papiers.