Software sagt Einbrüche voraus: Der "Mino­rity Report" wird Wir­k­lich­keit

2/2: Jede Menge Skepsis

Wo Algorithmen verwendet werden, sind auch die Mahner vor den Gefahren nicht weit. Der Bundesjustizminister wies in der vergangenen Woche im Rahmen der Konferenz "Digitales Leben" nicht nur auf die grundsätzlichen Risiken einer unkontrollierten Verwendung von Algorithmen hin. "Im Bereich der Polizeiarbeit oder Strafverfolgung können die Folgen von algorithmischen Fehlern für die Betroffenen verheerend sein", sagte Heiko Maas in seiner Rede. Die Göttinger Rechtswissenschaftlerin Lucia Sommerer kritisierte jüngst auf der Telemedicus Konferenz in Berlin, dass die Algorithmen von Privatunternehmen formuliert und die entsprechenden Quellcodes nicht offengelegt werden. Das sei beim predictive policing besonders gefährlich, denn dabei würde ein besonders grundrechtssensibler Bereich berührt, meint Sommerer.

Für die Schweizer Rechtsprofessorin Sabine Gless liegen die Risiken des predictive policing unter anderem in der neuen Qualität des Datensammelns und –auswertens, insbesondere dann, wenn auch allgemein zugängliche Informationen wie Wetterdaten oder Informationen zu Veranstaltungen mitgenutzt werden. Die computergestützte Anwendung statistischer Methoden auf scheinbar triviale Daten gebe jeder für sich gesehen belanglosen oder (zunächst) freiwillig öffentlich gestellten Information einen neuen Wert und gehe damit über die traditionelle Datenvorratshaltung und manuelle Auswertung hinaus, schreibt sie in einer im vergangenen Jahr erschienenen Festschrift.

Und auch wenn hierzulande - anders als beispielsweise in den USA - keine personenbezogenen Daten im Rahmen des predicitve policing verwendet werden, gibt sie doch zu bedenken, dass - wenn nur genügend auch nicht-personenbezogene Daten vorliegen - eine Individualisierung letztendlich nur noch ein kleiner Schritt sei.

Knackpunkt: Einbindung personenbezogener Daten

Bei den derzeitigen Programmen sieht Professor Tobias Singelnstein von der Ruhr-Universität Bochum in dieser Hinsicht noch keine allzu großen Gefahren. Die rechtliche Diskussion werde dann einsetzen, wenn tatsächlich personenbezogene Daten mit verknüpft werden. Und dass das irgendwann auch in Deutschland passieren wird, davon ist Singelnstein überzeugt: "Das Potential von algorithmenbasierten Prognosen kann nur dann wirklich ausgeschöpft werden, wenn möglichst viele und eben auch personenbezogene Daten einbezogen werden", sagt er. "Hierzu ist eine intensive Diskussion über die datenschutzrechtlichen und verfassungsrechtlichen Grenzen nötig." Wichtig ist für Singelnstein dabei, dass die Programme keine "Black Box" bleiben. Er fordert einen Algorithmen-TÜV, der prüft, auf welchen Grundannahmen die jeweilige Prognosesoftware erstellt und wie sie technisch umgesetzt wurden.

Auch die Datenschützer beobachten die weitere Entwicklung sehr genau. Der Hamburger Datenschutzbeauftragte Johannes Casper sagte etwa im Handelsblatt, dass "die Erstellung von Prognosen, an deren Ende Personen nur aufgrund einer statistischen Wahrscheinlichkeit unter den Verdacht geraten, Straftaten zu begehen oder zu Störern zu werden, unter rechtsstaatlichen Gesichtspunkten fragwürdig" sei. Sie widerspreche der Unschuldsvermutung, sei fehleranfällig und ersetze polizeiliche Einschätzungen durch automatisierte intransparente Maschinenlogik.

Unproblematisch ist für Casper der Einsatz der Software nur, "solange die Analyse auf anonymisierter Datenbasis erfolgt und kein Personenbezug herstellbar ist". Er sieht aber auch, dass der Übergang zwischen Anonymität und Personenbezug "höchst interpretationsbedürftig" ist, was "insbesondere bei der Entwicklung derartiger Modelle zu beachten" sei.

Der Held aus Minority Report, der sich zunächst der Verbrechensbekämpfung verschrieben hat, wird später selbst Opfer des Systems und muss sich gegen die Precogs zur Wehr setzen - Ursache dafür ist eine, wie sich letztendlich herausstellt, falsche Vorhersage.