EDV-Gerichtstag zu KI in der Justiz: Von Ava­taren als Zeugen und KI-Ver­g­leichs­vor­schlägen

Ist die Künstliche Intelligenz (KI) ein "Gamechanger" für die Justiz? So lautete am Donnerstag die zentrale Frage bei der Eröffnungsveranstaltung des jährlichen EDV-Gerichtstags in Saarbrücken. Staatssekretärin Dr. Angelika Schlunck (FDP) aus dem Bundesministerium der Justiz (BMJ) bejahte dies: "Wir stehen an einem Punkt, wo sich die Arbeitsweise in der Justiz radikal verändert", sagte sie. Sie wollte ausdrücklich nicht Chancen und Risiken balancierend abwägen. "Ich sehe KI als Chance. Punkt."

Natürlich müsse die richterliche Entscheidung am Ende bei Menschen liegen, so Schlunck. Fehlleistungen der KI wie "Halluzinationen" und "Verzerrungen" (etwa rassistische Vorurteile) müssten "mindestens minimiert" werden. 

Der Bund fördere KI-Projekte der Länder mit 200 Millionen Euro über vier Jahre. Außerdem werde eine länderübergreifende KI-Plattform geschaffen. Sie soll es mit einheitlichen, öffentlich dokumentierten Schnittstellen ermöglichen, dass unterschiedliche KI-Anwendungen in Bund und Ländern ohne großen Aufwand in Betrieb genommen werden können. Auch das BMJ selbst habe in jeder Abteilung Pilotprojekte gestartet. So werde etwa KI genutzt, um die Auswertung von Sachverständigen-Anhörungen zu vereinfachen.

Skeptischer Verfassungsrichter

Aus einer skeptischen Grundposition heraus argumentierte vor allem Bundesverfassungsrichter Prof. Dr. Henning Radtke bei der Saarbrücker Veranstaltung. "Vor ihnen steht ein etwas alter konservativer Mann, der zwar durchaus auch Chancen erkennt, aber schon von Amts wegen berufen ist, immer wieder deutlich zu machen, dass die Verfassung dem Einsatz von KI deutliche Grenzen setzt."

Radtke erinnerte einerseits an die Freiheitsrechte der Bürger:innen. Diese haben Abwehrrechte gegen den Staat. Der Staat habe Schutzpflichten ihnen gegenüber, wie das Bundesverfassungsgericht (BVerfG) im sogenannten Hessendata-Urteil (Urt, v. 16.02.2023, Az. BvR 1547/19) auch für KI-Anwendungen andeutet. Grundrechtseingriffe müssten verhältnismäßig sein, wobei vieles im Detail noch ungeklärt sei. Die KI-Verordnung der EU sah Radtke als Schritt in die richtige Richtung. 

Vor allem aber gefährde der KI-Einsatz in der Justiz die richterliche Unabhängigkeit. Das Grundgesetz verlange, so Radtke, dass richterliche Entscheidungen durch Menschen getroffen werden. Die Bürger:innen hätten Anspruch auf Überprüfung ihres Rechtsschutzbegehrens "durch einen unabhängigen Spruchkörper, der mit einer dem Rechtschutzbegehren angemessenen Entscheidungsmacht über tatsächliche und rechtliche Fragen ausgestattet" sei und gleichzeitig "über hinreichende Empathie sowie hinreichende Lebenserfahrung verfüge". Dieser Anspruch würde "ganz erheblich tangiert", wenn den Richter:innen die Nutzung entscheidungserheblicher Software vorgegeben werde. 

Hochriskanter Einsatz mit Ausnahmen

BMJ-Unterabteilungsleiterin Dr. Jutta Kemper erläuterte, dass die KI-Verordnung der EU den Einsatz von KI in der Justiz weitgehend als Hochrisiko-Anwendung einstufe. Das gelte sowohl für die Anwendung und Auslegung von Rechtsvorschriften als auch für die Sachverhaltserfassung. Daraus folge aber kein Verbot, sondern nur gesteigerte Pflichten zur Dokumentation, Transparenz und Aufsicht. Auch aus der KI-Verordnung ergebe sich, dass die letzte Entscheidung in der Justiz immer ein Mensch treffen müsse. 

Nur für eng gefasste Verfahrensaufgaben habe der KI-Einsatz in der Justiz keinen Hochrisiko-Charakter, ergänzte Kemper und erwähnte die Anonymisierung von Entscheidungen, die Extraktion von Meta-Daten, Übersetzungen und die Verbesserung von Texten.

Eine Frage der Wahrscheinlichkeit

Thomas Langkabel, National Technology Officer von Microsoft Deutschland, machte deutlich, worin die neue Qualität von KI-Einsätzen gegenüber anderen technologischen Anwendungen liegt: "Bisher gab es deterministische Systeme. Algorithmen kamen mit den gleichen Daten immer zum gleichen Ergebnis." Bei KI gehe es dagegen um Wahrscheinlichkeit. "Man kann einem KI-System deshalb fünf Mal die gleiche Frage stellen und kann dann fünf verschiedene Antworten bekommen." Diese unterschiedlichen Antworten könnten alle richtig sein, vielleicht aber auch falsch. Eine interessante Variante der bekannten Redewendung "zwei Juristen - drei Meinungen". 

Prof. Dr. Elisabeth André, Professorin für menschenzentrierte Künstliche Intelligenz an der Universität Augsburg, betonte, dass KI meist gute Ergebnisse liefere und besser arbeite als Menschen. Dennoch dürfe man der KI nicht blind vertrauen. "Wir müssen uns um die Mensch-Maschine-Schnittstelle kümmern." Der Mensch müsse lernen, wann er der Maschine Entscheidungen überlassen kann. Die Maschine müsse lernen, wann sie dem Richter sagen soll, dass er sich die Sache mal anschauen soll. Ein Kernproblem der KI bestehe bisher darin, dass es nicht möglich ist nachzufragen, wie die KI zu einem bestimmten Ergebnis kam, was für sie dabei relevant war. 

Druck auf Richter:innen

Dr. Stefan Brink, Ex-Datenschutzbeauftragter Baden-Württembergs, jetzt Chef des Wissenschaftlichen Instituts für die Digitalisierung der Arbeitswelt (wida) forderte: "Wenn der Einsatz von KI mit Vorteilen verbunden ist, sollten wir uns diese nicht entgehen lassen". Anwält:innen die mit KI arbeiten, sähen heute schon Effizienzgewinne von 20 bis 30 Prozent. 

Der Einsatz von KI werde deshalb faktisch bald auch von Entscheider:innen verlangt werden, so Brink, einfach indem die Zahl der erwarteten Entscheidungen entsprechend steige. Erst recht müsse ein Richter von den Möglichkeiten der KI Gebrauch machen, wenn diese qualitativ zu besseren Ergebnissen komme als ein Mensch. 

Vergleichsvorschlag von der KI

Dr. Anke Morsch, Vorsitzende des EDV-Gerichtstags e.V., stellte als Moderatorin der Diskussion folgendes Szenario zur Diskussion: "Nehmen wir an, die KI lädt die gesamte Verfahrensakte und erstellt dann einen Entscheidungsentwurf. Wenn die Parteien damit einverstanden sind, kommt eine Entscheidung mit diesem Inhalt zustande, ohne dass das Gericht auch nur in die Akte geschaut hat…"

Jutta Kemper vom BMJ hielt dies für unzulässig, weil hier die letzte Entscheidung nicht mehr bei den Richter:innen liege. Das Szenario sei technologisch aber auch erst in 15 bis 30 Jahren umsetzbar. "Derzeit hat die KI gar nicht genug Datenmaterial, um solche Möglichkeiten nutzen zu können". Nach wie vor seien nur fünf Prozent der deutschen Gerichtsurteile zugänglich. "Es gibt also gar nicht genug Trainingsdaten." 

Stefan Brink glaubt, dass das Szenario dennoch schon in etwa drei Jahren realisierbar sein könnte. "In der KI entwickelt sich alles viel schneller als man denkt."

Der Avatar als Zeuge?

Was technisch heute schon möglich ist, zeigte in Saarbrücken auch ein Beispiel von Microsoft-Mann Langkabel. Mit dem Programm Vasa-1 kann aus einem Passbild ein echt aussehender menschlicher Avatar geschaffen werden, der Texte lippensynchron einspricht und dabei auch passende Mimik macht. Menschen mit Behinderung könnten sich so in einer Videokonferenz besser ausdrücken. Allerdings könne man damit auch nicht existierende Zeugen in einer virtuellen Gerichtsverhandlung auftreten lassen. 

"Es handelt sich hier nur um research, nicht um ein Produkt", betonte Langkabel. Microsoft werde die sprechenden Vasa-Köpfe wegen des hohen Missbrauchspotenzials nicht auf den Markt bringen. 

Dr. Florian Geissler vom Fraunhofer Institute for Kognitive Systeme stellte in Aussicht, dass KI noch viel leistungsfähiger werde, wenn es erst Quanten-Computer gebe. Dann sei ein exponentieller Anstieg der verfügbaren Rechenleistung zu erwarten. KI könnte dann bald ganze Gesetzentwürfe schreiben und auch den gesamten gesellschaftlichen Kontext einer Gerichtsentscheidung berücksichtigen. Diskussionsleiterin Morsch stellte fest, dass KI dann auch bahnbrechende Rechtsfortbildungen wie den Klima-Beschluss des BVerfG selbst gestalten könne.

Das ist aber noch Zukunftsmusik. Selbst KI-Fan Angelika Schlunck ist von der aktuellen Leistungsfähigkeit noch nicht richtig überzeugt. "Wenn ich mit einem Redeentwurf nicht zufrieden bin und den Text von der KI verbessern lassen will, brauche ich für die Formulierung der richtigen Aufforderung, des Prompts, so lange, dass ich die Rede auch selbst schreiben könnte."