Wie sollte KI im Justizsystem eingesetzt werden?

Künstliche Intelligenz verspricht, Richter bei ihrer Entscheidungsfindung zu unterstützen. Vielmehr werden ihre Entscheidungen und Aufgaben dadurch komplexer, argumentiert Ayisha Piotti.

Künstliche Intelligenz (KI) ist dabei, unsere Gesellschaft zu verändern. Neben den derzeit gehypten Systemen wie ChatGPT oder DALL-E, die Bilder erzeugen können, hat die Technologie auch Einzug in die tägliche Arbeit von Anwälten und sogar Richtern gehalten. Derzeit befinden sich solche Anwendungen noch im Anfangsstadium, aber KI hat das Potenzial, unser Justizsystem zu verändern. Sie verspricht nicht nur erhebliche Vorteile, sondern wirft auch neue ethische und rechtliche Fragen auf. Vor allem aber werden sich die Aufgaben und Qualifikationsanforderungen für Anwälte und Richter ändern.

Durch den Einsatz von KI werden Anwaltskanzleien und Gerichte in der Lage sein, effizienter zu arbeiten und sich wiederholende Aufgaben zu automatisieren. Es bleibt zu hoffen, dass dadurch der berühmt-berüchtigte Rückstau bei den Gerichten abgebaut wird. KI-gestützte Systeme werden bereits von Anwälten eingesetzt, um beispielsweise grosse Datenmengen und Verträge zu analysieren. Und einige Gerichte in den Vereinigten Staaten setzen KI-Systeme ein, um bei der Urteilsfindung zu helfen oder das Rückfallrisiko eines Straftäters vorherzusagen.

Allerdings gibt es auch Fallstricke: Die heutigen KI-Algorithmen sind oft nicht transparent genug, um den hohen Anforderungen an die Rechenschaftspflicht im Justizsystem gerecht zu werden. Kritiker befürchten auch, dass KI-Systeme Vorurteile und Diskriminierung aufrechterhalten könnten. Das liegt daran, dass die Zuverlässigkeit der KI von der Qualität der eingegebenen Daten abhängt. Wenn KI-Unterstützungssysteme auf der Grundlage voreingenommener Daten trainiert werden, kann dies zu ungerechten Ergebnissen führen.

Um solche unbeabsichtigten Folgen zu minimieren, müssen KI-Systeme vor ihrem Einsatz unbedingt gründlich getestet werden. Es sind auch neue regulatorische Leitlinien erforderlich. Die EU stuft den Einsatz von KI in der Justiz zu Recht als Hochrisikoanwendung ein und wird ihn in dem derzeit diskutierten KI-Gesetz streng regeln - unter anderem in Bezug auf Transparenz, Aufsicht und Cybersicherheit.

Für mich gehört die Justiz zu den sensiblen und kritischen Bereichen unseres Lebens, in denen KI-Systeme den Menschen nicht gänzlich ersetzen dürfen. Um die Rechenschaftspflicht zu gewährleisten, müssen wir die Menschen im Auge behalten; ich bin überzeugt, dass wir Menschen als Wächter der KI brauchen. Richter werden in Zukunft nicht nur Urteile fällen, sondern auch entscheiden müssen, wie KI in ihrer Arbeit eingesetzt wird. Sie müssen die Vor- und Nachteile der KI kennen und die damit verbundenen Kompromisse im Auge behalten und in bewussten Entscheidungen abwägen.

Ein solcher Kompromiss ist zum Beispiel der zwischen Geschwindigkeit und Gründlichkeit. KI ist zweifellos schnell, und einige Juristen argumentieren, dass "aufgeschobene Gerechtigkeit verweigerte Gerechtigkeit ist". Eine unvollkommene Entscheidung, die heute getroffen wird, kann daher besser sein als eine perfekte Entscheidung, die überhaupt nicht getroffen wird.

Eine weitere Abwägung ist die zwischen Zweckmäßigkeit und Gewissheit. Bis heute gibt es keine Standards für den Einsatz von KI in der Justiz und für ihre Gültigkeit und Zuverlässigkeit. Richter müssen ihr Urteilsvermögen einsetzen, wenn sie sich von KI bei ihrer Arbeit unterstützen lassen.

Häufig kommerziell entwickelt

Ein drittes Dilemma ergibt sich aus der Tatsache, dass KI heute häufig kommerziell und nicht als Open-Source-Technologie entwickelt wird. Ich denke, dass Entwicklungsunternehmen ein legitimes Interesse daran haben, ihre Geschäftsgeheimnisse zu schützen, aber dies steht im Widerspruch zu unserer Forderung, dass rechtliche Entscheidungen transparent und nachvollziehbar sein müssen. Wenn wir der Justiz KI-Wahrscheinlichkeitsanalysen von DNA-Treffern und Entscheidungshilfen bei der Strafzumessung zur Verfügung stellen wollen, bedeutet das in vielen Fällen einen Kompromiss bei der Transparenz.

Die KI hat das Potenzial, das Justizsystem effizienter, schneller und qualitativ besser zu machen, aber sie erfordert ein Abwägen von Kompromissen und das Eingehen von Kompromissen. Wie bei den Richtern ist es auch beim Einsatz von KI-Technologien in vielen anderen Bereichen unseres Lebens dringend erforderlich, die "Menschen in der Schleife" mit einem hohen Mass an KI-spezifischem Fachwissen und dem Selbstvertrauen auszustatten, diese schwierigen Entscheidungen zu treffen. Für die Gesellschaft ist es jetzt an der Zeit, gemeinsam festzulegen, wie diese Kompromisse aussehen sollen, und die entsprechenden Kapazitäten aufzubauen.

Autorin: Ayisha Piotti, ETH-Nachrichten
Bildquelle: ETH Zürich / Adobe Stock

Vollständigen Beitrag ansehen