Law & RoboterDie KI als Verteidigerin

In den USA soll im Februar erstmals eine „Künstliche Intelligenz“ die Verteidigung in einem Gerichtsprozess übernehmen. Das Experiment des Unternehmens DoNotPay erfolgt ohne Wissen des Gerichts und dient vor allem dem Marketing. Dessen ungeachtet wird der Einsatz des „Roboteranwalts“ einschneidende Folgen weit über die US-amerikanische Justiz hinaus haben.

Roboteranwaeltin
Wie sich eine KI eine KI-Anwältin vorstellt. (Diffusion Bee)

Eine „Künstliche Intelligenz“ (KI) wird im Februar eine:n Mandant:in vor einem US-Gericht verteidigen. Es wird mutmaßlich der weltweit erste bekannte Gerichtsprozess sein, in dem eine KI eine:n Anwält:in ersetzt, wie New Scientist berichtet. Der KI-Einsatz vor Gericht ist ein Experiment des DoNotPay-Gründers Joshua Browder. DoNotPay, zu Deutsch etwa „Zahle nicht“, nutzt KI bislang vor allem dazu, um Verbraucher:innen bei geringfügigen Ordnungswidrigkeiten rechtlich zu unterstützen.

Das Unternehmen plant nach eigenen Angaben, eine:n Angeklagte:n vor Gericht mit Apple AirPods auszustatten. Über die Kopfhörer teilt eine KI der Person wortwörtlich mit, was sie vor Gericht aussagt – ohne dass dieses davon in Kenntnis gesetzt wird. DoNotPay hat zugesichert, mögliche Bußgelder zu übernehmen, die in dem von dem „Roboteranwalt“ bestrittenen Fall angeordnet werden. Weitere Details zu dem Verfahren werde das Unternehmen erst nach dessen Ende publik machen.

Legale Grauzone

Aus juristischer Sicht bewegt sich das Vorhaben in einer Grauzone. In den meisten Ländern weltweit ist es verboten, während eines Gerichtsprozesses Mobiltelefone oder andere mit dem Internet verbundene Geräte bei sich zu tragen. DoNotPay habe für den Versuch einen Gerichtsort ausgewählt, wo Menschen aus Gründen der Barrierefreiheit AirPods nutzen dürfen. Laut Browder soll die KI darauf trainiert sein, dass sie weder lüge noch über reine Fakten hinaus argumentiere. Auf diese Weise hoffe DoNotPay den gerichtlichen Wahrheitseid einhalten zu können.

Schon jetzt plant das Unternehmen in anderen Prozessen den Einsatz einer KI zu testen, etwa bei Verfahren, die mit Hilfe von Videotelefonie erfolgen. Hier könnte neben einem Teleprompter auch eine künstliche Stimme verwendet werden. Ein solcher Einsatz wäre nach Browdens Einschätzung ebenfalls illegal. Allerdings sei er bereit, das Risiko einzugehen.

Am 9. Januar kündigte Browder auf Twitter an, jeder Person mit einem Fall vor dem US Supreme Court 1 Million US-Dollar zu zahlen, wenn diese vor Gericht per AirPods den „Robot Lawyer“ einsetze. Auf Kritik reagierte Browder auf Twitter nur mit einem „Go big or go home“ – zu Deutsch: Mach es ganz oder mach es gar nicht. Der Unternehmensgründer zitiert in seiner Twitter-Bio die BBC, die Browder einst als „Robin Hood des Internets“ bezeichnet habe.

Ein Präzedenzfall mit Folgen

Allerdings folgt das Experiment weniger altruistischen als vielmehr geschäftlichen Motiven. Denn die Ankündigung von DoNotPay ist vor allem eines: eine wirksame Werbeaktion für das Unternehmen. DoNotPays Mission ist es nach eigenen Angaben, Verbraucher:innen bei juristischen Problemen zu helfen. Dafür bot das Unternehmen seit dem Jahr 2015 zunächst einen ChatBot an. Mit seiner Hilfe habe DoNotPay in den ersten zwei Jahren erfolgreich insgesamt 160.000 Strafzettel anfechten können. Inzwischen bezeichnet sich DoNotPay als den weltersten Roboteranwalt, der unter anderem Vertragsverhandlungen übernimmt.

Bislang kommt der englischsprachige Bot nur in den USA und im Vereinigten Königreich – und somit außerhalb der EU – zum Einsatz. Dennoch könnte DoNotPay auch einen Präzedenzfall für den AI Act der Europäischen Union bedeuten. Der AI Act soll das erste Gesetz weltweit werden, das KI in sämtlichen Lebensbereichen reguliert. Zu Jahresbeginn soll in Brüssel der Startschuss zu den finalen Verhandlungen fallen.

No Tracking. No Paywall. No Bullshit.

Unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze jetzt unsere Arbeit mit einer Spende.

Jetzt spenden

6 Ergänzungen

  1. Ich sehe darin ja durchaus auch große Chancen. Zum Beispiel für Arme Menschen die sich einen teuren Elitären Anwalt nicht leisten können. Aber auch gerade für Migranten oder andere benachteiligte Gruppen die durch KI gegebenenfalls an eine gute Rechtsberatung gelangen könnten welche Sie sich andernfalls gar nicht leisten könnten. Durch KI könnten am Ende die Menschen ihre Rechte viel besser kennen und verteidigen.

    1. Solange es nicht läuft wie bei Medizin-Bots, die mehr verwirren als sie helfen, klingt es nicht schlecht. Allerdings ist das Gesetz noch mal viel weniger eindeutig als die Medizin…

      Außerdem kämpft ein guter Anwalt für dich und sucht Schwachstellen im Gesetz. Ob die KI auch so trainiert wird?

    2. Anders herum: Pflichtverteidiger wird dann nur noch eine „KI“ sein, billiger. Und natuerlich kann man bei detaillierter Kenntnis malicious pattern ausarbeiten, bei denen die Verteidigung dann idR verliert…

      Ansonsten gilt wie immer: diese sogenannte „KI“ ist keine, das ist entweder ein regelbasiertes Expertensystem oder probalistisches Machine Learning oder eine Mischung. Das kann bei Standardproblemen sehr hilfreich sein, aber ML ist intransparent und neigt zu unerwartetem Verhalten in fuer Menschen vielleicht nichtmal ungewoehnlichen Situationen.

      1. >>> diese sogenannte „KI“ ist keine

        Wer weiß, was die bei dem Experiment wirklich getan haben, also reine KI oder Unterstützung durch KI? Die reine „KI“ würde so gut wie immer verlieren, ab einem gewissen Wissenspunkt, mindestens gegen Anwalt + KI.

        Mit KI-Unterstützung könnten neue Klassen von Verteidigung entstehen, potentiell erschwinglichere. D.h. durchaus eine Kanzlei könnte das kostengünstiger anbieten, mit der Option der Recherche und Diskussion unter Fachleuten durchaus noch im Hintergrund, je nach dem wie es läuft. D.h. schon, dass ein fachkundiger Anwalt mit KI-Unterstützung antritt, allerdings im Zweifel ad-hoc, bzw. mit weniger eigenem Aufwand, so eine Art von optimiertem Prozess. Vielleicht gibt es dann irgendwann eine Cloudversion, wo man sich für etwas Miete den Cloudverteidiger kauft – Cloud bedeutet aber Anwaltscrowd, die nach Bedarf zugeteilt wird und KI-unterstützt agiert – im Extremfall hat man alle zehn Minuten eine/n andere/n. Das kann schon interessant werden.

        1. Ich weiss nicht, wie oft Du reviews machst. IdR sind Validierung eines Dokuments und Finden/Ausschliessen subtiler Fehler aufwendiger und anspruchsvoller als das selber schreiben.

  2. Das ist einer der ganz wenigen Punkte, in denen KI tatsächlich nützlich sein könnte – aber auch hier mit einem gewaltigen Pferdefuß. KI könnte krasse Widersprüche innerhalb von Gesetzbüchern und des Justizsystems allgemein aufdecken. Doch genau dadurch könnten sehr schnell die Gesetzesdschungel der meisten Länder ad absurdum geführt werden.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.