GefängnisWarum Künstliche Intelligenz Suizide nicht verhindert

Nordrhein-Westfalen und Niedersachsen wollen Suizide im Gefängnis mit Künstlicher Intelligenz verhindern. Das geht am eigentlichen Problem vorbei.

In einem vergitterten Fenster hängen Socken
Fast tausend Haftplätze hat die JVA Moabit. – Alle Rechte vorbehalten IMAGO/Jürgen Ritter

Nach Nordrhein-Westfalen will nun auch Niedersachsen seine Gefängnisse mit Künstlicher Intelligenz ausstatten, um Suizide zu vermeiden. Konkret schwebt den niedersächsischen Regierungsparteien vor, dass eine Kamera suizidales Verhalten von Gefangenen erkennen und Alarm schlagen soll. Hier könne sich der Staat „innovativ und innovationsfreudig an die Spitze von neuen Entwicklungen“ stellen, sagt CDU-Politiker Christian Calderone bei der ersten Aussprache zum Vorschlag von CDU und SPD Mitte März im Landtag in Hannover.

Seit dem Jahr 2000 gab es in deutschen Gefängnissen laut der Statistik der Bundesarbeitsgemeinschaft Suizidprävention im Justizvollzug mindestens 1.540 Suizide. Für den Staat sind diese Todesfälle ein Problem. Denn indem er den Gefangenen ihre Freiheit entzieht, übernimmt er auch Verantwortung für ihre Gesundheit. Zumal der Tod eines Inhaftierten so ziemlich das Gegenteil des Vollzugsziels Resozialisierung ist.

Wenn es Dir nicht gut geht oder Du daran denkst, dir das Leben zu nehmen, versuche, mit anderen Menschen darüber zu sprechen. Das können Freund*innen oder Verwandte sein, es gibt aber auch Hilfsangebote. Die Telefonseelsorge ist anonym, kostenlos und rund um die Uhr unter 0800/111 0 111 und 0800/111 0 222 erreichbar. Es gibt auch die Möglichkeit einer E-Mailberatung oder eines Hilfe-Chats. Informationen unter: telefonseelsorge.de.

Jeder Suizid ist komplex und man kann die Gründe nicht nur in der Institution Gefängnis suchen. Wer im Gefängnis sitzt, war auch schon vor der Haft häufig arm, psychisch erkrankt und männlich. Gefangene gelten daher als Risikogruppe. In deutschen Gefängnissen gibt es zwar eine Reihe von Maßnahmen wie zum Beispiel ein Suizidscreening bei Haftantritt, aber verhindern können sie Suizide oft nicht.

Zu viel versprochen?

Doch können Algorithmen einen Suizidversuch erkennen? Ein Forscher*innen-Team, unter anderem von den Universitäten Stanford und Yale, kam im vergangenen Jahr in einer Meta-Analyse zu dem Schluss, dass die Forschung zur Erkennung von Suiziden mittels Künstlicher Intelligenz noch ganz am Anfang stehe.

Expert*innen, die netzpolitik.org zu dem Vorschlag aus Niedersachsen befragt hat, sind skeptisch. „Grundsätzlich finde ich die Idee gut“, sagt Kristian Kersting, Professor an der TU Darmstadt und stellvertretender Vorsitzender des Hessian Center for Artificial Intelligence. „Aber ich mache mir Sorgen, dass hier zu viel versprochen wird.“ Auch die JVA-Psychologin und Vorsitzende der Bundesarbeitsgemeinschaft Suizidprävention im Justizvollzug, Maja Meischner-Al-Mousawi, sagt: „Die allermeisten Suizide sind damit nicht zu verhindern.“ Und der Vorsitzende der Gewerkschaft der Bediensteten im Strafvollzug, BSBD, Rene Müller, warnt vor „trügerischer Sicherheit“.

Im niedersächsischen Landtag wirbt CDU-Politiker Christian Calderone jedoch für die technische Lösung. „Künstliche Intelligenz wird aktuell vielfach in Justizvollzugsanstalten erprobt“, sagt er Mitte März. „Wir wollen und werden als Niedersachsen für diesen Einsatz bereit sein, auch nach den Ergebnissen aus Nordrhein-Westfalen.“ Er bezieht sich damit auf ein Forschungsprojekt des Justizministeriums in Nordrhein-Westfalen. Die Künstliche Intelligenz wurde laut dem dortigen Justizministerium aber noch gar nicht in einem Gefängnis erprobt. Und auch auf welche anderen Probeläufe er sich beziehe, beantwortet Calderone auf Nachfrage nicht. Mehr noch: Der Blick nach Nordrhein-Westfalen zeigt, dass bislang völlig unklar ist, ob die Technik jemals zum Einsatz kommen wird.

Extrapunkte für Rauchmelder

Das Justizministerium in Nordrhein-Westfalen beauftragte 2019 die Firma Fusion Systems aus Chemnitz für 162.000 Euro mit einem Forschungsprojekt. Sie gewannen eine Ausschreibung, die wir veröffentlichen. Das Ziel: eine Kamera, die mithilfe Künstlicher Intelligenz Bewegungsmuster von Gefangenen analysiert, suizidales Verhalten erkennt und Alarm schlägt, damit die Bediensteten eingreifen können.

Laut der Ausschreibung geschehen rund 80 Prozent aller Suizide im Gefängnis durch Strangulation. Die Künstliche Intelligenz soll „zumindest in einem ersten Schritt“ diese häufigste Suizidform erkennen. Extrapunkte bei der Vergabe des Auftrags gibt es, wenn die Technik auch andere Suizidformen erkennt oder die Kamera einen Rauchmelder eingebaut hat.

Wo keine Kamera, da keine KI

Kameraüberwacht sind in deutschen Gefängnissen zum Beispiel besonders gesicherte Hafträume oder spezielle Suizidpräventionsräume. Dorthin werden Gefangene verlegt, wenn sie akut sich selbst oder andere gefährden könnten. Manche Gefangene nennen diese Räume den „Bunker“. Sie sind in der Regel so gestaltet, dass sich Menschen darin nur schwer töten können – nicht zuletzt, weil ein Bediensteter den Gefangenen ununterbrochen überwachen kann. „Es gibt Suizide in kameraüberwachten Hafträumen. Vielleicht, weil der Mitarbeiter im entscheidenden Moment nicht auf den Bildschirm geguckt hat“, sagt Maja Meischner-Al-Mousawi. „Hier könnte die KI, die Alarm schlägt, eine Ergänzung sein.“

Besonders gesicherter Haftraum ohne gefährdete Gegenstände in der Untersuchungshaftanstalt Berlin Moabit.
Kameraüberwachte Zellen gibt es in den meisten Gefängnissen nur vereinzelt. Hier ein „besonders gesicherter Haftraum“ in der Untersuchungshaft in Berlin-Moabit. - Alle Rechte vorbehalten IMAGO/Rolf Kremming

Doch auf die Kamera können sich die Bediensteten bei der Suizidprävention selten verlassen. „Wir wissen, dass die meisten Suizide in Einzelhafträumen ohne Kameraüberwachung passieren“, sagt Meischner-Al-Mousawi. „Dieses KI-Projekt betrifft daher nur eine ganz kleine Anzahl an Gefangenen.“

Dem Ruf nach mehr Kameras im Gefängnis erteilte die niedersächsische Datenschutzbeauftragte Barbara Thiel vorsorglich eine Absage. Eine Ausweitung der Kameraüberwachung auf andere Hafträume komme nicht infrage, so Thiel in einer Pressemitteilung. „Wenn eine Vielzahl unbeteiligter Inhaftierter, deren Verhalten keinen besonderen Anlass zur Beobachtung gegeben hat, dennoch einem permanenten Überwachungsdruck ausgesetzt wird, würde das in unverhältnismäßiger Weise in deren Grundrechte eingreifen.“

„Es dürfte ständig der Alarm ausgelöst werden“

Die Anforderungen an die Zuverlässigkeit der Technik sind in einem sensiblen Bereich wie der Suizidprävention besonders hoch. Das zeigt sich auch in einer Anlage der Ausschreibung des nordrhein-westfälischen Ministeriums. „Die Fehlerquote muss daher nach Abschluss des Forschungsauftrags quasi ausgeschlossen werden können“, ist dort festgelegt. Das heißt, die Technik darf keinen Suizidversuch übersehen. Falscher Alarm soll allerdings auch möglichst nicht vorkommen.

„Das ist eigentlich eine richtige Bedingung, aber sie ist utopisch“, sagt KI-Forscher Kristian Kersting. „Um sicherzugehen, dass kein Suizid unentdeckt bleibt, dürfte ständig der Alarm ausgelöst werden. Damit das System einsetzbar ist, müssen die falsch-positiven und die falsch-negativen Ereignisse ausbalanciert werden.“

Rene Müller von der Strafvollzugsgewerkschaft BSDB warnt, dass das Vorhaben ungewünschte Effekte hervorbringen könnte. „Ich sehe die Gefahr, dass wir das Personal über Gebühr belasten, wenn die KI zu oft Alarm auslöst“, sagt Müller. Aufgrund der zu erwartenden Mehrbelastung müsste für die Erprobungsphase einer KI daher zusätzliches Personal eingestellt werden. Gleichzeitig könnte die Aufmerksamkeit der Bediensteten nachlassen, wenn sie sich darauf verließen, dass die KI schon anschlage, wenn sich ein Suizid anbahnt.

Suizide nachgestellt

Die Chemnitzer Firma Fusion Systems hat ihre Forschungsergebnisse mittlerweile an das Justizministerium in Nordrhein-Westfalen übergeben, teilt dieses auf Anfrage mit. Dort berate man derzeit, wie die „noch nicht hinreichende Detektionsgüte“ verbessert werden könne. Die Firma hatte die Künstliche Intelligenz mit Aufnahmen von Schauspieler*innen trainiert. Dafür habe sie „lebensrealistische Szenarien“ entwickelt, teilt das Justizministerium mit.

Solche nachgestellten Aufnahmen könnten sogenannte „echte Daten“, also Aufnahmen von suizidalen Handlungen, lediglich ergänzen, sagt Kristian Kersting. „Ich bin aber sehr skeptisch, ob durch den Einsatz von Schauspielern eine so hohe Treffsicherheit erzielt werden kann.“

Originalaufnahmen von Suiziden in Gefängnissen existierten in Nordrhein-Westfalen nicht, teilt das Ministerium mit. Bundesweit gebe es laut BAG Suizidprävention weniger als zehn solcher Aufnahmen.

Dabei seien „echte“ Aufnahmen wichtig, um die Datengrundlage, auf der die KI Suizide erkennen soll, nicht zu verzerren. „Je mehr echte Daten für die Entwicklung der KI zur Verfügung stehen, desto besser“, sagt KI-Forscher Kersting. „Allein unterschiedliche Beleuchtungsbedingungen oder Raummaße, aber auch die unterschiedliche Herkunft der Gefangenen erschweren es für die Technik, menschliche Handlungen wie einen Suizid zu erkennen.“

Konzepte statt KI

Im Landtag von Niedersachsen bemühten sich die Politiker*innen von CDU und SPD klarzustellen, dass es sich bei der Künstlichen Intelligenz lediglich um ein „Assistenzsystem“ handele. Sie solle kein Personal ersetzen. Doch gerade im Personalmangel liegt ein großes Problem bei der Suizidprävention. Laut der Gewerkschaft BSBD sind seit Jahren rund 2.000 Stellen im Strafvollzug unbesetzt. Trotz zahlreicher Einstellungsbemühungen der Gefängnisse könnten sie die altersbedingten Abgänge vielerorts kaum ausgleichen, sagt Rene Müller. Er befürchtet, dass die Künstliche Intelligenz letztlich das Personal ersetzen soll, das die Gefängnisse nicht gewinnen können.

Suizidprävention im Gefängnis könne nur durch ausreichend Personal gewährleistet werden, findet auch Psychologin Maja Meischner-Al-Mousawi. „Suizidale Gefangene sollten durch Menschen betreut werden und nicht durch Technik“, fordert die Vorsitzende der BAG Suizidprävention. „Denn eine Kamera arbeitet bei suizidalen Menschen nicht am Problem.“ Sie plädiert dafür, umfassende Präventionskonzepte zu entwickeln und umzusetzen.

Das reicht von Fortbildungen der Mitarbeiter*innen über speziell eingerichtete Präventionsräume bis hin zu ausgebildeten Mitgefangenen. So gibt es in bayerischen Gefängnissen das sogenannte Listener-Projekt. Dabei werden Gefangene geschult, um neu Inhaftierten in der ersten Zeit beizustehen, denn in den Wochen nach der Inhaftierung töten sich besonders häufig Menschen.

Vorbereitungen laufen bereits

Um im Ernstfall jemanden zum Reden zu haben, gibt es außerdem sogenannte Tandem-Zellen, die durch eine Tür miteinander verbunden sind. „Das Listener-Projekt aus Bayern, spezielle Präventionsräume oder sogenannte Tandem-Zellen können Bausteine eines solchen Konzepts sein“, sagt Meischner-Al-Mousawi. Sie müssten jedoch zusätzlich auf die jeweilige Gefangenenstruktur und die Gegebenheiten vor Ort angepasst werden.

Die Regierungsparteien in Niedersachsen, CDU und SPD, haben in ihrem Beschlussantrag im Landtag „unverzüglich eine Ausschreibung für ein Forschungsprojekt“ gefordert. Aktuell liegt der Antrag noch im Rechtsausschuss, im Justizministerium laufen die Vorbereitungen jedoch bereits. Das Ministerium in Nordrhein-Westfalen prüft aktuell, ob es mit Niedersachsen zusammenarbeiten kann, bevor es weitere Schritte plant.

4 Ergänzungen

  1. Maximal dystopische Menschenverachtung, die sich zynisch als Fürsorge tarnt.

    Was geht in den Köpfen vor bei denen, die solche Projekte treiben? Kann mir das jemand erklären?

  2. Wie in anderen Bereichen auch geht es weniger darum, einen humanitären Nutzen für Menschen zu erreichen. Vielmehr geht es darum, „innovativ und innovationsfreudig an die Spitze von neuen Entwicklungen“ zu stellen, wie es bezeichnender Weise ein CDU-Politiker formuliert.

    Wie man an diversen experimentellen Erprobungen bereits lernen konnte, braucht es menschliche Probanden, um Sensorik und Bildauswertung voranzutreiben. Und man braucht vorgeblich moralisch hohe Ziele um das zweifelhafte Tun einigermaßen Rechtfertigen zu können. Nicht immer reicht es aus, junge Kätzchen vor dem Ertrinken retten zu wollen, oder einer Entenfamilie über die Autobahn zu helfen, auch wenn es noch immer stets gesichert ist, es mit solchen Taten in die Medien zu schaffen. So muss eine als stets latent deklarierte Terrorgefahr für Videoüberwachungen an Bahnhöfen herhalten. Und Gleisbett-Schubser kommen auch nur deswegen unerkannt davon, weil die Technik noch nicht gut genug ist.

    Worin besteht der eigentliche Nutzen von dauerüberwachten Gefangenenzellen?

    Gefangene müssen in einem Umfeld zurecht kommen, dass ihnen keine Zuneigung entgegenbringt. Menschliche Bedürfnisse können unbeschwert nicht mehr gelebt werden. Wer sich dem Umfeld nicht anpassen kann, geht psychisch zugrunde. Im Knast gibt es kein Recht auf Suizid, denn Strafe verliert ihre Drohkraft, wenn Gefangene sich ihr entziehen können, und es würde einen schlimmen Eindruck, wenn in deutschen Institutionen die Suizid-Fälle durch die Decke gingen.

    Gerne würde ich eine Statistik präsentieren, was ein Gefangener pro Tag in verschiedenen Ländern kostet. Vielleicht kann ein Leser dazu mehr Auskunft geben. Ich vermute, dass die Kosten in Deutschland mit am höchsten sein sein dürfte und vergleichbar mit dem Tagessatz in anderen unterbringenden Institutionen sein dürfte. Der größte Teil davon wiederum dürfte auf Personalkosten entfallen und hier ist der finanzielle Anreiz, Personalkosten hier im Knast weiter zu „optimieren“, später dann aber auch im Altenheim, wo die stärksten Jahrgänge schon vor der Tür stehen, gerade jene, die sich Patientenverfügung und Freitod mühsam erstritten haben. Doch solche Rechte gibt es faktisch nicht im Knast.

    Ginge es darum, bis auf den Tod Verzweifelten zu helfen, müsste man in teures Fachpersonal investieren. Auf diese Idee wollen Verantwortliche aber nicht kommen. Stattdessen klingt es besser Digitalisierung voran zu treiben, auch im Knast, der das perfekte experimentelle Setting mit kontrollierten Parametern bietet.

    Die Frage sei erlaubt, was man den Insassen dafür bezahlt, dass sie sich zwangsweise als Datenlieferanten für den Digital-Industriellen-Sektor verdingen müssen.

  3. > … bis hin zu ausgebildeten Mitgefangenen. So gibt es in bayerischen Gefängnissen das sogenannte Listener-Projekt. Dabei werden Gefangene geschult, um neu Inhaftierten in der ersten Zeit beizustehen, …

    Diesen Bemühungen steht eine ganz andere Praxis gegenüber, die einen diametral anderen Zweck erfüllen soll: Freundliche Mitgefangene, die gezielt eingesetzt werden, um andere auszuspähen. Sie geben sich hilfsbereit, trösten und nützen neue Gefangene emotional aus, um sich als Spitzel eigene Vergünstigungen zu verdienen. Das ist reale Praxis besonders in Untersuchungsgefängnissen.

    Es dürfte sehr sehr schwierig sein, für einen Neuzugang, zwischen herkömmlichen Knast-Spitzeln und und wohlwollenden Helfern zu unterscheiden. Das System Knast basiert auf Gewalt und Ausbeutung, da humanitäre Ansätze zu etablieren, die auf Vertrauen und garantierter Verschwiegenheit beruhen, sind höchst ambitioniert, zumal immer die Gefahr besteht, das erlangtes Wissen über einen Häftling dennoch missbräuchlich zum eigenen Vorteil verpetzt wird. In aussichtsloser Situation kann jeder immer zum Verräter werden, und das Klientel besteht dort eben nicht immer aus selbstlosen Helfern. Leider ist es auch so, das Anwälte aus gutem Grund vor Mithäftlingen warnen, die sich als vorgeblich hilfsbereit anderen nähern.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.