Gefängnis: Warum Künstliche Intelligenz Suizide nicht verhindert

Nach Nordrhein-Westfalen will nun auch Niedersachsen seine Gefängnisse mit Künstlicher Intelligenz ausstatten, um Suizide zu vermeiden. Konkret schwebt den niedersächsischen Regierungsparteien vor, dass eine Kamera suizidales Verhalten von Gefangenen erkennen und Alarm schlagen soll. Hier könne sich der Staat „innovativ und innovationsfreudig an die Spitze von neuen Entwicklungen“ stellen, sagt CDU-Politiker Christian Calderone bei der ersten Aussprache zum Vorschlag von CDU und SPD Mitte März im Landtag in Hannover.

Seit dem Jahr 2000 gab es in deutschen Gefängnissen laut der Statistik der Bundesarbeitsgemeinschaft Suizidprävention im Justizvollzug mindestens 1.540 Suizide. Für den Staat sind diese Todesfälle ein Problem. Denn indem er den Gefangenen ihre Freiheit entzieht, übernimmt er auch Verantwortung für ihre Gesundheit. Zumal der Tod eines Inhaftierten so ziemlich das Gegenteil des Vollzugsziels Resozialisierung ist.

Wenn es Dir nicht gut geht oder Du daran denkst, dir das Leben zu nehmen, versuche, mit anderen Menschen darüber zu sprechen. Das können Freund*innen oder Verwandte sein, es gibt aber auch Hilfsangebote. Die Telefonseelsorge ist anonym, kostenlos und rund um die Uhr unter 0800/111 0 111 und 0800/111 0 222 erreichbar. Es gibt auch die Möglichkeit einer E-Mailberatung oder eines Hilfe-Chats. Informationen unter: telefonseelsorge.de.

Jeder Suizid ist komplex und man kann die Gründe nicht nur in der Institution Gefängnis suchen. Wer im Gefängnis sitzt, war auch schon vor der Haft häufig arm, psychisch erkrankt und männlich. Gefangene gelten daher als Risikogruppe. In deutschen Gefängnissen gibt es zwar eine Reihe von Maßnahmen wie zum Beispiel ein Suizidscreening bei Haftantritt, aber verhindern können sie Suizide oft nicht.

Zu viel versprochen?

Doch können Algorithmen einen Suizidversuch erkennen? Ein Forscher*innen-Team, unter anderem von den Universitäten Stanford und Yale, kam im vergangenen Jahr in einer Meta-Analyse zu dem Schluss, dass die Forschung zur Erkennung von Suiziden mittels Künstlicher Intelligenz noch ganz am Anfang stehe.

Expert*innen, die netzpolitik.org zu dem Vorschlag aus Niedersachsen befragt hat, sind skeptisch. „Grundsätzlich finde ich die Idee gut“, sagt Kristian Kersting, Professor an der TU Darmstadt und stellvertretender Vorsitzender des Hessian Center for Artificial Intelligence. „Aber ich mache mir Sorgen, dass hier zu viel versprochen wird.“ Auch die JVA-Psychologin und Vorsitzende der Bundesarbeitsgemeinschaft Suizidprävention im Justizvollzug, Maja Meischner-Al-Mousawi, sagt: „Die allermeisten Suizide sind damit nicht zu verhindern.“ Und der Vorsitzende der Gewerkschaft der Bediensteten im Strafvollzug, BSBD, Rene Müller, warnt vor „trügerischer Sicherheit“.

Im niedersächsischen Landtag wirbt CDU-Politiker Christian Calderone jedoch für die technische Lösung. „Künstliche Intelligenz wird aktuell vielfach in Justizvollzugsanstalten erprobt“, sagt er Mitte März. „Wir wollen und werden als Niedersachsen für diesen Einsatz bereit sein, auch nach den Ergebnissen aus Nordrhein-Westfalen.“ Er bezieht sich damit auf ein Forschungsprojekt des Justizministeriums in Nordrhein-Westfalen. Die Künstliche Intelligenz wurde laut dem dortigen Justizministerium aber noch gar nicht in einem Gefängnis erprobt. Und auch auf welche anderen Probeläufe er sich beziehe, beantwortet Calderone auf Nachfrage nicht. Mehr noch: Der Blick nach Nordrhein-Westfalen zeigt, dass bislang völlig unklar ist, ob die Technik jemals zum Einsatz kommen wird.

Extrapunkte für Rauchmelder

Das Justizministerium in Nordrhein-Westfalen beauftragte 2019 die Firma Fusion Systems aus Chemnitz für 162.000 Euro mit einem Forschungsprojekt. Sie gewannen eine Ausschreibung, die wir veröffentlichen. Das Ziel: eine Kamera, die mithilfe Künstlicher Intelligenz Bewegungsmuster von Gefangenen analysiert, suizidales Verhalten erkennt und Alarm schlägt, damit die Bediensteten eingreifen können.

Laut der Ausschreibung geschehen rund 80 Prozent aller Suizide im Gefängnis durch Strangulation. Die Künstliche Intelligenz soll „zumindest in einem ersten Schritt“ diese häufigste Suizidform erkennen. Extrapunkte bei der Vergabe des Auftrags gibt es, wenn die Technik auch andere Suizidformen erkennt oder die Kamera einen Rauchmelder eingebaut hat.

Wo keine Kamera, da keine KI

Kameraüberwacht sind in deutschen Gefängnissen zum Beispiel besonders gesicherte Hafträume oder spezielle Suizidpräventionsräume. Dorthin werden Gefangene verlegt, wenn sie akut sich selbst oder andere gefährden könnten. Manche Gefangene nennen diese Räume den „Bunker“. Sie sind in der Regel so gestaltet, dass sich Menschen darin nur schwer töten können – nicht zuletzt, weil ein Bediensteter den Gefangenen ununterbrochen überwachen kann. „Es gibt Suizide in kameraüberwachten Hafträumen. Vielleicht, weil der Mitarbeiter im entscheidenden Moment nicht auf den Bildschirm geguckt hat“, sagt Maja Meischner-Al-Mousawi. „Hier könnte die KI, die Alarm schlägt, eine Ergänzung sein.“

Doch auf die Kamera können sich die Bediensteten bei der Suizidprävention selten verlassen. „Wir wissen, dass die meisten Suizide in Einzelhafträumen ohne Kameraüberwachung passieren“, sagt Meischner-Al-Mousawi. „Dieses KI-Projekt betrifft daher nur eine ganz kleine Anzahl an Gefangenen.“

Dem Ruf nach mehr Kameras im Gefängnis erteilte die niedersächsische Datenschutzbeauftragte Barbara Thiel vorsorglich eine Absage. Eine Ausweitung der Kameraüberwachung auf andere Hafträume komme nicht infrage, so Thiel in einer Pressemitteilung. „Wenn eine Vielzahl unbeteiligter Inhaftierter, deren Verhalten keinen besonderen Anlass zur Beobachtung gegeben hat, dennoch einem permanenten Überwachungsdruck ausgesetzt wird, würde das in unverhältnismäßiger Weise in deren Grundrechte eingreifen.“

„Es dürfte ständig der Alarm ausgelöst werden“

Die Anforderungen an die Zuverlässigkeit der Technik sind in einem sensiblen Bereich wie der Suizidprävention besonders hoch. Das zeigt sich auch in einer Anlage der Ausschreibung des nordrhein-westfälischen Ministeriums. „Die Fehlerquote muss daher nach Abschluss des Forschungsauftrags quasi ausgeschlossen werden können“, ist dort festgelegt. Das heißt, die Technik darf keinen Suizidversuch übersehen. Falscher Alarm soll allerdings auch möglichst nicht vorkommen.

„Das ist eigentlich eine richtige Bedingung, aber sie ist utopisch“, sagt KI-Forscher Kristian Kersting. „Um sicherzugehen, dass kein Suizid unentdeckt bleibt, dürfte ständig der Alarm ausgelöst werden. Damit das System einsetzbar ist, müssen die falsch-positiven und die falsch-negativen Ereignisse ausbalanciert werden.“

Rene Müller von der Strafvollzugsgewerkschaft BSDB warnt, dass das Vorhaben ungewünschte Effekte hervorbringen könnte. „Ich sehe die Gefahr, dass wir das Personal über Gebühr belasten, wenn die KI zu oft Alarm auslöst“, sagt Müller. Aufgrund der zu erwartenden Mehrbelastung müsste für die Erprobungsphase einer KI daher zusätzliches Personal eingestellt werden. Gleichzeitig könnte die Aufmerksamkeit der Bediensteten nachlassen, wenn sie sich darauf verließen, dass die KI schon anschlage, wenn sich ein Suizid anbahnt.

Suizide nachgestellt

Die Chemnitzer Firma Fusion Systems hat ihre Forschungsergebnisse mittlerweile an das Justizministerium in Nordrhein-Westfalen übergeben, teilt dieses auf Anfrage mit. Dort berate man derzeit, wie die „noch nicht hinreichende Detektionsgüte“ verbessert werden könne. Die Firma hatte die Künstliche Intelligenz mit Aufnahmen von Schauspieler*innen trainiert. Dafür habe sie „lebensrealistische Szenarien“ entwickelt, teilt das Justizministerium mit.

Solche nachgestellten Aufnahmen könnten sogenannte „echte Daten“, also Aufnahmen von suizidalen Handlungen, lediglich ergänzen, sagt Kristian Kersting. „Ich bin aber sehr skeptisch, ob durch den Einsatz von Schauspielern eine so hohe Treffsicherheit erzielt werden kann.“

Originalaufnahmen von Suiziden in Gefängnissen existierten in Nordrhein-Westfalen nicht, teilt das Ministerium mit. Bundesweit gebe es laut BAG Suizidprävention weniger als zehn solcher Aufnahmen.

Dabei seien „echte“ Aufnahmen wichtig, um die Datengrundlage, auf der die KI Suizide erkennen soll, nicht zu verzerren. „Je mehr echte Daten für die Entwicklung der KI zur Verfügung stehen, desto besser“, sagt KI-Forscher Kersting. „Allein unterschiedliche Beleuchtungsbedingungen oder Raummaße, aber auch die unterschiedliche Herkunft der Gefangenen erschweren es für die Technik, menschliche Handlungen wie einen Suizid zu erkennen.“

Konzepte statt KI

Im Landtag von Niedersachsen bemühten sich die Politiker*innen von CDU und SPD klarzustellen, dass es sich bei der Künstlichen Intelligenz lediglich um ein „Assistenzsystem“ handele. Sie solle kein Personal ersetzen. Doch gerade im Personalmangel liegt ein großes Problem bei der Suizidprävention. Laut der Gewerkschaft BSBD sind seit Jahren rund 2.000 Stellen im Strafvollzug unbesetzt. Trotz zahlreicher Einstellungsbemühungen der Gefängnisse könnten sie die altersbedingten Abgänge vielerorts kaum ausgleichen, sagt Rene Müller. Er befürchtet, dass die Künstliche Intelligenz letztlich das Personal ersetzen soll, das die Gefängnisse nicht gewinnen können.

Suizidprävention im Gefängnis könne nur durch ausreichend Personal gewährleistet werden, findet auch Psychologin Maja Meischner-Al-Mousawi. „Suizidale Gefangene sollten durch Menschen betreut werden und nicht durch Technik“, fordert die Vorsitzende der BAG Suizidprävention. „Denn eine Kamera arbeitet bei suizidalen Menschen nicht am Problem.“ Sie plädiert dafür, umfassende Präventionskonzepte zu entwickeln und umzusetzen.

Das reicht von Fortbildungen der Mitarbeiter*innen über speziell eingerichtete Präventionsräume bis hin zu ausgebildeten Mitgefangenen. So gibt es in bayerischen Gefängnissen das sogenannte Listener-Projekt. Dabei werden Gefangene geschult, um neu Inhaftierten in der ersten Zeit beizustehen, denn in den Wochen nach der Inhaftierung töten sich besonders häufig Menschen.

Vorbereitungen laufen bereits

Um im Ernstfall jemanden zum Reden zu haben, gibt es außerdem sogenannte Tandem-Zellen, die durch eine Tür miteinander verbunden sind. „Das Listener-Projekt aus Bayern, spezielle Präventionsräume oder sogenannte Tandem-Zellen können Bausteine eines solchen Konzepts sein“, sagt Meischner-Al-Mousawi. Sie müssten jedoch zusätzlich auf die jeweilige Gefangenenstruktur und die Gegebenheiten vor Ort angepasst werden.

Die Regierungsparteien in Niedersachsen, CDU und SPD, haben in ihrem Beschlussantrag im Landtag „unverzüglich eine Ausschreibung für ein Forschungsprojekt“ gefordert. Aktuell liegt der Antrag noch im Rechtsausschuss, im Justizministerium laufen die Vorbereitungen jedoch bereits. Das Ministerium in Nordrhein-Westfalen prüft aktuell, ob es mit Niedersachsen zusammenarbeiten kann, bevor es weitere Schritte plant.