Die heutige Degitalisierung startet mit tiefsinnigen Fragen. Sie stammen aus einer Konversation über ein vermeintlich rein technisches Problem.
„Aber was macht das mit den Menschen?“ Vielleicht ist diese Gegenfrage, wie sich der Einsatz von Technik auswirkt, nicht unbedingt das Erste, was ihr erwarten würdet, wenn ihr einer Expert*in eine vermeintlich ausschließlich technisch geartete Frage stellt.
Es folgten eine zweite ungewöhnliche Frage und ein eindringlicher Appell, die heute immer noch in meinen Gedanken nachhallen. Auch nach Jahren.
„Kann es Menschen Schaden hinzufügen? Dann solltest du das nicht weiter vorantreiben.“
Die Fragen und den Appell habe ich tatsächlich im Gespräch mit einer bekannten Person aus dem Fachbereich der Kryptografie zu hören bekommen. Ganz im Sinne der Privatsphäre sei jetzt nebensächlich, wer genau das war. Die Wahrscheinlichkeit ist aber sehr hoch, dass sehr viele von euch das Werk dieser Person möglicherweise schon genutzt haben.
Im Wesentlichen haben diese Fragen nach der Wirkung von Technik auf Menschen und die Gesellschaft eine Abkürzung aufgezeigt. Eine Abkürzung hin zur eigentlichen Wirkung von Technik. Eine Abkürzung, die so wieder zu mehr Nutzen für alle führen kann.
Digitalisierung wirkt oftmals einfach und logisch. Alles sei durch Daten, Daten und Daten abbildbar und das sei ja auch wichtig für sogenannte Künstliche Intelligenz und Innovation und überhaupt – die Wirtschaft. Zuerst an die möglichen negativen Folgen zu denken und deshalb schon im Design bessere Lösungen mit weniger möglichem Schaden für Betroffene zu schaffen, scheint daher oftmals gar nicht so erstrebenswert. Leider.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Datenketten und Schulabbrüche
Um das mit der Schadensvermeidung besser zu verstehen, bedarf es vielleicht eines aktuellen Beispiels. Vor ein paar Tagen fiel der Spitzenkandidat der Grünen in Baden-Württemberg, Cem Özdemir, mit der Forderung nach einer Schüler-ID auf. Er forderte öffentlich eine eindeutige und dauerhafte Kennnummer für Schüler*innen, die quasi als „Schulabbrecher-Prellbock“ dienen würde. Eine Art Frühwarnsystem, das Alarm schlagen könne, „bevor ein Schüler durch das Raster fällt“.
Aber nicht nur in Baden-Württemberg gibt es Pläne für eine solche Schüler-ID, auch die Bundesregierung möchte das laut Koalitionsvertrag weiter voranbringen. Wie so häufig sind die Ziele von solchen digitalen Vorhaben oftmals im Kern löblich: Weniger Schüler*innen sollen die Schule ohne Abschluss verlassen, es soll bessere Fördermöglichkeiten geben.
Im Koalitionsvertrag steht sehr klar, wie das alles zu schaffen sei: Von einer datengestützten Schulentwicklung und einem Bildungsverlaufsregister ist da die Rede, von einer Schüler-ID, die auch gleich noch mit einer Bürger-ID verknüpft werden soll. Nach einem vermeintlich löblichen Ansinnen – die Schulabbrecherquote senken – folgt eine ganze Menge an potenziellem Schaden: mögliche dauerhafte Stigmatisierung wegen schlechter schulischer Leistungen, Reduktion auf nackte Zahlen bei Ignoranz der oftmals vielfältigen Gründe für schulische Probleme, Objektivierung von jungen Menschen, die immer persönlich anerkannt und wertgeschätzt werden sollten, und so weiter.
Ob eine Schüler-ID überhaupt wirksam ist, ist von der Datenlage her eher eine „entdeckerische, explorative“ Frage. Man müsse erst mal schauen, was sich über ein paar Jahre vielleicht statistisch begleiten lässt, so etwa die Aussage einer Professorin für Mediendidaktik im Breitband-Beitrag zum Thema. Sehr große Fragezeichen, unklare Risiken. Eigentlich sollte man das nicht vorantreiben.
Der vermeintlich löbliche Zweck der Schüler-ID, Schulabbrüche zu verhindern oder Schüler*innen besser zu fördern, schreit geradezu nach Privatsphäre-sensitiven Lösungen, die jedes Mal neue Chancen ermöglichen, sich zu verbessern. Unvoreingenommenheit braucht es hier etwa als wesentliches Merkmal, um Menschen jedes Mal neu gute Chancen zu bieten, zu einem guten Abschluss zu kommen, teils auch ein Leben lang.
Der Zweck schreit nicht nach einer typischen Verwaltungslösung mit mehr Daten und umfassenden Registern, er schreit erst mal nach gar keinen rein digitalen Lösungen. An sich ließe sich die digitalpolitische Diskussion hier schon wieder vollständig abkürzen. Sollte es aber unbedingt eine digitale Hilfslösung sein (müssen), dann müsste dies eine konsequent individuelle, vertrauliche und vergessliche Lösung sein, die Mängel in der schulischen Entwicklung anzeigt. Also eben kein Bildungsregister mit lebenslänglichen IDs, die dann auch noch mit einer Bürger-ID verknüpft werden.
Nichtnutzen und Markterfolg
Allzu oft scheint der ursprüngliche Sinn und Nutzen einer digitalen Lösung vergessen zu werden. Ein Paradebeispiel ist die Digitalisierung des Gesundheitswesens in Deutschland, nicht erst seit der elektronischen Patientenakte „für alle“. Bevor jetzt wieder „der Datenschutz“ als Wurzel allen Übels herhalten muss, sollten wir erst einmal ein paar Jahre in die Vergangenheit schauen: Was war der Auslöser, das Gesundheitswesen in Deutschland zu digitalisieren? Welchen Nutzen wollte man stiften?
Ein wichtiges Ereignis in dieser Genese ist der Lipobay-Skandal von 2001. Dabei wurde der Cholesterinsenker Cerivastatin nach Todesfällen vom Markt genommen. Nach der Untersuchung der betroffenen Patient*innen stellte sich heraus, dass es kaum Aufzeichnungen über Medikamente gab. Damals wurde die Einführung einer Chipkarte vorgeschlagen, um darauf die verordneten Medikamente zu speichern und mögliche Kontraindikationen feststellen zu können.
Der Rest ist dann mehr oder weniger Geschichte, oder wie Detlef Borchers schon 2011 bei heise schrieb: Aus der einfachen Verschreibungsliste erwuchs ein höchst komplexes System, das Deutschland eine „telemedizinische Infrastruktur“ bescheren sollte.
Harter Sprung ins Jahr 2025: An der Digitalisierung des Gesundheitswesens Beteiligte schwärmen davon, dass jetzt die Medikationsliste – diesmal aber wirklich manifest geworden in der ePA für alle – Leben rette. „KI-ready“ sei die ePA jetzt auch, wenn der versprochene Nutzen schon etwas später und die Kosten ein paar unzählige Milliarden Euro teurer geworden sind als die ursprünglich gedachte Medikationsliste.
Auf dem Weg dorthin sind neben diversen Sicherheitsproblemchen, auf die speziell ich jetzt nicht noch mal eingehen möchte, neue Probleme mit der Verfügbarkeit dazugekommen. Ob das elektronische Rezept funktioniert, das vielleicht auch irgendwie zum Nutzen dieser Medikationsliste gezählt werden könnte, ist gefühlt so planbar wie eine Fahrt mit der Deutschen Bahn. Kaum ein Tag ohne Ausfälle und die Zuverlässigkeit des E-Rezepts stellt Apotheken jedes Mal aufs Neue vor Herausforderungen, um die medizinische Versorgung überhaupt sicherstellen zu können.
Erfolgreich sind in der Genese der Digitalisierung des deutschen Gesundheitswesens eigentlich nur Unternehmen gewesen – auch dank dem in der Telematikinfrastruktur zelebrierten Marktmodell. Manche Firmen wie CGM verdienten besonders gut und deren Gründer finanziert jetzt mit dem vielen Geld rechte Newsportale.
Klar, es wäre auch anders gegangen in den 2000er-Jahren. Als nutzenfokussierte Abkürzung: mit eher kartenbasierten, offlinefähigen Anwendungen wie einer gut gemachten Medikationsliste zu starten. Aber der Drang noch mehr Daten, Daten, Daten und Überwachung war schon damals stärker.
Der zweifelhafte „Erfolg“ der Telematikinfrastruktur sollte bei allen digitalpolitischen Vorhaben eine Warnung sein. Eine Warnung, was passiert, wenn ursprüngliche, oft löbliche Ziele immer mehr aufgeblasen werden. Eine Warnung, was passiert, wenn trotz von vielen Seiten vorgebrachter, greifbarer Probleme immer wieder wild drauf los digitalisiert wird.
Gerade der aktuell sehr kritisch angegangene, nervige Datenschutz bietet Handlungsleitlinien wie Datensparsamkeit, Security by Design und Privacy by Design, um immer wieder über eine Abkürzung zum eigentlichen Zweck und Ziel von Digitalisierungsvorhaben zu kommen. Am Ende bleibt immer wieder die eine Frage zentral: Was macht das mit den Menschen?
Typo: Cholisterin -> Cholesterin
Es ist mir noch nicht klar, ob eine technische Argumentation und das Scheitern von Projekten die Frage nach der Auswirkung auf den Menschen beantworten kann.
Die technische Sicht ist, dass etwa Google weiß, wann du schwanger bist. Du bekommst die passende Werbung. Doch ob du dein Kind menschenwürdig groß ziehen kannst, das interessiert sie nicht. Schließlich profitierst du doch von dem „kostenlosem“ Service und den tollen Produkten und dem Wissen der Welt. Hauptsache, du legst dein Smartphone nicht mehr aus der Hand.
Menschen reagieren auf ihre Umwelt und passen sich an. Genau darauf setzt die Industrie und nutzt das aus. Wie Lesch sagen würde, ist die Google Maschine sicher kompliziert. Doch wirklich Komplex wird es durch die unvorhersagbaren Effekte: Mensch nutzt Digital und diese Nutzung verändert uns und damit auch unsere Nutzung von Digital. Digital nutzt das aus, etwa in der Werbung oder in der politischen Einflussnahme und Lobbyismus.
Es ist ein rückgekoppeltes System. Von diesen weiss man, dass es kritische Zustände, Seltsame Attraktoren (heißt wirklich so) und Resonanzkatastrophen geben kann.
Praktisch heißt das heute (bisher nur und exemplarisch): Roboter pflegen deine Eltern. Kameras überall und niemand hilft. Verhaftung am Flughafen, weil die KI biometrische Daten fehlinterpretiert und Bewegungsprofile sowieso. Elektronische Patientenakte, und dann kannst aus welchen Gründen auch immer deine Krankenkasse nicht bezahlen, hast aber Rheuma mit dem Effekt nach zwei Jahren im Rollstuhl zu sitzen. Schüler-ID und Laptop statt Bildung und nicht wissen was man mit der Steuer-ID so alles tun könnte, wenn man private Daten nach eigenen (Industrie- und Macht-) Vorstellungen verknüpft. (…)
Das alles ist kein Zufall und kein gescheitertes Projekt. Das ist nur iterativ. Das ist so gewollt. Geld, Geld, Geld und Macht, Macht, Macht und mangelhaftes Verständnis von Komplexität…
Eine wichtige Frage, und ein interessantes Stück Technikgeschichte, das mir vorher auch noch nicht so bewusst war!
In der Schule kennt man die „Digitalisierung um ihrer selbst willen“ schon gut: Klassensatz iPads hin oder her, einen viel größeren Alltags-Nutzen bietet beispielsweise die Ablöse des Folien-Projektors durch die Dokumentenkamera. Ein digitaler Baustein, der genau eine Sache tut und diese gut – ohne Cloud und KI.
Allerdings sind genau diese Dinger auch häufiger kaputt, und dann dauert es wieder Tage bis Wochen, bis sich wer findet, die es reparieren kann…
Ich kann mich noch erinnern als die Elektronische Versichertenkarte eingeführt werden sollte haben mehrere Experten gemeint das mit einem nur wenige Cent teureren Chip die Karte viel nützlicher sein könnte. Z.b. durch eine Medikationsliste die drauf gespeichert werden könnte. Aber das wäre dann Offline möglich gewesen, der Patient hätte die Karte evtl. nicht dabei gehabt u.s.w. Ausreden-Abreißkalender 1 bis X blablabla. Also mußte eine Online-Lösung her bei der die Karte nur als Türöffner dient. DABEI haben muß man sie dann aber auch! So wird aus dem Argument Gegen X ein Argument für Y und keinen Kümmert es mehr das dies die versuchte Quadratur des Kreises ist. Eine M*A*S*H Episode (22) Titelte mit „Gier, Angst und noch mal Gier“… PASST! :-/
Kennen wir das nicht zur Genüge aus der IT? Ist das nicht die Standard-Vorgehensweise, um ein Projekt in den Sand zu setzen?
Die Gesundheitskarte hat als Medikationsliste angefangen. Das Projekt war am Anfang nur eine „kleine“ Applikation, die wahrscheinlich mehr schlecht als recht ein paar interessante Informationen ausgespuckt hätte. Bevor das überhaupt annähernd richtig läuft, bevor auch nur ein Versuch unternommen wird zu überprüfen, ob das angenommen wird, ob das überhaupt genutzt wird, ob es überhaupt nutzbar ist, wird schon umgeplant, erweitert, „verbessert“. In (je)der Hierarchie gibt es eine Person, die zwar keine Ahnung hat wie das Projekt funktioniert, ja nicht mal, was denn überhaupt läuft, wo es Probleme gibt… aber diese Person will einfach „mehr“ haben. Dann beginnt der feature creep, bevor irgendetwas auch nur annähernd befriedigend läuft, kommt schon die nächste Anforderung… Ich warte schon auf die Forderung z.B. von der Polizei, dass die mittels Schnittstelle abfragen kann, ob eine potentiell psychisch auffällige Person brav die Medikation schluckt…
Resultat: Jetzt steckt das Projekt so im Dreck, dass ein „vernünftiger“ Projektleiter hergehen müsste und sagen, dass das so nichts mehr wird. Wir lernen also wieder einmal, dass wir nichts lernen.
> Wir lernen also wieder einmal, dass wir nichts lernen.
Ach, wer ist denn „wir“?
In Bayern sollte schon vor fast 20 Jahren eine Schüler-ID eingeführt werden. Der Bayerische Elternverband hat sicvh derart massiv dagegen gewehrt, dass die Staatsregierung Abstand nahm von der Idee. Damals stellte die Uni Bamberg uns Elternvertreter*innen ein neues Projekt vor: das NEPS (nationales Bildungspanel). Das funktioniert(e) ganz ohne Schüler-ID. Von der Sinnhaftigkeit, Bildungsverläufe über Jahrzehnte zu verfolgen, ließen wir uns überzeugen.