Um Geflüchtete von der Einreise an den EU-Außengrenzen abzuhalten, gibt die Europäische Union Millionen für modernste Überwachungstechnologien aus. Davon profitieren vor allem private Rüstungsunternehmen.
In den USA nutzen mittlerweile dutzende Gefängnisse Software, um Telefongespräche ihrer Insassen abzuhören und auszuwerten. Mit der Technologie wollen die Behörden eigentlich Bandenkriminalität und Gewaltverbrechen in Haftanstalten bekämpfen. Dabei blieb es aber nicht.
Europol soll selbst polizeiliche Fahndungen vornehmen und große Mengen an Daten von Firmen anfordern dürfen, dabei „künstliche Intelligenz“ einsetzen. Außerdem koordiniert die Polizeiagentur Spezialeinheiten und arbeitet mit ausländischen Geheimdiensten zusammen.
Im Podcast geht es diesmal um die Regulierung Künstlicher Intelligenz. Eine Resolution des Europaparlaments hat vor kurzen einen ersten wichtigen Vorstoß in diese Richtung gemacht. Mit dabei: Gesichtserkennung, Predictive Policing und intransparente Algorithmen.
Die Bewegung gegen automatisierte Gesichtserkennung und biometrische Überwachung bekommt Rückenwind aus dem Europaparlament. Die Abgeordneten votierten gegen die Position von EU-Kommission und Ratspräsidentschaft. Bürgerrechtsorganisationen wollen nach diesem Signal noch mehr Druck machen.
Auf Samos eröffnet ein neuer „Hotspot“ für Asylsuchende. Die Insassen bezeichnen ihn als „Guantanamo“, die EU-Kommission hält derartige Anlagen allerdings für würdevoll und finanziert sie deshalb komplett. Das Pilotprojekt wird mit Bewegungsmeldern, Verhaltenserkennung und Drohnen kameraüberwacht.
Technologien im Sinne der Menschen statt im Sinne des Überwachungskapitalismus erhofft sich Sarah Spiekermann durch einen neuen Standard des großen Ingenieursverbands IEEE. Seit dieser Woche ist der Standard gültig.
Nur Wochen vor einem neuen EU-Gesetzesvorschlag für Künstliche Intelligenz wurde Google in Brüssel vorstellig. Die neuen Regeln dürften die Innovation nicht behindern, argumentiert der Datenkonzern.
Schwarze US-Amerikaner:innen haben es bei der Haussuche ohnehin schwer. Eine umfangreiche Datenanalyse belegt nun, dass die Diskriminierung auf dem Immobilienmarkt auch automatisiert zuschlägt.
Ein Team von Forscher:innen äußert sich besorgt über die Vorherrschaft der großen Tech-Konzerne in der KI-Forschungslandschaft. Besonders deren Basismodelle hätten zu großen Einfluss auf eine Vielzahl von KI-Anwendungen. Sie befürchten ein Einfallstor für diskriminierende Sprache.
Algorithmen können Bildungssysteme revolutionieren, aber auch Menschen diskriminieren. Wie sich die Technik ethisch vertretbar einsetzen lässt, diskutieren Experten auf EU-Ebene. Die EU-Kommission stuft den Bereich als „hochriskant“ ein.
Der Innovation Hub des WDR hat in einem Zukunftsreport mögliche Szenarien vorgestellt, wie künstlich generierte Medieninhalte künftig den Journalismus prägen könnten. netzpolitik.org hat mit den beiden Innovationsmanager*innen Christina Schamp und Philipp Sevenich über Möglichkeiten und Herausforderungen gesprochen.
Forschende arbeiten an Technologien, die menschliche Emotionen erkennen sollen. Die Anwendungsgebiete reichen von Autismustherapie über Optimierung von Werbung bis hin zur Sicherheitspolitik. Dabei bewegt sich die Forschung auf umstrittenen Grundlagen und könnte gefährliche Folgen haben.
Der Ausbau automatisierter Überwachungssysteme geht dem Innenausschuss des EU-Parlamentes zu weit. Er will ein Moratorium für Gesichtserkennung im öffentlichen Raum – ein Komplettverbot der Überwachungstechnologie fordert er allerdings nicht.
Zahlreiche Firmen bieten Software an, die Beschäftigten am Arbeitsplatz automatisiert überwacht. Der Einsatz solcher Systeme ist nach Ansicht von Gewerkschaftsverbänden bereits rechtswidrig, es fehle aber an speziellen und strengen Regeln gegen den Missbrauch.
Automatisierte Entscheidungssysteme, die mit menschlichen Merkmalen arbeiten, können diskriminieren und Grundrechte einschränken. Deshalb fordern zwei EU-Datenschutzinstitutionen nun ein Verbot bestimmter Anwendungen. Die Pläne der EU-Kommission zur Regulierung von Künstlicher Intelligenz gehen ihnen nicht weit genug.
Während die EU-Kommission KI-Anwendungen für Polizei und Justiz regulieren will, spricht sich die amtierende Ratspräsidentschaft für möglichst wenig Einschränkungen aus. Die Verarbeitung von Gesichtsbildern aus dem öffentlichen Raum wird zum Zankapfel.
Die chinesische Region Xinjiang ist das Versuchsfeld für die extremsten Überwachungsmaßnahmen der Welt. Seit Jahren unterdrückt die Zentralregierung Chinas die muslimische Minderheit mit unterschiedlichsten Methoden. Nun testet sie dort eine moderne Variante des Lügendetektors.
Bei der re:publica sprach die Vizechefin der EU-Kommission, Margrethe Vestager, über ihre Pläne zur Regulierung von Künstlicher Intelligenz. Dabei verteidigte sie Ausnahmen, die es bei einem Verbot biometrischer Überwachung geben soll.
