Schlagwort: AlgorithmWatch

Frau mit roter Gesichtsbiometrie im Gesicht

Am Nikolaustag haben die Minister:innen der EU-Staaten ihre Position zum „AI Act“ vorgestellt, dem geplanten EU-Gesetz zur Regulierung Künstlicher Intelligenz. Die Vorschläge werden von vielen Seiten kritisiert. Im Fokus stehen dabei unzureichende Beschränkungen biometrischer Überwachung.

Der Ausschuss für Digitales vor Beginn der Anhörung

Die EU-Kommission möchte mit dem AI Act ein Regelwerk für künstliche Intelligenz schaffen. Diese Woche hat der Bundestag Sachverständige zu dem Entwurf befragt. Sie sind gespalten – vor allem bei der Grundsatzfrage, welche Technologien die Verordnung überhaupt regulieren soll.

Nicht alle Quellen bei Google News sind verlässlich

Google News liefert nicht, was es verspricht. „Vertrauenswürdig“ und „verlässlich“ soll die Nachrichten-Suche sein. Doch unsere Auswertung von Tausenden Suchergebnissen zeigt: Neben seriösen Angeboten präsentiert Google News auch chinesische Staatspropaganda und für Falschmeldungen bekannte rechte Blogs.

Die Zivilgesellschaft soll bei der Digitalisierung auch ein Wörtchen mitzureden haben, stellt die Bundesregierung in Aussicht. Wir haben uns bei zivilgesellschaftlichen Organisationen umgehört, wie sie die neue Digitalstrategie der Ampel einschätzen.

Individualisierte Preise im Onlinehandel oder Benachteiligung beim Abschließen einer Versicherung auf der Webseite: Die Fälle automatisierter Diskriminierung häufen sich, nicht immer sind sie leicht zu erkennen. Ein neuer Ratgeber soll Antidiskriminierungsstellen und Betroffenen helfen.

Die EU arbeitet an einem Regelwerk für den Einsatz von KI, Algorithmen und automatisierten Entscheidungen. Sie könnte damit global Standards setzen. Doch für die Bundesregierung hat der Vorschlag der EU-Kommission große Schwächen.

Kind gibt Roboter die Hand und schaut dabei in die Kamera

Automatisierte Entscheidungssysteme werden seit Jahren in sensiblen Bereichen wie Medizin und Bildung eingesetzt. Doch bisher gibt es keine Regelungen um Unternehmen zur Verantwortung zu ziehen. Das soll sich jetzt ändern. Sowohl die USA als auch Europa arbeiten an Gesetzesentwürfen zur Regulierung automatisierter Entscheidungen. Was steht drin?

Digitale und bürgerrechtliche Organisationen stellen der neuen Regierung nach den ersten 100 Tagen ein eher durchwachsenes Zeugnis aus. Hauptkritikpunkt ist, dass in den ersten drei Monaten noch nicht viel passiert sei und die Regierung teilweise in alte Muster der Vorgängerregierung zurückfalle.

Regelmäßig findet Facebook heraus, wie schädlich das eigene soziale Netzwerk ist. Doch genauso regelmäßig kehrt das Unternehmen die Erkenntnisse unter den Teppich. Eine politische Antwort auf dieses Problem ist längst überfällig. Ein Kommentar.

Kleine Schlösser hängen an einer Stange.

Facebook steht schon länger in der Kritik, Forschungsprojekte zu seinen Diensten zu verhindern. Nun drohte das Unternehmen der Nichtregierungsorganisation AlgorithmWatch mit einer Klage, weshalb diese eine umfassende Studie zum Instagram-Algorithmus einstellt.

Wissenschaftlerinnen und Datenjournalisten wollen herausfinden, wann YouTube welche Videos zur Bundestagswahl vorschlägt. Sie bitten die Öffentlichkeit um Mithilfe – per Datenspende.

Roboter vor einem Kasten mit Roboterteilen.

Dass automatisierte Entscheidungen zu Problemen führen, ist mittlerweile bekannt. Für die Betroffenen gibt es oft keine Möglichkeit, sich zu beschweren. Die Plattform Unding will jetzt dafür sorgen, dass Stimmen zu Negativbeispielen an den richtigen Stellen gehört werden.

Die EU-Kommission will die Macht der Online-Konzerne bändigen und nimmt dabei auch deren Empfehlungsalgorithmen in den Blick. Wer Facebook und Twitter nutzt, soll künftig besser steuern können, was im eigenen Feed erscheint. Auch die Forschung soll mehr Einblick bekommen.

Immer häufiger werden kritische Entscheidungen von Algorithmen getroffen. In Europa und Deutschland finden sich nach einem neuen Bericht immer mehr solcher Systeme, ohne dass ihre Einführung gesellschaftliche Unterstützung hätte.

Am Busbahnhof von Madrid werden seit Jahren weitgehend unbemerkt biometrische Daten der Fahrgäste gesammelt. Die Videoüberwachung mit Gesichtserkennung soll bei der Bekämpfung von Kriminalität helfen. Die Verantwortlichen sprechen von einem Erfolg, belegen dies aber nur unzureichend.

AlgorithmWatch hat zusammen mit Datenjournalisten herausgefunden, dass Bilder von Frauen in Bikinis oder Männern mit nacktem Oberkörper prominenter im Newsfeed auf Instagram gezeigt werden. Der Konzern wiegelt ab.

Frau sitzt hinter Laptop, der mit Stickern beklebt ist

Mark Zuckerberg will mit sogenannter Künstlicher Intelligenz Hass aus dem Netz filtern. Aktuelle Verfahren reproduzieren jedoch rassistische Muster. Es ist schwer, diese Fehler zu überwinden.

Eine Ethikkommission der Regierung sollte Antworten auf einige der kniffeligsten Fragen zum Umgang mit Daten und Algorithmen liefern. Trotz vieler Themen und kurzer Zeit fällt die Leistung der Kommission beachtlich aus. Ihr Bericht fordert neue Aufsichtsbehörden, eine Algorithmenverordnung auf EU-Ebene und eine „Pluralismuspflicht“ für Social-Media-Torwächter.

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Was die Träger bestimmter Nachnamen im Internet erwartet, zu welchen schmutzigen Tricks Facebook greift, wie ein Franzose billig an eine Playstation gelangt ist, wie NSA-Mitarbeiter und Emirati Menschenrechtsaktivisten überwachen, automatisierte Entscheidungen Menschen gängeln und der Föderalismus den Digitalpakt verhindert. Die interessantesten Reste des Tages.

AlgorithmWatch

AI Act der Europäischen Union: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz

Datenrecherche: Google News verkauft Staatspropaganda als „vertrauenswürdig“

Reaktionen: Das sagt die Zivilgesellschaft zur Digitalstrategie

Ratgeber von Algorithm Watch: Automatisierte Diskriminierung erkennen und benennen

Stellungnahme zum AI Act: Ampel will EU-weites Transparenzregister für Behörden

AI Act vs. Algorithmic Accountability Act: Wie die EU und die USA Algorithmen regulieren wollen

100 Tage neue Bundesregierung: Zivilgesellschaft beklagt Untätigkeit bei Digitalisierung

Vertuschte Skandale: Facebook ist einfach nicht zu trauen

Intransparente Algorithmen : Facebook blockiert unabhängige Analyse durch AlgorithmWatch

Datenspende: Forscher wollen YouTube-Algorithmus analysieren

AlgorithmWatch: Widerspruch mit ein paar Klicks

Digital Services Act: Neues Grundgesetz für Onlinedienste nimmt Algorithmen ins Visier

Automating Society Report 2020: Automatisierung schreitet auch in Deutschland voran

Gesichtserkennung in Madrid: Videokameras überwachen unbemerkt Millionen Fahrgäste

Studie zu Instagram-Algorithmen: Je mehr Haut du zeigst, desto sichtbarer wirst du

Hasskommentare und Künstliche Intelligenz: Warum automatisierte Filter rassistisch sind

Datenethikkommission: Regierungsberater*innen fordern strengere Regeln für Daten und Algorithmen

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

Was vom Tage übrig blieb: Arme Ficker, diskriminierende Automaten und eine Playstation auf der Gemüsewaage