Warum arbeitet die KI-Forscherin Timnit Gebru nicht mehr bei Google? Diese Frage beschäftigt seit vergangener Woche viele Google-Angestellte, aber auch Gebrus Forschungsgemeinschaft im Bereich der KI-Ethik. Gebru war auf diesem Feld ein Star, bekannt als Co-Autorin einer Studie, die nachwies, dass kommerzielle Gesichtserkennungssysteme Schwarze Frauen schlechter erkennen. Damals arbeitete sie noch bei Microsoft. Später wurde sie ein Aushängeschild für Google, sprach weltweit auf Konferenzen.
Gebru beschäftigt sich nicht nur fachlich mit den rassistischen und sexistischen Verzerrungen von Algorithmen. Sie kämpfte auch als Aktivistin gegen das Ungleichgewicht in ihrer Branche. Sie ist eine der Gründerinnen der Organisation „Black in AI“, die sich für die Repräsentation Schwarzer Menschen in ihrem Feld einsetzte.
Gebru klagt über Forschungs-Zensur
Seit einer Woche befindet sich Gebru nun in einem öffentlichen Streit mit Google. Die Details der Eskalation lassen sich schwer nachvollziehen, weder Gebru noch Google wollen den Fall weiter kommentieren. Bekannt ist: Am Mittwoch schrieb Gebru auf Twitter, sie sei von Jeff Dean, Leiter der Forschungsabteilung entlassen worden. Dies sei mit Verweis auf eine E‑Mail passiert, die sie zuvor an eine interne Mailingsliste von Google geschrieben hatte und in der sie Google vorwirft, „marginalisierte Stimmen“ zu unterdrücken.
Inzwischen ist diese Mail öffentlich geworden. Gebru beschreibt darin, wie sie ein Forschungspapier zurückziehen sollte, das sie gemeinsam mit weiteren Autorinnen bei einer Konferenz eingereicht hatte. Die Gründe dafür seien unklar gewesen. Sie spricht von ihrer eigenen „Entmenschlichung“ im Unternehmen und legt nahe, dass sie von ihren Vorgesetzten absichtlich an der Veröffentlichung ihrer Forschung gehindert wurde.
Die Studie, die Gebru gemeinsam mit Wissenschaftlerinnen von Google und außerhalb verfasst hatte, drehte sich um rassistische und anderen historische Verzerrungen in Modellen, die menschliche Sprache imitieren. Es legte nahe, dass Konzerne wie Google mehr tun könnten, um das zu verhindern. MIT Technology Review hat die Inhalte des Entwurfs hier zusammengefasst. „Ich hatte den Eindurck, wir werden zensiert und dachte, dass das Implikationen für ethische KI-Forschung als Ganzes hat“, sagte Gebru gegenüber Wired. „Du wirst nicht immer Studien haben, die die Firmen glücklich machen und nicht auf Probleme hinweisen.“
Offener Protest der Belegschaft
Der Fall zieht Kreise. Inzwischen haben Tausende Google-Angestellte einen offenen Brief unterzeichnet, in dem sie unter dem Schlagwort #believeblackwomen die Aufklärung der Vorgänge fordern. Sie werfen Google vor, Gebru rassistisch diskriminiert, ihre Forschung zensiert und sie dann gefeuert zu haben, nachdem sie diese Behandlung öffentlich machte.
Auch Gebrus unmittelbare Kolleg:innen aus dem Ethical Artificial Intelligence Team haben sich in einem Post auf dem Google-Walkout-Blog zu Wort gemeldet. Sie widersprechen darin der Darstellung von Jeff Dean, Gebru habe selbst gekündigt. Sie beschreiben auch, wie der interne Überprüfungsprozess für Forschungsstudien bei Google normalerweise abläuft und dass der Umgang mit Gebrus Studie nicht der Norm entspreche, sondern „diskriminierend und ungleich“ gewesen sei. Die Darstellung Jeff Deans, dass Gebru mit der Einreichung ihrer Studie vor einer Bewilligung durch Google gegen die Regeln verstoßen habe, sei falsch. Die Studie sei zunächst intern bewilligt worden. Erst später sei Gebru aufgefordert worden, ihren Namen vom Papier zu entfernen.
Keine Kündigung, sondern Forderungen
Auch Gebru schreibt auf Twitter, sie habe nicht gekündigt. Sie habe lediglich Forderungen gestellt, als Voraussetzung dafür, um bei Google zu bleiben. Unter anderem ging es um Transparenz über die Entscheidungskriterien und die in die Entscheidung involvierten Personen. Sie bat darum, nach ihrem anstehenden Urlaub das Gespräch fortzuführen.
Kurz darauf schrieb ihr eine Vorgesetzte, ihre Kündigung werde angenommen, berichtet Gebru. Mit Verweis auf ihre E‑Mail an die interne Liste solle sie sofort aus dem Unternehmen ausscheiden. Das darin gezeigte Verhalten sei „inkonsistent mit den Erwartungen an eine Google-Managerin“. „Es scheint, als hätten sie (Management) für mich entschieden“, schrieb sie auf Twitter.
Gebru ist nicht die erste prominente Frau aus dem Gebiet der KI-Ethik, die Google im Streit verlässt. 2019 hatte bereits Meredith Whittaker gekündigt. Sie war eine der Hauptorganisatorinnen der internen Mitarbeiterproteste gegen die Verträge mit dem US-Militär und kritisierte öffentlich, dass Google durch die Entwicklung von KI-Systemen zu viel Macht erlange. Nach ihrer Kündigung schrieb sie, sie und weitere Kolleginnen seien für ihren Aktivismus abgestraft worden und Vorgesetzte hätten sie aufgefordert, ihre Arbeit zu KI-Ethik einzustellen. Google bestritt diese Anschuldigungen.
