Facebook und die TU München

Ein Geschenk auf Raten

Wie unabhängig sind Forscher:innen am Facebook-finanzierten Ethik-Institut der TU München? Das fragten sich viele, als Konzern und Universität Anfang des Jahres ihre Zusammenarbeit verkündeten. Wir veröffentlichen die geheime Vereinbarung, die der Darstellung der Universität in wesentlichen Punkten widerspricht.

Geschenk mit goldener Schleife
Das jährliche Forschungsgeschenk von Facebook an die TU München kommt ohne Verpackung, dafür mit einigen Auflagen. Gemeinfrei-ähnlich freigegeben durch unsplash.com Ekaterina Shevchenko

7,5 Millionen Dollar. Mit dieser stattlichen Summe fördert Facebook seit diesem Jahr ein neu geschaffenes Institut für Ethik in der Künstlichen Intelligenz an der Technischen Universität in München. Als Sheryl Sandberg diesen Coup Anfang des Jahres medienwirksam verkündete, häufte sich die Kritik. Wie sollten Wissenschaftler:innen ausgerechnet an einem von Facebook finanzierten Institut unabhängig die ethischen Folgen und Auswirkungen von algorithmischen Systemen erforschen?

Seitdem hieß es von Seiten der Verantwortlichen stets: Das Geld ist an keinerlei Auflagen oder Erwartungen gekoppelt. Ein Dokument, in dem Facebook die Bedingungen der Schenkung erläutert, widerspricht dieser Darstellung allerdings in wesentlichen Punkten.

Wir veröffentlichen das Papier, über das die Süddeutsche Zeitung zuerst berichtete, an dieser Stelle im Volltext. Unterschrieben haben es der damalige TU-Präsident Wolfgang Herrmann, der Institutsleiter Christoph Lütge und der bei Facebook für Künstliche Intelligenz zuständigen Vizepräsidenten Jerome Pesenti.

Das neue Institut soll laut Eigenbeschreibung „Leitlinien liefern für die Identifikation und Beantwortung ethischer Fragen der Künstlichen Intelligenz für Gesellschaft, Industrie und Gesetzgeber.“ Im Oktober hat es seine Arbeit aufgenommen. Mehrere Forscher:innen beschäftigen sich seither in ersten Projekten mit der Ethik des autonomen Fahrens, dem Einsatz von algorithmischen Prognosen in der Medizin oder der Frage, wie maschinelles Lernen reguliert werden sollte.

Abweichungen nur mit schriftlicher Genehmigung

Institutsleiter Christoph Lütge hat stets darauf verwiesen, die Forschung sei absolut unabhängig, Facebook knüpfe an das Geld keine Bedingungen. Aus der Vereinbarung mit Facebook geht jedoch eine ganz wesentliche Bedingung hervor: Die Schenkung ist personell an Lütge geknüpft.

Facebook äußert in der E-Mail die „Erwartung, dass die Universität die Schenkung dazu verwendet, Forschung und Lehre am Institut für Ethik in der KI durchzuführen – mit Prof. Dr. Christoph Lütge als Gründungsleiter“. Jede Abweichung von dieser Verwendung der Mittel erfordere die „vorherige schriftliche Genehmigung“ Facebooks. Sollte die TU München die Leitung des Institutes also mit einer anderen Person als Lütge besetzen wollen, bräuchte es dazu die Erlaubnis des Konzerns.

Lütge sieht das nicht als Problem. „Irgendjemand hat diese Drittmittel schließlich eingeworben“, sagt er auf Nachfrage. Es sei also verständlich, dass Facebook auf seiner Person beharre. Außerdem sei mit den Mitteln keine neue Stelle geschaffen worden, die man öffentlich hätte ausschrieben müssen, anders als bei Stiftungsprofessuren: Seinen Lehrstuhl an der TU München hatte Lütge schon vorher und behält ihn auch weiterhin. Das Geschenk von Facebook fließe lediglich in einen Topf, aus dem Stellen für Doktoranten und Postdoktoranden am neuen Institut bezahlt werden.

Über Zahlung entscheidet Facebook jedes Jahr neu

Wesentlich an der Vereinbarung ist auch, dass das Geld – anders als insinuiert – nicht bereits vollständig ausgezahlt wurde. Noch am vergangenen Freitag, so berichtete die Süddeutsche Zeitung, hatte ein Sprecher der TU auf Nachfrage behauptet, die gesamten 7,5 Millionen Dollar befänden sich bereits auf dem Konto der Universität. Unsere Nachfrage bei der Pressestelle, wie das passieren konnte, blieb unbeantwortet.

Denn in der Vereinbarung steht etwas anderes. Laut dem Dokument hat Facebook der TU zunächst nur 1,5 Millionen Dollar für das Jahr 2019 überwiesen. Über die Zahlung für die zukünftigen Jahre entscheidet Facebook von Jahr zu Jahr neu. Bis zum 30. November werde der Konzern demnach jeweils die Entscheidung über die Weiterfinanzierung im kommenden Jahr treffen und schriftlich bestätigen. Über einen „erwarteten Zeitraum“ von fünf Jahren „sollen“ auf diese Weise 7,5 Millionen Dollar zusammenkommen.

Das klingt anders als die Version, die TU München und Institutsleiter Lütge bisher kommunizierten. „Es gibt überhaupt keine Auflagen seitens Facebook, sondern wir bekommen dieses Geld um unabhängige Forschung zu finanzieren“, sagte Christoph Lütge etwa der Tagesschau. „Sonst würde ich es auch gar nicht machen.“

Wie unabhängig können Wissenschaftler:innen allerdings forschen, wenn sie von einer jährlichen Verlängerung der Mittel abhängig sind? Der Wirtschaftswissenschaftler Christian Kreiß, der sich mit dem Einfluss von Unternehmen auf die Forschung beschäftigt, kritisiert, diese Bedingungen seien eine klare Einflussnahme Facebooks auf die Freiheit der Forschung. „Wenn einmal Forschungsprojekte initiiert und auf den Weg gebracht, Personal rekrutiert und die in der Regel mehrjährige Forschung angelaufen ist, was passiert mit dem ganzen Projektaufbau, wenn plötzlich die Mittel ausbleiben?“ schreibt er in einem Statement. „Wie frei und unabhängig ist man eigentlich in den Forschungsfragen und -resultaten, wenn ständig das Damoklesschwert der Mittelbeendigung über den Forschern schwebt?“

Völlig frei, sagt Institutsleiter Lütge. Die Vereinbarung setze ihn überhaupt nicht unter Druck. Solche juristischen Vorbehalte in Vereinbarungen mit Firmen oder Einzelpersonen seien schließlich völlig normal und keine Besonderheit des Deals mit Facebook. Außerdem seien die Themen, die an seinem Institut erforscht werden, für Facebook überhaupt nicht relevant. „Ich habe da null Bedenken und sehr großes Vertrauen.“

Ethik statt Regulierung

Lütge verweist gegenüber netzpolitik.org auch auf die Struktur des Instituts. Anders als beim Berliner Humboldt-Institut (HIIG), wo Geldgeber Google über eine Stiftung auch mit in der Aufsicht sitzt, redet im Advisory Board seines Institutes kein Vertreter von Facebook mit, sagte Lütge Anfang des Jahres.

Das ist allerdings auch nicht notwendig. Denn Lütges Vorstellungen decken sich ohnehin weitgehend mit den strategischen Interessen des Konzerns. Sein Institut wolle „ethische Richtlinien“ entwickeln, sagte er netzpolitik.org nach der Bekanntgabe der Schenkung, diese eigneten sich besser als Gesetze, um den Befürchtungen der Bevölkerung rund um KI beizukommen. „Diese Befürchtungen muss man aufgreifen, und das kann Ethik besser leisten als juristische Regulierung.“

Das passt zu den Bemühungen Facebooks, eine Regulierung seiner Technologien zu verhindern, indem es die Debatte auf die Frage der Ethik lenkt. Kritiker:innen bezeichnen diese Praxis als „Ethik-Theater“. Es ist die Aufführung von moralischer Verantwortung vor öffentlichem Publikum, vergleichbar mit den Aufführungen von Sicherheit an Flughäfen.

Was dabei hinten runter fällt: Was Facebook tatsächlich tut. Ein ganzer Stab von Spitzenforscher:innen arbeitet in der KI-Abteilung daran, maschinelles Lernen weiter zu entwickeln. Die so trainierten Algorithmen setzt der Konzern zum Beispiel dazu ein, um das Verhalten seiner Nutzer*innen vorherzusagen und dies an Werbekunden zu verkaufen. Firmen können dann Werbung an Menschen ausspielen, die eine bestimmte Entscheidung noch nicht einmal getroffen haben. In Australien warben Facebook-Manager bei einer Großbank damit, sie könne mit dieser Technik „emotional verletzliche Teenager“ in ihren schwächsten Momenten erreichen. Und die Möglichkeit, bei Immobilienwerbung bestimmte Bevölkerungsgruppen auf Basis ihrer „ethnic affinities“ auszusortieren, schaffte Facebook erst ab, nachdem die Investigativ-Plattform Pro Publica darüber berichtet hatte.

Mit seinen Bemühungen um die Erforschung von „Ethik in der KI“ lenkt Facebook von diesen Praktiken ab. Die Technische Universität München muss sich nach den neuen Erkenntnissen erst Recht fragen lassen, ob sie sich dabei nicht zum Helfer machen lässt. Dass das Ethik-Institut unter den von Facebook diktierten Bedingungen Kritik an Facebook produziert, dürfte jedenfalls unwahrscheinlich sein.


DOKUMENT

FACEBOOK
VIA ELECTRONIC MAlL

President Prof. Dr. Dr. h. c. mult. Wolfgang A. Herrmann
Technical University of Munich
Areisstrasse 21
D-80333 Munich

Attn: Prof. Dr. Christoph Lütge
Peter Löscher Chair of Business Ethics
Munich Center for Technology in Society

Re: TUM Institute for Ethics in Artificial Intelligence.

Dear President,

From time to time, Facebook makes unrestricted research gifts to support organizations working in the area of Ethics of Artificial Intelligence Accordingly and starting from 15 February 2019, we are providing the Technical University of Munich (TUM) with an annual unrestricted research gift in the amount of $1.5M USD (the „Gift“, including 20% university overhead) which, over an expected 5-year duration, should total $7.5M. After the payment for 2019 Facebook holds discretion to continue or terminate with effect for the future and will reconfirm its commitment and financial support each year in writing on an annual basis before 30 November for the following year. Facebook will transfer the annual Gift to TUM in advance with funds arriving before 15 Feb each year.

It is our expectation that TUM will use the Gift (except TUM’s overheads) to create and conduct basic research and related teaching in the TUM Institute for Ethics in Artificial Intelligence with Prof. Dr. Christoph Lütge, Peter Löscher Chair of Business Ethics, TUM, becoming the founding director. Any variation from this use of the Gift requires advance written approval from Facebook. Facebook waives any repayment and/or reimbursement of the Gift by TUM.

Notwithstanding anything contrary contained in this letter, Facebook will not have any influence in the independent conduct of any studies or research, or in the dissemination of your findings.

TUM shall use this Gift in support of these efforts and in accordance with applicable laws. The Gift shall not be used in any way, directly or indirectly, to facilitate any act that would constitute bribery or an illegal kickback, an illegal campaign contribution, or otherwise violate any applicable anti- corruption or political activities law.

Acceptance of this Gift confirms that the Gift, TUM’s relationship with Facebook, and how TUM was selected for this Gift has been disclosed. You should not accept this Gift if it would interfere with your official duties and must not perform any services or official action to improperly benefit Facebook under this gift letter.

This Gift should only be accepted if it complies with applicable regulations, policies, and rules of TUM and applicable laws, regulations, rules, judgments, and orders of any court or governmental authority; and does not conflict with any other obligation you or TUM may have to any other par~y. Please promptly inform Facebook of any circumstances that would make acceptance, retention, or use of the Gift inappropriate.

While we hope TUM acknowledges Facebook’s Gift on relevant websites and publications, TUM may not use our logos or trademarks of Facebook without prior written approval and vice versa. Unavoidable tax obligations of TUM, if any, in connection with these acknowledgements are borne out of the Gift. All requests for use of the Facebook name or trademark must be submitted via the online form available at www.facebookbrand.com/ requests.

There is no obligation for TUM with regard to the gift to issue donation confirmations, donation receipts, confirmations on the use of the Gift or other confirmations.

Congratulations and thank you for your leadership.

Sincerely,

Jerome Pesenti VP of AI
Facebook, lnc.

Acknowledgement of gift by TUM:
Signature: Wolfgang A. Herrmann
Name: Prof. W. A. Herrmann
Title: President
Date: Jan. 25, 2019
Signature: Christoph Lütge
Name: Prof. Dr. Christoph Lütge
Title: Director and Professor

Date: Januar 28, 2019

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

 

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Dann unterstütze uns hier mit einer Spende.

2 Ergänzungen
  1. Was der damalige Präsident der TU, Wolfgang Herrmann, hätte tun sollen, steht im Kleingedruckten: „You should not accept this Gift if it would interfere with your official duties“ — wenn man das nicht als Legalese zur Absicherung von Facebook liest, sondern als die berechtigten Forderungen der Öffentlichkeit an die moralische Integrität eines Universitätspräsidenten, dessen Aufgabe es unter anderem ist, die Freiheit von Forschung und Lehre zu schützen.

    Wolfgang Herrmann wurde Präsident, weil die CSU es als ungünstig empfand, einen Steuerhinterzieher als Gesundheitsminister zu ernennen. Alte Vergehen sollte man ruhen lassen, wenn sich kein neuer Anlass ergibt. Der Handel mit Facebook zeigt jedoch, dass Wolfgang Herrmann in den letzten Jahren kein neues Rückgrat gewachsen ist, wo vorher keins war. Seine Steuerhinterziehung hatte keine disziplinarischen Folgen und wurde mit der Präsidentschaft belohnt, weil ihm durch die Staatsregierung eine „günstige Sozialprognose“ [1] ausgestellt wurde.

    Ein Eingreifen des Aufsichtsrats der TU war nicht zu erwarten. Mitglieder sind: Otmar Wiestler, Aufsichtsrat der Bayer AG; Ilse Aigner (CSU), Dinosaurier des Jahres 2012, ausgezeichnet für „rückwärtsgewandte Klientelpolitik“ [2]; Nicola Leibinger-Kammüller, Vorsitzende der Geschäftsführung des Maschinenbauers Trumpf und Aufsichtsrat der Siemens AG; Harald Krüger ehem. Vorsitzender des Vorstands der BMW AG; Martin Plendl, CEO Deloitte GmbH; Reinhard Ploss, Vorstandsvorsitzender Infineon Technologies AG; Hans Reitzle, Aufsichtsratsvorsitzender der Linde AG, Ulrich Wilhelm, ehem. Pressechef von Angela Merkel; sowie zwei wissenschaftliche Feigenblätter.

    [1] https://www.spiegel.de/lebenundlernen/uni/studiengebuehren-muenchner-sandkastenspiele-a-225887.html

    [2] https://www.nabu.de/news/2012/15410.html

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.