Facebook setzt seit einigen Wochen systematisch künstliche Intelligenz ein, um die mentale Stabilität seiner Nutzer zu kontrollieren. Der kalifornische Internetkonzern kündigte im November des Vorjahres an, die Technologie künftig überall auf der Welt zu verwenden, um damit Selbstmorde von Nutzern zu verhindern. Ausnahme ist bisher Europa, wo Facebook Datenschutzbedenken fürchtet.
Nach eigenen Angaben hat Facebook bereits im ersten Monat des Einsatzes der Technologie mehr als hundert Mal Rettungskräfte in möglichen Selbstmordfällen verständigt und den Helfern die Standortdaten der Nutzer bekanntgegeben. Ausgelöst wird das Warnsystem durch Nutzer-Posts, die bestimmte Schlüsselwörter wie „traurig“ enthalten. Ein neuronales Netzwerk analysiert den Wortkontext und die Reaktionen anderer Nutzer, etwa Fragen wie „Kann ich helfen“ oder „Geht es dir gut?“ und erstelle einen Gefahrenwert. In als dringlich eingestuften Fällen gibt das automatisierte System die Kommentare an menschliche Mitarbeiter des Community-Operations-Teams von Facebook weiter, die über die Kontaktaufnahme mit den Behörden entscheiden, wie das Unternehmen in einem Blogeintrag schildert. Handelt es sich nicht um einen Notfall, werden dem Nutzer Selbsthilfe-Materialien und Kontaktadressen angezeigt.
Aus dem Selbstmord-Frühwarnsystem ist kein Ausstieg möglich. Sogar im gewohnt technologiefreundlichen Silicon Valley sorgen die Möglichkeiten der eingesetzten Technologie für besorgte Töne. So schreibt etwa die Nachrichtenseite TechCrunch: „Die Vorstellung, dass Facebook proaktiv die Inhalte seiner Nutzer scannt, könnte dystopische Ängste über andere Einsatzmöglichkeiten der Technologie auslösen.“ Das Unternehmen selbst betont, der Nutzen der Technologie sei größer als die Gefahr. Gruselige und böswillige Einsatzmöglichkeiten von künstlicher Intelligenz seien ein Risiko, darum finde Facebook es wichtig, schon heute eine Abwägung über die Nützlichkeit automatisierter Systeme zu treffen, schrieb der Facebook-Sicherheitsbeauftrage Alex Stamos auf Twitter.
Wer hat Zugriff auf die Daten?
Bedenken gibt es nicht nur wegen dem Einsatz automatisierter Systeme, sondern auch wegen Facebooks wenig transparentem Zugang zu der durchaus komplexen Frage, wie psychische Gesundheit sich eigentlich messen lässt. Der Internetkonzern habe bisher keine Unterlagen zur Treffgenauigkeit und potentiellen Risiken des Systems veröffentlicht, die etwa die Möglichkeit behandeln, bei der Verhinderung von Suiziden unabsichtlich eine gegenteilige Wirkung auszulösen, heißt es in einem Bericht der New York Times.
Unklar sei auch, wer alles Zugang zu Informationen über den Gesundheitszustand der Nutzer habe und ob eine Zuschreibung als „suizidgefährdet“ für immer mit einem einzelnen Nutzer verknüpft bleibe, sagte der Rechtswissenschafter Frank Pasquale, der zu datengestützten Gesundheitssystemen forscht. Ein Unternehmenssprecher erwiderte, Facebook lösche die algorithmisch erstellten Einschätzungen nach 30 Tagen. Fälle, in denen die Behörden eingeschaltet wurden, seien in einem separaten System gespeichert und nicht mit den Nutzerdaten verknüpft.
Während das System in Europa nicht zum Einsatz kommt, steht Facebook auch hierzulande wegen eines tragischen Todesfalles in der Kritik. Nach dem Tod einer 15-Jährigen in einem Berliner U‑Bahnhof im Jahr 2012 klagten die Eltern den Internetkonzern auf die Herausgabe der Chatprotokolle des Mädchens. Sie wollten so herausfinden, was ihre Tochter zu einem möglichen Suizid bewogen haben könnte. Facebook verweigert aber bisher die Herausgabe der Daten, der Fall soll nun vor dem Bundesgerichtshof verhandelt werden.
Mit seinem Selbstmord-Frühwarnsystem schaltet sich Facebook direkt in die psyschische Gesundheit seiner Nutzer ein. Im Dezember hatte das Unternehmen unter Berufung auf eine Studie eingeräumt, dass viel passive Nutzung seines sozialen Netzwerkes das Wohlbefinden der Nutzer verschlechtere. Konzernchef Mark Zuckerberg kündigte wenig später an, den Facebook-Algorithmus anzupassen, um mehr „bedeutungsvollen sozialen Austausch“ zwischen Nutzern statt passiver Informationsaufnahme zu erzeugen.
Mit den Ankündigungen wehrt sich das Unternehmen gegen Kritik, es trage durch seine Plattform zur gesellschaftlichen Spaltung und sozialer Isolation bei. Allerdings eröffnet die angekündigte Neuausrichtung für Facebook auch Möglichkeiten: Denn die Haupteinnahmequelle des Internetkonzerns ist auf Nutzer zugeschnittene Werbung. Soziale Beziehungen und auch psychisches Befinden sind wohl äußerst hilfreich dabei, Werbebotschaften per Microtargeting auf eine Zielgruppe zuzuschneiden.
