In einem Artikel auf reuters.com werden die Sicherheitsmaßnahmen von Web2.0 Diensten vorgestellt, die kriminelle Handlungen, vor allem die (sexuelle) Belästigung von Minderjährigen, erkennen sollen. Von Facebook war bisher nur bekannt, dass sie „komplexe Systeme“ zur Erkennung von Regelverstößen gegen die Facebook-Hausordnung einsetzen.
Joe Sullivan, Chief Security Officer von Facebook, erklärt nun auf reuters.com, dass Facebook automatisiert private Kommunikation überwache und nach bestimmten Schlüsselbegriffen druchsuche. In Bezug auf sexuelle Übergriffe ziehe Facebook in der Analyse ein Archiv von Chatprotokollen zu rate, die sexuellen Übergriffen vorausgegangen seien. Ob Facebook in anderen Bereichen auf ähnlichem Wege vorgeht war dem Artikel nicht zu entnehmen.
In die Analyse fließen laut Facebook auch Daten zu den Personen (z.B. Alter) und deren Beziehung zueinander ein. Insbesondere wenn Facebook davon ausgeht, dass die Personen sich nicht real kennen, wird die Überwachung intensiviert. Ergibt die Auswertung der Daten, dass ein Verstoß gegen die Facebook Richtlinien vorliegt, wird ein Facebook Mitarbeiter benachrichtigt, der die Daten sichtet und entscheidet, wie weiter vorzugehen ist. Er leitet die Daten dann beispielweise an die Polizei weiter.
Ergänzt werden die Überwachungsmechanismen durch ein restriktives Kontaktmanagement: Minderjährige können durch die öffentliche Suche nicht gefunden werden und nur Freunde und Freunde von Freunden können ihnen Nachrichten schicken. Dieses ist aber leicht zu umgehen, da von den Nutzern problemlos ein fiktives Alter angegeben werden kann.
Facebook gibt selbst zu, dass die Erkennungsrate, trotz des „komplexen“ Überwachungssystems, sehr niedrig sei. Man versuche – aus datenschutzgründen – zu verhindern, dass zu viele irrtümlich verdächtigt werden, so Facebook. Das wird aber wahrscheinlich nur die halbe Wahrheit sein, bei 900 Millionen Nutzern dürften viele Irrtümer, die von Menschen gesichtet werden müssen, auch eine Menge Geld kosten und für negatives Feedback durch die Nutzer sorgen.
Laut der Süddeutschen Zeitung geht Facebook auch in Deutschland „proaktiv“ auf Ermittlungsbehörden zu, falls es zu einer vermeintlichen oder tatsächlichen Straftat kommt.