Big Brother Schule

High Schools spionieren SchülerInnen mit Algorithmen hinterher

Die Firma Gaggle überwacht die Kommunikation von rund fünf Millionen amerikanischen Schülerinnen und Schülern im Auftrag ihrer Schulen. Eigentlich soll das System Kinder schützen. Der Effekt könnte aber nach hinten losgehen.

Kann nicht von Gaggle gescannt werden: ein physisches Notizheft. Gemeinfrei-ähnlich freigegeben durch unsplash.com Santí Vedrí

„Ein proaktiver Ansatz zur Selbstmordprävention.“ Mit diesem Slogan wirbt die Firma Gaggle für ihre Produkte zur Überwachung von SchülerInnen. Sie verspricht eine Echtzeitüberwachung rund um die Uhr, inklusive sofortiger Meldung an Schule oder Polizei, sollte das System Alarm schlagen.

Laut Gaggle konnten im vergangenen Schuljahr mehr als 700 SchülerInnen auf diese Weise von einem Suizid abgehalten werden, insgesamt 13.000 Fälle stufte das System als kritisch ein. Diese Zahlen lassen sich schwer überprüfen, denn es ist unklar, ob und in welchem Umfang die betroffenen Personen eventuell schon vorher in Behandlung waren.

Überwachung auch außerhalb der Schulzeit

Klar ist hingegen, wie umfangreich die Maßnahmen sind: Wenn SchülerInnen über ihre Schul-Accounts mit der G Suite von Google oder Office 365 von Microsoft arbeiten, wird alles, was sie dort schreiben, von Gaggles Algorithmen nach Schlagwörtern durchsucht. Benutzen sie die E-Mail-Adresse ihrer Schule, um sich bei sozialen Netzwerken anzumelden, werden auch die Postings dort gescannt. Der Verantwortliche eines Schulbezirks, der Gaggle nutzt, schwärmt: „Sogar nach der Schulzeit können die Schüler noch überwacht werden, während der Weihnachtsferien oder am Wochenende.“

Buzzfeed hat eine Liste der Begriffe veröffentlicht, bei denen die Algorithmen von Gaggle Alarm schlagen, darunter „Queer“, „Lesbian“ und „Damn“. Dies soll dabei helfen Mobbing vorzubeugen, geflaggt werden aber im ersten Schritt auch solche SchülerInnen, die sich nur über ihre Sexualität austauschen. Nachdem ein Inhalt als vermeintlich problematisch markiert wurde, durchläuft er verschiedene Phasen, an deren Ende SchülerInnen im schlimmsten Fall die Benutzung schulinterner Dienste, wie Laptop oder Email, verweigert werden kann.

Jugendliche können sich kaum entziehen

Kritisch an Gaggles Dienstleistungen ist, dass es für die betroffenen Schülerinnen und Schüler so gut wie unmöglich ist, sich der ständigen Überwachung zu entziehen. So können sie zwar erklären, dass sie nicht von Gaggle überwacht werden wollen. Daraus folgt aber, dass sie die von der Schule zur Verfügung gestellten Technologien wie Rechner und Software nicht nutzen können. Die Firma empfiehlt Schulen zwar, vorab die Erlaubnis der Eltern einzuholen. Wenn bei einer Weigerung aber die schuleigenen Geräte nicht mehr genutzt werden können, kann von Freiwilligkeit kaum die Rede sein.

So werden die SchülerInnen nicht nur rund um die Uhr überwacht. Es besteht auch die Gefahr, dass sie für zukünftige Eingriffe in ihre Privatsphäre abstumpfen. Wenn schon die eigene Schule verfolgt, was man schreibt und postet, warum sollten dies nicht auch andere tun? Eine Soziologin äußert außerdem die Befürchtung, dass das Wissen darum ständig kontrolliert zu werden bei den Jugendlichen auch den Effekt haben kann, dass sie sich gänzlich von Erwachsenen abkapseln.

Gaggle wirbt bei Schulen unter anderem damit, die SchülerInnen zu guten digitalen StaatsbürgerInnen zu erziehen. Das Recht auf informelle Selbstbestimmung bleibt dabei jedoch außen vor.

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.