Direkter Draht zum BKAMedienaufsicht baut Internet-Überwachung aus

Die deutsche Medienaufsicht erweitert ihr System zur Kontrolle von Online-Inhalten. Nach einer Probephase in Nordrhein-Westfalen soll die Aufsicht nun deutschlandweit verdächtige Inhalte direkt ans Bundeskriminalamt (BKA) melden.

Ein mit DALL-E-2 generiertes Gemälde zeigt eine futuristische Stadt mit vernetzten Kameras. Viele Leute sind auf einer Straße unterwegs.
Die Medienaufsicht als Hilfssheriff im Internet (Symbolbild) CC public domain DALL-E-2 („surveillance all around the futuristic city, cameras, eyes, streets, buildings, people, painting by dali“)

Die deutsche Medienaufsicht geht vermehrt im Internet auf Streife. Mithilfe einer Software durchforstet die Behörde Websites und soziale Medien auf der Suche nach Straftaten wie Volksverhetzung. Verdächtige Inhalte landen automatisch in einem Ticketsystem, Sichter*innen müssen sie dann überprüfen. Von dort können die Meldungen ans Bundeskriminalamt (BKA) gelangen.

Diesen direkten Draht zum BKA nutzte bislang nur die Medienaufsicht in Nordrhein-Westfalen (NRW). Jetzt wird die Zusammenarbeit auf ganz Deutschland ausgeweitet. Die Aufsicht verspricht sich davon ein „demokratischeres Netz“ und eine „effektive Strafverfolgung“, schreibt die Landesmedienanstalt NRW auf ihrer Website.

Seit mindestens zwei Jahren treibt die nordrhein-westfälische Behörde die deutschlandweite Überwachung von Online-Inhalten voran. Den Anfang machte 2021 die bereits erwähnte Software, die automatisch Online-Inhalte per Stichwortsuche und Bilderkennung durchforstet. Die Behörde spricht von „Künstlicher Intelligenz“ und nennt das Werkzeug KIVI. Das ist ein Kofferwort aus der Abkürzung KI und dem lateinischen Wort für „überwachen“ (vigilare). KIVI sucht nicht nur nach Volksverhetzung, sondern etwa auch nach Pornografie und Inhalten, die Drogen verherrlichen. Das interne Handbuch von KIVI haben wir hier veröffentlicht und analysiert; außerdem diskutieren wir hier die Risiken des Werkzeugs.

Im Frühjahr 2022 wurde der Einsatz von KIVI von NRW auf ganz Deutschland ausgeweitet. Die Medienaufsicht promotet die Software außerdem in anderen EU-Staaten. Im vergangenen Jahr sagte uns eine Person, die im Auftrag der Medienaufsicht strafbare Inhalte sucht, sie komme sich vor „wie ein Internet-Polizist“. Der Vergleich ist gar nicht so weit hergeholt, immerhin nennt das BKA die Medienaufsicht „Kooperationspartner“. Ein umgangssprachliches Wort dafür wäre wohl Hilfssheriff.

Die Medienaufsicht ist allerdings keine Polizei, sondern eine staatsferne Anstalt des öffentlichen Rechts. Zu ihren sonstigen Aufgaben gehört es zum Beispiel, Medienkompetenz zu fördern und Sendelizenzen zu vergeben.

Rund zwei Meldungen pro Tag

Seit Mai 2022 habe die Landesmedienanstalt NRW dem BKA knapp 700 Verdachtsmeldungen geschickt, schreibt sie in ihrer Pressemitteilung. Das entspricht etwa zwei Meldungen pro Tag. Mit Blick auf die im Sekundentakt veröffentlichte Menge von Hass und Hetze im Netz dürfte das allenfalls eine homöopathische Dosis sein. Ein Großteil der entdeckten Inhalte sei auf KIVI zurückzuführen, wie ein Sprecher erklärt. Betroffen waren demnach ausschließlich Gewaltdarstellungen, Volksverhetzung, Holocaustleugnung und Kennzeichen verfassungswidriger Organisationen; darunter fallen etwa Hakenkreuze.

Das BKA rechnet damit, dass sich die Anzahl solcher Meldungen durch die Zusammenarbeit mit der Medienaufsicht künftig „leicht“ erhöht. Die Polizei bearbeitet die Meldungen in der „Zentralen Meldestelle für strafbare Inhalte im Internet“ (kurz: ZMI BKA). Ein Großteil dieser Meldungen (93 Prozent) sei strafrechtlich relevant gewesen, schreibt eine Sprecherin.

Die Beamt*innen finden zunächst heraus, welche Behörde überhaupt zuständig ist. Lässt sich beispielsweise eine mutmaßliche Volksverhetzung einem Facebook-Nutzer aus dem Saarland zuordnen, dann wandert die Meldung an die dortige Staatsanwaltschaft. In rund zwei Dritteln der Fälle habe das BKA eine solche zuständige Behörde feststellen können, schreibt die Sprecherin.

Überwachung soll abschrecken

KIVI nimmt neben Websites auch YouTube, Twitter, TikTok und Telegram ins Visier. Viele solcher Online-Plattformen moderieren zwar auch selbst Inhalte, sie sind dazu aber nicht verpflichtet. Mit KIVI kommt nun eine neue systematische Überwachung von Online-Inhalten hinzu. Das legt den Grundstein für eine neuartige Infrastruktur von staatlicher Inhaltskontrolle im Netz.

Das zugrunde liegende Ziel ist Abschreckung, wie der Direktor der Landesmedienanstalt NRW, Tobias Schmid, in einem Interview erklärte. Täter*innen sollten demnach wissen, „dass sie erwischt werden können“. Eine breite Debatte über die Risiken einer solchen Kontrolle gibt es nicht. Im Februar wurden Details über ein zumindest technologisch ähnliches System aus Russland bekannt.

Offenlegung: netzpolitik.org-Gründer Markus Beckedahl ist seit 2010 Mitglied des Medienrats der Medienanstalt Berlin-Brandenburg (mabb).

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

15 Ergänzungen

  1. Streife fürs Internet, ist doch super.

    Früher war es der unkontrollierbare Stammtisch, das Gespräch auf dem Flur im Vereinsheim, oder eine Schmiererei am Ende in einer Sackgasse.

    Äh, …

    1. Oder um es anders zu sagen: Früher ist man meißtens zu spät gekommen. Heute kommt man gar nicht, dafür überallhin.

      Übrigens der Gedankengang der mir in all diesen Debatten fehlt: die amortisierte Verbrechen/Mensch Zahl. Kann die gleiche Zahl Menschen immer mehr Verbrechen durchführen, oder muss aus Erhaltungsgründen die sinkende Verbrechensrate aus der realen Welt in das Internet umziehen? Spass beiseite, wie schwerwiegend ist was, und wie viel Aufwand kann und will die Gesellschaft da in welcher Form draufwerfen? Ich glaube wenn man dem nachgeht, sieht man wie viel die „Social Media“ kaputtgemacht haben, bei allen tollen Vorteilen die sie irgendwem mal gebracht haben. Trotz der Großartigkeit, erfinden sich plötzlich alle neu, warum nur?

  2. Ist es richtig, dass „der Gebührenzahler“ aka. jeder Haushalt diese Überwachung über die Rundfunk-Gebühren bezahlt?

    1. Korrekt, mehr dazu findest du hier: https://netzpolitik.org/2022/interne-unterlagen-so-ueberwacht-die-medienaufsicht-das-netz/

      „die Finanzierung kommt von allen Menschen, die in Deutschland den Rundfunkbeitrag zahlen, denn die Landesmedienanstalten sind öffentlich-rechtlich. Das bedeutet, wir alle zahlen für die amtliche Inhaltskontrolle. Der Anteil, der vom monatlichen Rundfunkbeitrag an die Medienanstalten fließt, beträgt allerdings nur 35 Cent, und die Aufsicht hat auch zahlreiche andere Aufgaben.“

      https://www.rundfunkbeitrag.de/der_rundfunkbeitrag/solidarmodell/index_ger.html
      https://www.die-medienanstalten.de/ueber-uns

  3. Die Medienanstalten konzentrieren sich vermehrt eher um Überwachung als um ihren Bildungsauftrag.

    Da wird das BKA in einigen Bereichen jetzt gut viele Meldungen erhalten zu Inhalten die in anderen EU-Staaten kein Problem sind. Da frag ich mich ernsthaft, wie so die europäische Zukunft aussehen soll. Es braucht unbedingt einheitliche Regeln im Netz. Und Deutschland sollte hier mal etwas zurückschalten. Der Jugendschutz wurde nie wissenschaftlich ausgewertet sondern beruht auf uralten Thesen, so alt das die Anstalten immer wieder die gleichen Studien aus 1980 zitieren. Realsatire.

    1. „Die Medienanstalten konzentrieren sich vermehrt eher um Überwachung als um ihren Bildungsauftrag.“

      Haha, dabei gehört Aufklärung untrennbar zur Überwachung dazu, oder so: Aufklärung wieder vorbei? Wo landen wir damit denn… Rückwärtsrenaissance?

      Spass beiseite, „Klassischen Szenario“ wird „Aufklärung“ nach Überwachung mittels Repression betrieben, also wie…, wie…, wie war das noch, wo sind wir gerade hin unterwegs?

  4. Gibt es „Die deutsche Medienaufsicht“ als stehenden Begriff, der eine Institution beschreibt?
    Kann damit die Institution „die medienanstalten“ gemeint sein?

    1. im engeren sinne beschreibt medienaufsicht zunächst nur die staatliche aufgabe; die 14 föderalen landesmedienanstalten führen diese aufgabe aus; die arbeitsgemeinschaft der landesmedienanstalten heißt wiederum „die medienanstalten“. relevant für viele themen, über die wir berichten, ist auch noch die „kommission für jugendmedienschutz“ als gemeinsames organ der landesmedienanstalten. manche (unter anderem ich in meinen artikeln) verwenden zur vereinfachung das wort „medienaufsicht“ als pars pro toto.

  5. >>> KIVI nimmt neben Websites auch YouTube, Twitter, TikTok und Telegram ins Visier.

    Aufgrund welcher Rechtsvorschrift wird der deutsche Rundfunkgebührenzahler dazu herangezogen, die Überwachung von SocialMedia-Plattformen ausländischer Konzerne zu Finanzieren?

    Oder in einfacher Sprache formuliert: Was geht mich als ARD&ZDF-Gucker die Überwachung von Twitter oder Facebook an? Warum muss ich das bezahlen und nicht die Konzerne, die satte Profite einfahren?

  6. In der freien Wildbahn des Internets dürfte es Spuren von Webcrawlern der Landesmedienanstalt NRW geben, zu finden auf access logfiles von Webservern.

    Werden Suchmaschinen-Policies wie robots.txt von diesen Crawlern respektiert oder ignoriert?

  7. >> Das ist ein Kofferwort aus der Abkürzung KI und dem lateinischen Wort für „überwachen“ (vigilare).

    Kann es sein, dass netzpolitik.org den „Koffer“ nicht richtig gepackt hat?

    Die Rheinische Post schreibt am 07.04.2022: „Die KI-Lösung mit dem Namen „Kivi“ (aus KI und „Vigilante“) …“
    https://rp-online.de/nrw/panorama/landesmedienanstalt-nrw-entwickelt-ki-tool-zur-aufsicht-im-internet_aid-67879323

    Der mdr schreibt am Tag darauf:
    Den Namen ‚Kivi‘ (aus KI und ‚Vigilante‘) trägt. „Vigilante“ bedeutet „Selbstjustiz“ und „Bürgerwehr“ bzw. deren Mitglieder. Ob dieser Anglizismus eine sehr glückliche Idee war?
    https://www.mdr.de/altpapier/das-altpapier-2592.html#sprung4

    War es nicht BIM Faeser, deren Lieblingssatz dieser Tage lautet: Es darf keine Selbstjustiz geben?

    1. Examen latinum:

      …. eine bessere KI-Lösung mit dem Namen „Kivi“ (aus KI und „vigilia“) ….

      >> vigilia vigiliae : Wachen, Wache, Nachtwache, Posten, Wachposten
      vigiliam (vigilias) agere – bei Nacht Wache halten

  8. Ich distanziere mich von anlassloser staatlicher Inhaltskontrolle und bedauere aufrichtig, durch Steuern und Abgaben zu diesem System beizutragen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.