Autor:in

Laura Jaruszewski

Foto: generiert mit Dall-E

Laura Jaruszewski ist von Januar bis März 2026 Praktikantin bei Netzpolitik. Ansonsten studiert sie in Göttingen Sozialwissenschaften und interessiert sich für Überwachungstechnologien und antifeministische Bewegungen im Netz.

Kontakt: E-Mail (OpenPGP)

Alle Artikel von Laura Jaruszewski

Nach einer Flut sexualisierter Grok-Deepfakes auf X prüft nun die EU-Kommission, ob Elon Musks Unternehmen gegen den Digital Services Act verstoßen haben. Erste Studien liefern derweil Details über das Ausmaß der produzierten sexualisierten Bilder.

Das Bild zeigt die Website von Doctolib, die mit einer Lupe vergrößert wurde.

Suchen Nutzer*innen ausschließlich nach Terminen für Kassenpatienten, zeigt ihnen Doctolib auch kostenpflichtige Privatsprechstunden an. Damit führe die Buchungsplattform Versicherte in die Irre, rügt das Landgericht Berlin. Endgültig ist die Entscheidung nicht.

Frau im Bikini liegt am Strand. Bild ist verpixelt und sie nicht genau zu sehen

Die EU und verschiedene Länder prüfen, wie sie die Deepfake-Flut, die Grok ausspuckt, eindämmen können. Malaysia und Indonesien haben den Chatbot am Wochenende sperren lassen. In der EU könnte ein Eilverfahren dafür sorgen, dass Grok keine Deepfakes mehr produzieren darf.

Die 2. Kalenderwoche geht zu Ende. Wir haben 9 neue Texte mit insgesamt 72.901 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Smartphone, auf dessen BIldschirm character.ai steht.

Immer wieder wird Chatbot-Herstellern vorgeworfen, die Sicherheit von Kindern und Jugendlichen zu gefährden. In fünf Fällen wollen Character Industries und Alphabet die Klagen mit Geld aus der Welt schaffen. Damit sorgen die Unternehmen dafür, dass es weiterhin keinen Präzedenzfall gibt, nach dem Techunternehmen für ihre KI-Chatbots rechtliche Konsequenzen tragen müssen.

Ein Smartphone-Bildschirm mit den KI-Apps OpenAI, Grok, Meta AI und Gemini

Nachdem sein Chatbot Grok weiterhin sexualisierte Bilder von prominenten Frauen und Minderjährigen erstellt, sieht sich Elon Musk mit möglichen rechtlichen Konsequenzen konfrontiert. Den Trend zu KI-generierten sexuellen Inhalten und digitaler Gewalt gegen weibliche Personen wird das wohl nicht aufhalten.

Laura Jaruszewski

Alle Artikel von Laura Jaruszewski

Deepfake-Skandal: EU-Kommission leitet Untersuchung gegen Grok und X ein

Landgericht Berlin: Doctolib wegen Irreführung der Versicherten gerügt

Digitale Gewalt: Wie Regierungen gegen Grok und X vorgehen

Chatbot-inspirierte Gewalt: KI-Hersteller entschädigen Familien

Digitale Gewalt: Musks Chatbot Grok verbreitet weiter sexualisierte Deepfakes