laut Untersuchungen soll der Chatbot Grok etwa drei Millionen sexualisierte Deepfakes erstellt haben, darunter etwa 23.000 Bilder von Minderjährigen. Der Skandal um die Plattform X und Grok hat die EU-Kommission veranlasst, ein Verfahren einzuleiten.
Auf Grundlage des Digital Services Acts (DSA) prüft sie nun, welche rechtswidrigen Verstöße vorliegen. Sollte X nicht kooperieren, kann das zu Geldstrafen führen. Laura Jaruszewski berichtet über die neuesten Entwicklungen.
Herzliche Grüße
Markus Reuter
Wir sind communityfinanziert
Unterstütze auch Du unsere Arbeit mit einer Spende.
Nach einer Flut sexualisierter Grok-Deepfakes auf X prüft nun die EU-Kommission, ob Elon Musks Unternehmen gegen den Digital Services Act verstoßen haben. Erste Studien liefern derweil Details über das Ausmaß der produzierten sexualisierten Bilder.
Kinder und Jugendliche haben ein Recht auf Information und Teilhabe – auch auf sozialen Medien. Wenn Erwachsene sie per Social-Media-Verbot von solchen Orten der Meinungsbildung ausschließen, werden sie ihrer Verpflichtung nicht gerecht.
Die 4. Kalenderwoche geht zu Ende. Wir haben 10 neue Texte mit insgesamt 72.575 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.
Berichte über zahlreiche Fälle von Cybergrooming auf der Gaming-Plattform Roblox werfen Fragen über ihre Sicherheit auf. Ich erkunde Roblox, um mehr über die Probleme herauszufinden, und begegne sinnloser Gewalt und knappen Outfits für Fünfjährige.
Lesenswert, wichtig und spannend – hier fasst die Redaktion netzpolitische Meldungen von anderswo als Linktipps zusammen.
The Washington Post
Um unliebsame Berichterstattung zu unterdrücken, führt Donald Trump auch einen juristischen Krieg gegen Medien. Klagen sind unter anderem gegen die New York Times, BBC und das Pulitzer Prize Board anhängig.
Verbraucherzentrale Bundesverband
Ein Gericht hat TikTok verboten, personenbezogene Daten von Kindern unter 16 ohne Einwilligung der Eltern für personalisierte Werbung zu verwenden. Das Unternehmen habe es sich zu leicht damit gemacht, sich auf die Altersangabe von Nutzer:innen zu verlassen.
Bundesnetzagentur
Beschwerden über unerlaubte Telefonwerbung nehmen weiter zu. 2025 verzeichnete die Bundesnetzagentur fast 40.000 Eingaben, häufig ging es um Gewinnspiele oder Werbung für Strom- und Gaslieferverträge.
heise online
Der Deutsche Verkehrssicherheitsrat fordert eine umfassende Ausstattung des Straßenraums mit Kameras, die automatisch Menschen erkennen, die beim Autofahren telefonieren. In Rheinland-Pfalz sind die bereits im Regelbetrieb, in Sachsen geplant.
The Guardian
Amelia, ein KI-generiertes "Goth-Girl" mit lila Haaren, liebt England und hasst "Dritte-Welt-Migranten". Ihren Ursprung hat die rechtsradikale Meme-Figur in einem Spiel zur Bekämpfung von Extremismus, das die britische Regierung gefördert hat.
TechSpot
Tesla liefert Neuwagen künftig ohne Autopilot und Spurhalte-System aus. Wer dennoch will, dass das Auto beim Steuern hilft, kann den Service für 99 US-Dollar im Monat abonnieren.
BBC
Männliche Video-Influencer:innen baggern Frauen in der Öffentlichkeit an, filmen das heimlich mit "smarten" (Meta-) Brillen und generieren mit den Aufnahmen Millionen an Klicks. BBC hat mit Betroffenen gesprochen.
Verbraucherzentrale Niedersachsen
Verbraucherschützer:innen warnen vor Fake-Blumenshops im Internet und geben Betroffenen Tipps. Aktuell kopieren Kriminelle den Look eines bekannten Online-Blumenhändlers und versuchen so, Geld und Daten abzugreifen.
The Guardian
ChatGPT nutzt jetzt Grokipedia als Quelle. Letzteres ist eine Pseudo-Enzyklopädie, die von der KI Grok erstellt wurde. Chatbot schreibt von Chatbot ab.
heise online
Sogenannte Künstliche Intelligenz berge für die Buchbranche Chancen, etwa im Vertrieb oder im Marketing, so der neue Vorsteher des Börsenvereins des Deutschen Buchhandels, Sebastian Guggolz. Bei Urheberrecht und Übersetzungen sehe er indes "riesige Fragezeichen".
Time
Im Iran könnten allein am 8. und 9. Januar bis zu 30.000 Menschen getötet worden sein. Die Zahlen gehen auf Aussagen von zwei hochrangigen Beamten des iranischen Gesundheitsministeriums zurück.
The Guardian
Die KI-Zusammenfassungen, die neuerdings über Googles Suchergebnissen präsentiert werden, beziehen sich in Gesundheitsfragen oft auf YouTube-Videos. Diese sind die am häufigsten zitierte Quelle, so eine Studie.
NBC News
Laut einer unternehmensinternen Präsentation investiert Google gezielt an Schulen, um Kinder etwa über Chromebooks frühzeitig an sein "Ökosystem" zu binden. Die Dokumente sind Teil einer Klage mehrerer Schulbezirke, Familien und Staatsanwälte in den USA.
heise online
Die Karibik-Insel Anguilla hat bereits eine Million Domains mit der Endung .ai vergeben, jede Woche wächst die Zahl etwa um ein Prozent. Mit den Einnahmen werden unter anderem Straßennetz und Flughafen ausgebaut.
Yahoo
Während in Minnesota und anderen US-Bundesstaaten Menschenmassen gegen Trumps Geheimpolizei protestierten, machten es sich Tech-Bosse wie Apples Tim Cook heimelig im Weißen Haus. Dort wohnten sie der Vorstellung einer Dokumentation über Präsidentengattin Melania bei.
taz
Die Journalistin Laura Catoni analysiert in ihrem Text persönlich und mit Fachleuten, wie ständig verfügbares Standort-Tracking unser (Zusammen-)Leben verändert.
rbb24
"Shoah Stories" ist eine Bildungsplattform des Anne-Frank-Zentrums in Berlin, die Kurzvideos zum Holocaust von Gedenkstätten und Museen bündeln soll. Die Inhalte sollen sowohl für TikTok als auch den Schulunterricht geeignet sein.
Die Zeit
Schleswig-Holsteins Wirtschaftsminister Madsen kritisiert, dass bei der Bahnstrecken-Sanierung zwischen Hamburg und Berlin kein ETCS eingebaut wird. Das European Train Control System ist ein Sicherheitssystem, das europaweit genutzt werden sollte.
Euractiv
EU-Digitalkommissarin Virkkunen hat sich auf dem Weltwirtschaftsforum dafür ausgesprochen, EU-Digitalregulierung als Verordnungen statt als Richtlinien umzusetzen. Letztere müssen erst in nationales Recht umgesetzt werden, das führe zu uneinheitlicher Rechtslage.
Verfassungsblog
Schon die Erstellung sexueller Deepfakes sollte strafbar sein, argumentiert Juristin Theresia Crone. "In dem Moment, in dem ein täuschend echter Porno von mir erstellt wird, ist mein allgemeines Persönlichkeitsrecht in seinem würdehaltigen Kernbereich, der Intimsphäre, betroffen."
taz
Die russische Sabotage-, Angriffs- und Aufklärungsgruppe Russitsch führt den Krieg gegen die Ukraine auch online: mit Telegram-Kanälen, Hinrichtungsfotos und Belohnungen in Kryptowährungen.
Axios
Axios analysiert, wie Tech-Konzern-Repräsentanten in Reden beim Weltwirtschaftsforum in Davos das Problem einer wahrscheinlichen KI-Blase ansprechen. Dass deren Platzen sie selbst betreffen könnte, glauben sie offenbar nicht.
LTO
Der Bundesverfassungsschutz führte 2019 bei einem Asylsuchenden auf Malta eine sogenannte Sicherheitsbefragung durch. Daraufhin lehnte Deutschland es ab, sein Asylverfahren zu übernehmen. Das Verwaltungsgericht Köln hat die Befragung nun für rechtswidrig erklärt.
Forbes
Microsoft hat dem FBI – nach Anfrage von Ermittlungsbehörden aus Guam – Schlüssel ausgehändigt, um eine Bitlocker-Festplattenverschlüsselung zu umgehen, so ein Forbes-Bericht. Dem zufolge lagen die Recovery Keys in Microsofts Cloud.
Liebe Leser:innen, manchmal entstehen Recherchen zufällig und spontan. Am Wochenende bekamen gute Freunde von mir sonderbare Anfragen auf Signal – angeblich vom Support des Messengers. Schnell war klar, dass es hier um Phishing geht. Das ist eine Methode, bei der sich Angreifende als jemand ausgeben, der sie nicht sind. Sie wollen das Vertrauen der Attackierten […]
Liebe Leser*innen, in der Mythologie hat der Titan Atlas einen starken Rücken: Er trägt das Himmelsgewölbe. Anders ist das beim Datenatlas der Bundesdruckerei: Der hat sich nun das Genick gebrochen. Ursprünglich sollte das Metadatenportal Behörden und Ministerien dabei helfen, Daten der Verwaltung besser zu finden. Aber die Mängel waren offenbar zu gravierend, berichtet meine Kollegin […]
Liebe Leser*innen, Chris Köver und ich recherchieren jetzt schon eine ganze Weile zur Spionage-App mSpy. Was wir uns dabei die ganze Zeit gefragt haben: Warum geht eigentlich niemand juristisch gegen die Hersteller solcher Apps vor? Das nicht-einvernehmliche Ausspionieren von Erwachsenen ist schließlich illegal. MSpy legte in seiner Werbung in der Vergangenheit einen Einsatz bei mutmaßlicher […]
0 Ergänzungen