Cui bono, wenn öffentliche Inhalte in Millisekunden verschwinden, private Kommunikation aber angeblich nur durch das Aufbrechen von Verschlüsselung sicherer wird
TikTok gilt vielen Nutzern als die Plattform mit der schärfsten, unberechenbarsten Löschpraxis überhaupt. Gleichzeitig steht das Unternehmen in Brüssel und Washington gleichzeitig unter Dauerbeschuss – wegen genau der Fragen, die die eigene Löschpraxis eigentlich beantworten soll: Wie viel wird eigentlich wirklich automatisiert entschieden, wie treffsicher ist das, und warum reicht genau dieses Modell der EU nicht, wenn es um private Nachrichten statt öffentliche Videos geht?
Laut TikToks sechstem DSA-Transparenzbericht (zweites Halbjahr 2025) wurden rund 112 Millionen Inhalte entfernt – Videos, Livestreams, Werbeanzeigen, Produktlistings, erstmals auch Kommentare. 93,8 Prozent davon liefen vollautomatisiert, ganz ohne menschliche Prüfung. Nur 6,2 Prozent gingen an menschliche Moderatoren – meist Grenzfälle oder gemeldete Inhalte, bei denen die KI sich nicht sicher genug war. Die automatisierten Entscheidungen selbst waren zu 97,6 Prozent korrekt, was im Umkehrschluss eine Fehlerquote von 2,4 Prozent bedeutet – hochgerechnet auf die automatisierte Menge mehrere Millionen potenziell falsch entfernter Inhalte, allein in einem halben Jahr, allein in der EU.
Sowohl TikTok als auch YouTube bestätigen offiziell: Jedes hochgeladene Video wird beim Upload automatisiert geprüft. Bei hoher Verstoßwahrscheinlichkeit erfolgt die Entfernung sofort, oft bevor ein einziger Nutzer das Video zu Gesicht bekommt. 2024 betraf das laut TikTok 96 Prozent der automatisiert entfernten Inhalte. Menschliche Prüfer sehen in diesem Modell nur, was übrig bleibt – die Grauzonen.
Wer gegen eine Löschentscheidung vorgehen will, landet bei Instanzen wie dem europäischen Appeals Centre. Dessen Bilanz für den Berichtszeitraum April 2025 bis März 2026: gut 24.000 bearbeitete Streitfälle – bei täglich Millionen von Moderationsentscheidungen allein auf einer einzigen Plattform. Kommentatoren wie tkp.at ziehen daraus einen scharfen, aber nachvollziehbaren Schluss: Ein Beschwerdesystem, das einen derart winzigen Bruchteil der eigentlichen Entscheidungen überhaupt prüfen kann, taugt kaum als wirksame Kontrollinstanz für ein Volumen an Sprache, das in dieser Größenordnung anfällt.
Plattformbetreiber verweisen zu Recht darauf, dass bei Milliarden täglicher Uploads eine vollständige menschliche Prüfung schlicht unmöglich ist – die Alternative zur Automatisierung wäre nicht mehr Sorgfalt, sondern überhaupt keine Kontrolle mehr. Auch die hohe angegebene Präzisionsrate von 97,6 Prozent ist im Branchenvergleich kein schlechter Wert. Zudem betrifft ein Teil der EU-Verfahren gegen TikTok nicht die Löschpraxis selbst, sondern das App-Design (endloses Scrollen, Autoplay) sowie Sichtbarkeitseinstellungen bei minderjährigen Nutzern – Themen, die mit der eigentlichen Inhaltsmoderation nur locker zusammenhängen.
Die 93,8 Prozent beziehen sich ausschließlich auf öffentliche, unverschlüsselte Inhalte – Videos und Posts, die ohnehin für jeden einsehbar sind. Genau hier liegt der Punkt, an dem die Debatte um die EU-"Chatkontrolle" ansetzt, und genau hier muss man sauber unterscheiden, um nicht in eine falsche Gleichsetzung zu rutschen: Die geplante CSA-Verordnung zielt nicht auf öffentliche Plattform-Inhalte, sondern auf private, teils Ende-zu-Ende-verschlüsselte Kommunikation in Diensten wie WhatsApp, Signal oder Threema.
Diese Unterscheidung ist technisch fundamental. Öffentliche Inhalte liegen den Plattformen ohnehin unverschlüsselt vor – ein Hash-Abgleich oder eine KI-Prüfung ist trivial. Bei Ende-zu-Ende-verschlüsselten Chats dagegen müsste die Prüfung direkt auf dem Endgerät stattfinden, bevor die Verschlüsselung überhaupt greift – das sogenannte Client-Side-Scanning. Kritiker wie der ehemalige EU-Abgeordnete Patrick Breyer argumentieren seit Jahren, dass genau diese Methode die Verschlüsselung selbst aushebelt, unabhängig davon, wie gut gemeint der Zweck ist.
Kritiker der Digitalen Gesellschaft sprachen nach der Abstimmung am 9. Juli von einem "Verfahrenstrick" und einem "schlechten Tag für die europäische Demokratie" – weil ein zuvor mehrheitlich abgelehnter Vorschlag über ein Eilverfahren erneut zur Abstimmung gebracht wurde. Das eigentliche Ziel, verpflichtendes Client-Side-Scanning, ist aktuell zwar aus dem Verhandlungstext gestrichen – aber ausdrücklich nicht vom Tisch, sondern weiterhin Verhandlungsgegenstand im laufenden Trilog.
Wer öffentliche und private Kommunikation sauber auseinanderhält, landet nicht bei einem billigen "die können doch alles löschen, warum nicht auch das" – sondern bei einer präziseren, schwerer zu entkräftenden Frage: Wenn automatisierte Erkennung bei öffentlichen Inhalten nachweislich in Sekundenbruchteilen und mit hoher Präzision funktioniert, warum wird ausgerechnet bei privater, verschlüsselter Kommunikation der invasivste denkbare Ansatz verfolgt – die Prüfung auf dem Gerät selbst, vor der Verschlüsselung – statt etwa der bereits seit 2021 laufenden freiwilligen Prüfung unverschlüsselter Kanäle konsequent auszubauen? Diese Frage lässt sich stellen, ohne Verschwörung zu unterstellen: Sie betrifft schlicht die Verhältnismäßigkeit zwischen Zweck und Mittel – ein Maßstab, den auch die eigene Löschstatistik der Plattformen indirekt mitliefert.
KI-Transparenzhinweis gemäß Art. 50 EU-KI-VO: Dieser Text wurde mit KI-gestützter Recherche- und Schreibunterstützung erstellt und redaktionell geprüft. Die Chatkontrolle-Verhandlungen sind zum Zeitpunkt der Veröffentlichung nicht final abgeschlossen; der Stand kann sich kurzfristig ändern.