Ing. Pietro Maiorana
Die EU-Kommission hat vorläufig festgestellt, dass TikTok mit dem Feed «For You» gegen den Digital Services Act (DSA) verstößt. Im Fokus steht der sogenannte «Kaninchenbau»-Effekt, also der ununterbrochene Strom personalisierter Videos, der dich in Inhalte rund um Traurigkeit, Isolation oder Körperbild ziehen kann. Berichten zufolge ist es das erste Mal, dass Brüssel einen Empfehlungsalgorithmus als Grund für einen Verstoß nennt. Das ist relevant für alle, die Plattformen betreiben oder auf Social Media arbeiten.
Ein paar Begriffe, bevor wir zu den Fakten kommen. DSA ist der Digital Services Act, die europäische Verordnung, die Plattformen für ihre Auswirkungen auf die Nutzer verantwortlich macht. Recommender System ist der Algorithmus, der dir auswählt, welche Inhalte du siehst. Rabbit Hole bezeichnet die Spirale ähnlicher Inhalte, aus der man schwer herausfindet. Vorläufige Feststellung ist eine erste Beanstandung, keine endgültige Strafe. Risikominderung sind die Maßnahmen, mit denen eine Plattform die von ihr erkannten Risiken reduziert.
Was wirft die Kommission TikTok vor?
Laut der Europäischen Kommission zeigt der Feed «For You» einen ununterbrochenen Strom personalisierter Videos, auch dann, wenn es um psychische Belastungen und das Körperbild geht. Je öfter du mit einer Art von Inhalt interagierst, desto mehr ähnliche schlägt der Algorithmus vor.
Für die Kommission kann dieses Design schädlich sein, wenn die Konfrontation endlos und wiederholt erfolgt. Die Auswirkungen auf die psychische Gesundheit beträfen insbesondere verletzliche Erwachsene und Minderjährige.
Auf welche DSA-Pflichten konzentriert sich die Feststellung?
Die vorläufigen Schlussfolgerungen betreffen zwei Bereiche. Der erste ist die Risikobewertung, also die Analyse, die eine Plattform zu den Schäden durchführen muss, die ihr Dienst verursachen kann. Der zweite sind die Risikominderungsmaßnahmen, also das, was getan wird, um diese Schäden zu verringern.
Der offizielle Text geht nicht auf einzelne Artikel ein. Für die Details verweist er auf die vollständige Pressemitteilung, die nicht zu den Quellen gehörte, die wir lesen konnten.
Was hat Henna Virkkunen erklärt?
Die Exekutiv-Vizepräsidentin der Kommission für technologische Souveränität, Sicherheit und Demokratie hat die Entscheidung kommentiert. Laut The Verge sagt Henna Virkkunen «Jedes Mal, wenn ein Nutzer ein Video wegwischt oder liked, schlägt der Algorithmus weitere ähnliche vor und führt die Nutzer in Kaninchenbaue, aus denen sie nicht leicht herausfinden.»
Sie fügt hinzu, dass die vorläufigen Schlussfolgerungen einmal mehr zeigen, dass TikTok sich stärker für das Wohlergehen der Nutzer einsetzen muss, auch der Minderjährigen.
Was riskiert TikTok?
Laut The Verge hat TikTok Kontrollen eingeführt, um den Effekt abzuschwächen, doch die Kommission hält sie vorläufig für unwirksam. Die Plattform muss das Design des Feeds ändern, sonst drohen Bußgelder von bis zu 6 % des weltweiten Jahresumsatzes.
Die Nachricht kommt Monate nach einer weiteren Beanstandung, in der die Kommission das Design von TikTok als zu «addictive», also suchtfördernd, bezeichnet hatte. In den Vereinigten Staaten sieht sich das Unternehmen derweil Druck und Klagen zum Schutz Minderjähriger ausgesetzt. Ein verwandter Fall ist Meta, Google und TikTok gegen Kalifornien.
Grenzen, die du kennen solltest
Es handelt sich um eine vorläufige Feststellung. Nach den Quellen, die wir haben, hat TikTok sein Recht auf Stellungnahme noch nicht vollständig genutzt, und wir wissen nicht, wie und wann die Plattform reagiert. Die Höhe einer möglichen Strafe ist nicht bekannt, ebenso wenig, welche Änderungen am Feed Brüssel verlangen wird. Die vollständige Pressemitteilung mit den rechtlichen Details gehörte nicht zu den ausgewerteten Quellen. Auch die Wirksamkeit der Kontrollen von TikTok ist vorerst nur eine Einschätzung der Kommission.
Was sich für alle ändert, die digital arbeiten
Wenn du mit Social Media arbeitest, ist das Signal klar – Empfehlungsalgorithmen fallen in den Bereich der rechtlichen Verantwortung. Wer Kampagnen oder Inhalte auf TikTok plant, sollte mögliche Änderungen bei der Verbreitung von Videos einkalkulieren. Wer Apps oder Plattformen mit personalisierten Feeds entwickelt, sollte dokumentieren, wie er Risiken für verletzliche Nutzer bewertet. Die Logik erinnert an den EU AI Act, der eine Risikoanalyse verlangt. Bei Abläufen, die mehrere Kanäle bespielen, wie beim Multi-Channel-Publishing, ist es ratsam, sich nicht auf einen einzigen Kanal zu verlassen.
Unsere Einschätzung
Die Beanstandung hat einen Vorzug. Sie verlagert die Debatte von einzelnen Inhalten auf die Art, wie sie verteilt werden, und genau dort hat die Plattform tatsächlich Kontrolle. Offen bleibt die praktische Frage. Wie misst man eine «Kaninchenbau», und wann ist Personalisierung zu viel? Es braucht klare Kriterien, sonst droht eine Regel, die von Fall zu Fall angewendet wird. Ins Gewicht fällt auch, dass die bereits eingeführten Kontrollen von TikTok ohne öffentliche Daten als unwirksam eingestuft werden. Hier ist Transparenz auf beiden Seiten gefragt.
Häufige Fragen
Wurde TikTok wegen des For-You-Feeds schon von der EU bestraft?
Nein, bisher gibt es nur eine vorläufige Feststellung. Die Kommission hält den Feed für einen Verstoß gegen den DSA, hat aber noch keine Strafe verhängt. Mögliche Bußgelder reichen bis zu 6 % des weltweiten Jahresumsatzes.
Was ist der Kaninchenbau-Effekt?
Es ist die Spirale, in der der Algorithmus dir immer mehr Inhalte vorschlägt, die denen ähneln, mit denen du interagierst. Laut Kommission kann eine dauerhafte Konfrontation mit Themen wie Traurigkeit, Isolation oder Körperbild der psychischen Gesundheit schaden.
Ist es das erste Mal, dass die EU einen Empfehlungsalgorithmus beanstandet?
Ja, laut Politico, aufgegriffen von The Verge. Es ist das erste Mal, dass die Kommission ein Empfehlungssystem als Grund für einen DSA-Verstoß nennt. Früher gerieten bereits andere Unternehmen ins Visier, darunter X, Meta, Temu und AliExpress.
Wer ist laut Kommission besonders gefährdet?
Verletzliche Erwachsene und Minderjährige. Die Kommission argumentiert, dass wiederholte Inhalte zu Traurigkeit, Isolation und Körper vor allem bei diesen Gruppen negative Auswirkungen haben können.
Muss TikTok den Feed ändern?
Ja, sofern die Beanstandung bestätigt wird. Laut The Verge muss die Plattform das Design des For-You-Feeds anpassen, sonst drohen Bußgelder. Zeitpunkt und Inhalt der Änderungen gehen aus den Quellen nicht hervor.
Die nächsten Schritte von TikTok und Brüssel beim Feed
Jetzt sind die Stellungnahme von TikTok und die endgültige Entscheidung der Kommission an der Reihe. Das Thema betrifft nicht nur eine Plattform.
- Verfolge, ob TikTok konkrete Änderungen am For-You-Feed ankündigt und ob die Kommission sie für ausreichend hält.
- Prüfe, ob andere Plattformen ähnliche Beanstandungen zu ihren Empfehlungssystemen erhalten.
- Überlege, wie deine Produkte mit personalisierten Feeds Minderjährige behandeln, auch im Lichte von Regeln wie denen von OpenAI für Minderjährige.
