Ing. Pietro Maiorana
Komisja Europejska wstępnie ustaliła, że TikTok narusza Digital Services Act (DSA) poprzez feed «Dla ciebie». Problemem jest tzw. efekt «króliczej nory», czyli ciągły strumień spersonalizowanych filmów, który może wciągnąć użytkownika w treści związane ze smutkiem, izolacją lub wizerunkiem ciała. Według relacji to pierwszy raz, gdy Bruksela wskazuje algorytm rekomendacji jako powód naruszenia. Ma to znaczenie dla tych, którzy prowadzą platformy, i dla tych, którzy na mediach społecznościowych pracują.
Kilka pojęć, zanim przejdziemy do faktów. DSA to Digital Services Act, unijne rozporządzenie, które czyni platformy odpowiedzialnymi za wpływ na użytkowników. Recommender system to algorytm, który wybiera, jakie treści ci pokazać. Rabbit hole oznacza spiralę podobnych treści, z której trudno się wydostać. Wstępne ustalenie to wstępny zarzut, a nie ostateczna kara. Łagodzenie to środki, dzięki którym platforma ogranicza zidentyfikowane ryzyka.
Co Komisja zarzuca TikTokowi?
Według Komisji Europejskiej, feed «Dla ciebie» wyświetla ciągły strumień spersonalizowanych filmów, także wtedy, gdy dotyczą trudności ze zdrowiem psychicznym i wizerunkiem ciała. Im bardziej użytkownik wchodzi w interakcję z danym typem treści, tym więcej podobnych algorytm mu proponuje.
Zdaniem Komisji taki model może być szkodliwy, gdy ekspozycja jest nieskończona i powtarzalna. Skutki dla zdrowia psychicznego dotyczyłyby zwłaszcza wrażliwych dorosłych i małoletnich.
Na jakie obowiązki DSA skupia się ustalenie?
Wstępne wnioski dotyczą dwóch obszarów. Pierwszy to ocena ryzyka, czyli analiza szkód, jakie może wyrządzić usługa, a którą musi przeprowadzić platforma. Drugi to środki łagodzące, czyli działania podejmowane, by te szkody ograniczyć.
Oficjalny tekst nie wchodzi w szczegóły poszczególnych artykułów. Odsyła do pełnego komunikatu prasowego, który nie był wśród źródeł, do których mieliśmy dostęp.
Co powiedziała Henna Virkkunen?
Wiceprzewodnicząca wykonawcza Komisji ds. suwerenności technologicznej, bezpieczeństwa i demokracji skomentowała decyzję. Według The Verge, Henna Virkkunen twierdzi, że «za każdym razem, gdy użytkownik przewija film lub go polubi, algorytm proponuje kolejne podobne, wciągając użytkowników w nory, z których nie potrafią łatwo wyjść».
Dodaje, że wstępne wnioski po raz kolejny pokazują, iż TikTok musi bardziej się starać, by chronić dobrostan użytkowników, w tym małoletnich.
Czym grozi TikTokowi?
Według The Verge, TikTok wprowadził kontrole łagodzące ten efekt, ale Komisja uważa wstępnie, że nie są one skuteczne. Platforma będzie musiała zmienić projekt feedu, w przeciwnym razie grożą jej grzywny sięgające 6% globalnego rocznego obrotu.
Wiadomość pojawia się miesiące po innym zarzucie, w którym Komisja określiła projekt TikToka jako zbyt «addictive», czyli uzależniający. Tymczasem w Stanach Zjednoczonych firma mierzy się z naciskami i procesami dotyczącymi bezpieczeństwa małoletnich. Powiązany przypadek to Meta, Google i TikTok przeciwko Kalifornii.
Ograniczenia, o których warto wiedzieć
To wstępne ustalenie. Z dostępnych nam źródeł nie wynika, by TikTok w pełni skorzystał z prawa do odpowiedzi, i nie wiemy, jak zareaguje ani w jakim terminie. Nie znamy wysokości ewentualnej kary ani zmian w feedzie, których zażąda Bruksela. Pełny komunikat prasowy z detalami prawnymi nie znalazł się wśród konsultowanych źródeł. Również skuteczność kontroli wdrożonych przez TikTok to na razie ocena Komisji.
Co się zmienia dla osób pracujących w świecie cyfrowym
Jeśli pracujesz z mediami społecznościowymi, sygnał jest taki, że algorytmy rekomendacji wchodzą w zakres odpowiedzialności prawnej. Kto planuje kampanie lub treści na TikToku, powinien liczyć się z możliwymi zmianami w dystrybucji filmów. Kto tworzy aplikacje lub platformy z personalizowanymi feedami, dobrze zrobi, dokumentując, jak ocenia ryzyko dla wrażliwych użytkowników. Logika przypomina tę z EU AI Act, który wymaga analizy ryzyka. W przypadku działań obejmujących kilka kanałów, jak przy publikacji wielokanałowej, lepiej nie polegać na jednym kanale.
Nasza opinia
Zarzut ma swoją zaletę. Przenosi debatę z pojedynczych treści na sposób, w jaki są one dystrybuowane, a to obszar, nad którym platforma naprawdę ma kontrolę. Pozostaje kwestia praktyczna. Jak mierzyć «króliczą norę» i ile personalizacji to za dużo? Potrzebne są jasne kryteria, bo inaczej norma będzie stosowana przypadek po przypadku. Znaczenie ma też to, że działania już wprowadzone przez TikTok uznano za nieskuteczne bez publicznych danych. Tu potrzebna jest przejrzystość z obu stron.
Często zadawane pytania
Czy TikTok został już ukarany przez UE za feed Dla ciebie?
Nie, na razie istnieje tylko wstępne ustalenie. Komisja uważa, że feed narusza DSA, ale nie nałożyła jeszcze kary. Możliwe grzywny sięgają 6% globalnego rocznego obrotu.
Czym jest efekt króliczej nory?
To spirala, w której algorytm proponuje coraz więcej treści podobnych do tych, z którymi wchodzisz w interakcję. Według Komisji, jeśli tematy dotyczą smutku, izolacji lub wizerunku ciała, ciągła ekspozycja może szkodzić zdrowiu psychicznemu.
Czy to pierwszy raz, gdy UE kwestionuje algorytm rekomendacji?
Tak, zgodnie z informacjami Politico, za którymi podąża The Verge. To pierwszy raz, gdy Komisja wskazuje system rekomendacji jako powód naruszenia DSA. Wcześniej na celowniku znajdowały się już inne firmy, m.in. X, Meta, Temu i AliExpress.
Kto jest według Komisji najbardziej narażony?
Wrażliwi dorośli i małoletni. Komisja twierdzi, że powtarzające się treści o smutku, izolacji i ciele mogą mieć negatywny wpływ zwłaszcza na te osoby.
Czy TikTok musi zmienić feed?
Tak, jeśli zarzut zostanie potwierdzony. Według The Verge platforma musi zmienić projekt feedu Dla ciebie, w przeciwnym razie grożą jej kary. Terminy i zakres zmian nie są podane w źródłach.
Kolejne kroki TikToka i Brukseli w sprawie feedu
Teraz czas na odpowiedź TikToka i ostateczną decyzję Komisji. Temat nie dotyczy wyłącznie jednej platformy.
- Śledź, czy TikTok ogłosi konkretne zmiany w feedzie Dla ciebie i czy Komisja uzna je za wystarczające.
- Sprawdzaj, czy inne platformy otrzymują podobne zarzuty dotyczące systemów rekomendacji.
- Przejrzyj, jak Twoje produkty z personalizowanymi feedami traktują nieletnich użytkowników, także w świetle zasad OpenAI dotyczących młodzieży.
