Ing. Pietro Maiorana
De Europese Commissie heeft voorlopig vastgesteld dat TikTok de Digital Services Act (DSA) schendt met zijn For You-feed. In het vizier staat het zogenaamde «konijnenhol»-effect, de voortdurende stroom van gepersonaliseerde video's die je kan meeslepen naar content over verdriet, isolement of lichaamsbeeld. Volgens de berichtgeving is het de eerste keer dat Brussel een aanbevelingsalgoritme aanwijst als reden voor een overtreding. Dat telt voor wie platforms beheert en voor wie op sociale media werkt.
Enkele begrippen, voordat we de feiten behandelen. DSA is de Digital Services Act, de Europese verordening die platforms verantwoordelijk maakt voor hun impact op gebruikers. Recommender system is het algoritme dat bepaalt welke content je te zien krijgt. Rabbit hole verwijst naar de spiraal van vergelijkbare content waar het moeilijk is uit te komen. Voorlopige vaststelling is een eerste betwisting, geen definitieve sanctie. Mitigatie zijn de maatregelen waarmee een platform de risico's die het heeft vastgesteld, verkleint.
Wat verwijt de Commissie TikTok?
Volgens de Europese Commissie toont de For You-feed een voortdurende stroom van gepersonaliseerde video's, ook wanneer die gaan over mentale gezondheidsproblemen en lichaamsbeeld. Hoe vaker je met een bepaald soort content interageert, hoe meer vergelijkbare content het algoritme voorstelt.
Volgens de Commissie kan dit ontwerp schadelijk zijn wanneer de blootstelling eindeloos en herhaald is. De effecten op de geestelijke gezondheid zouden vooral kwetsbare volwassenen en minderjarigen treffen.
Op welke verplichtingen van de DSA richt de vaststelling zich?
De voorlopige conclusies betreffen twee aspecten. Het eerste is de risicobeoordeling, de analyse die het platform moet maken van de schade die de dienst kan veroorzaken. Het tweede zijn de mitigerende maatregelen, dat wil zeggen wat er wordt gedaan om die schade te beperken.
De officiële tekst gaat niet in op de afzonderlijke artikelen. Hij verwijst voor de details naar het volledige persbericht, dat niet tot de bronnen behoorde die we konden lezen.
Wat zei Henna Virkkunen?
De uitvoerend vicevoorzitter van de Commissie voor technologische soevereiniteit, veiligheid en democratie heeft op het besluit gereageerd. Volgens The Verge zegt Henna Virkkunen «elke keer dat een gebruiker een video doorscrolt of leuk vindt, stelt het algoritme er meer voor die erop lijken, waardoor gebruikers in holen terechtkomen waar ze niet gemakkelijk uit kunnen».
Ze voegt eraan toe dat de voorlopige conclusies nogmaals laten zien dat TikTok meer moet doen om het welzijn van gebruikers te beschermen, ook dat van minderjarigen.
Wat riskeert TikTok?
Volgens The Verge heeft TikTok controles ingevoerd om het effect te verzachten, maar vindt de Commissie voorlopig dat die niet effectief zijn. Het platform zal het ontwerp van de feed moeten veranderen, anders riskeert het boetes tot 6% van de wereldwijde jaaromzet.
Het nieuws komt enkele maanden na een eerdere betwisting, waarin de Commissie het ontwerp van TikTok als te «addictive», dat wil zeggen verslavend, omschreef. Intussen staat het bedrijf in de Verenigde Staten onder druk en voor rechtszaken over de veiligheid van minderjarigen. Een verwant geval is dat van Meta, Google en TikTok tegen Californië.
Beperkingen om te kennen
Het gaat om een voorlopige vaststelling. TikTok heeft in de bronnen die we hebben nog niet volledig gebruikgemaakt van zijn recht op reactie, en we weten niet hoe en wanneer het zal antwoorden. De omvang van een eventuele sanctie is onbekend, evenals welke wijzigingen aan de feed Brussel zal eisen. Het volledige persbericht met de juridische details was niet beschikbaar in de geraadpleegde bronnen. Ook de effectiviteit van de controles van TikTok is voorlopig slechts een beoordeling door de Commissie.
Wat verandert er voor wie met digitale media werkt
Als je met sociale media werkt, is het signaal dat aanbevelingsalgoritmen binnen het bereik van juridische verantwoordelijkheid vallen. Wie campagnes of content op TikTok plant, moet rekening houden met mogelijke veranderingen in de verspreiding van video's. Wie apps of platforms met gepersonaliseerde feeds ontwikkelt, doet er goed aan te documenteren hoe de risico's voor kwetsbare gebruikers worden beoordeeld. De logica doet denken aan de EU AI Act, die een risicoanalyse vraagt. Voor werkzaamheden die meerdere kanalen beheren, zoals bij publicatie over meerdere kanalen, is het verstandig niet van één kanaal afhankelijk te zijn.
Ons standpunt
De betwisting heeft een verdienste. Ze verschuift het debat van afzonderlijke content naar de manier waarop content wordt verspreid, en dat is waar het platform echt controle heeft. Het praktische knelpunt blijft. Hoe meet je een «hol» en wanneer is personalisatie te veel? Er zijn duidelijke criteria nodig, anders dreigt een regel die geval per geval wordt toegepast. Ook weegt mee dat de controles die TikTok al heeft ingevoerd, zonder openbare gegevens als ineffectief worden beoordeeld. Hier is transparantie van beide kanten nodig.
Veelgestelde vragen
Heeft de EU TikTok al beboet voor de For You-feed?
Nee, voorlopig is er alleen een voorlopige vaststelling. De Commissie vindt dat de feed de DSA schendt, maar heeft nog geen sanctie opgelegd. Mogelijke boetes kunnen oplopen tot 6% van de wereldwijde jaaromzet.
Wat is het konijnenhol-effect?
Het is de spiraal waarin het algoritme steeds meer content voorstelt die lijkt op wat je al bekijkt. Volgens de Commissie kan voortdurende blootstelling aan thema's als verdriet, isolement of lichaamsbeeld de geestelijke gezondheid schaden.
Is het de eerste keer dat de EU een aanbevelingsalgoritme betwist?
Ja, volgens wat Politico meldde en The Verge overnam. Het is de eerste keer dat de Commissie een aanbevelingssysteem aanwijst als reden voor een overtreding van de DSA. Eerder waren andere bedrijven, waaronder X, Meta, Temu en AliExpress, al in het vizier gekomen.
Wie loopt volgens de Commissie het meeste risico?
Kwetsbare volwassenen en minderjarigen. De Commissie stelt dat herhaalde content over verdriet, isolement en lichaam vooral bij deze mensen een negatief effect kan hebben.
Moet TikTok de feed veranderen?
Ja, als de betwisting wordt bevestigd. Volgens The Verge moet het platform het ontwerp van de For You-feed aanpassen, anders riskeert het boetes. De termijnen en de inhoud van de wijzigingen worden in de bronnen niet vermeld.
De volgende stappen van TikTok en Brussel over de feed
Nu is het aan TikTok om te reageren en aan de Commissie om een eindbeslissing te nemen. Het onderwerp gaat niet alleen over één platform.
- Let erop of TikTok concrete wijzigingen aankondigt voor de For You-feed en of de Commissie die voldoende vindt.
- Kijk of andere platforms vergelijkbare betwistingen krijgen over hun aanbevelingssystemen.
- Bekijk hoe je eigen producten met gepersonaliseerde feeds minderjarige gebruikers behandelen, ook in het licht van regels zoals die van OpenAI voor minderjarigen.
