Ing. Pietro Maiorana
La Commission européenne a constaté à titre préliminaire que TikTok viole le Digital Services Act (DSA) avec son fil «Pour toi». Dans le viseur, l'effet dit «rabbit hole», c'est-à-dire le flux continu de vidéos personnalisées qui peut entraîner l'utilisateur vers des contenus liés à la tristesse, à l'isolement ou à l'image du corps. Selon les comptes rendus, c'est la première fois que Bruxelles cite un algorithme de recommandation comme motif de violation. Cela compte pour ceux qui gèrent des plateformes comme pour ceux qui travaillent sur les réseaux sociaux.
Quelques termes, avant d'entrer dans les faits. DSA est le Digital Services Act, le règlement européen qui rend les plateformes responsables de leur impact sur les utilisateurs. Recommender system est l'algorithme qui choisit les contenus à te montrer. Rabbit hole désigne la spirale de contenus similaires dont il est difficile de sortir. Constat préliminaire est une contestation initiale, et non une sanction définitive. Mitigation désigne les mesures par lesquelles une plateforme réduit les risques qu'elle a identifiés.
Que reproche la Commission à TikTok ?
Selon la Commission européenne, le fil «Pour toi» diffuse un flux continu de vidéos personnalisées, y compris lorsqu'elles concernent des difficultés de santé mentale et l'image corporelle. Plus un utilisateur interagit avec un type de contenu, plus l'algorithme lui en propose de semblables.
Pour la Commission, ce mécanisme peut être nuisible lorsque l'exposition est sans fin et répétée. Les effets sur la santé mentale toucheraient en particulier les adultes vulnérables et les mineurs.
Sur quelles obligations du DSA porte le constat ?
Les conclusions préliminaires concernent deux volets. Le premier est l'évaluation des risques, c'est-à-dire l'analyse que la plateforme doit mener sur les dommages que son service peut causer. Le second concerne les mesures d'atténuation, c'est-à-dire ce qui est mis en place pour les réduire.
Le texte officiel n'entre pas dans le détail des articles. Il renvoie au communiqué de presse complet pour les précisions, qui ne figure pas parmi les sources que nous avons pu lire.
Que déclare Henna Virkkunen ?
La vice-présidente exécutive de la Commission pour la souveraineté technologique, la sécurité et la démocratie a commenté la décision. Selon The Verge, Henna Virkkunen affirme que «chaque fois qu'un utilisateur fait défiler une vidéo ou lui met un «j'aime», l'algorithme en propose d'autres semblables, entraînant les utilisateurs dans des terriers dont ils ne peuvent pas facilement sortir».
Elle ajoute que les conclusions préliminaires montrent une fois de plus que TikTok doit faire davantage d'efforts pour protéger le bien-être des utilisateurs, y compris des mineurs.
Que risque TikTok ?
Selon The Verge, TikTok a introduit des contrôles pour atténuer l'effet, mais la Commission estime à titre préliminaire qu'ils ne sont pas efficaces. La plateforme devra modifier la conception du fil, sous peine d'amendes pouvant atteindre 6 % du chiffre d'affaires annuel mondial.
La nouvelle intervient quelques mois après une autre contestation, dans laquelle la Commission avait jugé la conception de TikTok trop «addictive», c'est-à-dire créant une dépendance. Aux États-Unis, la société fait par ailleurs face à des pressions et à des procès liés à la sécurité des mineurs. Un cas connexe est celui de Meta, Google et TikTok contre la Californie.
Limites à connaître
Il s'agit d'un constat préliminaire. TikTok n'a pas encore exercé jusqu'au bout son droit de réponse selon les sources dont nous disposons, et nous ne savons ni comment il répondra ni dans quels délais. On ignore le montant d'une éventuelle sanction, ainsi que les modifications que Bruxelles exigera du fil. Le communiqué de presse complet, avec les détails juridiques, ne fait pas partie des sources consultées. L'efficacité des contrôles de TikTok reste, pour l'instant, une évaluation de la Commission.
Ce qui change pour ceux qui travaillent dans le numérique
Si tu travailles avec les réseaux sociaux, le signal est que les algorithmes de recommandation entrent dans le champ de la responsabilité juridique. Ceux qui planifient des campagnes ou des contenus sur TikTok doivent anticiper d'éventuels changements dans la diffusion des vidéos. Ceux qui développent des applications ou des plateformes à fils personnalisés auraient intérêt à documenter la manière dont ils évaluent les risques pour les utilisateurs fragiles. La logique rappelle celle de l'EU AI Act, qui exige une analyse des risques. Pour les activités qui gèrent plusieurs canaux, comme dans la publication multi-canal, mieux vaut ne pas dépendre d'un seul canal.
Notre avis
La contestation a un mérite. Elle déplace le débat des contenus individuels vers la manière dont ils sont distribués, qui est précisément le terrain où la plateforme a un réel contrôle. Reste un nœud pratique. Comment mesurer un «terrier» et à partir de quand la personnalisation devient-elle excessive ? Il faudrait des critères clairs, sinon le risque est une règle appliquée au cas par cas. Pèse aussi le fait que les contrôles déjà introduits par TikTok soient jugés inefficaces sans données publiques. Ici, il faut de la transparence des deux côtés.
Questions fréquentes
TikTok a-t-il déjà été sanctionné par l'UE pour le fil Pour toi ?
Non, pour l'instant il ne s'agit que d'un constat préliminaire. La Commission estime que le fil viole le DSA, mais elle n'a pas encore imposé de sanction. Les amendes possibles peuvent atteindre 6 % du chiffre d'affaires annuel mondial.
Qu'est-ce que l'effet rabbit hole ?
C'est la spirale dans laquelle l'algorithme propose toujours plus de contenus semblables à ceux avec lesquels tu interagis. Selon la Commission, si les thèmes sont la tristesse, l'isolement ou l'image du corps, l'exposition continue peut nuire à la santé mentale.
Est-ce la première fois que l'UE conteste un algorithme de recommandation ?
Oui, selon ce que rapporte Politico et que reprend The Verge. C'est la première fois que la Commission cite un système de recommandation comme motif de violation du DSA. Par le passé, d'autres sociétés, dont X, Meta, Temu et AliExpress, avaient déjà été visées.
Qui est le plus exposé selon la Commission ?
Les adultes vulnérables et les mineurs. La Commission soutient que les contenus répétés sur la tristesse, l'isolement et le corps peuvent avoir un impact négatif surtout sur ces personnes.
TikTok doit-il changer le fil ?
Oui, si la contestation est confirmée. Selon The Verge, la plateforme doit modifier la conception du fil Pour toi, sous peine d'amendes. Les délais et le contenu des modifications ne sont pas précisés dans les sources.
Les prochaines étapes de TikTok et de Bruxelles sur le fil
Il faut maintenant attendre la réponse de TikTok et la décision finale de la Commission. Le sujet ne concerne pas une seule plateforme.
- Suis si TikTok annonce des modifications concrètes du fil Pour toi et si la Commission les juge suffisantes.
- Vérifie si d'autres plateformes reçoivent des contestations similaires sur leurs systèmes de recommandation.
- Relis comment tes produits à fil personnalisé traitent les utilisateurs mineurs, notamment à la lumière de règles comme celles d'OpenAI pour les mineurs.
