Ing. Pietro Maiorana
A Comissão Europeia constatou em caráter preliminar que o TikTok viola o Digital Services Act (DSA) com o feed «For You». O alvo é o chamado efeito «rabbit hole», ou seja, o fluxo contínuo de vídeos personalizados que pode levar você a conteúdos ligados à tristeza, ao isolamento ou à imagem corporal. Segundo as reportagens, é a primeira vez que Bruxelas cita um algoritmo de recomendação como motivo de uma violação. Isso importa para quem administra plataformas e para quem trabalha com redes sociais.
Alguns termos, antes de entrarmos nos fatos. DSA é o Digital Services Act, o regulamento europeu que torna as plataformas responsáveis pelo impacto que causam nos usuários. Recommender system é o algoritmo que escolhe quais conteúdos você vê. Rabbit hole indica a espiral de conteúdos parecidos da qual é difícil sair. Constatação preliminar é uma contestação inicial, não uma sanção definitiva. Mitigação são as medidas com que uma plataforma reduz os riscos que identificou.
O que a Comissão contesta ao TikTok?
Segundo a Comissão Europeia, o feed «For You» exibe um fluxo contínuo de vídeos personalizados, mesmo quando tratam de dificuldades de saúde mental e de imagem corporal. Quanto mais você interage com um tipo de conteúdo, mais o algoritmo propõe conteúdos semelhantes.
Para a Comissão, esse desenho pode ser prejudicial quando a exposição é ininterrupta e repetida. Os efeitos sobre a saúde mental atingiriam sobretudo adultos vulneráveis e menores de idade.
Em quais obrigações do DSA se concentra a constatação?
As conclusões preliminares tratam de dois pontos. O primeiro é a avaliação de risco, ou seja, a análise que a plataforma deve fazer sobre os danos que seu serviço pode causar. O segundo são as medidas de mitigação, isto é, o que é feito para reduzi-los.
O texto oficial não entra no detalhe de artigos específicos. Ele remete ao comunicado completo para os detalhes, que não estavam entre as fontes que conseguimos ler.
O que declarou Henna Virkkunen?
A vice-presidente executiva da Comissão para soberania tecnológica, segurança e democracia comentou a decisão. Segundo o The Verge, Henna Virkkunen afirma que «sempre que um usuário desliza ou curte um vídeo, o algoritmo propõe outros semelhantes, levando os usuários a tocas das quais não conseguem sair facilmente».
Ela acrescenta que as conclusões preliminares mostram mais uma vez que o TikTok precisa se empenhar mais para proteger o bem-estar dos usuários, inclusive dos menores.
O que o TikTok arrisca?
Segundo o The Verge, o TikTok introduziu controles para atenuar o efeito, mas a Comissão considera, em caráter preliminar, que não são eficazes. A plataforma terá de mudar o desenho do feed, sob risco de multas de até 6% do faturamento anual global.
A notícia chega meses após outra contestação, na qual a Comissão havia definido o design do TikTok como excessivamente «addictive», ou seja, viciante. Enquanto isso, nos Estados Unidos a empresa enfrenta pressões e processos ligados à segurança dos menores. Um caso relacionado é o de Meta, Google e TikTok contra a Califórnia.
Limites que você precisa conhecer
Trata-se de uma constatação preliminar. Nas fontes que consultamos, o TikTok ainda não exerceu integralmente o direito de resposta, e não sabemos como vai responder nem em que prazo. Não se conhece o valor de uma eventual sanção, nem quais mudanças no feed Bruxelas vai exigir. O comunicado oficial completo, com os detalhes jurídicos, não está entre as fontes consultadas. Por enquanto, a eficácia dos controles do TikTok também é uma avaliação da Comissão.
O que muda para quem trabalha com o digital
Se você trabalha com redes sociais, o sinal é que os algoritmos de recomendação passam a fazer parte da responsabilidade legal. Quem planeja campanhas ou conteúdos no TikTok deve considerar possíveis mudanças na distribuição dos vídeos. Quem desenvolve apps ou plataformas com feeds personalizados faz bem em documentar como avalia os riscos para usuários vulneráveis. A lógica lembra a do EU AI Act, que exige análise de risco. Para operações que gerenciam vários canais, como na publicação multicanal, vale não depender de um único canal.
Nossa opinião
A contestação tem um mérito. Desloca o debate dos conteúdos individuais para a forma como são distribuídos, que é onde a plataforma realmente tem controle. Resta o nó prático. Como se mede uma «toca» e quanto de personalização é demais? São necessários critérios claros, senão o risco é uma norma aplicada caso a caso. Também pesa o fato de os controles já introduzidos pelo TikTok serem considerados ineficazes sem dados públicos. Aqui é preciso transparência dos dois lados.
Perguntas frequentes
O TikTok já foi multado pela UE por causa do feed For You?
Não, por enquanto há apenas uma constatação preliminar. A Comissão considera que o feed viola o DSA, mas ainda não impôs uma sanção. As multas possíveis podem chegar a 6% do faturamento anual global.
O que é o efeito rabbit hole?
É a espiral em que o algoritmo propõe cada vez mais conteúdos parecidos com aqueles com os quais você interage. Segundo a Comissão, quando os temas são tristeza, isolamento ou imagem corporal, a exposição contínua pode prejudicar a saúde mental.
É a primeira vez que a UE contesta um algoritmo de recomendação?
Sim, segundo o que foi relatado pela Politico e repercutido pelo The Verge. É a primeira vez que a Comissão cita um sistema de recomendação como motivo de violação do DSA. No passado, outras empresas, entre elas X, Meta, Temu e AliExpress, já tinham entrado na mira.
Quem está mais exposto, segundo a Comissão?
Adultos vulneráveis e menores de idade. A Comissão sustenta que a repetição de conteúdos sobre tristeza, isolamento e corpo pode ter impacto negativo sobretudo nessas pessoas.
O TikTok precisa mudar o feed?
Sim, caso a contestação seja confirmada. Segundo o The Verge, a plataforma deve alterar o design do feed For You, sob risco de multas. Os prazos e o conteúdo das mudanças não são indicados nas fontes.
Os próximos passos do TikTok e de Bruxelas sobre o feed
Agora é a vez da resposta do TikTok e da decisão final da Comissão. O tema não diz respeito apenas a uma plataforma.
- Acompanhe se o TikTok anunciar mudanças concretas no feed For You e se a Comissão as considerar suficientes.
- Verifique se outras plataformas recebem contestações semelhantes sobre seus sistemas de recomendação.
- Reveja como os seus produtos com feeds personalizados tratam usuários menores de idade, inclusive à luz de regras como as da OpenAI para menores.
