Ing. Pietro Maiorana
La Comisión Europea ha determinado de forma preliminar que TikTok incumple la Ley de Servicios Digitales (DSA) con su feed «Para ti». En el punto de mira está el llamado efecto «madriguera», es decir, el flujo continuo de vídeos personalizados que puede arrastrar al usuario hacia contenidos relacionados con la tristeza, el aislamiento o la imagen corporal. Según los reportajes, es la primera vez que Bruselas cita un algoritmo de recomendación como motivo de una infracción. Importa a quien gestiona plataformas y a quien trabaja en redes sociales.
Algunos términos antes de entrar en los hechos. DSA es la Ley de Servicios Digitales, el reglamento europeo que hace a las plataformas responsables de su impacto en los usuarios. Sistema de recomendación es el algoritmo que elige qué contenidos te muestra. Madriguera (rabbit hole) indica la espiral de contenidos parecidos de la que cuesta salir. Determinación preliminar es una impugnación inicial, no una sanción definitiva. Mitigación son las medidas con las que una plataforma reduce los riesgos que ha detectado.
¿Qué impugna la Comisión a TikTok?
Según la Comisión Europea, el feed «Para ti» muestra un flujo continuo de vídeos personalizados, también cuando tratan dificultades de salud mental e imagen corporal. Cuanto más interactúa un usuario con un tipo de contenido, más vídeos similares le propone el algoritmo.
Para la Comisión, este diseño puede ser dañino cuando la exposición es interminable y repetida. Los efectos sobre la salud mental afectarían en particular a los adultos vulnerables y a los menores.
¿En qué obligaciones de la DSA se centra la determinación?
Las conclusiones preliminares abarcan dos ámbitos. El primero es la evaluación del riesgo, es decir, el análisis que la plataforma debe hacer sobre los daños que su servicio puede causar. El segundo son las medidas de mitigación, es decir, lo que se hace para reducirlos.
El texto oficial no entra en el detalle de artículos concretos. Remite al comunicado de prensa completo para los detalles, que no forma parte de las fuentes que hemos podido leer.
¿Qué ha declarado Henna Virkkunen?
La vicepresidenta ejecutiva de la Comisión para la soberanía tecnológica, la seguridad y la democracia ha comentado la decisión. Según The Verge, Henna Virkkunen afirma que «cada vez que un usuario desliza o da «me gusta» a un vídeo, el algoritmo propone otros similares, llevando a los usuarios a madrigueras de las que no logran salir fácilmente».
Añade que las conclusiones preliminares muestran una vez más que TikTok debe esforzarse más por proteger el bienestar de los usuarios, incluidos los menores.
¿Qué se arriesga TikTok?
Según The Verge, TikTok ha introducido controles para atenuar el efecto, pero la Comisión considera de forma preliminar que no son eficaces. La plataforma deberá cambiar el diseño del feed, o se arriesga a multas de hasta el 6% de la facturación anual global.
La noticia llega meses después de otra impugnación, en la que la Comisión había definido el diseño de TikTok como demasiado «adictivo», es decir, que genera dependencia. Mientras tanto, en Estados Unidos la empresa afronta presiones y demandas relacionadas con la seguridad de los menores. Un caso relacionado es el de Meta, Google y TikTok contra California.
Límites que conviene conocer
Se trata de una determinación preliminar. TikTok todavía no ha ejercido por completo su derecho de réplica en las fuentes que tenemos, y no sabemos cómo responderá ni en qué plazos. No se conoce la cuantía de una posible sanción, ni qué cambios en el feed exigirá Bruselas. El comunicado de prensa completo, con los detalles jurídicos, no está entre las fuentes consultadas. Además, la eficacia de los controles de TikTok es, por ahora, una valoración de la Comisión.
Qué cambia para quien trabaja en lo digital
Si trabajas con redes sociales, la señal es que los algoritmos de recomendación entran en el ámbito de la responsabilidad legal. Quien planifica campañas o contenidos en TikTok debe contar con posibles cambios en la distribución de los vídeos. Quien desarrolla apps o plataformas con feeds personalizados haría bien en documentar cómo evalúa los riesgos para los usuarios vulnerables. La lógica recuerda a la de la EU AI Act, que exige análisis de riesgo. Para las actividades que gestionan varios canales, como en la publicación multicanal, conviene no depender de un solo canal.
Nuestra opinión
La impugnación tiene un mérito. Desplaza el debate de los contenidos individuales a la forma en que se distribuyen, que es donde la plataforma tiene realmente el control. Queda el nudo práctico. ¿Cómo se mide una «madriguera» y cuánta personalización es demasiada? Hacen falta criterios claros, de lo contrario el riesgo es una norma aplicada caso por caso. Pesa también que los controles ya introducidos por TikTok se consideren ineficaces sin datos públicos. Aquí hace falta transparencia por ambas partes.
Preguntas frecuentes
¿TikTok ya ha sido multado por la UE por el feed Para ti?
No, por ahora solo hay una determinación preliminar. La Comisión considera que el feed viola la DSA, pero todavía no ha impuesto una sanción. Las multas posibles llegan hasta el 6% de la facturación anual global.
¿Qué es el efecto madriguera?
Es la espiral en la que el algoritmo propone cada vez más contenidos parecidos a aquellos con los que interactúas. Según la Comisión, si los temas son tristeza, aislamiento o imagen corporal, la exposición continua puede dañar la salud mental.
¿Es la primera vez que la UE impugna un algoritmo de recomendación?
Sí, según lo informado por Politico y recogido por The Verge. Es la primera vez que la Comisión cita un sistema de recomendación como motivo de una infracción de la DSA. Antes, otras empresas, entre ellas X, Meta, Temu y AliExpress, ya habían estado en el punto de mira.
¿Quiénes están más expuestos según la Comisión?
Los adultos vulnerables y los menores. La Comisión sostiene que los contenidos repetidos sobre tristeza, aislamiento y cuerpo pueden tener un impacto negativo sobre todo en estas personas.
¿TikTok debe cambiar el feed?
Sí, si la impugnación se confirma. Según The Verge, la plataforma debe modificar el diseño del feed Para ti, o se arriesga a multas. Las fuentes no indican los plazos ni el contenido de los cambios.
Los próximos movimientos de TikTok y de Bruselas sobre el feed
Ahora toca la réplica de TikTok y la decisión final de la Comisión. El tema no afecta solo a una plataforma.
- Sigue si TikTok anuncia cambios concretos en el feed Para ti y si la Comisión los considera suficientes.
- Comprueba si otras plataformas reciben impugnaciones similares sobre sus sistemas de recomendación.
- Revisa cómo tus productos con feeds personalizados tratan a los usuarios menores de edad, también a la luz de normas como las de OpenAI para menores.
