Ing. Pietro Maiorana
Еврокомиссия предварительно установила, что TikTok нарушает Digital Services Act (DSA) с помощью ленты «For You». Претензия касается так называемого эффекта «кроличьей норы» – непрерывного потока персонализированных видео, который может увлечь пользователя к контенту о грусти, одиночестве или образе тела. По данным изданий, это первый случай, когда Брюссель называет алгоритм рекомендаций причиной нарушения. Это важно для тех, кто управляет платформами, и для тех, кто на соцсетях работает.
Несколько терминов, прежде чем перейти к фактам. DSA — Digital Services Act, европейский регламент, который делает платформы ответственными за их влияние на пользователей. Recommender system — алгоритм, который решает, какой контент тебе показать. Rabbit hole — спираль похожего контента, из которой трудно выбраться. Предварительное установление — первоначальная претензия, а не окончательное решение о санкциях. Смягчение — меры, с помощью которых платформа снижает выявленные риски.
Что Комиссия оспаривает у TikTok?
По данным Европейской комиссии, лента «For You» показывает непрерывный поток персонализированных видео, в том числе когда речь идет о трудностях с психическим здоровьем и образом тела. Чем чаще пользователь взаимодействует с определенным типом контента, тем больше похожего ему предлагает алгоритм.
По мнению Комиссии, такая модель может быть вредной, когда воздействие бесконечно и повторяется. Влияние на психическое здоровье затронуло бы в первую очередь уязвимых взрослых и несовершеннолетних.
На каких обязательствах DSA сосредоточено расследование?
Предварительные выводы касаются двух направлений. Первое — оценка рисков, то есть анализ того, какой вред может причинять сервис и что с ним делает платформа. Второе — меры смягчения, то есть то, что делается, чтобы эти риски снизить.
Официальный текст не вдается в детали отдельных статей и отсылает к полному пресс-релизу. Этот документ не входит в источники, которые нам удалось прочитать.
Что заявила Хенна Виркконен?
Исполнительный вице-президент Комиссии по технологическому суверенитету, безопасности и демократии прокомментировала решение. По данным The Verge, Хенна Виркконен заявила «Каждый раз, когда пользователь листает или ставит «лайк» видео, алгоритм предлагает другие похожие, загоняя людей в норы, из которых им нелегко выбраться».
Она добавила, что предварительные выводы еще раз показывают – TikTok должен делать больше, чтобы защищать благополучие пользователей, в том числе несовершеннолетних.
Чем рискует TikTok?
По данным The Verge, TikTok ввел меры для смягчения эффекта, однако Комиссия предварительно считает их неэффективными. Платформе придется изменить дизайн ленты, иначе ей грозят штрафы до 6% мирового годового оборота.
Новость пришла через несколько месяцев после другой претензии, в которой Комиссия назвала дизайн TikTok слишком «addictive», то есть вызывающим зависимость. Тем временем в США компания сталкивается с давлением и исками, связанными с безопасностью несовершеннолетних. Похожий случай — дело Meta, Google и TikTok против Калифорнии.
Ограничения, которые нужно знать
Это предварительное установление. В доступных нам источниках TikTok пока не воспользовался правом на ответ до конца, и мы не знаем, как он ответит и в какие сроки. Неизвестен размер возможного штрафа и то, какие изменения ленты потребует Брюссель. Полный пресс-релиз с юридическими подробностями среди просмотренных источников отсутствует. Эффективность мер TikTok пока остается оценкой Комиссии.
Что меняется для тех, кто работает в digital
Если ты работаешь с соцсетями, сигнал такой – алгоритмы рекомендаций попадают в зону юридической ответственности. Тем, кто планирует кампании или контент в TikTok, стоит учитывать возможные изменения в распределении видео. Тем, кто разрабатывает приложения или платформы с персонализированными лентами, стоит документировать, как они оценивают риски для уязвимых пользователей. Логика напоминает требования EU AI Act, которые предполагают анализ рисков. Для работы с несколькими каналами, как в случае мультиканальной публикации, разумно не зависеть от одного канала.
Наше мнение
У претензии есть сильная сторона – она переносит разговор от отдельных роликов к тому, как они распространяются, а именно здесь платформа действительно контролирует процесс. Остается практический вопрос – как измерять «нору» и где проходит граница допустимой персонализации? Нужны понятные критерии, иначе норма будет применяться от случая к случаю. Также важно, что меры, уже введенные TikTok, признаны неэффективными без публичных данных. Здесь нужна прозрачность с обеих сторон.
Частые вопросы
Уже ли ЕС оштрафовал TikTok за ленту For You?
Нет, пока есть только предварительное установление. Комиссия считает, что лента нарушает DSA, но санкцию еще не наложила. Возможные штрафы достигают 6% мирового годового оборота.
Что такое эффект «кроличьей норы»?
Это спираль, в которой алгоритм предлагает все больше похожего на то, с чем ты взаимодействуешь. По мнению Комиссии, если темы связаны с грустью, одиночеством или образом тела, постоянное попадание такого контента может вредить психическому здоровью.
Это первый случай, когда ЕС оспаривает алгоритм рекомендаций?
Да, по данным Politico, которые передал The Verge. Это первый раз, когда Комиссия называет систему рекомендаций причиной нарушения DSA. Раньше в поле зрения попадали X, Meta, Temu и AliExpress.
Кто наиболее уязвим по мнению Комиссии?
Уязвимые взрослые и несовершеннолетние. Комиссия считает, что повторяющийся контент о грусти, одиночестве и теле может сильнее всего вредить именно этим людям.
Должен ли TikTok менять ленту?
Да, если претензия подтвердится. По данным The Verge, платформе придется изменить дизайн ленты For You, иначе ей грозят штрафы. Сроки и содержание изменений в источниках не указаны.
Следующие шаги TikTok и Брюсселя по ленте
Теперь ждем ответа TikTok и окончательного решения Комиссии. Тема касается не только одной платформы.
- Следи, объявит ли TikTok конкретные изменения в ленте For You и сочтет ли их Комиссия достаточными.
- Проверяй, получают ли другие платформы похожие претензии по системам рекомендаций.
- Перепроверь, как твои продукты с персонализированными лентами работают с несовершеннолетними пользователями, в том числе с учетом правил OpenAI для несовершеннолетних.
