Ing. Pietro Maiorana
欧盟委员会初步认定，TikTok 的「For You」信息流违反了《数字服务法》（DSA）。争议的焦点是所谓的「rabbit hole」效应，即持续推送的个性化视频流可能把用户带入与悲伤、孤立或身体形象相关的内容之中。据报道，这是布鲁塞尔首次把推荐算法本身列为违规的理由。这对运营平台的人和在社交媒体上工作的人都很重要。
在进入事实之前，先了解几个术语。 DSA 即《数字服务法》，是欧盟的一项法规，要求平台对其服务给用户带来的影响承担责任。推荐系统是决定向你展示哪些内容的算法。Rabbit hole指的是相似内容层层推送、难以跳脱的螺旋。初步认定是最初的质疑，并非最终的处罚决定。缓解措施是平台为降低其已识别风险而采取的手段。
欧盟委员会对 TikTok 提出了什么质疑？
据欧盟委员会介绍，「For You」信息流会持续推送个性化视频，即使这些内容涉及心理健康困扰和身体形象问题。你与某类内容互动得越多，算法推送的相似内容就越多。
委员会认为，当这种暴露无休止且重复出现时，这一设计可能是有害的。对心理健康的影响主要会落在脆弱的成年人和未成年人身上。
这项认定针对的是 DSA 的哪些义务？
初步结论涉及两个层面。第一是风险评估，即平台必须分析其服务可能造成的危害。第二是缓解措施，即为降低这些危害而采取的行动。
官方文本没有深入到具体条款。细节需要参考完整的新闻稿，而我们没能查阅到这份资料。
Henna Virkkunen 发表了什么声明？
欧盟委员会主管技术主权、安全与民主的执行副主席就此决定发表了评论。据The Verge报道，Henna Virkkunen 表示，「每当用户滑动或点赞一段视频，算法就会推送更多类似的内容，把用户带进一个他们不容易走出来的兔子洞。」
她还补充说，初步结论再次表明，TikTok 需要付出更多努力来保护用户的福祉，包括未成年人。
TikTok 面临哪些风险？
据 The Verge 报道，TikTok 已经推出了缓解该效应的控制措施，但欧盟委员会初步认为这些措施并不有效。平台必须改变信息流的设计，否则将面临最高相当于全球年营业额 6% 的罚款。
此前几个月，委员会还曾指出 TikTok 的设计过于「addictive」，即容易造成依赖。与此同时，该公司在美国也面临与未成年人安全相关的压力和诉讼。一个相关案例是Meta、Google 和 TikTok 诉加利福尼亚州的案件。
需要了解的局限
这只是一项初步认定。根据我们掌握的资料，TikTok 尚未完整行使答辩权，我们也不知道它会如何回应，以及何时回应。目前也不清楚可能的处罚金额，布鲁塞尔将要求对信息流作出哪些修改同样未知。我们查阅的资料中没有包含完整的新闻稿和法律细节。就 TikTok 现有控制措施的有效性而言，目前仍只是欧盟委员会的评估。
对数字行业从业者意味着什么
如果你从事社交媒体相关工作，这一信号表明推荐算法已进入法律责任的范围。计划在 TikTok 上投放广告或发布内容的人，应当预料到视频分发可能出现变化。开发带有个性化信息流的应用或平台的人，最好记录下他们如何评估脆弱用户所面临的风险。这一逻辑与欧盟《人工智能法案》要求风险分析的思路相近。对于需要管理多个渠道的工作，例如多渠道发布，最好不要只依赖单一渠道。
我们的看法
这项质疑有其可取之处。它把讨论从单个内容转向了内容的分发方式，而这正是平台真正能够掌控的环节。但实际问题仍然存在，如何衡量「兔子洞」，个性化到什么程度才算过度？需要清晰的标准，否则这项规定就可能变成逐案裁定的随意执行。还有一点值得关注，在缺乏公开数据的情况下，TikTok 已经推出的控制措施被认定为无效。这里需要双方都保持透明。
常见问题
TikTok 是否已因 For You 信息流被欧盟罚款？
还没有。目前只是初步认定。欧盟委员会认为该信息流违反了 DSA，但尚未施加任何处罚。可能的罚款最高可达全球年营业额的 6%。
什么是 rabbit hole 效应？
指算法不断推送与你互动过的内容相似的内容，形成越陷越深的螺旋。欧盟委员会认为，如果这些内容涉及悲伤、孤立或身体形象，持续暴露可能损害心理健康。
欧盟这是首次质疑推荐算法吗？
据 Politico 报道并经 The Verge 转载，这是欧盟委员会首次将推荐系统列为违反 DSA 的理由。此前 X、Meta、Temu 和 AliExpress 等公司也曾受到关注。
委员会认为哪些人群风险最大？
脆弱的成年人和未成年人。委员会认为，反复出现的悲伤、孤立和身体形象相关内容，可能对这些人群产生尤为负面的影响。
TikTok 必须修改信息流吗？
如果这项质疑得到确认，则需要修改。据 The Verge 报道，平台必须调整 For You 信息流的设计，否则将面临罚款。资料中没有说明修改的时间和具体内容。
TikTok 与布鲁塞尔在信息流问题上的下一步
接下来要看 TikTok 的答辩以及欧盟委员会的最终决定。这个议题不只关乎一个平台。
- 关注 TikTok 是否宣布对 For You 信息流作出具体修改，以及委员会是否认可这些修改。
- 留意其他平台是否也在推荐系统方面收到类似的质疑。
- 回头检查你的个性化信息流产品如何对待未成年用户，也可参考OpenAI 针对未成年人的规则。
