Ing. Pietro Maiorana
欧州委員会は、TikTokの「For You」フィードがDigital Services Act（DSA）に違反すると予備的に認定しました。問題視されているのは、いわゆる「ラビットホール」効果です。パーソナライズされた動画が途切れなく流れ続け、利用者を悲しみ、孤立感、身体イメージに関するコンテンツへと引き込んでいく可能性があります。報道によると、ブリュッセルが推薦アルゴリズムを違反の理由として挙げたのはこれが初めてです。プラットフォームを運営する企業や、SNSで仕事をしている人にとって重要な動きです。
用語の整理，事実に入る前に DSAは Digital Services Act、つまりプラットフォームが利用者に与える影響への責任を定めたEUの規則です。レコメンダーシステムは、どの投稿を表示するかを決めるアルゴリズムです。ラビットホールは、似た内容が延々と続き抜け出しにくくなる状態を指します。予備的認定は最初の異議申し立てであり、確定的な制裁ではありません。緩和策は、プラットフォームが特定したリスクを減らすために講じる措置です。
欧州委員会はTikTokの何を問題視しているのか？
欧州委員会の発表によると、「For You」フィードは、精神的な健康や身体イメージに関する困難を扱う動画も含め、パーソナライズされた動画を途切れなく表示しています。利用者がある種類のコンテンツにより多く反応するほど、アルゴリズムは似たものを多く提示するようになります。
委員会は、この仕組みが途切れることなく反復的に露出する場合に有害になりうると考えています。精神的な健康への影響は、特に脆弱な成人や未成年者に及ぶとされています。
今回の認定はDSAのどの義務に関わるのか？
予備的な結論は二つの側面に関わっています。ひとつはリスク評価で、プラットフォームが自らのサービスが引き起こしうる害を分析することです。もうひとつは緩和策で、そのリスクを減らすために実際に行う対応です。
公式文書は個々の条文までは詳しく述べていません。詳細は完全版のプレスリリースに委ねられていますが、それは確認できた情報源には含まれていません。
ヘンナ・ヴィルックネン氏は何と述べたか？
技術主権・安全保障・民主主義を担当する欧州委員会の上級副委員長は、この決定についてコメントしています。The Vergeによると、ヘンナ・ヴィルックネン氏は「利用者が動画をスワイプしたり『いいね』を押したりするたびに、アルゴリズムは似た動画を提示し、利用者を簡単には抜け出せない穴の中へと導いてしまう」と述べています。
さらに、予備的な結論は、TikTokが未成年者を含む利用者の健康を守るためにさらに努力しなければならないことを、改めて示していると付け加えています。
TikTokはどのようなリスクに直面しているのか？
The Vergeによると、TikTokは効果を和らげるための管理機能を導入していますが、委員会はそれが効果的ではないと予備的に判断しています。プラットフォームはフィードの設計を変えなければならず、そうしなければ全世界の年間売上高の最大6%に及ぶ罰金のリスクがあります。
この発表は、委員会がTikTokの設計を「addictive」、つまり依存を生むものだと指摘した数か月前の異議に続くものです。一方、アメリカでは未成年者の安全をめぐる圧力や訴訟にも直面しています。関連する事例としては、MetaとGoogle、TikTokのカリフォルニア州に対する訴訟があります。
知っておくべき限界
これは予備的な認定です。入手できた情報源では、TikTokはまだ反論の権利を十分に行使しておらず、今後どのように対応し、いつ回答するのかも分かりません。想定される制裁の規模や、委員会がフィードのどの点の変更を求めるかも明らかではありません。法的な詳細を含む公式プレスリリースは、確認できた情報源には含まれていません。TikTokの対策が実際に効果的かどうかも、現時点では委員会の評価にとどまります。
デジタル分野で働く人にとっての変化
SNSを扱う仕事をしている人にとって、この動きは推薦アルゴリズムが法的責任の対象に入ってきたことを示しています。TikTokでキャンペーンやコンテンツを計画する場合は、動画の配信方法が変わる可能性を織り込んでおくべきです。パーソナライズされたフィードを持つアプリやプラットフォームを開発している場合は、脆弱な利用者へのリスクをどう評価しているかを文書化しておくと安心です。この考え方は、リスク分析を求めるEU AI Actとも通じるものがあります。複数のチャネルを管理する場合は、マルチチャネル投稿のように、ひとつのチャネルに依存しない体制が望ましいでしょう。
私たちの見解
今回の異議には評価できる点があります。議論の焦点を個々のコンテンツから、それがどのように配信されるかへと移したことです。それこそ、プラットフォームが実際に管理できる部分だからです。ただし実務上の課題も残ります。「ラビットホール」はどう測定するのか、パーソナライズはどこから行き過ぎなのか。明確な基準が必要で、なければ個別事例ごとの判断に終わるおそれがあります。また、TikTokが導入済みの対策が、公開データがないまま効果不十分と見なされている点も重要です。ここでは双方に透明性が求められます。
よくある質問
TikTokはFor Youフィードについてすでに EU から罰金を科されていますか？
いいえ、現時点では予備的な認定があるのみです。委員会はフィードがDSAに違反すると考えていますが、まだ制裁は科されていません。科される可能性のある罰金は、全世界の年間売上高の最大6%に及びます。
ラビットホール効果とは何ですか？
アルゴリズムが、利用者がやり取りした内容と似たコンテンツを次々に提示し、深みにはまっていく現象です。委員会によると、悲しみ、孤立感、身体イメージといったテーマの場合、継続的な接触が精神的な健康に悪影響を及ぼす可能性があります。
EUが推薦アルゴリズムを問題視するのは初めてですか？
はい、Politicoが報じ、The Vergeが伝えたところによると、委員会が推薦システムをDSA違反の理由として挙げたのは初めてです。以前にもX、Meta、Temu、AliExpressなどが調査の対象となっていました。
委員会の見解では、特に影響を受けやすいのは誰ですか？
脆弱な立場にある成人と未成年者です。委員会は、悲しみ、孤立、身体に関するコンテンツが繰り返し表示されることが、特にこの層に悪影響を与えうると主張しています。
TikTokはフィードを変更する必要がありますか？
異議が確定すれば、必要になります。The Vergeによると、プラットフォームはFor Youフィードの設計を変更しなければ罰金を科されるおそれがあります。変更の期限や具体的な内容は、情報源には示されていません。
TikTokとブリュッセルによる、フィードをめぐる今後の動き
次に焦点となるのは、TikTokの反論と委員会による最終的な判断です。この問題は一社だけの話にとどまりません。
- TikTokがFor Youフィードに具体的な変更を発表するか、また委員会がそれを十分と判断するかを注視してください。
- 他のプラットフォームも、推薦システムについて同様の異議を受けているかを確認してください。
- パーソナライズされたフィードを持つ自社の製品が未成年者をどう扱っているかを見直してください。OpenAIによる未成年者向けのルールのような指針も参考になります。
