Ing. Pietro Maiorana
Avrupa Komisyonu, TikTok'un «For You» akışıyla Digital Services Act'i (DSA) ihlal ettiğini ön değerlendirmede tespit etti. Odak noktası, kullanıcıyı üzüntü, yalnızlık ya da beden imajıyla ilgili içeriklere doğru sürükleyebilen kesintisiz, kişiselleştirilmiş video akışındaki «rabbit hole» etkisi. Haberlere göre Brüksel, bir öneri algoritmasını ihlal gerekçesi olarak ilk kez gündeme getiriyor. Bu karar, platform işleten şirketler ve sosyal medyada çalışanlar için önem taşıyor.
Girmeden önce birkaç terim. DSA, platformların kullanıcılar üzerindeki etkisinden sorumlu tutulmasını sağlayan Avrupa yönetmeliği Digital Services Act'in kısaltması. Recommender system, sana hangi içerikleri göstereceğine karar veren algoritmadır. Rabbit hole, benzer içeriklerin oluşturduğu ve bu döngüden çıkmanın zor olduğu girdabı anlatır. Ön değerlendirme, kesin bir yaptırım değil, ilk aşamada yapılan bir itirazdır. Önlem alma, bir platformun tespit ettiği riskleri azaltmak için uyguladığı tedbirlerdir.
Komisyon TikTok'a neyi itiraz ediyor?
Avrupa Komisyonu'na göre «For You» akışı, zihinsel sağlık zorlukları ve beden imajıyla ilgili videoları da kapsayan kesintisiz ve kişiselleştirilmiş bir video akışı sunuyor. Kullanıcı bir içerik türüyle ne kadar çok etkileşim kurarsa, algoritma o kadar benzer içerik öneriyor.
Komisyon'a göre bu tasarım, maruz kalma sonsuz ve tekrarlayıcı olduğunda zararlı olabilir. Zihinsel sağlık üzerindeki etkilerin özellikle savunmasız yetişkinler ve çocuklar için geçerli olduğu belirtiliyor.
Soruşturma DSA'nın hangi yükümlülüklerine odaklanıyor?
Ön bulgular iki alanı kapsıyor. Birincisi risk değerlendirmesi; yani platformun hizmetinin yaratabileceği zararlar üzerine yapması gereken analiz. İkincisi ise önlem alma, yani bu zararları azaltmak için yapılanlar.
Resmi metin, tek tek maddelere ayrıntılı girmiyor. Ayrıntılar için tam basın bülteninin gerektiği belirtiliyor; ancak bu bülten okuduğumuz kaynaklar arasında yer almıyor.
Henna Virkkunen ne açıkladı?
Komisyon'un teknoloji egemenliği, güvenlik ve demokrasi konularından sorumlu icra başkan yardımcısı Henna Virkkunen kararı yorumladı. The Verge'e göre Virkkunen, «Bir kullanıcı bir videoyu her kaydırdığında ya da beğendiğinde, algoritma benzerlerini öneriyor ve kullanıcıları kolay kolay çıkamadıkları girdaplara sürüklüyor» dedi.
Ayrıca ön bulguların, TikTok'un reşit olmayanlar dahil kullanıcıların refahını korumak için daha fazla çaba göstermesi gerektiğini bir kez daha ortaya koyduğunu ekledi.
TikTok neyle karşı karşıya?
The Verge'e göre TikTok etkiyi hafifletmek için kontroller getirdi, ancak Komisyon bunların etkisiz olduğunu ön olarak değerlendiriyor. Platform akışın tasarımını değiştirmek zorunda, aksi halde yıllık küresel cironun yüzde 6'sına kadar para cezasıyla karşılaşabilir.
Haber, Komisyon'un TikTok'un tasarımını «addictive», yani bağımlılık yaratıcı bulduğu önceki bir itirazdan aylar sonra geliyor. Bu arada ABD'de şirket, reşit olmayanların güvenliğiyle ilgili baskı ve davalarla uğraşıyor. Bağlantılı bir örnek olarak Meta, Google ve TikTok'un Kaliforniya'ya karşı açtığı dava gösterilebilir.
Bilmen gereken sınırlar
Bu bir ön değerlendirmedir. Elimizdeki kaynaklarda TikTok'un savunma hakkını tam olarak kullanıp kullanmadığı belli değil; nasıl yanıt vereceği ve ne zaman yanıt vereceği de bilinmiyor. Olası bir cezanın boyutu, ya da Brüksel'in akışta hangi değişiklikleri isteyeceği henüz açık değil. Hukuki ayrıntıların yer aldığı tam basın bülteni incelediğimiz kaynaklar arasında yer almıyor. TikTok'un kontrollerinin etkinliği de şimdilik yalnızca Komisyon'un değerlendirmesi.
Dijitalle çalışanlar için ne değişiyor
Sosyal medyayla çalışıyorsan bu gelişme, öneri algoritmalarının yasal sorumluluk kapsamına girdiğine işaret ediyor. TikTok'ta kampanya ya da içerik planlayanlar, videoların dağıtımında olası değişikliklere hazırlıklı olmalı. Kişiselleştirilmiş akışlara sahip uygulama ya da platform geliştirenler, kırılgan kullanıcılar için riskleri nasıl değerlendirdiklerini belgelemeli. Bu mantık, risk analizi isteyen EU AI Act ile benzerlik taşıyor. Birden fazla kanalı yöneten işler için, çok kanallı yayın yaparken tek bir kanala bağımlı kalmamak en sağlıklısı.
Bizim değerlendirmemiz
Bu itirazın bir değeri var. Tartışmayı tek tek içeriklerden, platformun gerçekten kontrol edebildiği dağıtım biçimine taşıyor. Ancak pratik bir sorun kalıyor – bir «girdap» nasıl ölçülür ve kişiselleştirme ne zaman fazlaya kaçar? Net ölçütler gerekli, yoksa kural her olayda ayrı ayrı uygulanmak zorunda kalır. Ayrıca TikTok'un zaten getirdiği kontrollerin, kamuya açık veri olmadan etkisiz bulunması da dikkat çekici. Burada her iki tarafın da şeffaf olması gerekiyor.
Sık sorulan sorular
TikTok, For You akışı nedeniyle AB tarafından daha önce cezalandırıldı mı?
Hayır, şimdilik yalnızca bir ön değerlendirme var. Komisyon akışın DSA'yı ihlal ettiğini düşünüyor, ancak henüz bir yaptırım uygulamadı. Olası para cezaları yıllık küresel cironun yüzde 6'sına kadar çıkabiliyor.
Rabbit hole etkisi nedir?
Algoritmanın etkileşim kurduğun içeriklere benzer yenilerini sürekli önerdiği girdaptır. Komisyon'a göre konu üzüntü, yalnızlık ya da beden imajıysa, sürekli maruz kalma ruh sağlığına zarar verebilir.
AB bir öneri algoritmasına ilk kez mi itiraz ediyor?
Politico'dan aktarılan ve The Verge'ün de yer verdiği bilgilere göre evet. Komisyon bir öneri sistemini DSA ihlali gerekçesi olarak ilk kez gösteriyor. Daha önce X, Meta, Temu ve AliExpress gibi şirketler de incelemeye alınmıştı.
Komisyon'a göre en çok kimler etkileniyor?
Savunmasız yetişkinler ve çocuklar. Komisyon, üzüntü, yalnızlık ve beden temalı tekrarlayan içeriklerin özellikle bu kişiler üzerinde olumsuz etkisi olabileceğini savunuyor.
TikTok akışı değiştirmek zorunda mı?
İtiraz onaylanırsa evet. The Verge'e göre platform For You akışının tasarımını değiştirmek zorunda, aksi halde para cezası riskiyle karşılaşacak. Değişikliklerin zamanlaması ve içeriği kaynaklarda belirtilmiyor.
TikTok ve Brüksel'in akış konusundaki sonraki adımları
Şimdi sırada TikTok'un yanıtı ve Komisyon'un nihai kararı var. Konu yalnızca tek bir platformu ilgilendirmiyor.
- TikTok'un For You akışında somut değişiklik açıklayıp açıklamadığını ve Komisyon'un bunları yeterli bulup bulmadığını takip et.
- Diğer platformların öneri sistemlerine benzer itirazlar alıp almadığını kontrol et.
- Kişiselleştirilmiş akışa sahip ürünlerinin reşit olmayan kullanıcılara nasıl davrandığını, OpenAI'nin reşit olmayanlar için belirlediği kurallar ışığında yeniden gözden geçir.
