Ing. Pietro Maiorana
Komisi Eropa menemukan secara awal bahwa TikTok melanggar Digital Services Act (DSA) lewat feed «For You». Yang disorot adalah efek «rabbit hole», yaitu aliran video personal yang terus-menerus dan bisa menyeret pengguna ke konten seputar kesedihan, isolasi, atau citra tubuh. Menurut pemberitaan, ini pertama kalinya Brussels menjadikan algoritma rekomendasi sebagai alasan pelanggaran. Hal ini penting bagi siapa saja yang mengelola platform maupun bekerja di media sosial.
Beberapa istilah, sebelum masuk ke faktanya. DSA adalah Digital Services Act, regulasi Uni Eropa yang membuat platform bertanggung jawab atas dampaknya terhadap pengguna. Recommender system adalah algoritma yang memilih konten apa yang ditampilkan kepadamu. Rabbit hole adalah pusaran konten serupa yang sulit dilepaskan. Accertamento preliminare adalah tuduhan awal, bukan sanksi final. Mitigazione adalah langkah yang diambil platform untuk mengurangi risiko yang sudah teridentifikasi.
Apa yang digugat Komisi terhadap TikTok?
Menurut Komisi Eropa, feed «For You» menampilkan aliran video personal yang terus-menerus, termasuk yang berkaitan dengan kesulitan kesehatan mental dan citra tubuh. Semakin sering pengguna berinteraksi dengan suatu jenis konten, semakin banyak konten serupa yang disodorkan algoritma.
Menurut Komisi, desain seperti ini bisa berbahaya ketika paparannya tanpa henti dan berulang. Dampak terhadap kesehatan mental disebut terutama mengancam orang dewasa yang rentan dan anak-anak.
Kewajiban DSA apa saja yang menjadi fokus temuan ini?
Kesimpulan awal ini menyasar dua hal. Pertama adalah penilaian risiko, yaitu analisis yang harus dilakukan platform tentang kerugian yang bisa ditimbulkan layanannya. Kedua adalah langkah mitigasi, yaitu tindakan untuk menguranginya.
Dokumen resmi tidak merinci pasal-pasal tertentu. Untuk detailnya, rujukannya adalah siaran pers lengkap, yang tidak termasuk dalam sumber yang bisa kami baca.
Apa pernyataan Henna Virkkunen?
Wakil presiden eksekutif Komisi untuk kedaulatan teknologi, keamanan, dan demokrasi ikut mengomentari keputusan ini. Menurut The Verge, Henna Virkkunen mengatakan bahwa «setiap kali pengguna menggeser atau menyukai sebuah video, algoritma menyodorkan video serupa lainnya, membawa pengguna ke dalam lubang yang tidak mudah mereka tinggalkan».
Ia menambahkan bahwa temuan awal ini sekali lagi menunjukkan bahwa TikTok harus berbuat lebih banyak untuk melindungi kesejahteraan pengguna, termasuk anak-anak.
Apa risiko yang dihadapi TikTok?
Menurut The Verge, TikTok sudah memperkenalkan kontrol untuk meredam efek tersebut, tetapi Komisi menilai secara awal bahwa kontrol itu tidak efektif. Platform harus mengubah desain feed, atau berisiko terkena denda hingga 6% dari omzet tahunan global.
Kabar ini datang beberapa bulan setelah gugatan lain, di mana Komisi menyebut desain TikTok terlalu «addictive», yakni menciptakan kecanduan. Sementara itu di Amerika Serikat, perusahaan menghadapi tekanan dan gugatan terkait keselamatan anak. Kasus yang berhubungan adalah Meta, Google, dan TikTok melawan California.
Batasan yang perlu diketahui
Ini masih berupa temuan awal. Dari sumber yang kami punya, TikTok belum sepenuhnya menggunakan hak jawabnya, dan kami belum tahu bagaimana respons serta kapan akan diberikan. Besaran sanksi yang mungkin dijatuhkan juga belum diketahui, begitu pula perubahan apa yang akan diminta Brussels pada feed. Siaran pers lengkap yang memuat detail hukumnya tidak termasuk dalam sumber yang kami baca. Efektivitas kontrol yang diklaim TikTok pun, untuk saat ini, hanya berupa penilaian Komisi.
Apa dampaknya bagi pekerja digital
Jika kamu bekerja dengan media sosial, sinyalnya jelas – algoritma rekomendasi mulai masuk dalam cakupan tanggung jawab hukum. Siapa pun yang merencanakan kampanye atau konten di TikTok perlu memperhitungkan kemungkinan perubahan distribusi video. Pengembang aplikasi atau platform dengan feed personal sebaiknya mendokumentasikan cara mereka menilai risiko bagi pengguna yang rentan. Logikanya mirip dengan EU AI Act, yang menuntut analisis risiko. Untuk pekerjaan yang mengelola banyak kanal, seperti dalam publikasi multi-kanal, sebaiknya jangan bergantung pada satu kanal saja.
Pendapat kami
Gugatan ini punya satu kelebihan. Ia menggeser perdebatan dari konten individual ke cara konten itu didistribusikan, dan di situlah platform benar-benar punya kendali. Namun ada persoalan praktis – bagaimana mengukur sebuah «lubang» dan seberapa jauh personalisasi sudah terlalu jauh? Dibutuhkan kriteria yang jelas, kalau tidak aturan ini berisiko diterapkan secara kasus per kasus. Yang juga mengganjal adalah kontrol yang sudah diterapkan TikTok dinilai tidak efektif tanpa data publik. Di sini dibutuhkan transparansi dari kedua belah pihak.
Pertanyaan yang sering diajukan
Apakah TikTok sudah didenda UE karena feed For You?
Belum, untuk saat ini baru ada temuan awal. Komisi menilai feed tersebut melanggar DSA, tetapi belum menjatuhkan sanksi. Denda yang mungkin dikenakan bisa mencapai 6% dari omzet tahunan global.
Apa itu efek rabbit hole?
Itu adalah pusaran ketika algoritma terus menyodorkan konten yang mirip dengan yang kamu interaksikan. Menurut Komisi, jika temanya adalah kesedihan, isolasi, atau citra tubuh, paparan yang terus-menerus bisa berdampak buruk bagi kesehatan mental.
Apakah ini pertama kalinya UE menggugat algoritma rekomendasi?
Ya, menurut pemberitaan Politico yang dikutip The Verge. Ini pertama kalinya Komisi menjadikan sistem rekomendasi sebagai alasan pelanggaran DSA. Sebelumnya, perusahaan lain seperti X, Meta, Temu, dan AliExpress juga sudah pernah menjadi sasaran.
Siapa yang paling terdampak menurut Komisi?
Orang dewasa yang rentan dan anak-anak. Komisi berpendapat bahwa konten berulang tentang kesedihan, isolasi, dan tubuh bisa berdampak negatif terutama bagi mereka.
Apakah TikTok harus mengubah feed?
Ya, jika gugatan ini akhirnya dikonfirmasi. Menurut The Verge, platform harus mengubah desain feed For You, atau berisiko terkena denda. Waktu dan isi perubahan tersebut tidak disebutkan dalam sumber.
Langkah berikutnya TikTok dan Brussels soal feed
Sekarang giliran TikTok memberikan tanggapan, lalu Komisi mengambil keputusan final. Isu ini tidak hanya menyangkut satu platform.
- Pantau apakah TikTok mengumumkan perubahan konkret pada feed For You dan apakah Komisi menganggapnya memadai.
- Perhatikan apakah platform lain menerima gugatan serupa terkait sistem rekomendasi.
- Tinjau kembali bagaimana produkmu yang memakai feed personal memperlakukan pengguna di bawah umur, termasuk dengan mempertimbangkan aturan seperti yang dibuat OpenAI untuk anak-anak.
