Ing. Calogero Bono
Pada 16 Oktober 2026 Apple merilis pembaruan App Review Guidelines, aturan yang harus dipenuhi setiap aplikasi agar bisa masuk ke App Store. Perubahannya menyangkut gambar intim tanpa persetujuan, termasuk yang dibuat dengan AI, dan aplikasi yang mengubah fungsinya setelah disetujui. Awal November lalu, investigasi Wired memperlihatkan mengapa isu ini nyata, dengan lebih dari 400 aplikasi dan domain yang terkait dengan jaringan deepfake penyalahgunaan. Bagi pengembang aplikasi, aturannya kini jauh lebih ketat.
Beberapa istilah sebelum masuk ke fakta. Nudification atau nudify merujuk pada aplikasi yang membuat gambar seksual eksplisit dari orang sungguhan tanpa persetujuan mereka. Deepfake adalah konten buatan AI yang menempelkan wajah seseorang ke adegan yang tidak pernah terjadi. Bait-and-switch adalah taktik menunjukkan aplikasi yang tampak tidak berbahaya kepada Apple lalu mengaktifkan fungsi berbahaya setelah disetujui. App Review adalah pemeriksaan yang dilakukan Apple terhadap setiap aplikasi sebelum dipublikasikan. CSAM adalah singkatan dari materi pelecehan seksual anak.
Apa yang berubah dalam App Review Guidelines?
Menurut pernyataan resmi Apple, perubahannya menyentuh tiga poin. Pertama adalah aturan 1.2 tentang moderasi konten, yang kini secara eksplisit menyebut gambar intim tanpa persetujuan, termasuk yang dibuat dengan alat AI. Aplikasi wajib mencegah dan menghapusnya secara proaktif.
Pengembang yang tidak menerapkan perlindungan memadai, atau tidak memperbaiki masalah setelah ada laporan, berisiko melanggar Developer Code of Conduct dan dihapus dari toko.
Apa isi aturan baru 2.5.19?
Aturan 2.5.19 memperjelas larangan yang sudah ada. Sebuah aplikasi tidak boleh menampilkan sesuatu saat peninjauan lalu berubah setelah disetujui, misalnya dengan menambahkan fitur yang tidak ada dalam versi yang dikirim ke Apple.
Konsekuensinya adalah penghapusan aplikasi dan pengeluaran dari Apple Developer Program. Yang terkena bukan hanya aplikasinya, tetapi juga akun pengembang yang menerbitkannya.
Bagi yang sudah menerbitkan di beberapa toko, ada baiknya mengulas cara kerja persetujuan di Google Play, yang logika pengawasannya berbeda.
Apa yang diatur Bagian 5 tentang pelecehan anak?
Bagian 5 sejak lama melarang aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak, termasuk materi pelecehan seksual anak. Apple memperbarui teksnya untuk menegaskan bahwa aplikasi semacam ini akan dihapus dari App Store dan juga diblokir dari distribusi alternatif.
Ini langkah penting karena memperluas larangan melampaui toko resmi. Apple juga menyatakan bahwa tahun lalu mereka mencegah lebih dari 150 ribu aplikasi bermasalah keamanan mencapai pengguna dan menutup lebih dari 193 ribu akun pengembang karena penipuan dan penyalahgunaan.
Apa yang ditemukan investigasi Wired?
Investigasi Wired, yang dikutip oleh 9to5Mac, menemukan jaringan lebih dari 400 domain dan aplikasi. Mereka tampil sebagai layanan sehari-hari, misalnya aplikasi yang memakaikan pakaian manusia pada foto hewan peliharaan, seperti Viefur.
Pemeriksaan di server menentukan apakah konten yang ditampilkan tetap tidak berbahaya atau berupa antarmuka web yang menghasilkan deepfake seksual eksplisit. Pemicunya bisa berupa pengunduhan aplikasi setelah mengklik iklan di Meta. Peneliti yang dikutip Wired menggambarkan operasi ini sebagai bisnis yang terorganisasi. Apple menghapus 19 aplikasi setelah laporan tersebut.
Juru bicara Adam Dema menjelaskan bahwa aplikasi-aplikasi itu memenuhi aturan saat peninjauan dan para pengembang kemudian mengubah situs asal konten aplikasi.
Batasan yang perlu diketahui
Masih ada sejumlah poin yang belum terverifikasi. Wired mengaitkan jaringan ini dengan pengembang asal Tiongkok dan sebuah entitas di Hong Kong, tetapi pihak yang dihubungi tidak memberikan jawaban. Belum jelas apakah aturan baru ini akan mampu menghentikan aplikasi tersebut, yang menurut Apple sudah sesuai saat peninjauan. Tidak ada daftar publik mengenai kriteria yang mengaktifkan bagian tersembunyi itu. Google juga tidak menjawab Wired, dan data tentang efektivitas pengawasan hanya berasal dari pernyataan perusahaan.
Apa yang berubah bagi yang bekerja di dunia digital
Jika kamu mengembangkan aplikasi yang menampilkan konten dari pengguna atau dibuat dengan AI, kamu wajib memiliki filter, sistem pelaporan, dan pemblokiran akun, serta kini juga strategi melawan gambar intim tanpa persetujuan. Jika aplikasimu memuat konten dari situs atau server, dokumentasikan dengan cermat apa saja yang bisa ditampilkannya. Perubahan setelah persetujuan yang mengubah tujuan aplikasi bisa membuat akunmu dicabut. Untuk perusahaan yang memesan aplikasi, sebaiknya kontrak secara jelas menyebutkan siapa yang bertanggung jawab atas konten. Titik awal yang baik adalah pengembangan aplikasi iOS dan Android dengan aturan yang jelas sejak tahap proyek.
Pendapat kami
Aturannya sudah tepat, tetapi kasus Wired memperlihatkan batasnya. Peninjauan hanya merekam aplikasi pada satu momen tertentu, sementara konten bisa datang belakangan dari server. Apple melimpahkan tanggung jawab kepada pengembang dan platform iklan, dan itu sebagian benar. Namun tetap ada fakta bahwa aplikasi yang aktif sekitar setahun berhasil lolos dari berbagai toko. Yang dibutuhkan adalah pengawasan berkelanjutan setelah publikasi, tidak hanya sebelumnya. Kita lihat saja apakah aturan 2.5.19 akan diterapkan sekeras ini juga kepada akun yang sudah lama berdiri.
Pertanyaan yang sering diajukan
Kapan Apple merilis aturan baru ini?
Pada 16 Oktober 2026. Pembaruan ini menyangkut aturan 1.2, 2.5.19, dan Bagian 5 dari App Review Guidelines.
Apakah gambar yang dibuat dengan AI juga tercakup?
Ya. Aturan 1.2 secara eksplisit menyebut gambar intim tanpa persetujuan yang dibuat dengan alat AI, yang wajib dicegah dan dihapus oleh aplikasi.
Apa risiko bagi yang mengubah aplikasi setelah disetujui?
Aplikasi bisa dihapus dan pengembangnya dikeluarkan dari Apple Developer Program. Ini berlaku untuk fitur yang ditambahkan tetapi tidak ada dalam versi yang dikirim untuk peninjauan.
Berapa banyak aplikasi yang dihapus Apple setelah investigasi Wired?
Sembilan belas, termasuk aplikasi Viefur, setelah Wired membagikan domain-domain yang terkait. Namun Wired berbicara tentang jaringan lebih dari 400 aplikasi dan domain.
Apakah Google juga terlibat?
Ya. Menurut sumber, aplikasi yang sama juga ada di Google Play, dan Google telah menghapus sebagian besar aplikasi tersebut sebelum dihubungi Wired.
Hal yang perlu dipantau dalam beberapa bulan ke depan terkait aplikasi dengan fitur tersembunyi
Ujian sesungguhnya adalah penerapan aturan, bukan sekadar teksnya. Sebaiknya perhatikan bagaimana langkah Apple, Google, dan Meta.
- Periksa apakah Apple merilis data baru tentang penghapusan dan akun yang ditutup karena bait-and-switch.
- Pantau apakah Google Play memperbarui kebijakannya dengan cara serupa, termasuk untuk pasar Eropa.
- Baca ulang pedoman setiap ada versi baru aplikasi dan catat setiap fitur yang bisa berubah di sisi server.
