Apple Perketat Aturan App Store untuk Aplikasi AI Pembuat Gambar Telanjang

Apple memperketat pengawasan terhadap aplikasi berbasis kecerdasan buatan (AI) yang dapat menghasilkan gambar telanjang atau konten seksual. Langkah ini merespons meningkatnya risiko manipulasi foto, pembuatan gambar seksual tanpa persetujuan, pelecehan digital, dan penyebaran konten berbahaya melalui perangkat seluler.

Pembaruan tersebut dilaporkan sebagai bagian dari upaya Apple membatasi distribusi aplikasi yang memungkinkan pembuatan gambar seksual secara otomatis. Laporan lain menyebutkan bahwa Apple memperbarui kebijakan moderasi pada 19 Oktober 2026 untuk mencegah pembuatan gambar seksual. Sumber 1

Fungsi yang Menjadi Perhatian

Aplikasi AI dapat menghasilkan gambar dari perintah teks atau foto yang diunggah pengguna. Teknologi ini bermanfaat untuk desain, ilustrasi, pendidikan, dan produktivitas. Namun, kemampuan yang sama dapat disalahgunakan untuk:

Membuat gambar telanjang dari perintah teks.
Mengubah foto berpakaian menjadi foto telanjang.
Menghapus pakaian dari foto seseorang.
Membuat representasi seksual realistis dari orang nyata.
Menghasilkan konten seksual tanpa penyaringan memadai.
Memproses foto pribadi tanpa penjelasan tentang penyimpanan dan penghapusan data.

Aplikasi desain umum yang menolak permintaan seksual memiliki profil risiko berbeda dari layanan yang menjadikan penghilangan pakaian atau pembuatan gambar telanjang sebagai fitur utama. Sumber 2

Cara Apple Menilai Aplikasi

Peninjauan Apple tidak hanya bergantung pada deskripsi aplikasi. Unsur yang dapat dinilai meliputi:

Fitur inti dan perilaku aplikasi.
Nama, kata kunci, serta materi promosi.
Tangkapan layar dan video demonstrasi.
Model bisnis dan sasaran pengguna.
Respons terhadap perintah berisiko.
Mekanisme pelaporan dan pemblokiran.
Kebijakan privasi serta pemrosesan foto.

Penggantian nama fitur tidak menghilangkan tanggung jawab pengembang. Aplikasi yang dipasarkan sebagai alat kreatif, tetapi menyediakan fitur penghilangan pakaian, dapat menghadapi pemeriksaan lebih ketat.

Risiko bagi Pengembang

Aplikasi yang tidak memenuhi aturan dapat mengalami:

Penolakan saat peninjauan.
Permintaan perubahan fitur.
Penundaan pembaruan.
Penghapusan fitur berisiko.
Penghapusan aplikasi dari App Store.
Pembatasan atau penangguhan akun pengembang.

Penggunaan model AI atau layanan pihak ketiga tidak menghapus tanggung jawab pengembang. Pengembang tetap perlu memahami kemampuan model, menguji penyaringannya, memantau perubahan keluaran, dan menyediakan prosedur penanganan laporan.

Pengamanan Harus Dibangun Sejak Awal

Moderasi sebaiknya menjadi bagian dari rancangan produk, bukan tambahan setelah aplikasi selesai dibuat. Pengamanan yang relevan mencakup:

Penyaringan masukan dan keluaran.
Pemblokiran permintaan gambar telanjang atau seksual.
Pembatasan pemrosesan foto orang nyata.
Deteksi upaya mengakali penyaringan.
Peninjauan manusia untuk kasus tertentu.
Sistem pelaporan dan penghapusan konten.
Pencatatan insiden.
Evaluasi berkala setelah model diperbarui.

Pengembang juga perlu menguji bahasa tidak langsung, istilah terselubung, dan variasi ejaan. Penyaringan yang hanya mengenali kata tertentu mudah dilewati.

Perlindungan Anak dan Persetujuan

Sistem AI harus mencegah pembuatan konten seksual yang melibatkan anak atau individu yang tampak di bawah umur. Pengamanan tidak boleh hanya mengandalkan pengakuan pengguna mengenai usia subjek.

Persetujuan juga menjadi faktor utama. Foto seseorang tidak boleh dimanipulasi ke dalam konteks seksual tanpa izin. Platform perlu mencegah pembuatan dan penyebaran konten semacam itu, menyediakan jalur pelaporan, serta menghapus materi yang melanggar dengan cepat.

Gambar seksual tanpa persetujuan dapat menyebabkan perundungan, pelecehan, pemerasan, kerusakan reputasi, dan hilangnya rasa aman. Fakta bahwa gambar dibuat komputer tidak menghapus dampak terhadap korban.

Dampak bagi Pengguna

Pengguna mungkin melihat lebih banyak penolakan permintaan, penghapusan fitur, peringatan konten, verifikasi usia, atau permintaan izin tambahan. Namun, ketersediaan aplikasi di App Store bukan jaminan bahwa seluruh keluarannya aman.

Sebelum mengunggah foto, pengguna sebaiknya:

Memeriksa reputasi pengembang.
Membaca kebijakan penyimpanan dan penghapusan data.
Menghindari foto sensitif.
Memberikan akses galeri hanya jika diperlukan.
Memeriksa izin aplikasi secara berkala.
Menghindari layanan yang tidak menjelaskan pemrosesan data.
Melaporkan keluaran yang mengeksploitasi seseorang.
Memperbarui perangkat dan aplikasi dari sumber resmi.

Aplikasi Kreatif Tetap Dapat Beroperasi

Pengetatan aturan tidak berarti semua aplikasi seni, desain, pendidikan, atau penyuntingan foto dilarang. Aplikasi tetap dapat tersedia jika memiliki tujuan yang sah dan menerapkan pembatasan yang sebanding dengan risikonya.

Pengembang dapat menolak permintaan gambar telanjang realistis, membatasi pemrosesan foto orang nyata, menyaring konten seksual, menjelaskan penggunaan yang diperbolehkan, serta menyediakan mekanisme pelaporan dan penghapusan data.

Kebijakan moderasi juga perlu membedakan ilustrasi medis, materi pendidikan, karya seni, dan representasi tubuh yang tidak seksual dari gambar seksual eksplisit. Meski demikian, konteks artistik atau pendidikan tidak boleh menjadi alasan untuk mengabaikan privasi, persetujuan, dan keselamatan.

Tantangan Penegakan Aturan

Moderasi otomatis dapat salah memblokir konten yang sah atau gagal mendeteksi keluaran berisiko. Sistem juga dapat kesulitan memahami konteks budaya, medis, pendidikan, dan artistik. Karena itu, penegakan aturan membutuhkan kombinasi penyaringan otomatis, peninjauan manusia, pelaporan pengguna, audit, pengujian berkala, dokumentasi keputusan, dan mekanisme banding.

Penghapusan aplikasi berisiko dari App Store tidak menghilangkan seluruh konten berbahaya di internet. Layanan serupa masih dapat diakses melalui peramban atau platform lain. Namun, kontrol App Store tetap penting karena memengaruhi aplikasi yang mudah ditemukan, dipasang, dan digunakan pada perangkat Apple.

Masa Depan Aplikasi AI di App Store

Apple kemungkinan semakin memperhatikan keamanan model, pemrosesan data pribadi, perlindungan anak, pencegahan pemalsuan identitas, dan transparansi moderasi. Pengembang yang memiliki dokumentasi keamanan kuat akan lebih siap menghadapi peninjauan.

Pengawasan pada masa mendatang dapat mencakup video sintetis, suara tiruan, manipulasi wajah, model yang berjalan secara lokal, serta pembuatan konten otomatis dalam jumlah besar. Pendekatan berbasis risiko lebih efektif daripada sekadar membuat daftar fitur terlarang.

Inovasi AI tetap dapat berkembang dalam desain grafis, pendidikan, produktivitas, aksesibilitas, pemasaran, dan pembuatan prototipe. Syaratnya, manfaat aplikasi harus disertai pengamanan yang sebanding dengan risikonya.

Kesimpulan

Apple memperketat aturan App Store terhadap aplikasi AI yang dapat menghasilkan gambar telanjang atau konten seksual. Kebijakan ini merespons risiko manipulasi foto, pelecehan digital, pemerasan, pembuatan konten tanpa persetujuan, dan eksploitasi anak.

Pengembang perlu membangun moderasi, perlindungan data, dan sistem pelaporan sejak awal. Pengguna harus berhati-hati saat mengunggah foto pribadi. Apple perlu menerapkan aturan secara konsisten, transparan, dan mampu mengikuti perkembangan teknologi.

FAQ

Apakah Apple melarang semua aplikasi AI pembuat gambar?

Tidak. Aplikasi AI untuk desain, pendidikan, produktivitas, dan penyuntingan foto masih dapat tersedia jika memiliki tujuan sah serta pengamanan memadai.

Apakah aplikasi yang lolos App Store pasti aman?

Tidak. Peninjauan Apple mengurangi risiko, tetapi tidak menjamin semua keluaran aplikasi selalu aman.

Apa yang harus dilakukan pengembang?

Pengembang perlu menyaring masukan dan keluaran, mencegah pembuatan konten seksual tanpa persetujuan, melindungi foto orang nyata, menjelaskan fungsi secara akurat, serta menyediakan pelaporan dan penghapusan konten bermasalah.

Apakah layanan berisiko masih dapat diakses melalui peramban?

Kemungkinan tersebut tetap ada. Pembatasan App Store mengurangi distribusi aplikasi pada ekosistem Apple, tetapi tidak menghapus seluruh layanan berisiko di internet.