Jakarta, 19 Oktober 2026 – Apple memperbarui kebijakan moderasi konten di App Store untuk memperketat pengawasan terhadap aplikasi yang memungkinkan pengguna membuat gambar seksual eksplisit menggunakan teknologi kecerdasan buatan atau artificial intelligence (AI). Kebijakan tersebut ditujukan untuk mencegah penyalahgunaan foto seseorang menjadi konten intim tanpa persetujuan pihak yang bersangkutan. Pembaruan aturan diumumkan pada 16 Oktober 2026 sebagai bagian dari penguatan standar keamanan dan perlindungan pengguna. Apple menegaskan bahwa pengembang aplikasi memiliki tanggung jawab untuk mencegah penyebaran konten berbahaya melalui layanan yang mereka sediakan. Langkah ini menjadi perhatian di tengah meningkatnya kekhawatiran terhadap penggunaan teknologi AI untuk menghasilkan gambar manipulatif yang melanggar privasi individu.
Sebelumnya, Apple telah menerapkan larangan terhadap aplikasi yang menyediakan konten pornografi maupun layanan pembuatan gambar seksual eksplisit. Namun, perkembangan teknologi AI generatif menghadirkan tantangan baru karena sejumlah aplikasi dapat memanipulasi foto biasa menjadi gambar yang menampilkan seseorang dalam kondisi telanjang. Teknologi tersebut kerap dikenal melalui istilah nudification, yaitu proses manipulasi gambar untuk menciptakan tampilan tubuh tanpa pakaian secara digital. Penyalahgunaannya dapat menimbulkan kerugian serius bagi korban, terutama apabila gambar dibuat atau disebarkan tanpa persetujuan. Karena itu, Apple memperjelas ketentuan yang harus dipatuhi pengembang dalam menyediakan fitur pembuatan dan pengolahan konten digital.
Dalam pembaruan pedoman App Review Guidelines bagian 1.2, Apple secara khusus memasukkan gambar intim tanpa persetujuan sebagai kategori konten yang harus dicegah dan dihapus oleh pengembang. Ketentuan tersebut juga berlaku terhadap gambar yang dihasilkan menggunakan teknologi kecerdasan buatan. Pengembang diwajibkan menerapkan langkah perlindungan yang memadai untuk mengurangi risiko penyalahgunaan aplikasi. Selain melakukan penyaringan konten, aplikasi harus menyediakan mekanisme pelaporan serta fasilitas untuk memblokir pengguna yang melakukan tindakan merugikan. Pengembang yang gagal menerapkan perlindungan atau tidak memperbaiki pelanggaran setelah menerima pemberitahuan berisiko menghadapi tindakan penegakan aturan.
Apple juga memperketat pengawasan terhadap aplikasi yang menyembunyikan fungsi tertentu ketika menjalani proses peninjauan sebelum tersedia di App Store. Melalui ketentuan 2.5.19, perusahaan memperjelas larangan terhadap aplikasi yang menampilkan fungsi berbeda setelah memperoleh persetujuan. Praktik tersebut dikenal sebagai bait-and-switch, yakni ketika pengembang mengajukan aplikasi dengan fitur yang terlihat sesuai aturan, kemudian mengaktifkan kemampuan terlarang setelah aplikasi diterbitkan. Salah satu contoh yang menjadi perhatian adalah penambahan fitur manipulasi gambar seksual yang sebelumnya tidak disampaikan kepada tim peninjau. Apple menyatakan bahwa aplikasi yang melanggar ketentuan dapat dihapus dan akun pengembangnya berisiko dihentikan.
Pembaruan kebijakan tersebut berlangsung ketika berbagai perusahaan teknologi menghadapi tekanan untuk meningkatkan perlindungan terhadap korban penyalahgunaan gambar berbasis AI. Kemampuan teknologi generatif dalam menciptakan gambar realistis telah memunculkan persoalan mengenai persetujuan, privasi, dan keamanan identitas digital. Konten manipulatif dapat digunakan untuk mempermalukan, mengintimidasi, atau merugikan seseorang meskipun gambar yang dihasilkan tidak menggambarkan kejadian sebenarnya. Risiko tersebut semakin besar apabila konten melibatkan anak-anak dan remaja yang membutuhkan perlindungan khusus. Oleh sebab itu, pengawasan terhadap aplikasi pengolah gambar menjadi salah satu aspek penting dalam pengembangan ekosistem teknologi yang bertanggung jawab.
Selain memperkuat aturan moderasi, Apple memberikan perhatian terhadap aplikasi yang memfasilitasi eksploitasi anak dan perdagangan manusia. Perusahaan memperjelas bahwa aplikasi yang mendukung aktivitas tersebut tidak hanya dapat dihapus dari App Store, tetapi juga diblokir dari jalur distribusi aplikasi alternatif yang berada dalam cakupan kebijakannya. Langkah ini menunjukkan bahwa pengawasan tidak terbatas pada konten yang terlihat dalam aplikasi, melainkan juga mencakup fungsi dan potensi penyalahgunaan layanan. Pengembang diharapkan memahami tanggung jawab mereka sejak tahap perancangan hingga pengoperasian aplikasi. Penerapan kebijakan secara konsisten menjadi penting untuk memastikan perlindungan pengguna tidak hanya bergantung pada pemeriksaan awal.
Dari sisi industri teknologi, perubahan aturan tersebut menuntut pengembang aplikasi berbasis AI untuk meningkatkan kemampuan sistem moderasi mereka. Pengembang perlu mempertimbangkan penggunaan teknologi pendeteksi konten berbahaya, mekanisme pengaduan, dan prosedur penanganan pelanggaran yang efektif. Namun, penerapan moderasi juga membutuhkan keseimbangan agar penggunaan teknologi yang sah tidak terganggu oleh pembatasan yang terlalu luas. Aplikasi penyuntingan foto dan pembuatan gambar memiliki berbagai manfaat untuk kreativitas, pendidikan, dan kegiatan profesional. Karena itu, pengembang perlu memastikan fitur inovatif tetap dapat digunakan tanpa membuka peluang penyalahgunaan terhadap individu lain.
Kebijakan terbaru Apple menjadi bagian dari upaya memperkuat perlindungan pengguna di tengah perkembangan pesat teknologi kecerdasan buatan. Larangan terhadap pembuatan gambar seksual tanpa persetujuan memperjelas tanggung jawab pengembang dalam menjaga keamanan layanan digital. Meski demikian, efektivitas kebijakan akan bergantung pada konsistensi pemeriksaan aplikasi, kemampuan mendeteksi pelanggaran, dan kecepatan penanganan laporan pengguna. Perusahaan teknologi juga perlu terus menyesuaikan mekanisme pengawasan seiring munculnya metode baru dalam penyalahgunaan AI. Melalui penerapan aturan yang lebih ketat, Apple berupaya menciptakan lingkungan App Store yang lebih aman sekaligus menjaga kepercayaan masyarakat terhadap perkembangan teknologi digital.