Newestindonesia.co.id, Sebuah laporan investigasi independen mengungkap bahwa puluhan aplikasi berbasis kecerdasan buatan (Artificial Intelligence/AI) yang mampu menghasilkan konten deepfake cabul ditemukan masih tersedia di toko aplikasi resmi Apple App Store dan Google Play Store, meskipun seharusnya melanggar aturan platform.
Investigasi tersebut dilakukan oleh Tech Transparency Project (TPP), sebuah organisasi non-profit yang fokus pada keberlanjutan dan transparansi teknologi. Hasilnya menunjukkan adanya puluhan aplikasi “nudify” — istilah yang digunakan untuk aplikasi yang mampu “menelanjangi” foto seseorang menjadi gambar bersifat seksual tanpa persetujuan dari subjek — yang masih tersedia di kedua toko aplikasi tersebut.
Temuan Utama Investigasi
Menurut laporan TPP:
- 55 aplikasi serupa ditemukan di Google Play Store, dan 47 aplikasi di Apple App Store.
- Aplikasi-aplikasi ini sudah diunduh lebih dari 700 juta kali di seluruh dunia.
- Secara kolektif, aplikasi-aplikasi tersebut menghasilkan pendapatan sekitar USD 117 juta, di mana Apple dan Google menerima komisi dari pendapatan tersebut.
Beberapa dari aplikasi yang ditemukan memiliki rating konten ramah anak, termasuk aplikasi bernama DreamFace yang diberi rating 13+ di Google Play Store dan 9+ di Apple App Store, meskipun fungsinya jelas menyangkut manipulasi gambar non-konsensual.
Pelanggaran Kebijakan Platform
Kebijakan toko aplikasi seharusnya melarang jenis konten semacam ini:
- Google Play Developer Policy Center tidak mengizinkan aplikasi yang “mengklaim dapat memvisualisasi pakaian transparan atau menelanjangi orang”.
- Pedoman Apple App Store melarang materi yang secara eksplisit bersifat seksual atau pornografi.
Respons Apple & Google
TPP menyatakan bahwa setelah diberi tahu,:
- Apple telah menghapus 28 aplikasi yang dilaporkan dari App Store dan mengirim peringatan kepada pengembang lain agar memperbaiki konten mereka agar sesuai aturan.
- Google menyatakan telah menangguhkan sejumlah aplikasi yang disebut dalam laporan, namun tidak merinci jumlahnya.
Kritik & Kekhawatiran Aktivis Teknologi
Michelle Kuppersmith, Direktur Eksekutif organisasi yang mengoperasikan TPP, mempertanyakan efektivitas moderasi platform.
“Apple dan Google seharusnya memeriksa aplikasi-aplikasi di toko aplikasi mereka. Tapi mereka telah menawarkan puluhan aplikasi yang dapat dipakai untuk menampilkan orang-orang dengan pakaian minim atau tanpa pakaian sama sekali — sehingga rentan disalahgunakan”.
Trend Deepfake Global & Isu Lebih Luas
Temuan TPP ini terjadi di tengah sorotan global yang lebih luas terhadap teknologi deepfake. Laporan media internasional menyebutkan bahwa aplikasi-aplikasi jenis “nudify” telah diunduh 706 juta kali secara global, serta memicu kekhawatiran tentang penyebaran gambar seksual tanpa persetujuan di media sosial dan aplikasi pesan instan seperti Telegram.
Kontroversi ini juga berkaitan dengan perdebatan atas chatbot AI Grok milik X (dulu Twitter), yang dilaporkan menghasilkan jutaan gambar deepfake cabul termasuk yang melibatkan anak-anak — memicu penyelidikan di berbagai negara.
Para peneliti dan aktivis memperingatkan bahwa penyebaran konten deepfake non-konsensual bisa berdampak serius terhadap korban yang wajahnya digunakan tanpa izin, termasuk stigma sosial, tekanan psikologis, dan potensi penyalahgunaan dalam konteks kejahatan digital.
Pakar etika teknologi menilai bahwa langkah moderasi platform harus lebih tegas, termasuk sistem review konten otomatis yang lebih efektif dan skema sanksi yang jelas bagi pengembang yang melanggar aturan.
(DAW)
Dapatkan update berita terkini langsung di WhatsApp Anda.
Ikuti Sekarang
You must be logged in to post a comment Login