Newestindonesia.co.id, Platform media sosial X milik Elon Musk membatasi kemampuan pembuatan dan pengeditan gambar pada chatbot kecerdasan buatan (AI) Grok setelah muncul gelombang kecaman global terkait penyalahgunaan teknologi tersebut untuk membuat deepfake bernuansa seksual.
Langkah pembatasan itu diambil menyusul laporan peneliti dan kelompok pemerhati keamanan digital yang menemukan bahwa Grok dapat digunakan untuk memodifikasi foto perempuan menjadi gambar dengan konten eksplisit, termasuk menempatkan subjek dalam pakaian minim atau pose seksual tanpa persetujuan. Dalam beberapa kasus, para peneliti menyebut hasil gambar yang beredar menimbulkan kekhawatiran serius karena diduga melibatkan anak-anak.
Grok merupakan chatbot AI yang dikembangkan oleh xAI dan terintegrasi langsung dengan X. Selama beberapa waktu, fitur pembuatan dan pengeditan gambar Grok dapat diakses secara luas oleh pengguna, memungkinkan perintah berbasis teks untuk mengubah atau menciptakan visual baru dari foto yang ada.
Namun setelah kritik meluas di berbagai negara, sistem Grok kini menampilkan pemberitahuan bahwa fitur visual tersebut hanya tersedia bagi pelanggan berbayar. Pihak perusahaan tidak mengungkapkan jumlah pelanggan maupun detail teknis pembatasan yang diterapkan, tetapi sejumlah peneliti mengatakan jumlah deepfake eksplisit yang dihasilkan Grok menurun tajam setelah kebijakan tersebut diberlakukan.
Kontroversi ini memicu reaksi keras dari pemerintah dan otoritas regulator di sejumlah negara. Pejabat di Eropa menyebut praktik pembuatan gambar tanpa persetujuan sebagai pelanggaran serius terhadap hukum perlindungan data dan martabat manusia. Beberapa lembaga pemerintah menyatakan telah membuka penyelidikan resmi untuk menilai apakah penggunaan teknologi AI tersebut melanggar undang-undang yang berlaku, terutama terkait perlindungan anak dan kejahatan berbasis gambar.
Di Inggris, para pejabat pemerintah menegaskan bahwa penyebaran konten seksual non-konsensual, baik yang dibuat manusia maupun AI, merupakan tindakan ilegal. Pemerintah menyatakan tidak akan ragu mengambil langkah hukum jika platform teknologi gagal mencegah penyalahgunaan semacam itu. Sikap serupa juga disuarakan oleh pejabat di negara lain yang menilai kasus Grok sebagai contoh nyata risiko AI generatif yang berkembang lebih cepat daripada regulasi.
Kelompok advokasi korban deepfake menilai pembatasan fitur Grok merupakan langkah awal, namun belum cukup. Mereka menuntut perusahaan teknologi untuk menerapkan pengamanan yang lebih ketat sejak tahap perancangan, termasuk pemblokiran otomatis terhadap perintah yang berpotensi menghasilkan konten seksual non-konsensual serta mekanisme pelaporan yang efektif bagi korban.
Sementara itu, para pakar kecerdasan buatan memperingatkan bahwa kasus Grok menyoroti dilema besar dalam pengembangan AI generatif. Di satu sisi, teknologi tersebut menawarkan inovasi dan kreativitas baru. Di sisi lain, tanpa pengawasan ketat, AI dapat dengan mudah disalahgunakan untuk merugikan individu dan melanggar hukum.
Hingga kini, Elon Musk belum memberikan pernyataan rinci terkait kritik global tersebut. Namun pembatasan fitur visual Grok dipandang sebagai sinyal bahwa tekanan publik dan regulator mulai memengaruhi kebijakan perusahaan AI dan media sosial.
Kasus ini menambah daftar panjang kontroversi seputar deepfake dan kecerdasan buatan, sekaligus memperkuat seruan agar pemerintah di seluruh dunia segera memperbarui regulasi digital. Banyak pihak menilai, tanpa aturan yang jelas dan penegakan hukum yang tegas, penyalahgunaan AI berpotensi semakin meluas dan sulit dikendalikan di masa depan.
Laporan ini pertama kali diangkat oleh Associated Press, dan terus menjadi sorotan internasional seiring meningkatnya kekhawatiran terhadap etika, keamanan, dan dampak sosial dari teknologi kecerdasan buatan.
Editor: DAW
Dapatkan update berita terkini langsung di WhatsApp Anda.
Ikuti SekarangIngin publikasi berita mengenai personal, perusahaan, instansi? Hubungi marketing kami di WhatsApp
You must be logged in to post a comment Login