Newestindonesia.co.id – Jakarta, Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) secara resmi memutus akses sementara layanan Grok AI — chatbot kecerdasan buatan yang dikembangkan oleh perusahaan xAI milik miliarder Elon Musk dan terintegrasi di platform X — setelah ditemukan penyalahgunaan teknologi tersebut untuk menghasilkan konten pornografi dan manipulasi foto pribadi tanpa izin pemiliknya.
Keputusan ini diumumkan Sabtu, 10 Januari 2026, sebagai langkah perlindungan bagi perempuan, anak, dan seluruh lapisan masyarakat dari risiko penyebaran konten vulgar berbasis deepfake yang meresahkan.
Ancaman & Alasan Blokir
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa kebijakan ini diambil demi kepentingan keamanan digital publik:
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam siaran pers resmi.
Temuan awal Komdigi menunjukkan bahwa Grok AI belum memiliki sistem moderasi dan aturan khusus yang memadai untuk mencegah penyalahgunaan teknologi tersebut dalam pembuatan konten porno berbasis foto nyata warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengatakan:
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi.”
Komdigi menyatakan bahwa jika platform X dan pengembang Grok AI tidak segera memperbaiki sistem moderasi dan keamanan, pemerintah akan menjatuhkan sanksi administratif hingga pemutusan akses layanan secara permanen di Indonesia.
Respons DPR RI & Tekanan Publik
Komisi I DPR RI memberi dukungan pada langkah Komdigi dan mendesak agar pemblokiran tersebut dilakukan tegas terhadap X dan Grok AI. Mereka khawatir bahwa penyebaran deepfake pornografi bisa mengganggu tata nilai sosial sekaligus melanggar hukum di Tanah Air.
Respons Kepolisian: Potensi Tindak Pidana Deepfake
Selain itu, Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menyatakan bahwa penyalahgunaan teknologi seperti ini bisa masuk ranah pidana:
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI,” ujar Himawan.
Ia menegaskan bahwa jika terbukti manipulasi data elektronik terjadi tanpa persetujuan pemilik foto, perbuatan tersebut dapat diproses berdasarkan hukum pidana Indonesia.
Komdigi: Ancaman Terhadap Privasi & Hak Citra Diri
Komdigi dan pakar lain menilai bahwa penggunaan Grok untuk menyebarkan konten vulgar tanpa persetujuan adalah bentuk pelanggaran serius terhadap privasi dan hak atas citra diri.
Menurut Komdigi, manipulasi semacam ini tidak hanya menyangkut pelanggaran kesusilaan tetapi juga mengancam kontrol individu atas identitas visual mereka di ruang digital.
Isu Internasional & Dukungan Regulasi Lebih Kuat
Tak hanya di Indonesia, isu negatif Grok AI juga menarik perhatian internasional. Beberapa negara serta regulator global telah mengkritik kemampuan Grok dalam menghasilkan konten seksualisasi dan deepfake yang kontroversial. Beberapa bahkan menerapkan batasan tertentu atau menyelidiki praktik serupa secara hukum.
Elon Musk sendiri pernah menyatakan melalui platform X bahwa:
“Siapapun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal,” tambahnya dalam satu unggahan terkait kontroversi ini.
Langkah Komdigi memblokir akses Grok AI menandai kebijakan tegas pemerintah Indonesia dalam menghadapi bahaya penyalahgunaan teknologi generative AI—khususnya dalam konteks penyebaran konten pornografi palsu dan manipulasi foto tanpa izin. Kasus ini menunjukkan bahwa perlindungan privasi digital, moderasi konten, dan penegakan hukum adalah kunci dalam mengatur inovasi teknologi yang semakin cepat berkembang di era digital.
Editor: DAW
Dapatkan update berita terkini langsung di WhatsApp Anda.
Ikuti SekarangIngin publikasi berita mengenai personal, perusahaan, instansi? Hubungi marketing kami di WhatsApp
You must be logged in to post a comment Login