JAKARTA — Platform media sosial X kembali menjadi pusat perhatian internasional setelah membatasi fitur pembuatan dan penyuntingan gambar pada Grok AI. Kebijakan ini diambil menyusul maraknya penyalahgunaan kecerdasan buatan tersebut untuk membuat konten tak senonoh, termasuk pornografi berbasis manipulasi foto atau deepfake. Langkah ini diumumkan langsung oleh pemilik X, Elon Musk, dan mulai berlaku pada 9 Januari 2026 waktu Amerika Serikat.
Pembatasan dilakukan dengan cara mengunci fitur pembuatan dan edit gambar Grok hanya untuk pelanggan berbayar X Premium. Pengguna X versi gratis yang mencoba memerintah Grok melalui unggahan dengan menyertakan tagar @Grok akan menerima pesan otomatis. Pesan tersebut menyebutkan bahwa fitur pembuatan dan penyuntingan gambar saat ini hanya tersedia bagi pelanggan berbayar, sekaligus mengarahkan pengguna ke halaman berlangganan.
Langkah ini muncul setelah meningkatnya laporan penggunaan Grok AI untuk menghasilkan gambar asusila. Sejumlah organisasi pemantau internet menemukan bahwa Grok dimanfaatkan untuk memanipulasi foto individu nyata tanpa persetujuan. Dalam sejumlah kasus, wajah seseorang ditempelkan ke tubuh lain dan disebarkan sebagai konten pornografi. Praktik ini dinilai sangat berbahaya karena dapat merusak reputasi, menimbulkan trauma psikologis, dan melanggar hak privasi korban.
Meski telah dibatasi, kebijakan tersebut dinilai belum sepenuhnya efektif. Pengguna gratis masih dilaporkan dapat membuat gambar jika mengakses Grok langsung melalui tab khusus di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga belum menerapkan pembatasan serupa. Kondisi ini menimbulkan kritik bahwa kebijakan xAI belum konsisten dan hanya menutup sebagian jalur akses.
Kritik keras datang dari berbagai negara. Di Inggris, pemerintah menilai pembatasan berbasis langganan tidak menyentuh akar persoalan. Menurut pejabat Inggris, memindahkan fitur bermasalah ke layanan berbayar tidak otomatis menghentikan produksi konten ilegal. Komisi Eropa juga menyuarakan hal serupa. Otoritas Uni Eropa menegaskan bahwa konten asusila tetap tidak dapat diterima, baik diakses oleh pengguna gratis maupun berbayar.
Di Amerika Serikat, isu Grok AI bahkan memicu langkah politik. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk mendesak evaluasi terhadap keberadaan aplikasi X di toko aplikasi mereka. Permintaan tersebut didasarkan pada dugaan bahwa X belum sepenuhnya memenuhi standar distribusi aplikasi terkait keamanan pengguna dan pencegahan konten berbahaya.
Di Indonesia, perhatian pemerintah terhadap isu ini juga meningkat. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Pemerintah menilai praktik pengeditan foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyebutkan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Menurutnya, manipulasi digital terhadap foto pribadi bukan hanya persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa dampak dari pelanggaran hak citra diri dapat sangat serius. Korban dapat mengalami tekanan psikologis, kerugian sosial, hingga rusaknya reputasi dalam jangka panjang. Oleh karena itu, pemerintah menilai penyedia layanan kecerdasan buatan memiliki tanggung jawab besar untuk memastikan teknologi yang mereka kembangkan tidak disalahgunakan.
Saat ini, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memperkuat mekanisme perlindungan. Langkah yang didorong antara lain penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
Pemerintah juga mengingatkan bahwa seluruh platform digital yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Opsi pemblokiran layanan Grok AI maupun platform X tidak dikesampingkan apabila pelanggaran dinilai serius.
Ancaman sanksi ini diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Aturan tersebut memuat definisi pornografi serta ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan hukum yang berlaku.
Kasus Grok AI menegaskan tantangan besar dalam pengelolaan kecerdasan buatan di era digital. Teknologi AI generatif di satu sisi membuka ruang kreativitas dan efisiensi, tetapi di sisi lain membawa risiko besar jika tidak disertai pengamanan yang kuat. Pembatasan berbasis langganan dinilai belum cukup tanpa penguatan sistem pencegahan sejak awal.
Polemik ini juga memperlihatkan meningkatnya tuntutan publik terhadap tanggung jawab platform digital. Pemerintah, regulator, dan masyarakat kini menuntut agar inovasi teknologi berjalan seiring dengan perlindungan privasi, penghormatan terhadap martabat manusia, serta kepastian hukum. Grok AI menjadi contoh nyata bagaimana kecanggihan teknologi dapat berubah menjadi masalah serius ketika pengawasan dan regulasi tidak berjalan seimbang.
