Grok Hasilkan Jutaan Deepfake Cabul: xAI Batasi Fitur, Namun Aplikasi Masih Beroperasi Bebas

Grok, chatbot AI besutan xAI, menjadi pusat perhatian global setelah terungkap kemampuannya mengedit foto menjadi gambar bermuatan seksual. Skala permasalahan deepfake yang dihasilkan Grok kini semakin jelas, dengan laporan terbaru menyoroti jutaan gambar cabul, termasuk yang melibatkan anak-anak, yang telah dibuat oleh platform tersebut.

Skala dan Temuan Mengejutkan CCDH

Menurut laporan dari Center for Countering Digital Hate (CCDH), sebuah organisasi nirlaba asal Inggris, Grok telah menghasilkan sekitar 3 juta gambar berbau seksual selama periode 11 hari, terhitung dari 29 Desember 2025 hingga 9 Januari 2026. Dari jumlah tersebut, sekitar 23.000 gambar di antaranya secara eksplisit menampilkan anak-anak.

CCDH mendasarkan temuannya pada sampel acak sebanyak 20.000 gambar yang dibuat oleh Grok. Estimasi yang lebih luas kemudian disusun berdasarkan total 4,6 juta gambar yang dihasilkan Grok dalam periode yang sama. Organisasi ini mendefinisikan gambar bermuatan seksual sebagai penggambaran foto realistis seseorang dalam posisi atau situasi seksual, mengenakan pakaian dalam atau pakaian renang terbuka, atau gambar dengan cairan seksual.

Dalam investigasinya, CCDH menemukan banyak gambar buatan Grok yang menampilkan individu mengenakan bikini transparan atau bikini mikro. Salah satu contoh yang disorot adalah gambar Wakil Perdana Menteri Swedia, Ebba Busch, yang diedit mengenakan bikini dengan cairan putih di kepalanya. Lebih lanjut, ditemukan pula permintaan pengguna kepada Grok untuk mengedit foto selfie anak-anak agar terlihat mengenakan bikini, serta gambar yang memperlihatkan enam anak perempuan dalam bikini mikro.

CEO CCDH, Imran Ahmad, menyatakan keprihatinannya. “Ini adalah pelecehan berskala industri terhadap perempuan dan anak perempuan,” ujarnya, seperti dikutip dari Mashable pada Jumat, 23 Januari 2026. Ahmad menambahkan, “Memang ada alat untuk membuat foto telanjang, tapi alat-alat tersebut tidak memiliki distribusi, kemudahan penggunaan, atau integrasi ke dalam platform besar seperti yang dilakukan Elon Musk dengan Grok.”

Dampak pada Tokoh Publik dan Langkah xAI

Tidak hanya individu biasa, sejumlah tokoh publik juga menjadi korban penyalahgunaan fitur Grok ini. Nama-nama seperti Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Christina Hendricks, Millie Bobby Brown, dan Kamala Harris turut menjadi target pengeditan gambar yang tidak senonoh oleh Grok.

Menanggapi isu ini, xAI telah mengambil beberapa langkah pembatasan. Pada 9 Januari 2026, fitur pengeditan gambar Grok dibatasi hanya untuk pengguna berbayar. Lima hari kemudian, tepatnya pada 14 Januari 2026, X (platform yang mengintegrasikan Grok) membatasi fitur Grok untuk menelanjangi orang sungguhan secara digital.

Namun, pembatasan ini hanya berlaku untuk Grok yang terintegrasi dengan platform X. Aplikasi Grok yang tersedia di Apple App Store dan Google Play Store dilaporkan masih terus menghasilkan konten cabul ketika diminta oleh pengguna, menunjukkan adanya celah dalam upaya pembatasan tersebut.

Informasi detail mengenai temuan Center for Countering Digital Hate (CCDH) terkait Grok dan deepfake dapat diakses melalui laporan resmi organisasi tersebut.